ChatGPT lo espera en el consultorio 5” ¿Puede la inteligencia artificial deshumanizar la medicina?

Unidentified female session moderator

vamos a dar comienzo a la última conferencia de este bloque de la mañana, y dando continuidad a lo que habíamos conversado en la charla anterior, pasamos del doctor Google a otro doctor muy especial, que va a tener un paciente en el consultorio 5, que es el doctor Chad Gibity, y puede la inteligencia artificial deshumanizar la medicina, así que invitamos nuevamente al doctor Lantos a tomar la palabra,

Overlap and transient audio fragments

y

Unidentified female session moderator

muchas gracias.

Overlap and transient audio fragments

Voy a usar

Spanish simultaneous interpreter 1 voicing John Lantos

esto.

Spanish simultaneous interpreter 1 voicing John Lantos

Esto. Han sido realmente dos días encantadores. Me resulta maravilloso ver cómo las charlas encajan una con la otra y se complementan y plantean distintas cuestiones sobre empatía, compasión, relaciones entre médicos y pacientes. Muchas gracias a los organizadores una vez más por incluirme. Siempre siento, me siento un poco culpable de que aprendo tanto más estando en conferencias como estas. de aquello que yo tengo para ofrecer, pero ha sido excelente. Voy a hablar un poco ahora entonces sobre alguna de las cuestiones que tienen que ver con inteligencia artificial y la comunicación entre médico y paciente. Escribí un libro unos 25 o 30 años atrás, muchísimo antes. de que estuviera disponible la inteligencia artificial actual. Y el libro se llamaba Necesitamos todavía a los doctores. Y ahí decía muchas de las cosas que lo que los médicos hacían se iban a tercerizar a otros profesionales o a máquinas. Y di algunos ejemplos en el libro. Este es un hospital en Canadá.

Spanish simultaneous interpreter 1 voicing John Lantos

que solo hace reparaciones de hernia, es lo único que hacen en el hospital, y hacen reparaciones de hernia mucho mejor, con mejores resultados, mucho más barato y con mucha más satisfacción de los pacientes que en ningún otro lugar del mundo, es lo de ellos.

Spanish simultaneous interpreter 1 voicing John Lantos

Cuando uno habla con los médicos en ese hospital, uno dice, no tiene que entrenarse como cirujano para hacer esto. Ellos dicen que probablemente podrían tomar a un alumno de la secundaria y enseñarle a hacer esto en unos seis meses, porque es un conjunto de habilidades técnicas que llevarían seis meses a aprender. Y entonces lo que hacen es, por supuesto, tomar cirujanos y entrenarlos y por eso también tienen mejores resultados que los cirujanos generales en otros hospitales. Lo que era en ese momento algo muy, muy nuevo en inteligencia artificial, máquinas que podían leer electrocardiogramas, era lo que apareció. y los electrocardiografistas decían, no, esto no va a ser tan bueno como nosotros al principio, pero la gente ha estudiado, el último estudio viene de la clínica Mayo, sobre 2,5 millones de electrocardiogramas, compararon las máquinas, que como leyeron, comparado con expertos, y mucha gente encuentra esto con la IA. O sea, la máquina no era exactamente igual al mejor cardiólogo, pero era mejor que la mayoría de los médicos. O sea, que la pregunta es, si uno tuviera la opción, si uno tiene un dolor en el pecho y uno llega a la sala de urgencia a la mitad de la noche, ¿quiere esperar a un médico, a un cardiólogo experto o va a confiar en la máquina?

Spanish simultaneous interpreter 1 voicing John Lantos

Bueno, Atul Gowanda escribió en el New Yorker sobre esto y dice, en el estudio, si el estudio sostiene que hay situaciones en las que las máquinas podían reemplazar a los médicos, el ejemplo de Sholtay sugiere que los médicos deberían ser entrenados a actuar más como máquinas o como técnicos.

Spanish simultaneous interpreter 1 voicing John Lantos

En este estudio de la Clínica Mayo sobre electrocardiogramas, el subtítulo del paper era ¿Podría la computadora pasar el examen Turing? Seguramente ustedes conocen a Alan Turing, él fue el pionero de la ciencia computacional que en la década de los 50 propuso que el test de si una computadora se podía considerar inteligente sería si podía engañar a un humano a que pensara que era humana, eso es en una conversación ciega, o sea que se imaginan a un humano hablando o escribiendo, porque en ese momento lo auditivo no está, lo... audio no estaba disponible, y si quien respondía no sabía quién era quién, Turing decía que deberíamos arribar a la conclusión de que la máquina había desarrollado lo que llamamos inteligencia, o habilidades comunicativas, o algunos de los conceptos que cambiarían la relación entre las máquinas y los seres humanos. Otro de los libros fascinantes

Spanish simultaneous interpreter 1 voicing John Lantos

este autor que ven acá y después de Turing haber propuesto esa prueba hacían en la prueba Turing en Gran Bretaña todos los años como las olimpiadas de Turing y entonces llevaban las computadoras y Brian Christensen Christian fue seleccionado para ser el humano en la prueba de Turing en Gran Bretaña y escribió un libro sobre cómo se puede tratar de convencer a alguien que es más humano que una computadora. Y él dijo, la familiaridad con la construcción de la prueba de Turing nos ha enseñado que podemos fracasar una vez y otra para ser realmente humanos con otros humanos y es tan enloquecedor para la mayor parte del tiempo. Entonces, la prueba Turing médica es si los pacientes encontrarán que el doctor robot es no distinguible de un humano o mejor que un humano. Y esto de tercerizar, bueno, la gente, los médicos han estado tercerizando muchas tareas a las máquinas y a otros profesionales, muchas partes de la medicina se están mecanizando, racionalizando, deconstruyendo, de alguna manera como si fueran líneas de armado en relación con otras personas, o sea, las preguntas de necesitan a un médico, necesitan a un obstetra o sería igual que lo atendiera una partera. o también, por ejemplo, enfermería y atención primaria, o sea, hay habilidades específicas que uno necesita y que uno puede utilizar de manera adecuada o de manera excelente hasta el punto en el que uno ya no necesita esto. Tradicionalmente, o sea, médicos tradicionalmente entrenados para esas habilidades son hoy en día más común. La pregunta es, ¿las máquinas pueden leer? las radiografías o hacer un análisis retiniano con fines diagnósticos.

Spanish simultaneous interpreter 1 voicing John Lantos

Y esto lleva a esta pregunta que surge en la inteligencia artificial todo el tiempo y es una de las cosas que sorprende mucho a la gente respecto del test de Turing. ¿Cuál es el umbral para decir que una máquina llegó ahí cuando... La computadora IBM por primera vez venció al mejor jugador de ajedrez del mundo, que había sido uno de los desafíos mayores para una computadora. Richard Powers escribió el ajedrez por toda su belleza y ballet cerebral. Es un bajo nivel si lo comparamos con reconocer una cara o el dolor de...

Spanish simultaneous interpreter 1 voicing John Lantos

convertirse en mayor o de llegar a la paz en Bosnia. El ajedrez es fácil, o sea, los teléfonos, por ejemplo, los celulares reconocen nuestras caras y ChatGPT es muy bueno en conversaciones generales, pero las cosas como la memoria y el cálculo, ¿qué pasa si es mejor la inteligencia artificial? cuando consideramos las consecuencias y cuando hay muchas variables que cambian al mismo tiempo, estas son las habilidades cognitivas que tradicionalmente hemos valorado en los médicos. Entonces hasta ahora dejamos que las máquinas nos guíen, pero ¿quién va a tener la última palabra? Robert Wachter, que es el jefe de medicina interna en UCSF,

Spanish simultaneous interpreter 1 voicing John Lantos

en un académico... o sea, una sociedad entre la academia y lo técnico, y hablando de atención del paciente, también atendía a pacientes, hacía TED Talks, escribió libros, y él desglosa el trabajo que los médicos hacen en cuatro dominios, tareas intensivas en cuanto a memoria, tareas repetitivas, analizar muchas variables al mismo tiempo, y tareas que requieren empatía y comprensión. Y luego nos da ejemplos. Tareas intensivas en memoria, verificar las interacciones de los fármacos. Las computadoras pueden ser mejor que los individuos. Presentar algoritmos basados en evidencia para el tratamiento de enfermedades común, que es lo más moderno en el tratamiento de la hipertensión a la hipercolesterolemia. Analizar millones de puntos de datos para encontrar patrones. La inteligencia artificial lo va a hacer mucho mejor que el humano. el tipo de checklist, tareas, listas de verificación, resumir y actualizar las historias médicas de los pacientes, verificar si las inmunizaciones y las tareas de screening están actualizadas y esto debería ser mejor por parte de las máquinas, hasta además porque va a ser más barato.

Spanish simultaneous interpreter 1 voicing John Lantos

o incluso algunas tareas de comunicación. Por ejemplo, si queremos presentar información a los pacientes, ahora tenemos artículos para los pacientes que copiamos y si no están actualizados, la inteligencia artificial va a poder actualizarlos permanentemente e imprimir para el paciente recomendaciones específicas para su enfermedad. considerar muchas variables al mismo tiempo. Me parece que el mundo va a cambiar dramáticamente. Este es un ejemplo de un journal de diabetes que hablaba de, para pacientes con diabetes, la inteligencia artificial puede usar la geoubicación para saber dónde está y para saber particularmente si uno va a un restaurante y a qué restaurante. Y probablemente también sabe si uno ha estado antes ahí y puede también saber qué ordenó la vez anterior y puede calcular la dosis de insulina adecuada para la comida que está a punto de comer. Y también el reloj Apple puede saber exactamente cuando uno está comiendo o tomando, así que puede calcular cuántas calorías uno está incorporando. Y después los monitores de fitness pueden decir si uno hace ejercicio después para poder ajustar la dosis de insulina. Una vez más.

Spanish simultaneous interpreter 1 voicing John Lantos

la inteligencia artificial puede ser mejor que los humanos en esta cuestión. Y cuando hablamos del diagnóstico de casos difíciles, este es un estudio donde tomaron los CPC del New England Journal, o sea, casos difíciles, que se les dan a expertos en Harvard Medical School para ver si pueden dar un diagnóstico. Los lectores también pueden incluir su diagnóstico si quieren, a modo de educación médica permanente, hicieron test con... a los lectores versus el ChatGPT. Estos son los lectores, son las de barras del medio, 38 casos, 10 o 12 fueron los correctos y ChatGPT tuvo 24 correctos. O sea que en términos de diagnosticar casos difíciles, pareciera que si uno le da las sumas, o sea, la máquina, la misma información, las máquinas... funcionan mejor. O en neonatología, por ejemplo, el manejo de la terapia con oxígeno para bebés prematuros. Ha habido unos 10 estudios versus control manual versus automático de FIO2. A FIO2 es artificial versus... A ver cuál es el acrónimo que usaron acá. Bueno, versus FIO2 manual. Y en 17 estudios, 420 pacientes. El resultado fue que la proporción del tiempo en el rango target, en la saturación de O2, fue mejor con el control automático. Se pueden imaginar que esto también se podrá usar no solo para el control de oxígeno, sino para ajustar otros settings de los respiradores. Esto no consideró los resultados de los pacientes. Ese sería el próximo... paso, pero si los resultados de los pacientes no son mejores para estar en el rango target, eso sería un hallazgo muy interesante que sugeriría investigación sobre las preguntas de la inteligencia es correcta respecto de esto o no, pero de todas maneras va a ser muy interesante.

Spanish simultaneous interpreter 1 voicing John Lantos

La pregunta real es, ¿nosotros tenemos confianza en los algoritmos o queremos un médico real? Nosotros sabemos que los algoritmos son como aviones en vuelo. Para nosotros es bueno tener a un humano ahí cuando el dolor empieza a mover de acá para allá y decimos hay una especie de turbulencia. Y puede ser una voz automatizada, no necesariamente tiene que ser un humano, pero le da tranquilidad al paciente. un médico experto y con un juicio individualizado, después de haberse sentado con nosotros y con toda la empatía de la que hemos estado hablando toda esta mañana, queremos testear el algoritmo realmente, o sea, imagínense un test en el que se randomice a la gente para el doctor robot y para el doctor humano, para ver. Nosotros confiamos en los algoritmos para aprender porque una de las cosas

Spanish simultaneous interpreter 1 voicing John Lantos

la IA generativa evalúa

Spanish simultaneous interpreter 1 voicing John Lantos

Y quizás todo eso hay algo que sea imposible si usamos los métodos tradicionales para evaluar ciertas cosas porque están diseñados para aprender con cada queso. O sea, cada vez que la inteligencia artificial está considerando un caso, no va a tener la misma respuesta, presumiblemente como la última respuesta, porque cada vez se torna más inteligente con cada caso. pero esto significa que va a ser difícil saber si está mejorando porque será diferente cada vez. Por supuesto, los médicos hacen lo mismo. O sea que estamos considerando dos variables que en realidad están en movimiento, pero ¿cómo? O sea, ¿cuán basados en evidencia queremos ser? Y esta es una cuestión crucial en cuanto a saber si confiamos más en los humanos que en las máquinas. Quizás ustedes se acuerden de esta... de esta película cuando el piloto Sally estaba en el avión y el avión

Spanish simultaneous interpreter 1 voicing John Lantos

fue chocado por dos... por dos aves y finalmente Sally logró hacer acuatizar el avión y todo el mundo se salvó y sin embargo el análisis posterior de la computadora dijo que había suficiente potencia en los motores como para regresar a la guardia o sea que tomó la decisión correcta el piloto Sally o sea En ese caso no había hecho caso a la computadora y qué pasaría con el médico si la computadora nos dice una cosa y nuestro instinto nos dice otra. ¿Cuánta confianza tenemos o deberíamos tener como para no hacer caso a lo que dice la computadora? Si esto no había salido tan bien como salió, creo que las preguntas hubieran sido mucho más controvertidas. En lugar de ser aclamado como un héroe, Sally podía haber sido acusado de un delito. Otra cuestión clave es la empatía y acá seguramente dedicaré la mayor parte del tiempo de mi charla porque no es solo el tema central de esta conferencia, sino que es uno de los aspectos más controvertidos de inteligencia artificial y máquinas en general. Pueden... ser empáticas de la manera en la que queremos que los médicos sean empáticos. Y a mí me parece que hay tres opiniones, probablemente más. Voy a simplificar. Eric Topol en San Diego ha escrito mucho sobre IA

Spanish simultaneous interpreter 1 voicing John Lantos

y estas son citas y... es el más optimista respecto de esto, y dice que la empatía será el último dominio en el que las computadoras por ahora no lo pueden hacer, pero nos va a liberar, se van a ocupar de todas las otras tareas, todas las tareas intensas en memoria, todas esas tareas que debemos hacer, y nosotros médicos vamos a poder sentarnos, mirar a los ojos del paciente y hacer todas las cosas que solo los humanos pueden hacer bien. Otro punto de vista, que mucha gente en la IA creen firmemente y hay muchísimos estudios que lo sugieren como real, es que esta no es una barrera a superar. De hecho, la IA es ahora por lo menos percibida por los pacientes como más empática que los humanos. Y la tercera opinión es que la IA no nos va a liberar como para ser empáticos ni... o sea, más empáticos, ni hacer lo que han hecho los robots, que es robotizarnos más y llevar a más deshumanización.

Spanish simultaneous interpreter 1 voicing John Lantos

Esto es... Erick Topol, los humanos van a ser superados técnicamente por las máquinas en el futuro cercano, así que lo que podemos hacer mejor es llevar a nuestro corazón lo empático y aquellas cosas que son únicas para los seres humanos. Nos dan la oportunidad de restaurar la conexión y la confianza que ese trato humano entre los pacientes y humanos y los médicos va a permitir más compasión. Algunos datos sugieren otras cosas. Este es un estudio en el que los pacientes, en cuanto a la empatía percibida en un ensayo randomizado de humanos versus inteligencia artificial, tuvieron este resultado. Se les pidió que puntuaran. Este es un estudio transversal que se llamaba...

Spanish simultaneous interpreter 1 voicing John Lantos

un sitio que se llama AskDocs y ellos tomaron una muestra aleatoria de intercambios 195 desde octubre de 2022 y después las mismas preguntas se le plantearon a Chatbot y las respuestas fueron desidentificados y después se puntuaron las respuestas de los médicos y del ChatGPT. En cuanto al tratamiento al lado de la cama y la empatía, la puntuación era de 1 a 6 y los resultados ni siquiera se acercaron. El clúster de médicos eran no empáticos o poco empáticos y la máquina era empática o muy empática. Muy impresionante. Pero... ¿Se trata realmente de empatía o es empatía real? Veo cómo se mueven las cabezas acá.

Spanish simultaneous interpreter 1 voicing John Lantos

Ha habido muchísimo trabajo desde que la IA se imaginó por primera vez por Turing y más recientemente empezando en los 60, 70 y 80 y continuando hasta el día de hoy sobre la relación entre las máquinas y los humanos y una... de los escritores más interesantes y Sherry Turkle, que es socióloga y dedicó su carrera a estudiar la manera en que los adultos y los niños aprenden a interactuar con sus dispositivos. Y termino escribiendo un libro, un libro que se llama Solos Juntos, o sea, porque esperamos más de la tecnología y menos de nuestros congéneres, pero las razones no son tanto claras. La gente habla de relaciones humanas que son horribles, la gente es difícil, nos dejan, nos abandonan, a veces nos rechazan, las relaciones humanas son demandantes. complejas, complicadas, dolorosas, y las máquinas son mucho más fáciles de tratar. A la gente le gustan los robots porque los robots no nos juzgan. Uno se puede enojar todo lo que quiera, como con Alexa, y ella simplemente hace lo que uno le pide que haga, o sea, algo hermoso. empezó a analizar las maneras en que los chicos juegan con todos estos juguetes y

Spanish simultaneous interpreter 1 voicing John Lantos

muestra que estos son relaciones profundas, satisfactorias, que entablan los niños con estos juguetes. Estos juguetes se comercializaban en los 80, en los 90, mucho antes de la IA. Y acá... Este perro de abajo hecho por Sony es más moderno y fue el sujeto de este libro. Si quieren leer un libro divertido sobre todo esto, Megan O'Giblin es teóloga y científica computadora y escribió máquina animal humana Dios y este libro lo escribió como parte de su investigación y ella pidió un prototipo de este perro robótico y describe en gran detalle de qué manera entró a esto pensando que ella era una investigadora y sacó el el perro de la caja y responde a la voz tiene sensores, o sea que cuando uno lo acaricia mueve la cola si uno le pega al perro grita en un rincón y hace muchas cosas tipo perro y ella y su esposo encontraron que en un par de días estaba completamente relacionándose con el perro, se enojaban con el perro y cuando hacía cosas que no entendía trataban de explicar qué estaba pensando y

Spanish simultaneous interpreter 1 voicing John Lantos

después de una semana lo devolvieron porque dijeron esto nos asusta mucho, este proyecto de investigación, bueno los resultados no sé qué saldrá pero no nos gusta mucho y ese es el comienzo del libro y después entra en una gran exploración de las implicancias de esto.

Spanish simultaneous interpreter 2 voicing John Lantos

Esto ha sido tema de películas desde hace mucho tiempo. Muchos seres humanos disfrutan de estas relaciones con seres inanimados. Algunos habrán visto Lars and the Real Girl o habrán visto Her, donde el actor se enamora de una voz robótica.

Spanish simultaneous interpreter 2 voicing John Lantos

Hay muchas películas acerca de que la inteligencia artificial adquiera conciencia y cruce la barrera y empiece a buscar su independencia o como en Ex Machina, se enamore y logre que un ser humano se enamore de ella. Ex Machina fue interesante

Spanish simultaneous interpreter 2 voicing John Lantos

porque es medio demoníaco. Hay una compañía de inteligencia artificial y una persona desarrolla específicamente este dispositivo para que se enamore de uno de sus empleados. Y se programa esta inteligencia artificial como mirando las películas pornográficas que miraba esa persona para que el robot cumpliera todas sus fantasías. Es decir, un robot que cumplía las fantasías de ese empleado. Uno de los principales mercados para las máquinas robóticas humanas. Son las muñecas sexuales que tienen inteligencia artificial, se vendieron muchísimo en la pandemia, según el nivel al que uno quería llegar había hasta de 10 o 15 mil dólares.

Spanish simultaneous interpreter 2 voicing John Lantos

GPT prohíbe las herramientas que puedan ser inadecuadas para los menores, pero están reconsiderando esa política. Pueden pensar... que esto es una digresión cuando hablamos de la relación médico-paciente, pero en realidad esto es pertinente para nuestra presentación porque esto sugiere las maneras en las que las máquinas se están metiendo en nuestra conciencia como dispositivos con los cuales podemos tener relaciones que antes se creían solamente como relaciones en las que los seres humanos no podían ser reemplazados. Volvemos entonces a Brian Christian, En el humano más humano, ¿cómo debería un humano convencer a un juez de que es más humano que una máquina? Entonces empezó a formular estas preguntas. Pensamos que los humanos eran los únicos que tenían un idioma con reglas sintácticas. Ahí la computadora vería si uno comete un error gramatical. Después nos dimos cuenta que nosotros también cometemos errores gramaticales todo el tiempo. Y cometer algunos errores gramaticales Es un indicio de que somos humanos.

Spanish simultaneous interpreter 2 voicing John Lantos

Entonces tuvo que decidir cuántos errores debería cometer yo para convencer al observador ciego. Entonces pensó que los humanos éramos, una vez pensamos que los humanos eran los únicos que podían usar herramientas. Sin embargo, ahora las máquinas pueden determinar la estructura de las proteínas mejor que nosotros. Escribir poemas o música, eso es algo que solo pueden hacer los humanos. Bueno, ChatGPT está haciendo muy bien muchas de estas cosas. Lo mismo con la pintura. Y también, Para enamorarse, entonces, ¿cuál es la barrera final? Christian dice que la historia del siglo XXI será en parte la historia de un homo sapiens que trata de defender una afirmación en terreno movedizo entre la carne y la matemática, rodeado de ambos lados por la bestia y la máquina. ¿Y cómo funciona la empatía? ¿Cuál es el proceso por el cual alguien entra en nuestra vida? y empieza a significar algo para nosotros. Douglas Hofstadter, otro pionero en este campo, resume lo que está pasando en este campo al decir que cada vez que la inteligencia artificial cruza una barrera, nosotros la movemos en lugar de producir algo que todos pensamos que es inteligente.

Spanish simultaneous interpreter 2 voicing John Lantos

Entonces la empatía, como se dijo esta mañana, Cuando hablamos de la inteligencia emocional o de la empatía, ese es nuestro último bastión, la última fortaleza de los seres humanos que la inteligencia artificial nunca va a poder asumir. Para mí lo más interesante acerca de esto, como con gran parte de todo esto, es que nos fuerza a pensar qué es el lenguaje, qué es la ciencia, qué es lo que es un... único de los seres humanos. ¿Y qué es esta cosa rara que llamamos empatía? Se puede enseñar, se puede aprender, se puede digitalizar. ¿Y hace falta tener otro ser humano para que lo haga o podemos tener empatía del perro? Y si es así, ¿podemos también obtener empatía de nuestro perro robótico? Cuando yo digo, sé cómo se sienten, o estamos en el mismo barco, o yo estuve ahí, Cuando uno no estuvo nunca ahí en la mayoría de los casos, ¿cómo es que decimos eso? Otra pionera es Jodie Halpern, es médica, psiquiatra y doctora en filosofía y ha estado escribiendo desde hace 30 años acerca del misterio de la empatía. Y este libro, Humanizar la práctica médica, lo escribió hace 30 años y sus pensamientos son estos.

Spanish simultaneous interpreter 2 voicing John Lantos

Esto en particular, ella habla de la empatía clínica, que es la capacidad de imaginar lo que piensa y siente la paciente sobre su situación y dice que hacen falta dos funciones cerebrales muy distintas. Por un lado, una cognitiva que es la toma de perspectiva cognitiva guiada por la curiosidad y luego la emoción, lo que resuena emocionalmente. Y luego hay un acto de imaginación donde sentimos y después tratamos de imaginar lo que significa sentir eso. El Instituto Gottman, otro pionero, dice que la empatía se comprende como la capacidad de identificar y compartir las emociones de otro y las experiencias de otro. El doctor Gottman describe la empatía como algo que nos permite saber que los sentimientos pueden ser comprendidos y compartidos. Las personas pueden haber notado, y de eso se trata esta conferencia, que tradicionalmente la educación médica no ha sido muy buena en esto de valorar la docencia que promueva la empatía. El proceso de selección para las facultades de medicina se enfoca en las habilidades cognitivas y la memorización.

Spanish simultaneous interpreter 2 voicing John Lantos

es emocionalmente brutal. La mayor parte de las personas dicen, ustedes hacen exactamente lo contrario de lo que sabemos. Por ejemplo, en las residencias. Era mucho peor cuando antes los gigantes caminaban en la tierra, por supuesto.

Spanish simultaneous interpreter 2 voicing John Lantos

Hubo casos muy brutales. Pero sería sorprendente que este enfoque llevara a individuos muy empáticos.

Spanish simultaneous interpreter 2 voicing John Lantos

Jody Halpern dice si se puede enseñar la curiosidad por la empatía y llega a la conclusión de que es difícil porque hay que comenzar siendo curioso acerca de uno mismo, hay que preocuparse por la propia ansiedad, dado que la empatía requiere un espejo de lo que siente el paciente. Uno tiene que ser curioso acerca de... lo que nuestros sentimientos pueden enseñarnos acerca del paciente y después cómo comunicar, escuchar y repetir, dejar de discutir, reconocer que hay supuestos que hacemos sobre los pacientes que pueden ser erróneos o incompletos y tener la curiosidad de pedirles que nos digan más. Entonces, si el objetivo es enseñarla, ¿cómo podemos saberlo? Si queremos hacer cosas que van a hacer que las personas sean más empáticas, ¿lo podemos medir? Hay escalas.

Spanish simultaneous interpreter 2 voicing John Lantos

Ahí está. Esta es una de las escalas más utilizadas. La pregunta era... uno va a ver al paciente y uno le pregunta, ¿qué tan bueno fue el médico o enfermero en hacerlo sentir cómodo, en dejarlo contar su historia, en escucharlo realmente, en interesarse en usted como una persona completa, en comprender todas sus preocupaciones y en mostrar cuidado y compasión? Estas son las cosas en las que piensan las personas cuando piensan en empatía. Y cuando uno mide a médicos y enfermeros, los médicos son terribles, los enfermeros un poco mejores, y por lo que sé, No ha habido ensayos donde se utilice esta escala para medir la empatía. Lo que hacen la mayoría de los ensayos es utilizar expertos que evalúan las interacciones. Otra manera de pensar en medir la empatía es, y hemos escuchado un poco sobre esto esta mañana, utilizar pacientes simulados.

Spanish simultaneous interpreter 2 voicing John Lantos

fue paciente simulada y una de las veces no le tocó solamente desempeñar el papel de paciente con un alumno que tenía que hacer un diagnóstico, sino que le dieron la tarea de

Spanish simultaneous interpreter 2 voicing John Lantos

calificar la empatía del estudiante. Y se preguntó, ¿qué es exactamente lo que me hace sentir que alguien está siendo empático? Entonces empezó a... formular preguntas o hacer observaciones como estas. La empatía no es algo que nos suceda, sino que es una elección que hacemos. Los alumnos en particular sabían que estaban siendo evaluados en su empatía, sabían el tipo de cosas que se requería que hicieran y algunos de ellos lo hicieron bien y otros, como ella describió,

Spanish simultaneous interpreter 2 voicing John Lantos

a veces unos lo hicieron verdaderamente mal. La empatía no se trata solamente de escuchar, se trata de formular preguntas cuyas respuestas también hay que escuchar. La empatía requiere preguntar además de imaginar. Las personas presentan sus sentimientos, pero nosotros tenemos que preguntar, guiar con preguntas a través de nuestra curiosidad empática. Y también noto que la empatía no siempre nos hace sentir bien, porque requiere esta... encuestar y siempre esto es algo maravilloso siempre hablamos de los dones y de dar y la empatía siempre está precariamente entre el dar el don y la intrusión o la invasión ¿por qué usted me pregunta esto? ¿por qué me hace estas preguntas tan dolorosas? sobre mis sentimientos tan dolorosos que tal vez yo no quiero compartir con usted no quiero abrirme de manera tal que le permita preguntar eso y después ella en el libro pasa a sus propias experiencias como paciente real y dice yo necesitaba empatía no solamente para comprender las preguntas que estaba describiendo sino que me ayudaban a descubrir cuáles las emociones que estaban ahí mi dolor era real y construido con la ayuda de las conversaciones empáticas la empatía no sólo saca lo que está ahí sino En una de las presentaciones se habló de cómo tiene que ser la conversación con otra persona para que podamos comprender lo que a nosotros también nos duele.

Spanish simultaneous interpreter 2 voicing John Lantos

La curiosidad empática en este sentido es muy difícil en términos emocionales, es algo muy difícil de ofrecer. Suena fácil, suena bello, pero es difícil soportar el sufrimiento de los otros. Y el cambio fundamental aquí, es distinguir la resonancia del sufrimiento de otro de la ansiedad vinculada con uno. Ustedes habrán leído el libro The House of God, La Casa de Dios, donde se describe el primer año de un internado, y una cosa que le dice el docente es que el paciente es el que tiene la enfermedad. También, con curiosidad interior, uno puede entender mejor y no reducirse a la autoansiedad. Creo que estas son las preguntas clave. ¿Qué tan importante es que el médico sea empático? ¿Importa si la empatía es real o simulada?

Spanish simultaneous interpreter 2 voicing John Lantos

Si las máquinas se perciben como más empáticas, ¿podemos decir que son empáticas o que actúan? Y esto es un error de percepción. Actúan como más empáticas. Y esto vuelve a la pregunta que formulamos acerca de los médicos, porque la empatía es performativa. La haga una máquina o un ser humano. Una de las tareas que tenemos los médicos es transmitir empatía incluso en situaciones donde nosotros estamos agotados emocionalmente e incluso en situaciones donde no tenemos mucha empatía por un paciente en particular en una situación en particular.

Spanish simultaneous interpreter 2 voicing John Lantos

El ideal de profesionalismo es fingirlo y fingirlo de manera convincente, como podría hacer una computadora. ¿Qué podemos aprender de ser humanos estudiando lo que hacen las máquinas si las máquinas nos están derrotando en cada prueba de empatía? No creo que la respuesta correcta sea, yo no creo que en los datos, es una máquina. Creo que la respuesta tiene que ser, ¿qué está haciendo? ¿Podemos hacerlo? ¿Cómo podemos aprender a hacerlo mejor? ¿Podemos aprender acerca de las relaciones estudiando relaciones entre humanos y máquinas? ¿O tenemos que reconocer que las máquinas ya han pasado la prueba de Turing? George Church, otro pionero, dice que si uno puede comenzar a inventar, e inventar las maneras en que se distribuye y se educa, ahí tendremos unas décadas muy interesantes por delante. Último punto. Y acá es una visión más pesimista de lo que puede suceder con la IA.

Spanish simultaneous interpreter 2 voicing John Lantos

Robert Sparrow es un filósofo que escribió una opinión sobre el libro de Chopin y dice... Esto va a liberar tiempo para los médicos, las máquinas van a hacer el trabajo duro y nosotros tendremos las conversaciones lindas, pero no es así como funciona. Sabemos que los ahorros de tiempo van a usarse para meter más pacientes en el sistema en lugar de darnos más tiempo a los médicos para ocuparnos de nuestros pacientes. Y la introducción de la IA es probable que desmoralice, fragmente y desempodere a la profesión médica en parte, porque como muchos han notado, Una tendencia general en la tecnología digital es evaluar el trabajo de las personas que crean las plataformas más que el trabajo de las personas que crean los contenidos o utilizan las plataformas. que se utilizan como materia prima y, por lo tanto, el dinero y el poder no van a pasar a manos de los usuarios finales, sino de los constructores de las plataformas. Y parece no haber fin para el dinero que se puede utilizar para la moleculización y la digitalización de la salud humana. Entonces, ¿a dónde vamos de aquí en adelante? Lo que hemos aprendido, y

Spanish simultaneous interpreter 2 voicing John Lantos

el libro de Gibbon es bueno para esto, es que tenemos estas preguntas. No sabemos lo que significa ser humano o tener conciencia. No entendemos verdaderamente ni cultivamos la empatía en la educación médica. Tenemos mucho que aprender de nuestras propias creaciones y gran parte del trabajo teórico, el mejor trabajo teórico sobre estos problemas se está haciendo en el área de la ciencia ficción o de las artes.

Spanish simultaneous interpreter 2 voicing John Lantos

Volvemos a Robert Wachter y su charla TED sobre esto. Podemos tener un momento de Hemingway con la IA y él dice sí. ¿Qué dice Hemingway sobre quebrar? Hay dos maneras, gradualmente y luego de repente. Entonces, Lochter sugiere que nosotros gradualmente hemos pasado a la era de la IA, pero piensa que estamos a punto de entrar mucho más repentinamente en un mundo muy diferente. Entonces, mi último pensamiento es este de Roger Bowers, es que... La mayor parte de los cazadores y recolectores nunca tuvieron que pensar en el concepto de envolver como un supermercado. Siempre se pensó que los alimentos iban a estar ahí y que no había ninguna tecnología que iba a poder satisfacer el hambre. Pero hay quienes se equivocan al decir esto. Esto puede ser cierto sobre los escépticos si la IA va a reemplazar muchas de las tareas que los médicos hacemos. Gracias.

Unidentified female session moderator

Muchas gracias, doctor. Muchas cosas para seguir reflexionando y charlando. Invito a la doctora Cecilia Cantón, neonatóloga, integrante del Departamento de Calidad y Seguridad del Paciente del Hospital Alemán, magistra en bioética y secretaria de la Subcomisión de Calidad en Salud y Seguridad del Paciente de la SAP, para pasar al panel, junto con el doctor Horacio Fernández, cardiólogo, jefe de la unidad coronaria, integra el equipo de transformación digital del hospital y subdirector médico del Hospital Universitario Austral. Muchas gracias. No sé si

Cecilia Cantón

tenemos

Mixed Cecilia Canton fragment and unidentified audience questioner about empathy, fatigue, and self-care

unos minutitos, 5 o 10 minutos para preguntas.

Cecilia Cantón

Bueno, muchas gracias a los organizadores. Estuvo muy buena la jornada. Y bueno, gracias por la invitación. La verdad es que es un honor estar acá. Yo soy gran admiradora suya. Y uno de los libros que más me gustó fue el de toma de decisión compartida. Yo hago calidad. Y creo que en el libro Toma, Decisión, Compartir hay mucho para trabajar, para implementar en mejoras de calidad en ese sentido.

Dr. Horacio Fernández

Y bueno,

Cecilia Cantón

un poco pensando en ese libro y pensando en mí misma, no me voy a hacer hipócrita, la verdad es que yo vivo de la inteligencia artificial, o sea, quienes tenemos calidad necesitamos permanentemente estar procesando datos rápidamente, tenerlos a último momento. Construimos con esos datos

Cecilia Cantón

muchas mejoras que hacen a que se humanice más la atención, programas de navegación del paciente, de estandarización de cuidados. O sea, incluso dentro del análisis de incidentes, de reportes de incidentes, yo analizo los problemas de comunicación del hospital y a veces digo, esto lo podría hacer un chatbot. Quiero ir migrando cada vez más a la inteligencia artificial porque me da más tiempo para poder dedicarla a mis equipos, para poder estar... Pero bueno, hay un límite y por ejemplo yo pensaba, bueno, si esto lo analiza un robot, le daría este incidente a este equipo que sé que está funcionando mal o que sé que está teniendo algún problema de vincular o lo manejaría con más cuidado. ¿Cuánto...? ¿cuánto puedo ir por la inteligencia artificial y dónde me tengo que detener? Bueno, mi pregunta era esa. Podemos, pensando en ese libro que nos dio tantas herramientas, ¿se puede empezar a gozar y decir, bueno, en estas actividades, confiados con la inteligencia artificial, porque nos está sirviendo, como por ejemplo todos los análisis de datos, en estas actividades que tienen que ver con la empatía, con la relación con el paciente, probablemente no, y...

Spanish simultaneous interpreter 1 voicing John Lantos

En algunas

Cecilia Cantón

sí, pero con cuidado, ¿y cuáles

Spanish simultaneous interpreter 1 voicing John Lantos

cuidados serían?

Spanish simultaneous interpreter 1 voicing John Lantos

Esa es una pregunta. Me parece que el tema de la confianza va a ser entre pacientes y médicos o robots o el sistema de atención de la salud, pero también entre médicos. y los desarrolladores de la inteligencia artificial. O sea, escuchando tu pregunta pensé, ¿no sería excelente si todos los médicos todo el tiempo tuvieran un micrófono? prendido y en cada interacción con el paciente uno estuviera recolectando todos los datos y después uno tendría los datos para analizar y para poder decir si uno estaba por ejemplo revisando algún error médico qué pasó con la conversación etcétera pero para poder hacer eso deberíamos consentir a ese tipo de vigilancia 24 por 7 y confiar en los analizadores confiar en que estén usando nuestros datos brutos con propósitos beneficiosos

Spanish simultaneous interpreter 1 voicing John Lantos

más que para un estado corporativo punitivo como 1984.

Spanish simultaneous interpreter 1 voicing John Lantos

Quizás no podamos obtener todas las ventajas de las capacidades informáticas hasta que tengamos organizaciones que se perciben como más dignas de confianza.

Dr. Horacio Fernández

Nunca había visto la perspectiva de la empatía, me encantó esa parte de su charla. Pero respecto de las decisiones médicas directas que una inteligencia artificial debe tomar, jugando con algunas inteligencias artificiales, yo pude ver tres debilidades. La primera es no tener heurística, esta posibilidad de ver a través de una nube una cosa que es muy clara y muy robusta. es que saca conclusiones con los datos que tiene y no siempre pregunta datos nuevos. De hecho, jugando con inteligencias artificiales, uno le pregunta algo y después le agrega más datos y cambia completamente el resultado. Esa sería la segunda debilidad. Y la tercera debilidad es que no tienen responsabilidad. Por lo tanto, cuando tienen que dar una decisión médica, no va presa. una inteligencia artificial. Y si un médico, por lo tanto el médico es más prudente. Quería ver su opinión de estas tres cosas, ¿no? Eurística, los datos necesarios y la responsabilidad en la acción.

Spanish simultaneous interpreter 1 voicing John Lantos

Bueno, voy a responder primero la tercera. Una revisión, cuando yo escribí el libro, todavía necesitamos médicos, una revisor decía, sí, claro que lo necesitamos, sino ¿a quién demandaríamos?

Spanish simultaneous interpreter 1 voicing John Lantos

O sea, que la cuestión de la responsabilidad es clave, pero... me parece que la responsabilidad tendrá que estar en manos de las organizaciones. Cada vez más y más es lo que está ocurriendo y las organizaciones son quienes tendrán que evaluar la confiabilidad de diversas aplicaciones de inteligencia artificial. Respecto de las primeras dos preguntas, la heurística y

Spanish simultaneous interpreter 1 voicing John Lantos

pedir nueva información, Es interesante y me parece que uno de los temas principales de mi charla es los criterios que usamos para evaluar y comprender la inteligencia artificial también se pueden aplicar a los humanos, pero les damos a los humanos muchas veces un pase gratis, o sea que una de las críticas es lo que la gente por ejemplo llama la caja negra, en la medida en que la inteligencia artificial está aprendiendo permanentemente hace cosas para las que no estaba programada y cuando está programada Y eso es una inteligencia artificial antigua. El programador va a decir, bueno, si al paciente le falta aliento, piensa en neumonía, en embolia. Y si está aprendiendo, uno no sabe lo que está haciendo. Y la gente dice, bueno, el proceso es una caja negra y aparece con un diagnóstico. ¿Y cómo podemos tener confianza en eso? Bueno, es lo mismo que pasa en la cabeza del médico. ¿Qué ocurre en la cabeza del médico cuando uno emite un diagnóstico? Bueno. Nosotros tenemos novedades sobre esa caja negra. Si bien la inteligencia artificial me parece que está empezando a darnos maneras de abrir esa caja negra. Y me parece que

Spanish simultaneous interpreter 1 voicing John Lantos

aprenderemos mucho más sobre la manera en que piensan los médicos, así como aprendemos sobre la manera en que piensa la computadora en cualquier cantidad de problemas, lo que es bueno. Y cuando dice un médico, necesito más pruebas o más exámenes, ¿ese es un juicio clínico, una decisión sobre un juicio clínico? Difícil, ya sea hecha por médicos, o sea, por humanos o por máquinas.

Unidentified audience questioner about virtual care and human presence

Estaba pensando, y quizás en una situación anterior a la inteligencia artificial. y los cambios que se vienen produciendo en cuanto a la tecnología. Yo no sé si ustedes o alguien en esta sala me puede dar una respuesta a esto que me fui preguntando cuando lo escuchaba, y en este momento, tanto psicólogos, psiquiatras, médicos, y a partir más de la pandemia, están atendiendo virtualmente, o telefónicamente, o por Zoom, y esto, digamos, se ha expandido. Acá estuvimos hablando y uno sabe que la profesión médica, bueno, o enfermería, pero tiene que ver también con la presencia. Hablábamos de la cercanía, determinadas cuestiones que tienen que ver justamente con la empatía. ¿Hay algún trabajo... También esto está pasando en educación, porque cada vez, digamos, bueno, esta misma conferencia, esto permite llegar a mucha más gente. ¿Qué trabajos, qué hayan medido, qué es lo que pasa con pacientes que son tratados virtualmente y en presencia o en educación? Porque me parece que también esto es como un momento también previo a estas cosas que estamos hablando en cuanto a la presencia humana. No sé si es posible esta

Overlap and transient audio fragments

respuesta.

Spanish simultaneous interpreter 1 voicing John Lantos

No creo que nadie haya tenido la fortaleza para hacer un estudio randomizado al respecto. 100 pacientes vistos por el robot y 100 pacientes vistos por un médico humano. Yo me imagino que nunca se va a hacer y que en lugar de eso, la forma en que la inteligencia artificial se usará para las interacciones clínicas no

Spanish simultaneous interpreter 1 voicing John Lantos

se utilizará. Es lo mismo que pasó con la lectura de los electrocardiogramas. Algunos médicos van a encontrar que la máquina es útil. igual vamos a mandar el electrocardiograma a un cardiólogo humano, pero en el medio de la noche, en la urgencia, seguramente el médico va a confiar en la máquina. O sea que las interacciones de la inteligencia artificial van a comenzar probablemente en el servicio de respuesta nocturna y va a ser una especie de servicio triage, donde debido a que ningún médico quiere estar ahí a las 2 de la mañana, vamos a empezar con la inteligencia artificial y la inteligencia artificial va a decir parece neumonía. y hace falta un antibiótico, y eso será revisado por un ser humano a la mañana, y gradualmente vamos a llegar a confiar o a no confiar o a modificar la forma en que se está usando. El otro lugar en el que se va a usar, por supuesto, es en entornos de bajos recursos, donde ya ha transformado la medicina, en pequeños billorrios, en lugares así, donde... no hay médicos y los trabajadores sanitarios toman fotografías de una urticaria y los mandan y los hacen leer por inteligencia artificial.

Mixed Cecilia Canton fragment and unidentified audience questioner about empathy, fatigue, and self-care

Doctora Olantos, muchísimas gracias por su presentación, me encantó la manera tan amplia de presentarlo. Me impactó el gráfico de la empatía de los médicos y el AI. Por un lado, alguien le enseñó a la máquina a evaluar lo que es la empatía, así que no estamos tan mal como humanos. Y otra cosa que me surge pensar es cómo sería el gráfico en médicos que están descansados y médicos cansados. Me imagino que una consulta médica de un médico que recién entra a trabajar es totalmente diferente a la consulta después de los shifts de 24 horas que están acostumbrados a hacernos médicos y así se forman. Así nosotros enseñamos a médicos a ser médicos, ¿no? ¿Qué le parece?

Unidentified audience questioner about virtual care and human presence

Sí,

Spanish simultaneous interpreter 1 voicing John Lantos

sobre lo primero... Y volviendo a cuando Big Blue venció al ejedrecista, el mismo editorial que les mostré antes.

Spanish simultaneous interpreter 1 voicing John Lantos

El título era un juego que no podíamos perder porque él decía, si la computadora gana, igual nos hace ganar a nosotros porque nosotros programamos la computadora. En la medida en que nosotros construimos la inteligencia artificial, el algoritmo de inteligencia artificial que puede mostrar más empatía que un humano, igualmente nosotros nos estamos diciendo qué necesitamos tener o hacer para ser mejores. O sea, que eso es así. En cuanto a la fatiga, me parece que es clave, y creo que es una de las razones por las cuales la inteligencia artificial se va a convertir en algo indispensable. No se cansa, no necesita dormir. Y la pregunta de si, bueno, tampoco tiene emociones, o sea, ni alucinaciones, ni nada. O sea, se va a tornar más complicado que a medida que esa caja negra se vea cada vez más negra. Pero en cuanto a que no tener emociones si es un bien o un mal, me parece que eso también es una pregunta interesante. El análisis teorético de qué significa para ser un ser humano ser empático empieza con

Spanish simultaneous interpreter 1 voicing John Lantos

esta cuestión doble o triple donde hay un elemento cognitivo, un elemento emocional. Para ser realmente empático uno de alguna manera tiene que sentir con O sea, esa es la empatía y la compasión que de alguna manera se superponen bastante. Los modelos de inteligencia artificial todos dicen cosas como... No creo que dicen... Bueno, yo sé cómo se siente, pero sí dice, bueno, debe ser difícil para usted. O sea, entiendo situaciones como esta que seguramente son muy estresantes. O sea, que uno puede tomar eso como una respuesta empática o decir, sos una máquina, no entendés nada. O sea, ¿cómo eso va a resultar? Bueno, es una pregunta excelente. Lo

Mixed Cecilia Canton fragment and unidentified audience questioner about empathy, fatigue, and self-care

que yo apuntaba es cómo nos enseñamos a nosotros mismos a ser empáticos con nosotros mismos, ¿no? Cómo les enseñamos a los médicos a ser empáticos con nosotros mismos. El resultado de una consulta médica o el resultado de una consulta médica, cómo me voy, si es al principio de la jornada o al final de la jornada, seguramente será diferente. Y si yo soy empático con mí mismo, voy a poder también ejercitar eso de ser empático con el otro. Creo que es muy importante enseñarle esto a los residentes para que sean conscientes de sus propias debilidades, de su propio cansancio, de cómo abordar esas debilidades que son humanas, nos hacen humanos y capaces de... de tocar al otro en esa necesidad que tiene y realmente llegar a la sanación desde todos

Overlap and transient audio fragments

lados. Gracias.