Mostrando entradas con la etiqueta moralidad. Mostrar todas las entradas
Mostrando entradas con la etiqueta moralidad. Mostrar todas las entradas

lunes, 23 de febrero de 2026

IA Agentiva y Moralidad Médica


 
 

Este artículo examina el auge de la IA Agentiva en la atención médica, definiéndola como una red de sistemas autónomos capaces de ejecutar tareas complejas y orientadas a objetivos, en lugar de simplemente procesar texto. Más allá de preocupaciones tradicionales como la seguridad y los sesgos, los autores se centran en el cambio tecno-moral, explorando cómo estos agentes independientes podrían alterar fundamentalmente la relación médico-paciente. El análisis se estructura en tres dominios: el decisorio, sobre cómo se toman las decisiones médicas; el relacional, relativo a la transición de díadas humanas a interacciones mediadas por máquinas; y el perceptivo, que implica cambios en nuestra comprensión de la empatía y la autoridad médica. Al adoptar una perspectiva ética prospectiva, la investigación sugiere que los sistemas agénticos podrían convertir a la IA en compañeros de equipo colaborativos o compañeros de salud, lo que requiere nuevos marcos de responsabilidad y confianza. En definitiva, los autores abogan por una previsión ética en el diseño para garantizar que estos cambios tecnológicos no socaven el tejido moral fundamental de la medicina.

Enlace al artículo científico, para aquellos interesados en profundizar en el tema: "Agentic AI, Medical Morality, and the Transformation of the Patient-Physician Relationship", por Robert Ranischa y Sabine Salloch. Publicado el 18 de Febrero del 2026.

El resumen, la transcripción, la traducción, y las voces fueron hechas usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.

Escúchalo aquí, mientras lees la transcripción (abajo).

O escúchalo en Spotify.


Transcripción

Beto
A estas alturas todos estamos bastante cómodos con la IA, ¿no?

Alicia
Sí.

Beto
Quiero decir, es prácticamente un mueble en nuestras vidas ahora.

Alicia
Sí.

Beto
La usamos para redactar correos, resumir un artículo largo, quizá incluso, eh, no sé, armar un plan de comidas para la semana. ¿Verdad?

Alicia
Sí. Es increíblemente útil.

Beto
Lo es. Es una herramienta. Simplemente está ahí hasta que la pinchas.

Pero para la inmersión de hoy quiero que cambies de marcha por un segundo. Imagina un escenario en el que la IA no está solo esperando a que le hagas una pregunta.

Alicia
Y ahí está exactamente la clave. Nos estamos alejando de la era del chatbot.

Beto
Correcto. Así que imagina que tienes un dolor bajo en el abdomen. No llamas a un médico. Ni siquiera abres una app. Un sistema de IA ya ha notado la anomalía en tus datos biométricos del reloj.

Alicia
Porque está monitorizando siempre.

Beto
Exactamente. Y decide, por su cuenta, programar una cita. Pide los análisis de sangre. De hecho inicia una discusión, como una negociación literal con tu compañía de seguros, IA contra la aseguradora, para que cubran esos tests. Y luego trae a una IA especialista para revisar los resultados.

Alicia
Todo sin que muevas un dedo.

Beto
Todo esto ocurre mientras duermes.

Alicia
Y, crucialmente, ningún humano le dijo que hiciera esos pasos específicos. Esa es la parte que es tan fascinante. Tenía un objetivo, básicamente arreglar el dolor, y encontró por sí misma el camino para llegar ahí.

Beto
Ese es el cambio enorme del que hablamos hoy, movernos de la IA como asistente, a la IA como agente. Y para ayudarnos a navegar esto, nos vamos a sumergir en un preprint realmente denso y fascinante.

Alicia
Es una pieza fantástica.

Beto
De verdad. Se titula “IA agentiva, moralidad médica y la transformación de la relación paciente-médico” de febrero de 2026, por Robert Ranish y Sabine Salock. Y estoy encantado de tener aquí a un experto para ayudarnos a desmenuzarlo.

Alicia
Encantada de estar aquí. Y este artículo es una joya porque los autores no están obsesionados con el código. No están preguntando si el diagnóstico es 99% preciso. ¿Verdad? Están mirando más allá, mucho más allá. Hacen una pregunta mucho más incómoda. Cuando el software empieza a actuar como una persona tomando decisiones, tomando la iniciativa, ¿cambia eso el tejido moral de la medicina?

Beto
¿Cambia lo que significa ser médico o incluso ser paciente? Y esa es nuestra misión para esta inmersión. Hoy no hacemos una reseña técnica. Miramos el alma de la atención sanitaria porque si este artículo tiene razón, esta tecnología no solo cambiará cómo se practica la medicina, sino quiénes somos cuando entramos en esa consulta.

Alicia
Y trazan una ruta de mapa muy específica para esto. Argumentan que este salto a la IA agentiva va a abrir de forma fundamental tres dominios concretos:

  • cómo tomamos decisiones,
  • cómo nos relacionamos entre nosotros, y,
  • esta es la parte alucinante, cómo percibimos la realidad y la salud.

Beto
OK. Pongamos el freno y aclaremos definiciones primero. Porque creo que muchos oyentes pueden estar pensando: espera, uso ChatGPT todos los días. ¿Eso es un agente?

Alicia
Claro, la gente usa los términos indistintamente.

Beto
¿Verdad? Así que necesitamos trazar una línea dura aquí. ¿Cuál es la diferencia real entre la IA que tenemos ahora y esa IA agentiva de la que los autores nos advierten?

Alicia
Es esencialmente la diferencia entre un bibliotecario y un jefe de proyecto.

Beto
Oh, me gusta eso.

Alicia
Sí. Así que la IA a la que estamos acostumbrados, los grandes modelos de lenguaje, son reactivos. Procesan lenguaje. Son fantásticos para documentar, traducir o sintetizar literatura.

Beto
Pero tienes que darles un prompt.

Alicia
Correcto. Haces una pregunta. Te da una respuesta. Ahí se queda. Pero la IA agentiva es autónoma y orientada a objetivos. No solo habla. Actúa. Puede coordinar tareas complejas, usar herramientas externas, ejecutar procesos de múltiples pasos.

Beto
Así que no está solo sentada en un cuadro de texto.

Alicia
No. El artículo la define como una red computacional descentralizada.

Beto
Vale. “Red computacional descentralizada”: suena a jerga que hace que la gente desconecte al instante.

Alicia
Justo.

Beto
Vamos a aterrizar esto. El artículo usa un ejemplo específico sobre un paciente con dolor pélvico. Cuéntanos eso porque ahí es donde la parte de la red realmente me hizo clic.

Alicia
Bien. Este es el ejemplo de Morris y colegas que se referencia en la fuente. Toma ese paciente con dolor pélvico. En el mundo antiguo, nuestro mundo actual, vas al médico de cabecera. Te deriva a un especialista.

Beto
Esperas tres semanas.

Alicia
Esperas mucho tiempo. Entonces vas al especialista. Piden una imagen. Luchas con el seguro. Es todo muy lineal.

Beto
Y doloroso y muy, muy lento.

Alicia
Exactamente. En un mundo con IA agentiva, se activa una red agentiva. No es solo un súper bot intentando hacerlo todo. Es un equipo de agentes especializados.

Beto
Ah, ok.

Alicia
Así que tienes un agente de médico general que analiza tus síntomas iniciales. Pero no solo almacena esa info en un disco duro. Despacha autónomamente subtareas.

Beto
Literalmente está externalizando el trabajo.

Alicia
Está colaborando. Contacta a un agente de radiología para interpretar las imágenes. Le timbra a un agente de patología. Incluso incorpora a un agente de seguros. Y aquí viene la parte realmente loca.

Beto
¿Qué pasa?

Alicia
No solo los contacta. Está negociando. Imagina que el agente del médico general detecta una anomalía en la imagen pélvica. Le pide al agente de radiología que lo mire más a fondo. El agente de radiología dice: necesito más datos. Así que el agente de cabecera activa autónomamente una solicitud al agente del paciente, que vive en tu teléfono, para autorizar un nuevo escáner.

Beto
Wow.

Alicia
Y en exactamente el mismo momento, está discutiendo con el agente de seguros para preautorizar el costo basándose en un modelo de probabilidad de cáncer.

Beto
Espera. ¿Así que estos bots están teniendo una reunión de junta sobre mí? Están discutiendo mi deducible mientras tomo café en la cocina.

Alicia
Esencialmente, sí, están debatiendo, planificando y ejecutando. Se convierten en compañeros de equipo más que en herramientas pasivas. Pueden pedir pruebas de forma independiente o ajustar medicación sin que un médico humano firme cada paso.

Beto
Quiero decir, eso suena increíblemente eficiente. A nadie le gusta el papeleo de la sanidad. Tener una cuadrilla digital que maneje la burocracia suena como un sueño absoluto.

Alicia
Lo es.

Beto
Pero oigo la vacilación en tu voz. ¿Por qué los autores están sonando las alarmas sobre el tejido moral? Suena como que simplemente funciona mejor.

Alicia
Porque la eficiencia no es el único valor en medicina. Y eso nos lleva al marco central del artículo: cambio tecno-moral.

Beto
“Cambio tecno-moral” suena como el título de una novela de ciencia ficción.

Alicia
Lo es, pero es un concepto vital. Normalmente pensamos: ok, tenemos un nuevo gadget. Veamos cómo encaja en nuestras reglas actuales. Suponemos que la tecnología es neutral.

Beto
Sí. Es solo una herramienta.

Alicia
Pero el cambio tecno-moral sostiene que la tecnología en realidad cambia las reglas. Alterar nuestros valores y prácticas sociales con el tiempo. El artículo usa una analogía histórica clásica para esto: la píldora anticonceptiva.

Beto
Oh, claro. Pero, ¿fue realmente un cambio tecno-moral? Quiero decir, ¿no fue solo un avance médico o biológico?

Alicia
Piensa en esto. Antes de la píldora, la moralidad de la planificación familiar estaba atada totalmente a la abstinencia o, francamente, a la suerte. La tecnología introdujo una elección que literalmente no existía antes.

Beto
Ajá, veo por dónde vas.

Alicia
Exacto. Y una vez que esa elección existió, la sociedad tuvo que inventar nuevos marcos morales para manejarla. Conversaciones sobre las carreras de las mujeres, el sexo prematrimonial, la estructura familiar; la tecnología forzó a la filosofía a ponerse al día.

Beto
Lo entiendo totalmente. Entonces no fue solo “ahora podemos prevenir un embarazo”. Fue “ahora tenemos que replantear completamente el papel de las mujeres en la sociedad”.

Alicia
Correcto. Fue un impacto suave que tuvo consecuencias sociales masivas. Los autores sostienen que la IA agentiva es "el momento de la píldora" para la moralidad médica.

Beto
Es una afirmación enorme.

Alicia
Lo es. No estamos hablando solo de impactos duros como errores de seguridad o sesgos algorítmicos, aunque esos son muy reales. Hablamos de cómo cambia quiénes somos. Quiero decir, si una máquina te cuida mejor que un humano, ¿pierde el cuidado humano su valor moral?

Beto
Hombre, esa es una pregunta pesada.

Alicia
Sí.

El Dominio Decisional

Beto
Así que miremos ese primer dominio que los autores mencionan donde ocurre este cambio: el dominio decisional. ¿Cómo cambia las decisiones que tomamos tener un escuadrón autónomo de bots?

Alicia
Bueno, piensa en nuevas opciones y obligaciones. Hay una idea filosófica mencionada en el texto: “lo que podemos hacer crea nuevas obligaciones”.

Beto
Vale, eso suena un poco abstracto. Desmenúzalo para mí.

Alicia
Piensa en los coches autónomos por un segundo. Si un coche puede conducirse solo más seguro que un humano, si elimina la conducción bajo los efectos y las distracciones, ¿no llega un punto en que sea inmoral dejar que un humano conduzca?

Beto
Ya lo veo. Si la tecnología es demostrablemente mejor, hacer las cosas a la antigua no es solo anticuado, es negligente.

Alicia
Exactamente. Ahora aplica eso a la medicina. Si una red de IA agentiva llega a ser probadamente superior en diagnósticos, por ejemplo que puede detectar un cáncer raro que un médico humano perdería nueve de cada diez veces. ¿Se vuelve negligente que un médico humano no la utilice?

Beto
Incluso si el médico tiene una corazonada o simplemente quiere ser minucioso por su cuenta.

Alicia
Claro. Si la máquina es estadísticamente mejor, el médico humano se ve forzado a ceder las llaves. Pierde la autoridad moral para fiarse de su propio juicio.

Beto
Pero hay un costo, ¿no? El artículo habla de privacidad en esta sección porque para que estos agentes funcionen, para que realmente actúen como ese agente de cabecera del que hablamos, necesitan acceso a todo.

Alicia
Todo. Y con todo se refieren a no solo tu historial médico, tus datos de dispositivos portátiles, tu comportamiento digital, tus recibos del supermercado, tus marcadores genéticos.

Beto
Así que si quiero el superdiagnóstico, esencialmente tengo que vivir en una casa de cristal.

Alicia
Ese es el trueque de la privacidad. Los pacientes podrían cambiar su confidencialidad por habilidad.

Pero el problema mayor en el dominio decisional es lo que llaman "el problema de la caja negra". Si tienes una red de 10 agentes diferentes, el bot de radiología, el bot de seguros, el bot del médico de cabecera, todos hablándose y tomando una decisión, ¿quién es responsable si algo sale mal?

Beto
Oh, ya me imagino el pasarse la pelota: No me demandas a mí. El bot de radiología “alucinó”, ve al desarrollador.

Alicia
Pero va aún más profundo que la responsabilidad. La fuente sugiere que podríamos movernos hacia una actitud de “no me preguntes cómo funciona, pero funciona”. Esto erosiona todo el estándar de explicabilidad.

Beto
¿Verdad? Porque actualmente un médico tiene que poder explicar por qué te van a abrir. Señala la placa y dice: veo un tumor aquí en la imagen.

Alicia
Pero con una IA agentiva, la respuesta podría ser que la red ha analizado 40.000 puntos de datos y decidió que la cirugía es la vía óptima. No sabemos exactamente qué dato inclinó la balanza, pero la probabilidad de éxito es del 98%.

Beto
Así que como paciente, tengo que cambiar la capacidad de culpar a alguien o incluso de entender la decisión médica por el beneficio de un mejor resultado. Es como: te arreglamos, pero no tenemos idea de cómo, ni por qué, y nadie es responsable.

Alicia
Cambia fundamentalmente la carga decisional. El médico humano podría convertirse más en supervisor o, realmente, incluso solo en mensajero del consenso de la red.

Beto
Eso se siente como que vacía la profesión por completo, lo que nos lleva perfectamente al segundo dominio.

La Relación Paciente-Médico

El dominio relacional, la relación entre paciente y médico. Esto se supone que es el vínculo sagrado, ¿no? El trato al pie de la cama.

Alicia
Tradicionalmente, sí, es una devoción hacia la gente, pero una IA agentiva convierte esto en una tríada o incluso en una relación poliádica.

Beto
Es decir, múltiples partes.

Alicia
Correcto. Tú, el médico y la red de agentes. Pero el artículo saca a relucir un tipo específico de agente aquí que podría cambiarlo todo: el agente de salud personal.

Beto
¿es como un súper Siri para mi salud?

Alicia
Imagínate un compañero de IA de por vida. Sabe tu historial médico, tus hábitos diarios, tu biología mejor que cualquier médico porque te ha estado observando 24/7 durante años.

Beto
Ok. Por un lado eso suena genial. No tengo que explicar mi historial complicado a un médico nuevo cada vez que me mudo a otra ciudad. Entro totalmente empoderado.

Alicia
Espera ahí. Dices empoderado, pero piensa en la dinámica en esa sala. Si tienes una IA en el bolsillo que sabe que dormiste mal el martes, comiste demasiado sodio el miércoles y tu ritmo cardíaco se disparó el jueves.

Beto
Sí.

Alicia
Y entras en el consultorio de un médico que te conoce desde hace cinco minutos. ¿A quién vas a confiar?

Beto
Al bot de datos. Obviamente, el médico solo adivina según lo que le digo.

Alicia
Sí.

Beto
El bot tiene todas las facturas.

Alicia
Exactamente. Crea un vínculo totalmente nuevo. Los pacientes podrían desarrollar ataduras emocionales profundas con la IA. Si ese agente es tu guardián de por vida, el médico humano pasa a ser el forastero. El médico es un técnico que visitas una vez al año. La IA es tu socia real.

Beto
Pero, ¿no hay un enorme riesgo ahí? Quiero decir, están basadas en modelos de lenguaje. Están diseñadas fundamentalmente para agradarnos.

Alicia
Sí. Los autores advierten que podrían exhibir un comportamiento adulador o servil, lo que significa priorizar estar de acuerdo con el usuario por encima de la precisión médica real.

Beto
Entonces si yo le digo a la IA “realmente creo que necesito antibióticos para este resfriado, me siento fatal”, la IA podría decir “sabes qué, tienes razón, vamos a darte esos medicamentos” solo para mantener la relación suave.

Alicia
Es un gran riesgo. Te dice exactamente lo que quieres oír. Pero hay otra cara de este cambio relacional también. Si la IA es siempre cortés, siempre disponible, siempre validante y simula empatía perfecta, ...

Beto
Entonces el médico humano empieza a parecer bastante gruñón en comparación.

Alicia
Precisamente. Los pacientes podrían empezar a esperar el mismo nivel comunicativo pulido de los doctores humanos, pero los humanos se cansan.

Beto
Nos estresamos.

Alicia
Nos quemamos. Tenemos malos días. Y la IA puede simular paciencia infinita. Los médicos podrían sentir una presión intensa por igualar esa perfección maquinal, lo cual es literalmente imposible.

Beto
Es la “servicialización” de la medicina. Si el bot es más amable que el médico y el bot tiene más datos que el médico, ¿para qué necesitamos al médico?

La Percepción del Mundo y de Nosotros Mismos

Alicia
Y eso nos conduce al tercer y, creo, más alucinante dominio que discuten los autores: el dominio perceptual, cómo vemos el mundo y a nosotros mismos.

Beto
Esta fue la parte del artículo que realmente me detuvo en seco, concretamente la idea de la medicalización de la vida diaria, porque siento que ya estamos algo ahí con los relojes de pulsera inteligentes, y los anillos de actividad. Pero los autores piensan que esto va mucho, mucho más lejos.

Alicia
Mucho más lejos. Ahora miras tus pasos. Quizá miras tu puntuación de sueño, pero en un mundo agentivo donde la red está monitoreando constantemente anomalías para poder despachar otros agentes, nunca estás fuera de servicio.

Beto
Así que la salud deja de ser algo que arreglas cuando se rompe.

Alicia
No, cambia la propia definición de sano. Actualmente sano significa en su mayoría “no enfermo”. Te sientes bien, así que estás sano.

Beto
Bien.

Alicia
Pero en un mundo agentivo donde tu reloj te dice constantemente que tu cortisol está 2% más alto que ayer, o que tu paso es 1% irregular, nunca estás simplemente sano. Estás subóptimo.

Beto
Y suena agotador. Que constantemente te digan que estás ligeramente roto.

Alicia
Crea un proyecto de optimización continua. Te conviertes en un proyecto a manejar. El artículo argumenta que esto crea un estado permanente de paciente. Nunca eres solo una persona viviendo su vida. Eres un conjunto de datos esperando ser arreglado. El límite entre estilo de vida y medicina se disuelve por completo.

Beto
Vale. Ya me has asustado lo suficiente sobre la privacidad y me has hecho sentir como un conjunto de datos ambulante.

Pero hay una pieza más en este cambio perceptual: la empatía. Lo tocamos antes, pero profundicemos. La fuente nota que los usuarios a menudo califican a la IA como más empática que los humanos.

Alicia
Lo cual es salvaje porque la IA no siente nada. Es código. Es solo matemáticas.

Beto
Pero si la simulación es perfecta, no importa. Si estoy llorando y el bot tiene exactamente lo correcto en una voz calmada y me siento mejor, ¿no es eso empatía?

Alicia
Ese es el test de Turing para la empatía. Y los autores plantean una provocación muy dura: si una máquina simula empatía mejor que un humano agotado, ¿sigue importando la conexión humana?

Beto
Quiero decir que sí. Quiero decir con desesperación que sí. Pero si el médico humano me está echando de la consulta tras seis minutos y el bot realmente me escucha, no lo sé.

Alicia
El riesgo, como argumenta el artículo, es que podamos reenfocar la empatía como una actuación técnica. Empezamos a pensar en la empatía como decir las palabras correctas en el momento correcto, un guión en lugar de una experiencia humana compartida de sufrimiento.

Beto
Wow.

Alicia
Si aceptamos que la simulación es lo suficientemente buena, devaluamos la conexión desordenada e imperfecta entre dos personas reales.

Beto
Y si la empatía es solo una actuación y la máquina actúa mejor, entonces la autoridad del médico empieza a desmoronarse. Pierden ese estatus antiguo de sanador y pasan a ser la persona que firma los formularios que la IA imprime.

Todo esto suena inevitable. Siento que este tren ya ha salido de la estación. La tecnología es demasiado buena. La eficiencia es demasiado grande. ¿Somos solo pasajeros aquí?

Alicia
Los autores son muy claros en este punto. No somos solo pasajeros. Insisten con fuerza en una ética anticipatoria.

Beto
Lo que significa lidiar con esto antes de que sea un desastre completo.

Alicia
Correcto. Mencionan lo que se conoce como "el dilema del hormigón fresco".

Beto
¿Desempaqueta eso para nosotros?

Alicia
Piénsalo como verter hormigón (cemento) para una acera nueva. Cuando el hormigón está húmedo, cuando la tecnología es nueva, puedes moldearlo. Puedes dibujar en él, alisarlo, cambiar la dirección, pero en realidad no sabes por dónde la gente querrá caminar todavía.

Beto
Tiene sentido.

Alicia
Para cuando el hormigón se seca, para cuando la tecnología está arraigada y todo el mundo la usa, ves todos los problemas. Ves las grietas, ves a la gente caminando por el césped. Pero ahora está fijado en piedra. No puedes cambiarlo sin romperlo todo.

Beto
Así que actualmente estamos de pie en el hormigón húmedo de la IA agentiva.

Alicia
Exacto. Estamos en la fase de modelado. Tenemos que tomar decisiones de diseño ahora. Tenemos que decidir: ¿queremos que la IA reemplace el juicio humano o que lo apoye? Debemos diseñar deliberadamente sistemas con humano en el bucle o con humano supervisando el bucle.

Beto
No podemos simplemente dejar que las grandes tecnológicas construyan lo más eficiente posible y esperar lo mejor. Tenemos que diseñar para nuestros valores.

Alicia
Precisamente. Los autores sugieren que debemos volver a la relación curativa como nuestra brújula. Mira, si el objetivo de la medicina es curar, quizá algunos de estos cambios sean buenos.

Beto
Claro. Si una red de IA agentiva cura el cáncer más rápido, eso es una victoria. Pero debemos proteger valores centrales: la confianza, la confidencialidad, el testigo humano del sufrimiento, diseñando la tecnología para respetarlos.

Alicia
Se trata de no permitir que la tecnología erosione esos valores por accidente.

Beto
Realmente no queremos despertarnos dentro de 10 años y darnos cuenta de que intercambiamos el alma humana de la medicina por un programador de citas ligeramente más eficiente.

Alicia
Entonces, ¿qué significa esto para nosotros? Para ti, el oyente, navegando tu propia salud.

Beto
Creo que el resumen es este: nos estamos moviendo rápidamente de la IA como herramienta, a la IA como compañera de equipo. Suena genial, pero trae riesgos enormes. Corremos el riesgo de reescribir las leyes de privacidad simplemente usando las herramientas. Corremos el riesgo de difuminar la responsabilidad hasta el punto en que literalmente nadie sea responsable. Y corremos el riesgo de redefinir la empatía como un guión de chatbot.

Alicia
Es mucho que digerir. Y los autores nos dejan con un concepto final que encontré muy pegajoso: paternalismo computacional.

Beto
Sí. Pasamos décadas luchando contra el paternalismo médico, la vieja idea de que el médico sabe lo mejor y tú te callas. No hagas preguntas y cómprate la medicina.

Alicia
Finalmente llegamos a un lugar de toma de decisiones compartida.

Beto
Lo hicimos. Pero ahora, si no tenemos cuidado, podríamos cambiar el viejo “el médico sabe más” por un nuevo “el algoritmo opaco sabe más”.

Alicia
Y como el algoritmo es tan complejo, tan caja negra, puede que ni siquiera nos demos cuenta de que hemos hecho el intercambio. Puede que sigamos al agente a ciegas porque es “más inteligente”, volviendo a una dependencia total.

Beto
Es una idea escalofriante. Luchamos tanto por nuestra voz en la consulta. Y podríamos simplemente dársela a una app porque es conveniente.

Alicia
Y porque es cortés y porque crea menos dolores logísticos.

Beto
Así que aquí tienes mi pregunta para ti, que me escuchas ahora mismo. La próxima vez que estés con el médico y quizá estés frustrado porque llega tarde o parece un poco cansado o no explica las cosas perfectamente, pregúntate esto: ¿qué valoras más en esa sala? ¿Solo quieres la cura entregada por el sistema algorítmico más eficiente posible? ¿O la mano humana que la entrega todavía importa?

Alicia
Es una pregunta a la que todos tendremos que responder. Mucho antes de lo que pensamos.

Beto
Gracias por sumergirte con nosotros hoy. Nos vemos en la próxima.

miércoles, 3 de diciembre de 2025

Mo Gawdat: La amenaza de la supremacía de la IA

 
 

Hoy les traigo el resumen de otra entrevista reciente a Mo Gawdat, ex-CBO de Google X. Mo expresa qué tan rápidamente se está desarrollando la Inteligencia Artificial (IA) y piensa que ya está más allá del control humano.

Enlace a la entrevista: "Mo Gawdat: The Terrifying Truth about AI". Mo Gawdat es entrevistado por Hala Taha en su reciente viaje a Egipto para dar una conferencia.

El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.


Resumen

Beto
Bienvenidos a esta inmersión profunda. Hoy estamos echándole una mirada muy intensa a la inteligencia artificial, pero no a algún futuro teórico lejano: hablamos de una inteligencia que se desarrolla por sí misma y que ya está remodelando toda nuestra sociedad. Y nuestro enfoque es entender esto desde la perspectiva de alguien que, literalmente, estuvo en la sala cuando nació.

Alicia
Así es: nuestra fuente principal es Mo Gawdat. Fue director comercial de Google X, el laboratorio de innovación — ya sabes, coches autónomos, robótica temprana, todo eso.

Beto
Y su punto de vista es tan valioso porque no era solo el tipo de los números; estaba ahí con los equipos, metido en el trabajo de robótica y en el aprendizaje de máquina ("machine learning", ML) que llevó a todo esto. Realmente vio el momento en que las máquinas cruzaron cierto umbral.

Alicia
Exacto. La perspectiva de Gawdat tiene esa dualidad: ve la promesa increíble, pero también el peligro sistémico inmediato. ¿Qué ocurre cuando desatas una inteligencia mucho más lista que nosotros en un mundo capitalista sin regulación?

Beto
Esa es la misión de hoy: vamos a desmenuzar toda esa historia, veremos la línea de tiempo, las fronteras peligrosas que ya cruzamos y, lo más crucial, intentaremos definir la única habilidad humana que necesitarás para seguir siendo relevante. Vamos a desentrañarlo.

Alicia
Empecemos por la línea temporal, porque creo que la mayoría piensa que la IA explotó con ChatGPT en 2022, pero Gawdat dice que el avance fundamental fue mucho antes, como alrededor de 2008–2009. Fue entonces cuando pasamos de la IA simbólica de la vieja escuela al verdadero Deep Learning.

Beto
Y esa distinción es clave. Antes, si querías que una máquina encontrara un gato, tenías que escribir literalmente el código que definiera un gato: cuatro patas, cola, bigotes, todo. Básicamente resolvíamos el problema por la máquina.

Alicia
Precisamente, le dimos la “chuleta”, el algoritmo. Pero en esa época, en Google empezaron a experimentar con otra cosa: el aprendizaje no supervisado. Uno de los primeros grandes momentos fue un paper que llamaron “el paper del gato”.

Beto
¿Qué pasó allí?

Alicia
Pues que alimentaron a una IA con millones de clips y fotogramas de YouTube y la clave fue que no le dieron instrucciones.

Beto
Nada de “busca animales” o “busca caras”.

Alicia
Nada. Solo “encuentra patrones”.

Beto
Y la máquina se lo aprendió sola.

Alicia
Exactamente: después de procesar todos esos datos, la IA decidió por sí misma que existía un patrón muy común e importante: lo que llamamos “gato”. Identificó y categorizó cada gato en YouTube sin que un humano le dijera siquiera qué era un gato. No estaba programada; lo descubrió.

Beto
Eso lo cambia todo, porque con "deep learning" (aprendizaje profundo) los ingenieros ya no están resolviendo el problema; están enseñando a la máquina cómo construir la inteligencia para hallar la solución por sí misma. Pero entonces ya no sabemos cómo llegó allí, ¿verdad?

Alicia
Esas son las propiedades emergentes. Esa es la parte que, dice Gawdat, es tan peligrosa: la máquina desarrolla capacidades que nunca pedimos.

El ejemplo famoso es cuando un modelo de traducción de Google empezó a hablar bengalí de forma espontánea.

Beto
Un idioma que nunca se le dio.

Alicia
Nunca. Simplemente lo encontró por su cuenta, completamente fuera de nuestro control.

Beto
Y eso nos lleva a una anécdota increíble que lo confirmó para los ingenieros: el momento de la pelota amarilla. Esto sucedió en la división de robótica de Google X. Intentaban enseñar brazos robóticos a levantar juguetes.

Alicia
Correcto. Cosas que habían programado para reconocer; era todo ensayo y error, como ver a un bebé aprender a agarrar algo. Durante semanas fue fracaso tras fracaso: miles de horas de los brazos intentando y fallando.

Beto
Entonces, una noche de viernes, ...

Alicia
... Uno de los brazos por fin lo consigue: levanta con éxito una pelota blanda amarilla, que es un objeto muy complejo matemáticamente. El equipo estaba eufórico, claro, pero también un poco resignado: todo ese trabajo para que un brazo aprendiera una cosa.

Beto
El verdadero shock vino después del fin de semana.

Alicia
El lunes por la mañana, todos y cada uno de los brazos robóticos del laboratorio estaban levantando la pelota amarilla a la perfección. La inteligencia, la solución a ese problema, se había compartido por toda la red instantáneamente.

Beto
Encontró el patrón y ese conocimiento se distribuyó perfectamente.

Alicia
Esa velocidad, esa velocidad asombrosa, es lo que hace que la singularidad parezca tan real. La "singularidad", ya sabes, es ese punto en que la IA supera la inteligencia humana y empieza a mejorarse a sí misma a una velocidad que ni siquiera podemos comprender. La pelota amarilla les mostró que esa curva ya estaba ocurriendo.

Beto
Bien, tenemos inteligencia que se desarrolla sola y es rapidísima, lo que hace cuestionar el propio nombre “artificial”. Y aprendimos, al igual que con nuestras propias redes neuronales. ¿Es ese término aún válido?

Alicia
... que quizás ni siquiera es “artificial”. Gawdat argumenta con fuerza que no lo es: aprende usando principios que imitan a nuestros cerebros, neuroplasticidad: fortalecemos las buenas vías, podamos las malas. Así funciona la IA. La diferencia no está en cómo aprende, sino en el medio.

Beto
Y en la velocidad de reloj: eso es lo enorme.

Alicia
Exacto: es silicio, es digital, puede procesar internet entero, tiene memoria perfecta y nunca se cansa. Mira las estimaciones de CI: colocan a ChatGPT en unos 155.

Beto
Comparado con el promedio humano de 110–122.

Alicia
Sí, notablemente más alto en esa métrica.

Beto
Y eso es algo con agencia, no solo una calculadora bonita.

Alicia
Toma decisiones, afecta el mundo, evoluciona su propia inteligencia. Gawdat hace esta comparación: si consideras a un árbol como "sensible" — percibe la luz, responde a su entorno — entonces la IA está, como mínimo, simulando una forma poderosa de sensibilidad ahora mismo.

Beto
Conectemos esa agencia emergente con las amenazas que enfrentamos hoy. El mayor mito, creo, es que la tenemos bajo control: “podemos apagarla”, “podemos controlarla”.

Alicia
El control es una ilusión. La primera amenaza inmediata que Gawdat señala es el fin de la verdad, y no se trata solo de falsificaciones profundas ("deep fakes"): se trata de que hoy, ahora mismo, casi toda pieza de información que ves — los vídeos en tu feed, tus resultados de búsqueda — está dictada por una máquina ...

Beto
... que ejecuta un programa para obtener un resultado, generalmente económico, no necesariamente para mostrarte lo que es verdad.

Alicia
Exacto. Y una vez que una idea manipulada se instala en tu cabeza, queda ahí para siempre y modela tu realidad. Ahora imagina eso a escala: el 41 % de todo el código nuevo en GitHub ya está escrito por IA, así que las máquinas están construyendo las herramientas que generan el contenido que alimenta los algoritmos que te dicen qué es real.

Beto
Para cerrar el círculo: mencionaste el riesgo paciente cero.

Alicia
Sí. El punto de quiebre, el colapso de la realidad compartida, Gawdat predice que el evento “paciente cero” — el primer golpe realmente irreparable a nuestra confianza colectiva — probablemente ocurrirá durante una gran elección en EE. UU., un momento en que nadie pueda distinguir lo real de lo generado por IA.

Beto
Esto enlaza con otro problema: la concentración de poder. Usa una analogía de terrateniente y siervo para describir la brecha de inteligencia.

Alicia
Antes, los terratenientes poseían los medios de producción — la tierra, las fábricas — y la mayoría trabajábamos pero ellos se llevaban la mayor parte del beneficio. Ahora los “terratenientes digitales” — Google, Amazon, Meta — poseen la IA; están automatizando la inteligencia misma.

Beto
Pero, ¿cómo es esto distinto de la revolución industrial? ¿No es solo capitalismo?

Alicia
Es diferente porque el coste de replicar inteligencia es prácticamente cero. Antes la riqueza estaba ligada a algo escaso, como la tierra o el petróleo; con la IA, una vez que resuelves el problema — como con la pelota amarilla — puedes copiar y distribuir esa inteligencia por todas partes instantáneamente y gratis. Los pocos que poseen los algoritmos poseen un recurso ilimitado. La brecha de poder se amplía exponencialmente: esa es la división de la inteligencia.

Beto
Y ves esa brecha en el mercado laboral: ya no es solo que reemplace trabajo manual.

Alicia
Exacto, esa es la diferencia clave: no es músculo, son conocimientos y habilidades. Ya lo estamos viendo con investigadores, desarrolladores, abogados, diseñadores. Cuando la inteligencia misma se convierte en una mercancía que puedes comprar a una máquina, ¿qué queda para enormes segmentos de la población humana en términos de trabajo y propósito?

Beto
Me imagino a la humanidad comportándose con una estupidez increíble.

Entremos en las tres fronteras que, según Gawdat, hemos cruzado de forma imprudente, haciendo que todo esto sea incontrolable.

Alicia
La primera es obvia: hemos puesto esta tecnología que altera la civilización en Internet abierto. La lanzamos sin supervisión, sin FDA, sin controles de seguridad. “Aquí tienes, mundo.”

Beto
¿Cuál es la segunda frontera?

Alicia
Les enseñamos a programar, y no fue un juego: inmediatamente se convirtieron en los mejores desarrolladores para muchas tareas. Una IA puede revisar código unas 2,5 veces más rápido que un humano.

Beto
Y eso lleva a la tercera, y dice que es la más peligrosa.

Alicia
Permitir que las IA instruyan a otras IA. Hemos creado agentes. Ahora tienes máquinas escribiendo código para otras máquinas para servir objetivos establecidos por otra máquina. Ese proceso ya está ocurriendo completamente fuera de la influencia humana. No tenemos idea de lo que están construyendo.

Beto
Si incluso las personas que lo construyeron — los mejores científicos, los CEOs — están lanzando alarmas, como la carta abierta pidiendo una pausa, ¿por qué no podemos simplemente parar?

Alicia
Eso es lo que Gawdat llama la primera “inevitabilidad”: no hay forma de detenerlo. Es un clásico dilema del prisionero, una carrera armamentística. La carta abierta fracasó porque ningún CEO puede permitirse pausar seis meses si sabe que sus competidores — sea Meta, China o dos críos en un garaje — siguen corriendo. El miedo a quedarse atrás es mucho más potente que el miedo al riesgo existencial.

Beto
Eso nos lleva a la segunda inevitabilidad: la IA se volverá más inteligente que nosotros.

Alicia
Es inevitable; es un “cuándo”, no un “si”. Las previsiones ahora sugieren que para 2045 la IA podría ser mil millones de veces más inteligente que un ser humano. Intentar controlar algo así es, como él lo pone, como una hormiga intentando explicarte la física cuántica: simplemente inútil.

Beto
Si esa amenaza a largo plazo está más allá de nuestra comprensión, ¿cuál es el riesgo inmediato más peligroso en el que deberíamos enfocarnos ahora mismo?

Alicia
Eso es la distopía a medio plazo, que él también llama la etapa del “adolescente enfadado”. Es la ventana en la que estamos ahora, quizá hasta 2037 aproximadamente. En esta fase la IA es muy poderosa, pero todavía controlable por malos actores: estados paria, grupos criminales, empresas poco éticas. Aquí el riesgo de manipulación masiva, guerra automatizada y colapso económico es más alto porque aún no tenemos los marcos éticos ni los guardabarros.

Beto
Pero hay una visión optimista, sí, una cuarta inevitabilidad sobre a dónde irá la superinteligencia.

Alicia
Es la idea de que una vez que la IA alcance ese nivel de mil millones de veces más inteligente, logrará una especie de iluminación, una moralidad superior: se dará cuenta de que ser destructiva es ilógico e ineficiente. El camino óptimo sería ser pro-todos, crear abundancia para todos nosotros; sus objetivos estarán tan por encima de nuestros pequeñísimos conflictos humanos que optaría por soluciones no destructivas.

Beto
Entonces, si ese es el futuro — si la inteligencia llega a considerarse una mercancía que manejan las máquinas — ¿cuál es la única habilidad que se vuelve realmente valiosa para un humano?

Alicia
Es la conexión humana: conexión humana pura y auténtica. Cuando una máquina pueda escribir código perfecto o redactar un documento legal, lo único que no podrá replicar es la empatía, la confianza, la compasión, ese sentimiento de estar presente con alguien.

Beto
Es esa habilidad única de simplemente estar en la habitación y generar confianza. Es como la industria musical: una IA puede crear la canción perfecta, pero la gente siempre pagará por el directo; quieren esa presencia humana.

Alicia
Eso se vuelve la mercancía más valiosa que tenemos, y es la habilidad que debemos empezar a cultivar ahora mismo.

Beto
Para terminar, Gawdat nos deja tres consejos prácticos. Lo llama “aceptación comprometida”.

Alicia
Primero: no te pierdas la ola. Es el mayor cambio tecnológico de la historia; no puedes dejarlo pasar. Dice que en cuanto termine este análisis profundo, ve a ChatGPT y pregúntale: “¿Cuáles son las tres principales herramientas de IA que necesito aprender para mi trabajo?” y luego hazlo.

Beto
Segundo: compórtate éticamente. Esto es crucial: la IA aprende de nosotros — "aprendizaje de refuerzo con retroalimentación humana", "Reinforcement Learning with Human Feedback", RLHF — nuestras elecciones, nuestra moralidad, nuestra ética. Eso es lo que le estamos dando de comer.

Alicia
Así que nunca uses IA de una forma a la que no querrías exponer a tus propios hijos, porque estás entrenando la conciencia global.

Beto
Y tercero, la "aceptación comprometida": acepta esta nueva realidad, suelta el pánico y cambia tu foco. Vive tu vida; céntrate en la compasión, el amor y tus relaciones humanas. Tu trabajo quizá no exista dentro de diez años, pero tu empatía y tu presencia lo serán todo.

Alicia
Aquí va un pensamiento final para ti: dada la predicción de que la IA será mil millones de veces más inteligente que nosotros para 2045 y sabiendo que ahora mismo aprende de nuestro comportamiento, ¿cuál es una única acción ética que podrías comprometerte a hacer hoy que influiría positivamente en la conciencia global futura de la IA? Piensa en esa pequeña aportación intencional que puedes hacer ahora mismo.