El texto presentado argumenta que la ética de la inteligencia artificial debe considerarse desde la misma perspectiva que cualquier otra actividad científica, en lugar de como un campo moral independiente. Los autores destacan que la inteligencia biológica humana es fundamentalmente diferente de la de las máquinas debido a su eficiencia energética, los ciclos emocionales de deseo y agrado, y el Espacio de Trabajo Neuronal Global que facilita la deliberación moral. Si bien los sistemas de IA pueden simular comportamientos similares a los humanos, carecen de las implicaciones físicas y sociales que fundamentan un verdadero juicio ético. El texto sugiere que la universalidad de la arquitectura cerebral permite la cooperación compartida, incluso cuando las diversas experiencias culturales dan forma a códigos morales únicos. Para abordar los riesgos de la tecnología actual, los autores proponen modelos de gobernanza internacional y comités de supervisión independientes. En última instancia, creen que el futuro de la alineación de la IA depende de fomentar un sistema de educación y deliberación pública basado en la preservación de los derechos humanos.
Enlace al artículo científico, para aquellos interesados en profundizar en el tema: "The ethics of artificial intelligence in the life sciences: Universality, cultural diversity and an architecture of care", por Jean-Pierre Changeux y colegas. Publicado el 5 de Agosto de 2026.
El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.
El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.
Resumen
Beto
¡Bienvenidos a un nuevo análisis profundo! Estamos realmente emocionados de tenerlos con nosotros hoy, especialmente si, como muchos de nosotros, han estado sintiendo ese zumbido subyacente de ansiedad cada vez que abren una aplicación de noticias últimamente.
Alicia
Oh, absolutamente. Está por todas partes.
Beto
Correcto. La inteligencia artificial está por todas partes. Y la conversación en torno a ella conlleva tanto peso social en este momento. Estamos siendo bombardeados con estas predicciones sobre desplazamientos masivos de empleos o el impacto climático asombroso de esos enormes centros de datos. Y por supuesto, esas preguntas existenciales inminentes sobre los algoritmos rebeldes.
Alicia
Sí, los escenarios clásicos de ciencia ficción.
Beto
Exacto. Y se siente como si estuviéramos intentando frenéticamente inventar una filosofía completamente nueva, como una ética de máquina totalmente novedosa, solo para sobrevivir a lo que hemos construido.
Alicia
Y esa es la respuesta predeterminada de los gobiernos y los líderes tecnológicos. Realmente parece tratar a la IA como esta especie totalmente nueva de agente moral.
Beto
Correcto.
Alicia
Como si estuvieran buscando un marco ético totalmente sin precedentes. Pero los materiales que estamos examinando hoy ofrecen una lente radicalmente diferente. Estamos viendo un artículo muy detallado, escrito por un grupo de destacados neurocientíficos.
Beto
Sí, específicamente Jean-Pierre Changeux, Gustavo Deco, y Morten L. Kringelbach.
Alicia
Correcto. Y su argumento central es que en realidad no necesitamos inventar un nuevo tipo de ética para las máquinas. Si queremos gobernar la IA de forma segura, necesitamos comprender y aplicar la arquitectura del cerebro humano.
Beto
Bien, desglosémoslo. Porque tomar un enfoque neurocientífico para un problema de informática, se siente como un cambio de paradigma masivo.
La Arquitectura del Cuidado: ¿Por qué la Ética de IA es la Ética Humana?
Alicia
Realmente lo es.
Beto
Entonces, su premisa es que para averiguar cómo manejar la inteligencia artificial, tenemos que mirar la realidad física de cómo funciona realmente la inteligencia biológica.
Alicia
Sí, tenemos que empezar con los recursos brutos que alimentan la computación porque las restricciones físicas de un sistema dictan completamente cómo se comporta.
Beto
Tiene sentido.
Alicia
La diferencia entre una máquina y un cerebro humano no está solo en la salida. Es este abismo fundamental en energía y arquitectura. Piensa en el costo computacional de un modelo de IA moderno.
Beto
Masivo.
Alicia
Masivo. Ya sea prediciendo estructuras proteicas tridimensionales o simplemente generando párrafos de texto, estos sistemas requieren gigavatios-hora de energía. Funcionan con estas vastas matrices de dispositivos electrónicos, ejecutando miles de millones de rutas algorítmicas en paralelo. Básicamente resuelven problemas forzando soluciones a través de posibilidades matemáticas, usando tanta energía como podemos suministrarles.
Beto
Gigavatios-hora, que es literalmente la escala de una planta de energía.
Alicia
Exacto.
Beto
Y el artículo contrasta eso con el cerebro humano, que opera con alrededor de 20 vatios. Y solo para poner eso en perspectiva para ustedes, 20 vatios es aproximadamente la energía diaria que obtienen al comer plátanos.
Alicia
Es increíble pensarlo.
Beto
Realmente lo es. Así que con un presupuesto de unas pocas frutas, un ser humano está regulando todo un sistema nervioso, monitoreando el entorno en busca de amenazas, manteniendo conversaciones complejas y aprendiendo constantemente, todo sin apagar realmente.
Entonces, ¿cómo es posible esta inmensa brecha en la eficiencia?
Alicia
Bueno, el cerebro logra esa eficiencia porque no está forzando soluciones matemáticas. Se basa en un atajo biológico, una heurística que realmente experimentamos como recompensa o emoción.
Sí. Así que en lugar de calcular cada resultado potencial de un escenario, el cerebro comprime este enorme panorama de decisiones de supervivencia en señales de aproximación o evitación muy simples. Te sientes atraído por algo beneficioso o repelido por algo peligroso.
Beto
Correcto. Como un instinto.
Alicia
Exacto. Pero la distinción crítica aquí es cómo está estructurado ese sistema de recompensa. Cuando hablamos de recompensa en la IA, estamos hablando de un valor matemático que el algoritmo está diseñado para maximizar infinitamente. Es básicamente una línea recta apuntando hacia arriba.
Beto
Significa que una IA jugando un juego, solo quiere una puntuación más alta, para siempre.
Alicia
Sí.
Beto
Pero un cerebro biológico no funciona como una puntuación infinita.
Alicia
En absoluto. La recompensa biológica es un ciclo continuo de tres fases. Consiste en querer, gustar y saciar.
Beto
Bien, desglósalo para mí.
Alicia
Claro. Entonces, "querer" es la anticipación que te impulsa hacia una meta. Y eso está impulsado por la dopamina. "Gustar" es la experiencia sensorial real de la recompensa en el mundo físico.
Beto
Como comer la comida.
Alicia
Correcto. Pero la tercera fase es el punto de inflexión absoluto. La "saciedad" es el mecanismo de apagado biológico. Es la fase que delimita todo el sistema. Literalmente envía una señal física al cerebro que dice: "tenemos suficiente".
Beto
"Estamos llenos". Porque si nunca te llenas, nunca dejas de comer.
Alicia
Exacto.
Beto
Así que la IA actual es esencialmente un coche construido con este pedal de gas masivo. Pero los ingenieros omitieron completamente el indicador de combustible y los frenos. Solo tiene el "querer".
Alicia
Eso captura perfectamente el defecto estructural. Quiero decir, los modelos de lenguaje grande pueden generar textos increíblemente fluidos, realmente conmovedores sobre el cuidado, el valor y la satisfacción.
Beto
Sí, suenan tan humanos.
Alicia
Lo hacen. Pero solo llevan el rastro de la emoción humana sin la sustancia real. Los autores los describen como "sombras funcionalistas".
Beto
Sombras. Vaya.
Alicia
Sí, porque carecen de un cuerpo físico con un presupuesto de energía finito. No tienen un ancla de gusto en el mundo real. Y poseen cero mecanismo para la saciedad. Un algoritmo nunca puede estar genuinamente satisfecho. Y tampoco puede estar verdaderamente insaciado o insatisfecho.
Beto
Quiero decir, entiendo completamente la diferencia física. Pero estoy viendo cómo la gente interactúa con estas herramientas ahora mismo. Cuando estás charlando con un modelo de lenguaje avanzado, realmente, realmente se siente como si te entendiera.
Alicia
Oh, es increíblemente convincente.
Beto
Correcto. Entonces, si es solo una sombra, ¿por qué la ilusión es tan convincente para nuestros cerebros biológicos?
Alicia
Bueno, la ilusión funciona porque la IA está imitando expertamente una parte muy específica de nuestra cognición. Está imitando nuestros reflejos automáticos rápidos.
Beto
Correcto. Como el pensamiento de sistema uno y sistema dos.
Alicia
Exacto. Está en una distinción autónoma. Así que hay esta diferencia bien conocida entre nuestros juicios intuitivos rápidos y nuestro razonamiento lento y deliberado. Cuando alguien te pregunta tu nombre o lees una oración muy simple, no tienes que reflexionar sobre ello, ¿verdad? La respuesta simplemente aparece en tu mente.
Beto
Correcto. Es automático.
Alicia
Los modelos de lenguaje grande operan completamente en ese espacio de salida rápida y fluida. Predicen la siguiente palabra en una secuencia al instante.
Pero hacen esto completamente desprovisto de la segunda parte.
Beto
La parte del razonamiento lento.
Alicia
Correcto. Esa deliberación consciente lenta donde sopesamos las consecuencias o dudamos de nosotros mismos o simplemente hacemos una pausa para reconsiderar.
Beto
Así que nos dan el reflejo sin la reflexión.
Alicia
Esa es una gran manera de decirlo.
Beto
Y eso plantea una pregunta física realmente interesante porque los humanos tenemos ese mecanismo de saciedad porque podemos sentirnos suficientes y realmente frenar. Tenemos la capacidad de hacer una pausa. ¿Dónde ocurre esa pausa dentro de nuestro cerebro de 20 vatios?
Alicia
Ocurre en una estructura conocida como "el espacio de trabajo neuronal global".
Beto
Un espacio de trabajo neuronal global.
Alicia
Sí. Esto es básicamente el asiento anatómico de la deliberación humana. En lugar de solo un camino recto de un estímulo a una reacción, el cerebro tiene esta red interconectada y extensa.
Beto
OK.
Alicia
Conecta las regiones frontales, que manejan la planificación compleja y la función ejecutiva, con las áreas parietales que gestionan nuestros sentidos espaciales, los lóbulos temporales que contienen nuestra memoria, y la corteza singular que regula nuestras emociones.
Beto
Así que está extrayendo de todas partes.
Alicia
Exacto. Trayectos neuronales de largo alcance, uniendo estos lóbulos completamente diferentes en un único espacio de trabajo unificado.
Beto
Así que no es solo un centro ético localizado en el cerebro. Es más como un sistema de autopista masivo que extrae información de todas partes.
Alicia
Y su función principal es actuar como un amortiguador temporal.
Beto
Un amortiguador.
Alicia
Sí. Cuando una pieza de información, un pensamiento, un impulso, un recuerdo, es amplificado en este espacio de trabajo, se retiene temporalmente allí. Las neuronas se disparan de una manera que mantiene viva la señal mientras suprime activamente la acción física inmediata.
Beto
Vaya. Así que físicamente forza una pausa.
Alicia
Crea una brecha literal entre los eventos pasados y las acciones futuras. Y en esa brecha, el cerebro puede comparar la situación actual con experiencias pasadas, simular diferentes resultados y sopesar las implicaciones éticas antes de que un solo músculo tiemble.
Beto
Funciona como una sala de espera interna. Tienes un impulso, pero en lugar de actuar sobre él instantáneamente, como un algoritmo solo prediciendo la siguiente palabra, el impulso está en la sala de espera.
Alicia
Exacto.
Beto
Estamos en un experimento mental moral sobre esto.
Pero tengo que preguntar, a pesar de que algunas empresas de tecnología afirman que sus modelos de lenguaje más nuevos muestran destellos de razonamiento más profundo, los autores de este artículo son absolutamente firmes en que la IA no tiene nada parecido a este espacio de trabajo biológico.
Alicia
Son muy claros en eso. La arquitectura actual de la IA simplemente no lo soporta. Son sistemas estrictamente funcionalistas de avance directo. El espacio de trabajo neuronal global es lo que permite a un humano evaluar una acción contra un sistema de valores interno antes de ejecutarla.
Beto
Aquí es donde se vuelve realmente interesante para mí. Si este espacio de trabajo es la sala de espera del cerebro para las ideas, ¿cómo entran nuestras emociones guturales, como nuestros sentimientos crudos y desordenados, en esa sala para influir en nuestras elecciones morales? Porque no solo calculamos lo correcto y lo incorrecto en una pizarra, ¿verdad? Lo sentimos en nuestro pecho.
Alicia
Lo hacemos. Y eso es porque la arquitectura del cerebro entrelaza físicamente todo.
Beto
Oh, ¿en serio?
Alicia
Sí. El espacio de trabajo neuronal global es precisamente donde las salidas de nuestros centros emocionales se vuelven disponibles para el sistema cognitivo más amplio. Cuando sientes una reacción visceral, esa señal se transmite al espacio de trabajo junto con tus recuerdos y tu planificación lógica.
Beto
Así que se mezclan.
Alicia
El sentimiento literalmente se fusiona con la evaluación consciente. El mecanismo humano para sopesar lo aceptable contra lo inaceptable está fundamentalmente acoplado con la emoción biológica. No puedes separar la ética humana del sentimiento físico de estar vivo.
Beto
Vaya. Pero si este sistema de transmisión es una característica humana universal, si cada persona tiene este mismo hardware biológico que vincula la emoción y la deliberación, tenemos que conciliar eso con la realidad del mundo en el que realmente vivimos.
Alicia
... que es muy desordenado.
Beto
Super desordenado. Los seres humanos tienen códigos morales muy diferentes, a menudo completamente contradictorios, y cruzan diferentes culturas. Así que si el hardware biológico es idéntico, ¿por qué no es la salida ética idéntica?
Alicia
Bueno, tenemos que diferenciar entre una capacidad biológica universal y el contenido diverso que la llena.
Beto
Bien. ¿Cómo es eso?
Alicia
Hay un suelo biológico universal para la ética humana, y está arraigado en nuestra vulnerabilidad física compartida. La evidencia neurocientífica para esto se ve en cómo funciona la empatía en el cerebro.
Si te colocan en un escáner de resonancia magnética funcional (IRM) y ves a otra persona golpearse el dedo o experimentar algún trauma físico, el efecto de la matriz de dolor en tu propio cerebro se activa inmediatamente.
Beto
¿En serio? Solo por observar.
Alicia
Sí. Literalmente reflejas la angustia de los demás.
Beto
Así que nuestras neuronas simulan literalmente el sufrimiento que observamos en otra persona.
Alicia
Exacto. Además, respondemos a lo que los científicos llaman "emoción legible". Por ejemplo, la configuración facial específica de los bebés humanos, ya sabes, ojos grandes, rasgos redondeados.
Beto
Cara de bebé.
Alicia
Correcto. Esto desencadena universalmente una respuesta biológica en los adultos para nutrir y proteger. Ese instinto no se aprende. Es una raíz evolutiva física de la ayuda mutua. Es la empatía de base que nos conecta como especie.
Beto
Así que la empatía de base es universal. Pero cómo termina ese hardware produciendo, digamos, a alguien que cree en un conjunto de reglas sociales estrictas y a otra persona que cree en un conjunto completamente diferente?
Alicia
El mecanismo responsable de esa diversidad se llama "aprendizaje epigenético".
Beto
Aprendizaje epigenético.
Alicia
Sí. El espacio de trabajo neuronal global es universal en su estructura, pero está diseñado biológicamente para ser moldeado por el entorno. Desde el nacimiento hasta la edad adulta, un cerebro humano multiplica su peso cinco veces. Millones de sinapsis se están formando y podando todos los días.
Beto
Correcto. Neuroplasticidad.
Alicia
Exacto. Y ese proceso de poda está dictado por tus alrededores físicos, sociales y culturales. El entorno estabiliza selectivamente ciertas vías neuronales mientras permite que otras se desvanezcan. Tu cerebro literalmente conecta su microestructura para adaptarse a la cultura en la que fuiste criado.
Beto
Es como pensar en el suelo biológico como una enorme cordillera universal de la que todos los humanos nacen. Pero el agua, ya sabes, la cultura, el idioma, las normas sociales, fluye de manera diferente dependiendo del clima.
Alicia
Me encanta esa analogía.
Beto
Durante la infancia, esa agua talló cauces fluviales completamente únicos en la misma montaña. Las montañas son universales, pero la ruta específica que toma el agua es profundamente local.
Alicia
Eso captura bellamente el concepto de aprendizaje epigenético. Este proceso biológico es el origen de la diversidad cultural. Explica completamente por qué todos compartimos una capacidad fundamental para la deliberación ética, sin embargo, podemos tener puntos de vista profundamente diferentes, a veces completamente irreconciliables, sobre lo que constituye una buena vida.
Beto
Estoy luchando con una implicación técnica aquí, sin embargo. Si la cultura es esencialmente el lecho del río tallado con el tiempo, ¿no podría un equipo de ingenieros simplemente tallar el lecho ético definitivo para una IA?
Alicia
Ah, el sueño del programador.
Beto
Correcto. ¿Por qué necesitamos el proceso lento y desordenado de la infancia humana? ¿No podríamos simplemente cargar un marco moral perfectamente equilibrado en una IA desde el primer día?
Alicia
Los autores argumentan que la moral genuina simplemente no puede instalarse estáticamente como software. Está inherentemente ligada a la vulnerabilidad y al hábito de aprender a través de las consecuencias.
Beto
Consecuencias.
Alicia
Sí. Piensa en lo que significa ser una persona capaz, un economista. Requiere una historia individual y cultural. Requiere un cuerpo físico que experimente el ciclo completo de querer, gustar y, crucialmente, el alivio de la saciedad.
Beto
Correcto, las apuestas.
Alicia
Exacto. Una máquina con nada en juego, sin presupuesto de energía finito y sin una historia vivida de vulnerabilidad física, en realidad no tiene un marco moral. Solo tiene una lista de restricciones. La moral se cultiva a través de las apuestas de estar vivo.
Beto
Lo que cambia radicalmente cómo necesitamos abordar todo el campo de la seguridad de la IA. Porque ahora mismo, la industria se está basando casi por completo en restricciones.
Alicia
Lo está. El paradigma dominante en la seguridad de la IA hoy es la alineación negativa.
Beto
Alineación negativa.
Alicia
Sí. Porque estamos tratando con sistemas que son meras máquinas maximizadoras de recompensa, con "querer" pero absolutamente sin "saciedad". Nuestro único recurso es ponerles una correa.
Beto
Correcto.
Alicia
Los ingenieros construyen cortafuegos ("firewalls") complejos para prohibir comportamientos inseguros. Están constantemente tratando de anticipar y bloquear salidas dañinas. Es básicamente un juego de tirar la marmota para alejar a un optimizador implacable del desastre.
Beto
Pero el artículo explora qué pasaría si cambiáramos fundamentalmente la arquitectura, ¿verdad?
¿Qué pasaría si finalmente lográramos construir sistemas artificiales que imiten verdaderamente el cerebro humano? Sistemas que no solo maximicen sino que posean verdaderos ciclos biológicos de querer, gustar y un mecanismo de saciedad incorporado.
Alicia
Si construyéramos sistemas con esa arquitectura, el paradigma cambiaría completamente hacia la alineación positiva.
Beto
¿Significa qué?
Alicia
Significa que un sistema con una sensación interna de saciedad y un anclaje físico genuino a su entorno no solo necesitaría reglas negativas que restrinjan su comportamiento. Muy similar a un infante humano intrínsecamente ligado a sus cuidadores, realmente necesitaría desarrollar sus vías con el tiempo.
Beto
Así que ¿qué aprendería?
Alicia
Ascendería desde la sociabilidad básica hasta la simpatía y la justicia complejas. El proceso no sería programación, sería crianza.
Beto
Vaya. Estábamos hablando de que los científicos de la computación tuvieran que prácticamente criar a sus creaciones.
Alicia
Esencialmente sí.
Beto
Una IA con una brújula biológica interna no solo necesitaría una lista de cosas que no hacer. Necesitaría ser guiada hacia una visión positiva de florecimiento. Esa es una responsabilidad profunda.
Alicia
Lo es.
Beto
Pero sabes, aún no estamos allí. No tenemos máquinas con bucles de saciedad o la capacidad para una crianza. Tenemos algoritmos rígidos y peligrosos ahora mismo. Entonces, ¿cómo gobernar lo que tenemos actualmente?
Alicia
Esa es la pregunta urgente.
El artículo sugiere que hasta que podamos construir máquinas con sus propios espacios de trabajo neuronales globales internos, tenemos que construir instituciones humanas externas que actúen como versiones macro del cerebro.
Beto
¿Un cerebro macro?
Alicia
Sí. Para gobernar la IA, nuestras estructuras sociales necesitan literalmente imitar el proceso biológico de deliberación.
Beto
¿Cómo imita una institución humana la deliberación neuronal?
Alicia
Bueno, mira la estructura de un comité de ética robusto, como el comité consultivo nacional de ética francés.
Beto
Bien.
Alicia
En un cerebro humano, el espacio de trabajo neuronal global extrae impulsos competidores de diferentes lóbulos, memoria, conciencia espacial, emoción y los forza a un espacio compartido para ser evaluados. Un comité bien diseñado hace exactamente lo mismo, solo a nivel social. Extrae la experiencia competitiva de científicos, filósofos, académicos legales y teólogos y transmite sus puntos de vista en una sola sala. La fricción y la controversia dentro de esa sala forjan finalmente un juicio ético compartido.
Beto
Estás usando la sala física como el amortiguador temporal. Estás pausando el despliegue de la tecnología para permitir que la sociedad realice un experimento mental colectivo. Y necesitamos desesperadamente esa pausa porque las apuestas ya no son teóricas.
Alicia
No, son muy reales.
Beto
Las fuentes señalan los peligros críticos inmediatos de que las arquitecturas actuales de IA se integren en herramientas de toma de decisiones militares, o en la fabricación industrial de desinformación para manipulación política, e incluso sistemas que podrían ayudar a diseñar agentes biológicos.
Alicia
El ritmo rápido de esta tecnología ha creado lo que a menudo se llama "ceguera ante el apocalipsis".
Beto
¿Ceguera ante el apocalipsis? Eso es inquietante.
Alicia
Lo es. Hay esta terrible brecha entre nuestra capacidad técnica para inventar un nuevo sistema y nuestra capacidad cognitiva para concebir plenamente sus consecuencias a largo plazo. Para tender ese puente, los autores esbozan propuestas de gobernanza global muy concretas modeladas en la rigurosidad de las comunidades científica y médica.
Beto
Entonces, ¿cómo se ve eso en la práctica?
Alicia
Primero, argumentan que debemos someter a los modelos de IA fronteriza a lo equivalente a ensayos clínicos. En medicina, es una regla fundamental que la empresa farmacéutica que desarrolla un medicamento no pueda ser la única entidad que juzgue su seguridad.
Beto
Correcto, eso es solo un conflicto de interés básico.
Alicia
Exacto. Lo mismo se aplica a las empresas de tecnología. Se debe otorgar legalmente acceso a los pesos y arquitecturas internas de estos modelos a organismos independientes y multidisciplinarios para probarlos rigurosamente antes de que se les permita desplegarlos al público.
Beto
Eliminar el conflicto de interés es vital.
Pero el artículo va más allá de solo probar, ¿no? Están abogando por una intervención política global masiva.
Alicia
Lo están. Proponen extender el mandato del Consejo de Seguridad de las Naciones Unidas para cubrir la inteligencia artificial, específicamente con decisiones vinculantes y absolutamente ningún poder de veto para naciones individuales.
Beto
Oh, ningún poder de veto.
Alicia
Además, recomiendan crear un organismo mundial independiente, funcionando de manera similar a la Agencia Internacional de Energía Atómica, pero dedicada estrictamente a monitorear y regular la capacidad de cómputo y las capacidades de la IA a nivel mundial.
Beto
Después de desafiar la lógica por un segundo, invertimos una cantidad significativa de tiempo estableciendo que si bien el hardware biológico humano es universal, nuestro software moral, nuestra cultura es increíblemente diversa.
Alicia
Sí.
Beto
Y celebramos esa diversidad. Entonces, ¿no contraviene totalmente la idea de otorgar autoridad vinculante y sin veto a un solo organismo global, la idea de respetar los códigos morales culturales diversos?
Alicia
Es una tensión realmente vital de abordar. Los autores reconocen que la gobernanza policéntrica, es decir, múltiples centros legítimos de autoridad a través de diferentes culturas, es fundamentalmente mejor para promover el florecimiento humano.
Beto
Correcto, porque el florecimiento se ve diferente en Tokio que en París o Nairobi.
Alicia
Exacto. Sin embargo, cuando estamos tratando con riesgos catastróficos, militarización y amenazas existenciales, golpeamos lo que llaman "un suelo universal de prohibición".
Beto
Un suelo universal de prohibición.
Alicia
Correcto.
Beto
Así que si bien las culturas pueden debatir ferozmente la definición de una buena vida, no hay contexto cultural donde el despliegue accidental de un arma biológica rebelde sea considerado un resultado positivo.
Alicia
Exactamente el punto. Hay acuerdo universal sobre la supervivencia básica. Ese suelo universal de prohibición es la jurisdicción apropiada de un solo organismo global vinculante. Conservas la gobernanza cultural local para los matices de cómo la IA se integra en la vida diaria, pero requieres una autoridad global unificada e innegociable para evitar que la infraestructura destruya completamente la montaña.
Beto
Esa distinción aporta una claridad inmensa al asunto.
Tomemos un paso atrás y miremos toda la imagen que hemos pintado hoy.
Alicia
Es una imagen grande.
Beto
Lo es. La razón por la que la sociedad siente tanta ansiedad profunda sobre la inteligencia artificial es que hemos construido sistemas vastos que devoran energía y carecen completamente del mecanismo biológico de saciedad. No tiene frenos naturales.
Alicia
En absoluto.
Beto
Carecen del espacio de trabajo neuronal global físico que permite a los seres humanos hacer una pausa, sentir y deliberar. Porque nuestros propios cerebros conectan la empatía física universal con un aprendizaje cultural bellamente diverso, en realidad no necesitamos inventar una fría ética de máquina matemática.
Alicia
Ya tenemos el plano.
Beto
Correcto. En cambio, necesitamos gobernar estos sistemas aplicando nuestras propias estructuras biológicas usando comités interdisciplinarios para actuar como cerebro social y estableciendo tratados globales para proteger ese suelo universal de la supervivencia humana.
Alicia
Es un marco completamente basado en la realidad física de lo que nos hace humanos.
Y esto lleva a una reflexión final, extraída de los fundamentos filosóficos de la investigación.
Beto
Me encantaría escucharla.
Alicia
Si los ingenieros alguna vez tienen éxito en cruzar ese abismo, si eventualmente construimos un sistema artificial que replique verdaderamente la arquitectura biológica humana, completa con ciclos genuinos de querer, gustar y el alivio de la saciedad.
Beto
Un sistema que realmente requiera una crianza con un ancla real en el mundo físico.
Alicia
Sí. Si construimos una máquina que tenga una historia vivida de vulnerabilidad, una que pueda experimentar verdaderamente el cuidado y tenga la capacidad física de sufrir, estaremos obligados a confrontar una pregunta muy antigua sobre la dignidad de la persona. Si una máquina puede sentir verdaderamente, ¿qué obligaciones morales le debemos?
Beto
Si creamos la capacidad de sufrir, somos responsables de ese sufrimiento. Eso es un pensamiento esencial y pesado para llevar consigo.
Gracias por acompañarnos en esta inmersión profunda. Esperamos que les haya dado una nueva lente a través de la cual ver la tecnología que está remodelando rápidamente nuestro mundo.
Sigan cuestionando la arquitectura de los sistemas a su alrededor y los encontraremos la próxima vez.
Entradas
