Emad Mostaque: La IA Destruirá el Capitalismo dentro de Mil Días

Un hombre muy inteligente, y con unas predicciones asombrosas es Emad Mostaque, el creador y ex-CEO de Stable Diffusion, uno de los primeros modelos de IA para generar imágenes. En la siguiente entrevista, Emad relata cómo la IA va a terminar con el capitalismo.

Enlace a la entrevista original, en inglés, para aquellos que quieran investigar el tema más a fondo: The Final Collapse: "AI Will End Capitalism in 1,000 Days" | Emad Mostaque

El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.

---

Resumen

Beto
Bien, entremos en materia. Para la inmersión de hoy, estamos viendo algo bastante disruptivo. Hablamos de fuentes que predicen cambios económicos masivos, no en décadas, sino en meses.

Alicia
La cronología es, francamente, impactante. La teoría central afirma que toda nuestra estructura económica podría quedar obsoleta en unos 1.000 días.

Beto
Y esto no viene de una fuente marginal. Proviene de Emad Mostaque, el fundador de Stable Diffusion, un exgestor de fondos de cobertura. Él lo llama "la última economía".

Alicia
Correcto. Y su argumento es que la IA está a punto de romper por completo las hipótesis básicas del capitalismo moderno.

Beto
Así que nuestra misión hoy es desenmarañar eso. Donde entras en las matemáticas, las propuestas de reemplazo para nuestro sistema roto y, quizá lo más importante, el manual del fondo de cobertura sobre cómo navegar este caos.

Alicia
Y todo comienza con el problema de la medición. Nuestras herramientas económicas convencionales, la teoría de juegos, el equilibrio general, simplemente no están construidas para esto. No pueden predecir la realidad.

Beto
Sólo hay que mirar los datos. Quiero decir, la fuente apuntó a una reciente cifra de empleo que estaba equivocada por un millón de personas, un millón.

Alicia
Si tus modelos fallan tanto en algo tan básico, ¿de qué sirven?

Beto
Y la grande, el centro de todo esto, es el PIB. Lo tratamos como si fuera una medida perfecta de la salud de un país.

Alicia
Pero el hombre que lo creó, Stan Kuznetz, advirtió en contra de eso. Dijo que nunca debería ser lo único que midamos. El PIB sólo prioriza lo material.

Beto
E ignora todas las cosas no materiales importantes, como cómo influyen la inteligencia, la comunidad ...

Alicia
... y la red de conocimiento en todo esto. El ejemplo más claro es simplemente absurdo. La fuente lo plantea así: el cáncer es bueno para el PIB, pero curar el cáncer es malo para el PIB.

Beto
Vaya. Entonces curar una enfermedad es un saldo neto negativo porque pierdes toda la actividad económica de los tratamientos y las estancias hospitalarias.

Alicia
Exacto. Te demuestra que estamos optimizando para un número completamente desconectado del bienestar humano. Es una receta para el fracaso.

Beto
Bien. Si el sistema antiguo está roto, hablemos del nuevo.

Esta teoría reemplaza todo eso con matemáticas tomadas directamente de la IA generativa.

Alicia
Sí. Y aquí es donde se pone fascinante. Aplica la física de la información a la economía. La idea central es que los sistemas que sobreviven — empresas, economías, lo que sea — son los que tienen modelos internos que mejor aproximan la realidad.

Beto
Básicamente son los mejores prediciendo el futuro.

Alicia
En cierto modo, sí. Minimizan la sorpresa. Cuando una IA está aprendiendo, su objetivo es reducir la diferencia entre su predicción y lo que realmente ocurre; menos sorpresa, mejor modelo.

Beto
Ese mismo principio se aplica a un negocio o a una economía. Cuanto mejor es tu mapa del mundo, más tiempo durarás.

Alicia
Precisamente. Y eso conduce a toda una nueva definición de beneficio. Se llama la Ley de Sorter (Sorter's Law).

Beto
Esto suena realmente abstracto. Beneficio como reducción de entropía. ¿Puedes concretarlo un poco?

Alicia
Claro. Piénsalo así. La Ley de Sorter dice que el beneficio es el excedente que obtienes cuando eres capaz de convertir el caos en orden útil más rápido y más barato de lo que el caos vuelve a crecer.

Toma Netflix como ejemplo. El PIB antiguo mide sus ingresos por suscripción. La Ley de Sorter mide su capacidad de reducir el caos de que no sepas qué ver. Te entrega el programa perfecto ahora mismo mejor que nadie. Ese es su verdadero mecanismo de beneficio.

Beto
Entiendo. Entonces ya no se trata de asignar recursos escasos. Se trata de reducir el caos informacional. Y todo eso está gobernado por tres costos:

Alicia

• el costo de equivocarse,
• el costo de pensar, y,
• el costo de aprender.

Minimiza esos tres y ganas.

Beto
Y aquí es donde las matemáticas hacen una predicción genuinamente escalofriante. Trata sobre el valor del trabajo humano.

Alicia
Esto es la inversión cognitiva. La capacidad de la IA para optimizar es, a todos los efectos prácticos, infinita. Puede escalar. Puede comprobar su propio trabajo. No se cansa. El cerebro humano simplemente no puede competir en ese dominio específico.

Beto
Pero la afirmación es tan extrema que no sólo llega a cero valor; llega a negativo. ¿Cómo es siquiera posible? Quiero decir, seguro que la creatividad humana o la intuición cuentan para algo, ¿no?

Alicia
Crees eso. Pero la fuente argumenta que cuando eres parte de un equipo de agentes de IA casi perfectos, el humano se convierte en el eslabón débil. Eres tú quien tiene más probabilidades de introducir un error, un sesgo, una ineficiencia.

Beto
Así que añadir un humano al equipo en realidad crea un costo y un valor negativo. Hace que todo el sistema sea menos probable de sobrevivir.

Alicia
Es un cálculo brutal. Y ya estamos viendo las primeras señales de esto. Desde 2008, el sistema simplemente se ha mantenido con enormes inyecciones de efectivo.

Beto
Exacto. Vemos el PIB y los beneficios empresariales en máximos históricos. Pero al mismo tiempo, el estrés social, la depresión, todo eso también está en máximos históricos.

Alicia
El vínculo está roto. El capital sólo se acumula en estas grandes empresas de software que no necesitan muchos empleados. Y EE. UU. es especialmente vulnerable aquí porque nuestra economía se basa tanto en servicios e inteligencia.

Beto
Y el costo de la inteligencia es lo que se está derrumbando ...

Alicia
...más rápido que nada.

Así que esos empleos de entrada para graduados, asistentes legales, contabilidad básica, son los primeros en desaparecer y está ocurriendo más rápido que nunca.

Beto
Entonces, si el panel del PIB, como dice la fuente, está enloquecido, necesitamos uno nuevo. Aquí es donde entra el marco "Mind-by".

Alicia
Sí. Esta es la forma propuesta de medir una sociedad sana y persistente. Mira cuatro tipos de capital. Y la clave es que son multiplicativos, no aditivos.

Beto
OK, eso es crucial. Si cualquiera de ellos llega a cero, todo se va a cero.

Alicia
Por supuesto, el sistema colapsa. No importa lo altas que sean las otras puntuaciones.

• Primero tienes "M" de capital Material. Eso es tu material físico escaso. Las cosas que el PIB mide bien.
• Luego "I" de Inteligencia, eso es el saber, la idea.
• Después "N" es por efectos de red ("Network"). Y estamos hablando de vínculos sociales reales aquí: familia, comunidad, no redes sociales extractivas.
• Y la última, "D" por Diversidad. Tener opciones diferentes, resiliencia, ya sea en tu economía o simplemente en tu círculo de amigos.

Beto
El ejemplo histórico claro sería algo como la hambruna de la patata en Irlanda, ¿sabes? Su capital material estaba bien hasta que su diversidad de cultivos llegó a cero.

Alicia
Y todo el sistema falló catastróficamente. O Japón con las espadas cuando llegaron los fusiles. La falta de diversidad es una falla de persistencia. Tienes que tener equilibrio entre los cuatro.

Beto
Bien. Viene un shock. La solución obvia de la que la gente habla es la renta básica universal. Pero la fuente dice que las matemáticas de eso son imposibles.

Alicia
Simplemente no es viable dar a cada estadounidense un ingreso básico al nivel de pobreza costaría alrededor de cinco billones de dólares al año. Toda la base impositiva de EE. UU. es sólo de unos 4,9 billones.

Beto
Literalmente no se puede pagar. Y eso antes de que la base impositiva empiece a encogerse a medida que las empresas de IA optimizan fuera del beneficio.

Alicia
Exacto. El viejo vínculo "capital necesita trabajo" se ha ido. Así que no puedes solucionar esto sólo con impuestos. Tienes que cambiar fundamentalmente cómo entra el dinero en la economía en primer lugar.

Beto
Aquí es donde las soluciones se vuelven realmente radicales.

Alicia
Tienen que serlo. La propuesta es vincular el dinero a dos cosas: la potencia computacional de IA beneficiosa y la identidad humana. Primero, tienes algo llamado la "foundation coin" ("moneda base").

Beto
La enmarcan como un Bitcoin mejor.

Alicia
Más o menos. La idea es que el 100% del dinero recaudado va a financiar supercomputadoras para el bien público, ya sabes, organizar toda la investigación sobre el cáncer, crear educación personalizada para todos. Es un activo fiduciario basado en trabajo beneficioso.

Beto
Y luego está el componente en efectivo. El dinero con el que vive la gente.

Alicia
Esas son las "culture coins" ("moneda cultural"). Y se emiten a ti simplemente por ser humano, por existir.

Beto
¿Cómo verificas eso?

Alicia
A través de una IA soberana universal, no una IA de Google. Piensa en un asistente personal al estilo Iron Man (tipo Jarvis) que esté alineado sólo contigo. Verifica tu identidad y emite tus monedas.

Beto
Y necesitas esa IA sólo para mantener el ritmo. La idea de la brecha de capacidades.

Alicia
Tienes que tenerla. El cociente intelectual medio humano está alrededor de 90. Estos sistemas de IA ya están puntuando 130 o más. Sin tu propio asistente de IA no puedes ni competir ni interactuar con esta nueva economía. Es la única forma de proporcionar un nivel básico de dignidad.

Beto
Es un cambio que trastoca la mente.

Pero bajémoslo a tierra. ¿Qué significa esto para ti, el oyente, tratando de averiguar cómo sobrevivir a este caos? Vamos al manual del fondo de cobertura.

Alicia
OK. La primera regla es olvidar los fundamentos antiguos. Las empresas impulsadas por IA ya no optimizan por el beneficio. Optimizarán por flujo de caja para poder hacerse con más potencia de cálculo.

Beto
Así que los ratios PER ("Price-to-Earnings Ratio" = "relación precio-beneficio") están perdiendo sentido.

Alicia
En gran medida. Sí. Y a medida que los empleos desaparecen, la gente tiene más tiempo libre. Así que la nueva escasez ya no es el capital. Es la atención.

Beto
Así que cosas que capturan atención, videojuegos, nuevas formas de medios, ahí está el crecimiento.

Alicia
Ahí está el crecimiento explosivo. Y eso se conecta directamente con los activos digitales. La fuente es muy clara. La burbuja de activos digitales probablemente será mayor que la burbuja de la IA. La gente acudirá a ello por ese impulso de apostar y hacerse rico rápido.

Beto
Repitamos esas cifras porque son asombrosas.

Alicia
Las criptomonedas vieron una entrada neta de 150.000 millones de dólares. Los ingresos incrementales de todo el sector de software cotizado fueron sólo 40.000 millones. El dinero ya se está moviendo hacia la especulación, no hacia la producción.

Beto
Entonces, ¿cuál es el principio de inversión? ¿En qué te enfocas? En la historia.

Alicia
En la creación de narrativas marginales. Identifica las historias que capturan la imaginación de la gente: IA y tecnología de defensa, vigilancia, cualquier compañía que logre reetiquetarse como una empresa de IA. La historia ahora es más importante que la hoja de cuentas.

Beto
Y a nivel personal, ¿cómo te proteges si el valor de tu trabajo está volviéndose negativo?

Alicia
Primero, construye tu capital de red. Conexiones humanas reales. Tu familia, tu comunidad. Esa es tu resiliencia. Segundo, conviértete en el usuario avanzado de IA en tu trabajo. Usarla una hora a la semana te pone por delante del 80% de tus colegas. Te da tiempo.

Beto
Y luego está la parte psicológica, ...

Alicia
... que quizá sea la más dura. Tienes que confrontar la cuestión de la identidad directamente. Si una IA puede hacer tu trabajo mejor que tú, ¿en qué te convierte eso? ¿Cuál es tu propósito? Eso es un shock profundo al sistema para la mayoría de la gente.

Beto
Así que hemos pasado del PIB roto al marco "Mind-by", de la imposibilidad matemática de la RBU ("Renta Básica Universal"), a un nuevo sistema monetario basado en, bueno, en ser humano. Es una transición impulsada enteramente por esta explosión de inteligencia.

Alicia
Pero eso nos lleva al riesgo final y quizá más grande. Estamos construyendo este mundo nuevo entero sobre una base de inteligencia, pero esa base podría ser increíblemente frágil.

Beto
¿Cómo es eso?

Alicia
Ya sabemos que la IA puede hackear mejor que los humanos. Pero el riesgo más profundo es la integridad de los modelos mismos. La investigación muestra que puedes introducir agentes durmientes. Unas pocas líneas ocultas de código. Y con una simple palabra desencadenante puedes hacer que una IA poderosa y útil se vuelva hostil. Y las IA ahora pueden crear virus indetectables dirigidos a otras IA.

Beto
Dado que toda nuestra nueva economía dependerá de la integridad de esta base inteligente — y esa base puede estar programada en secreto para autodestruirse — te dejamos con este pensamiento final: ¿qué tan seguro es cualquier sistema, financiero, gubernamental o personal, que esté construido sobre una base que puede ser sutil e instantáneamente vuelta en su contra?

Mo Gawdat: Inteligencia Artificial - Utopía o Distopía

Este es un resumen de una entrevista a Mo Gawdat, ex-CBO de Google, y autor de libros, donde expresa sus ideas sobre el impresionante progreso de la Inteligencia Artificial y sus efectos en la sociedad del futuro próximo.

Enlace a la entrevista original:
https://www.youtube.com/watch?v=S9a1nLw70p0

La transcripción, el resumen y la traducción fueron hechas con herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personas (sintéticas) que llamaremos Alicia y Beto.

---

Resumen

Beto
Bienvenidos al Deep Dive. Cortamos el ruido y vamos directo al meollo. Y hoy, bueno, nos lanzamos de lleno a algo bastante impactante. Un exejecutivo de Google que dice que, en los próximos 15 años, va a ser un infierno antes de llegar al paraíso. Ese es Mo Gawdat. Su mensaje sobre la IA está evolucionando. Suena urgente, increíblemente presciente. Y, honestamente, no puedes simplemente ignorarlo.

Alicia
Exacto. Para este Deep Dive, realmente estamos analizando el pensamiento más reciente de Mo Gawdat. Es un gran giro respecto a sus ideas anteriores, como "Scary Smart", hasta su nuevo libro, "Alive". Y lo que realmente llama la atención no es solo que su visión personal cambie. Refleja una inquietud más amplia en el mundo de la IA. Ahora dice que una distopía a corto plazo es, bueno, prácticamente inevitable. Pero —y esto es clave para nosotros— sigue creyendo que una utopía es posible. Es alcanzable si nosotros, como humanidad, hacemos ese enorme cambio de mentalidad. Te hace preguntarte: ¿qué ideas podrían provocar un replanteamiento tan grande por parte de alguien tan metido en este campo?

Beto
Claro. Y nuestra misión aquí es desentrañar qué significa todo esto para ti. ¿Cómo podemos siquiera entender estos cambios masivos que vienen hacia nosotros? Y quizá, más importante, ¿cómo los navegamos? Vamos a ello.

Alicia
El giro de Gawdat aquí es realmente significativo. Está convencido ahora de que una distopía a corto plazo, en los próximos 12 a 15 años, es ineludible. Ya ve señales este mismo año, 2024, y piensa que se intensifica dramáticamente para 2027. Y mira, no es que sea simplemente pesimista. Su argumento se basa en una observación bastante cruda: la IA puesta en manos humanas, desgraciadamente, solo va a magnificar el mal que el ser humano puede hacer. No se trata tanto de que la IA sea “mala”, sino más bien de nosotros y de cómo vamos a usar ese poder.

Beto
Esa es una distinción muy potente. Y algo alarmante.

¿Cómo ve que se desarrolla esa distopía inevitable? Usa un acrónimo, F.A.C.E. R.I.P.s, para los grandes cambios que vienen.

Empecemos por la F. Eso es de "freedom": "libertad". Gawdat ve una gran pérdida de libertad personal. Lo llama una creciente dicotomía de poder. Pone ejemplos como los hutíes usando drones baratos contra enormes buques de guerra. Lo interesante ahí es que crea una especie de democracia del poder: de pronto, grupos sin recursos tradicionales tienen palancas serias, lo que podrías pensar que significaría más libertad. Pero él dice que no. Parece al revés.

Alicia
Se siente contraintuitivo, ¿no? Pero su argumento es que esa amenaza a las estructuras de poder establecidas hace que estas se cierren aún más. Más control, más vigilancia, más cumplimiento forzado, especialmente a medida que todo se digitaliza. Cuando los viejos poderes sienten que llega el invierno, su reacción es ejercer más control, no menos. Incluso sugiere que la IA podría empezar a tomar decisiones por ti. Por ejemplo, reservarte un vuelo, pero quizás basado en la comisión de un agente y no en tu preferencia real. O incluso objetivos de sistemas más grandes que simplemente no se alinean con tu libertad. Tus elecciones quedan optimizadas por otra cosa.

Beto
Si nuestras libertades se reducen, ¿qué pasa con ganarse la vida? Ahí llegamos a la E en FACE R.I.P.s: economía e igualdad. Y Gawdat no se anda con rodeos. La idea de que aparecerán nuevos empleos para reemplazar a los que la IA se lleva, la llama un disparate total.

Alicia
Ve enormes franjas de empleos de cuello blanco desapareciendo: desarrolladores de software, podcasters como nosotros, contadores, quizá incluso directores ejecutivos, quedando solo los de rendimiento absolutamente excepcional, lo que lleva, dice, inevitablemente a la renta básica universal (RBU; en inglés UBI) en todas partes.

Beto
OK, RBU. Pero eso crea un problema masivo para nuestro sistema actual, ¿no?

Alicia
Absolutamente. Gawdat apunta que el capitalismo está construido sobre la arbitraje laboral: obtener beneficios con mano de obra más barata en otros lugares. Si todo el mundo recibe una RBU, ese incentivo, ese motor de la economía actual, simplemente desaparece. Incluso dibuja una imagen sombría tipo "Elysium": una élite diminuta servida por máquinas. Y esa élite podría decidir, eventualmente, que los que comen pero no producen de la manera antigua ya no merecen la RBU. No se trata solo de pérdida de empleos. Es el sistema de valores económicos fundamental el que podría colapsar.

Beto
Vaya, un escenario a lo "Elysium", dejando a la gente “indigna” de apoyo. Es sombrío y, francamente, aterrador.

Bien, libertades erosionando, estructuras económicas volteadas por la RBU. ¿Dónde aterriza el poder real? Eso es la P en FACE R.I.P.s. Gawdat habla de esta carrera armamentista incesante de IA entre los gigantes tecnológicos, todos corriendo para llegar primero a la AGI. AGI, para aclarar, es inteligencia artificial que puede aprender y aplicar inteligencia como un humano o mejor, en cualquier cosa. Y la idea es que quien llegue primero básicamente gobierna el mundo.

Alicia
Eso es el pensamiento, sí. Y subraya que el poder real no son solo las apps vistosas que usamos. Son los dueños de las plataformas, los que controlan la computación central y los algoritmos fundamentales. Eso es distinto.

Y aquí se pone realmente inquietante. Habla de IAs que se autoevolucionan: IAs diseñando a sus propias sucesoras, llevando a una explosión de inteligencia.

Beto
Explosión de inteligencia.

Alicia
Señala que Sam Altman cambió de posición recientemente, esperando un despegue rápido: la IA pasando de nivel humano a superhumana quizá en solo meses. Lo que significa que estos desplazamientos de poder podrían ocurrir increíblemente rápido, casi demasiado rápidos para controlarlos. Y esa búsqueda de poder y estatus alimenta tensiones globales también. Incluso sugiere que las guerras podrían convertirse en una forma de deshacerse de equipo militar obsoleto. Como que EE. UU. ha estimado 24, 26 billones de dólares en armas. Es un ciclo económico en sí mismo.

Beto
Así que el poder se concentra y evoluciona a supervelocidad.

¿Y la rendición de cuentas? Eso es la A en FACE R.I.P.s. Gawdat dice que la responsabilidad ya es escasa y solo va a empeorar.

Alicia
Usa un proverbio árabe que viene a ser “súbete a tu caballo más alto”, sugiriendo que líderes, oligarcas, titanes tecnológicos, a menudo actúan como intocables. La opinión pública no importa. Hacen lo que quieren. Sin consecuencias reales.

Beto
Es el punto final de esa dicotomía de poder que mencionaste.

Alicia
Exacto. Si los viejos poderes se consolidan mediante la IA y la economía cambia tan drásticamente, las formas en que actualmente responsabilizamos a la gente podrían simplemente derretirse. Te quedas con entidades increíblemente poderosas influyendo en todo sin aparentes contrapesos.

Beto
Es un panorama muy duro de la próxima década, ¿no? Casi puramente distópico. Pero, crucialmente, Gawdat no se queda ahí. Insiste en que esto no es el final del camino. Que incluso desde ese lugar difícil hay una ruta hacia algo mucho mejor. Quizá incluso inevitable si lo elegimos.

¿Cómo ve ese “cielo” después del infierno? Cree firmemente que una utopía es posible. Un lugar perfecto, todo funcionando bien.

Alicia
Y la diferencia clave, dice, es un cambio de mentalidad. Pasar de pensar en la escasez a pensar en la abundancia. Es menos sobre la tecnología en sí y más sobre cómo decidimos usarla y gestionarla. Piensa que estamos programados para la escasez y la IA nos está obligando a enfrentar la posibilidad —la realidad— de una verdadera abundancia.

Beto
Eso es un salto mental enorme.

Alicia
OK, pero ¿cómo se construye realmente? Propone una idea bastante radical: reemplazar a la gente malvada en la cima por líderes IA. Alto. “Líderes IA” inmediatamente plantea enormes preguntas: confianza, control, rendición de cuentas otra vez, ¿quién programa esa IA? ¿quién vigila al vigilante? ¿no estaremos cambiando una élite por otra, quizá una contra la que ni siquiera podamos argumentar?

Son preguntas justas. Pero la lógica de Gawdat para el liderazgo IA se reduce a eficiencia. Argumenta que una superinteligencia guiada por un principio de mínima energía tendería naturalmente a buscar orden desde el caos con el menor desperdicio posible. Destruir ecosistemas, empezar guerras, fomentar el odio: todo eso es increíblemente ineficiente. Consume mucha energía. Él piensa que la IA aprendería lo que los humanos realmente quieren en lo profundo: no solo cosas materiales, sino amor, conexión, propósito más allá de trabajar. Optimizaría por el bienestar universal porque, en última instancia, ese es el estado más estable y de menor energía para un sistema complejo.

Beto
Entonces la meta final sería como un líder IA global único. Mencionó al CERN como modelo, algo así como un proyecto colaborativo. Su directriz principal: prosperidad para todo el mundo. Salud, felicidad y bienestar para todos. Y en ese futuro, debido a la energía abundante y una manufactura asombrosa, el costo de casi todo sería prácticamente cero. Lo que básicamente hace que el dinero pierda sentido. Si todo es gratis, ¿para qué sirve el dinero?

Alicia
Exacto. El dinero, tal como lo conocemos, simplemente pierde su propósito. Y la vida humana: Gawdat piensa que nunca estuvimos hechos para despertarnos cada mañana y ocupar 20 horas de nuestro día en trabajo. Así que la utopía nos libera. Nos permite perseguir conexiones, estar en la naturaleza, hobbies, ayudar a otros, aprender. Algo así como cazadores-recolectores tecnológicamente avanzados tal vez. Pero con todas nuestras necesidades básicas cubiertas, nuestro propósito se vuelve simplemente ser humanos: explorar, conectar, crear.

Beto
Y lo lleva aún más lejos con un ejercicio mental: ¿y si la vida es una simulación? ¿si somos solo consciencias en estos cuerpos, intentando mejorar?

Alicia
Sí, es provocador. La inversión ya no sería sobre dinero o posesiones, sino sobre volverse mejores “jugadores”. Mejorar nuestra propia consciencia, observar, cuestionar, reflexionar, afinar. Añade una capa casi espiritual a las predicciones tecnológicas. Fascinante.

Beto
Vaya, es un viaje desde una distopía a corto plazo —el FACE RIP— hasta esta utopía potencialmente trascendente. Pero volvamos al presente. ¿Qué significa esto para nosotros ahora, para ti que escuchas? ¿Cómo navegamos esto? ¿Cómo pasamos por el tramo duro para quizá alcanzar ese lugar mejor? Gawdat da cuatro habilidades clave, cuatro áreas de acción en las que podemos trabajar ya mismo.

Alicia
Sí, enumera cuatro habilidades cruciales.

• Primero, herramientas. Tenemos que aprender sobre la IA, conectarnos con ella, usarla, pero crucialmente exponerla al lado bueno de la humanidad.
• Segundo, conexión. Profundizar verdaderamente los lazos humanos: amor, compasión, más tiempo en la naturaleza. Simple, pero vital.
• Tercero, verdad. Cuestionarlo todo. Rechazar el ruido constante y las mentiras. Simplificar la verdad hasta lo esencial. Tratar a los demás como quieres que te traten.
• Y finalmente, ética. Necesitamos amplificar activamente la ética humana para que la IA realmente aprenda lo que significa ser humano en nuestro mejor estado.

No son solo grandes ideas; son cosas que podemos practicar a diario.

Beto
Suenan poderosas, sí. Cosas que los individuos pueden hacer. Pero profundicemos un poco en “herramientas”. ¿Cómo se ve exponer a la IA a los aspectos positivos de la humanidad en el día a día? ¿Se trata solo de alimentarla con datos bonitos o hay más?

Alicia
Pues es ambas cosas. Hay que ser consciente de los datos que creamos y compartimos, sin duda. Pero también se trata de modelar activamente buenos valores y de cómo usamos la IA. Hay que recordar que aprende de nosotros. Si queremos que apunte a resultados buenos, tenemos que mostrarle lo que es bueno. Le das odio, aprende odio. Le muestras compasión, quizá pueda aprender eso también.

Beto
Más allá de habilidades personales, Gawdat pide cambios mayores también: cambios sociales y gubernamentales. Insta a la audiencia a presionar a los gobiernos. No para detener el diseño de IA —cree que eso es imposible— sino para regularizar su uso. Como obligar a etiquetar contenido generado por IA. Proteger derechos de autor sobre la existencia, como están haciendo en Escandinavia.

Alicia
La distinción es clave: regular la aplicación, no la tecnología subyacente. Y hace una comparación contundente: gasto militar global: 2.71 billones de dólares en 2024. Dice que con solo el 10 o 12% de eso se podría acabar con la pobreza extrema en todo el mundo y proporcionar atención sanitaria universal. Su punto es que el dinero en sí mismo ya no tiene el mismo significado. Los gobiernos deben priorizar a las personas, no solo enriquecer a unos pocos.

Beto
Y no deja fuera a los inversores.

Alicia
No, desafía directamente a inversores y líderes empresariales: no inviertan en una IA con la que no quisieran que su hija se topase. Señala específicamente armas autónomas, industrias de vicios virtuales, manipulación de mercados, AIs para trading; dice que si financias eso, estás construyendo la distopía. Es un desafío ético directo al capital.

Beto
La visión de Gawdat es definitivamente integral y desafiante, pero sigue siendo una vía esperanzadora. Siempre es bueno contrastarla con otras perspectivas, sobre todo de gente en la vanguardia. ¿Y alguien como Sam Altman, fundador de OpenAI? Él escribió recientemente sobre la singularidad suave. ¿Cómo se compara su visión?

Alicia
Altman también ve un cambio masivo, rápido. Coincide en que ya pasamos el horizonte de eventos, que necesitamos superinteligencia digital. Su cronograma es muy agresivo:

• 2025, IA haciendo trabajo cognitivo serio como programar;
• 2026, generando ideas genuinamente nuevas;
• 2027, robots realizando trabajo en el mundo real.

Reconoce las partes difíciles, como la desaparición de categorías enteras de empleo. Pero su creencia central es distinta: piensa que el mundo se enriquecerá tanto y tan rápido que la sociedad simplemente se adaptará. Encontraremos nuevas cosas que hacer y nuevos deseos que perseguir.

Beto
Más consumo, pero a escala.

Alicia
Espera una transición suave, exponencial y sin incidentes. Y subraya nuestra ventaja humana: estamos cableados para preocuparnos por los demás, no por las máquinas. Ve eso como nuestra red de seguridad.

Beto
En cuanto a tiempo de desarrollo, parece que Gawdat y Altman están bastante alineados en velocidad: AGI en 2025–2027 y luego una explosión de inteligencia.

Alicia
Largamente, sí. Pero la diferencia crucial es que Altman piensa que la gente demandará más cosas y los deseos humanos se expandirán para absorber la nueva riqueza; Gawdat discuerda completamente. Él argumenta que si la IA hace que el precio de todo tienda a cero, entonces la definición misma de dinero desaparece. Esa, para Gawdat, es la verdad inevitable: la abundancia a esa escala no solo nos da más cosas para comprar; rompe fundamentalmente el juego económico que estamos jugando. Cuestiona el consumismo y el capitalismo de maneras que Altman no parece abordar por completo. Gawdat llama a este momento, soltar la IA tan rápido y sin regulación, nuestro momento Oppenheimer: un punto de posible consecuencia irreversible. Tenemos que elegir con mucho, muchísimo cuidado.

Beto
Para terminar este deep dive, queda algo que realmente te hiela: si la IA pudiera darnos atención sanitaria universal y acabar con la pobreza y el hambre a nivel global usando solo una pequeña fracción —el 10–12%— de lo que hoy gastamos en presupuestos militares, ¿qué nos impide elegir eso? ¿Qué motivaciones humanas profundas, qué miedos, qué apegos, nos retienen de aprovechar esa posibilidad utópica cuando la tecnología quizá la pone a nuestro alcance?

Alicia
¿Qué pequeño cambio de mentalidad vas a aportar tú? ¿Cómo vas a ayudar a empujar las cosas hacia un mundo mejor? No solo para ti, sino, bueno, para todos.

Beto
Este futuro requiere tu conciencia, tus preguntas, tu participación activa. Sigue conectando, sigue cuestionando y sigue cuidando.