Los límites de la invención algorítmica

Este artículo académico investiga si la inteligencia artificial puede alcanzar la verdadera creatividad aplicando el marco teórico de Margaret Boden a los sistemas generativos modernos. La autora argumenta que, si bien la IA sobresale en la creatividad combinatoria al fusionar ideas existentes, está estructuralmente limitada a la creatividad transformacional, ya que no puede trascender sus propios datos de entrenamiento. Un tema central es la ausencia de subjetividad, puesto que las máquinas carecen de la capacidad humana para reconocer la serendipia, valorar los accidentes o evaluar el mérito estético. Mediante diversos experimentos en haiku, literatura y artes visuales, el texto demuestra que la IA funciona mejor como una herramienta colaborativa o una "prótesis técnica" que como un creador autónomo. En última instancia, la fuente concluye que el juicio humano sigue siendo el núcleo insustituible del proceso creativo, ya que solo un sujeto consciente puede acoger lo inesperado y redefinir los límites conceptuales.

Enlace al artículo científico, para aquellos interesados en profundizar en el tema: "Can an AI System Be Creative? A Critical Perspective from Art and Engineering". Por Ivan Magrin-Chagnolleau, de Chapman University. Publicado el 22 de Julio de 2026.

El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.

---

Resumen

Beto
Imagina dejar como un lienzo en blanco en unas acuarelas para principiantes en un ático ligeramente húmedo y bochornoso.

Alicia
De acuerdo.

Beto
Simplemente las olvidas por completo. Y quiero decir, pasan 15 años, finalmente limpias el ático y descubres que la humedad ha provocado que la pintura se corra perfectamente sobre una hoja en blanco. Es esencialmente un paisaje meditativo y hermoso pintado por sí solo.

Alicia
Sí, es salvaje.

Beto
La pregunta es: ¿es eso arte? Y más importante para nosotros hoy, si una máquina hace exactamente lo mismo, ¿está la máquina siendo creativa?

Alicia
Quiero decir, es la pregunta definitoria de nuestro tiempo ahora mismo, ¿no es así? Estamos rodeados por estos sistemas que generan resultados increíblemente complejos. Y realmente estamos luchando por categorizar lo que estamos viendo.

Beto
Se siente totalmente como si todos estuviéramos sentados en la audiencia de este espectáculo de magia masivo y abrumador. Como si algunas personas estuvieran mirando al escenario, totalmente convencidas de que están presenciando magia literal. Como si la máquina fuera viva, la máquina fuera una artista.

Alicia
Bien.

Beto
Y luego tienes a los escépticos en la última fila resoplando, desestimando todo como una ilusión barata.

Pero ambos lados están perdiendo las mecánicas reales de cómo se realiza el truco.

Alicia
Lo cual es un lugar increíblemente peligroso, honestamente. Si no entiendes las mecánicas, o bien entregas tu propia agencia a la máquina o desestimas por completo una herramienta que podría cambiar fundamentalmente la forma en que trabajas.

Beto
Exacto.

Así que hoy, vamos a exponer esas mecánicas. Vamos a hacer una inmersión profunda en un artículo académico verdaderamente fascinante de Ivan Magrin-Chagnolleau. Se titula "¿Puede un sistema de IA ser creativo?: Una perspectiva crítica desde el arte y la ingeniería".

Alicia
Y lo que hace que esta fuente sea tan singularmente valiosa es el trasfondo del autor. Es un ingeniero eléctrico y de computación formado que se especializa en aprendizaje automático ("machine learning").

Beto
Así que realmente conoce las matemáticas.

Alicia
Conoce las matemáticas. Pero también es un artista practicante de toda la vida. Es cineasta, artista visual, compositor y filósofo.

Beto
Lo cual es una combinación tan rara.

Alicia
Realmente lo es. Él aporta esta perspectiva dual que falta desesperadamente en la mayor parte del discurso tecnológico. Sabes, él entiende las frías realidades estructurales de las redes neuronales. Pero también entiende íntimamente la experiencia humana desordenada y vivida de hacer arte.

Beto
Así que nuestra misión hoy es equiparte con un marco definitivo para entender exactamente lo que la IA puede y no puede hacer creativamente. Queremos mostrarte cómo puedes usar estos sistemas como colaboradores creativos genuinos sin permitirles que desgasten tu voz humana única.

Alicia
Y para hacer eso, tenemos que empezar por los cimientos absolutos. Quiero decir, lanzamos la palabra creatividad mucho. Pero antes de poder juzgar si una máquina la posee, tenemos que definir qué es realmente.

Beto
Bien.

Alicia
El artículo ancla su argumento en el trabajo de la difunta científica cognitiva Margaret Bowden. Ella estableció un marco que todavía se considera el estándar de oro en la ciencia cognitiva.

La Brecha de la Creatividad: Por qué la IA no es un "creador" (todavía)

Beto
Okay, desglosémoslo. ¿Cómo lo define ella? Porque la creatividad suele sentirse como esto, no sé, este concepto místico vago que simplemente te golpea en la ducha.

Alicia
Sí, exactamente. Pero Bowden despojó el misticismo. Argumentó que para que algo sea considerado verdaderamente creativo, debe poseer tres propiedades innegociables.

Beto
Okay, ¿cuál es la primera?

Alicia
La novedad ("novelty"). Pero crucialmente, hace una distinción entre la novedad psicológica y la novedad histórica.

Beto
¿Cuál es la diferencia entre esas dos?

Alicia
La novedad psicológica es cuando como individuo se te ocurre una idea que es nueva para ti. Como quizás un niño descubre cómo construir una estructura de Lego por primera vez.

Beto
Okay.

Alicia
Eso es genial para el niño, pero no es históricamente novedoso. La novedad histórica significa introducir un concepto o artefacto genuinamente nuevo al mundo en su conjunto, como algo totalmente sin precedente.

Beto
Okay, eso tiene sentido. Así que la novedad histórica es el primer paso. ¿Cuál es el segundo paso?

Alicia
La sorpresa ("surprise"). El resultado creativo debe producir un cambio en la percepción que ninguna cantidad de predicción estadística podría haber preparado.

Beto
Oh, vaya.

Alicia
Sí, es la diferencia entre una pieza de trabajo perfectamente competente y esperada y algo que te hace jadear físicamente o reevaluar por completo cómo ves el mundo.

Beto
Esa es una vara muy alta.

¿Y la tercera propiedad?

Alicia
El valor ("value"). El resultado debe valer algo. Esa comunidad tiene valor intelectual, valor estético en el mundo del arte o, valor práctico en ingeniería. Simplemente debe ser útil o significativo.

Beto
Espera, espera. Tengo que rebatir esa tercera. ¿No es el valor totalmente subjetivo? ¿Cómo podemos siquiera medir eso, especialmente para una máquina? Lo que una persona puede encontrar increíblemente conmovedor y hermoso, otra persona podría encontrarlo completamente aburrido.

Alicia
Esto plantea una pregunta importante. Y es en realidad el obstáculo central que enfrenta la IA. Tienes toda la razón, el valor es subjetivo. Y ese es exactamente el punto.

Beto
Genial. ¿De verdad?

Alicia
Sí. El valor no es una propiedad intrínseca de un objeto. Piénsalo. Una pintura sentada en una habitación oscura sin nadie que la mire, no tiene valor estético activo. El valor requiere un sujeto evaluador. Requiere un testigo.

Beto
Así que sin una conciencia para experimentar la cosa y emitir un juicio sobre ella, el valor literalmente no existe.

Alicia
Exacto. Y la experiencia vivida, el trasfondo cultural y la capacidad emocional de ese testigo son enormemente importantes al asignar ese valor.

Beto
Okay, así que si tomamos los tres obstáculos de Margaret Bowden —novedad histórica, sorpresa y valor—, ¿cómo se compara la IA realmente? Porque, estamos viendo a la IA ganar concursos de arte y aprobar exámenes de bar. Parece que está superando los obstáculos.

Alicia
Bueno, el artículo argumenta que es estructuralmente imposible para la IA superarlos. Y no estamos hablando de un fallo temporal que una actualización de software simplemente arreglará el año que viene. Estamos hablando de los planos fundamentales de cómo están diseñadas las redes neuronales.

Beto
Oh, vaya.

Alicia
Okay, veamos el primer obstáculo: la novedad. La IA sufre del problema de la dependencia de los datos ("data bound problem").

Beto
Significa que solo puede escupir lo que ya ha tragado.

Alicia
Esencialmente, sí. Un sistema de IA se basa enteramente en un conjunto de datos de representaciones preexistentes generadas por humanos del mundo. No sale a caminar, no observa la realidad y tampoco forma nuevos conceptos.

Beto
Correcto, correcto.

Alicia
Debido a que está matemáticamente confinada a interpolar entre puntos de datos que ya existen, no puede introducir algo totalmente sin precedente histórico. No puede crear novedad histórica.

Beto
Está básicamente atrapada en la biblioteca del pasado. Okay, ¿pero qué hay del segundo obstáculo? La sorpresa. Porque, voy a ser honesto, la IA me sorprende todo el tiempo con las cosas raras que genera.

Alicia
Sí, pero tenemos que diferenciar entre lo raro y lo genuinamente sorprendente en un sentido creativo. La IA enfrenta lo que se llama "el problema de la convergencia estadística". En esencia, los modelos de lenguaje grandes y los generadores de imágenes son solo motores de probabilidad.

Beto
Correcto.

Alicia
Cuando generan una oración o una imagen, están calculando el siguiente token o píxel más matemáticamente probable basado en sus pesos de entrenamiento.

Beto
Así que es básicamente solo un juego de adivinanzas muy sofisticado.

Alicia
Sí. Y piensa en lo que realmente significa la probabilidad. El resultado que maximiza la probabilidad es, por definición, el promedio del resultado.

Beto
Oh, vaya. Así que está apuntando literalmente hacia el medio de la curva de campana.

Alicia
Siempre. La sorpresa genuina requiere un resultado que desafíe nuestras predicciones. Si un sistema está diseñado matemáticamente para producir el resultado estadísticamente más predecible, está estructuralmente en contra de la verdadera sorpresa.

Beto
Eso es salvaje.

Alicia
Está diseñado para darte exactamente lo que los datos agregados dicen que esperas.

Beto
Eso tiene mucho sentido. Lo que nos lleva al tercer obstáculo, el valor. El problema de la evaluación.

Alicia
Correcto. Y la IA ciertamente puede revisar su propio resultado para ver si coincide con los patrones estadísticos de lo que los humanos han etiquetado históricamente como hermoso o valioso en su conjunto de datos.

Pero no puede mirar intrínsecamente su propia pintura y preguntarse: ¿esto es conmovedor? ¿Esto me hace sentir algo?

Beto
¿Sabes a lo que esto me recuerda? Okay, desglosémoslo. Es como un chef de IA que nunca ha probado comida.

Alicia
Oh, me gusta eso.

Beto
¿Verdad? Pueden escanear un millón de recetas exitosas. Pueden calcular matemáticamente que una cierta cantidad de sal se combina bien con los tomates. Pero no pueden probar la salsa de pasta para saber si el equilibrio es correcto, o si el olor evoca el recuerdo de una tarde de verano en Italia. Simplemente están tirando ingredientes a ciegas en una sartén, basándose en una hoja de cálculo.

Alicia
Esa es una forma perfecta de visualizarlo.

Generar una receta plausible, o un poema plausible, es un logro estadístico. Reconocer que el poema es genuinamente genial, o emocionalmente resonante, es un acto profundamente humano.

Beto
Pero si es solo coincidencia y probabilidades, ¿cuál es la salsa secreta que realmente tienen los humanos? ¿Cuál es la cosa que hace que la creatividad humana sea diferente de un motor de probabilidad?

Alicia
El artículo introduce un concepto filosófico aquí. Argumenta que la IA pierde completamente "el elemento fenomenológico de la creatividad".

Beto
Wow, "fenomenológico". Es una palabra académica de $5. ¿Qué significa eso realmente para nosotros?

Alicia
Sí, la fenomenología es realmente solo el estudio de la experiencia vivida consciente. Se trata de cómo experimentamos el mundo desde la perspectiva en primera persona. Y en el arte, el elemento fenomenológico más crítico es la serendipia: El accidente feliz.

Beto
Sí, esta es mi parte favorita del artículo. El autor utiliza tres historias profundamente personales de su propia vida como artista para explicar esto. Mencioné las acuarelas del ático en la introducción, pero las otras dos fueron igual de buenas.

Alicia
¿Las fotos?

Beto
Sí, hubo una donde estaba en California fotografiando los secuoyas rojos en Muir Woods. Y estaba tomando fotos muy convencionales y aburridas. Pero durante una exposición larga, accidentalmente movió su cámara.

Alicia
Es un desliz físico de la mano.

Beto
Correcto. Pero ese error físico, no predicho, creó un desenfoque que capturó la esencia de los árboles de una manera totalmente nueva. Dio lugar a una serie fotográfica completamente nueva y muy exitosa para él.

Alicia
Sí.

Beto
Y luego el segundo ejemplo sucedió en un tren en la región de Auvergne, en Francia. Sacó su teléfono para tomar una foto del paisaje a través de la ventana. Pero debido a la iluminación, accidentalmente capturó un reflejo de sus propias manos sosteniendo el teléfono, superpuesto, como un fantasma, sobre el paisaje exterior.

Alicia
No lo planeó. Pero lo vio. Y se convirtió en la base para una serie completamente nueva llamada "handscape".

Beto
Así que un temblor de cámara, un reflejo en una ventana y acuarelas que sangran en un ático. ¿Qué tienen que ver estas tres cosas con la IA?

Alicia
Para explicar que el autor se basa en filósofos como Henri Bergson y Paul Valéry. Ellos argumentan que la casualidad o el accidente no existe en un vacío. Un evento físico es solo un evento físico.

Beto
Correcto.

Alicia
El movimiento de la cámara o la humedad esparciendo la pintura, eso es solo física. Solo se convierten en un accidente feliz porque un artista estaba allí para percibirlos como tales.

Beto
Significa que el accidente requiere una audiencia.

Alicia
Requiere un sujeto en un estado de preparación específica. La conciencia humana reconoce el error, siente una chispa de resonancia y dice: espera, esta no es una foto de ruina. Esto es un gran avance. Y la IA no puede hacer esto.

Beto
Pero permíteme ser el abogado del diablo por un segundo. ¿Qué pasaría si simplemente codificamos un generador de ruido aleatorio en el algoritmo de la IA? Inyectamos algo de caos. ¿No crea eso accidentes?

Alicia
Ciertamente crea imprevisibilidad. Pero la aleatoriedad introducida es solo imprevisibilidad controlada. Todavía está matemáticamente limitada por los parámetros del sistema. Más importante aún, incluso si la IA genera algo totalmente extraño debido a ese ruido, la IA no tiene subjetividad. No tiene un estado de preparación.

Beto
Porque no puede evaluar su propio trabajo.

Alicia
Exacto. No puede mirar su propio resultado aleatorio extraño, sentir una chispa de inspiración y cambiar toda su dirección artística. Sin una conciencia humana para recibir el accidente y darle valor, esa aleatoriedad es solo ruido.

Beto
Okay, así que si la IA carece de serendipia y está limitada por el medio de la curva de campana, ¿dónde encaja realmente en nuestras vidas creativas? Porque Margaret Bowden no solo definió la creatividad, la categorizó en tres tipos distintos: combinatoria, exploratoria y transformacional.

Alicia
Vamos a recorrerlos.

Empezando por la que donde la IA es genuinamente espectacular: la creatividad combinatoria. Esto implica tomar ideas existentes y familiares y combinarlas de maneras novedosas. La IA sobresale aquí porque ha ingerido vastos conjuntos de datos interdisciplinarios. Puede conectar conceptos que un humano nunca juntaría porque, bueno, ningún humano ha leído todo Wikipedia.

Beto
Correcto.

Alicia
Puede fusionar la biología molecular con la teoría musical del siglo XVII en como tres segundos.

Beto
Aquí es donde se pone realmente interesante. Me hace pensar en un DJ. Un DJ no escribe las letras. No graba las pistas de batería. Pero toman dos pistas totalmente diferentes y las mezclan brillantemente para crear una atmósfera totalmente nueva en la pista de baile. La IA es como el DJ omnisciente definitivo.

Alicia
Sí. Esa es una analogía muy precisa.

Pero luego pasamos a la segunda categoría de Bowden, la creatividad exploratoria. Se trata de explorar sistemáticamente el espacio conceptual existente y probar sus límites. Piensa en un músico de jazz que toma una progresión de acordes estándar y agota cada variación armónica posible para ver hasta dónde puede estirar las reglas sin romperlas.

Beto
¿Puede la IA hacer eso? Se siente como si pudiera generar infinitas variaciones de una instrucción ("prompt").

Alicia
Puede generar infinitas variaciones, sí. Pero tiene un punto ciego estructural. El artículo señala que cuando un artista humano empuja una forma hasta su límite, lo hace específicamente para descubrir lo que no se puede hacer. Están buscando los bordes del espacio porque el borde insinúa lo que podría existir fuera de las reglas actuales.

Beto
Oh.

Alicia
La IA no puede ver los bordes. Simplemente vaga ciegamente dentro de sus límites de datos. No sabe cuándo está golpeando una pared.

Beto
Lo cual prepara perfectamente la tercera y más importante categoría: la creatividad transformacional. Esta es la forma más rara. Esto es cuando un artista no solo juega dentro de las reglas. Reestructura completamente el espacio conceptual.

Alicia
Piensa en Picasso y el Cubismo. No solo crearon una nueva variación de la pintura de retrato realista. Abandonaron la regla fundamental del punto de vista único. Rompieron el paradigma.

Beto
Así que si la creatividad combinatoria es el DJ mezclando pistas, la creatividad transformacional es alguien inventando un instrumento musical completamente nuevo que nunca ha existido antes.

Alicia
Precisamente. Y el artículo utiliza matemáticas pesadas para demostrar que la IA es estructuralmente incapaz de hacer esto. El autor cita modelos matemáticos usando grafos acíclicos dirigidos para demostrar por qué.

Beto
Espera. ¿Grafos acíclicos dirigidos? Tienes que traducirlo a un lenguaje sencillo para mí, porque estoy perdido.

Alicia
De acuerdo, sí. Piensa en un grafo acíclico dirigido como un diagrama de flujo unidireccional. Dirigido significa que las flechas solo apuntan en una dirección, como el agua fluyendo por una montaña. Acíclico significa que no hay ciclos. El agua nunca puede volver a subir a la cima.

Beto
OK, entendido.

Alicia
Una red neuronal se construye fundamentalmente sobre este tipo de lógica unidireccional.

Beto
Así que los datos fluyen hacia adentro, se procesan río abajo, y un resultado sale por la parte inferior.

Alicia
Correcto.

Ahora, imagina las reglas del sistema. Los axiomas son la montaña en la cima. La creatividad transformacional requiere cambiar esos axiomas. Requiere hacer que el agua fluya de vuelta a la cima y reescribir el código fuente del espacio conceptual.

Beto
Lo cual no puede hacer.

Alicia
Puesto que una IA opera bajo esta lógica río abajo unidireccional, no puede retroceder y cambiar sus propias reglas fundamentales. Está eternamente atrapada dentro del paradigma que fue construida para replicar.

Beto
Así que es el mejor DJ del mundo, pero no puede inventar un instrumento nuevo. Entonces, ¿dónde te deja esto a ti y a mí? ¿Deberíamos simplemente negarnos a usar la IA para el trabajo creativo?

Quiero decir, el artículo dice rotundamente NO. Pero requiere un cambio masivo en cómo vemos la herramienta. Tenemos que dejar de tratar la IA como una creadora autónoma y empezar a tratarla como una prótesis técnica, una colaboradora.

Alicia
Y aquí es donde el artículo se vuelve muy práctico. El autor no solo teorizó. Realmente realizó cuatro experimentos empíricos usando la IA en su propio trabajo, para probar esta dinámica colaborativa.

Beto
Vamos a profundizar en ellos porque son increíblemente reveladores. Empezó con poesía, específicamente "haiku" japonés. Le pidió a la IA que escribiera "haikus" usando tres palabras conceptuales masivas: "conciencia", "creatividad" y "libre albedrío". ¿Qué pasó?

Alicia
Bueno, la IA respetó perfectamente las reglas formales, la estructura de cinco sílabas. Pero, ¿recuerdas el problema de la convergencia estadística?

Beto
Sí, la curva de campana.

Alicia
La IA inmediatamente convergió en una plantilla altamente repetitiva. Casi todos los poemas siguieron exactamente el mismo ritmo estructural. "Conciencia en los árboles", "creatividad en las hojas", "libre albedrío en la brisa", solo cambió los sustantivos.

Beto
Y cuando le pidió a la IA que generara su "haiku" más alucinante, no pudo hacerlo. Solo usó vocabulario ligeramente más complejo, pero mantuvo exactamente la misma estructura aburrida. No tenía la capacidad de evaluar lo que "alucinante" realmente significaba.

Pero mi detalle favorito absoluto son los títulos.

Alicia
Ah, sí. La IA añadió títulos a cada "haiku".

Beto
Lo cual es una gran señal de alerta. Los "haikus" clásicos japoneses no tienen títulos. Pero la IA los añadió porque las traducciones y libros de texto occidentales en sus datos de entrenamiento normalmente les ponían títulos para ajustarse a las normas de la poesía occidental.

Alicia
Exacto.

Beto
La IA simplemente reprodujo matemáticamente el promedio estadístico occidental, completamente ignorante de la auténtica forma de arte cultural.

Alicia
Y eso encaja perfectamente en el segundo experimento que abordó la literatura francesa. El autor tomó un párrafo de apertura de su propia autobiografía y le pidió a la IA que lo reescribiera al estilo de varios maestros literarios franceses como Marcel Proust y Victor Hugo.

Beto
¿Y cómo manejó a los pesos pesados?

Alicia
Fue muy buena haciendo pastiche combinatorio, creando una imitación superficial. Pero la versión de Victor Hugo fue esencialmente una caricatura. Fue solo una avalancha de signos de exclamación y declaraciones grandiosas.

Pero lo que es más importante, la IA borró por completo la voz personal e irónica del autor.

Beto
¿Qué queremos decir con voz irónica en este contexto?

Alicia
Las contradicciones sutiles, la autoconciencia, los matices humanos desordenados que hacen que una historia personal sea convincente. La IA suavizó todo eso en favor de un tono literario genérico y seguro. Desgastó los bordes irregulares de la personalidad humana para ajustarse al medio de la curva de campana.

Beto
Así que falla en imitar el alma humana. Veamos el tercer experimento que cambia a la música. Se contrató a un compositor para escribir una partitura para una película de los años 30. Pero no se le permitió ver la película. Solo se le dio una curva de luminosidad ("illuminosity curve").

Alicia
Que es un gráfico generado por un algoritmo que simplemente rastrea qué tan brillante o oscura está la pantalla en cualquier momento de la película.

Beto
Esto me recordó instantáneamente al movimiento Oulipo. Para aquellos que no lo conocen, fue este grupo de escritores y matemáticos de vanguardia en el siglo XX. Un tipo escribió una novela completa y titulada sin usar la letra E.

Alicia
Oh sí, Georges Perec.

Beto
Sí, suena como un truco. Pero al forzar esa restricción extrema, forzó a su cerebro a inventar maneras completamente nuevas y extrañas de describir cosas normales. La restricción genera creatividad.

Alicia
Y eso es exactamente lo que pasó con el compositor. La IA no compuso la música. La IA actuó como una restricción productiva al forzar al compositor a igualar las matemáticas de la curva de luminosidad. Destrozó sus maneras habituales y cómodas de escribir música. Tuvo que inventar nuevos enfoques para alcanzar esos puntos emocionales específicos sin ver las imágenes.

Beto
La IA rompió su memoria muscular. Eso es fascinante.

Y el experimento final reúne todo esto visualmente. El autor utilizó una plataforma de generación de imágenes llamada iDiogram. Le diste una instrucción muy escasa, abstracta, minimalista: "acuarela, esperanza por el planeta".

Alicia
Y la IA generó una imagen basada en eso. Pero la plataforma tiene una función donde puedes introducir una imagen de vuelta como semilla ("seed"). Y la IA intentará expandir tu instrucción de texto original en una instrucción mágica muy detallada.

Beto
Así que introduce la primera imagen de nuevo y la IA añade inesperadamente una frase completamente nueva a la instrucción mágica. Los salpicaduras inspiradas en Jackson Pollock.

Alicia
La IA simplemente lo tiró ahí matemáticamente. Pero el autor actuando como sujeto evaluador miró esas salpicaduras caóticas, sintió esa chispa de serendipia y dijo: sí, amo la energía que trae. Siguió el liderazgo de la IA, iterando de un lado a otro, lo que resultó en una dinámica y hermosa sucesión de imágenes.

Beto
¿Así que básicamente estaban haciendo referencias cruzadas?

Alicia
Exacto.

El autor llama a esto "coevolución creativa". En una verdadera colaboración humana-IA, tu intención no está rígidamente fijada desde el principio. Evoluciona en un diálogo con los resultados de la máquina. Pero esto requiere un conjunto de habilidades completamente nuevo que todos necesitamos desarrollar, lo que él llama "alfabetización en prompts" ("prompt literacy").

Beto
Alfabetización en prompts. Significa que no se trata solo de escribir un buen comando. Se trata de leer la salida de manera inteligente.

Alicia
Sí. Es la capacidad de leer la interpretación de la IA, reconocer la brecha entre tu intención y el resultado, y permanecer abierto a descubrimientos inesperados dentro de esa brecha.

Beto
Pero aquí está la conclusión más crucial de todo ese experimento visual de arte:

A través de toda esa iteración de ida y vuelta, el artista humano aprende. El artista humano crece. El artista humano desarrolla un ojo estético más agudo y descubre un nuevo estilo.

La máquina no aprende nada. En el momento en que cierra la pestaña del navegador, la máquina se restablece a cero para el siguiente usuario.

Alicia
Por eso hay una enorme etiqueta de advertencia adjunta a todo este proceso colaborativo. Hablamos antes sobre la atracción gravitacional hacia el promedio estadístico. Si no tienes cuidado, esta herramienta arrastrará tu trabajo hacia el peligro de la mediocridad.

Beto
Entonces, ¿cómo evitamos eso? ¿Cómo usamos la herramienta sin convertirnos en genéricos?

Alicia
Debes tener experiencia humana genuina en tu dominio. No puedes abdicar tu juicio a la máquina. Debes usar los resultados de la IA como una provocación, un contrapunto ("foil"), un punto de partida para reaccionar en contra. Nunca puede ser el destino final.

Beto
Lo veo de esta manera. Usar la IA para crear, sin tener tu propia experiencia en el dominio, es como dejar que el corrector automático de tu teléfono escriba una novela por ti. Todo estará escrito perfectamente. La gramática será impecable, pero será completamente y totalmente sin alma. Simplemente será una cadena matemáticamente predecible de las palabras más probables siguientes.

Alicia
Ese es el resumen perfecto de la realidad estructural. El locus de la creatividad, el verdadero centro de gravedad en cualquier empresa artística o innovadora, permanece totalmente al 100% contigo. Eres el sujeto evaluador que asigna valor. Eres la conciencia que cultiva la disposición para reconocer accidentes felices. Y eres el único capaz de dar el salto para romper las reglas y transformar un espacio conceptual.

Beto
Así que hemos desempacado el truco de magia. La IA no es el mago. Es el humo. Son los espejos. Es la capa llamativa. Tú eres el mago.

Alicia
Pero quiero dejarles una última reflexión provocadora para meditar, basándome en el marco de Magrin-Chagnolleau.

Beto
Te escuchamos.

Alicia
Si los sistemas de IA continúan inundando nuestras vidas diarias, nuestras redes sociales y nuestras bandejas de entrada con contenido combinatorio estadísticamente promedio, ¿qué pasará con la creatividad humana a largo plazo?

Beto
Oh, vaya. Si solo estamos consumiendo el promedio matemático, ¿nuestros cerebros humanos simplemente se adaptarán al promedio? ¿Perderemos nuestro gusto por lo extraño?

Alicia
Ese es el miedo. ¿Se volverá la verdadera creatividad transformacional aún más rara? Porque los datos de entrenamiento de nuestras propias vidas humanas se están volviendo completamente homogeneizados. O, por el contrario, ¿se convertirá este mar interminable y abrumador de contenido de IA seguro, aburrido y promedio en la restricción productiva definitiva?

Beto
Como el movimiento Oulipo. Pero para toda la humanidad.

Alicia
Exacto. ¿Forzará el puro aburrimiento de lo estadísticamente probable a los artistas, escritores e ingenieros humanos a entrar en una nueva era de rebeldía transformacional de arte solo para sentir algo diferente? El meteorólogo Marshall McLuhan dijo famosamente: "moldeamos nuestras herramientas y después nuestras herramientas nos moldean a nosotros".

Hemos construido el motor de probabilidad definitivo. Ahora tenemos que decidir si vamos a dejar que dicte nuestras probabilidades o si vamos a usarlo para lanzarnos hacia lo profundamente inesperado.

Beto
El truco es real. Pero tú eres quien tira de las cuerdas.

Gracias por acompañarnos en este análisis profundo en los límites de la IA y el poder perdurable de la imaginación humana. Sigan empujando los límites, busquen los accidentes felices y los veremos la próxima vez.

Zona de Soledad - ¿Estamos solos en el universo?

Acaba de salir un artículo científico muy interesante, en el área de matemáticas. Intenta demostrar probabilísticamente si es posible que estemos solos en el universo, o no.

Enlace al artículo, para aquellos interesados en las fórmulas matemáticas, y si quieren profundizar en el tema: "The solitude zone: A probabilistic window for singular lifeform existence", por Antal Veres. Publicado en línea el 30 de Septiembre del 2025. Saldrá en el jornal Acta Astronáutica de Elsevier, en Enero del 2026.

El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.

---

Resumen

Beto
La pregunta de si estamos solos es, creo, probablemente el misterio más perdurable y fascinante al que nos enfrentamos.

Alicia
Oh, claro.

Beto
Y durante décadas, toda esta conversación se ha enmarcado con dos conceptos que siempre parecen estar en conflicto.

Por un lado tienes la ecuación de Drake, que es tan optimista que sugiere que el cosmos debería estar rebosante de millones de civilizaciones.

Alicia
Y por el otro lado tienes la paradoja de Fermi.

Beto
“El gran silencio”, como lo puso famosamente David Brin. ¿Dónde está todo el mundo?

Alicia
Exacto. Y ahí está la enorme tensión. Si la inteligencia, la vida espacial es tan común, ¿por qué no vemos ninguna, bueno, ninguna señal obvia de ella?

Beto
Y la paradoja normalmente te obliga a elegir un bando. Una solución. Quizá hay un gran filtro, o quizá la vida sea mucho, mucho más rara de lo que pensábamos.

Alicia
Correcto. Pero el artículo de investigación en el que nos sumergimos hoy hace algo realmente distinto.

Beto
Es un enfoque realmente refrescante.

Alicia
Sí lo es. No intenta resolver la paradoja. Simplemente replantea todo. Cambia la conversación de ser una contradicción que tienes que resolver a, bueno, a un problema matemático.

Beto
Un paisaje probabilístico.

Alicia
Ese es el término. El objetivo central aquí es averiguar la probabilidad estadística de que la humanidad sea ahora mismo solitaria.

Beto
Y no solo no observada, sino estadística y matemáticamente sola en el universo, al menos a nuestro nivel de sofisticación.

Alicia
Precisamente.

Beto
Y para hacer eso, introducen dos conceptos que son simplemente fantásticos: la zona de soledad y la probabilidad de soledad. Así que nuestra misión hoy es profundizar en las matemáticas que dictan cuándo, exactamente, es más probable que haya una sola forma de vida de cierta complejidad.

Alicia
Y aquí es donde se pone realmente interesante, porque nos da una especie de techo estadístico para cuán solos podemos estar posiblemente.

Beto
Bien. ¿Por dónde empezamos?

Alicia
Pues tenemos que empezar con los bloques fundamentales del modelo. Son cruciales. Primero, necesitamos definir qué estamos buscando siquiera.

Beto
Una forma de vida.

Alicia
Correcto. Y el término es intencionalmente amplio. Es cualquier sistema autónomo que porte información, así que podría ser cualquier cosa, desde un tapete microbiano hasta algún tipo de inteligencia digital.

Beto
Bien. ¿Entonces eso es el qué? ¿Cómo categorizan cuán avanzada es?

Alicia
Usan un concepto que llaman "complejidad". En lugar de esas categorías rígidas tipo "micro" o "especie tecnológica", la "complejidad" se trata como un único número continuo, una escala. Comienza en cero y teóricamente puede llegar hasta el infinito.

Beto
Y ese número se basa en cosas como el uso de energía o la profundidad de su organización.

Alicia
Exacto. Y lo clave es que es un valor continuo.

Beto
¿Por qué eso es tan importante? ¿Por qué no solo tener categorías simples?

Alicia
Porque al hacerlo un número continuo, puedes usar todo el conjunto de herramientas estadísticas estándar. Puedes modelar de forma suave la probabilidad de algo solo un poco más complejo que un microbio o algo muy por encima de nosotros. Te permite fijar un umbral de complejidad preciso para la humanidad. Llamémoslo los dólares y luego ver cómo cambian los números.

Beto
Eso se siente crítico.

Bien. Entonces, si miramos a través de todo el universo, ¿cómo modelamos la probabilidad de que esas diferentes complejidades puedan siquiera existir en primer lugar?

Alicia
Para eso desarrollaron la idea de la "plausibilidad de existencia". Modela la probabilidad estadística de que una forma de vida de cierta complejidad sea, bueno, plausible en nuestro universo físico ahora mismo. Piensa en ello. Otra vida es intuitivamente más plausible que una civilización de tipo tres que cosecha galaxias enteras.

Beto
Así que el modelo simplemente asume de manera natural que cuanto más fácil es el paso, mayor es la plausibilidad.

Alicia
Precisamente.

Beto
Casi estás seguro de que alguna vida básica es posible. Pero la probabilidad cae en picado a medida que buscas cosas realmente complejas y raras.

Alicia
Y eso es coherente con lo que vemos. Quiero decir, si fijamos nuestro umbral de complejidad cerca de cero, para la forma de vida más simple posible, la plausibilidad es del 100%.

Beto
Porque estamos aquí. Sabemos que sucedió al menos una vez.

Alicia
Ya sabes que alguna vida existe. Pero si fijamos ese umbral muy, muy alto buscando civilizaciones a escala Kardashev, la plausibilidad baja dramáticamente.

Beto
Esto parece una gran manera de manejar la idea del gran filtro sin enredarse en lo que ese filtro realmente es.

Alicia
Lo es. Así que entremos en la mecánica de la soledad. Necesitamos dos variables principales. Primero, la escala cósmica. Llamémosla N. El número total de sistemas potencialmente capaces de soportar vida en el universo.

Beto
El artículo usa una estimación de trabajo para eso.

Alicia
Sí, un número conservador, pero enorme. N = 10²⁴.

Beto
Un sub-tillion. Eso NO es un número pequeño. Ese es nuestro depósito de recursos.

Alicia
Lo es. Y en segundo lugar, el factor de rareza. Este es el gran desconocido. Es la probabilidad de que una forma de vida que cumpla nuestro umbral de complejidad surja en cualquiera de esos planetas individuales. Llamémoslo p.

Beto
Y ese pequeño valor tiene que contener todos los obstáculos biológicos y evolutivos.

Alicia
Todo. Tenemos one sub-tillion planetas, N, y esta probabilidad desconocida, probablemente diminuta, p de que aparezca vida compleja en cualquiera de ellos.

Beto
Y la combinación de esas dos cosas determina cuántas civilizaciones hay ahí fuera.
𝑋 ∼ Binomial(𝑁, 𝑝)

Alicia
Correcto. Y la zona de soledad es el rango específico y realmente estrecho de ese factor de rareza. Los p donde se cumplen dos condiciones al mismo tiempo.

Beto
Bien, ¿cuál es la primera condición?

Alicia
La primera es simplemente la definición estadística pura de estar solo. La probabilidad de encontrar exactamente una forma de vida tiene que ser mayor o igual que la probabilidad de encontrar múltiples instancias.
Pr(𝑋 = 1) ≥ Pr(𝑋 ≥ 2)

Beto
En términos simples, es más probable uno que dos o tres o un millón.

Alicia
Uno es más probable que multiplicidad. Esa es la esencia de la soledad.

Beto
Tiene sentido. ¿Cuál es la segunda condición?

Alicia
La segunda condición la ata de nuevo a ese modelo biológico del que acabamos de hablar: la plausibilidad de existencia. Básicamente dice que la probabilidad de encontrar al menos una instancia, es decir nosotros, tiene que ser plausible.
Pr(𝑋 ≥ 1) ≥ 𝜀_(𝑐0)

Beto
Así que no puedes ser solitario si tu propia existencia es una imposibilidad estadística desde el principio.

Alicia
Exacto. Tienes que poder existir para estar solo.

Beto
Lo fascinante aquí es que la soledad se vuelve relativa. Si fijamos el umbral en la civilización humana, el universo podría estar repleto de microbios o incluso de inteligencias no tecnológicas, y aun así seríamos solitarios siempre que no cumplieran nuestro umbral específico. La soledad depende totalmente de a quién estés dispuesto a incluir aquí.

Alicia
Y esto nos lleva a lo que creo que es el descubrimiento matemático más sorprendente de todo el artículo. Tenemos que preguntarnos: ¿la soledad siempre es posible sin importar cuán plausible pueda ser la vida compleja?

Beto
Y el artículo da una respuesta definitiva a eso, un límite duro.

Alicia
Lo hace. Nos da un techo estadístico donde la zona de soledad simplemente desaparece.

Beto
Bien, aquí es donde se pone realmente interesante. Dinos el número.

Alicia
La soledad solo es matemáticamente posible si la plausibilidad de existencia de esa vida compleja se mantiene por debajo de un umbral crucial e innegociable. Y ese umbral es aproximadamente del 71.5%.

Beto
Ese es el límite de confianza cósmico para la soledad.

Alicia
Sí.

Beto
Entonces explica qué sucede si la plausibilidad de, digamos, un tipo de civilización supera ese valor.

Alicia
Si la probabilidad de que exista vida compleja excede ese 71.5% techo, la zona de soledad simplemente desaparece. Se ha ido.

Beto
¿Por qué?

Alicia
Porque las matemáticas dictan que si algo es tan plausible en un universo con N chances, se vuelve estadísticamente más probable que tengas al menos dos instancias, alta multiplicidad, o que no tengas ninguna en absoluto.

Beto
Así que ese punto dulce para exactamente uno simplemente se evapora.

Alicia
Se ha ido. Si la vida compleja es demasiado fácil, la posibilidad de ser exclusivamente único queda eliminada matemáticamente.

Beto
O tienes un universo abarrotado o uno vacío, pero no puedes tener uno solitario.

Alicia
Precisamente. Y ahora podemos pasar de la zona, ese rango de probabilidades, a la probabilidad de soledad, que es la probabilidad real de que el verdadero factor de rareza, c_o, caiga dentro de esa estrecha zona.

Beto
Y todo depende de qué escenario asumamos para cómo emerge la vida.

Alicia
Correcto. Los investigadores modelaron cuatro grandes escenarios cosmológicos. Todos están definidos por cuán raramente asumen ese factor de rareza, c_o.

Beto
Y abarcan enormes órdenes de magnitud.

• Tenemos el optimismo astrobiológico (AO), donde la vida es fácil.
• Y el argumento del límite antrópico (AL), donde la existencia de observadores limita el rango de las probabilidades de emergencia
• la hipótesis de la Tierra Rara ("Rare Earth", RE), que sugiere que la vida compleja es increíblemente difícil.
• Y, finalmente, el paso evolutivo difícil (EH), que asume que hay cuellos de botella casi imposibles en la evolución.

Alicia
Usemos "Rare Earth" como ejemplo concreto. Creo que es uno bueno porque se alinea con mucho del pensamiento tradicional sobre la paradoja de Fermi.

Beto
Bien. ¿Cuáles son las entradas para ese cálculo?

Alicia
Lo anclan con parámetros fijos. La escala cósmica, N, es 10²⁴ planetas. Y fijan el umbral de complejidad para la civilización humana, c_o, en 0.7.

Beto
¿Por qué 0.7?

Alicia
Se basa en referencias a la escala de Kardashev. Básicamente representa una civilización tecnológica que tiene vuelo espacial y está empezando a aprovechar realmente la energía planetaria. Así que nos sitúa justo por debajo de un valor típico.

Beto
Bien. Y con esas suposiciones, ¿cuál es la plausibilidad de existencia?

Alicia
Bajo el modelo Rare Earth, la plausibilidad para ese nivel de complejidad se calcula en aproximadamente 31.7 por ciento.

Beto
Lo cual está muy por debajo de ese techo del 71.5 por ciento. Así que la soledad al menos es posible en este escenario.

Alicia
Lo es. Y con esas entradas, la zona de soledad, esa ventana para el factor de rareza, c_o, es increíblemente estrecha. Estamos hablando de una probabilidad emergente de aproximadamente p ~ LogNormal(-55.2082, 1.5351).

Beto
Esa es la ventanita diminuta donde exactamente una civilización es el resultado más probable.

Alicia
Ventana muy pequeña.

Beto
Así que bajo el escenario Rare Earth, ¿cuál es la probabilidad calculada de que el universo simplemente caiga en esa ventana?

Alicia
El resultado final, la probabilidad de soledad para la hipótesis Rare Earth, se calcula en aproximadamente 29.1 por ciento.

Beto
Vaya. Bien, así que si aceptas las premisas de la hipótesis Rare Earth, hay casi una en tres probabilidades de que estadísticamente seamos solitarios.

Alicia
Sí.

Beto
Es decir, que es probable que el universo contenga exactamente una civilización de nuestra complejidad, y esa seamos nosotros. Ese es un número poderoso. Le da peso matemático real a la soledad cósmica.

Alicia
Pero ahora miremos el contraste, porque aquí es donde el modelo realmente brilla. ¿Qué pasa si cambiamos al escenario de optimismo astrobiológico, donde la vida emerge con facilidad?

Beto
La probabilidad de soledad debe desplomarse.

Alicia
Cae a prácticamente cero, 3,16 x 10^-19 aproximadamente 0.0.

Beto
Y ¿por qué tan completamente? Quiero decir, incluso si la vida es fácil, ¿no podría nuestra civilización seguir siendo la primera?

Alicia
Porque si ese factor de rareza es alto, toda la distribución de probabilidad se empuja fuera de esa estrecha zona de soledad. Si la vida surge fácilmente en incluso una pequeña fracción de los planetas N (10²⁴), la multiplicidad es simplemente... Es abrumadoramente probable.

Beto
En un universo optimista, no puedes ser solitario.

Alicia
Estadísticamente no. O eres uno entre muchos, o eres algún tipo de anomalía que las matemáticas no pueden sostener.

Beto
Bien. Eso tiene perfecto sentido. Vida fácil equivale a un universo concurrido. Pero ¿qué hay del otro extremo? El escenario del paso evolutivo difícil, donde la vida es increíblemente difícil, ¿no debería la soledad ser entonces casi segura?

Alicia
Y ese es el hallazgo contraintuitivo. Eso es lo que invierte el guion. El escenario del paso evolutivo difícil también te da una probabilidad de soledad muy baja, a veces menos del 1%.

Beto
¿Cómo?

Alicia
La lógica es brutal. Si el factor de rareza es demasiado bajo, el resultado más probable no es una instancia, es cero instancias.

Beto
Así que si el gran filtro es demasiado duro, el universo no está solitario, simplemente está vacío.

Alicia
Exacto. La soledad requiere este equilibrio increíblemente delicado. Demasiado optimista. Garantizas multitud. Demasiado pesimista. Garantizas vacío.

Beto
Así que ser más pesimista no te hace más probable estar solo. Hay un punto dulce estadístico.

Alicia
Precisamente. Y eso conduce directamente a lo que llaman "la hipótesis Tierra crítica". La idea es que la probabilidad de soledad alcanza su pico en este régimen intermedio, este punto dulce, donde la rareza es lo bastante alta como para impedir la multiplicidad, pero lo bastante baja como para hacer plausible la existencia.

Beto
Y el modelo Rare Earth, que nos dio ese número del 29.1%, está casi perfectamente afinado para estar justo en ese punto dulce.

Alicia
Lo está. El máximo teórico de probabilidad de soledad que calculan es de aproximadamente 30.2%. Así que el modelo Rare Earth está prácticamente saturado. Está casi maximizando nuestras posibilidades de estar solos.

Beto
Lo cual significa que la única manera de aumentar significativamente la probabilidad de soledad más allá de eso no es haciendo la vida aún más difícil, ...

Alicia
... sino cambiando el umbral de complejidad que estás buscando.

Beto
Hablemos de eso. ¿Cómo cambia el modelo si buscamos algo mucho más simple, como vida microbiana, en una complejidad de, digamos, c_o = 0.1?

Alicia
Para la vida microbiana, la soledad es casi imposible. No importa qué escenario elijas. Si la vida simple existe, va a ser abundante. La baja complejidad significa que la plausibilidad de existencia es casi del 100%, lo que simplemente supera ese techo del 71.5% del que hablamos.

Beto
Bien. Pero ¿y si buscamos vida muy avanzada, algo en complejidad 2.1, como una hipotética inteligencia posthumana o una civilización de tipo dos?

Alicia
Aumenta sustancialmente. Para niveles de complejidad muy altos, la soledad en realidad se convierte en la expectativa estadística dominante a través de una amplia gama de escenarios. Así que cuanto más difícil sea el paso evolutivo, más probable es que el universo tenga exactamente una instancia de esa complejidad, si es que existe.

Beto
Esa es una implicación asombrosa. Significa que la única razón estadística por la que podríamos estar solos no es porque la vida sea difícil en general, sino porque este nivel específico de avance es tan raro.

Alicia
Replantea por completo el gran silencio. El silencio no es necesariamente la prueba de un universo estéril. Podría ser la prueba de una rareza extrema aplicada a complejidades organizativas muy altas.

Beto
También tenemos que hablar de la escala del universo, N. Quiero decir, parece intuitivo que si tienes más planetas, deberías encontrar más amigos. Un c_o más grande debería significar menos soledad.

Alicia
Lógicamente sí. Pero el artículo muestra que esto solo es cierto una vez que N pasa cierto umbral crítico. Porque ese factor de rareza es tan increíblemente pequeño, el universo tiene que ser absolutamente vasto antes de que esa probabilidad minúscula empiece a dar más de una ocasión de éxito.

Beto
Así que para el modelo Rare Earth, necesitarías aún más que 10²⁵ planetas para empezar a ver realmente disminuir la soledad.

Alicia
Sí, más cerca de 10²⁶ antes de que la tendencia realmente arranque y empuje consistentemente la soledad hacia abajo.

Beto
Pero las matemáticas son implacables a largo plazo. Si el universo se expande para siempre, si N va hacia el infinito…

Alicia
... la soledad tiene que decaer hasta cero.

Beto
Debe.

Alicia
Correcto. Incluso el evento más raro acabará ocurriendo más de una vez si tienes oportunidades infinitas, lo que coloca a nuestra época actual, nuestra escala actual de 10²⁴, en una ventana potencialmente única en el tiempo donde la soledad incluso es estadísticamente posible.

Beto
Todo este marco simplemente consigue cambiar la pregunta de “¿estamos solos?” de un debate puramente filosófico a un problema matemático riguroso, donde realmente podemos cuantificar nuestras probabilidades en función de nuestras suposiciones.

Alicia
Absolutamente. La conclusión es que la soledad se define por esta probabilidad matemática de que exista exactamente una instancia de algo, no solo por el hecho de no ver nada. Todo depende de esa delicada interacción entre plausibilidad, escala universal y la rareza del surgimiento.

Beto
Así que si la soledad aumenta tanto con una mayor complejidad, esto ofrece una lente completamente nueva para el silencio cósmico. Quizá el gran silencio no refleje un universo que está yermo, sino simplemente que las formas de vida verdaderamente capaces de alcanzar o superar nuestro nivel de complejidad son tan increíblemente raras que las probabilidades favorecen con fuerza que seamos los únicos en el juego ahora mismo.

Alicia
Realmente invita a que tú, el oyente, pienses en qué umbral de complejidad crees que estamos, y qué implica eso sobre lo rara que podría ser una civilización apenas más avanzada que la nuestra. Quiero decir, si c_o=0.7 y llegar a c_o=2.1 es matemáticamente mucho, mucho más difícil, entonces la ciencia cósmica podría estar diciéndonos menos sobre el comienzo de la vida y mucho más sobre la agonizante dificultad de alcanzar la verdadera madurez cósmica.

Alucinaciones en Mente y Máquina

La Inteligencia Artificial es un área de estudio multi-disciplinario. Hoy les traigo un resumen de un artículo científico que explora el tema sobre Alucinaciones en humanos y en máquinas.

El enlace al artículo, en inglés, es el siguiente, para aquellos que quieran profundizar en el tema:
"I Think, Therefore I Hallucinate: Minds, Machines, and the Art of Being Wrong"
"Pienso, luego alucino: Mentes, máquinas, y el arte de equivocarse", por Sebastián Barros (4 Marzo 2025).

El resumen, la transcripción y la traducción de este artículo fueron hechos usando herramientas de software de Inteligencia Artificial.

El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.

---

Resumen

Alicia
¿Te ha pasado alguna vez ese momento? Ya sabes, cuando recuerdas vívidamente haber puesto las llaves en un lugar específico.

Beto
Sí, claro.

Alicia
Y luego, más tarde, de repente, la memoria te falla por completo.

Beto
Pasa todo el tiempo.

O quizá has visto una IA en internet, ¿no? Afirmando algo con total confianza. Suena totalmente plausible, pero está inventado. Es tu ficción.

Alicia
Sí. Exacto. Hoy nos sumergimos en este cruce tan fascinante: esas alucinaciones, tanto en nuestras propias mentes como en la inteligencia artificial.

Beto
Y normalmente las pensamos solo como errores, ¿sabes?, fallos del sistema.

Alicia
Sí, bugs ("bichos").

Beto
Pero ¿y si esta tendencia, esa de percibir cosas que no están del todo ahí, fuera en realidad algo fundamental, como una parte central de cómo los sistemas inteligentes —biológicos o artificiales— comprenden un mundo muy complejo?

Alicia
Esa es la idea realmente intrigante que vamos a abordar. Hacemos hoy una inmersión profunda en este trabajo teórico: "Pienso, luego alucino: mentes, máquinas y el arte de equivocarse", de Sebastián Barros, salió en marzo de 2025. Y nuestro objetivo no es solo averiguar por qué nosotros y la IA metemos la pata; es explorar esta idea provocadora de que la tendencia al error podría estar entrelazada con la inteligencia misma.

Beto
Sí, le da un giro al guión.

Alicia
Totalmente. Así que prepárate para algunos momentos “ajá” mientras desmontamos todo esto.

Beto
Bueno, primero, aclaremos qué entendemos por alucinaciones. Sí, porque el término puede estar cargado. Desde el lado humano, como lo plantea Barros, se trata de percibir patrones, hechos o incluso realidades completas que no coinciden con lo que realmente hay afuera. Y no es solo ruido aleatorio, por lo general. A menudo surge de la constante predicción del cerebro, que siempre intenta interpretar el mundo aún con datos incompletos, rellenando huecos, esencialmente.

Alicia
Vale, desgranémoslo. Nuestro cerebro es como si intentara resolver un rompecabezas.

Beto
Más o menos.

Alicia
Y si faltan piezas, las dibuja basado en experiencias pasadas, en lo que espera.

Beto
Exacto. Por ejemplo, vas caminando a casa de noche y ves una silueta oscura. Tu cerebro puede marcarla instantáneamente como una persona, aunque sea solo, no sé, un arbusto de forma extraña.

Alicia
Una predicción rápida basada en el contexto y quizá un poco de miedo.

Beto
Ajá. Barros señala que estos grandes modelos de lenguaje, los LLMs, hacen algo análogo. Algunos estudios sugieren que alucinan bastante, de hecho.

Alicia
Bueno, ¿de cuánto estamos hablando?

Beto
Una estimación mencionada apunta a alrededor del 37,5% de las respuestas pudiendo contener algún tipo de alucinación, lo cual es significativo.

Alicia
Vaya. Sí. Es mucha incorrección confiada flotando por ahí.

Beto
Y ahí está la parte fascinante con la IA: esas alucinaciones suelen aparecer como errores factuales, pero las frases son perfectamente coherentes y gramaticalmente correctas.

Alicia
Suenan bien.

Beto
Exactamente. Pero aquí está la diferencia crucial: los humanos tenemos sentidos, ¿verdad? Vista, oído, tacto. A menudo podemos contrastar nuestra imagen interna con la realidad entrante.

Alicia
Como que puedo estirar la mano y tocar el arbusto para ver que no es una persona.

Beto
Precisamente. Sí. Los modelos de IA aprenden puramente de texto. Grandes cantidades, vale, pero son solo patrones de palabras, probabilidades de secuencias. No hay un ancla sensorial directa con el mundo real.

Alicia
Entendido.

Y eso nos lleva a la gran pregunta provocadora que plantea Barros: ¿es esta tendencia a alucinar, a equivocarse, simplemente una característica inevitable de la inteligencia? Y si lo es, tal vez la meta no debería ser eliminarla por completo en la IA, sino hacer que la IA alucine mejor. Más como los humanos.

Beto
Suena contraintuitivo, ¿no? Como que queramos errores.

Alicia
Sí. Normalmente queremos precisión perfecta, cero fallos.

Beto
Pero piensa en los mecanismos compartidos un segundo. Tanto humanos como sistemas de IA parecen operar yendo más allá de los datos inmediatos que tienen.

Alicia
Extrapolando.

Beto
Exacto. Esa figura sombría en la noche: vas más allá de la mera forma oscura a una amenaza o persona potencial. Una IA, quizá, si le preguntan sobre un tema muy específico donde sus datos son escasos, puede inventar detalles que suenan plausibles para dar una respuesta aparentemente completa. Está rellenando huecos basándose en patrones textuales que conoce.

Alicia
Correcto. Barros menciona ver caras en las nubes, ¿no? Nuestro cerebro impone un patrón familiar.

Beto
Pareidolia clásica.

Alicia
Y un LLM, si no conoce una referencia concreta, podría inventar una cita de un artículo que parece totalmente real.

Beto
Sí, hemos visto eso.

Alicia
Y aquí se pone realmente interesante: ambos sistemas pueden estar increíblemente confiados sobre esas invenciones.

Beto
Absolutamente. Puedes jurar que viste un modelo y marca de coche pasar ...

Alicia
... solo para que las cámaras te demuestren que estabas equivocado.

Beto
Y una IA puede presentar un hecho histórico fabricado con una certeza total en su tono.

Alicia
Esa confianza sin verificación: es un paralelismo llamativo.

Beto
Lo es. Pero tenemos que mantener las diferencias en primer plano. Los humanos tenemos ese rico anclaje multisensorial, ...

Alicia
... las emociones y la encarnación. El ejemplo de tocar el arbusto.

Beto
Sí. Si esa persona en la sombra empezara a levitar, todo tu sistema gritará “error”, porque viola la física y llega información sensorial contradictoria. La IA entrenada con texto solo comprueba si las palabras suenan bien juntas. ¿Aparece “persona levitando” en contextos plausibles en sus datos? Por eso sus errores a veces parecen desconectados de la realidad física.

Alicia
Y nuestros mecanismos de corrección son distintos también. Cuando nos damos cuenta de que quizá estamos equivocados, podemos cuestionarnos conscientemente, mirar más de cerca, preguntar a otra persona.

Beto
Tenemos metacognición, una especie de conciencia de nuestro propio pensar.

Alicia
Sí. Pero para la IA hay que construir explícitamente esos controles, ¿no? Como retrieval-augmented generation (RAG), donde busca información, ...

Beto
... módulos de verificación textual, puntuación de confianza, cosas así. Son soluciones diseñadas, no procesos biológicos inherentes.

Alicia
Hablemos de teorías. ¿Qué se piensa sobre por qué esto pasa en los humanos?

Beto
En la cognición humana, una idea influyente es el procesamiento predictivo. Piensa al cerebro no solo recibiendo información pasivamente, sino prediciéndola constantemente.

Alicia
Como adivinando lo que viene después.

Beto
Exacto. Usa conocimiento previo y creencias sobre cómo funciona el mundo para generar expectativas. Luego compara esas expectativas con la entrada sensorial real. La teoría sostiene que la percepción es básicamente el proceso de actualizar esas expectativas según la evidencia sensorial. Pero si tu expectativa previa es muy fuerte, ...

Alicia
... puede anular los sentidos ...

Beto
... o al menos sesgar fuertemente tu interpretación, sobre todo si la entrada sensorial es ambigua o ruidosa. Eso puede llevar a percepciones erróneas: ver o escuchar lo que esperas en lugar de lo que realmente está ahí. Está ligado a ideas como minimizar el error de predicción o la energía libre.

Alicia
Vale. Fuertes expectativas moldeando la realidad. Por ejemplo, si estás muy estresado y esperando una llamada, podrías oír el teléfono sonando débilmente.

Beto
Buen ejemplo. Tu cerebro está alerta a esperar una llamada, así que interpretas un ruido ambiguo como teléfono.

Alicia
¿Y del lado de la IA?

Beto
Para la IA, especialmente los grandes modelos de lenguaje, el mecanismo central es el modelado autorregresivo.

Alicia
"Autorregresivo" significa ...

Beto
Significa que predice el siguiente elemento en una secuencia en función de los anteriores, en este caso el siguiente token, que puede ser una palabra o parte de una palabra.

Alicia
Bien. Predecir la siguiente palabra de la frase.

Beto
Exacto. Modelos como los "transformadores" usan mecanismos sofisticados, en particular la autoatención, para ponderar la importancia de palabras previas al hacer esa predicción. Aprenden distribuciones de probabilidad a partir de enormes conjuntos de texto. Dada una secuencia, calculan probabilidades para todos los posibles siguientes tokens y normalmente eligen una de las opciones de alta probabilidad.

Alicia
¿Entonces de dónde vienen las alucinaciones en ese proceso?

Beto
Pues de varios sitios. Los datos de entrenamiento pueden contener errores o sesgos. El modelo puede sobregeneralizar patrones. Y el acto mismo de muestreo probabilístico significa que no siempre escoge la palabra más probable; a veces escoge una menos probable pero plausible que resulta incorrecta.

Alicia
Es parte del juego de adivinar probabilísticamente.

Beto
Y, en cierto modo, sí: el objetivo suele ser generar texto coherente y probable, no necesariamente factual, salvo que se entrene o guíe específicamente para eso.

Alicia
Así que en humanos y en IA, ese proceso de predecir, de rellenar huecos con información previa o patrones aprendidos, es poderoso pero abre la puerta a estas alucinaciones.

Beto
Exactamente. Barros incluso desglosa estas distintas maneras de estar equivocado en una especie de taxonomía.

Alicia
Ah, vale: como diferentes sabores de alucinación.

Beto
Más o menos. Identifica cuatro tipos principales, trazando paralelos:

1) Sensorial o perceptual.

Alicia
Como ver cosas que no existen.

Beto
Exactos. En humanos, ilusiones visuales, alucinaciones auditivas como oír voces, el cerebro malinterpretando señales sensoriales o generando percepción sin estímulo externo.

Alicia
Y el equivalente en IA ...

Beto
... no encaja perfectamente para LLMs solo de texto, pero podríamos verlo en generadores de imágenes: piensa en DeepDream, donde la IA amplifica patrones que reconoce y produce esas imágenes psicodélicas llenas de perros y formas. Está generando contenido visual no estrictamente presente en la entrada.

Alicia
Bien. Ve cosas basadas en su entrenamiento.

¿Cuál es el segundo tipo?

2) Cognitivo o confabulador.

Alicia
Confabular: inventar cosas sin intención de mentir.

Beto
Exacto. En humanos suele vincularse a trastornos de la memoria, como el síndrome de Korsakoff, o a ciertas condiciones psiquiátricas. Es rellenar sin querer huecos de la memoria con narrativas plausibles pero inexactas, a veces mezclando el origen de la información.

Alicia
En los LLMs ...

Beto
... se ve muy parecido: el modelo puede mezclar fragmentos de información de distintas fuentes de forma incorrecta, inventar detalles para que una historia parezca completa o crear referencias que no existen para sostener una afirmación. Intenta producir una salida coherente a partir de datos internos posiblemente fragmentarios.

Alicia
Como la persona que te cuenta con seguridad un relato detallado sobre un evento al que no asistió porque su memoria juntó piezas erróneamente.

Beto
Esa es una buena forma de pensar sobre esto. Sí. Rellenar huecos para mantener la coherencia de la narrativa.

Alicia
Bien. Tercer tipo ...

3) Alucinaciones factuales.

Beto
Quizá la más directa y debatida online.

Alicia
Dar los hechos mal.

Beto
Sí. Para humanos, mantener creencias erróneas sobre el mundo por desinformación, conocimiento obsoleto o simplemente no aprender el dato correcto.

Alicia
Por ejemplo, pensar que "París es la capital de Italia".

Beto
Exacto. Para una IA es producir afirmaciones objetivamente falsas sobre el mundo real: fechas incorrectas, atribuir citas mal, mencionar libros o eventos inexistentes, cosas que suenan plausibles pero son falsas.

Alicia
La IA te expone un hecho completamente fabricado con gramática perfecta, pero el núcleo factual está equivocado.

Beto
Todos hemos visto mucho de eso.

Alicia
Bien. Y la última categoría ...

4) Alucinaciones contextuales.

Beto
Se trata de malinterpretar según la situación o la información previa.

Alicia
¿Cómo es eso?

Beto
En humanos puede ser interpretar estímulos ambiguos según tu estado emocional o el contexto: si estás ansioso en una multitud puedes ver caras neutrales como amenazantes, o creer oír tu nombre en un ambiente ruidoso cuando esperas a alguien.

Alicia
Tu expectativa forma la percepción de algo ambiguo.

Beto
Correcto. En la IA ocurre cuando el modelo se deja llevar por el prompt del usuario si contiene información errónea, o cuando confía en información incorrecta generada antes en la misma conversación y la amplifica, tomando un supuesto falso como verdadero y construyendo encima.

Alicia
Básicamente “garbage in, garbage out”: si la configuración es errónea, la continuación también lo será, aunque sea lógicamente consistente con la premisa equivocada.

Beto
Precisamente. Es alucinación, basada en un contexto falso.

Alicia
Es impresionante ver estos paralelos trazados. Aunque los sistemas subyacentes sean tan diferentes —cerebro y silicio— existen modos de fallo compartidos, tendencias comunes.

Beto
Absolutamente. Barros enfatiza esa tendencia compartida a sobregeneralizar y rellenar huecos. Parece fundamental para cómo ambos sistemas intentan dar sentido a las cosas.

Alicia
Pero, como dijiste, hay que mantener las diferencias en primer plano.

Beto
Definitivamente. El anclaje sensorial, la experiencia emocional y la encarnación humana son profundamente diferentes del mundo puramente lingüístico o basado en píxeles de la IA actual.

Alicia
Y los mecanismos de corrección se desvían: nuestra metacognición y verificación social frente a parches ingenieriles como RAG o sistemas de verificación.

Beto
Y las apuestas se sienten distintas también.

Alicia
¿Qué quieres decir?

Beto
Para una persona con alucinaciones clínicas puede causar un gran sufrimiento y afectar su vida profundamente. Para la IA, los riesgos son más sociales: difundir desinformación, erosionar la confianza en la tecnología, tomar decisiones erróneas basadas en salidas defectuosas.

Alicia
Distintos tipos de consecuencias.

Beto
El artículo toca brevemente la mitigación, ¿no? Cómo intentamos arreglar esto.

Alicia
Sí. Para humanos hay terapias, a veces medicación en casos clínicos, y el pensamiento crítico para errores cotidianos.

Beto
Para IA, mejorar los datos de entrenamiento, hacer "reinforcement learning from human feedback" (RLHF, aprendizaje reforzado a partir de retroalimentación humana) para penalizar inexactitudes, y la variedad de métodos mencionados para calibrar la confianza de la IA.

Alicia
Hacerle saber cuándo no sabe.

Beto
Exacto. Pero Barros vuelve a esa idea provocadora: el posible valor de equivocarse.

Alicia
Cuéntame más. Sigue sonando raro.

Beto
El argumento, o la hipótesis, es que esa capacidad misma de errar, de ir más allá de datos estrictamente exactos, podría estar profundamente ligada a rasgos positivos como creatividad, adaptación, inferencia, imaginación e innovación. Piénsalo: dar un salto intuitivo a menudo implica alejarse de los hechos establecidos, hacer una conjetura, formular una hipótesis que inicialmente puede ser incorrecta.

Alicia
La capacidad de construir una realidad no atada estrictamente al input inmediato podría ser lo que nos permite imaginar nuevas posibilidades.

Beto
Esa es la línea de pensamiento. El artículo incluso especula que a medida que la IA avance, quizá no dejará de alucinar por completo; tal vez las alucinaciones se vuelvan más sutiles, más matizadas, más difíciles de detectar.

Alicia
Es un pensamiento algo inquietante. Una IA superinteligente haciendo aseveraciones plausibles pero erróneas.

Beto
Resalta la necesidad de verificación robusta, desde luego. Pero también sugiere que quizá la inteligencia libre de errores no sea el único objetivo —o ni siquiera el más deseable— si eso va en detrimento de la creatividad o la adaptabilidad.

Alicia
Es como si el sistema necesitara algo de margen de juego para ser realmente inteligente.

Beto
Y esto conecta con la idea final: la necesidad de algo parecido a la autoconciencia o la metacognición en la IA.

Alicia
Saber sobre su propio conocimiento o falta de él.

Beto
Exacto. Nuestros cerebros tienen mecanismos complejos de comprobación interna y la capacidad de reflexionar sobre nuestros propios procesos mentales, de sentir incertidumbre. El artículo sugiere que construir capacidades análogas en la IA —que sean conscientes de sus limitaciones o de los niveles de confianza de sus salidas— es crucial para volverlas fiables y dignas de confianza.

Alicia
Así que, no se trata solo de parar los errores, sino de que la IA sepa cuándo puede estar equivocándose.

Beto
Esa parece ser una dirección clave.

Alicia
Para concluir: parece que estas alucinaciones, ya sea ese fogonazo de recuerdo falso nuestro o una falsedad confiada de una IA, no son simplemente errores sueltos o fallos aleatorios.

Beto
Probablemente no. El argumento es que pueden ser un subproducto fundamental de cómo funciona cualquier sistema inteligente que tenga que predecir y operar con información incompleta. Es la desventaja de una enorme ventaja.

Alicia
La capacidad de predecir y generalizar.

Beto
Exacto. Eso es esencial para navegar el mundo o para generar texto novedoso.

Alicia
Vaya. Eso cambia la perspectiva.

Beto
Y deja una pregunta profunda: si nuestras propias mentes hacen constantemente esta danza predictiva, rellenando huecos y modelando la realidad según cosas anteriores, ¿cuánto de lo que percibimos como realidad objetiva está realmente “ahí” ...

Alicia
... y cuánto es construcción interna, nuestra mejor conjetura?

Beto
¿Podría aceptar esta idea —la necesidad de alucinar mejor, quizá mejorando nuestra propia metacognición y corrección de errores— llevar no solo a mejores IA, sino quizá a una comprensión más profunda de nosotros mismos?

Alicia
Es para masticar. Mucho en qué pensar.

Beto
Seguro.

Alicia
Te llevamos en esta inmersión por el fascinante arte de equivocarse. Esperamos que les haya dado, a nuestros oyentes, algo para reflexionar. Quizá revisen sus propias suposiciones sobre conocimiento, error e inteligencia.

Beto
Hasta la próxima.

Alicia
Hasta nuestra siguiente exploración.