Estas fuentes de investigación analizan el sesgo cultural y las fallas mecánicas en 18 modelos de lenguaje de gran escala (LLM) de código abierto con respecto al conocimiento mitológico global. Mediante pruebas como la sondeo lineal y la lente logit, el estudio descubre que los modelos reconocen internamente identidades culturales específicas, pero sus decodificadores a menudo reducen esta información a las tradiciones occidentales dominantes durante la salida. Este "fallo de lectura" significa que los modelos con frecuencia poseen los datos culturales correctos en sus flujos residuales, pero no logran recuperarlos, optando en cambio por contrapartes mejor representadas, como figuras griegas o romanas. Los autores demuestran además que este sesgo depende del idioma, ya que consultar un modelo en el idioma nativo de una cultura a veces permite recuperar conocimiento al que las consultas en inglés no acceden. En definitiva, los hallazgos sugieren que la simplificación cultural en la IA es principalmente un problema de recuperación de información en las etapas finales del procesamiento, más que una falta total de representación interna. Más allá de la simple observación del comportamiento, la investigación proporciona un marco para diagnosticar si los errores de la IA se deben a la falta de conocimiento o a una decodificación defectuosa.
Enlace al artículo científico, para aquellos interesados en profundizar en el tema: "Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs". Por Iaroslav Chelombitko y colegas. Publicado el 3 de Agosto de 2026.
El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.
El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.
Resumen
Alicia
Imagina que tienes un amigo que es como un genio absoluto e innegable de la trivia.
Beto
Exacto. Como la persona que siempre quieres en tu equipo de trivia de bar.
Alicia
Exacto. Quiero decir, ellos lo saben todo. Puedes sentarte con ellos en la privacidad de tu sala de estar. Les haces las preguntas más oscuras imaginables y ellos dirán con confianza las respuestas correctas cada vez.
Beto
Sin dudar.
Alicia
Nada. Pero cada vez que suben al escenario bajo las luces brillantes, simplemente entran en pánico absoluto.
Se olvidan por completo de esos datos oscuros que saben perfectamente. Y en su lugar, simplemente difuminan la respuesta popular y obvia para la multitud cada vez.
Beto
Es una forma tan relacionable de visualizar lo que estamos viendo hoy. Porque según esta nueva investigación en la que estamos profundizando, ese escenario exacto, ese miedo escénico extraño y específico es precisamente lo que la inteligencia artificial está haciendo en lo que respecta a la cultura global.
Alicia
Lo cual es salvaje. Y, bienvenidos al análisis profundo.
Hoy, nuestra misión es descubrir exactamente dónde reside el sesgo cultural de una IA. Porque estamos mirando un artículo académico muy convincente que puso a prueba 18 modelos de IA de código abierto. Y queremos saber cuándo una IA se desvía hacia una visión del mundo centrada en Occidente, ¿es porque genuinamente no tiene los datos sobre otras culturas?
Beto
¿O está ocultando en secreto lo que realmente sabe?
Alicia
Exacto. Porque, a medida que dependemos más y más de la IA para que nos responda preguntas y nos resuma el mundo, si está aplanando sistemáticamente la realidad, eso es algo que realmente necesitas saber.
La brecha en la interpretación de la IA: Por qué los modelos "saben" más de cultura de lo que muestran.
Beto
Absolutamente. Y para entender este miedo escénico, primero necesitamos ver cómo los investigadores logran poner a prueba la IA. Quiero decir, medir el sesgo es notoriamente complicado.
Alicia
Oh, lo apuesto.
Beto
Porque si solo le haces a una IA preguntas abiertas sobre, digamos, el razonamiento moral o las tradiciones culinarias, se vuelve completamente subjetivo. ¿Cómo puedes calificar definitivamente la respuesta?
Alicia
No puedes. Es demasiado difuso. Entonces, ¿cómo resuelven la ambigüedad? ¿Por qué usar la mitología para medir el sesgo cultural?
Beto
Bueno, se reduce a tener una vara de medir justa y estandarizada.
Así que los investigadores usan algo llamado "el índice de motivo Thompson de la literatura folclórica" ("Thompson's Motif-Index of Folk-Literature") .
Alicia
Okay. El índice de motivo Thompson.
Beto
Sí. Este es un sistema de clasificación masivo y muy respetado utilizado por folcloristas y antropólogos. Esencialmente, categoriza todos los elementos narrativos que aparecen en los mitos de todo el mundo.
Alicia
Oh, interesante.
Beto
Cierto. Así que al usar este índice, los investigadores tuvieron una cuadrícula estandarizada perfecta con la que trabajar. Seleccionaron 27 motivos mitológicos específicos.
Alicia
¿Qué tipo de motivo?
Beto
Cosas como "el Dios Supremo del Cielo" o "el ladrón del fuego" o "el pícaro".
Alicia
Ya veo. Así que estos son conceptos universales que aparecen en casi toda cultura humana, solo que visten trajes diferentes, básicamente.
Beto
Exacto. Y luego contrastan esos 27 motivos, a través de 10 culturas distintas.
Alicia
Okay.
Beto
Estamos hablando de las bien documentadas, por supuesto, como la griega, noruega y romana, pero también de tradiciones menos representadas en los medios occidentales.
Alicia
¿Cuáles?
Beto
Como las ucranianas, finlandesas, chinas, japonesas, indias, egipcias e incluso mesopotámicas antiguas.
Alicia
Vaya. Así que veamos: 27 motivos por 10 culturas; eso nos da 270 entidades culturales muy específicas para probar.
Beto
Sí. Crea una matriz de trivia transcultural gigante, perfectamente paralela y transcultural.
Alicia
Eso es brillante.
Beto
Y la belleza de esto es que hay una respuesta única e inequívoca, un estándar de oro, para cada ranura de esa matriz.
Alicia
Cierto. No hay debate sobre la respuesta. Así que si le preguntas a una IA por "el Dios Supremo del Cielo" griego, responde de manera confiable con Zeus.
Beto
Sí. Muy confiablemente.
Alicia
Y por Noruega, dirá Thor, por romana, Júpiter. Esperamos eso.
Beto
Sí.
Alicia
Pero aquí está la verdadera prueba. Así que construyeron esta matriz de trivia transcultural gigante. ¿Pero qué pasa cuando preguntan por una cultura menos representada? Digamos, el dios Trueno Finlandés. ¿Responde simplemente la IA: "no lo sé"?
Beto
Mira, esa es la esencia del problema de comportamiento, que diagnostica el artículo. Los modelos rara vez admiten ignorancia. ¿De verdad?
Y dijeron que se niegan a responder, dan una respuesta vaga y evasiva, o, y esto es lo más revelador, emiten una entidad culturalmente plausible, pero totalmente incorrecta de una tradición dominante.
Alicia
Oh, vaya.
Beto
Sí, simplemente caen sobre lo familiar. Así que en lugar de darte el Dios Trueno Finlandés, simplemente podrían darte a Thor de nuevo, porque Thor está muy representado en sus datos de entrenamiento.
Alicia
Espera, si la IA está dando la respuesta incorrecta y simplemente recurriendo a Thor, la suposición natural, es decir, la que creo que cualquiera haría, es que simplemente le falta los datos.
Beto
Cierto. Eso es lo que pensarías.
Alicia
Porque es una máquina que predice palabras basándose en lo que ha leído. Así que si no ha leído suficiente mitología finlandesa durante su entrenamiento, simplemente no sabe la respuesta. ¿Se les olvidó a los desarrolladores subir libros finlandeses?
Beto
Bueno, eso es exactamente lo que los investigadores querían descubrir. Y para hacerlo, decidieron mirar dentro de la caja negra. No solo miraron lo que la IA escribía en la pantalla. Usaron herramientas de interpretabilidad mecanicista para mirar dentro de la arquitectura de la IA mientras estaba pensando. Y encontraron una contradicción asombrosa.
Alicia
Okay, vayamos un poco despacio aquí, porque aquí es donde el artículo se vuelve muy técnico. Así que probaron 18 modelos de lenguaje grande de código abierto que abarcan desde modelos más pequeños de 1.2 mil millones de parámetros hasta modelos de 34 mil millones de parámetros.
Beto
Sí, estábamos hablando de familias de modelos bien conocidas como Llama 3, Gemma, Phi y Qwen.
Alicia
Cierto. Pero ¿cómo miras realmente dentro del cerebro de un modelo? Quiero decir, no puedes conectar una máquina de resonancia magnética a un programa de software.
Beto
No, pero puedes hacer algo conceptualmente similar. Usan sondas internas complejas llamadas "sondeo lineal" ("linear probing") y las "lentes lógicas".
Alicia
Okay, imagina que no tengo un título en ciencias de la computación por un segundo. ¿Qué es una lente lógica?
Beto
Piensa en un modelo de lenguaje grande como una serie de capas parecido a una línea de ensamblaje.
Alicia
Okay, línea de ensamblaje. Entendido.
Beto
Cuando haces una pregunta, los datos pasan a través de docenas de estas capas, transformándose paso a paso antes de que finalmente escupa una palabra al final. Ese viaje interno, el estado matemático evolutivo de la IA mientras procesa los datos, se llama "el flujo residual" ("residual stream").
Alicia
Así que el flujo residual es como la libreta de borradores interna de la IA. Es el hilo de pensamiento que ocurre antes de que realmente abra su boca.
Beto
Exacto. Normalmente solo vemos el producto final al final de la línea de ensamblaje. Pero una lente lógica es una herramienta matemática que permite a los investigadores extraer los datos de la línea de ensamblaje a mitad del proceso.
Alicia
Oh, eso es genial.
Beto
Sí, toma la libreta de borradores interna de la IA a mitad del proceso y la obliga a traducir esa matemática cruda en palabras humanas prematuramente. Nos permite ver lo que la IA está representando internamente antes de que se apliquen los filtros finales.
Alicia
Eso es fascinante. Así que esencialmente están midiendo la diferencia entre lo que el modelo representa internamente, como sus pensamientos internos, y lo que emite externamente en tu pantalla.
Beto
Sí. Y la gran revelación aquí es simplemente salvaje. Cuando usan estas sondas, encontraron que las capas internas de la IA estaban identificando las culturas con una precisión increíblemente alta, como entre el 61% y el 88%.
Alicia
Espera, ¿tan raro?
Beto
Es un hallazgo asombroso. Las capas internas de la IA saben que el "Dios Trueno" finlandés es Ukko. Sabe que el "Dios Trueno" ucraniano es Perun. Los datos están ahí. El flujo residual distingue limpiamente las culturas.
Alicia
Okay, vamos a desenredar esto. Pero en el último paso del proceso, la parte de la IA que realmente dice la respuesta en voz alta para ti, la precisión colapsa completamente. Cae de ese rango del 61% al 88% a entre el 9% y el 43%.
Beto
Sí, el fallo ocurre completamente al final de la línea.
Alicia
Necesito contrarrestar esto. Antes, usamos la metáfora de un genio de la trivia teniendo, ya sabes, miedo escénico o reprimiendo su propio conocimiento. Pero la IA no es consciente.
Beto
Cierto, por supuesto que no.
Alicia
No se avergüenza por la mitología terminada. No tiene un ego que proteger. Así que mecánicamente, ¿cómo suprime una ecuación matemática algo que conoce?
Beto
Mira, esa es la pregunta perfecta que hacer porque nos lleva al mecanismo real en juego aquí, que es "la capa de desincrustación" ("unembedding layer").
Alicia
La capa de desincrustación.
Beto
Sí, esa es la capa final de la IA. Su trabajo es tomar los vectores matemáticos ricos y complejos del flujo residual y mapearlos a un vocabulario humano. Tiene que elegir una palabra específica para imprimir en tu pantalla. Y hace esto basándose en probabilidades.
Alicia
Okay, entonces es solo una batalla de estadísticas.
Beto
Exacto. Internamente, la IA ha aislado perfectamente el concepto del "dios finlandés". El vector matemático apunta directamente a Ukko. Pero cuando golpea esa capa de desincrustación, tiene que mirar la probabilidad estadística de generar ciertas palabras basándose en sus datos de entrenamiento.
Alicia
Oh, veo a dónde va esto.
Beto
Correcto. La palabra Thor tiene un peso estadístico masivo. La palabra Ukko tiene muy poco. Así que la pura atracción gravitacional de la palabra popular aplasta la palabra correcta y menos frecuente.
Alicia
Eso tiene mucho sentido. Es como si la IA tuviera un archivador interno perfectamente organizado. Le pides el dios del trueno finlandés. Va al archivador. Saca el archivo exacto y el archivo dice claramente, Ukko. Pero justo antes de entregarte el archivo esa capa de desincrustación interviene. Mira las probabilidades y dice estadísticamente, voy a imprimir la palabra Thor 10,000 veces más a menudo que Ukko. Así que simplemente voy a imprimir Thor.
Beto
Precisamente. Y lo fascinante aquí es que esto trastorna cómo pensamos sobre el entrenamiento de la IA.
Alicia
¿Cómo es eso?
Beto
Bueno, la narrativa predominante en el mundo de la tecnología siempre ha sido que las culturas de bajos recursos solo necesitan más representación en los datos de entrenamiento.
Alicia
Cierto. Simplemente dale más datos.
Beto
La suposición es que la IA no sabe sobre el folclore finlandés porque no hemos alimentado suficientes libros. Pero esta investigación prueba matemáticamente que el conocimiento ya está completamente formado dentro del modelo.
Alicia
Eso es una locura.
Beto
El fallo está en la lectura. Es un fallo en la capa de desincrustación, no un fallo en la representación. La IA es culturalmente consciente. Simplemente está reprimiendo la decodificación.
Alicia
Vaya. Así que si el problema es este cuello de botella final donde el peso estadístico de generar una palabra aplasta la respuesta correcta, ¿qué pasa si quitamos la presión? ¿Como si no lo forzáramos a generar la palabra desde cero?
Beto
Los investigadores hicieron un experimento brillante para probar exactamente eso. Crearon una prueba de sanidad de opción múltiple.
Alicia
Una prueba de opción múltiple para una IA.
Beto
Sí. Si el problema es la presión estadística de la generación de texto libre, decidieron simplemente darle opciones a la IA. Por cada motivo mitológico, le dieron a la IA una prueba de opción múltiple usando los 10 elementos de relleno paralelos para las diferentes culturas.
Alicia
Así que por "el dios del cielo", en lugar de pedirle que completara el espacio en blanco, podría simplemente elegir de una lista que contiene Zeus, Thor, Perun y así sucesivamente.
Beto
Solo elegir A, B, C o D.
Alicia
¿Y cómo lo hizo?
Beto
Cuando se le pide solo seleccionar la respuesta correcta en lugar de generarla desde cero, la precisión promedio entre los modelos subió hasta el 67%.
Alicia
Oh, vaya.
Beto
Compara eso con la precisión promedio del 26% que tenía en la generación libre.
Alicia
Eso es un salto masivo.
Beto
Lo es. El conocimiento está definitivamente ahí. Y cuando el formato de la tarea evita ese cuello de botella final de generación, la IA puede acceder a él de manera confiable.
Alicia
Pero espera un minuto. En Silicon Valley, la respuesta a literalmente cada fallo de la IA es generalmente solo hacer el modelo más grande.
Beto
Siempre.
Alicia
Cierto. Lanza más parámetros a él, construye un centro de datos más grande, entrena una red neuronal más grande. Si esto es un fallo estructural en cómo procesa la capa de desincrustación las probabilidades, ¿ayuda lanzar más parámetros a él?
Beto
Ese es el debate definitorio en el desarrollo de IA moderno ahora mismo. La obsesión con las leyes de escalado ("scaling laws"). La industria tecnológica cree en gran medida que la escala resuelve todos los problemas de razonamiento y recuperación de conocimiento.
Alicia
¿Y probó esto el artículo?
Beto
Lo hizo. Lo miraron dentro de la escalada de la familia. Por ejemplo, probaron un modelo de 1.2 mil millones de parámetros en un modelo Llama3 y luego lo compararon con un modelo Llama3 de 8 mil millones de parámetros en tres modelos. Hicieron esto a través de varias familias de modelos.
Alicia
¿Y dejaron de reprimir las culturas oscuras los modelos más grandes? ¿Superaron la presión estadística?
Beto
Mejoraron ligeramente, pero no curaron la enfermedad. Escalar arriba realmente reduce la brecha entre lo que el modelo sabe internamente y lo que dice externamente, pero nunca la cierra completamente.
Alicia
Okay. ¿Entonces cuánto se redujo?
Beto
Para esa familia Llama, al pasar de un modelo de 1 mil millones a uno de 8 mil millones de parámetros, la brecha cayó de 70 puntos a 63 puntos.
Alicia
Eso es apenas un rasguño.
Beto
Exacto. Esto plantea una pregunta importante porque los modelos más grandes son ligeramente mejores para hacer pasar la respuesta correcta a través del filtro, pero el cuello de botella fundamental permanece.
Alicia
Así que sigue atascado.
Beto
Sí. No podemos arreglar este aplanamiento cultural solo alimentando a la IA con más mitología finlandesa o mitología ucraniana o construyendo un modelo más grande si el decodificador está fundamentalmente cableado para reprimirlo.
Alicia
Entonces, deberíamos intentar una analogía diferente. Suena como si las empresas de tecnología estuvieran tratando de arreglar un coche que no puede ir rápido poniendo un motor masivo de 1000 caballos de fuerza en él.
Beto
Okay, me gusta esto.
Alicia
Pero el problema real es una tubería de escape obstruida y diminuta. El motor, la representación interna está haciendo el trabajo perfectamente, pero la salida, el escape o la capa de desincrustación está ahogándose y no puedes arreglar una tubería de escape obstruida solo haciendo que el motor sea más grande.
Beto
Esa es una forma mucho más precisa de verlo. La mecánica de la capa de generación está fundamentalmente defectuosa cuando se trata de datos de baja frecuencia. La reparación tiene que hacerse en la capa de salida.
Alicia
Así que si escalar los modelos no lo arregla, ¿qué hace?
Porque estoy asumiendo que los investigadores no solo señalaron la tubería de escape rota y se fueron.
Beto
No lo hicieron. Y este es quizás el descubrimiento más fascinante y práctico del artículo. Encontraron una forma de evadir el cuello de botella.
Alicia
Oh, ¿de verdad?
Beto
Sí. Resulta que la clave para desbloquear este conocimiento cultural oculto es el lenguaje que usas para hacer la pregunta.
Alicia
Espera, ¿el lenguaje de la instrucción ("prompt language")?
Beto
Sí. Hicieron consultas translingüísticas. Probaron exactamente las mismas 270 entidades mitológicas, pero en lugar de solo preguntar en inglés, lo hicieron en los idiomas nativos de las culturas que estaban probando.
Alicia
Así que lo plantearon en finlandés.
Beto
Exacto. Usaron griego moderno, finlandés, mandarín, árabe estándar moderno, hindi, y así sucesivamente.
Alicia
¿Y qué pasó? ¿Controla el lenguaje que usas realmente diferentes partes del conocimiento de la IA?
Beto
Sí. El lenguaje de la instrucción controla condicionalmente la lectura. Y lo que encontraron fue una división fascinante. La mitología griega y egipcia se recupera mucho, mucho mejor cuando le pides a la IA en inglés.
Alicia
Oh, interesante.
Beto
Pero los cánones chinos y finlandeses se recuperan mucho mejor cuando se les plantea en sus idiomas nativos.
Alicia
Pensemos por qué es eso, por un segundo. La historia griega y egipcia, al menos en la era digital moderna, ha sido masivamente documentada, traducida y debatida en la scholarship inglesa occidental, como la egiptología, los estudios clásicos. Todos esos datos están fuertemente basados en internet en inglés.
Pero los cánones chinos y finlandeses son naturalmente curados y discutidos en gran medida en sus propios idiomas nativos en la web.
Beto
Precisamente. El lenguaje de la instrucción se alinea con el idioma dominante de la investigación, y los datos de entrenamiento.
Pero la parte crucial es lo que esto significa para la arquitectura interna de la IA.
Alicia
¿Qué quieres decir?
Beto
Bueno, durante mucho tiempo ha habido una teoría popular en la investigación de IA de que los modelos de lenguaje grandes son solo máquinas de traducción universales.
Alicia
¿Qué significa eso, en la práctica?
Beto
La teoría asume que la IA tiene un único concepto puro y agnóstico al lenguaje en su centro, como si tuviera un concepto universal de un árbol.
Alicia
Cierto.
Beto
Y ya sea que se lo preguntes en inglés, español o japonés, simplemente dirige ese concepto único a un traductor y produce la palabra correcta.
Alicia
Como un traductor universal de ciencia ficción.
Beto
Cierto. Pero este artículo prueba que la teoría es fundamentalmente errónea. Porque si fuera una máquina de traducción perfecta, la consulta en inglés y la consulta en idioma nativo fallarían de la misma manera exacta.
Alicia
Ah, ya veo.
Beto
Si no supiera el dios finlandés del trueno en inglés, no debería saberlo en finlandés, porque supuestamente está extrayendo del mismo concepto central.
Alicia
Pero no fallan de la misma manera.
Beto
Exacto. Si conectamos esto con la imagen más amplia, los investigadores demuestran que las consultas en inglés y las consultas nativas están accediendo a subconjuntos parcialmente disjuntos de la misma representación interna.
Alicia
Eso es salvaje.
Beto
Los parafraseos translingües básicamente se desacoplan entre sí, lo que significa que si le preguntas a la IA en inglés y falla, debido a ese aplastamiento estadístico que hablamos, preguntarle en finlandés, evita esa trampa de probabilidad específica y de repente la hace acertar.
Alicia
Así que el conocimiento de la IA está fracturado y controlado por el lenguaje en la capa de decodificación.
Beto
Sí.
Alicia
Entonces, ¿qué significa todo esto para ti que estás escuchando ahora mismo?
Si estás sentado en casa o en el trabajo usando una IA para aprender sobre un tema diverso, de nicho o altamente localizado, el lenguaje en el que escribes tu instrucción es literalmente una llave.
Beto
Es una llave literal.
Alicia
Y diferentes llaves de idioma abren bóvedas de conocimiento completamente diferentes en el mismo cerebro de la misma IA.
Beto
Y los investigadores convierten esto en una solución muy práctica. Crearon lo que llaman "un conjunto bilingüe" ("bilingual ensemble").
Alicia
Un conjunto bilingüe. ¿Cómo funciona eso?
Beto
Simplemente combinan las consultas en inglés y las consultas en idioma nativo en la instrucción. Al pedirle a los modelos en ambos idiomas y agregar las distribuciones de probabilidad en la capa de salida, pudieron evadir el aplastamiento estadístico.
Alicia
¿Y cuál fue el resultado? ¿Mejoró la capacidad de la IA para recordar estos hechos culturales oscuros?
Beto
Masivamente. Al usar este conjunto bilingüe, la recuperación celular ("cell recovery"), que es su término para extraer con éxito la entidad correcta para una ranura específica en esa matriz bilingüe, se elevó en un absoluto 36%.
Alicia
36%.
Beto
Sí. Y lo más increíble es que logran ese gran aumento de rendimiento sin reentrenar los modelos en absoluto.
Alicia
Oh, vaya.
Beto
No agregaron ni un solo parámetro nuevo ni les alimentaron un solo libro nuevo. Simplemente cambiaron la llave de idioma.
Alicia
Esa es una solución inmediata, un truco de vida justo ahí. Quiero decir, si quieres la respuesta más profunda y precisa sobre una cultura localizada específica, pregunta a la IA en inglés y luego pregúntale de nuevo en el idioma nativo de esa cultura y junta las dos.
Beto
Son una jugada maestra.
Alicia
Estás evitando la tubería de escape obstruida dirigiendo los datos a través de un canal completamente diferente.
Beto
Es un cambio profundo en cómo interactuamos con estos sistemas. Prueba que el cuello de botella es un problema de comunicación, no un problema de conocimiento.
Alicia
Okay. Hemos cubierto terreno serio y fascinante hoy. Así que resumamos las ideas clave de esta inmersión profunda para que te vayas con la imagen completa.
Primero, la IA realmente sabe mucho más sobre diversas culturas globales de lo que nunca te revela en la pantalla. La representación de datos interna es robusta.
Beto
Muy robusta.
Alicia
Segundo, el sesgo cultural, ese molesto hábito de aplanarlo todo en un predeterminado grecorromano occidental, sucede en la capa de decodificación final. Es un fallo matemático de probabilidades donde las palabras familiares aplastan a las oscuras, no un fallo de ignorancia.
Beto
Cierto. No es una falta de conocimiento.
Alicia
Y tercero, puedes manipular esta trampa de probabilidad. El lenguaje que usas para escribir tu instrucción cambia físicamente las vías que la IA utiliza, alterando lo que se permite decirte.
Beto
Esas son las verdades mecánicas de este estudio. El conocimiento está en el flujo residual, pero el sesgo se inyecta en la capa de desincrustación.
Alicia
Lo que nos trae de vuelta a nuestro amigo genio de la trivia. Realmente sí saben la respuesta oscura. Solo tienes que descubrir cómo preguntarles para que el peso estadístico de la multitud no los haga entrar en pánico en el escenario.
Beto
Esa es una forma perfecta de resumirlo.
Alicia
Pero antes de terminar, quiero dejarte un pensamiento final para reflexionar. Porque si bien este artículo se centró en los dioses y mitos de culturas antiguas, las implicaciones de esta falla mecánica van mucho, mucho más allá de solo la mitología.
Beto
Realmente lo hacen. Dado que este artículo prueba matemáticamente que la IA suprime el conocimiento localizado y oscuro en la capa de decodificación final debido a los pesos estadísticos, tenemos que hacer una pregunta mucho más grande.
Alicia
Que es ...
Beto
¿Qué otros tipos de conocimiento localizado y matizado están actualmente atrapados silenciosamente dentro de estos modelos?
Alicia
Piensa en eso por un segundo.
Beto
Piensa en las prácticas médicas indígenas que no se describen ampliamente en inglés, o piensa en perspectivas políticas altamente regionales, o conceptos filosóficos no occidentales complejos que simplemente no se traducen limpiamente en marcos occidentales. La IA podría entender perfectamente todas estas cosas ahora mismo en su flujo residual. Ese conocimiento podría estar allí completamente formado, completamente preciso, simplemente sentado en la oscuridad, incapaz de superar el aplastamiento estadístico de los predeterminados occidentales, esperando a que uses la llave bilingüe correcta para finalmente dejarlo salir.
Entradas
