En este artículo, Olya Kudina investiga la integración de los Modelos de Lenguaje a Gran Escala (LLM) en la educación en ingeniería mediante una encuesta a 100 estudiantes y una revisión de la literatura actual. La investigación destaca cómo los estudiantes utilizan estas herramientas para la redacción académica, la asistencia en programación y la clarificación de conceptos, manteniendo la cautela ante problemas como las alucinaciones y los sesgos. Kudina analiza la percepción popular de la IA como un "oráculo" autoritario o un "tutor" personalizado, sugiriendo que estas metáforas a menudo exageran las capacidades reales de los generadores probabilísticos. Un hallazgo clave es el concepto de "optimismo cruel", donde la eficiencia prometida de la IA en realidad requiere un alto nivel de conocimientos que los estudiantes aún no dominan. En última instancia, la autora aboga por una alfabetización crítica en IA y un enfoque pedagógico orientado a un propósito que equilibre la innovación con la responsabilidad ética y ambiental. Este trabajo ofrece una visión general de cómo la disrupción tecnológica está transformando los valores y las prácticas de la educación superior.
Enlace al artículo científico, para aquellos interesados en profundizar en el tema: "Using AI in engineering education: a balancing act, driven by clear purpose", por Olya Kudina, de la universidad North-West en SudÁfrica. Publicado el 15 de Junio de 2026.
El resumen, la transcripción, y la traducción fueron hechas usando herramientas de software de Inteligencia Artificial.
El resumen se presenta en la forma de un diálogo entre dos personajes sintéticos que llamaremos Alicia y Beto.
Resumen
Beto
Si te dijera que generar una lista de lluvia de ideas simple de cinco puntos para su próximo ensayo consumió suficiente agua física para llenar un vaso. Y quemar exactamente la misma cantidad de electricidad es solo dejar una bombilla encendida en su casa. Podrías detenerte antes de escribir esa siguiente instrucción.
Alicia
Definitivamente lo piensas dos veces.
Beto
Exacto. Tendemos a pensar en la inteligencia artificial como esta magia sin peso viviendo en la nube en algún lugar. Pero bienvenidos a este análisis profundo.
Hoy, vamos a mirar mucho más allá de esas cajas de texto minimalistas y prístinas para examinar la realidad increíblemente desordenada, intensiva en recursos y psicológicamente compleja de lo que sucede cuando intentamos usar esta tecnología para aprender de verdad.
Alicia
Sí, es una imagen completamente diferente detrás de la pantalla.
Beto
Totalmente. Y nuestro material fuente hoy es un artículo realmente perspicaz de Olya Kudina, titulado "Usando IA e ingeniería educativa, un acto de equilibrio impulsado por un propósito claro".
Alicia
Y el valor de esta investigación específica es que evita completamente la exageración de marketing teórico. No estamos hablando de lo que los CEOs de tecnología afirman que hará el software en 10 años.
Beto
Claro. Lo de la ciencia ficción.
Alicia
Exacto. Estamos examinando lo que están haciendo realmente los estudiantes universitarios con ello en este momento. Y las trampas invisibles en las que están cayendo, sin siquiera darse cuenta.
Beto
Así que la misión de este análisis profundo es desglosar exactamente cómo los estudiantes de educación superior están percibiendo y utilizando los modelos de lenguaje grandes, o LLM. Queremos exponer las trampas psicológicas y epistémicas ocultas en las que están cayendo y, explorar cómo ustedes, ya sean estudiantes o profesionales, pueden navegar pragmáticamente toda esta disrupción.
La Balanza de la IA: Navegando LLMs en Educación para Ingenieros
Alicia
Bien, desglosémoslo. ¿Cómo podemos tender un puente entre las promesas mágicas de la IA y la realidad desordenada del aula?
Beto
Bueno, realmente tenemos que empezar con los datos crudos sobre el comportamiento del usuario. Así que el estudio de Kudina encuestó a 100 estudiantes de educación superior. Y debo señalar que estos no son novatos.
Alicia
Claro. Son bastante avanzados.
Beto
Sí. Predominantemente están en ingeniería, robótica y diseño. Así que son personas profundamente familiarizadas con sistemas complejos. Y la encuesta desglosa sus casos de uso principales.
Alicia
¿Qué encuentran?
Beto
El 27% está utilizando LLM para escritura y edición académica. Lo cual me encanta. Uno de los estudiantes del estudio incluso lo llamó "Grammarly en esteroides".
Alicia
Es una gran descripción, de verdad. Y luego tienen al 20% utilizándolo para la comprensión de conceptos, básicamente tratándolo como un explicador interactivo.
Y otro 17% lo están usando directamente para codificación y depuración ("debugging").
Beto
Así que en papel, todo suena genial, ¿verdad? Como un asistente multifuncional perfecto.
Alicia
Claro. Pero aquí está el giro. Los datos cualitativos, los comentarios reales de estos estudiantes, revelan esta inmensa corriente subterránea de ansiedad. A pesar del uso intensivo, de esas 100 respuestas, 53 señalaron específicamente preocupaciones graves sobre la calidad de la salida.
Beto
El 53%, vaya.
Alicia
Sí. Usan términos como "mentir" ("bullshitting"), se quejan de las alucinaciones y de cómo el sistema simplemente inventa hechos. Y el 34 señalaron lo el artículo señala como "carga de verificación" ("verification burden").
Beto
La carga de verificación. Profundicemos en eso porque parece ser el punto central de fricción ahora mismo.
Alicia
Absolutamente lo es. Los estudiantes están tratando a estos LLM como asistentes perfectos, pero se encuentran totalmente abrumados por la necesidad constante de revisar literalmente todo.
Beto
Es como, contratar a un interno increíblemente entusiasta e increíblemente rápido que simplemente te miente con confianza.
Alicia
Eso es prácticamente lo que es.
Beto
Como si el interno entrara a tu oficina, te entregara este informe de 50 páginas bellamente formateado y dijera: "aquí están esos cálculos de termodinámica". Pero la mitad de las matemáticas están totalmente fabricadas. Quiero decir, si tenemos que pasar todo nuestro tiempo verificando el trabajo del pasante línea por línea, ¿estamos ahorrando tiempo o simplemente estamos cambiando nuestra carga de trabajo?
Alicia
Definitivamente solo la estamos trasladando. Y la carga cognitiva de ser un gerente, verificarlo todo es agotador.
Beto
Entonces, ¿por qué siguen confiando en este interno defectuoso en primer lugar? Quiero decir, estos son estudiantes de ingeniería inteligentes.
Alicia
Bueno, se reduce a las metáforas que usan para entender la tecnología. Y la primera metáfora importante que identifica el artículo es "el oráculo".
Beto
El oráculo, como si supiera todo.
Alicia
Exactamente. Los estudiantes ven a los LLM como un narrador de la verdad omnisciente o como, según un estudiante, un "Google sobrepotenciado".
Beto
Pero llamarlo un Google sobrepotenciado implica que está extrayendo hechos duros de una base de datos, lo cual no ocurre.
Alicia
Correcto. No es un sistema de recuperación de hechos, en absoluto. Lo fascinante aquí es cómo la interfaz de diseño desalienta activamente el pensamiento crítico.
Beto
¿Cómo es eso?
Alicia
Bueno, piensa en la ventana de chat. Es totalmente libre de fricción, visualmente limpia. No te pide que pares o cuestiones la fuente. Simplemente te da la salida fluida y continua que imita el tono de un experto.
Beto
Así crea una ilusión de inteligencia, que enmascara la realidad técnica de que es solo un generador de texto probabilístico, que adivina la siguiente palabra.
Alicia
Exacto. Y esto lleva a una profunda vulnerabilidad epistémica. Un ejemplo perfecto de esto es cuando la IA genera fuentes fantasma ("ghost sources").
Beto
Oh, he visto esto donde te da una URL o una cita de un artículo que simplemente no existe.
Alicia
Claro. Alucinó la fuente porque estadísticamente, una cita parecía pertenecer allí, pero está completamente fabricada.
Beto
Lo que realmente me hace cuestionar el consejo estándar que dan los educadores. Siempre dicen: "confía, pero verifica". Pero el estudio señala que los usuarios a menudo carecen del conocimiento del dominio para detectar los errores.
Alicia
Sí, ese es el problema central.
Beto
Es como decirle a un estudiante que verifique una explicación de física compleja de un LLM. Es como pedirle a un piloto novato que verifique las matemáticas complejas del sistema de piloto automático de un avión. Quiero decir, ¿cómo puedes verificar un concepto que ni siquiera has aprendido todavía?
Alicia
No puedes. Simplemente no tienes las herramientas. Y esa ilusión del oráculo naturalmente conduce a una metáfora aún más íntima y quizás más peligrosa, sobre "el tutor".
Beto
Aquí es donde se pone realmente interesante, creo. Porque si sabe todo, seguramente puede enseñarte.
Alicia
Esa es la suposición. Los estudiantes están usando los LLM para este aprendizaje conversacional individualizado. Pero el problema es que los LLM usan todo este lenguaje adulador y afirmativo hacia el usuario.
Beto
Como 'gran pregunta'. O 'eres tan inteligente por preguntar eso'.
Alicia
Exacto. Aumenta la confianza percibida, pero falla en rastrear tu comprensión o proporcionar andamiaje pedagógico real como lo haría un tutor humano.
Beto
Y esto corre el riesgo de lo que el artículo llama "deuda cognitiva" ("cognitive debt"), descalificación ("de-skilling"), porque elimina totalmente la lucha productiva.
Alicia
Sí. Y la investigación muestra que la lucha proactiva es esencial para la retención a largo plazo. Si la máquina simplemente te da la respuesta, no estás construyendo esas vías neuronales.
Beto
Además, fallan tan mal en matemáticas complejas y física conceptual profunda de todos modos.
Alicia
Realmente lo hacen.
Y hay otra capa crucial aquí con respecto a la imparcialidad. El artículo señala que los LLM perpetúan sesgos ocultos.
Beto
Oh, cierto. El estudio demográfico.
Alicia
Sí. Un estudio reciente mostró que los LLM adaptan las explicaciones de STEM basándose en el género percibido por los usuarios. Así que usa metáforas domésticas para las mujeres y explicaciones enfocadas en el proceso técnico para los hombres.
Beto
Simplemente está reflejando silenciosamente sesgos sociales sin que nadie se dé cuenta. Vaya.
Pero volviendo a esa cosa de la descalificación, realmente cuestiono el valor final del aprendizaje sin fricción.
Alicia
Es una gran preocupación para los educadores ahora mismo.
Beto
Quiero decir, es como usar un LLM para generar automáticamente un esquema estructural para un ensayo similar a tomar un helicóptero hasta la cima de una montaña, y afirmar que la escalaste.
Alicia
Esa es una gran manera de decirlo.
Beto
Obtuviste la vista, pero no construiste ningún músculo en las piernas. Simplemente saltaste toda la escalada.
Alicia
Y eventualmente vas a caminar y no tendrás los músculos para ello.
Así que habiendo desmantelado las metáforas del oráculo y el tutor, realmente tenemos que mirar el núcleo psicológico.
Beto
Claro. ¿Por qué los estudiantes siguen volviendo a estas herramientas a pesar de las fuentes fantasma, los sesgos, la falta de aprendizaje real?
Alicia
El artículo introduce este concepto por Lauren Berlant llamado "Optimismo Cruel".
Beto
Optimismo Cruel. Me encanta esa frase, pero ¿qué significa realmente aquí?
Alicia
Es un estado en el que lo que deseas es en realidad un obstáculo para tu florecimiento. Los estudiantes desean desesperadamente un atajo para manejar sus abrumadoras cargas de trabajo.
Beto
Simplemente quieren aprender de manera eficiente.
Alicia
Claro. Pero la crueldad es que extraer cualquier valor real de un LLM requiere un inmenso trabajo cognitivo, emocional y moral para verificar esas salidas.
Beto
Porque tienes que cuidar al interno.
Alicia
Exacto. La paradoja es que hacer que los LLM funcionen de manera efectiva requiere exactamente el conocimiento disciplinario, la humildad epistémica y las habilidades de validación de fuentes que los estudiantes están adquiriendo en la universidad, para empezar.
Beto
Si conectamos esto con la imagen más grande, están siendo esencialmente obligados a convertirse en gerentes de un sistema defectuoso.
Alicia
Si conectamos esto con la imagen más grande, exactamente. Están asumiendo la responsabilidad por la precisión de afirmaciones que no están totalmente equipados para evaluar.
Beto
Me recuerda que es como comprar un gimnasio casero motorizado increíblemente complejo para ahorrar tiempo. Solo para darte cuenta de que necesitas un título literal en kinesiología solo para usarlo de forma segura sin lastimarte.
Alicia
Correcto. La herramienta exige la experiencia exacta que esperabas que reemplazara.
Beto
Así que armados con todo esto, estas trampas psicológicas, estas trampas prácticas, ¿cómo deberían ustedes, los oyentes y cómo deberían los educadores manejar esto sin simplemente prohibirlo por completo?
Alicia
Bueno, la conversación pivota hacia soluciones y comienza con un factor crítico, a menudo ignorado: el costo ambiental.
Beto
Volvamos a esa estadística de agua y energía de la introducción.
Alicia
Sí, una sola consulta a ChatGPT utiliza alrededor de 0.34 vatios hora. Eso es como alimentar una taza de té helado por unos minutos. Y utiliza cinco gotas de agua solo para enfriar.
Beto
Lo que no suena mucho hasta que lo escalas.
Alicia
Exacto. Anualmente, un ChatGPT consume 310 gigavatios hora. Eso es comparable al consumo de electricidad de tres millones de personas en Etiopía.
Beto
Eso es asombroso.
Alicia
Y para 2027, la demanda de agua de la IA superará el total anual de extracción de Dinamarca.
Beto
Realmente quiero llevar eso directamente a ustedes, quien están escuchando ahora mismo. Dado que generar una lista de "lluvia de ideas" genérica requiere agua y energía del mundo real equivalente a encender una bombilla, no debería eso por sí solo hacernos hacer una pausa y preguntarnos si la energía vale la pena para tareas triviales.
Alicia
Absolutamente debería hacerlo. Y esta realidad ambiental combinada con los riesgos educativos conduce al marco AAA para educadores: "Against, Avoid, Adapt" ("contra evitar, adoptar").
Beto
Desglósalo para mí.
Alicia
- "Contra" es para habilidades de orden inferior, como la recuperación básica. Tienes que forzar la lucha productiva allí.
- "Evitar" es para habilidades de orden superior que necesitan contexto personal, como escribir sobre tu propia experiencia vivida. No quieres que una máquina haga eso.
- Y "adoptar" es para la crítica intencional, como tener la IA generando código defectuoso y la tarea es que el estudiante encuentre los errores y los corrija.
Beto
Así que estás convirtiendo el defecto en la lección.
Alicia
Precisamente. Y un gran ejemplo de esto es una herramienta matemática llamada "Waterproof". Combina la IA basada en reglas tradicional con IA generativa para proporcionar una interfaz de chat amigable, pero el motor basado en reglas evita que alucine las matemáticas.
Beto
Así que es seguro.
Alicia
Correcto. Esta es una pregunta importante con respecto a lo que se llama "el dilema de Collingridge".
Beto
El dilema de Collingridge, ¿me recuerdas lo que es?
Alicia
Es la idea de que cuando una tecnología es nueva, puedes cambiarla, pero aún no conoces las consecuencias. Para cuando conoces las consecuencias negativas, la tecnología está tan arraigada que no puedes cambiarla.
Beto
Lo que se siente exactamente como estamos con la IA generativa ahora mismo.
Alicia
Exacto. Así que el autor argumenta que necesitamos mantener la limitación tecnológica, básicamente manteniendo un espacio intermedio donde experimentamos, pero no arraigamos completamente la tecnología en nuestros sistemas antes de comprender las consecuencias.
Beto
Tenemos que mantener nuestras opciones abiertas.
Alicia
Tenemos que hacerlo.
Beto
Entonces, ¿qué significa todo esto? Sinteticemos rápidamente este viaje. Pasamos, de la realidad de cómo los estudiantes están usando realmente la IA, a través de las ilusiones del oráculo, y la metáfora del tutor, ...
Alicia
... hasta la trampa del optimismo cruel.
Beto
Claro. Y finalmente, las realidades ambientales y marcos prácticos como "contra", "evitar", "adoptar". Y quería recordarles directamente a los oyentes que si bien estas herramientas son increíblemente seductoras, ustedes son quienes todavía tienen que hacer el trabajo pesado del verdadero aprendizaje y la verificación.
Alicia
No pueden subcontratar el proceso de aprendizaje.
Beto
Realmente no pueden.
Y eso me lleva a un pensamiento final provocador que quiero dejarles para que lo exploren ustedes mismos.
Pasamos todo este tiempo hablando del peligro de que la IA alucine y se equivoque. Pero si las empresas de tecnología eventualmente tienen éxito en hacer que la IA sea perfectamente fluida, es decir, que simplemente deje de cometer errores obvios de alucinación, ¿nuestros músculos críticos de verificación se atrofiarán por completo?
Alicia
Eso es un pensamiento aterrador.
Beto
Correcto. Quizás el estado actual profundamente defectuoso de la IA, este interno que tenemos que cuidar, es en realidad un regalo oculto que nos obliga a mantenernos escépticos.
Tal vez el verdadero peligro no sea cuando la IA está equivocada, sino el día en que se vuelve casi siempre correcta.
Entradas
