Una educación crítica por sobre el uso instrumental de las tecnologías.

“La IA” no es una sola

A fines de febrero supimos que la Ciudad Autónoma de Buenos Aires comenzaría a implementar la herramienta de IA generativa de Google, Gemini, en las escuelas estatales de nivel primario (desde 5to grado). Anuncio que se hizo acompañado del orgullo de afirmar que así, “CABA se convierte en la primera ciudad de América Latina en implementar dicha tecnología para este nivel educativo”. Porque, claro, ya estamos acostumbrados en que en el campo de las tecnologías en general y de las info-comunicacionales –las famosas TIC–, en particular, siempre la carrera es a ver quién llega primero (aunque no sepamos bien a dónde, cómo ni para qué).

Según el comunicado del Gobierno de CABA:

“Gemini ofrece a niños un entorno pensado para explorar, crear, investigar y aprender de manera acompañada, promoviendo el pensamiento crítico, la resolución de problemas y el uso responsable de la tecnología desde edades tempranas.”

Antes de seguir, una aclaración sobre este subtítulo. Últimamente estuve notando, ya sea en conversaciones cotidianas o en artículos periodísticos, que se usa la expresión de “la IA” en un sentido general de las siguientes maneras: “La IA me dijo…”; “Estoy usando la IA para…”; “lo busqué en la IA”. Con respecto a esto, me interesaba dejar una reflexión por acá. No hay una sola “IA”. Cada sistema tiene su propia arquitectura, sus códigos, sus algoritmos, sus bases de datos de entrenamiento, sus reglas, y –algo no menor– su lógica comercial (o no), su modelo de negocio (o su objetivo político o social). No son todas lo mismo, a pesar de que muchas se parezcan. Entonces, me parece importante nombrarlas. Nombrar cuál/es usamos.

De hecho, tampoco todas las iniciativas vienen de empresas globales. Un ejemplo de esto es la iniciativa de LatamGPT, un proyecto impulsado por el Centro Nacional de Inteligencia Artificial de Chile (Cenia), una corporación privada con financiamiento público.

Latam-GPT cuenta con el apoyo de universidades, fundaciones, bibliotecas, entidades gubernamentales y organizaciones de la sociedad civil de países como Chile, Uruguay, Brasil, Colombia, México, Perú, Ecuador y Argentina.

La paradoja de la comodidad y “pereza cognitiva”

Ahora sí, me interesa poner la atención en esto que dice el comunicado del Gobierno de CABA de que Gemini “promueve el pensamiento crítico” y me permito contrastarlo con algo que menciona Tomás Balmaceda en esta entrevista que le hizo Fredi Vivas y en la que se refiere a la “paradoja de la comodidad”, una comodidad que “apaga el pensamiento”. Tomás se refiere a un estudio realizado por Microsoft y dos universidades en el que siguieron durante 1 año a personas altamente calificadas de la industria del conocimiento que usan cotidianamente herramientas de Inteligencia Artificial generativa (IAGen).

❓ ¿Qué descubrieron? Que “el desarrollo de su pensamiento crítico bajó”, precisamente por la paradoja de la comodidad porque, como explica Tomás: “Empezás a olvidarte que tenés que chequear que eso es correcto, empezás a ver que lo hace rápido”. El desafío, entonces, está en cómo hacemos para usar estas herramientas “sin pensar que todo lo que nos da está bien”.

Una de las propuestas que hace Tomás es que tenemos que dejar de decir que “piensan” y que “son inteligentes en el sentido tradicional en el que decimos que una persona es inteligente” y dejando de decir que “eso es conocimiento”.

A esto le sumo la reflexión de que si esto pasa con personas adultas que ya se han formado, ¿cómo puede desarrollarse el pensamiento crítico en personas de 10 años que están cursando 5to grado y no solo van a usar algunas de estas herramientas en sus hogares sino también en sus escuelas? Este es el principal desafío.

Les invito a ver el video completo de la entrevista por acá:

Por otro lado, este testimonio de una adolescente sintetiza el concepto de la pereza cognitiva: “¿Por qué haría ese esfuerzo si lo puede resolver el chat?” responde Florencia (el nombre es ficticio para resguardar su identidad) cuando se refiere al uso que le da a ChatGPT (OpenAI) para resolver algunas de las tareas escolares que no le interesa hacer sin esa “asistencia”.

Evitar el esfuerzo (la fricción, dirían algunos) es lo que lleva a nombrar esta acción como “pereza”. Evitar el esfuerzo de leer, analizar, pensar y resolver un problema. Todas acciones necesarias no solo para hacer una tarea escolar, sino para fomentar el desarrollo cognitivo, para crecer y poder desenvolverse en la vida personal y profesional con autonomía. Para tomar decisiones propias y no delegadas.

A esto se le suma lo que plantea Mariano Caputo, docente de Comunicación en secundaria e investigador de la UBA sobre plataformas: El salto que implica la IA en comparación con Google es “la automatización de la producción escrita” y la estandarización del lenguaje. Las posibilidades creativas de los estudiantes quedan reducidas a los límites que imponen los patrones lingüísticos que producen los algoritmos.

Algo que se desprende de todo esto es otro desafío más: El de la evaluación. Mariana Ferrarelli, especialista en IA y educación, cuenta que hay dos estrategias que se repiten en distintos países. Por un lado, la defensa oral de un trabajo escrito que se asume que fue realizado con la asistencia de una IA. Por el otro, exámenes escritos a mano en el formato tradicional (no un trabajo práctico domiciliario). Esto, dice Mariana, “permite enseñar el uso de la IA, en el primer caso, y recolectar evidencias genuinas de aprendizaje donde no medió ayuda extra en el otro”.

Sobre esto, otrxs docentes –como es el caso de Delfina, docente de Formación Ética y Ciudadana en el nivel medio– plantean que “en lugar de resignarnos, muchos empezamos a pensar consignas que pongan en el centro las experiencias vitales de los pibes y pibas: sus recorridos, sus emociones, sus miradas. Porque ahí —en lo singular que no se puede automatizar— hay algo profundamente educativo”.

La personalización del aprendizaje

Uno de los argumentos que plantean algunas de las personas que dicen estar a favor de la implementación de herramientas de IA en los procesos de aprendizaje (ya sea en la escuela, como el espacio formal por excelencia, pero también en espacios de educación no formal) es que la IA permite enseñar a cada persona de la manera en que esa persona mejor comprende; es decir: la IA permite personalizar la experiencia del aprendizaje, enfocando en el progreso individual de cada estudiante. En algunos casos, hay quienes plantean que la personalización también debe llevarse al punto de que cada niñx aprenda aquello que más le interesa.

Sobre esto, me gustó una crítica realizada en 2024 por Nuno Crato, ex-ministro de Educación de Portugal, que dice lo siguiente:

En términos generales, las ideas parecen nobles, pero cuando se intenta operacionalizarlas se perciben sus limitaciones. La educación tiene que ser colectiva social, debe tener un programa común, un currículo común, de modo que todos los niños se desarrollen al máximo y que la educación no quede limitada a los intereses o a la personalidad de cada joven. (…)

¿Y qué decir de que cada uno siga su propio ritmo? En cierto sentido, eso ocurre, porque dentro de las aulas muchas veces las propias clases o los jóvenes pueden tener tiempo para sí mismos, para ir avanzando en las materias de la forma que cada uno necesita. Pero, ¿eso significa que se deba permitir que cada uno considere su ritmo? ¿Cómo garantizaríamos alcanzar objetivos mínimos? Por el contrario, es necesario que haya un programa común y un ritmo común para todos a fin de que todos estudien más, trabajen más y vayan más lejos. La educación es una actividad social.

Además, existen diversos problemas estructurales que exceden lo pedagógico y se vinculan con dimensiones sociales, políticas y económicas. Organismos internacionales y especialistas coinciden en que estos sistemas pueden fragmentar los saberes comunes, debilitar la función social de la educación y profundizar desigualdades preexistentes al ajustar contenidos en función del desempeño o el perfil de cada estudiante.

A esto se suma el riesgo de determinismo algorítmico, donde las trayectorias educativas quedan condicionadas por sistemas opacos que clasifican y predicen comportamientos, limitando la autonomía y la posibilidad de cambio. La falta de transparencia y explicabilidad en estos procesos dificulta tanto el control pedagógico como el ejercicio de derechos por parte de estudiantes y docentes.

Al mismo tiempo, su funcionamiento requiere una intensa recolección de datos personales y de comportamiento, lo que introduce riesgos de vigilancia y uso indebido de la información, especialmente en niños, niñas y adolescentes. Además, cuando estas tecnologías son desarrolladas por plataformas privadas, su diseño responde a incentivos económicos que no necesariamente coinciden con objetivos educativos.

Quien también advirtió sobre el peligro de la personalización del aprendizaje de la mano de la IA, es Melina Masnatta –especialista en tecnología educativa (por simplificar, tiene un CV más largo)– que remarcó algo central: aprender tiene que ver con bancarte la frustración de no entender algo “de una”, atravesar un proceso que puede ser difícil y que no va a ser rápido como “ver un video de TikTok”.

Un uso ético y responsable de la IA en la educación

En este sentido, es fundamental que los distintos actores involucrados en los procesos de implementación de IA en la educación mantengan el foco puesto en un uso ético y responsable de estas herramientas (especialmente si se pretenden implementar en las aulas).

En 2022, UNESCO publicó su Recomendación sobre la ética de la inteligencia artificial –que pueden encontrar en español por aquí–, un documento central para los tomadores de decisiones que diseñan e implementan políticas públicas educativas, pero que también puede servir para guiar a las propias escuelas y docentes.

Por otro lado, así como en el correo anterior me referí a la necesidad de “regular lo que existe y diseñar otras experiencias en el entorno digital”, no quiero dejar de mencionar la responsabilidad que tienen cada una de estas empresas en cómo piensan, diseñan y desarrollan sus propias herramientas de IA. El caso de Anthropic y OpenAI con el Pentágono permitió poner el tema de la ética de estas compañías en la agencia pública, pero no es algo que debe quedar como una simple anécdota que se pierda en el mar informativo.

Antes de cerrar, te dejo esta breve guía de aspectos a tener en cuenta para un uso ético:

1. Paso 0 (parar la pelota antes de jugar): Pensar “para qué” antes de pensar “cómo” usar la IA (no siempre se justifica su uso).
2. Transparencia: Presentar la/s herramienta/s a lxs estudiantes y establecer las reglas y acuerdos sobre qué está permitido hacer y qué no con las mismas.
3. Selección de las herramientas: La elección de las herramientas permitidas, el momento de su uso, los resultados esperados de las herramientas IA en el paisaje de aprendizaje del alumnado en clase será labor docente.
4. Alfabetización integral: enfocar la enseñanza no solo en los aspectos instrumentales de la/s herramienta/s, sino los reflexivos y críticos. Quién la diseñó, cómo funciona, qué sabemos (y qué no) de la herramienta, uso de datos, seguridad, comprender la importancia de decidir proactivamente en qué conviene usarla y en qué no, etc.
5. El sentido humano: La IA nunca debe sustituir la voz ni el pensamiento crítico del estudiante (tampoco del docente). Su uso exclusivo como reemplazo puede limitar el desarrollo personal y académico.

📚 Lecturas que te pueden interesar

• Ansiedad artificial, por Guillermo Movia.La historia empieza con una ecografía que se transforma en la imagen de un bebé que todavía no nació.Lo que aparece como una innovación más de la IA generativa abre preguntas bastante más profundas: uso de datos sensibles, ausencia de consentimiento -y de leyes-, opacidad sobre quién entrena estos sistemas y para qué.La nota de Guillermo pone el foco en algo clave: cómo estas prácticas se naturalizan apoyándose en emociones -como la ansiedad- y en un modelo de negocio que empuja a incorporar tecnología sin pausa ni reflexión.
• Stargate Argentina: infraestructura, poder y dependencia en la carrera por la IA, por Julieta César Pereira.¿Escucharon al gobierno argentino hablar del proyecto Stargate? ¿Saben de qué se trata realmente? ¿Qué implica para el país en el contexto de la carrera global por la inteligencia artificial?En esta columna, Julieta César Pereira analiza cómo esta inversión se inscribe en una disputa más amplia entre potencias, empresas e infraestructura crítica, y qué lugar queda para países como Argentina.
• También te recomiendo 2 libros centrales en esta época:
  • “Inteligencia Artificial en la educación y en el trabajo. Enfoques y preguntas para abordar los mestizajes humano-máquina” de Mariana Ferrarelli (comp.), ed. Grupo Magro (2026). Ya se consigue en Argentina.
  • “Teoría de la dependencia digital. Soberanía y desarrollo en el capitalismo del siglo XXI” de Cecilia Rikap, Caja Negra (2026). Se consigue fácil porque está recién lanzado también. Quizás recuerden cuando mencioné por acá, en enero de 2025, el documento “Recuperar la soberanía digital. Una hoja de ruta para construir un ecosistema digital para las personas y el planeta”. Cecilia fue una de las autoras principales de ese documento y su trabajo es más que recomendable.

Espero te haya resultado interesante este correo (o post). Cualquier cosa, podés escribirme. ¡Que tengas un lindo mes!
Gracias por estar ahí.
Carolina