Inteligencia artificial a medida: por qué apostamos a modelos pequeños y qué podemos hacer hoy

Compartir:

Cuando hablamos de IA generativa solemos pensar en ChatGPT, Claude o Gemini. Ante la pregunta por la soberanía digital, los “modelos de pesos abiertos” aparecen como una salida. Pero poder descargar un modelo no alcanza: entre esos pesos y una herramienta que pueda usar de verdad una universidad u organización hay hardware, mantenimiento, datos y decisiones colectivas.

Hace un tiempo tuvimos la oportunidad de pensar un caso en una universidad pública. El área de tecnología educativa recibía muchos más correos de consulta que los que las personas a cargo podían procesar. Según ellas, cerca del 80% eran preguntas cuyas respuestas podían encontrarse en las preguntas frecuentes de la web oficial.

Sin embargo, que la respuesta esté publicada no quiere decir que sea fácil encontrarla o sencillamente que la gente la lea. Una pregunta del tipo “¿cómo entro al aula?” abría otras: ¿la persona es estudiante de grado o de posgrado? ¿A qué aula se refiere? ¿Ya tiene usuario? Contestarlas requería varias idas y vueltas, tiempo y conocimiento del contexto.

Sonaba como una excelente oportunidad para implementar un chatbot. Nos propusimos que fuera útil para las consultas de estudiantes, libre, con pocos recursos y autoalojado: que la institución pudiera ejercer control sobre la herramienta, sus datos y sus reglas.

Spoiler: no lo implementamos. El principal obstáculo no fue encontrar un modelo de lenguaje capaz de conversar, sino contar con una dependencia (el área de informática u otra) que pudiera garantizar un servidor con capacidad suficiente y disponible todo el tiempo para ser el motor del chat. Un chatbot abierto al público no es sólo una ventana con respuestas: tiene que estar encendido, actualizado, responder bien y tener responsables cuando algo falla.

Exploramos servicios de modelos de lenguaje por internet, como Together AI. Nos sacaban del apuro técnico, pero el motor, los precios y las reglas seguían del otro lado. Para nuestro caso, eso no resolvía el problema: usar un servicio no es lo mismo que correrlo y sostenerlo en la propia institución. Se parece a lo que Julieta César Pereira señaló en su artículo sobre los Emiratos Árabes Unidos: a veces se administra mejor una dependencia, pero no se sale de ella.

Ese problema concreto desplazó la pregunta. En vez de insistir sólo con “¿cómo hacemos este chatbot público?”, empezamos a preguntar qué usos de IA locales, privados y sostenibles podíamos resolver con el hardware y las capacidades que teníamos. Esa pregunta fue uno de los puntos de partida de mi doctorado y de una propuesta todavía en construcción: una escalera de apropiación para pensar qué capacidades en IA puede construir una organización.

¿Cuándo una IA es libre?

Las IAs de moda no traen sólo un problema técnico. Cuando una organización usa servicios de terceros, datos sensibles pueden salir de su control; los precios, las reglas y la disponibilidad quedan en manos ajenas; y suele haber poco acceso a los datos, al entrenamiento y a los criterios con que se armó el sistema. También pesan el extractivismo de cultura y trabajo, el consumo de energía y chips, y los sesgos que reproducen desigualdades ya presentes en los datos.

Jiang y Belli (2025) definen la soberanía digital como el ejercicio de agencia, poder y control en la configuración de la infraestructura, los datos, los servicios y los protocolos digitales. Una de las tradiciones que más ha insistido en ese control es el software libre, con sus cuatro libertades: usar el programa para cualquier propósito; estudiar y modificar cómo funciona; redistribuir copias; y compartir versiones modificadas.

Las libertades del software libre son claras cuando hablamos de software tradicional: alguien escribe, a mano, las reglas y los pasos que el programa debe ejecutar. Ese texto es el código fuente. Si puedo leerlo, puedo estudiar cómo funciona y, con las libertades correspondientes, modificarlo. Aplicar esa misma idea a las inteligencias artificiales generativas es más difícil, porque por detrás no «hay código» de la misma manera: funcionan distinto.

Detrás de un modelo de lenguaje suele haber una red neuronal. Una forma simple de imaginarla es pensar en una ducha con canilla de agua fría y de agua caliente: entrenar es ir abriendo y cerrando cada una hasta encontrar la temperatura y el caudal deseados. En una red neuronal, en lugar de dos canillas hay millones. Cada una se llama peso: un número que indica cuánto deja pasar de cada dato de entrada. Entrenar es ajustar esos pesos para que, ante cierta información, salga lo que consideramos correcto. Si le doy al modelo “lo tengo en la punta de la…” y quiero que complete “lengua”, cualquier otra salida me obliga a seguir calibrando. Por eso, en estos sistemas no alcanza con publicar “el programa”: hace falta la arquitectura (el plano de cómo se conectan las canillas) y los pesos (cuánto está abierta cada una). Y si queremos estudiarlos y modificarlos de verdad, también importa la información sobre los datos y el proceso de entrenamiento.

Por eso, la Open Source AI Definition de la Open Source Initiative propone pensar una IA abierta a partir del código, los pesos y la información sobre los datos de entrenamiento. La definición ayuda a distinguir entre publicar una parte de un sistema y poder estudiarlo y modificarlo de verdad.

Hoy hay cientos de miles de modelos descargables en repositorios como Hugging Face. Eso es importante, pero no alcanza. Muchos modelos permiten acceder a los pesos sin publicar toda la información necesaria para comprender o reproducir cómo fueron entrenados. Y aun si una licencia habilita el uso, queda otra pregunta: ¿podemos usar efectivamente ese modelo para lo que necesitamos?

¿Qué significa usar una IA?

Esa es, para mí, la libertad 0 llevada a la práctica. Antes de discutir si puedo modificar o compartir un modelo, necesito poder ejecutarlo en mi hardware y usarlo con la interactividad y la funcionalidad que requiere mi caso.

Publicar pesos gigantes puede habilitar legalmente el acceso sin democratizar materialmente la capacidad de uso. Un modelo puede estar disponible para descargar, pero puede exigir una infraestructura que sólo tienen grandes empresas, Estados o centros de cómputo.

Para no mezclar todo, conviene mirar al menos cuatro cosas:

  1. ¿Corre? ¿El modelo entra en la computadora o servidor disponible, con el sistema operativo y los programas necesarios?
  2. ¿Es usable? Si responde una palabra por vez cada muchos segundos, quizá funcione técnicamente, pero no sirve para una conversación o una tarea cotidiana.
  3. ¿Sirve para el problema? Que responda rápido no garantiza que responda bien, que comprenda una normativa o que no invente información.
  4. ¿Se puede sostener? ¿Quién actualiza los documentos, revisa las respuestas, mantiene el equipo y se hace cargo de las fallas?

El primer punto nos lleva de inmediato al hardware. Esos pesos no son abstractos: son números que ocupan memoria. Cada peso puede ocupar del orden de 1 a 4 bytes, vamos a usar 1 para simplificar los cálculos. Multiplicado por miles de millones o billones de parámetros que tiene un modelo, la cuenta se vuelve material, todo eso tiene que entrar en la memoria RAM. Y la memoria no es barata: está atravesada por restricciones de suministro y por tensiones geopolíticas sobre la infraestructura de IA.

¿Cuánta RAM necesito para poder ejecutar un modelo? De los modelos de frontera propietarios, como los de OpenAI, Anthropic o Google, no conocemos con exactitud cuánto ocupan por dentro. Pero vamos a ver un caso de pesos abiertos comparable en escala para guiarnos.

Un ejemplo reciente: Mistral Large 4, tiene alrededor de 1,05 billones de parámetros (1,05 x 10¹²: un millón de millones. En la escala americana que se usa en estos sistemas, suele decirse trillion. Si buscan en internet van a encontrar la numeración estadounidense). A 1 byte por parámetro, sólo los pesos ocuparían alrededor de 1.050 GB. Sumando un margen aproximado del 20% para datos auxiliares y para que el sistema pueda funcionar, llegamos a unos 1.260 GB de memoria. Eso equivale a unas 80 notebooks de 16 GB de RAM.

La equivalencia es de memoria, no de rendimiento: no alcanza con enchufar 80 computadoras para obtener lo mismo. Tener el modelo en el disco tampoco alcanza, sin cargarlo en RAM no corre. Por eso los pesos abiertos ayudan, pero no eliminan la barrera material. Es una regla de escala para discutir, no un requisito oficial de un fabricante.

IA a medida, no IA más grande

Una vía es la infraestructura pública: el Centro de Computación de Alto Desempeño de la Universidad Nacional de Córdoba (CCAD-UNC) o Clementina XXI, por ejemplo. Quiero proponer otra, complementaria: ¿qué tan grande tiene que ser un modelo para que me sea útil? Los Large Language Models (LLMs) priorizan la escala; los Small Language Models (SLMs) se piensan por su adecuación a tareas específicas bajo restricciones de cómputo y memoria (Wang et al., 2025).

En pruebas que venimos haciendo con hardware de recursos limitados, una notebook sin placa de video y con 16 GB de RAM permite empezar a ejecutar localmente de manera fluida modelos pequeños (unos 1 a 4 mil millones de parámetros, en terminología estadounidense de 1 a 4 billones de parámetros o 1b a 4b) en versiones comprimidas (1 byte por parámetro) (Bordone, 2026). Eso no quiere decir que sirvan para cualquier tarea, ni que reemplacen un servicio institucional encendido todo el tiempo. Quiere decir que la frontera de lo posible no coincide siempre con la oferta de los grandes proveedores.

No hace falta reproducir en pequeño la carrera por el modelo más grande. Hace falta elegir una tecnología adecuada al problema: qué datos entran en juego, qué margen de error aceptamos, qué hardware hay, cuánto puede tardar una respuesta, quién lo mantiene y si se puede cambiar de herramienta sin empezar de cero.

Esa mirada se acerca a una perspectiva cyberciruja: reutilizar y conocer el hardware que ya está, extender su vida útil y construir capacidades locales, en lugar de asumir que sólo vale lo nuevo y concentrado.

Los modelos pequeños tienen límites. Saben menos de todo, se equivocan y necesitan evaluación. Pero, para tareas acotadas, abren otra posibilidad: experimentar en local, cuidar mejor la información sensible y aprender qué se necesita antes de delegar por completo la decisión.

Una escalera de apropiación

Como borrador para discutir esa posibilidad, propongo pensar una escalera de apropiación. No es una receta ni una obligación de llegar al último peldaño: cada nivel puede aportar autonomía y resolver problemas distintos.

El primer escalón es ejecutar un modelo localmente. Herramientas como LMstudio u Ollama permiten probar modelos en una computadora propia. Ya ahí cambia algo: la consulta no tiene por qué salir automáticamente a una plataforma externa.

El segundo es usar información propia en local. En lugar de pretender que el modelo “aprenda” todo lo que sabe una organización, se le pueden acercar los documentos pertinentes cuando recibe una pregunta. Esta técnica suele llamarse RAG: en términos simples, es darle al modelo la carpeta adecuada antes de pedirle una respuesta. Sigue siendo necesario evaluar lo que responde: tener un documento a la vista no le impide inventar. Podemos explorar esta capacidad con herramientas como GPT4All.

El tercer escalón es hacer tareas acotadas con herramientas y controles. Un agente no es un modelo mágico que actúa por su cuenta: es un sistema que combina un modelo con programas, permisos y reglas. Las herramientas pueden ser, por ejemplo, buscar en internet o leer y escribir archivos en la propia computadora. El modelo interpreta el pedido, elige una herramienta y propone una acción, pero debería pedir confirmación antes de hacer algo sensible. Un ejemplo de implementación es Abitácora, un agente que administra listas de tareas.

El cuarto es especializar modelos para una función. No toda IA útil debe ser un chatbot generalista. AymurAI, por ejemplo, se orienta a detectar datos personales para anonimizar documentos judiciales. Es una tarea más delimitada, evaluable y potencialmente más adecuada que pedirle a un asistente generalista que resuelva todo.

El quinto es entrenar y comprender modelos propios. No es una posibilidad al alcance de cualquier organización ni hace falta que lo sea para obtener beneficios en los escalones previos. Pero experiencias como TinyStories ES, un modelo pequeño de cuentos que puede correr en una netbook de Conectar Igualdad de alrededor de 2010, sirve para aprender qué hay dentro de estos sistemas y para imaginar otras escalas de producción tecnológica.

La infraestructura también es un derecho

La escalera no elimina las dependencias de chips, energía, conocimiento especializado o mantenimiento. Tampoco pide que cada área de una universidad opere su propio servidor o entrene su propio modelo. El caso del chatbot muestra justamente ese límite: sin alguien que garantice el motor encendido, el resto queda en el aire.

Pero sí permite correr la discusión. En lugar de elegir entre una plataforma cerrada o renunciar a la IA, podemos preguntarnos qué infraestructura pública compartida, qué formación y qué políticas de mantenimiento hacen falta para que universidades y organizaciones chicas tengan margen real de decisión.

La soberanía tecnológica no se agota en que un modelo esté disponible para descargar. También exige poder comprender qué hace, decidir dónde corre, cuidar los datos que le damos y sostenerlo en conjunto. La escalera es apenas un borrador para empezar a recorrer esa pregunta: qué IA necesitamos y qué capacidades queremos construir para usarla.

👩🏻‍💻 Nota de la editora: Este artículo está basado en la charla homónima del autor, disponible en YouTube, para quien quiera profundizar en sus contenidos.

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Filtros

Telegram Sumate a nuestro canal de Telegram