Por qué los modelos de lenguaje pequeños son el futuro de la IA
Los modelos de IA más grandes acaparan los titulares. Los que harán la mayor parte del trabajo son lo bastante pequeños para tu móvil. Te contamos por qué, con cifras.
Qué es un modelo de lenguaje pequeño
Un modelo de lenguaje es la parte de una IA que lee tu pregunta y escribe la respuesta. Los grandes, como los modelos detrás de ChatGPT y Gemini, funcionan en centros de datos. Un modelo de lenguaje pequeño, o SLM (small language model), tiene unos pocos miles de millones de parámetros en lugar de cientos de miles de millones. Es lo bastante pequeño para un portátil o un móvil.
No hay un límite oficial. Investigadores de NVIDIA llaman pequeño a un modelo cuando cabe en un dispositivo normal y responde lo bastante rápido para una persona (NVIDIA Research). En la práctica suele ser menos de 10 mil millones de parámetros. El modelo que Apple pone en tu iPhone tiene unos 3 mil millones (Apple).
Los modelos pequeños mejoraron rápido
En 2022, el modelo más pequeño que superó el 60 % en MMLU, un gran examen de cultura general, era PaLM de Google. Tenía 540 mil millones de parámetros. En 2024, Phi-3-mini de Microsoft superó la misma marca con 3800 millones. Es 142 veces más pequeño en dos años (Stanford AI Index 2025).
El precio bajó aún más rápido. Una respuesta al nivel de GPT-3.5 costaba unos 20 $ por millón de tokens en noviembre de 2022 y 0,07 $ en octubre de 2024. Es más de 280 veces más barato (Stanford AI Index 2025).
Y la distancia sigue acortándose. Epoch AI vio que los modelos abiertos que funcionan en una sola tarjeta gráfica de gaming igualan a la mejor IA de 6 a 12 meses antes (Epoch AI).
Por qué gana lo pequeño
La mayoría de las tareas son tareas pequeñas
Apuntar el dentista en tu calendario, resumir un correo, comprobar si un SMS es una estafa. Para eso no necesitas el modelo más grande del mundo. Los investigadores de NVIDIA lo defienden para los agentes de IA: la mayoría de los pasos de un agente son repetitivos y acotados, y un modelo pequeño los hace bien. Calculan que un modelo de 7 mil millones de parámetros cuesta de 10 a 30 veces menos que uno de 70 a 175 mil millones, en velocidad, energía y cálculo (NVIDIA Research).
Las empresas también lo ven. Gartner prevé que en 2027 las organizaciones usarán modelos pequeños hechos para una tarea al menos tres veces más que los grandes modelos generales (Gartner).
Funciona con lo que ya tienes
La AIE prevé que los centros de datos usarán más del doble de electricidad en 2030, unos 945 TWh. Es algo más de lo que consume hoy todo Japón (AIE). Un modelo pequeño en tu móvil funciona con un chip que ya llevas en el bolsillo. También funciona sin conexión.
No cuesta nada por pregunta
Cada pregunta a un modelo grande en la nube le cuesta dinero a la empresa, y alguien lo paga: con una suscripción, con anuncios o con tus datos. El modelo de Apple en el dispositivo no cuesta nada por pregunta a las apps que lo usan (Cult of Mac). Así que una app puede regalar su IA.
Tu pregunta se queda contigo
Cuando el modelo funciona en tu dispositivo, tu pregunta no tiene que ir a ninguna parte. Ninguna empresa la guarda, la lee ni entrena con ella. En preguntas sobre tu salud, tu dinero o la gente que te rodea, eso es lo que más cuenta.
Melo responde en tu propio iPhone y Mac. Tus preguntas no van a Kamelo ni a ninguna otra empresa de IA. Consigue Melo
Lo que los modelos pequeños aún no saben hacer
- Saben menos. En unos pocos miles de millones de parámetros no cabe cada dato que conoce un modelo enorme, así que fallan más en preguntas de conocimiento difíciles. Buscar ayuda.
- Pensar mucho rato en algo difícil, como una demostración complicada o un trozo grande de código, todavía sale mejor con modelos grandes.
- Necesitan un dispositivo reciente. Apple Intelligence necesita un iPhone 15 Pro o posterior.
Así que el futuro es mixto. Un modelo pequeño en tu dispositivo hace casi todo el trabajo, y solo la pregunta difícil va a un modelo más grande. Los investigadores de NVIDIA proponen lo mismo: sistemas con modelos de distintos tamaños, con el pequeño por defecto (NVIDIA Research).
Cómo usa Melo los modelos pequeños
Melo está hecho sobre esta idea. En iPhone, Melo responde con el modelo que Apple Intelligence pone en tu móvil. En Mac también puedes elegir Gemma 4, un modelo que funciona en tu Mac. Tus preguntas no van a Kamelo ni a ninguna otra empresa de IA.
Con eso, Melo planifica tu día, busca recetas, lee tu correo y te avisa de los SMS fraudulentos. Cuando Melo busca algo, solo las palabras de búsqueda salen de tu dispositivo, nunca tu chat.