Modelos de lenguaje pequeños: no se trata de que puedan hacerlo todo, sino de utilizarlos de forma adecuada

Qué indica el tamaño de un modelo

El número de parámetros describe la cantidad de valores aprendidos por el modelo, no directamente su idoneidad para una tarea concreta. En el informe técnico sobre Phi-3, Microsoft presenta, entre otros, phi-3-mini, con 3,8 mil millones de parámetros. El informe destaca la selección y preparación de los datos de entrenamiento, así como los ejemplos sintéticos. Por su parte, OpenELM de Apple estudia una distribución eficiente de los parámetros entre las capas del modelo y publica artefactos de entrenamiento complementarios. Ambos proyectos muestran distintas formas de trabajar con modelos de tamaño limitado. Sin embargo, de ello no se desprende una superioridad general de los modelos pequeños frente a los grandes. Un sistema más compacto puede ser suficiente para una tarea definida de forma precisa y, al mismo tiempo, rendir considerablemente peor ante preguntas sobre conocimientos poco habituales, instrucciones complejas o determinados idiomas. Por tanto, la unidad de comparación pertinente es el caso de uso concreto.

Por qué las clasificaciones no sustituyen el proceso de selección

Una buena puntuación media en varias pruebas de referencia puede ocultar debilidades decisivas en el propio entorno de uso. Un modelo puede resolver de manera aceptable tareas breves en inglés, pero tener dificultades con términos especializados en alemán, documentos largos o formatos de salida poco habituales. Además, los resultados se miden con configuraciones específicas: las plantillas de instrucciones, la cuantización y la longitud permitida de las respuestas influyen en el resultado. Por ello, al evaluar modelos pequeños, conviene utilizar tareas reales del propio entorno y no limitarse a comparar tablas publicadas. También importa el tipo de errores. Un sistema que manifiesta abiertamente su incertidumbre puede ser más adecuado para un asistente de alcance limitado que otro que genera con mayor frecuencia respuestas extensas y sin fundamento. Además, los modelos pequeños no minimizan automáticamente el uso de datos: que la información salga o no del dispositivo depende de la aplicación en su conjunto, no del número de parámetros del modelo.

Comenzar con una tarea acotada

Algunos puntos de partida adecuados son, por ejemplo, la clasificación de solicitudes internas, la reformulación de textos aprobados o la extracción de campos claramente definidos. Para estas tareas suele ser más fácil establecer qué resultados son correctos que para un servicio de consulta y asesoramiento de temática abierta. Una prueba piloto debería evaluar conjuntamente la calidad, el tiempo de respuesta, las necesidades de memoria y el esfuerzo humano de revisión posterior. También conviene establecer reglas para detener el proceso: si faltan datos o aparecen categorías desconocidas, no se debe adivinar, sino pedir aclaraciones. Solo merece la pena ampliar el alcance cuando el modelo pequeño cumple esa tarea de forma fiable. Si los casos complejos se derivan a otra instancia, también debe ponerse a prueba esa transferencia. La ventaja práctica no proviene de la etiqueta «pequeño», sino de un ámbito de actuación limitado y verificado, que se ajuste al hardware, a los requisitos de protección de datos y a los flujos de trabajo reales, y que se reevalúe periódicamente.

Seguir descubriendo

• Cómo interpretar correctamente AlphaFold: las predicciones estructurales necesitan información sobre su incertidumbre
• Descripciones de imágenes con IA: útiles cuando el propósito está claro
• Calidad de los datos: por qué la procedencia y la selección importan más que la mera cantidad