Un modelo con los pesos publicados
Un modelo de pesos abiertos es un LLM cuyos pesos, que son su contenido, están publicados, de modo que se puede instalar y ejecutar en tu propio ordenador o servidor. Los pesos son la enorme cantidad de valores fijados durante el entrenamiento, y con ellos se puede ejecutar el modelo. Los modelos cuyos pesos no son públicos se usan a través de las aplicaciones o la API del desarrollador. En las páginas de este sitio, con la condición “Solo pesos abiertos” puedes quedarte solo con los modelos de pesos publicados.
Las ventajas de ejecutarlo en tu equipo son que no tienes que enviar los documentos a un servicio externo y que no pagas por uso. Encaja con usos como dar a leer documentos internos para que responda sobre ellos, o con ajustarlo tú mismo para el japonés. Pero cuanto más grande es el modelo, más potencia de máquina y más electricidad hacen falta para ejecutarlo.
No es lo mismo que código abierto
Pesos abiertos no significa lo mismo que código abierto. La OSI, que gestiona la definición de código abierto, ha establecido una definición para la IA (versión 1.0). Esta definición exige publicar, además de los pesos, información detallada de los datos usados en el entrenamiento y todo el código de entrenamiento y ejecución. Un modelo que solo publica los pesos no es de código abierto según esta definición.
Lee la licencia antes de usarlo
Aunque los pesos sean públicos, el alcance permitido cambia según la licencia. La licencia Apache 2.0 permite copiar, modificar y redistribuir sin coste, y exige incluir al distribuir una copia de la licencia y una indicación de los cambios. En cambio, la licencia de Llama 3.1 de Meta se publicó el 23 de julio de 2024. Exige a las empresas que, en la fecha de publicación, superaban los 700 millones de usuarios al mes que obtengan una licencia aparte de Meta. También obliga a mostrar de forma visible “Built with Llama” al distribuirlo.
Antes de ejecutarlo en tu equipo, lee la licencia de la página de distribución del modelo y comprueba si se puede usar comercialmente y si hay normas de mención.