Opera, la empresa de software noruega conocida por el navegador web del mismo nombre, anunció hace unos días que va a añadir a su navegador Opera One soporte experimental para 150 variantes de modelos de lenguaje de gran tamaño (LLM) locales de unas 50 familias de modelos.
Los LLM locales permiten a los usuarios acceder a los modelos de IA directamente desde su ordenador sin que el procesamiento salga nunca de su dispositivo. De esta forma, la latencia es menor porque los datos utilizados no se envían a través de Internet. Al no requerir de conexión a Internet, esto también significa que no pueden utilizarse para entrenar otros modelos de lenguaje.
La nueva función forma parte del programa AI Feature Dropsde Opera y es accesible como parte del canal de desarrolladores del navegador Opera, según explicó la compañía en un comunicado de prensa. Los usuarios interesados tendrán que actualizarse a la versión más reciente de Opera Developer para acceder a los LLM locales.
“La introducción de los LLM locales de esta forma permite a Opera empezar a explorar formas de crear experiencias y conocimientos en el espacio emergente de la IA local”, declaró Krystian Kolondra, vicepresidente ejecutivo de navegadores y juegos de Opera.
Entre los modelos locales compatibles con Opera One se incluyen Llama de Meta, Gemma de Google, Mixtral de Mistral AI y Vicuna. La mayoría de los LLM locales requieren entre 2 y 10 gigabytes de espacio de almacenamiento local por variante y ocupan el lugar de Aria, la IA nativa del navegador Opera.
Para descargar y activar una de las nuevas variantes, los usuarios tendrán que abrir el chat de Aria, elegir “modo local” en un desplegable y escoger un modelo para descargar desde los ajustes. A partir de ahí será posible descargar y luego activar varios modelos.
