Opera One тепер може локально запускати великі мовні моделі
Розробники Opera One оголосили про можливість користувачів завантажувати та локально використовувати великі мовні моделі (LLM) безпосередньо на своїх комп'ютерах.
Про це повідомляє TechCrunch.
Користувачі Opera One тепер мають можливість вибирати з більш ніж 150 мовних моделей від понад 50 сімейств. Серед доступних варіантів є алгоритми LLaMA від Meta Platforms, Gemma від Google та Vicuna.
Ця ініціатива стала доступною завдяки програмі Opera AI Feature Drops, що дозволяє отримати ранній доступ до певних ШІ-функцій. Для роботи з LLM на локальних комп'ютерах використовується фреймворк з відкритим кодом Ollama, що входить у склад Opera One.
Розмір кожної моделі становить понад 2 Гбайт.
Варто зауважити, що Opera стала першою компанією, яка надала можливість доступу до великої кількості локальних LLM сторонніх розробників прямо в браузері.