Нейросеть в браузере — Opera позволяет пользователям локальную загрузку LLM

Opera — известная на весь мир компания, разработчик одноименного веб-браузера. На днях специалисты фирмы сообщили, что теперь пользователи смогут использовать и загружать большие языковые модели (LLM) локально, через личные компьютеры. Функция стала доступна пользователям Opera One — теперь можно выбирать из 150 моделей и более. К ним относят Llama от Meta, Gemma от Google и Vicuna. Функция будет работать в рамках программы Opera AI Feature Drops, которая и даст клиентам возможность получить доступ к некоторым функциям AI.

Фирма использует платформу с открытым исходным кодом Ollama для запуска моделей на вашем персональном компьютере. Все модели на данный момент — часть ее библиотеки, хотя в будущем планируется модели разных ресурсов. Специалисты предупредждают, что вам придется подготовить свободное место на устройстве, так как каждая модель займет 2 или более ГБ.

Если вы хотите проводить тестирование разных моделей в локальном режиме — то эта функция вас устроит. Однако для экономии гигабайтов памяти на компьютере есть такие ресурсы, например: Poe Quora или Hugging Chat.

Стоит сказать, что фирма с прошлого года начала проводить эксперименты с ИИ. В мае они выпустили Aria — помощника на боковой панели, который является экспертом и в браузерах, и в Интернет-сети. Он помогает написать код, текст и отвечает на запросы пользователей. В августе они представили этот вариант в версии для IOS. А в январе компания объявила, что выпустит браузер на базе ИИ с движком для IOS. Закон о цифровом рынке потребовал от бренда Apple отказа от требований к движкам конкретно WebKit для мобильного браузера. Поэтому фирма Opera решила проявить креатив и выпустить обновленный и современный браузер, отличный от привычных вариантов.