Вот как настроить локальный ИИ в браузере вашего смартфона
Интеграция генеративного искусственного интеллекта в цифровые продукты и веб-браузеры вызывает проблемы конфиденциальности данных, поскольку обработка запросов обычно происходит на облачных серверах разработчиков. Альтернативой являются локальные браузеры, позволяющие выполнять языковые модели непосредственно на устройстве пользователя без передачи информации в облако. Вот что говорит SlashGear.
Одним из инструментов реализации такого подхода является браузер Puma, доступный для Android и iOS. Приложение ориентировано на конфиденциальность и поддерживает локальную реализацию AI-моделей, таких как Llama 3.2, Ministral, Gemma и Qwen. Это позволяет выполнять задачи по обработке текста и поиску информации без необходимости подключения к Интернету.
Каков процесс установки
После установки браузера Puma автоматически активируется модель с открытым исходным кодом Meta Llama 3.2. Чтобы изменить модель, нажмите значок Puma в нижней части экрана и выберите опцию «Локальный чат LLM». В меню чата нажмите кнопку с названием текущей модели и выберите «Еще модели». Пользователи могут выбирать из списка моделей, включая Google Gemma, Mistral, DeepSeek и Microsoft Phi. Для загрузки выбранной модели требуется более 1 ГБ свободного места в памяти смартфона.
В чем особенности использования
Основным преимуществом локального использования ИИ является конфиденциальность и возможность работать в автономном режиме. Однако есть технические ограничения: локальные версии этого браузера не поддерживают генерацию изображений. В Puma также отсутствуют расширенные настройки балансировки нагрузки CPU-GPU, которые доступны в специальных инструментах, таких как галерея Google AI Edge.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
