Мета представляет модели LLAM 4. Новое поколение открытого искусственного интеллекта обрабатывает текст, изображение и звук

Искусственный интеллект развивается в быстром темпе, и одной из наиболее важных тенденций является сочетание различных типов данных в одной модели. Meta представила серию Llam 4, новую семью моделей искусственного интеллекта, которая может одновременно обрабатывать текст, изображения и в будущем другие формы информации. В статье мы смотрим ближе к архитектуре, версиям модели, а также к целям, которые компания ставит перед этой открытой платформой.
Llama 4 — начало новой эры местных мультимодальных инноваций ИИ. Новая серия включает в себя модели Scout, Maverick и Behemoth.
Meta AI наконец -то отправляется в Европу, но в ограниченной версии и без функции генерации функций
Финиш объявил о введении последней серии моделей искусственного интеллекта LLAM 4, которые являются значительным шагом вперед в области ИИ. Новые модели характеризуются собственной мультимодальностью. Это означает, что они были разработаны для одновременного обработки различных типов данных, таких как текст, изображения, видео и звук.
Семья LLAM 4 включает в себя три основные модели:
- Llama 4 Scout Это модель с 17 миллиардами активных параметров, используя архитектуру с 16 экспертами. Scout предлагает контекст с длиной до 10 миллионов жетонов. Это обеспечивает эффективную обработку больших наборов данных.
- Лама 4 Маверик Это более крупная модель с 17 миллиардами активных параметров и 128 экспертов, в общей сложности 400 миллиардов параметров. Маверик отличается высокой производительностью в задачах, связанных с кодированием и рассуждением.
- Лама 4 Бегемот Это самый мощный из моделей, все еще находится на этапе обучения, с 288 миллиардами активных параметров и общим количеством около 2 триллионов параметров. Бегемот стремится установить новые стандарты в области языковых моделей.
Финишная черта состояла в том, чтобы использовать книги, загруженные незаконно с Torrent Network для обучения искусственному интеллекту
Все модели LLAM 4 используют архитектуру экспертов (MOE), которая позволяет динамически активировать только выбранные части модели в зависимости от задачи. Этот подход повышает эффективность вычисления и обеспечивает лучшее масштабирование моделей. Мета планирует поделиться моделями LLAM 4 в качестве программного обеспечения с открытым исходным кодом. Это позволит исследовательскому сообществу и разработчикам использовать свои возможности во многих различных приложениях. Введение LLAM 4 от Meta является важным шагом в разработке искусственного интеллекта, открывая новые возможности для приложений, требующих передовой обработки различных данных.
https://www.youtube.com/watch?v=tismjmsbh20
Источник: мета