Несколько дней назад Красная шляпа объявила: через сообщение в блоге о запуске нового дистрибутива Linux под названием «ИИ Red Hat Enterprise Linux» (RHEL AI), разработанный специально для задач машинного обучения.
РЭЛ ИИ упрощает создание серверных решений, использующих большие диалоговые моделиsy предоставляет набор инструментов и инфраструктур для машинного обучения. Также включает драйверы для различных аппаратных ускорителей от AMD, Intel и NVIDIA, а также компоненты, использующие возможности оптимизированных для искусственного интеллекта серверов от Dell, Cisco, HPE, Lenovo и SuperMicro.
О РХЭЛ АI
РЭЛ ИИ предназначен для разработки, тестирования и внедрения систем машинного обучения основан на большой языковой модели Granite, которая может обрабатывать до 4 тысяч токенов и охватывать 7 миллиардов параметров при генерации текста.
Чтобы взаимодействовать с моделью Гранита, в дистрибутив интегрирован InstructLab, который поддерживает методологию LAB (крупномасштабное выравнивание для чат-ботов) для настройки и оптимизации моделей, а также добавления дополнительных знаний и внедрения новых навыков в предварительно обученные модели.
RHEL AI включает в себя совместно разработанные, лицензированные с открытым исходным кодом, высокопроизводительные модели языка и кода Granite от сообщества InstructLab, которые полностью поддерживаются и компенсируются Red Hat. Эти модели Granite лицензируются под Apache 2 и обеспечивают прозрачный доступ к источникам данных и весам моделей.
Пользователи могут создавать свои собственные LLM, обучая базовые модели своим навыкам и знаниям. Они могут поделиться обученной моделью и дополнительными навыками и знаниями с сообществом или сохранить их в тайне. Подробнее об этом смотрите в следующем разделе.
В рекламе упоминается, что основная цель RHEL AI и проекта InstructLab — подготовка специалистов в предметной области, чтобы они непосредственно вносили свой вклад в большие языковые модели своими знаниями и навыками. Этот позволять экспертам в этой области более эффективно создавать приложения на основе искусственного интеллекта (например, чат-боты). RHEL AI включает в себя все необходимое:
- Используйте инновации сообщества с помощью моделей с открытым исходным кодом, а также навыков и знаний с открытым исходным кодом для обучения.
- Предоставьте простой в использовании набор программного обеспечения и инструментов для рабочих процессов, предназначенный для экспертов в предметной области без опыта работы с данными и позволяющий им выполнять обучение и корректировку.
- Упаковочное программное обеспечение и операционная система с оптимизированной аппаратной поддержкой искусственного интеллекта.
поддержка бизнеса и компенсация интеллектуальной собственности
Кроме того, упоминается, что платформа может использоваться для разработки приложений искусственного интеллекта для корпоративных нужд и внедрить сервисы по генерации контента, созданию диалоговых систем и интеграции виртуальных помощников в приложения.
Эти приложения может выполнять задания например, ответы на вопросы на естественном языке, решение математических задач, создание осмысленного текста по заданной теме, написание резюме содержания, исправление ошибок в текстах, переписывание другими словами, помощь в написании кода на различных языках программирования, а также создание писем и документов с использованием шаблонов. .
С другой стороны, стоит также упомянуть, что Red Hat представила новый режим создания и управления образами систем на базе Red Hat Enterprise Linux: «режим изображения». Этот режим позволяет вам использовать инструменты и технологии, используемые для создания и запуска контейнеров приложений в развертывании вашей операционной системы.
Новые режим обрабатывает монолитные системные образы, созданный с помощью rpm-ostree и обновляемый атомарно, без разделения на отдельные пакеты. Сборки могут создаваться как изображения в различных форматах, таких как OCI (используется в Docker), ISO, QCOW2 и других форматах, а содержимое образа выбирается путем редактирования файла Containerfile.
Для создания образов и управления ими можно использовать стандартные инструменты управления контейнерами, такие как Podman и OpenShift Container Platform. Для установки образов можно использовать стандартный установщик Anaconda или bootc-image-builder, который позволяет конвертировать образ контейнера в образ загрузочного диска. Bootc используется для обновления загрузочных образов контейнеров, включающих ядро Linux, и может загружаться так же, как и обычные сборки системы.
Наконец, если вы интересно узнать об этом больше, вы можете проверить подробности в по следующей ссылке.