The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Red Hat представил дистрибутив RHEL AI и режим сборки RHEL на базе OSTree и bootc

08.05.2024 21:46

Компания Red Hat представила дистрибутив Red Hat Enterprise Linux AI (RHEL AI), который специально адаптирован для выполнения задач машинного обучения и призван упростить создание серверных решений, использующих большие диалоговые модели. В состав входит подборка инструментов и фреймворков для машинного обучения, а также драйверы для использования различных аппаратных ускорителей AMD, Intel и NVIDIA, и компоненты для задействования возможностей серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для AI-систем.

RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. Для взаимодействия с моделью Granite в дистрибутив интегрирован открытый инструментарий InstructLab, поддерживающий методологию LAB (Large-scale Alignment for chatBots) для подгонки под свои нужды и оптимизации моделей, а также для добавления дополнительных знаний и реализации новых навыков в предварительно натренированных моделях.

Платформа может применяться для разработки AI-приложения для корпоративных нужд и для внедрения сервисов для генерации контента, создания диалоговых систем и интеграции в приложения виртуальных ассистентов, поддерживающих такие навыки, как возможность отвечать на вопросы на естественном языке, решать математические задачи, генерировать осмысленный текст на заданную тему, составлять краткое изложение содержимого, исправлять ошибки в тексте, выполнять рерайтинг другими словами, помогать в написании кода на различных языках программирования, формировать письма и документы по шаблону.

Кроме того, компания Red Hat представила новый режим для создания и управления системными образами на базе Red Hat Enterprise Linux - "image mode", который позволяет использовать для развёртывания операционной системы инструменты и технологии, применяемые для создания и запуска контейнеров приложений. Новый режим манипулирует монолитными системными образами, формируемыми при помощи инструментария rpm-ostree и обновляемыми атомарно без разбивки на отдельные пакеты.

Сборки могут формироваться в виде образов в форматах OCI (как в Docker), ISO, QCOW2, AMI, VMI и VMDK. Содержимое образа выбирается через редактирование файла Containerfile. Для создания и управления образами могут использоваться стандартные инструменты управления контейнерами, такие как Podman и OpenShift Container Platform. Для установки образов может применяться как штатный инсталлятор Anaconda, так и инструментарий bootc-image-builder, позволяющий сконвертировать образ контейнера в загрузочный дисковый образ. Для обновления загрузочных образов контейнеров, которые поставляются с ядром Linux и способны загружаться по аналогии с обычными сборками системы, применяется инструментарий bootc.

  1. Главная ссылка к новости (https://www.redhat.com/en/abou...)
  2. OpenNews: Релиз дистрибутива Red Hat Enterprise Linux 9.4
  3. OpenNews: Первый стабильный релиз ФС Composefs
  4. OpenNews: Представлено семейство атомарно обновляемых дистрибутивов Fedora Atomic Desktops
  5. OpenNews: Проект Silverblue будет развивать атомарно обновляемый вариант Fedora Workstation
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/61140-redhat
Ключевые слова: redhat, rhel, ai, container, ostree, bootc
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (55) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.2, DeerFriend (?), 22:33, 08/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Версии софта такие же древние, как рхел?
     
     
  • 2.4, Анонимус3000 (?), 22:40, 08/05/2024 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Судя по контекстному окну в 4 тыс. токенов, да
     
  • 2.5, Король Управления Потоками (?), 22:47, 08/05/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    А если обонвления отстают на одну патч-версию - то на сколько это древние? Я никак понять не могу, что значит "недавние", если патч - и уже древние. Объяснитие, пожалуйста, умоляю.
     
     
  • 3.8, Аноним (8), 23:00, 08/05/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    RHEL славится отставанием не на N-1, а на Nx10 и более.
    Потомушто стабЫльность.

    В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно.

    Потому и лулзы.

     
     
  • 4.10, Кенгуру (?), 23:35, 08/05/2024 [^] [^^] [^^^] [ответить]  
  • +6 +/
    Ну, насчет нефиксенных багов - это вы не врите. Уж кто-кто а шляпа при всей её корпоративной уродливости фиксит всё очень оперативно
     
     
  • 5.49, scriptkiddis (?), 17:36, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • –3 +/
    ФиксилА и шляпы уже не существует по сути.
     
     
  • 6.73, Бывалый Смузихлёб (ok), 13:25, 12/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    а кто существует ?
     
  • 4.18, Dima (??), 01:25, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Это ты про дебиан написал. В Рхел и свои патчи накладываются и фиксит всё оперативно.
     
  • 4.21, anonymous (??), 03:14, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    троллим? Они бабло на том и получают что патчат старые версии так что по факту и совместимость есть и суперсвежее все.
     
  • 4.25, Афанасий (?), 04:29, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Сразу видно человека, который RHEL в глаза не видел и тем более не работал с ним. Ты хоть посмотри список и их версии пакетов, дурашка...
     
  • 4.26, Аноним (26), 06:27, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    С багами вот так не сталкивался (лет 6 использовал 7 версию), всё работало нормально.
    Современное прикладное ПО тоже поставить можно было (подцепляешь репозитории и норм)
    А вот к концу срока поддержки начиналось...
    Некоторые производители прикладного ПО дропали поддержку RHEL 7, так как им западло было поддерживать эту древность.
    Да и в целом, с системным ПО тоже были неприятные моменты, так как пару раз наталкивался на такое, что в современной версии системного ПО что-то есть (ключи, возможности), а в RHEL 7 софт древний, так что простите, извините, извращайтесь как хотите...
     
  • 4.35, Аноним (35), 10:55, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно.

    За 20 лет было актуально всего один раз для дурной видеокарты лэптопа. Всё. Во всех остальных случаях для получения нужного решения не требовался фикс бага.

    Тогда как вечно проблемы и косяки с вечно сырыми latest и их недоделками новых фич в спешке.

    Т.е. со свежими версиями невозможно строить и разрабатывать решение, которое не беспокоит по причине нескончаемых чужих и каждый раз новых багов.

     
  • 4.37, кент кента (?), 11:08, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >RHEL славится отставанием не на N-1, а на Nx10 и более.
    >Потомушто стабЫльность.

    у меня 95% серваков на OL 8. ибо 9ка сырая, и в ядре чаще дырки находят и были инциденты развала после обновы. из базовой системы я лично только rsync пересобираю (где lz4 надо). всё остальное там нормальных версий. в appstream загляни, критик

     

  • 1.12, Аноним (12), 23:57, 08/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Круто. Новости всё больше и больше походят на фантастические рассказы о более развитой инопланетной цивилизации и о её неземных технологиях.
     
     
  • 2.40, Аноним (40), 12:45, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Больше верьте фантазиям маркетологов.
     
     
  • 3.58, Аноним (-), 22:04, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Зачем кому-то верить, когда можно посмотреть, где созданы операционные системы вашего десктопа и смартфона? Весь мировой прогресс благодаря Евросоюзу и США двигается.
     
     
  • 4.62, Аноним (62), 13:07, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >Весь мировой прогресс благодаря Евросоюзу и США двигается

    Это потому-что ограбили весь мир и стянули его ресурсы в обмен на зеленые бумажки. Изобретатели всегда тянутся туда, где кормят. Так повелось с древнейших времен. Плюс убивают любой прогресс в "недерьмокартических" странах. Вернее, ранее убивали, запрещая индусу делать лопаты, и дозволяя купить лопату, сделанную в лондониумах. Сейчас у них это уже не получается, хотя стараются. Смотрим как забавно US пытаются загасить прогресс в Китае.

     

  • 1.13, Аноним (13), 00:03, 09/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    > для выполнения задач машинного обучения

    Ясно-понятно. Не для дома, и даже не для серверов. ЦА - датацентры.

     
     
  • 2.14, аннаним (?), 00:33, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    мин. сис. требования 320гб gpu.

     
     
  • 3.17, 12yoexpert (ok), 01:11, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    для дома и для мелких компаний норм, RX 7600 XT 16GB стоит 400 баксов, т.е. всего 8000 баксов на видеокарты, за 12-15К вполне можно всё собрать (в зависимости от хотелок на остальное железо)

    и это всё без учёта скидок за крупную сумму покупки

     
     
  • 4.19, аннаним (?), 01:43, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Да не.. там что то на богатом в сис. требованиях. NVIDIA H100 итп

    https://github.com/RedHatOfficial/rhelai-dev-preview?tab=readme-ov-file#comput

     
  • 4.22, Аноним (22), 03:31, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > RX 7600 XT 16GB

    Этого даже для овощной llama с трудом хватит. Сейчас появляются llm'ки на 500 миллиардов и более параметров, а вот гигабайты на карточках что-то не особо поспевают за тенденцией. Не говоря о цене.

     
     
  • 5.33, Аноним (33), 10:07, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Нет конкуренции же.
     
  • 2.38, Аноним (38), 11:28, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    И их ещё не просто купить
    https://www.nvidia.com/en-us/data-center/h100/
    https://habana.ai/products/gaudi3/
     

  • 1.15, Аноним (15), 00:42, 09/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +7 +/
    >RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite

    Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. К тому же, дистрибутив для запуска какой-то специальной, одной модели.

    >на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров.

    Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют лучшие на данный момент модели типа llama3), а во-вторых контекст в 4к токенов это ужасно мало. У той же лламы он 16к.


    Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. Ну да и ладно, красношляпу не жалко, и её деньги тоже.

     
     
  • 2.23, Аноним (22), 04:00, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > 7 миллиардов токенов это мало для серьёзных задач

    Для серьезных задач даже GPT-4 мало. Наигравшись приходит отрезвление, что не хватает контекста для чего-то более внятного, чем хеллоуворлд в одном единственном main.c 😁

     
     
  • 3.27, penetrator (?), 06:54, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    программить они никогда не научаться, по-крайней мере пока там будет хоть сколь-нибудь творческой составляющей, и рассуждать не умеют - слишком тупенькие, а вот переводить, жонглировать контентом - уже приемлимо
     
     
  • 4.28, Аноним с Оболони (?), 07:07, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ко́дят они неплохо, особенно алгоритмы, но концептуально непригодны (пока) для чего-то бо́льшего. Проблема, как выше точно подметили, в контексте. Это человек держит в мозгу огромный контекст когда что-то делает, а нейронка знать не знает чего от нее хотят.
     
     
  • 5.30, Аноним (33), 07:17, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ты сейчас просто сказал что ИИ нужен грамотный менеджер. Это лишь вопрос времени. Когда менеджером сможет стать сам ИИ.
     
     
  • 6.36, Аноним (35), 11:01, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    И хорошая база для обучения. ГПТ4 был обучен на основной аудитории форумов - толпе стажёров и середнячков, у кого знаний мало.
     
  • 6.46, Роман (??), 16:18, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Github Workspace Copilot который недавно анонсили - https://github.blog/2024-04-29-github-copilot-workspace/ ?
     
     
  • 7.53, Аноним (53), 19:16, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Кто пробовал - оно работает?

    Вот прямо пишет код, без ошибок?

     
     
  • 8.56, Роман (??), 20:07, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    В интернетах люди пишут что работает в меру сил, но упираются в то что человек и... текст свёрнут, показать
     
  • 8.74, Роман (??), 18:44, 12/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    В последнем эпизоде на данный момент 909 https radio-t com p 2024 05 11 po... текст свёрнут, показать
     
  • 5.48, penetrator (?), 17:34, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    кодят очень плохо, все что они могут сделать, это перефразировать пример чужого кода, попробуй его заставить выйти за рамки этого примера в деталях, ты получишь все что угодно, но не правильно написанный код

    я доводил их до инфаркта )) бот противоречил сам себе в одном предложении, но не потому что я его так просил, а потому что приходил он сам приходил к таким логическим выводам

    а алгоритмы они кодят лучше другого, потому что они их все знают, но анализировать не умеют, а значит новых не напишут

     
     
  • 6.50, Аноним (50), 18:32, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > кодят очень плохо

    Луддитством попахивает (в прямом смысле). Может лучше признать реальность, а?

     
     
  • 7.54, Аноним (53), 19:18, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Сначала попробуй ИИ, потом говори.
     
     
  • 8.55, Аноним (-), 19:23, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Во многих компаниях работа с чатжпт уже является обязательным требованием Впроч... текст свёрнут, показать
     
  • 4.29, Аноним (33), 07:15, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Точно так же говорили про то что ИИ не сможет водить автомобили.
     
     
  • 5.31, Аноним (31), 08:44, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Выпусти из города на трассу в межсезонье или снегопад.
     
     
  • 6.32, Аноним (33), 10:06, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    И в среднем она проедет лучше тебя лол.
     
  • 5.39, Bottle (?), 11:43, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Поэтому автопилоты останавливаются, когда видят футболки со знаком "Stop"?
     
     
  • 6.45, Аноним (45), 15:37, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А люди, бывает, не останавливаются, даже когда грузовик впереди видят. Но соглашусь, что большинство водителей действительно непригодны для вождения.
     
  • 5.47, penetrator (?), 17:29, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    а они и не умеют, но мы сейчас о языковых моделях
     
  • 2.57, Аноним (57), 21:01, 09/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    IBM никогда не была сильна в математических алгоритмах. Достаточно ознакомиться с ее опубликованными исходниками SSP и ESSL. Многие расчетные функции - просто неработающая чепуха.
     
     
  • 3.60, Аноним (60), 10:51, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Как же тогда IBM стала лидером как в квантовых вычислениях, так и в их симуляции?
     
     
  • 4.64, Аноним (62), 13:57, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >Как же тогда IBM стала лидером как в квантовых вычислениях

    Лидером где? В желтой прессе и на рекламных площадках? Так это просто бобла занести, станешь чего угодно лидером.

     
  • 4.65, Аноним 22 (?), 14:09, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Как сказал кто-то из авиаконструкторов, если к забору прикрутить достаточно мощный двигатель, то  он полетит.
     
  • 2.61, Аноним (61), 10:54, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон.

    Это если у тебя карта NVidia. А если карта AMD, то хрен ты rocm соберёшь для своего дистра, потому что AMD так и не удосужилось ни сборочную систему в порядок привести, ни документацию нормальную написать. Вместо этого собирают сами, для старых версий Ubuntu, на которых как раз современного питона нет.

     
  • 2.66, Аноним 22 (?), 14:13, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > свежий питон

    Можно для примера предъявить текст программы на чистом Python (без использования библиотек на С) ну хотя бы для QR факторизации матрицы порядка, скажем, 100000?

     

  • 1.59, Аноним (60), 10:49, 10/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    >Grahite
    >Apache-2.0

    Нелюбимая на опеннете IBM ведёт себя куда этичнее, чем Googlag, Meata, Databricks и прочие, у кого модели под несвободными лицензиями, и на HuggingFace их даже скачать нельзя без аккаунта и отметки, что вот такой-то аккаунт принял лицензию и скачал (аккаунт - не обязательно пользователь, это недоработка HuggingFace, ждём идентификации пользователя по паспорту + бимотрии).

     
  • 1.68, pic (?), 15:59, 10/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    >Новый режим манипулирует монолитными системными образами, формируемыми при помощи инструментария rpm-ostree и обновляемыми атомарно без разбивки на отдельные пакеты.

    Первый гвоздь в крышку гроба классическим серверным дистрибутивам.

     
     
  • 2.69, pic (?), 16:01, 10/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    flatpak доедет до серверов?
     
     
  • 3.77, нах. (?), 18:08, 14/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    coreos давным-давно доехал и даже переехал половину...
     
     
  • 4.78, pic (?), 23:09, 14/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > coreos давным-давно доехал и даже переехал половину...

    Спасибо, не интересовался, не знал.

     
     
  • 5.79, нах. (?), 08:40, 15/05/2024 [^] [^^] [^^^] [ответить]  
  • +/
    завидую. Но это - ненадолго.

    "пока он интересовался крокодилами - он их у себя держал. Когда крокодилы ИМ заинтересовались - быстренько подарил зоопарку."

    видимо корявостьоса задрала редхатовцев и они решили обойтись без федориных ручек.

     

  • 1.72, анон (?), 13:07, 12/05/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    "IBM sued again for alleged discrimination – this time against White males" дело против RedHat и IBM против дискриминации белых в оных (theregister). скажи "нет" RH :)
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру