Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ядро Linux 6.2 войдёт подсистема для ускорителей вычислений"	+/–
Сообщение от opennews (??), 01-Дек-22, 22:29
В ветку DRM-Next, которая намечена для включения в ядро Linux 6.2, принят код новой подсистемы "accel" с реализацией фреймворка для ускорителей вычислений. Данная подсистема построена на основе DRM/KMS, поскольку разработчиками уже было произведено расщепление представления GPU на составные части, включающие в себя достаточно независимые аспекты "вывод графики" и "вычисления", так что подсистема уже могла работать с контроллерами дисплея не имеющими блока вычислений, равно как и с блоками вычислений не имеющими своего контроллера дисплея, как, например, GPU ARM Mali, который является по сути акселератором... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=58236
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 01-Дек-22, 22:29	+/–
То есть для поддержки TPU в вёдрах больше не понадобятся гуглаговская версия ядра?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2, #3, #8

2. Сообщение от Аноним (2), 01-Дек-22, 23:02	+9 +/–
Постепенно, вероятно, дрова желеща будут уходить на это и майнлайниться. Это назревало давно, поскольку многие GPU на самом деле давно уже стали акселераторами вычислений и даже видеовыход не у всех уже есть, датацентровым числодроиблкам на основе амд и нвидий выход на экран не очень то и нужен был уже давно. А тут доразвили немного идею, давно напрашивалось и вот наконец сделали.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

3. Сообщение от Аноним (3), 01-Дек-22, 23:14	+/–
Сделают всё в лучших традициях: ещё как понадобится.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

4. Сообщение от Аноним (4), 01-Дек-22, 23:43	+2 +/–
Получается что можно будет обойтись без OpenCL? Или OpenCL будет задействовать данный механизм?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #5, #7, #11, #17

5. Сообщение от Аноним (3), 01-Дек-22, 23:53	+12 +/–
Будет всё просто по-другому, чтобы было что постоянно переписывать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #6

6. Сообщение от Аноним (6), 02-Дек-22, 00:13	+2 +/–
А потом компилять! Ждём ebuild'ы...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

7. Сообщение от Аноним (8), 02-Дек-22, 00:32	+3 +/–
Только-только ржавый опенцл в мезу втащили, а уже выкидывать пора😁
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #50

8. Сообщение от Аноним (8), 02-Дек-22, 00:36	–2 +/–
Гугловские ускорители вообще через обычные riscv инструкции доступны без вот этого вот всего https://servernews.ru/1074746
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #10

9. Сообщение от Аноним (9), 02-Дек-22, 00:44	–4 +/–
Только бы эти аутисто ускорители желательно не затрагивали версию 20.04 и 21.04 потому что лучше сделать не могут.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #18

10. Сообщение от Аноним (-), 02-Дек-22, 01:01	+3 +/–
Чудак, чтобы RISCV инструкции как-то попали в тот блок, который где-то сбоку от основного системного проца, кто-то должен туда этот код послать. Более того, кто-то должен отправить входные данные и забрать результат счета. И вот это вот - примерно то как современные GPU работают. По части вычислений. И там есть всякие интересные моменты, типа пересылки данных, синхронизации, очередей, статусов выполнения, все такое. И тут оказалось что 90% этого уже было из-за современных GPU, работают они так.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #20

11. Сообщение от Аноним (-), 02-Дек-22, 01:03	–1 +/–
Это более низкий уровень, некий базовый обмен с акселераторами и налажывание выполнения джобов на них. Откуда эти джобы берутся, какое апи вывешивается для их генерации и прочее - вне этого контекста. GPU может озадачивать вулкан, может opengl, может compute-нагрузка при том из нескольких источников, что opencl что compute шейдеры в вулкане или opengl. Это другой аспект и реализуется другим уровнем софта.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

12. Сообщение от Аноним (12), 02-Дек-22, 01:04	–1 +/–
в итоге все эти дрова и обвязки для _ускорителей_ по факту будут только тормозить ядро
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #14

14. Сообщение от Аноним (-), 02-Дек-22, 01:09	+/–
Это как? Вот прям ща opencl на моем GPU долбит в 30 раз больше хешей чем CPU в принципе мог изобразить. Можете попробовать порвать такой результат без аскселерации, удачи.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #23

15. Сообщение от username hidden (?), 02-Дек-22, 01:13	+2 +/–
автор, разбивай предложения на куски. 5 раз за коротенькую новость написать "подсистема" -- это жесть полная.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16

16. Сообщение от Аноним (-), 02-Дек-22, 01:26	+2 +/–
> автор, разбивай предложения на куски. 5 раз за коротенькую новость написать "подсистема" > -- это жесть полная. Там под новостью кнопка "исправить" есть. Жми смело и правь как душе угодно. Как модератор апрувнет так и будет по твоему. Если апрувнет, конечно, так что сильно придуряться не стоит.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #39

17. Сообщение от pfg21 (ok), 02-Дек-22, 01:30	+/–
без опенцл не обойтись. это описание того чего надо вычислить.   а тут просто правильное представление ядром аппаратных ресурсов для програмулин, которые и будут пихать опенцл в вычислительные ресурсы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

18. Сообщение от Аноним (18), 02-Дек-22, 01:31	+2 +/–
Узбагойтесь, ваш домашний селерончик как работал, так работать и будет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

20. Сообщение от Аноним (20), 02-Дек-22, 04:40	–2 +/–
Мне давно было очевидно, что gpu это глупая идея. Инициативы по замене gpu/npu ядер процессорными симдами здорового человека очень радует, в случае успеха типовая пекарня будет не 8 cpu ядер + 72 CU, а 80 унифированных ядер.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #26, #34, #45, #46, #82

21. Сообщение от ИмяХ (?), 02-Дек-22, 06:32	+1 +/–
Опять в ядро тащат то, что должно быть в драйверах. Синдром Плюшкина во все поля.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #28, #51

23. Сообщение от Аноним (-), 02-Дек-22, 07:17	+2 +/–
А в чём смысл для дома хеши вычеслят? Опять майнинг? А практичнее что-то кроме крипты как пример есть?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #24, #35, #80

24. Сообщение от Аноним (-), 02-Дек-22, 07:20	+/–
Не всмысле для дома как жилиища, а в мысле как бы точнее выразится. Длоя обычного рядового пользователя компьютера.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23 Ответы: #25

25. Сообщение от Аноним (-), 02-Дек-22, 07:20	+/–
Для.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

26. Сообщение от Бывалый смузихлёб (?), 02-Дек-22, 07:23	+2 +/–
> в случае успеха типовая пекарня будет не 8 cpu ядер + 72 CU, а 80 унифированных ядер Только в случае видеокарт под вычислительным блоком обычно подразумевается не аналог конечного ядра ЦП, а целый блок, в котором собрана пачка маломощных ядер и кое-что ещё Едва ли удастся из десятка низкочастотных и медленных ядер сделать одно но высокочастотное и производительное для однопотока
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20 Ответы: #41

28. Сообщение от Аноним (-), 02-Дек-22, 07:36	+2 +/–
А драйвере где? Драйвера в ядре. Или имелось ввиду сначало в драйвер производитель чипа помещает, а потом в ядро драйвер размещают? Так имелось ввиду?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #29, #30

29. Сообщение от Аноним (-), 02-Дек-22, 07:36	+/–
драйвера
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28

30. Сообщение от Аноним (-), 02-Дек-22, 07:42	+/–
А забыл видео карта же. Я не пользуюсь в линукс драйверами для видкокарт те что не в ядре а отдельно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #31

31. Сообщение от Аноним (-), 02-Дек-22, 07:44	+/–
Вот как раз один из вариантов по чму ак не все устанавливают драйвера для видеокарты, а используют драйвера те что в ядре уже есть.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30 Ответы: #32, #52

32. Сообщение от Аноним (-), 02-Дек-22, 07:45	+/–
так
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

34. Сообщение от Аноним (-), 02-Дек-22, 08:10	+1 +/–
В какой-то момент fixed function hardware наворачивать всех задолбало и они вместо этого поставили массив SIMD-образных ALUшек который может что угодно считать, включая и все функции предшественников. Сначала делили шейдеры по типам, потом плюнули и сделали унифицированый массив который динамически делится по мере надобности. ALU не очень высокочастотные и не особо быстро разворачиваются в другую сторону, но их много, поэтому суммарная вычислительная мощь, если удалось распараллелить - огого. Вон те акселераторы не так уж принципиально отличаются, просто NPU оптимизированы на другие типы данных. Им и int8 хватает, иногда еще float16 какой. Совсем базово, зато площадь ALU мизерная и их можно в чип набить, для трекинга состояния нейрона хватает. И получается ускоритель обсчета нейронов, который сразу толпу нейронов за раз ворочает. Сильно эффективнее GPU. Типовая железка таковой врядли будет: дофига дохленьких ядер являются полным позором на не особо параллелящихся задачах и всем что "не массовые вычисления". Даже более продвинутые ALU из GPU совсем не интересны как generic процессоры. Очень медленно разворачивается в другую сторону и малоинтересен для ветвящихся/непараллелящихся/управляющих/etc задач. Это к тому что запустить 100500 процессов в параллель как бы можно но скорость их выполнения и общая эффективность будет ни о чем.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20 Ответы: #40

35. Сообщение от Аноним (-), 02-Дек-22, 08:15	+2 +/–
> А практичнее что-то кроме крипты как пример есть? "Угадать" ваш пароль в 100500 раз быстрее, если хэш удалось утащить, например :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

37. Сообщение от Попандопала (?), 02-Дек-22, 08:28	–3 +/–
Линь теперь определенно ось для копателей.Больше гикам подработать негде, по фану, не нужно программируют толпами. Бесполезники.D
Ответить | Правка | Наверх | Cообщить модератору

39. Сообщение от Аноним (39), 02-Дек-22, 10:30	+/–
Так она без JavaScript не работает, как и плюсы-минусы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #43, #61

40. Сообщение от Аноним (8), 02-Дек-22, 10:32	–1 +/–
>   ALU не очень высокочастотные В CPU такие же алу, а GPU часто на том же самом кристалле с тем же самым техпроцессом. > дофига дохленьких ядер являются полным позором Интел унд ко не стесняются так делать уже сейчас, только в отличие от интела, тут будут простые ядра, но мощным simd. Хорошо же, хоть для той же графики использовать можно, картинки там сжимать/разжимать, скейлить, видео кодировать/декодировать, архивы паковать арифметическим кодированием. Да даже со строками чтобы работать широкие симды полезны.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34 Ответы: #58

41. Сообщение от Аноним (8), 02-Дек-22, 10:38	+/–
Да нет там никакого десятка медленных ядер. Частота у rx6000 серии около 2ггц, у серверных процессоров с десятками ядер примерно такая же. Апнуть конвейер и будет аналог серверного проца, только с большим числом регистров и более жирными кэшами. https://images.anandtech.com/doci/4455/GCN-CU.png
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26 Ответы: #67

42. Сообщение от Аноним (42), 02-Дек-22, 10:45	–2 +/–
Мне кажется, что пора делать линух гибридным (хотябы как NT). Засирают ядро, ей богу...
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #49, #55, #63

43. Сообщение от Аноним (43), 02-Дек-22, 10:47	+1 +/–
Прочитай код, сделай сам запрос через curl.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39

44. Сообщение от InuYasha (??), 02-Дек-22, 10:53	+2 +/–
Ускорители вычислений... Изобретите мне замедлитель времени!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #48, #56, #62, #81

45. Сообщение от Аноним (45), 02-Дек-22, 11:36	+/–
Imtel Larabee как пример почему нифига не выйдет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

46. Сообщение от Аноним (-), 02-Дек-22, 11:49	–1 +/–
> Инициативы по замене gpu/npu ядер процессорными симдами здорового человека очень радует, в случае успеха типовая пекарня будет не 8 cpu ядер + 72 CU, а 80 унифированных ядер. CPU ограничен скоростью памяти. GPU там на каких-то мозговыносящих терабайтах в секунду данные из памяти тягает и обратно складывает, и всё за счёт того, что память заточена под нагрузку. CPU же хорош только пока все данные в кеше. Вот когда они оперативку разгонят раз в 10-100, вот тогда GPU станет не нужным, а пока, я лучше на GPU посчитаю. >  Мне давно было очевидно, что gpu это глупая идея. Опеннет икспердам всё очевидно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20 Ответы: #47, #53, #54, #60

47. Сообщение от Аноним (20), 02-Дек-22, 12:12	+/–
Докинут ширины шины памяти, делов-то. В мак M1 до 200 ГБ/с раскачали, у rtx 3050 224гб/с, разница невелика.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #66

48. Сообщение от Аноним (50), 02-Дек-22, 12:24	+1 +/–
Это будет лучше, чем криокамера :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

49. Сообщение от Аноним (50), 02-Дек-22, 12:27	+/–
Как Стрекозиное ядро.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

50. Сообщение от Аноним (50), 02-Дек-22, 12:28	+/–
Лучше сразу и выкинуть.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

51. Сообщение от Аноним (50), 02-Дек-22, 12:34	+/–
А кто сказал, что оно не в модуле будет?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21

52. Сообщение от Аноним (50), 02-Дек-22, 12:38	+1 +/–
Потому, что те, что в не в ядре - клозетсорс, а исполняться хотят в пространстве ядра.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

53. Сообщение от Аноним (53), 02-Дек-22, 13:40	+/–
>CPU ограничен скоростью памяти. GPU там на каких-то мозговыносящих терабайтах в секунду данные из памяти тягает и обратно складывает, и всё за счёт того, что память заточена под нагрузку. CPU же хорош только пока все данные в кеше. Потому что на видеокартах память припаяна рядом с процессором.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #57

54. Сообщение от Ддд (?), 02-Дек-22, 13:49	–2 +/–
Ну давай иди посчитай хоть чтото сначала а потом перди тут)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46

55. Сообщение от Аноним (55), 02-Дек-22, 14:03	+/–
Он и так гибридный. Просто API ядра нестабильное, это так специально, чтобы производители либо драйвера открывали, либо сами их и поддерживали, либо не делали и не поддерживали вовсе (самый приемлимый для производителя вариант).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42 Ответы: #59

56. Сообщение от Аноним (55), 02-Дек-22, 14:05	+/–
Изобретён давно. Правда эффекта ощутимого при существующих технологиях пока нет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

57. Сообщение от Аноним (57), 02-Дек-22, 16:14	+/–
Не только. Она ещё заточена на то, чтоб её читать массивами. Там ж много ALU читает каждый по элементу массива, каждый из которых может быть произвольной структурой, чотатам щитает, и пишет структурку в память. Таким образом дохрена обработка масива паралельна становится. Вот память заточена под такой доступ. Память же проца -- это RAM память, или поруски рандом акцес мемори.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

58. Сообщение от Аноним (58), 02-Дек-22, 18:55	+/–
> В CPU такие же алу, а GPU часто на том же самом кристалле с тем же самым техпроцессом. Не понятно зачем тогда вообще GPU производят :). В серверных CPU видите ли это жирнючие OoO ядра со всякой спекулятивщиной и массой наворотов, оптимизирующих процессорное ядро для перфоманса на единичном потоке инструкций. По этой причине оно быстро вертится - в том числе и потому что например спекулятивно считало оба варианта бранча, просто отбросив неправильный потом. Это однако делает ядро сложным и крупным по площади. Много такого на кристалл не набьешь. Максимум несколько десятков. Зато не ударяет в грязь лицом и на единичном треде. С другой стороны у GPU их compute units это целые группы ALUшек, где просто некоторые блоки есть по 1 штуке на группу, чтобы уменьшить оверхед: если большой сложный блок пихать каждой ALUшке, все придет к вышеупомянутому, и зачем тогда GPU вообще покупать?! Поэтому пойнт дизайна в том что более простые ALUшки гораздо более многочисленны и при правильном подходе крушат за такт неимоверное количество математических операций. Это однако имеет свою цену в виде слабого управления потоком, никакого вам OoO и проч. Так что если распараллелить не удалось, результат будет довольно жалок. Поэтому как системный проц оно такое не очень то и хотелось. NPU это еще более жесткий вариант оптимизации где ALU еще более примитивны, иногда для минимального размера они только операции над int8 умеют. Зато их там ДОФИГА. Поэтому они за 1 присест апдейтят целый легион нейронов, показывая менее специализированным мастеркласс. В принципе на таком можно попытаться крутить крипто всякое и проч бонусом, но вот как системный процессор ЭТО будет вообще совсем ни о чем.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #68

59. Сообщение от Аноним (50), 02-Дек-22, 18:59	+/–
Вообще-то сборку можно выбрать: вкомпилить в ядро или загружаемым модулем ядра. Но нельзя в каком-то виде для исполнения в отдельном адресном пространстве.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55 Ответы: #64

60. Сообщение от Аноним (58), 02-Дек-22, 19:02	+/–
> CPU ограничен скоростью памяти. GPU там на каких-то мозговыносящих терабайтах в секунду Опять же эти терабайты в основном на последовательном жирном линейном доступе, когда удалось распараллелить счет большого блока на толпу ALU и разложить данные удачно. А если как в системном проце дергаться на всякие кучи условий во все стороны... ээ... как бы бандвиз и латенси - два разных понятия. Бандвиз там конский, но низкой латенси никто не обещал. > того, что память заточена под нагрузку. CPU же хорош только пока > все данные в кеше. Да вообще-то у GPU есть и суперскоростные local storage для немедленного складирования input и output математики "локально". Чтобы не ждать черти-сколько разворота вон тех шин в правильную сторону, все заякорив. И то что там терабайты в секунду вовсе не значит что оно быстро крутанется в другую сторону когда тот код по условному бранчу передумает и решит что он хотел не то и не туда. > Вот когда они оперативку разгонят раз в 10-100, вот тогда GPU станет > не нужным, а пока, я лучше на GPU посчитаю. На нем опять же хорошо считается не все. И вот общесистемное выполнение процессов с обычными программами на такой штуке ничего такого феноменального не покажет. Как вы думаете что будет если постоянно дергать скоростную шину в разные стороны? А ничего хорошего. Будете ждать пока этот дредноут с терабайтами развернется в вашу сторону. То что он быстро разворачивается никто не обещал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46

61. Сообщение от Аноним (74), 02-Дек-22, 19:06	+/–
> Так она без JavaScript не работает, как и плюсы-минусы. Ну да, паскудство, что сказать. Тогда придется жить с тем что есть.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39

62. Сообщение от Аноним (74), 02-Дек-22, 19:09	–1 +/–
> Ускорители вычислений... Изобретите мне замедлитель времени! Чо, релятивизм тебе в школе не читали? Где взять столько энергии и технологии двигателей ты сам как-нибудь придумай. Да и как это работает тебе не факт что понравится.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44 Ответы: #69

63. Сообщение от Аноним (74), 02-Дек-22, 19:11	+/–
> Мне кажется, что пора делать линух гибридным (хотябы как NT). Засирают ядро, > ей богу... Оно модульное и к тому же конфигуряется что и как. И что значит - засирают? Добрых 90% этого и так уже было и использовалось GPUшками. Просто не понятно почему это счастье должно быть доступно только им когда NPU какие-нибудь тоже с удовольствием бы той инфраструктурой пользовались.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42

64. Сообщение от Аноним (74), 02-Дек-22, 19:13	+/–
> Вообще-то сборку можно выбрать: вкомпилить в ядро или загружаемым модулем ядра. Но > нельзя в каком-то виде для исполнения в отдельном адресном пространстве. Там вообще довольно много чего есть для выпихивания ряда вещей в юзерспейс. Так что кому оно надо - это уже давно практикует. А то что не очень популярно - простите, парни, оверхед от переключения контекста между кернелом и юзером никуда не пропадет, чудес не бывает. Его минимизировали насколько могли, в том числе рядом весьма хитрых трюков, но полной халявой это не станет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59

66. Сообщение от Аноним (-), 02-Дек-22, 19:21	+/–
> у rtx 3050 224гб/с, разница невелика. 1) 200Гб/с для GPU уже давно не рекорд. HBM может и сильно больше. 2) Есть разница между бандвизом и латенси. Одно дело качать каждый такт широкой шины эвон какой блок, другое репрограмить все это на другой адрес, и ждать пока чипы сообразят чего от них хотят. Если так часто делать, что останется от терабайтов в секунду?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47 Ответы: #73

67. Сообщение от Аноним (-), 02-Дек-22, 19:25	+2 +/–
> Да нет там никакого десятка медленных ядер. Есть. Compute Unit (CU) это целая группа ALU где некоторые блоки выделены по 1 на группу, т.к. для каждой мелочевки по такому блоку было бы слишком шикарно и транжирило бы площадь кристалла. Поэтому оно за 1 такт может сильно больше операций чем системный проц. Но с весьма большими оговорками относительно характера операций и размещения данных.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41

68. Сообщение от Аноним (8), 02-Дек-22, 21:53	+/–
> Не понятно зачем тогда вообще GPU производят Чтобы деньги зарабатывать) Продаёшь отдельно cpu + gpu + npu + vpu - юзер платит за всё - профит. А переведи тот же рендеринг видео с куцого отдельного блока с производительностью как аналогичный блок в мобилке на унифицированные ядра - это ж просто порвёт рынок, никому такое не надо, надо доить пользователя. > Много такого на кристалл не набьешь. Максимум несколько десятков. Core Duo e5500 - 228 млн, mac m1 ultra - 114 млрд, транзисторный бюджет ровно на тысячу вполне неплохих ядер, ну а если с какими-нибудь rsicv сравнить, счёт пойдёт на многие тысячи, и это с симдами, кэшами и конвейерами. Собственно в этом направлении сейчас и двигаются некоторые, и по маркетниговым заявлениям, уже даже попирают обычные гпухи по производительности, и на ватт, и вообще. "ET-SoC1 (Esperanto Technologies Supercomputer-on-Chip 1, из особенностей — 1088 энергоэффективных 64-разрядных ядер RISC-V общего назначения с модулями векторных/тензорных вычислений для оптимизации и ускорения операций, которые связаны с ИИ и машинным обучением. Кроме того, чип включает четыре высокопроизводительных ядра RISC-V, 160 млн байт встроенной SRAM-памяти (152 мегабайта), плюс интерфейсы для подключения flash-памяти и внешних модулей DRAM. Насколько известно, всего в ET-SoC1 23.8 млрд транзисторов."
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58 Ответы: #70

69. Сообщение от InuYasha (??), 02-Дек-22, 22:13	+/–
О, умник из "Чарли и школоладная фабрика" засветился ) Ну, читай, читай. А я в аспирантуре читал что релятивизм - это всего лишь общепринятая гипотеза. Теория, в лучшем случае.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #62 Ответы: #71

70. Сообщение от Аноним (-), 03-Дек-22, 01:48	+/–
> Чтобы деньги зарабатывать) А все производители суперкомпьютеров, ставящие и то и другое, наверное, лохи поголовно. Извини, но GPU с ценой и TDP сравнимыми с моим системным процом проц кроет его в 30 раз по счету хешей. Это аргумент. И нет никакой магии разогнать системный проц в 30 раз на этой задаче. Зато на общесистемных вещах тот GPU был бы жалок. Частота ниже, exec flow control никакой, оператива оптимизирована на работу с большими блоками. А более быстрые дергания в разные стороны как системный CPU - не его это. > - юзер платит за всё - профит. А господа наворачивающие суперкомпьютеры при заключении миллиардных контрактов тоже калькулятором пользоваться не умеют? Да ладно? > А переведи тот же рендеринг видео с куцого отдельного блока с производительностью > как аналогичный блок в мобилке на унифицированные ядра - это ж просто порвёт рынок, Вы думаете что самый умный? Ну, можете посмотреть что там LLVMPipe на практике рвет. В основном - вентилятор. При издевательском FPS'е. Ну вот хилый и прожорливый GPU из системного проца выходит. Вообще-то как максимум умные люди допирают взять маленькое general purpose ядро, добавить SIMD туда, минимизировать площадь, и тогда если этого накопипастить побольше, довольно сносный GPU может выйти. Но вот хорошим системным процом это не станет. Если кто не понял у системного проца и GPU довольно разные оптимизации для разных задач. > никому такое не надо, надо доить пользователя. Можно подумать суперкомпьютерщики не могут алгоритм допилить. Если это технически возможно. Но тут оказывается что есть задачи где надо быстро вертеться в разные стороны, с значительном перфомансом в 1 треде, а есть задачи которые можно очень массово параллелизовать. Проблема в том что это разные задачи и для этого удобны сильно разные оптимизации железа. > Core Duo e5500 - 228 млн, mac m1 ultra - 114 млрд, > транзисторный бюджет ровно на тысячу вполне неплохих ядер, Просто для понимания: у немолодого GPUшки среднего ценника с скромными 20 CU - вон тех, с картинки, получится 1280 ядер с жестким тюнингом в SIMD. И это, вас не смущает что там еще неплохо бы на кеши транзисторы оставить, чем больше тем лучше, потому что если ждать DRAM на каждый пшик, вы и ARMу мобилочному продуете с треском. Потому что оператива от проца отстает очень сильно. И можно пару тыщ циклов просто ничего не делать. И толку с ваших гигагерцев, если они тысячами циклов бабмук курят ожидая пока DRAM в их сторону вообще развернется и данные даст? > ну а если с какими-нибудь rsicv сравнить, счёт пойдёт на многие тысячи, Ну вот минимальных RISCV в миллиарды конечно можно накопипастить, но вам очень не понравится как результат будет выглядеть на, допустим, не сильно параллелящихся задачах. Вы получите нечто типа дешевого одноплатника, с TDP и стоимостью воркстэйшна. Это, типа, огого?! > и это с симдами, кэшами и конвейерами. Ага, щас. Вон там видите ли у CU один несчастный блок бранчей на легион из 64 ALUшек. Как оно вертится в разные стороны при этом вы можете себе представить. Вообще совсем не так как отожраный OoO который параллельно оба направления бранча жует, отбросив неудавшийся, да еще что-нибудь префетчнув и проч, на что надо было нефигово логики к ядру донавесить. > Собственно в этом направлении сейчас и двигаются некоторые, Когда кто-то думает что он умнее всех остальных, он это показывает делом, имхо. > и по маркетниговым заявлениям, уже даже попирают обычные гпухи > по производительности, и на ватт, и вообще. А таки специализированые акселераторы удобные под свой класс задач будут делать более общие решения по эффективности. Почему-то. > "ET-SoC1 (Esperanto Technologies Supercomputer-on-Chip 1, из особенностей — 1088 > энергоэффективных 64-разрядных ядер RISC-V общего назначения с модулями векторных/тензорных > вычислений для оптимизации и ускорения операций, которые связаны с ИИ и > машинным обучением. Кроме того, чип включает четыре высокопроизводительных ядра RISC-V, Заметьте: 4 высокопроизводительные, которые нормальные general purpose, будут координировать 1088 урезаных по максимуму вариантов. И линух будет крутиться на тех 4. А шедулить 1088 дохлых ядер ведет к дофига сохранения состояний, дикому оверхеду в шедулере и жуткому вымыванию кешей и общий результат этой активности врядли поразит воображение. > всего в ET-SoC1 23.8 млрд транзисторов." По поводу чего у него будет характерный размер кристалла, выход годных и ценник под стать. Вы же не думаете что кто-то себе в минус это вам продаст? Хинт: ARM и RISCV весьма масштабируемые штуки. И если кто-то жует тот или иной набор команд, это ничего не говорит что там за "бэкэнд". Минимальный RISCV можно даже в тощий FPGA сервисным ядром втулить, что толпа народа и делает, а высокопроизводительное оптимизированое OoO ядро довольно жирное - и там совсем другие числа вентилей, но и скорость на том же потоке команд он другую кажет. Разница по жирноте ядра может быть весьма драматичной, хотя набор команд один и тот же (как минимум core). Ну и 160 мегов на 1088 ядер это так то жалкие 150 кило локального стоража на ядро. Что как бы не так уж и дофига. Не, если нейроны симулировать это с превышением. А если общесистемные задачи вертеть... ээ...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #68 Ответы: #72

71. Сообщение от Аноним (-), 03-Дек-22, 02:06	–1 +/–
Может, ты в аспирантуре бухал а не читал? Иначе знал бы что вот как раз по части времени релятивизм недурно подтвержден, допустим, спутниками навигационных систем. Которые бы дико гнали в координатах из-за только подумайте, того факта что их время течет иначе чем на Земле. Вот прямо так. Что хотите с этим фактом то и делайте, но на спутниках атомные часы, это позволяет довольно точно померять то что там творится с временем, более того, компенсация этого для приведения к земному времени абсолютно необходимое условие для какой-то разумной точности позиционирования - свет очень быстрая штука, ошибка в секунду это 3*10^8 метров ошибки дистанции. И вот тут приходится учитывать все мыслимые эффекты. Релятивизм один из топовых аспектов коррекции.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #69

72. Сообщение от Аноним (72), 03-Дек-22, 13:44	+/–
> господа наворачивающие суперкомпьютеры при заключении миллиардных контрактов Так их вот эти миллиарды и интересуют, а не чтобы там что-то эффективно было. > Ну вот хилый и прожорливый GPU из системного проца выходит Так потому что ядер и алушек мало, а вот было как в Esperanto - было бы другое дело. > 20 CU - вон тех, с картинки, получится 1280 ядер Где вы там ядра разглядели? Нет же их, все эти алу в один неделимый блок завязаны.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #70 Ответы: #74

73. Сообщение от Аноним (73), 03-Дек-22, 16:28	+/–
> HBM может и сильно больше. Ну так и m1 проц для печатной машинки. > Есть разница между бандвизом и латенси. А кто говорил что нет? Делаешь много каналов обычной ддр5 и получаешь тот же терабайт/с что и в топовой видяхе, при этом задержка будет такой же как у обычного современного цпу. Собственно в серверных процессорах так и делают, по 8 каналов ддр, и ширина шины примерно как у видяхи выходит, но задержка меньше тк каналы независимые.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #66 Ответы: #75

74. Сообщение от Аноним (74), 03-Дек-22, 22:14	+/–
> Так их вот эти миллиарды и интересуют, а не чтобы там что-то эффективно было. Это производителя миллиарды интересуют. А клиентуру интересует как платить поменьше и получить побольше. В этом их желания расходятся. И когда клиентура почему-то вместо нвидий и интела начинает амд любить, определенные выводы напрашиваются. А таки у амд хороши что процы что GPU. И вот что что а они разные железки, совсем не конкурирующие с друг другом. > Так потому что ядер и алушек мало, Зато это крутые и мощные ядра, способные жевать потоки инструкций с офигенной скоростью. > а вот было как в Esperanto - было бы другое дело. Выглядело бы как ну хз, спарк какой-нибудь в свое время. Т.е. нечто осмысленное только на узком классе задач, кусок позора на более типовых вещах. > Где вы там ядра разглядели? Нет же их, все эти алу в > один неделимый блок завязаны. Там чуть хитрее. В том смысле что эти вычисления до некоторой степени независимы. Но только до тех пор пока не потребуется что-то выбивающееся из идеи массового SIMD-процессинга. А как надо всякие продвинутости типа изменения exec flow - упс, оказыается, оно не 100% независимое, и вообще не очень то и быстро в другую сторону вертится, в отличие от вон того мегаядра. В обычных системных задачах нечего делать такими обеъмами SIMD. Но если приспичило посчитать мультимедию, крипто, нейроны, графику, или что-то такое, оптом, вон тот дизайн получает свой пойнт, будучи в цать раз эффективнее на этих категориях задач - если было где развернуться. Это однако не значит что там офигенно системный сервис будет ворочаться. Поэтому и есть минимум два (реально уже больше) "тюнинга" существенно разных по свойствам. В системном проце SIMD весьма базовый, GPU из него состоит чуть менее чем полностью. NPU идут дальше и предпочитают легион совсем примитивных ALU - зато много. Чтобы сразу вон сколько нейронов за раз апдейтить. При этом заранеее известно что есть чем ядра занять, что потребные данные вот они, в локальном стораже, все такое. А если за эти весьма неслабые допущения вылезти все станет весьма печально. Проц общего назначения работает в совсем иных допущениях.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #72 Ответы: #76

75. Сообщение от Аноним (75), 03-Дек-22, 22:35	+/–
>  Ну так и m1 проц для печатной машинки. Ну так не всем суперсервер надо. Особенно вон тем с батарейным питанием. > А кто говорил что нет? Делаешь много каналов обычной ддр5 и получаешь > тот же терабайт/с что и в топовой видяхе, Вот только HBM на видяхе - 4096-битная (!!!) шина, чтоли. Можешь себе представить сколько оно за такт толкает одним блоком. Но есть нюансы. 1) На FR4 такое раскидать малореально. Поэтому там извините GPU и HBM на _кремниевом_ интерпозере чтобы столько линий вообще пробросить. Это делает технологию весьма дорогой и нишевой. 2) Даже если вы протолкали вон столько за раз - это ничего не говорит о том сколько времени надо чтобы развернуть ЭТО в другой адрес. Поэтому оно круто, когда 1 раз зарядили адрес и дальше вон теми блоками оптом гребут. В случае графики и вычислений пригодных для GPU оно так и будет. А если там попробовать резко вертеться в разные стороны - фигня получится, дорогущее железо будет работать хуже чем копеечное general purpose. Вон тот дизайн оптимизирован на массовый SIMD и специфичный стиль счета. Что по структуре блоков выполнения, что по структуре памяти. Если подсунуть не это - фигня получается, оптиимизации в обратную сторону икаются. Да, кстати, амд так то упаковывает CPU + GPU в 1 кристалл. Казалось бы - проще унифицированых ядер набить побольше. Ан нет. Так это будет паршивый CPU и паршивый GPU. Кому такое надо?! > при этом задержка будет такой же как у обычного современного цпу. Это в допущении что вы такое число линий по FR4 в принципе раскидать способны. Даже если это получится, расстояния будут другие, технологические нормы производства печаток улетят в небеса, с какой итерации платы этот монстр вообще заработает - черт знает (выравнивать кучу линий так себе веселье), слоев будет дохрена, ну и в целом это будет очень дорогая и очень нишевая штука. Поэтому и не захватит мир. А так топовых серверов с несколькими процами и каналами памяти - есть. Но даже если там графика и заведется с сравнимым с средним GPU перфомансом, это другое потребление и стоимость. > Собственно в серверных процессорах так и делают, по 8 каналов ддр, и ширина шины > примерно как у видяхи выходит, но задержка меньше тк каналы независимые. Задержка не зависит от числа каналов. Если префетч не угадал что мы хотим после адреса 0x100500 совсем другой адрес 0xABCDEF10 - то уж не угадал и баста. Если то что там лежит надо для дальнейших вычислений, окей, значит все что зависело от этого доступа встает на паузу, одно ядро или 101, какая разница, они скипают свои циклы зафиг. А там пока по шине в чипы новый адрес уедет, пока они одуплят и подготовят данные, пока это начнет взад лететь... ...если кто не понял: крупноблочный последовательный доступ выигрывает только если доступ реально линейный и много. А если это рандомные дерги... и куча мелких ядер конкурирующих за кеш будут жестко его вымывать, в результате большая их часть может начать туповэйтить доступов по шинам, потому что общими усилиями кэш вынесли. В случае GPU и вычислительных нагрузок бывает более плотный и явный контроль над local storage, но это весьма специфичный вид вычислений. Далекий от того как оно на системных процах. Ну вот не работает так условный httpd или что там у вас.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #73

76. Сообщение от Аноним (8), 04-Дек-22, 02:22	+/–
> И вот что что а они разные железки, совсем не конкурирующие с друг другом. Справедливости ради GPU и под общей крышкой с CPU вполне сносные, даже на той же шине памяти. И что характерно, процессорные gflops не сильно то и отстают от встроенной видяхи. > Зато это крутые и мощные ядра, способные жевать потоки инструкций с офигенной скоростью. M1 гораздо на мегагерц больше делает, и при сборке одного и того же проекта ноут на интел воет турбиной, а на m1 такой холодный, что руки мёрзнут, да и активного охлаждения в принципе не предусмотрено. Что-то не вижу чтобы в связи с этим амд с интелом выбросили на помойку неэффективный x86-64 и предложили покупателям arm или risc-v. > Выглядело бы как ну хз, спарк какой-нибудь в свое время. Или как cell, который хоть в игровых приставках хорош был, хоть в датацентрах. Его вернуть не получится, но есть risc-v, который на гпу будет крут уже как минимум потому, что не надо будет говно на говне наворачивать типа rocm, который официально поддерживается на 2.5 неконсьюмерских видяхах не страше 3х лет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #74 Ответы: #77

77. Сообщение от Аноним (-), 04-Дек-22, 06:53	+/–
> Справедливости ради GPU и под общей крышкой с CPU вполне сносные, даже > на той же шине памяти. Ну да. Шина разумеется их слабое место, которое и обеспечивает звание затычки для слота: выделенный GDDR или тем более HBM на широкой шине для графики и рядом всяко лучше. > И что характерно, процессорные gflops не сильно то и отстают от встроенной видяхи. А таки пойнт дизайна в том что там где надо нормальный general purpose пашет проц, а где дофига simd - GPU. А если вон то послушать не понятно зачем 2 разных блока в 1 кристалл. > M1 гораздо на мегагерц больше делает, и при сборке одного и того > же проекта ноут на интел воет турбиной, а на m1 такой холодный, что руки мёрзнут, > да и активного охлаждения в принципе не предусмотрено. У интеля перфоманс на ватт в основном маркетинговый булшит. У арма это то на чем весь их бизнес выживал. И одна из причин по которым интел не достиг успехов с "tablet PC" за много лет, вместо этого все заняли андроиды и эплы. На армах поголовно. > Что-то не вижу чтобы в связи с этим амд с интелом выбросили на помойку > неэффективный x86-64 и предложили покупателям arm или risc-v. Переростки из х86-64 пока лучше получаются чем из ARM. Ну а кто там всерьез зарубится с EPYC каким? Хотя переотожраное OoO ядро разумеется имеет шансы что-то понадкусывать. И если кто не заметил вон там компании серверные чипы делают. Да, не самые топовые, но осмысленные по потреблению, недорогие, кастом для себя любимых зачастую, все такое. Потому что могут. > Или как cell, который хоть в игровых приставках хорош был, Он забавный но с точки зрения програминга все же брейнфак уже похожий на GPU. Но не такой массивно параллельный. И в целом пойнт этого дизайна не очень очевиден. Потому и скисло направление. > хоть в датацентрах. Его вернуть не получится, но есть risc-v, который на гпу > будет крут уже как минимум потому, что не надо будет говно на говне наворачивать > типа rocm, который официально поддерживается на 2.5 неконсьюмерских видяхах не страше 3х лет. Ну да, у амд бывают странные дергания. Но вообще наборы команд GCNов вроде добавили в GCC, а в LLVM он давно был потому что через него шейдеры в MESA генерят. Однако вот есть у вас блоб в этом коде ... и ... ? Вы же понимаете что вы не можете целиком отхапать системный GPU совсем без арбитража, очередей и проч? Для понимания что будет дальше ... любой кто с compute экспериментировал и вгружал больше чем стоило бы поймет. И там хоть какой-то планировщик все же есть, и системная графика вот совсем не отвалится, только пошаговой стратегией станет. А если целиком перехватить без инфраструктуры... это не путь многозадачной ОС.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76 Ответы: #78, #79

78. Сообщение от Аноним (8), 04-Дек-22, 12:34	+/–
> любой кто с compute экспериментировал и вгружал больше чем стоило бы поймет Ну да, tensorflow на rocm бэкэнде на rx570 мало того что глючил и ломал картинку на экране во время работы, так и ещё и сливал банальному r5 3600 по скорости обучения.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77

79. Сообщение от Аноним (8), 04-Дек-22, 12:51	+/–
В blender benchmark у r5 3600 и rx570 opencl кстати тоже близкие результаты получались, но у видяхи TDP кратно выше.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77

80. Сообщение от Аноним123 (?), 05-Дек-22, 11:23	+/–
Смотрите вы ваш Ютубчик. Там сначала декодирование TLS, потому декодирование AV1.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

81. Сообщение от Аноним123 (?), 05-Дек-22, 11:28	+/–
Без проблем. Разгоняетесь до скорости света и наблюдаете из своей ракеты как Земля умирает от старости.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

82. Сообщение от Аноньимъ (ok), 13-Янв-23, 03:20	+/–
Главное отличие не в ядрах, а в характере доступа к памяти.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема