The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Рост числа процессорных ядер приведет к необходимости смены ..., opennews (??), 02-Окт-10, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


5. "Рост числа процессорных ядер приведет к необходимости смены ..."  +2 +/
Сообщение от аноним (?), 02-Окт-10, 16:30 
А как же работали 1024-ядерные системы покойной SGI?
И все ядра под одной копией linux!
Ответить | Правка | Наверх | Cообщить модератору

11. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Arcturus (ok), 02-Окт-10, 16:57 
1024-ядерные или 1024 процессорные?
Ответить | Правка | Наверх | Cообщить модератору

61. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от StrangeAttractor (ok), 02-Окт-10, 21:40 
> 1024-ядерные или 1024 процессорные?

Кстати, а какая разница? Правда интересно. Мне ясно только что при отдельных процах получается кэша больше.

Ответить | Правка | Наверх | Cообщить модератору

67. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от DmitryINdig0 (ok), 02-Окт-10, 22:54 
суперкомпьютеры сильны, когда каждая нода выполняет свою часть задачи. А потом все решения надо объединить. Помнится на Пентиум3 в МГУ строился вычислительный кластер, и много денег потратили на сеть, что бы задержки и коллизии исключить, которые бывают в распространенном езернете. Там какой-то "хитрый" езернет был.

Сейчас я японии строить собираются 10Тфлопный суперписюк ) Так там как раз одна из особенностей, это новый подход к сети кластера.

Или же еще пример. Применение шейдеров видеокарты для вычисления - хорошая идея, но задачу надо разбить правильно и главное что бы под "размер" шейдера. Затем на выходе собрать результат.

Вот так я понимаю.

Ответить | Правка | Наверх | Cообщить модератору

69. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от админ (?), 02-Окт-10, 23:33 
>суперкомпьютеры сильны, когда каждая нода выполняет свою часть задачи.

а при чём тут ноды?
был задан конкретный вопрос.
зы:
ядра почти не отличаются от выделенных камней. иногда просто некоторые ресурсы бывают общими - кэш, фпу и т.д.

Ответить | Правка | Наверх | Cообщить модератору

124. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 03-Окт-10, 19:46 
Это только если абстрагироваться что скорость и задержки в канале связи на кристале и на плате - это совсем разные вещи :)
Ответить | Правка | Наверх | Cообщить модератору

152. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от yet another anonim (?), 05-Окт-10, 05:27 
Какую плату вы имеете ввиду? Данные между физически связанными ядрами вполне радостно гуляют внутри чипа, с частотой, явно большей, чем та, что между отдельными процами, избегая всяких прочих плат, и, соотв., с задержкой меньшей. Платы в таком случае лишь получают уже готовые обработанные вещи и посылают новые данные для обработки.
Ответить | Правка | Наверх | Cообщить модератору

22. "Рост числа процессорных ядер приведет к необходимости смены ..."  –20 +/
Сообщение от User294 (ok), 02-Окт-10, 19:30 
> А как же работали 1024-ядерные системы покойной SGI?

А еще вон в топ500 почему-то куча линукса. А если то что говорят фрукты из MIT правда - ну допилят ядро, куда ж они денутся? :) Может парни из MIT себе грант на "принципиально новую ОС" хотят выбить?

Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

28. "Рост числа процессорных ядер приведет к необходимости смены ..."  +3 +/
Сообщение от Аноним (-), 02-Окт-10, 19:43 
Кластер и супер-мультиядерность на одном чипе - несколько разные вещи.
Ответить | Правка | Наверх | Cообщить модератору

35. "Рост числа процессорных ядер приведет к необходимости смены ..."  –14 +/
Сообщение от User294 (ok), 02-Окт-10, 19:59 
> Кластер и супер-мультиядерность на одном чипе - несколько разные вещи.

Однозначно. Правда насчет того что супер-мультиядерность вообще перспективна - это большой вопрос. Где Kilocore от IBM, например? А то там 1024 ядра чтоли обещали, или около того. У многоядерников есть проблема: если задача не параллелится (а параллелится не любая задача), все упирается в скорость 1 ядра а остальные ничего не делают. При этом чем круче отдельное ядро (и чем их меньше умещается, соответственно) тем лучше работает 1-поточная задача. Ну вот интели и амд всякие нынче для борьбы с этим жутко изгаляются. Делая всякие TurboCore и что там еще (ака разгон 1 ядра при неактивных остальных).

Ответить | Правка | Наверх | Cообщить модератору

70. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от админ (?), 02-Окт-10, 23:36 
кстати согласен - без правильного распараллеливания задачи фиг что получится.
сейчас на смп проще считать так - одна задача, один проц.
Ответить | Правка | Наверх | Cообщить модератору

155. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от User294 (ok), 05-Окт-10, 05:43 
> кстати согласен - без правильного распараллеливания задачи фиг что получится.

А некоторые задачи как-то так изначально последовательные и не очень то хотят параллелиться по природе своей. Собственно этот простой и обидный факт и является основной проблемой многоядерников, из-за которых процы с уймой относительно слабых ядер так и не пошли в массы.

Ответить | Правка | Наверх | Cообщить модератору

164. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от fr0ster (ok), 05-Окт-10, 08:18 
> является основной проблемой многоядерников, из-за которых процы с уймой относительно слабых
> ядер так и не пошли в массы.

Не совсем так, видяхи те же узкоспециализированные компы, а какая массовость?

Ответить | Правка | Наверх | Cообщить модератору

52. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 02-Окт-10, 20:59 
Мисье все знайка - доведу до твоего сведения - в TOP500 нет не одной машины с количеством ядер на одной ноде выше 32х. Ноды обмениваются между собой или через shared memory (mmap большого файла) или через MPI. ТОЧКА.

То как linux kernel пытались запускать на SGI Altrix - это отдельная и грустная история - он там просто не работал, ибо инициализация 512 ядер занимала дохрена времени и накладные расходы вобщем-то тоже.

Линукс на машинах Cray XT[3-5], IBM BG/L сводится к одной вещи - запускалка процессов.
Единственное серьезное использование это service node - там еще +/- похожее на привычное окружение.

Надеяться что ядро "допилят" не стоит - много ли допиливаний под Cray вернулось в ядро?
А BG/L specific ?

Ответить | Правка | К родителю #22 | Наверх | Cообщить модератору

55. "Рост числа процессорных ядер приведет к необходимости смены ..."  –23 +/
Сообщение от User294 (ok), 02-Окт-10, 21:19 
> много ли допиливаний под Cray вернулось в ядро?

Вы хотите сказать что вон та орава ядерщиков не сможет так же? При том их главный финноамериканец это самое ядро с нуля написал? Прикольно, да :)

> Надеяться что ядро "допилят" не стоит

Да что вы так нервничаете? Время покажет. Будут 48-ядерные процы майнстримом - тогда и увидим все.

Я думаю что если кастомеры начнут теребить редхатов, ораклей, айбиэмов и прочих - они быстренько допилят, никуда не денутся. А что, у них еще и выбор будет? :)

Ответить | Правка | Наверх | Cообщить модератору

78. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от Аноним (-), 03-Окт-10, 00:11 
>> много ли допиливаний под Cray вернулось в ядро?
> Вы хотите сказать что вон та орава ядерщиков не сможет так же?

Не сможет.

> При том их главный финноамериканец это самое ядро с нуля написал?
> Прикольно, да :)

Один он ? ну ты наивный малый :) почитаешь на lwn.net кто вкладывает и за чьи деньги в ядро?
А что будет если туда не будут вкладывать - то где эти интузиасты будут ?:)


>> Надеяться что ядро "допилят" не стоит
> Да что вы так нервничаете? Время покажет. Будут 48-ядерные процы майнстримом -
> тогда и увидим все.

По себе судить не стоит.

> Я думаю что если кастомеры начнут теребить редхатов, ораклей, айбиэмов и прочих
> - они быстренько допилят, никуда не денутся. А что, у них
> еще и выбор будет? :)

Ты хоть раз общался с сапортом RedHat ? видимо нет.
Если ты не клиент с 1000 лицензий - ты им слабо интересен.
Если ты еще хочешь чего-то странного, что не укладывается в их виденье мира - то ровно так же.
Собрать ядро с какой нить опцией - идешь лесом, починить баг который им кажется маловажным - ровно так же.
Так что мисье всезнайка облажался в очередной раз.


Ответить | Правка | Наверх | Cообщить модератору

98. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от Аноним (-), 03-Окт-10, 09:40 
>>> много ли допиливаний под Cray вернулось в ядро?
>> Вы хотите сказать что вон та орава ядерщиков не сможет так же?
>Не сможет.

Сможет.

Ответить | Правка | Наверх | Cообщить модератору

112. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от fr0steremail (ok), 03-Окт-10, 15:18 
>>>> много ли допиливаний под Cray вернулось в ядро?
>>> Вы хотите сказать что вон та орава ядерщиков не сможет так же?
>>Не сможет.
> Сможет.

Вначале посчитает, сколько на это надо бабок и пошлет затею лесом, пока широкого употребления многоядерных систем не будет.

Ответить | Правка | Наверх | Cообщить модератору

148. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от User294 (ok), 04-Окт-10, 17:13 
> Не сможет.

Да бросьте, там собралась такая куча ориентированных не на процесс и теоретическую круть а на результат что они *любую* актуальную задачу смогут вкатать в асфальт. Не где-то там в теории как математик из анекдота про пожар и пожарный кран, а на практике. В реальном мире. На реальных машинах. Будет задача хорошо работать на 48 ядрах? Сделают. Готов даже поспорить на $100 :)

> Один он ?

Ну, начал он один. А потом орава присоединилась. И вот теперь там такая могучая кучка которая может разобраться с любой задачей.

>ну ты наивный малый :) почитаешь на lwn.net кто вкладывает и за чьи деньги в ядро?

Да я его и так в общем то читаю регулярно. Что-то опоздали вы с советами лет на эн...

> А что будет если туда не будут вкладывать - то где эти интузиасты будут ?:)

Кто тут еще наивный :). Если уж на горизонте нарисуется задача "хорошо работать с 48 ядрами" - уж вкладывающие бабки в линух будут первым делом заинтересованы скорее всего, т.к. у них или их кастомеров и будут такие железяки первым делом. И, кстати, допилить напильничком до работающего состояния то что уже есть - куда дешевле чем с нуля такое же но идеологически правильнее написать. Это даже туповатые инвесторы понимают.

> По себе судить не стоит.

Ну так и не судите.

> Ты хоть раз общался с сапортом RedHat ? видимо нет.
> Если ты не клиент с 1000 лицензий - ты им слабо интересен.

Ради одного В. Пупкина с 1 лицензией ессно никто не будет кастомно кодить что-то в большом масштабе. Только вот 48-ядерные процы ради одного В.Пупкина и подавно никто не станет производить, если что. Первыми заинтересуются такими железками как раз эти, с 1000 лицензий которые. У Пупкинов пупок развяжется платить за первые процы с 48 ядрами. Дальше оно может быть станет майнстримом. А может быть вслед за Итаником отправится. Это уж рынок решать будет.

> Если ты еще хочешь чего-то странного, что не укладывается в их виденье
> мира - то ровно так же.

Если процессоры с 48 ядрами станут обыденностью - они перестанут быть странными. А если к ним придет один В. Пупкин с одной лицензией но где-то каким-то чудом урвавший инженерный сэмпл 48-ядерного проца - ну да, он не повод для дерганий. Хотя-бы потому что вообще нет гарантий что этот проц в серию пойдет. А повкалывать ради красоты концепций самой по себе и счастья одного В. Пупкина - дорого и непрактично.

> Собрать ядро с какой нить опцией - идешь лесом, починить баг который
> им кажется маловажным - ровно так же.

Извините. Попробуйте такое попросить у микрософта для сравнения? А хотя-бы и будучи кастомером с 1000 лицензий?

> Так что мисье всезнайка облажался в очередной раз.

И правда - облажался. Потому что "мисье" - это позор! Анонимные аналитики школу не заканчивали? oO

Ответить | Правка | К родителю #78 | Наверх | Cообщить модератору

68. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от zuborg (?), 02-Окт-10, 23:25 
>Ноды обмениваются между собой или через shared memory (mmap большого файла)

Ещё один всезнайка нашелся. И чем же мемори расшаривается ? Сокет планки памяти запаян на материнки обоих нод ? Или изменения в файле через NFS синхронизируются ?

Короче, слыхал звон, да не знал где он...

Ответить | Правка | К родителю #52 | Наверх | Cообщить модератору

75. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 03-Окт-10, 00:05 
>Или изменения в файле через NFS синхронизируются ?

Если для вас сетевые FS заканчиваются NFS - мне вас очень жаль.
lustre | GPFS + mmaped file - вполне себе схема shared memory.

DLM обеспечит когентность кэшей на всех нодах.

Ответить | Правка | Наверх | Cообщить модератору

80. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от Аноним (-), 03-Окт-10, 00:27 
Ах да, забыл.
вокруг этого mmap file, накручивают стопку MPI_barrier что бы синхронизировать доступ.
а за одно советую чутку заглянуть в google по словам "MPI shared memory mmap"
узнаете много нового для себя, и перестанете кичиться своим невежеством.
Ответить | Правка | Наверх | Cообщить модератору

85. "Рост числа процессорных ядер приведет к необходимости смены ..."  +2 +/
Сообщение от аноним (?), 03-Окт-10, 01:04 
> а за одно советую чутку заглянуть в google по словам "MPI shared
> memory mmap"
> узнаете много нового для себя, и перестанете кичиться своим невежеством.

Вы бы язык-то прикусили, да почитали бы о том, о чем несете абсолютный бред, ни хрена не понимая как оно работает.

Ответить | Правка | Наверх | Cообщить модератору

86. "Рост числа процессорных ядер приведет к необходимости смены ..."  –3 +/
Сообщение от Аноним (-), 03-Окт-10, 01:39 
Да да :) расскажи мне убогому как оно работает..
Как DLM поддерживает когентность page cache на многих машинах :)
А я послушаю "аналитика" ;-)


Или все знания окачиваются NFS? так в NFS v4.1 уже начались подобия нормальной файловой системы..

Ответить | Правка | Наверх | Cообщить модератору

105. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от zuborg (?), 03-Окт-10, 13:53 
>Ноды обмениваются между собой или через shared memory (mmap большого файла)
>...
>GPFS + mmaped file - вполне себе схема shared memory

Итак, подытожим, ноды суперкомпа обмениваются между собой информацией используя сетевые файловые системы (такие как GPFS) через замечательный IPC механизм shared memory, который по определению работает в пределах одной машины (т.к. память, хранящаяся в состоянии одного и того же блока транзиторов в конкретном чипе памяти может быть отображена в адресное пространство нескольких процессов только в пределах той машины, на которой эти процессы исполняются)

Вы у Петросяна помощником не работаете ?

Ответить | Правка | К родителю #75 | Наверх | Cообщить модератору

118. "Рост числа процессорных ядер приведет к необходимости смены ..."  +2 +/
Сообщение от Аноним (-), 03-Окт-10, 17:36 
>>Ноды обмениваются между собой или через shared memory (mmap большого файла)
>>...
>>GPFS + mmaped file - вполне себе схема shared memory
> Итак, подытожим, ноды суперкомпа обмениваются между собой информацией используя сетевые
> файловые системы (такие как GPFS) через замечательный IPC механизм shared memory,
> который по определению работает в пределах одной машины (т.к. память, хранящаяся
> в состоянии одного и того же блока транзиторов в конкретном чипе
> памяти может быть отображена в адресное пространство нескольких процессов только в
> пределах той машины, на которой эти процессы исполняются)

LOL. вы где учились юноша?
shared memory - не исчерпывается только System V IPC. mmap ровно такой же механиз для организации shared memory и IPC обмена между процесами (http://en.wikipedia.org/wiki/Mmap)
и то что процессы разнесены по разным нодам роли не играет :)

2 ноды вполне могут открыть один файл и при помощи mmap(), отобразить в собственное адресное пространство.
После этого механизмы заложеные в distributed lock mamager (DLM - детали прочитаете на wikipedia) воплне могут обеспечить когерентность page cache у этих 2х нод.
Это будет не быстро (по сравнению с обычным чтением с DFS), будет вызывать lock ping-pong - но работает, и для некоторых задач - имеет место использоваться.

> Вы у Петросяна помощником не работаете ?

ищите колег ?

Ответить | Правка | Наверх | Cообщить модератору

119. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от Аноним (-), 03-Окт-10, 17:42 
за одно стоит прочитать определение

http://en.wikipedia.org/wiki/Shared_memory

что бы в очередной раз не слыть невеждой и мне в очередной раз жаль что понятие shared memory для вас закончилось на System V IPC, а понятия файловых систем - на NFS который не имеет никакого distributed lock manager.

Ответить | Правка | К родителю #105 | Наверх | Cообщить модератору

122. "Рост числа процессорных ядер приведет к необходимости смены ..."  +1 +/
Сообщение от zuborg (?), 03-Окт-10, 18:21 
>http://en.wikipedia.org/wiki/Shared_memory

цитирую:
In computer hardware, shared memory refers to a (typically) large block of random access memory that can be accessed by several different central processing units (CPUs) in a multiple-processor computer system.

Вношу ясность - на разных нодах процессы работают с "физически разными" чипами памяти, следовательно, никакие сетевые FS не могут процессу на одной ноде предоставить доступ к памяти, которая физически находится на другой ноде, поэтому поняние shared memory неприменимо в данном случае.
Еще раз - shared memory это память, представленная физически одним и тем же набором транзисторов в конкретном чипе, отображенная в адресное пространство нескольких процессов, запущеных на одной системе. Следовательно, процесс на другой ноде не может никак получить доступ к "этой" памяти. Сетевая FS может предоставить такому процессу на другой ноде доступ только к "копии" содержимого памяти с исходной ноды.

Копия содержимого памяти и "одна и та же страница" памяти - это существенно различные понятия.

PS. прошу прощения за излишнюю резкость в предыдущих сообщениях.

Ответить | Правка | Наверх | Cообщить модератору

125. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 03-Окт-10, 19:56 
>>http://en.wikipedia.org/wiki/Shared_memory
> цитирую:
> In computer hardware, shared memory refers to a (typically) large block of
> random access memory that can be accessed by several different central
> processing units (CPUs) in a multiple-processor computer system.

читаем еще раз. но не между строк
In software

In computer software, shared memory is either
a method of inter-process communication (IPC), i.e. a way of exchanging data between programs running at the same time. One process will create an area in RAM which other processes can access, or

a method of conserving memory space by directing accesses to what would ordinarily be copies of a piece of data to a single instance instead, by using virtual memory mappings or with explicit support of the program in question. This is most often used for shared libraries and for XIP.

переводим:
- метод межпроцесорного взаимодействия когда один процесс создает область памяти к которой другие могут получить доступ
- запихивание разных vma (virtual memory area) в разные процессы - так что они реально имеют доступ к
общим данным.

так все таки применимо - или тут разные процессы (на разных нодах) не получают доступ к общим данным?


> Копия содержимого памяти и "одна и та же страница" памяти - это существенно различные понятия.

а ничего что после pagger и последующего востановления из свопа - у вас будут разные физические страницы? и любое приложение на userland работает с виртуальными адресами - которые никак не связаны с реальными транзисторами.
А с точки зрения виртуальной памяти нет никакой разницы - соединили микросхемы в 2х нодах физически или логически.

ps. я понимаю вашу позицию как системотехника, но в данном случае разговор идет о процессах выполняющихся не в ядре, и оперирующими виртуальной памятью.

Ответить | Правка | Наверх | Cообщить модератору

126. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от zuborg (?), 03-Окт-10, 20:51 
>a method of conserving memory space by directing accesses to what would ordinarily be copies of a piece of data to a single instance instead, by using virtual memory mappings or with explicit support of the program in question.

Перевожу:
метод сохранения обьема памяти через перенаправления доступа к тому, что в обычном случае было бы копиями частей данных, к единому екземпляру (данных), используя отображение памяти или с непосредственной поддержкой рассматриваемой программы

Ключевое место здесь - "единый екземпляр". Т.е. одна и та же страница памяти, которая доступна различным процессам.

>так все таки применимо - или тут разные процессы (на разных нодах) не получают доступ к общим данным?

К общим данным - да. Которые будут представлены в виде нескольких копий, как минимум по одной на каждой ноде.
К одной и той же странице памяти - разумеется нет.

Именно общая страница памяти, отображенная в адресное простраство разных процессов, представляет из себя shared memory, независимо от того по какому физическому адресу она находится после подгрузки из файла или свопа пейджером.

>А с точки зрения виртуальной памяти нет никакой разницы - соединили микросхемы в 2х нодах физически или логически.

Микросхемы в двух нодах нельзя соединить физически. Данные из одной ноды можно скопировать на другую множеством способом, но ни один из них не имеет отношения к понятию shared memory, потому что копирование по определению не представляет собою shared instance.

>ps. я понимаю вашу позицию как системотехника, но в данном случае разговор идет о процессах выполняющихся не в ядре, и оперирующими виртуальной памятью.

А я Вашей позиции не понимаю. Я абсолютно доступным языком обьяснил что такое shared memory и почему mmap over network fs им не является. И контекст выполнения процесса (ядро/не ядро) в данном вопросе не играет никакой роли.

PS. Не все то shared memory, что делается через mmap, хотя и может казаться им.

Ответить | Правка | Наверх | Cообщить модератору

136. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 04-Окт-10, 08:48 
Сознательно игнорируете первую строчку определения данного wiki?
>>

a method of inter-process communication (IPC), i.e. a way of exchanging data between programs running at the same time. One process will create an area in RAM which other processes can access, or
>>

с дополнительными уточнениями из hardware.
>>

Cache coherence: Whenever one cache is updated with information that may be used by other processors, the change needs to be reflected to the other processors, otherwise the different processors will be working with incoherent data (see cache coherence and memory coherence).
>>>

замените processors на nodes - логика не изменится не на грамм.


PS. в определенных условиях будет сущестовать ровно 1 страничка памяти которая будет прыгать между разными нодами. это взятие лока с PW (типы локов в wikipedia DLM) (file open mode - O_WRITE). При это любое чтение/запись на другой ноде будет конфликтовать с этим локом и вызывать удаление страницы из мапинга на ноде 1 и создание страницы на ноде 2.

Ответить | Правка | Наверх | Cообщить модератору

146. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от zuborg (?), 04-Окт-10, 13:25 
>One process will create an area in RAM which other processes can access

повторюсь в который раз - процесс на второй ноде НЕ может получить доступ к "area in RAM", которую создал процесс на первой ноде - он (процесс на второй ноде) может получить доступ только к копии данных из этой area, которая (копия) будет предоставлена сетевой FS (или любым другим IPC методом).

>замените processors на nodes - логика не изменится не на грамм.

тут не могу возразить. С логической и топологической точки зрения кеши разных ядер процессора в классическом случае shared memory, и страницы памяти на удаленных нодах для Вашего mmap over net-fs - эквивалентны (в первом случае когерентность обеспечивается протоколом когерентности кешей ядер, во втором - средствами сетевой FS). Тогда почему бы не провести параллель между доступом к данным через цепочку L1-L2-RAM через FSB (QPI etc) и Process1:Node1-Internet-Node2:Process2 через tcp-сокет ?

Послушайте, так получается - все-все IPC логически еквивалентны shared memory ?!
Где-то есть какой-то екзепляр данных, другие процессы каким-то (неважно каким, логически все способы еквивалентны ведь) способом получает доступ к этим данным. Сможете это опровергнуть ?

Ответить | Правка | Наверх | Cообщить модератору

71. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от админ (?), 02-Окт-10, 23:40 
>Мисье все знайка - доведу до твоего сведения - в TOP500 нет не одной машины с количеством ядер на одной ноде выше 32х.

32 - уже не хило.
совсем до 48 не далеко. пока одни помои льют, время идёт и другие работают.
>Линукс на машинах Cray XT[3-5], IBM BG/L сводится к одной вещи - запускалка процессов.

на моём ноуте - тоже.

Ответить | Правка | К родителю #52 | Наверх | Cообщить модератору

76. "Рост числа процессорных ядер приведет к необходимости смены ..."  –1 +/
Сообщение от Аноним (-), 03-Окт-10, 00:07 
>>Мисье все знайка - доведу до твоего сведения - в TOP500 нет не одной машины с количеством ядер на одной ноде выше 32х.
> 32 - уже не хило.

16 или 32 был только в BG/L. Но там далеко не SMP, а POWER[5|6] + NUMA.

> совсем до 48 не далеко. пока одни помои льют, время идёт и
> другие работают.
>>Линукс на машинах Cray XT[3-5], IBM BG/L сводится к одной вещи - запускалка процессов.
> на моём ноуте - тоже.

Да ну? что бы запустить 1 процесс который будет по сети работать ?:)

Ответить | Правка | Наверх | Cообщить модератору

82. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от аноним (?), 03-Окт-10, 00:38 
>16 или 32 был только в BG/L. Но там далеко не SMP, а POWER[5|6] + NUMA.

ха! это что-то меняет?
>Да ну?

ну да.
>что бы запустить 1 процесс который будет по сети работать ?:)

угу. браузер. как в твоём случае.
чтобы скопировать с вики ничего не доказывающую информацию.

Ответить | Правка | Наверх | Cообщить модератору

87. "Рост числа процессорных ядер приведет к необходимости смены ..."  –1 +/
Сообщение от Аноним (-), 03-Окт-10, 01:40 
>>16 или 32 был только в BG/L. Но там далеко не SMP, а POWER[5|6] + NUMA.
> ха! это что-то меняет?

Очень многое.

Ответить | Правка | Наверх | Cообщить модератору

88. "Рост числа процессорных ядер приведет к необходимости смены ..."  –1 +/
Сообщение от админ (?), 03-Окт-10, 01:48 
ничего это не меняет.
если есть что сказать - ю а велком. а так - в сад.
Ответить | Правка | Наверх | Cообщить модератору

89. "Рост числа процессорных ядер приведет к необходимости смены ..."  –1 +/
Сообщение от Аноним (-), 03-Окт-10, 02:01 
> ничего это не меняет.
> если есть что сказать - ю а велком. а так - в
> сад.

Если не понимаете то точно в сад - учиться :)
различия в подходах к SMP и NUMA я думаю сможете и без меня в wiki прочитать.
помоему на страничке с NUMA как раз и описывались все проблемы традиционной SMP архитектуры - почему стали использовать NUMA.

Ответить | Правка | Наверх | Cообщить модератору

109. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от админ (?), 03-Окт-10, 14:50 
вы действительно не понимаете или прикидываетесь?
если последнее, то очень умело.
чтобы расставить точки на И - объясните какое отношение всё вышесказанное имеет к сабжу.
Ответить | Правка | Наверх | Cообщить модератору

117. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 03-Окт-10, 17:23 
самое что не наесть прямое - в тексте рассматриваются проблемы _SMP_ систем
которых не может быть в NUMA, если программировать правильно.
Ответить | Правка | Наверх | Cообщить модератору

120. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 03-Окт-10, 17:45 
> вы действительно не понимаете или прикидываетесь?
> если последнее, то очень умело.
> чтобы расставить точки на И - объясните какое отношение всё вышесказанное имеет
> к сабжу.

в частности - частое и бездумное использование atomic - создает неявные memory barier которые вызывают cache flush со всех CPU в системе, чем перегружают каналы связи.
А linux kernel славился бездумным использованием atomic - благо дело при малом количестве CPU и i386 архитектуре это очень дешево (hint поищите патч ника который вычищал atomic из dcache - там приводились цифры насколько вырасла производительность после этого).

Ответить | Правка | К родителю #109 | Наверх | Cообщить модератору

91. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Алексей (??), 03-Окт-10, 04:08 
Всезнайка наверное не читал pdf по ссылке в новости? А ведь стоило бы...
Чтобы не утруждать ваши, без преувеличения, "гениальные" мозги, процитирую здесь только conclusion:

This paper analyzes the scaling behavior of a traditional operating system (Linux 2.6.35-rc5) on a 48-core computer with a set of applications that are designed for parallel execution and use kernel services. We find that we can remove most kernel bottlenecks that the applications stress by modifying the applications or kernel slightly. Except for sloppy counters, most of our changes are applications of standard parallel programming techniques. Although our study has a number of limitations (e.g., real application deployments may be bottlenecked by I/O), the results suggest that traditional kernel designs may be compatible with achieving scalability on multicore computers. The MOSBENCH applications are publicly available at http://pdos.csail.mit.edu/mosbench/, so that future work can investigate this hypothesis further.

Ответить | Правка | К родителю #52 | Наверх | Cообщить модератору

127. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним. (?), 03-Окт-10, 23:47 
>Мисье все знайка - доведу до твоего сведения - в TOP500 нет не одной машины с количеством ядер на одной ноде выше 32х.

http://top500.org/system/8385 Ранее в списке был Росгидромет, где было более 32 ядер.

>То как linux kernel пытались запускать на SGI Altrix - это отдельная и грустная история - он там просто не работал, ибо инициализация 512 ядер занимала дохрена времени и накладные расходы вобщем-то тоже.

Работал, работает и будет работать... не надо врать... И времени эта "инициализация" занимала не много.... и даже на 1024 ядрах.

>Линукс на машинах Cray XT[3-5], IBM BG/L сводится к одной вещи - запускалка процессов.

А что оно ещё должно делать?? Угадывать, что вы хотите посчитать и сразу выдавать результат???

Ответить | Правка | К родителю #52 | Наверх | Cообщить модератору

139. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним (-), 04-Окт-10, 09:02 
>>Мисье все знайка - доведу до твоего сведения - в TOP500 нет не одной машины с количеством ядер на одной ноде выше 32х.
> http://top500.org/system/8385

Что хотели то сказать ссылкой на Altrix? Он есть и в Oak ridge - там где TOP1 стоит (Ягуар и пару машинок поменьше) - но по факту - "стоит" а не работает.

> Ранее в списке был Росгидромет, где было более 32 ядер.

был :) Но что IBM что Cray почему-то пошли по пути  2-4 cpu и количество ядер не выше 32х.
Видимо путь который пораждает большие NUMA системы - оказался не столь привлекательным?


>>То как linux kernel пытались запускать на SGI Altrix - это отдельная и грустная история - он там просто не работал, ибо инициализация 512 ядер занимала дохрена времени и накладные расходы вобщем-то тоже.
> Работал, работает и будет работать... не надо врать... И времени эта "инициализация"
> занимала не много.... и даже на 1024 ядрах.

аха. всего около 10 минут. То то Altrix сейчас очень популярны.


>>Линукс на машинах Cray XT[3-5], IBM BG/L сводится к одной вещи - запускалка процессов.
> А что оно ещё должно делать?? Угадывать, что вы хотите посчитать и
> сразу выдавать результат???

Ну как сказать :) когда попробуете скомплировать свой код под Cray XT - поймете.

Ответить | Правка | Наверх | Cообщить модератору

147. "Рост числа процессорных ядер приведет к необходимости смены ..."  +/
Сообщение от Аноним. (?), 04-Окт-10, 14:05 
>Что хотели то сказать ссылкой на Altrix? Он есть и в Oak ridge - там где TOP1 стоит (Ягуар и пару машинок поменьше) - но по факту - "стоит" а не работает.

Вы сказали, что в списке нет - я вам показал, что есть.

>был :) Но что IBM что Cray почему-то пошли по пути  2-4 cpu и количество ядер не выше 32х.

Наверное потому, что технологически требуется доработка механизмов синхронизаций. Проще использовать стандартное решение. Опять же я вас удивлю, но IBM умеет соединять в единую SMP машину до 4-х 2-сокетных узлов.

>Видимо путь который пораждает большие NUMA системы - оказался не столь привлекательным?

А может быть дело было в том, что Itanium перестал развиваться??? Сейчас тоже самое делают на Xeon и решение покупается.... Из всех вендоров на рынке, только SGI делает большие NUMA системы.

>аха. всего около 10 минут. То то Altrix сейчас очень популярны.

10 минут на что?? На загрузку с нуля или на инициализацию всех модулей??? На 1024 ядрах это занимает около 10 минут, но 90% времени это инициализация I/O модулей. Смотря где, там где они нужны. Почему же тогда продажи этих систем не падают???

>Ну как сказать :) когда попробуете скомплировать свой код под Cray XT - поймете.

Ясно, как в анекдоте: "Штурман приборы. - 25 - что 25 - А что приборы". Вы решите сначала, что хотите сказать, а уже потом говорите, а не прыгайте по мыслям. Вопрос стоит так, что ещё, помимо запуска процессов, оно должно делать???

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру