The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

В ZFS появилась поддержка исключения дубликатов, opennews (?), 03-Ноя-09, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


11. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от QuAzI (ok), 03-Ноя-09, 11:10 
>Ну это один обход. А тут при каждой записи вычисление хэша каждого
>блока + поиск + и тд. При перезаписи блока так ещё
>и ссылки отчищать. Архивная така ФС выходит.

Нет, ну как бы ZFS поддерживает архивацию, но речь не о том. Допустим поиск дубликатов будет делать scrub или другая сервисная фича, это ещё предстоит устаканить. Тоесть создав файл предполагается же, что он ещё 33 раза поменяется. Другой вопрос это "упаковать", в порядке сервисного обслуживания.


Ответить | Правка | Наверх | Cообщить модератору

19. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от 222 (?), 03-Ноя-09, 11:40 
>Нет, ну как бы ZFS поддерживает архивацию, но речь не о том. Допустим поиск дубликатов будет делать scrub или другая сервисная фича, это ещё предстоит устаканить. Тоесть создав файл предполагается же, что он ещё 33 раза поменяется. Другой вопрос это "упаковать", в порядке сервисного обслуживания.

во первых не файл, а блок
во вторых в блоге явно сказано дедупликация происходит сразу же
в третьих чексум блока вычисляется всегда, даже без дедупликации, с ней дополнительно появится только операция поиска в существующих хэшах
что в свою очередь ест память для них, но пока таблица влезает в память практически не сказывается на производительности и дает небольшое замедление при невлезающей в память таблице

читайте первоисточники

Ответить | Правка | Наверх | Cообщить модератору

38. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от QuAzI (ok), 03-Ноя-09, 13:14 
>во первых не файл, а блок
>во вторых в блоге явно сказано дедупликация происходит сразу же
>в третьих чексум блока вычисляется всегда, даже без дедупликации, с ней дополнительно
>появится только операция поиска в существующих хэшах
>что в свою очередь ест память для них, но пока таблица влезает
>в память практически не сказывается на производительности и дает небольшое замедление
>при невлезающей в память таблице
>
>читайте первоисточники

Перечитал. Это я затупил, там просто обзор есть, мол "Data can be deduplicated at the level of files, blocks, or bytes".
Что в принципе не так и важно, размер блока вроде как превышает среднестатистический файл (документ, конфиг, исходник, многие утилиты и т.п.)
Интереснее было бы посмотреть на цифры, сколько памяти съест под себя хеш 100 000
блоков к примеру, сколько они при этом "накроют" места. Это позволит более чётко представить, надо оно или нет.

Ответить | Правка | Наверх | Cообщить модератору

40. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от B.O.B.A.H. (??), 03-Ноя-09, 13:23 

>в память практически не сказывается на производительности и дает небольшое замедление
>при невлезающей в память таблице
>

видел, когда ZFS ооочень тормозила, когда системе памяти не хватало.
но это исключительная ситуация - файлов на ФС было создано чрезвычайно много и они постоянно создавались/модифицировались.

Ответить | Правка | К родителю #19 | Наверх | Cообщить модератору

41. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от QuAzI (ok), 03-Ноя-09, 13:26 
>
>>в память практически не сказывается на производительности и дает небольшое замедление
>>при невлезающей в память таблице
>>
>
>видел, когда ZFS ооочень тормозила, когда системе памяти не хватало.
>но это исключительная ситуация - файлов на ФС было создано чрезвычайно много
>и они постоянно создавались/модифицировались.

Можете описать, как вы добились такой нагрузки?

Ответить | Правка | Наверх | Cообщить модератору

114. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от B.O.B.A.H. (??), 04-Ноя-09, 00:52 
вкратце - когда кол-во файлов приближалось к 100 000 000 (сто млн) - ZFS начинал заметно (даже глазу) тормозить, к примеру, на команде
  ls -l

решило проблему простое увеличение памяти на сервере - с 8 Г до 16.

всё это дело наблюдалось прошлым летом.
сейчас, возможно, ситуация изменилась.

Ответить | Правка | Наверх | Cообщить модератору

97. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от аноним (?), 03-Ноя-09, 18:56 
>видел, когда ZFS ооочень тормозила, когда системе памяти не хватало.

Врете. ARC работает независимо от остального VM, поэтому скорее будет паника kmem_too_small, чем zfs будет не хватать памяти. Сейчас сделали backpressure vm на arc, так что arc будет ужиматься если памяти будет не хватать, но все равно даже при arc_max=30M ZFS работает с замечательной скоростью.

Ответить | Правка | К родителю #40 | Наверх | Cообщить модератору

156. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от B.O.B.A.H. (??), 05-Ноя-09, 15:46 
> чем zfs будет не хватать памяти.

думаю, что "памяти" хватало - никакой паники.
только не вся служебная информация о ФС не могла поместиться в ОП в один момент времени

Ответить | Правка | Наверх | Cообщить модератору

31. "В ZFS появилась поддержка исключения дубликатов"  +/
Сообщение от letsmac (?), 03-Ноя-09, 12:30 
>>Допустим поиск дубликатов будет делать scrub или другая сервисная фича, это ещё предстоит устаканить

Тогда смысл несколько теряется. При удалении/изменении захэшированного файла, всё равно что произойдёт?  Делать ремап блоков файла придется. Т.Е получается то-же разархивирование. Каждый раз прогонять распакованный файл и переколбашивать изменнёные блоки - не очень правильное решение.

>>Другой вопрос это "упаковать", в порядке сервисного обслуживания.

Вот и я говорю для архивов - неплохая фишка. Особенно для документных. Или выставлять атрибуты для файла отдельные - "сжимаемый" или фасовать по изменению. Получается "псевдоархив" с большой скоростью доступа.

Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру