The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  ВХОД  слежка  RSS
"Работа с файлами большого размера"
Вариант для распечатки  
Пред. тема | След. тема 
Форумы Программирование под UNIX (Public)
Изначальное сообщение [Проследить за развитием треда]

"Работа с файлами большого размера"  
Сообщение от Александр email(??) on 26-Мрт-07, 19:49 
Perl - Работа с файлами большого размера от 1Gb и выше.

Кто знает хитрости или просто советы, чтобы на Perl даже на слабом компьютере можно было работать с огромными файлами. К примеру сортировка, поиск и т.д. Интересует сам подход. Ведь никаких ресурсов не хватит чтобы в память счесть весь файл целиком и по нему делать нужные запросы и т.д. Есть что-нибудь покруче seek?

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

 Оглавление

Сообщения по теме [Сортировка по времени, UBB]


1. "Работа с файлами большого размера"  
Сообщение от Александр email(??) on 26-Мрт-07, 22:52 
На счет seek я погорячился. Попробую задать вопрос более понятнее: Как в Perl освобождать память у переменных которые далее не требуются. И вообще по освобождение памяти в Perl расскажите кто что знает
Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

2. "Работа с файлами большого размера"  
Сообщение от A on 27-Мрт-07, 10:12 
>На счет seek я погорячился. Попробую задать вопрос более понятнее: Как в
>Perl освобождать память у переменных которые далее не требуются. И вообще
>по освобождение памяти в Perl расскажите кто что знает

если коротко: Perl не освобождает память.
если длинно: перл может использовать память повторно для хранения других данных, но не отдаёт память системе даже если эта память в настоящий момент ни для чего не используется.

Это не является прямым препятствием для обработки любых файлов. Просто следите, чтобы программа не засасывала сразу много данных. Избегайте конструкций $big=$big.$small и прочей гадости, требующей создания копии большой переменной. "освободить" память можно простым присвоением undef, но лучше пользуйтесь лексическими переменными (my) они чистятся лучше и автоматически.

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

3. "Работа с файлами большого размера"  
Сообщение от A on 27-Мрт-07, 10:15 
вдогонку :-)
http://www.samag.ru/cgi-bin/go.pl?q=articles;n=10.2002;a=02
Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

4. "Работа с файлами большого размера"  
Сообщение от idle (ok) on 27-Мрт-07, 12:53 
>Perl - Работа с файлами большого размера от 1Gb и выше.
>
>Кто знает хитрости или просто советы, чтобы на Perl даже на слабом
>компьютере можно было работать с огромными файлами. К примеру сортировка, поиск
>и т.д. Интересует сам подход. Ведь никаких ресурсов не хватит чтобы
>в память счесть весь файл целиком и по нему делать нужные
>запросы и т.д. Есть что-нибудь покруче seek?
http://perlmonks.org/?node_id=533663

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

5. "Работа с файлами большого размера"  
Сообщение от bill (ok) on 18-Апр-07, 12:00 
>Perl - Работа с файлами большого размера от 1Gb и выше.
>
>Кто знает хитрости или просто советы, чтобы на Perl даже на слабом
>компьютере можно было работать с огромными файлами. К примеру сортировка, поиск
>и т.д. Интересует сам подход. Ведь никаких ресурсов не хватит чтобы
>в память счесть весь файл целиком и по нему делать нужные
>запросы и т.д. Есть что-нибудь покруче seek?


Я столкнулся с такой задачей , нужна была сортировка 50 мегабайтного файла.
Похоже без вариантов на perl за приемлимое время. Пришлось пользоваться системным sort.

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Индекс форумов | Темы | Пред. тема | След. тема
Оцените тред (1=ужас, 5=супер)? [ 1 | 2 | 3 | 4 | 5 ] [Рекомендовать для помещения в FAQ]




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру