The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Особенности архитектуры digg.com

16.02.2009 11:06

Представлен обзор особенностей архитектуры digg.com, составленный на основе выступления главного архитектора Digg на конференции Web 2.0 Expo. digg.com входит в 100 самых посещаемых ресурсов сети, обслуживая в пиках до 27 тыс. запросов в секунду.

  • Используется Debian Linux, MySQL, Apache2, FastCGI и PHP. Для кеширования задействован Memcached, для оптимизации производительности скриптов - APC PHP Accelerator;
  • Главное узкое место - ввод/вывод, производительности PHP скриптов вполне хватает.
  • Данные хранятся в децентрализованном виде, причем в дополнение к типичному горизонтальному масштабированию разделения данных по машинам (наборы записей по определенному признаку распределены по серверам), задействована методика вертикального масштабирования хранения данных, при которой практикуется разделение столбцов по разным таблицам. Например, при появлении необходимости добавления дополнительных столбцов, они создаются в новой таблице, не требуя реструктуризации базы. Данные распределены по нескольким кластерам: действия пользователей, база аккаунтов, комментарии и т.п. Разрозненность хранения скрыта за единым API, манипуляции с СУБД максимально упрощены, все что можно вынесено на плечи PHP скриптов.
  • Для оптимизации операций чтения данных используется репликация MySQL;
  • Широко используются асинхронные очереди операций. Для формирования блока данных запросы к разным СУБД производятся в параллельном режиме;
  • Для хранения пиктограмм и фотографий задействована распределенная файловая система MogileFS;
  • Многоуровневая система кеширования, в памяти и файлах. Часто меняющиеся данные кешируются через memcached, редко - через файловый кеш средствами APC PHP Accelerator.
  • В настоящее время производится переход на использование MemcacheDB для оптимизации операций, требующих интенсивной записи в MySQL. Часть данных из MySQL будет перенесено в MemcacheDB, обеспечивающем, при неизменном с Memcached протоколе, гарантирование хранение данных на диске в Berkeley DB базе с поддержкой создания распределенных хранилищ.


  1. Главная ссылка к новости (http://highscalability.com/sca...)
  2. OpenNews: Архитектура Digg.com
  3. OpenNews: Презентации с конференции разработчиков MySQL. Как работает Digg.com
  4. OpenNews: Обзор распределенных хранилищ для данных в форме ключ-значение
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/20308-web
Ключевые слова: web, optimization, scalability, mysql
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (2) RSS
  • 1, usr (?), 08:36, 17/02/2009 [ответить]  
  • +/
    Архитектура? :D Помнится, google передумал покупать digg после изучения тех. части. По крайней мере, так заявили.
     
     
  • 3, User294 (??), 19:03, 18/02/2009 [^] [^^] [^^^] [ответить]  
  • +/
    >Архитектура? :D Помнится, google передумал покупать digg после изучения тех. части. По
    >крайней мере, так заявили.

    С пользовательской точки зрения сайт тем не менее весьма неплохо сделан.Грамотно юзается ajax, etc.

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру