> потом пейсбук вводит новую функцию, на которую нужно еще 100 шкафов, и почти все старые
> оптимизации становятся бессмысленны.

не становятся - повторю, именно поэтому к шкафу и прикован инженер, настоящий, не впопеннетчик, и даже цепь достаточно длинная чтобы он мог заниматься в нерабочее время подобными экспериментами.

> а дальше очередной раунд оптимизаций...

старые при этом никуда не деваются. Обрати внимание - больше половины там не за счет конкретного сервера (который тоже никуда, скорее всего, не денется сам по себе, поскольку это не фейсбукоспецифичное, а универсальное, и для новой функции тоже будет употреблено) а общесистемного. Поэтому шкафов изначально поменьше, чем потребовалось бы без прикованного к ним кожанного мешка. А там, глядишь, и еще что сумеет оптимизировать.

Т.е. вопрос исключительно цены - если твои 6% в твоем единственном сервере не видны вообще никак - то тебе оно и не надо. Если ты Сцукенберг - твои 6% очень даже выгодно получить налом, не потратившись на лишние шкафы. Одна цепь и одна миска с кормом существенно дешевле обходится.

Если ты где-то в промежутке - то внедрив у себя даже только небольшую часть тех улучшизмов - все еще можешь заслужить себе в миску хотя бы рояльканин, а не педигри.