Присоветуйте железа для системы виртуализации

carusya

В общем, подбираю железо для кординального обновления серверного железа.
Что по нагрузке: всё как у всех - серваки на винде и на невинде: домен, 1ска, файлопомойка, астер, т.п. на примерно 100 человек. Всё на виртуалках на ESXi. Сами виртуалки занимают около 1ТБ сейчас.
Из железа в наличии (того, что хочется использовать в дальнейшем, по крайней мере) - один сервер с материнкой X9DRW-7TPF+ X9DRW-7TPF+, двумя ЦПУ E5-2609, 64GB памяти, в корпусе с отсеками под 16 2.5" HDD, установлено 8х300GB каких-то 10k хардов.
Чего хочу? Хочу построить кластер виртуализации на базе нескольких вычислительных серваков и консолидировать хранение данных на одной железке.
В принципе, по поводу вычислительных серваков сомнений почти нет - любая платформа на один 2011 сокет + ЦПУ Xeon E5-1650 v2 + 64-128GB памяти.
В использовании односокетных серваков вижу только плюсы:
- процессоры дешевле, предложенный E5-1650v2 3.5 Ghz - $600, а аналогичный ему, поддерживающий двухпроцессорные конфигурации - E5-2643v2 - $1500
-зайчатки HA
- приложений, готовых по многопоточной производительности упереться в один такой процессор, нет и не предвидится.
- места в стойке на ближайшие годы тоже пока хватит.
Прав ли я?
Как основа для вычислительных серваков довольно вкусно смотрится материнка X9SRH-7TF - в основном, комплектной 10GBit сетью.
А теперь начались вопросы - на чем же хранить данные?
На одном полюсе - суровый, но дешевый и сердитый самосбор - взять за основу упомянутый первым сервак, поставить на него хоть немного знакомую мне NexentaStor, и
- добавить пару HBA, поддерживаемых соляркой, добавить ещё 8 харов по 300GB - получу программный рейд сырой емкостью 4.8 ТБ (соотв, от 2 ТБ полезной) - будет под более критичные к скорости работы данные.
- добавить еще один HBA с внешними портами (Intel RS25GB008), к нему подключить полку для 3.5" дисков(ну, для 12шт есть в продаже в москве Intel JBOD2312S2SP), напихать дисков по потребности - будет массив под менее критичные к скорости данные. (До 12*6TB=72TB сырой емкости )
-соединить с вычислительными серваками по 10GBit ethernet, пользовать NFS.
Бюджет такого мероприятия невелик, профит значителен - но...
На другом полюсе стоит огромный, непонятный мне, закрытый рынок брендовых СХД - и попроще, и подороже. Может, я не прав, и хлебну со своим колхозом лиха?
Но когда смотрю я на (каким то чудом просочившиеся в паблик) цены на, скажем, StorageWorks P2000 G3, и понимаю, что HP хочет $6k за пустую железку с одним контроллером (с двумя $15k), еще по $500 за 1 HDD 10k - становится немного грустно.
Да и еще зоопарк незнакомых технологий - по SAS я внешние устройства никогда не подключал, FC даже не нюхал...
Подскажите, мне метаться, или не метаться, и колхозить свой колхоз?

hoha32

У меня немного странный вопрос, наверное... А почему харды 2,5"? Мне вот видимо скоро достанется агрегат с 4х2 Тб дисковым массивом "всё-в-одном" (кстати, спасибо за ссылку на проц, я что-то думал 6 ядер и по 3,5 ГГц не бывают), он и считать, и хранить будет; я в сторону 2,5" как-то даже не смотрел.

carusya

Бывает, что от массива хочется получить не только объема, но и скорости.
Так вот, для создания "быстрых" массивов промышленность традиционно выпускает небольшие по емкости (72 / 146 / 300 / 600 / 900 GB), но "быстрые" (со средним временем поиска порядка 4 мс против 8 для обычных хардов, с установившейся последовательной скоростью чтения порядка 300 МБ/сек против 150 для обычных хардов) жесткие диски. Они такие бывают и в форм-факторе 3.5", но там внутри маленькие пластины всё равно, они же бывают и 2.5".
Так вот, часто выбирают 2.5" харды, когда они нужны "быстрые", потому что они банально занимают меньше места, чем такие же по остальным характеристикам 3.5".
Для примера - 24 2.5" харда - это полностью заполненная морда сервера 2U, 24 3.5" - это уже 4U (если в один ряд)

BatoSan

А разве ещё не настало время, когда такие скоростные винты стоят столько же как ссдшка подобного объема?

carusya

Винты бывают разные, SSD тоже.
Вот типичный пример SSD, которую можно использовать в продакшне, не проводя предварительных работ по герметизации ануса на +10 атм. избыточного давления:
 Intel S3700, рекомендованная цена на арке $350, в России продают за $500 (200GB),
против
рандомной SAS трехсотки 10k rpm за $150.
 Шестисотки еще дешевле (за гигабайт) - $200.

CapitanJack

сконсолидировать весь сторадж на одну железку это хорошо но в варианте самосбора как ты обеспечишь ей HA? а брендовые железки не обязательно SAS/FC а очень даже бывают и iSCSI/NFS что в общем тебе и надо. Это мой так сказать взгляд со стороны вот этих вот "закрытый рынок брендовых СХД"

tokuchu

сконсолидировать весь сторадж на одну железку это хорошо но в варианте самосбора как ты обеспечишь ей HA? а брендовые железки не обязательно SAS/FC а очень даже бывают и iSCSI/NFS что в общем тебе и надо. Это мой так сказать взгляд со стороны вот этих вот "закрытый рынок брендовых СХД"
Но если есть руки и время, то может быть дешевле сделать колхозный HA на DRBD, например, чем покупать брендовые диски. Плюс брендовые железки не панацея. У нас тут одна такая раком встала, что потом еле отскребли данные, хотя там 2 контроллера.

CapitanJack

У нас тут одна такая раком встала, что потом еле отскребли данные, хотя там 2 контроллера.
Ну DRBD конечно же раком не встает никогда. щит хепнс. отдельные товарищи настолько везучи что ловят double disk failure три раза на одной железке но это не значит что железка виновата.

viktor954

DRBD конечно же раком
конечно же, может встать. Тут дело в другом — при разнице цен между брэндовой СХД и самосбором на порядок, не проще ли поставить две самопальные хранилки и сделать репликацию тем же Veeam-ом? Как всегда вопрос стоимости защищаемых данных и времени простоя.

carusya

Это мой так сказать взгляд со стороны вот этих вот "закрытый рынок брендовых СХД"
А "взгляд со стороны" как кого? Пользователя/разработчика/продавца/приверженца?
Я бы позадавал вопросов самый банальный - на что посмотреть то?
Если закрепить доступ по 10Gbe iSCSI/NFS, и нуждаться, в общем то, в двух-трех массивах описанных объемов (200GB горячих данных, на SSD, 2 ТБ теплых, 10 ТБ холодных).

tokuchu

Ну DRBD конечно же раком не встает никогда. щит хепнс. отдельные товарищи настолько везучи что ловят double disk failure три раза на одной железке но это не значит что железка виновата.
А как оно может раком встать? Ну репликация может сломаться, да. Шит хепенс. Но это по мне не так страшно.
Но когда у тебя диски размечены в проприетарный формат и оба контроллера одновременно _внезапно_ перестали загружаться по неведомой причине, то как-то неприятно. И этот шит поболее будет.
Хотя наверняка с дисков можно было бы всё равно прочитать какой-нибудь тулзой, но это уже сложнее, чем с ивестными тебе технологиями.
По поводу double disk failure. На этой же железке (она конечно не виновата, что диски говно оказались) за первый год померла четверть брендовых дисков, а новые доставляли несколько месяцев, т.к. их в Москве не было. :)
Собственно я к тому, что бренд может доставить не меньше проблем и не менее весёлых. И поэтому при малом бюджете переплачивать за бренд может быть не самой лучшей стратегией.

tokuchu

И поэтому при малом бюджете переплачивать за бренд может быть не самой лучшей стратегией.
А в больших системах с сильными требованиями к отказоустойчивости, производительности и пр. самопал поддерживать, конечно, уже сложнее и всё равно нужно для этого будет ощутимые ресурсы выделять. И брендовое решение с поддержкой выглядит уже более привлекательно, некоторого рода аутсорс. Хотя, конечно, они всё равно много денег за это берут. :)

CapitanJack

как оно может раком встать
ну это же две линукс машинки с софтом поверх? да херова тьма всего может случиться как с железом так и с линуксом и самим софтом. HA кластер на линуксе, ага супер пупер надежное сочетание, никогда раком не встает, да.

CapitanJack

А "взгляд со стороны" как кого?
архитектора солющенов

tokuchu

ну это же две линукс машинки с софтом поверх? да херова тьма всего может случиться как с железом так и с линуксом и самим софтом. HA кластер на линуксе, ага супер пупер надежное сочетание, никогда раком не встает, да.
Я не отрицал, что могут быть проблемы которые могут првести к прекращению работы, но я описывал не просто отказ работы а возможность потери данных и именно по причинам, которые мы не можем контролировать из-за того, что это бренд, а не самосбор.
Оставить комментарий
Имя или ник:
Комментарий: