oldi

Российский рынок коммерческих ЦОДов

Андрей Найдич

ЦОДы компании «МегаФон»

ЦОДы компании «ВымпелКом»

ЦОДы компании Stack Group

Stack.М1

Stack.HTH

Stack.P1

ЦОД ОАО «ММТС-9»

ЦОДы компании «ДатаЛайн» (ITG)

ЦОД на ул. Боровая, д. 7

ЦОД на Коровинском шоссе

ЦОД компании «Ай­Теко»

ЦОД компании ISG

ЦОДы компании Linxtelecom

М8

R20a

ЦОД ОАО «Комкор»

ЦОДы Selectel

Дата­центр «Цветочная»

Дата­центр «Технодом»

Дата­центр «Берзарина»

Дата­центр «Дубровка»

Дата­центр «Дубровка 2»

 

В последнее время проявляется повышенный интерес к оценке рынка коммерческих центров обработки данных (ЦОД). С чем это связано? Западные аналитики, а вслед за ними и отечественные объяснили нам, что будущее ИТ — за «облачными» вычислениями. Правда, участникам ИТ-сообщества до сих пор так и не удалось четко определить границы понятия «“облачные” услуги», хотя все понимают, что «облака» предоставляются на базе дата-центров. И если будущее за «облаками», то сегодня следует подумать о площадке для их размещения.

Очевидно, что у кого будут более крупные дата-центры, у того в большей степени проявится эффект масштабирования — возможность сэкономить на закупке большой партии серверов с приличной скидкой, виртуализировать в едином пуле большее количество серверов и оптимально распределить рабочую нагрузку, нивелировать неравномерность потребления вычислительных ресурсов со стороны большего количества пользователей, предложить качественные сервисы по меньшей цене, а следовательно, завоевать большую долю рынка. Конечно, западные дата-центры давно обошли наши, вернее мы их никогда и не догоняли по масштабам и уровню безопасности. Но на Запад, естественно, уйдут не все наши пользователи хостинга, «облачного» и «необлачного». Многие захотят, а кому-то придется в силу регулятивных предписаний пользоваться сервисами местных коммерческих дата-центров. Впрочем, интерес к коммерческим дата-центрам продиктован не только и не столько перспективами «облачных» сервисов. Сегодня услуги дата-центров — это немалый рынок предоставления площадей под размещение ИТ-оборудования, услуги аренды серверов и хостинга, поэтому изучение данного рынка интересно с точки зрения перспектив не только бизнеса завтрашнего «облачного» хостинга, но и сегодняшнего традиционного. Неслучайно в связи с этим большинство российских аналитиков «РБК», «Современные Телекоммуникации», «ИКС-медиа», J’Son and partners и IDC представили свои отчеты о рынке дата-центров. Правда, отчеты эти, увы, платные. Однако все вышеперечисленные компании публикуют выжимку из своих исследований. А кроме того, каждый провайдер дата-центров рекламирует свои услуги. Эти материалы позволили автору подготовить обзор данного рынка.

Пользуясь терминологией, принятой в отчете компании «Современные Телекоммуникации», коммерческие дата-центры (ЦОД) 1-го типа — это коммерческие дата-центры (КДЦ), владельцы которых являются собственниками техплощадки или инфраструктуры техплощадки, так называемой гермозоны (системы безопасности, термоконтроля, пожаротушения и т.д.). При этом они не всегда владеют используемым помещением (или его частью) — оно может быть взято в аренду на длительный срок.

Согласно данным доклада компании «Современные Телекоммуникации», сделанного на форуме «Мир ЦОД-2010», который прошел 1-2 июня 2010 года, самые многочисленные группы — 2Б и 2B (табл. 1). Для Московского региона их доля в общем количестве операторов КДЦ 1-го типа составила примерно 90% (2Б — 70%; 2В — 20%).

Наиболее популярные услуги в КДЦ 1-го типа в России — это аренда стойки, сo-location, хостинг и предоставление интернет-доступа (см. схему).

 

Рисунок

Номенклатура услуг КДЦ (источник: ЗАО «Современные Телекоммуникации»)

В июле 2011 года аналитическая компания «Современные Телекоммуникации» опубликовала очередные рейтинговые оценки по сегменту российского рынка инфокоммуникаций «Коммерческие дата-центры (ЦОД)» по состоянию на 01.07.2011:

  • топ­10 компаний — операторов коммерческих дата-центров по суммарной площади введенных в эксплуатацию технологических залов коммерческих дата-центров (ЦОД) в Московском регионе (г.Москва и Московская область) — см. табл. 2;
  • топ­10 коммерческих дата-центров (ЦОД) в Московском регионе (г.Москва и Московская область) по площади наибольшего введенного в эксплуатацию дата-центра (включая все его технологические залы, расположенные в одном здании) — см. табл. 3.

Согласно данным отчета агентства iKS-Consulting (табл. 4 и табл. 5) «Российский рынок коммерческих дата-центров 2010-2015», опубликованного летом 2011 года, в России насчитывается более 130 крупных и средних коммерческих дата-центров. Объем рынка в 2010 году составил 4,4 млрд руб.

Общая полезная площадь коммерческих дата-центров в 2010 году достигла 29 тыс. м2. За 2010 год объем площадей вырос на 20%. Число стоек увеличилось на 21% и составило 9,7 тыс. В пересчете на одну стойку можно сказать, что с одной стойки было получено 450 тыс. руб., или 15 тыс. долл. в год, или 1,25 тыс. долл. со стойки в месяц.

В 2010 году в России было введено в строй более 20 крупных и средних коммерческих дата-центров — 4,8 тыс. м2 полезной площади.

По данным отчета, в 2011 году ожидается увеличение площади дата-центров на 7,2 тыс. м2, а рынок дата-центров вырастет на 28% и составит 5,6 млрд руб.

В отчете отмечается, что развитие рынка будет сопровождаться увеличением доли дата-центров высокого уровня надежности, ростом интереса коммерческих дата-центров к сертификации по стандарту TIA-942, снижением уровня недоверия клиентов к аутсорсинговой модели, увеличением спроса на «облачные» вычисления.

Согласно данным табл. 4, на долю десяти крупнейших операторов дата-центров России приходится 56% стоек и 63% доходов рынка. Лидером российского рынка дата-центров по числу стоек является компания «МегаФон». Ей принадлежат 13 дата-центров в десяти городах РФ, в 2010 году компания открыла самый крупный в СНГ дата-центр в Самаре, часть площадей которого используется на коммерческой основе. На втором месте по количеству коммерческих стоек находится компания Selectel, имеющая три дата-центра в Санкт-Петербурге и одну площадку в Москве. Компания работает на рынке коммерческих дата-центров с 2007 года и обслуживает в первую очередь крупные ИТ-проекты и социальные сети. Третье место по количеству стоек занимает лидер российского рынка по доходам, крупнейший московский оператор дата-центров — Stack Group (ему принадлежит сеть дата-центров SDN, состоящая из трех площадок). Компания Stack Group одной из первых предложила рынку услуги дата-центров высокого уровня надежности, за счет чего до сих пор удерживает лидерство по доходам.

Согласно отчету, восемь из десяти операторов дата-центров, попавших в топ­10 игроков по России, — это московские площадки. На Москву и Московскую область приходится 75% доходов российского рынка коммерческих дата-центров, и здесь сосредоточено 68% коммерческих площадей. Объем рынка дата-центров Москвы в 2011 году вырастет на 23% и составит 4,0 млрд руб. (объем рынка в 2010 году достиг 3,3 млрд руб.). Лидеры московского рынка коммерческих дата-центров — Stack Group, «ДатаЛайн» и «ВымпелКом».

Сравнение материалов «ИКС-медиа» и ЗАО «Современные Телекоммуникации», а также пресс­релизов владельцев дата-центров выявляет серьезные разночтения в них. Почему в этих материалах так часто приводятся разные данные по площади дата-центра и количеству стоек? Рынок дата-центров в России непрозрачен. Аналитики ориентируются на данные рекламы или на информацию от клиентов, а эти сведения могут различаться. С рекламой дата-центров всё обстоит так же, как и с рекламой обычной недвижимости. Заявление, что построен, например, дом на 100 квартир, может означать совершенно разные вещи. Вполне возможно, что построены пока только стены и крыша и въехать туда невозможно. Из рекламы дата-центров тоже не всегда ясно, о чем идет речь. Утверждение, что построен ЦОД на 600 стоек, может означать наличие как площади под будущие стойки, так и самих стоек, которые можно арендовать.

Проведем еще одну аналогию с обычной недвижимостью: построен дом на десять семей, но подведенной мощности хватит только на пять электроплит. Следовательно, разместить на этих площадях можно не десять семей, а только пять, потому что остальным негде будет готовить. Так же и с дата-центрами: их возможности характеризуются не только построенной площадью, но и средствами обеспечения работы ИТ-инфраструктуры. Возможны и иные параллели: например, какую площадь указывают продавцы недвижимости — с подсобными помещениями или без, что включают провайдеры в площадь машинных залов — только серверные стойки или также вспомогательное оборудование? Единого стандарта нет.

Несмотря на различие в оценках, все аналитики приводят данные примерно об одних и тех же игроках и дата-центрах. Расскажем о них подробнее и мы.

ЦОДы компании «МегаФон»

В 2010 году компания «МегаФон» приобрела за 745 млн долл. фирму «Синтерра» и в результате стала обладательницей сети ее дата-центров. Теперь в компании «МегаФон» 14 дата-центров, включая ЦОДы в Москве, Санкт-Петербурге, Хабаровске, Самаре, Новосибирске, Томске, Казани и Мурманске.

Самарский ЦОД был открыт в октябре 2010 года. Новый ЦОД компании «МегаФон» станет ключевым элементом будущей федеральной сети ЦОДов. В ближайшие годы «Мегафон» планирует активно развивать сеть центров обработки данных на базе собственных магистральных волоконно­оптических линий связи.

 

Рисунок

Инфраструктура комплекса включает сам ЦОД, трансформаторную подстанцию, дизель-генераторную установку, а также котельную и пост охраны. На территории центра общей площадью 6912 м2 расположены шесть автозалов площадью 400 м2 (правда, не все пока введены в эксплуатацию), электропитающие установки и центр управления. Пропускная способность по энергосбережению сети центра достигает 200 Гбит/с, а мощность — 8 мВт.

На базе дата-центра в Самаре «МегаФон» начал предоставлять «облачные» сервисы.

ЦОДы компании «ВымпелКом»

Фирма «ВымпелКом» (торговая марка «Билайн») — один из лидеров среди компаний мобильной связи. Она владеет лицензиями на предоставление услуг связи в стандартах GSM и 3G. В России сети 3G компании запущены в коммерческую эксплуатацию на территории всех 86 регионов. Согласно данным табл. 2, доля «ВымпелКом» по суммарной площади введенных в эксплуатацию технологических залов коммерческих дата-центров (ЦОД) в Московском регионе (г.Москва и Московская область) по состоянию на 01.07.2011 составляет 6,12%. По данным табл. 3, площадь наибольшего введенного ею в эксплуатацию дата-центра в Московском регионе (г.Москва и Московская область), включая все его технологические залы, расположенные в одном здании, по состоянию на 01.07.2011 составляет 900 м2.

На своем сайте «ВымпелКом» рекламирует услуги дата-центров, предлагая разместить серверное или телекоммуникационное оборудование в дата-центрах «Билайн». Однако информации по конкретным дата-центрам и их техническим характеристикам и расположению не приводит, ограничиваясь общими характеристиками всех своих предложений. Сообщается лишь, что ЦОД обеспечивает наличие прямых каналов доступа к сетям крупнейших операторов, о наличии центра управления сетью, больших энергоресурсов, инженерной поддержки и доступа к оборудованию 24 часа в сутки, 7 дней в неделю, 365 дней в году.

Скудность информации о дата-центре и его параметрах восполняет двухстраничный документ о правилах посещения дата-центра «Билайн». Среди прочего в нем сообщается, например, что в дата-центре «категорически воспрещается: производить огнеопасные работы без наряда-допуска и при нахождении в помещении лиц, не участвующих в проведении огнеопасных работ; использование первичных средств пожаротушения не по назначению; нарушать работу технических средств охраны…».

На своем сайте «ВымпелКом» не раскрывает, какими ресурсами площадей и на какой территории располагает. О местонахождении дата-центров компании «ВымпелКом» можно судить лишь по разрозненным открытым публикациям в прессе. Например, в публикации на телекомблогере http://telecombloger.ru/7191, в частности, сообщается, что Федеральное агентство по управлению государственным имуществом подало в августе 2010 года иск в Арбитражный суд г.Москвы против «Совинтела» — оператора сети фиксированной связи Golden Telecom, присоединенного сейчас к «ВымпелКому». Росимущество требует выселения «ВымпелКома» из арендуемых ответчиком у госпредприятия «Всероссийский электротехнический институт им. В.И. Ленина» нежилых помещений общей площадью 4 тыс. м2 по адресу: Красноказарменная ул., д. 12/38, где находится один из четырех московских дата-центров «ВымпелКом».

Из открытых источников известно, что в 2009 году для компании «Совинтел» был построен ЦОД в Химках. Он рассчитан на 60 технологических шкафов, мощность потребления каждого из которых составляет 6 кВт. Построенный ЦОД площадью более 200 м2 соответствует уровню надежности Tier II. Система кондиционирования реализована на базе прецизионных кондиционеров HPM 58UA с нижним выдувом под фальшпол и построена по принципу N+1. Система бесперебойного электропитания ЦОДа реализована на базе параллельной системы из четырех источников бесперебойного питания NXa 160 кВ·А (128 кВт). Время автономной работы системы при 100-процентной нагрузке — 10 минут. Система гарантированного электропитания реализована на базе ДГУ Coelmo мощностью 800 кВ·А (640 кВт) в утепленном контейнере с системами жизнеобеспечения на шасси.

Также в открытых источниках имеется информация о параметрах резервного ЦОД «Билайн», который соответствует Tier 3 по классификации Uptime Institute, занимает около 150 м2 и рассчитан на стойки мощностью 5-6 кВт, значение PUE превышает 2,0.

Информация по операциям абонентов поступает в основной ЦОД со всей страны, откуда затем реплицируется в резервный ЦОД. Соотношение мощностей основного и резервного ЦОДов составляет 4:1, однако все критичные для бизнеса ресурсы зарезервированы, и в случае проблем резервный ЦОД может взять на себя поддержку наиболее важных операций.

Для обеспечения надежного питания центр подключен к трем независимым линиям электропитания — двум внешним и одной автономной. Качество поступающей электроэнергии проверяется автоматически. Всего в центре установлено семь контейнеров с дизелями мощностью от 600 кВт до 1,1 МВт, причем для питания ЦОДа достаточно одного (остальные предназначены для энергоснабжения других служб). Запаса топлива в контейнерах хватает на 7 ч автономной работы. Система бесперебойного питания реализована по принципу 2N.

В публикациях компании «ВымпелКом» также сообщается о планах переноса центров обработки данных из Москвы в Ярославль, что позволит компании сэкономить от 30 до 40% операционных расходов на поддержку ЦОДов. К 2017 году вся ИТ-инфраструктура оператора, предназначенная для централизованного обслуживания клиентов, будет переведена в единый технический центр, который уже строится в Ярославле и возьмет на себя нагрузку всех столичных ЦОДов.

Согласно некоторым данным, имеется возможность размещения серверов в красноярском дата-центре «Голден Телеком» (co-location), что облегчит доступ к ресурсам абонента из городской сети и Интернета и оптимизирует затраты на интернет-трафик при внедрении интернет-технологий в бизнес.

Услуга включает: помещение с контролем температуры и влажности, бесперебойное питание, круглосуточную охрану, систему безводного пожаротушения, собственный и выделенные интернет-каналы от «Ростелеком» и «Транстелеком»; одногигабитный канал до городской точки обмена трафиком KRS-IX; резервирование внешних каналов; круглосуточную техническую поддержку и мониторинг.

ЦОДы компании Stack Group

ЗАО «Группа компаний «Стек» — собственник сети дата-центров Stack Data Network. Компания предлагает все виды услуг, включая сo-location, хостинг, аренду и размещение телекоммуникационного оборудования, аренду выделенных площадей под размещение нестандартного оборудования. Сеть объединяет три дата-центра: два ЦОДа в Москве (М1 и HTH) и резервную площадку (P1) в 100 км от МКАД.

Сеть дата-центров Stack Data Network (SDN) — это более 5 тыс. м2 общей площади, 1575 м2 серверных площадей на 742 проектных стойкоместа. Отказоустойчивая опорная сеть образована резервированными каналами связи, имеется трехуровневая защита информационных ресурсов, физическая защита периметра, постоянное энергоснабжение оборудования и рабочих мест, отлаженный режим кондиционирования серверных залов и рабочих мест.

Во всех дата-центрах, входящих в состав SDN, существует возможность дистанционного обслуживания ИТ-систем, а также контроля качества их работы.

В 2010 году компания Stack разработала технологию создания модульных дата-центров нового поколения «Stack. КУБ».

Stack.М1

Центральный дата-центр сети SDN функционирует с 2006 года и является одним из крупнейших коммерческих ЦОДов в России. Его общая площадь превышает 3000 м2, из которых 2500 м2 отданы под технологические площади (три серверных зала с нагрузочной способностью 5-8 кВт на стойку). На стойки ЦОД с нестандартным высоконагруженным оборудованием возможна подача мощности более 8 кВт.

 

Рисунок

Энергоснабжение ЦОДа состоит из комплекса двух ферм, включающих восемь ИБП (четыре по 600 кВ·А и четыре по 800 кВ·А, каждая ферма зарезервирована по принципу 3+1 (три необходимых плюс одна запасная)), и четырех дизель-генераторов (два по 2200 кВт и два по 1600 кВт).

Система климат-контроля ЦОДа обеспечивает поддержание определенной температуры и влажности (температура — 22 ± 5 °C, влажность — 45 ± 5%). Кондиционеры функционируют по схеме N+2. Система сдерживания воздуха в холодных коридорах позволяет поддерживать температуру от 17 до 19 °C от фальшпола до фальшпотолка.

Дата­центр обеспечен необходимыми телекоммуникационными ресурсами для подачи каналов связи от любого оператора, присутствующего на основных московских узлах связи — М9 и М10. Помимо этого в ЦОД введены оптоволоконные кабели ряда телекоммуникационных компаний. В дата-центре организованы два территориально удаленных ввода ВОЛС в здание.

Stack.HTH

Данный ЦОД функционирует с 2004 года, в 2007-м была произведена его комплексная модернизация. Общая площадь дата-центра составляет более 400 м2.

Энергоснабжение осуществляется четырьмя ИБП по 120 кВ·А и четырьмя ИБП по 60 кВ·А, зарезервированными по схеме 3+1. Аварийное энергоснабжение обеспечивают два дизель-генератора мощностью по 550 кВ·А каждый. Внешнее электропитание ЦОДа осуществляется от двух различных источников и обеспечивает мощность 2 мВт. Климатический режим реализован на основе системы прецизионного кондиционирования, состоящей из 11 кондиционеров. Дата­центр обеспечен необходимыми телекоммуникационными ресурсами для подачи каналов связи от любого оператора, присутствующего на основных московских узлах связи — М9, М10. Все помещения и прилегающая территория дата-центра круглосуточно охраняются.

Stack.P1

Этот ЦОД находится в 100 км от МКАД. После модернизации в 2007 году он приобрел официальный статус резервной площадки SDN.

Электропитание в дата-центре P1 обеспечивается тремя ИБП (по 60 кВ·А каждый), которые зарезервированы по схеме 2N+1, а аварийное энергоснабжение ЦОДа — дизель-генератором мощностью 250 кВ·А. Внешнее электропитание ЦОДа подведено через трансформатор мощностью 800 кВ·А. На стойки с нестандартным высоконагруженным оборудованием возможна подача мощности более 8 кВт.

Кондиционирование ЦОДа осуществляется на основе системы прецизионного кондиционирования, состоящей из пяти кондиционеров, зарезервированных по схеме N+2.

Дата­центр P1 обеспечен необходимыми телекоммуникационными ресурсами для подачи каналов связи от любого оператора, присутствующего на основных московских узлах связи — М9, М10.

Все дата-центры, входящие в состав SDN, оснащены необходимыми программно-аппаратными комплексами, обеспечивающими защиту серверных залов и технических объектов от несанкционированного воздействия. Во всех дата-центрах, присутствующих в составе SDN, возможно дистанционное обслуживание ИТ-систем.

ЦОД ОАО «ММТС-9»

Дата­центр ММТС-9 (М9) находится по адресу: Москва, ул. Бутлерова, д. 7, здание «ММТС-9».

По данным табл. 3, площадь технологического зала коммерческого дата-центра составляет 1800 м2 (два зала), а по данным табл. 4, площадь автозалов — 682 тыс. м2. Очевидно, при ее оценке авторы использовали разные подходы.

Открытое акционерное общество «Московская междугородная телефонная станция № 9» (ОАО «ММТС-9») было создано в 1994 году. ОАО «ММТС-9» является крупнейшей в Москве технологической площадкой для доступа в Интернет и оказания других ИКТ-услуг. Это центр обмена трафиком между основными интернет-провайдерами, операторами сотовой и фиксированной связи.

 

Рисунок

Здание станции оснащено современной инженерной инфраструктурой, в том числе системами бесперебойного электропитания, климат-контроля, газового пожаротушения, телемониторинга и видеонаблюдения.

Наличие высокотехнологичной инженерной инфраструктуры позволяет ОАО «ММТС-9» обеспечить организацию отказоустойчивой точки присутствия за счет соблюдения необходимых условий для надлежащего функционирования серверного и телекоммуникационного оборудования. Клиентами ОАО «ММТС-9» являются свыше 300 телекоммуникационных компаний. Акционеры ОАО «ММТС-9» — Федеральное агентство по управлению государственным имуществом и ОАО «Ростелеком».

Дата­центр ММТС-9 имеет высокоскоростное соединение с Интернетом и несколько подключений к сети обмена российским трафиком MSK-9, что обеспечивает оптимальный путь прохождения трафика в пределах РФ. Через М9 подключено более 80% Рунета. Через ММТС № 9 также проходит большинство телекоммуникационных каналов, соединяющих Россию с остальным миром.

 

Рисунок

В 2011 году площади дата-центра ММТС-9 были практически исчерпаны.

На базе ММТС-9 реализован целый ряд дата-центров второго уровня, например дата-центр «Транзит телекома» или дата-центр msm.ru. На сайте msm.ru можно найти следующее описание дата-центра М9:

  • «специализированное здание, построенное именно как узел связи;
  • физическая защита помещений, охрана здания;
  • электропитание оборудования по 1-й категории надежности (согласно ПУЭ);
  • система энергоснабжения мощностью 120 кВт;
  • стойки для размещения серверного оборудования;
  • промышленная система кондиционирования и вентиляции (согласно СНиП 2.04.05-86);
  • система автоматического пожаротушения (ГОСТ 12.1.004-76.ССБТ);
  • электростатическая защита помещения (согласно ГОСТ 12.4.124-83, СН-2152-80 и СанПиН-2.2.2.542-96);
  • круглосуточная дежурная смена инженеров и администраторов сети;
  • коммуникационное оборудование Cisco Systems, другое оборудование и ПО ведущих мировых производителей (Sun Microsystems, Intel, IBM, HP);
  • всё оборудование дата-центра сертифицировано в системе сертификации “Электросвязь”».

Сеть соединена с опорными маршрутизаторами ОАО «Ростелеком» двумя независимыми каналами — GigabitEthernet (1 Гбит/с) и STM-1 (155 Мбит/с).

Высокоскоростное подключение к сети крупнейшего в России провайдера услуг связи ОАО «Ростелеком» позволяет наиболее эффективно организовать доставку трафика от информационных ресурсов сети в российские (как московские, так и региональные) и международные сети.

ЦОДы компании «ДатаЛайн» (ITG)

Компания DataLine, входящая в холдинг Inline Technologies Group, основана в 2007 году и является специализированным поставщиком услуг ИТ-аутсорсинга в Москве на базе собственых центров обработки данных — это ЦОД на ул. Боровая, рассчитанный на 365 стоек, и ЦОД на Коровинском шоссе, рассчитанный на 385 стоек.

ЦОД на ул. Боровая, д. 7

  • Площадь дата-центра — 1855 м2;
  • общая установленная мощность — 5000 кВ·А;
  • 365 коммерческих стоек, три машинных зала;
  • электрическая мощность одной стойки — от 5 кВт;
  • площадь для резервных офисов заказчиков — 250 м2;
  • электроснабжение с резервированием по схеме 2N. Питание к каждой стойке подается по двум лучам. Электроэнергия от города подается по двум кабельным вводам на два понижающих трансформатора;
  • обслуживание: 7-й район МКС АО «Мосэнерго», ул. Международная, д. 17;
  • источники бесперебойного питания — APC-MGE Galaxy 6000. Емкость батарей рассчитана на питание клиентских стоек и информационной инфраструктуры ЦОДа в течение 6 минут (это достаточное время для пуска дизелей);
  • гарантированное электроснабжение обеспечивается тремя дизель-генераторными установками (ДГУ) SDMO T 1900. Для электроснабжения всего дата-центра достаточно мощности двух генераторов, один является резервным. Масло и антифриз дизелей постоянно находятся в подогретом состоянии, благодаря чему ДГУ всегда готовы к запуску (время пуска и выхода на режим — менее 1 минуты). Топливные баки дизель-генераторов рассчитаны на 6 часов работы, при этом заключены договора на оперативную доставку дизельного топлива, что позволит обеспечить работу ЦОДа даже при долговременном отказе городской питающей сети.

ЦОД на Коровинском шоссе

ЦОД на Коровинском шоссе — это отдельно стоящее здание, находящееся в собственности Inline Technologies Group, в состав которой входит DataLine. В основном здании организованы два компьютерных зала площадью 289 и 269 м2, рассчитанные на 148 и 133 стойкомест соответственно. Конструктивно компьютерные залы выполнены в виде гермозон. Начато строительство третьего зала, который будет располагаться в отдельном здании рядом с действующим ЦОДом. Зал будет рассчитан на 90 стоек.

 

Рисунок

Электроснабжение осуществляется с резервированием по схеме 2N. Электроэнергия от города подается по двум кабельным вводам на два понижающих трансформатора. Питание к каждой стойке подается по двум лучам.

Источники бесперебойного питания — APC-MGE Galaxy 7000 (500 кВ·А), по четыре ИБП на каждый зал. Емкость батарей ИБП рассчитана на питание клиентских стоек и информационной инфраструктуры ЦОДа в течение 6 минут.

Гарантированное электроснабжение обеспечивается четырьмя дизель-генераторными установками (ДГУ) Wilson в контейнерном исполнении. Топливные баки дизель-генераторов рассчитаны на 6 часов работы, при этом заключен договор на оперативную доставку дизельного топлива, что позволит обеспечить работу ЦОДа даже при долговременном отказе городской электросети, при этом питанием будут обеспечены все инженерные системы и офисные помещения ЦОДа.

Система холодоснабжения построена на оборудовании фирмы Hiref. В компьютерных залах установлены прецизионные двухконтурные фреоновые кондиционеры ТADR1002 с нижней подачей воздуха. Охлажденный воздух из кондиционеров подается под фальшпол и далее через перфорированные плитки фальшпола выдувается в «холодные» коридоры между стойками. Кондиционеры в залах резервированы по схеме N+1 (один кондиционер на зал — резервный). Внешние конденсаторные блоки (по два на каждый кондиционер) размещены на площадке рядом со зданием.

ЦОД компании «Ай­Теко»

ЦОД компании «Ай­Теко» носит название «Траст-Инфо» и расположен на Варшавском шоссе. Земля и здание ЦОДа находятся в долгосрочной аренде, его общая площадь — 3000 м2, площадь машинных залов ЦОДа — более 1600 м2, количество стоек — 800, среднее энергопотребление на стойку — 5 кВт, пропускная способность волоконно­оптических линий связи — до 10 Гбит/с.

В «Траст-Инфо» создан удостоверяющий центр ключей электронной подписи.

По данным компании, по состоянию на апрель 2011 года 450 стоек уже используются клиентами, остальные 350 мест заказаны.

В 2010 году компании Tieto и «Ай­Теко» объявили о создании совместного предприятия на базе дата-центра «Ай­Теко». Совместное предприятие должно было получить активы дата-центра «Ай­Теко», а финская компания обязалась инвестировать в развитие дата-центра около 20 млн евро.

Сделка уже была одобрена ФАС, однако в 2011 году появился пресс­релиз, в котором сообщается, что в новых экономических условиях эффективность сделки представляется менее эффективной и стороны от сделки отказываются.

При этом Tieto и «Ай­Теко» остаются стратегическими партнерами: Tieto является одним из крупных клиентов «Траст-Инфо» по аренде площадей дата-центра.

ЦОД компании ISG

Основанная осенью 2005 года, компания ISG является крупным российским системным интегратором. ООО «Центр Хранения Данных» было образовано в 2006 году для строительства и обслуживания дата-центров, а также предоставления хостинговых и интернет-услуг. В 2007 году компания «Центр Хранения Данных» ввела в эксплуатацию один из наиболее современных дата-центров в Москве — дата-центр SafeData, расположенный на пересечении Волгоградского проспекта и третьего транспортного кольца (Остаповский пр-д, д. 22/16 и 22/13).

 

Рисунок

По данным сайта управляющей компании, ЦОД отвечает требованиям международных стандартов (TIA-942) и обладает следующими параметрами:

  • общая площадь помещений — более 2000 м2;
  • площадь технологических площадей для размещения оборудования — 1200 м2;
  • возможность установки на технологической площадке до 550 серверных шкафов;
  • выделенная электрическая мощность — 3 МВт;
  • бесперебойное электропитание 1-й категории, независимые энерговводы, дублированные дизель-генераторными установками;
  • собственные ВОЛС до ММТС-9 и ММТС-10;
  • крупным клиентам предоставляется возможность ввода собственной ВОЛС;
  • имеются офисные помещения для организации резервных офисов компаний в рамках программ обеспечения непрерывности бизнеса;
  • организован круглосуточный доступ к оборудованию для клиентов, въезд на территорию, охраняемая парковка.

Менее чем через полгода после постройки первого дата-центра в 2007 году он был заполнен клиентским оборудованием на 100%, вследствие чего было принято решение о строительстве второго ЦОДа в непосредственной близости от первого.

Второй ЦОД построен с использованием современной концепции энергосбережения и включает две технологические площадки общей площадью около 700 м2 и вместимостью свыше 300 телекоммуникационных шкафов. Выделенная электрическая мощность составляет более 3000 кВт. По последним публикациям на сайте ISG, в коммерческую эксплуатацию пока введен не весь дата-центр.

Судя по данным табл. 2, доля ООО «Центр Хранения Данных» по суммарной площади введенных в эксплуатацию технологических залов коммерческих дата-центров (ЦОД) в Московском регионе по состоянию на 01.07.2011 составляет почти 4%. А судя по данным табл. 3, где приводится площадь самого большого введенного в эксплуатацию дата-центра компаний (включая все его технологические залы, расположенные в одном здании), компания имеет два зала площадью 620 м2.

ЦОДы компании Linxtelecom

Linxtelecom — это международный поставщик телекоммуникационных услуг и услуг ЦОДов с головным офисом в Амстердаме и местными отделениями по всей территории Центральной и Восточной Европы и России. Компания предлагает услуги на базе точек присутствия в Лондоне, Стокгольме, Хельсинки, Таллинне, Москве, Вильнюсе, Франкфурте, Варшаве, Будапеште, Амстердаме, Киеве, Львове, Санкт-Петербурге, Риге и Тбилиси (www.linxtelecom.com).

 

Рисунок

Компания более 10 лет работает на рынке телекоммуникаций, имеет более 1800 клиентов. Площадь ее ЦОДов составляет около 12 тыс. м2, включая Москву, Санкт-Петербург, Таллинн и Варшаву. В компании трудятся более 160 сотрудников в 12 странах.

В России расположены два дата-центра компании Linxtelecom.

М8

По данным владельцев, московский дата-центр компании Linxtelecom под названием М8 имеет общую площадь 2500 м2, включая новый модуль уровня Tier 3 площадью 200 м2. Дата­центр M8 построен в соответствии с международными стандартами, позволяющими гарантировать высокий уровень качества и безопасности предоставляемых услуг.

Все технологические процессы поддерживаются и контролируются на базе системы BMS, мониторинга и управления системами энергоснабжения, охлаждения, пожаротушения, видеонаблюдения и электронного доступа в дата-центр.

ЦОД М8 предоставляет весь спектр сервисов передачи и хранения данных, услуг по организации ИКТ-центров и резервных DRC-офисов. Структура дата-центра и DRC-офисов Linxtelecom представляет собой современную базу для построения бизнес-процессов предприятий по обеспечению непрерывности бизнеса. Дата­центр М8 имеет точку обмена интернет-трафиком на своей площадке и предлагает большой выбор международных и российских операторов. Реализована резервированная оптоволоконная сеть по независимым маршрутам до основных точек присутствия в Москве, включая М9. Это позволяет гарантировать клиентам бесперебойное функционирование сетевой инфраструктуры в чрезвычайных ситуациях и создавать распределенные корпоративные сети и системы хранения данных.

R20a

Дата­центр Linxtelecom R20a является наиболее совершенным ЦОДом Санкт-Петербурга и одновременно одним из крупнейших в Европе. Он включает помещения с фальшполом площадью до 8000 м2, предназначенные для оказания услуги co-location, и помещения площадью до 4000 м2 под размещение обычных и DRC-офисов. Газовая электростанция, сконфигурированная по схеме N+1, обеспечивает энергоснабжение мощностью до 12 МВт; резервное энергоснабжение реализовано по схеме N+1 дизельными генераторами и ИБП, которые могут поддерживать работу системы в режиме максимальной нагрузки неограниченное время. ИБП, сконфигурированные по схеме 2x (N+1), обеспечивают подачу энергии в промежуток времени, необходимый для запуска генераторов. Дизайн системы охлаждения гарантирует, что к размещенному оборудованию постоянно поступает достаточный воздушный поток с температурой 22±2 °C. Резервированные (1+1) оптоволоконные каналы соединяют дата-центр с петербургской городской сетью и обеспечивают высококачественную международную, междугороднюю и локальную связь с Боровой, 57, Большой Морской и другими важнейшими точками присутствия. Кроме того, услуга удаленного кросс­коннекта предоставляет связь с М8 в Москве и основными точками присутствия в Западной Европе.

ЦОД ОАО «Комкор»

ЦОД компании «Комкор» (торговая марка «АКАДО Телеком»), одного из крупнейших операторов связи Московского региона и технологического лидера на рынке телекоммуникаций, расположен по адресу: Москва, Варшавское шоссе, д. 133.

Его общая площадь составляет около 2000 м2. Здание ЦОДа «АКАДО Телеком» включает два серверных помещения, соответствующих классам надежности 3+ и 4 (высший класс). Они оснащены необходимыми системами электроснабжения, кондиционирования, пожарной безопасности, видеонаблюдения и контроля доступа, системой мониторинга всех инженерных систем, а кроме того, осуществлена прокладка СКС. Обеспечено полное резервирование всех инженерных и телекоммуникационных систем: электропитания, кондиционирования, СКС и активного сетевого оборудования.

 

Рисунок

Построенный в соответствии с мировыми стандартами, комплекс ЦОД «АКАДО Телеком» изначально ориентирован на обслуживание клиентов, для которых приоритетны надежность, высокая доступность сервисов и защищенность информации. Использование в проекте современного оборудования и технических решений гарантирует бесперебойную стабильную работу оборудования и, как следствие, высокое качество услуг.

Приведем некоторые детали о проектных и инсталляционных работах в проекте ЦОД ОАО «Комкор».

Система бесперебойного электропитания создана на базе оборудования компании Emerson Network Power и обеспечивает выделенную на технологическую инфраструктуру мощность 3,5 МВт. Она включает две независимые линии высокого напряжения по 10 кВ, автомат включения резерва, четыре трансформаторные подстанции суммарной мощностью 5 МВт. Для обеспечения необходимого уровня резервирования дополнительно установлены 14 источников бесперебойного питания суммарной мощностью 2,8 МВт и два дизельных генератора общей мощностью 3,5 МВт. Такое решение предусматривает резервирование по схемам N+1 и 1+1.

Климатическая система ЦОДа создана на базе оборудования производства компании Emerson Network Power — это система охлаждения Liebert HIROSS, отличающаяся высокой производительностью, гибкостью и низкой стоимостью эксплуатации. Введенная в эксплуатацию система (трехконтурная система холодоснабжения «фреон — вода — фреон») обеспечивает общую холодопроизводительность 2,7 МВт. Для достижения такой мощности климатическая система включает три внутренних чиллера (холодопроизводительностью 897 кВт каждый), 30 т резервной захоложенной воды, два шкафных кондиционера холодопроизводительностью 112 кВт каждый, 14 шкафных кондиционеров общей холодопроизводительностью 685 кВт, 40 доводчиков холода производительностью 28 кВт каждый, а также датчики температуры, влажности и протечек, позволяющие осуществлять мониторинг эффективности работы системы.

Структурированная кабельная система (СКС) телекоммуникационного комплекса ЦОДа ОАО «Комкор» стала крупнейшей инсталляцией компании Panduit в 2008 году (за ее создание корпорации «ЮНИ» была присуждена почетная премия «За самый масштабный проект» от компании Panduit). Для прокладки системы были использованы 40 км оптического кабеля, 175 км медного кабеля, она включает 22 тыс. оптических и 12 тыс. медных портов (категории 6).

ЦОДы Selectel

Сеть дата-центров Selectel принадлежит ООО «ВКонтакте», владельцу одноименной социальной сети. Образованная в октябре 2006 года, эта компания уже в 2010-м вышла на оборот в 93,8 млн долл. Ей необходимо предоставлять огромные ресурсы под социальную сеть, число зарегистрированных пользователей которой уже превысило 100 млн человек.

Наряду с поддержкой своих ресурсов, на базе сети дата-центров компания предоставляет следующие коммерческие услуги: размещение оборудования, аренда выделенного сервера, аренда виртуального linux-сервера, аренда виртуального windows-сервера, аренда серверного шкафа, аренда серверного помещения, аренда волоконно­оптической линии связи, аренда вычислительных ресурсов «облака» (cloud computing) и аренда программного обеспечения.

Сеть Selectel включает два дата-центра в Санкт-Петербурге («Цветочная» и «Технодом»), два дата-центра в Ленинградской области («Дубровка» и «Дубровка 2») и один в Москве («Берзарина»).

Дата­центр «Цветочная»

Дата­центр «Цветочная» расположен на Цветочной улице в Санкт-Петербурге, в отдельно стоящем здании общей площадью 1500 м2, являющемся собственностью компании. В серверном помещении площадью 700 м2 размещены 200 телекоммуникационных шкафов, прецизионные кондиционеры и кластеры источников бесперебойного питания.

 

Рисунок

Дата­центр использует два независимых ввода электропитания мощностью 2 МВт каждый. В здании установлены две резервирующие друг друга трансформаторные подстанции. Непрерывность электропитания обеспечивается двумя кластерами из четырех источников бесперебойного питания с общим резервированием N+1 и гарантированным временем работы под нагрузкой не менее 10 минут. На случай отключения двух вводов электропитания предусмотрен дизель-генератор.

Микроклимат обеспечивается прецизионными кондиционерами с подачей холодного воздуха под фальшпол. Система кондиционирования построена с резервированием по схеме N+1. Дата­центр обладает собственными оптическими каналами до основных точек обмена трафиком на Большой Морской, 18 и Боровой, 57. В дата-центре присутствуют такие операторы, как RunNet, Retn.Net, «ОБИТ», «Раском», Eurotel, «Комстар-ОТС», «Северен Телеком», «Совинтел», «ГлобалНЕТ», «Элтел», «Филанко», «Прометей», TeliaSonera, «Ростелеком», и пр.

Дата­центр обладает современными системами защиты и предотвращения несанкционированного доступа как в здание, так и в серверное помещение.

Дата­центр «Технодом»

Дата­центр «Технодом» расположен в Санкт-Петербурге в 2,5 км от станции метро «Василеостровская». Общая площадь помещений дата-центра составляет более 3500 м2, площадь серверных помещений — более 1400 м2. На этой площади находятся выделенные серверные помещения, специализированный узел связи для размещения оборудования операторов, а также серверное помещение для постоечного расположения оборудования клиентов. Для удобства клиентов предусмотрены офисные помещения общей площадью более 500 м2.

Дата­центр «Берзарина»

Дата­центр «Берзарина» находится в Москве на улице Берзарина. Общая площадь его помещений составляет 500 м2, из которых серверное помещение занимает 300 м2. На этой площади размещены 80 телекоммуникационных шкафов, прецизионные кондиционеры и кластеры источников бесперебойного питания.

 

Рисунок

Дата­центр использует ввод электропитания мощностью 800 кВт от реконструированной трансформаторной подстанции. Непрерывность электропитания обеспечивается кластером из шести источников бесперебойного питания с общим резервированием N+1 и гарантированным временем работы под нагрузкой не менее 10 минут. На случай отключения электропитания предусмотрены два дизель-генератора, оборудованные системой автоматического запуска при отключении электричества.

Микроклимат в серверном помещении обеспечивается прецизионными кондиционерами с подачей холодного воздуха под фальшпол. Дата­центр обладает собственными оптическими каналами до основной точки обмена трафиком — ММТС-9.

Дата­центр «Дубровка»

Дата­центр «Дубровка» находится в Ленинградской области, в 35 км от Санкт-Петербурга, в районе железнодорожной станции «Невская Дубровка», в отдельно стоящем здании общей площадью 1500 м2, из которых серверные помещения занимают 750 м2. На этой площади размещены три серверных зала по 80 серверных шкафов в каждом и прецизионные кондиционеры. Кластеры источников бесперебойного питания, а также батареи к ним расположены в отдельных помещениях.

 

Рисунок

В дата-центре используются два независимых ввода электропитания мощностью 2,5 МВт каждый. Непрерывность электропитания обеспечивается двумя независимыми кластерами источников бесперебойного питания. Микроклимат в серверном помещении обеспечивается прецизионными кондиционерами с четырьмя внешними чиллерными установками. Система кондиционирования построена с общим резервированием по схеме 2N. Дата­центр обладает собственными резервированными оптическими каналами до основных точек обмена трафиком Санкт-Петербурга: Цветочная, 21, Большая Морская, 18 и Боровая, 57.

Дата­центр «Дубровка 2»

ЦОД «Дубровка 2» находится в Ленинградской области, в поселке Дубровка. В его серверных помещениях сосредоточены 250 серверных шкафов (стоек). Данный дата-центр является половиной комплекса «Региональный вычислительный центр» — крупнейшего дата-центра Северо­Западного региона. В совокупности это 490 серверных шкафов 47 U, 5 МВт мощности и 1550 м2 площади серверных помещений.

 

В начало В начало

КомпьютерПресс 09'2011