ПАО «Металлургический комбинат «Азовсталь» Группы Метинвест — современное высокотехнологичное предприятие, производящее широкий спектр металлопродукции: слябы, сортовой и фасонный прокат, рельсы железнодорожные, рельсовые скрепления, квадратную заготовку, толстый лист, продукцию из металлургических шлаков. Комбинат входит в состав Группы Метинвест, которая является вертикально интегрированной горнодобывающей группой компаний, управляющей активами в каждом звене производственной цепочки: от добычи ЖРС и угля и производства кокса до выпуска полуфабрикатов и конечной продукции из стали, трубопроката и рулонов, а также производства другой продукции с высокой добавленной стоимостью. Группа состоит из добывающих и металлургических предприятий, находящихся в Украине, Европе и США, и имеет сеть продаж с охватом всех ключевых мировых рынков.

Исходные данные

Металлургический бизнес является очень конкурентным. Жесткое соперничество на мировом рынке вынуждает бороться за высоко качество продукта при достаточно конкурентной цене. В таких условиях предприятиям приходиться работать над максимальным снижением себестоимости, чтобы обеспечить для себя приемлемую прибыль. Все это невозможно без надежно функционирующей и четко отлаженной ИТ-инфраструктуры.

В рамках развертывания ИТ-инфраструктуры комбинат «Азовсталь» испытывал необходимость в построении комплекса инженерной инфраструктуры центра обработки данных (ИИ ЦОД), обеспечивающего работоспособность ИТ-оборудования. Развитие инфраструктуры предприятия планировалось обеспечить за счет поэтапного увеличения мощности и возможности оптимизации оборудования. Поскольку работа среды ИТ-оборудования предусматривалась в режиме 7х24х365, коэффициент постоянной готовности ЦОД должен составлять не менее 99,9%. Для этого проектирование комплекса ИИ ЦОД должно осуществляться в соответствии с действующими национальными и международными нормами и правилами.

Для реализации вышеописанных планов «Азовсталь» обратился к внешнему системному интегратору. Выбор пал на компанию Инком, которая уже ранее выполняла проекты для ГК Метинвест. В рамках проекта системному интегратору предстояло решить целый ряд следующих основных задач. Во-первых, требовалось создать условия для оптимального размещения пассивного и активного сетевого оборудования и серверов. Во-вторых, предстояло обеспечить бесперебойную работу ИТ-оборудования (активного сетевого оборудования и серверов) ЦОД в течение заданного интервала времени при отключении электропитания. В-третьих, было необходимо обеспечить требуемый уровень надежности функционирования и резервирования оборудования ЦОД, защиту ИТ-оборудования и коммуникаций ЦОД от воздействия внешних электромагнитных излучений и наводок, построить оптимальные микроклиматические условия для работы ИТ-оборудования ЦОД. Важной задачей также являлась возможность наращивания мощности ЦОД с учетом дальнейшего расширения (масштабирования) ИТ-оборудования. Среди дополнительных требований «Азовсталь» назвал создание автоматизированного дистанционный контроль и управление основными параметрами работы ЦОД.

От планов — к реализации

Инженерная инфраструктура ЦОД включает множество различных систем: внутреннего электроснабжения, обеспечения микроклимата, подсистему обменной вентиляции, систему мониторинга и диспетчеризации, структурированную кабельную систему. Также в его состав входит устройство экранирования серверного помещения, система пожарной безопасности и различные дополнительные системы.

Для построения нового дата-центра Инком применил модульную масштабируемую архитектуру АРС InfraStruXure, реализующую систематический подход к построению экономичных управляемых инженерных систем на базе стандартизированных компонентов. В ходе реализации проекта специалисты системного интегратора и ИТ-департамента внедрили следующие компоненты:

  • трехфазную систему бесперебойного питания АРС Symmetra PX2 мощностью 160 кВт с интегрированной системой распределения питания и панелью байпаса;
  • систему распределения питания с горячим резервированием (2N), а также интеллектуальные модули автоматов для ее защиты;
  • модульную систему охлаждения – внутрирядные кондиционеры АРСInRow RP и InRow RD DX Air Cooled – эффективное экономичное решение, позволяющее интеграцию со стойками без дополнительных компонентов. Для охлаждения нагрузки использована фреоновая система кондиционирования (уровень резервирования внутренних блоков охлаждения N+1);
  • монтажные шкафы NetShelter SX 42U, под которыми в специальных лотках (под фальшполом) проложена СКС (созданная с учетом всех требований стандарта ISO/IEC 11801 и рекомендаций TIA 942) и силовые кабели;
  • средства для размещения кабельной инфраструктуры силовой и информационной части на крыше шкафов;
  • систему централизованного мониторинга и управления инженерным комплексом АРС InfraStruXure Central v 6.0;
  • систему активного мониторинга физических факторов риска АРС NetBotz Rack Monitor550;
  • датчики температуры и влажности, позволяющие держать под контролем температуру, влажность, протечки жидкостей, а также мгновенно получать уведомления о несанкционированном доступе непосредственно от систем видеонаблюдения с единой консоли управления, подключенной к IP-сети. Для повышения эффективности охлаждения была применена система контейнеризации «горячего» воздушного коридора АРС HACS.

В рамках проекта система внутреннего электроснабжения спроектирована и построена в соответствии с действующими национальными нормативными документами (ДСТУ ІЕС 62040-3). Распределительная сеть организованна таким образом, чтобы обеспечить возможность отключения отдельных групп электропитания для проведения ремонтных работ без отключения сети общего электропитания. Система бесперебойного электроснабжения построена на базе источников бесперебойного питания APC серии Symmetra. Кроме того, электропитание потребителей подсистемы аварийного освещения выполняется отдельно от питания рабочего освещения, а светильники данной подсистемы имеют в комплектном составе отдельные аккумуляторные блоки. Также проектом предусматривалось устройство подсистемы функционального и защитного заземления, расчетные параметры которого соответствуют требованиям действующих нормативных документов – ГОСТ 12.1.30-81 и правилам устройства электроустановок – с отдельным учетом рекомендаций производителей ИТ-оборудования.

Внедрение системы бесперебойного электроснабжения обеспечило выполнение таких функций как обеспечение бесперебойным электропитанием оборудования ЦОД, защиту оборудования ЦОД от импульсных помех внешней электросети и возможность переключения на внешний (ручной) байпас.

Модуль обеспечения микроклимата построен с учетом возможности поддерживать стабильную влажность и температуру воздуха в помещении серверной ЦОД. Построение системы кондиционирования и охлаждения для серверного помещения отвечает всем требованиям СНиП 2.4.05-91 и состоит из внутрирядных кондиционеров и наружных блоков, соединенных фреоновыми магистралями. Система обеспечивает бесперебойность функционирования по схеме 24х7х365, что позволяет в течение всего года круглосуточно поддерживать микроклимат в помещении.

Система приточно-вытяжной вентиляции для серверного помещения ЦОД спроектирована отдельно от общеобменной вентиляции здания, а приточные и вытяжные воздуховоды вентиляции оборудованы противопожарными клапанами, закрываемыми в случае возникновении пожара. Также предусмотрена предварительная подготовка воздуха перед подачей в помещение ЦОД.

Система мониторинга и диспетчеризации комплекса ИИ ЦОД создана как многоуровневая автоматическая система, обеспечивающая управление комплексом ИИ ЦОД и непрерывный мониторинг основных параметров состояния и исправности элементов инфраструктуры ЦОД, а также контроль основных параметров микроклимата серверного помещения ЦОД.

Структурированная кабельная система ЦОД построена с учетом всех требований международного стандарта ISO/IEC 11801 и с учетом рекомендаций TIA 942. С целью защиты ИТ-оборудования от электромагнитных излучений и наводок помещение аппаратного зала защищено экраном. Серверное помещение оборудовано автоматической установкой газового пожаротушения, модули которой размещаются в помещении серверной ЦОД в специально оборудованном для этого месте.

Итоги проекта

В результате реализации проекта сотрудники системного интегратора в сотрудничестве со специалистами «Азовстали» оборудовали комплекс инженерной инфраструктуры ЦОД в соответствие с требованиями заказчика.

«ЦОД, как известно, это не только вычислительное оборудование комплекс, но и помещение, инженерные системы, средства безопасности и т.д. Каждая из подсистем является критически важной сама по себе, при этом все они должны эффективно и надежно взаимодействовать между собой, — прокомментировал Сергей Орлов, главный специалист по ИТ ПАО «МК «Азовсталь» Группы Метинвест. — Осознавая масштабность проекта, мы уделили особое внимание выполнению работ, связанных с планированием и проектированием помещения и инженерных систем. В результате комплекса работ, проведенных совместными усилиями специалистов «Азовстали» и компании Инком, был заложен крепкий «фундамент», гарантирующий надежную работу ЦОД нашего предприятия».

Стоит отметить, что команде пришлось работать с сложных экологических условиях, учитывая в процессе выполнения поставленной задачи негативное воздействие окружающей среды. «Спектр внешних факторов, влияющих на качество работы вычислительных ресурсов на объекте, достаточно разнообразен. Особо стоит отметить такие моменты как негативное воздействие окружающей среды и человеческий фактор, — отметил Андрей Верба, директор донецкого филиала компании Инком. — Созданная нами инженерная инфраструктура ЦОД гарантирует безотказную эксплуатацию вычислительных систем металлургического комбината. Также отмечу, что в рамках реализованного проекта использован широкий спектр высокотехнологичных решений, которые в совокупности формируют сложный и надежный инженерный комплекс».

Владимир Дохленко, вице-президент департамента IT Business (APC by Schneider Electric), OOO «Шнейдер Электрик Украина» сделал особый акцент на слаженной работе команды: «Взаимодействие в проекте осуществлялось в команде, объединяющей вендора, интегратора и самого заказчика. Задача Schneider Electric как производителя решений – обеспечить необходимый уровень сервисной компетенции, технологического консалтинга и экспертизы».