Инженерная инфраструктура — фундамент, на котором в дальнейшем будут разворачиваться все жизненно важные сервисы банка.
В активе — реконструируемое здание, в котором через несколько месяцев должен заработать один из крупнейших банковских центров обработки данных и контакт-центров в Украине. Развёртыванием инженерной инфраструктуры кредитного банка «Дельта», включающей структурированную кабельную систему и систему бесперебойного электроснабжения, занимались специалисты компании «Квазар-Микро».


Системы APC обеспечивают бесперебойное питание и мониторинг параметров окружающей среды
Системы APC обеспечивают бесперебойное питание и мониторинг параметров окружающей среды
Внедрение проекта для банка — всегда вещь не тривиальная: процесс строительства ограничен по срокам, в нём задействовано большое количество подрядных организаций со своими внутренними производственными процессами, необходимо проведение различных согласовательных процедур и выполнение жёстких требований Национального банка Украины к инженерным системам. С этим полностью согласны специалисты «Квазар-Микро», руководившие реализацией комплексного проекта КБ «Дельта». В ходе внедрения они столкнулись с целым рядом интересных особенностей.

В ходе переговоров с заказчиком на стадии планирования для центров обработки данных (ЦОД) было предложено комплексное решение APC InfraStruXure — масштабируемое типовое решение, которое характеризуется гибкостью, низкой стоимостью обслуживания и высоким качеством.

Выбор «Квазар-Микро» в качестве исполнителя обусловлен колоссальным опытом проектирования и построения подобных систем. Кроме того, сопровождение выполненных проектов обеспечивается согласно сервисному договору с APC Global Service. Таким образом заказчику предоставляется полный цикл работ с решениями по инженерным системам центров обработки данных, а именно проектирование, внедрение и обслуживание.

Семь раз отмерь…

Координацию осуществляла рабочая группа, в которую входили ИТ-менеджеры заказчика с одной стороны и руководители проектов от компании-интегратора — с другой. Общее руководство реконструкцией здания выполняла строительная компания — генеральный подрядчик. Как отмечает Виталий Пасечник, для успеха проекта потребовалось объединить всего три компонента — грамотное проектирование, качественное оборудование и ответственное отношение к работе.

Определенная часть отношений неизбежно строится на доверии к исполнителю проекта. Ведь увязать сложные информационные и силовые системы с другими системами жизнеобеспечения здания генподрядчику, который занимается в основном строительством, зачастую не под силу. Как и ИТ-менеджеру банка непросто проконтролировать качество выполнения непрофильных для него работ. По этой причине и сроки, и точки ответственности между подрядчиками необходимо определять особенно тщательно. В данном случае составление рабочей документации по проекту и его согласование заняли две недели.

«Ужиться» в одном здании одновременно нескольким подрядным организациям, специализирующимся на внедрении различных систем, непросто. Избежать нестыковок и трений помогло то, что в «Квазар-Микро» по ряду собственных проектов уже были знакомы с особенностями работы подрядчиков.

Особенности национального строительства

Работы велись в здании бывшей швейной фабрики – то есть в капитальном строении с высокими потолками и опорами, предназначенными для распределения веса тяжёлых станков. В здании должны были разместиться два основных помещения банка — центр обработки данных и контакт-центр. Причем главную роль в проекте играл именно контакт-центр. Он занял два этажа и рассчитан на 800 рабочих мест. Его основная задача — обслуживать клиентов банка, функционируя круглосуточно 7 дней в неделю, то есть 365 дней в году. Следовательно, проект должен был предусматривать как бесперебойное питание ЦОД и контакт-центра, так и структурированную кабельную систему всего здания, которая бы соответствовала требованиям НБУ.

В подобных случаях строительство усложняется. С одной стороны, заказчик в лице высшего руководства ставит сжатые сроки. С другой — строительные компании не могут выступать полноценным генеральным подрядчиком по всем системам жизнеобеспечения здания, так как их компетенции в большинстве случаев недостаточно для того, чтобы увязать сложные инженерные системы, например, для центров обработки данных.

В связи с этим в процессе реализации ведётся «разъяснительная работа» по особенностям построения информационной системы — например, необходимо знать, что нельзя запараллеливать информационные розетки, должна соблюдаться непрерывность кабельных сегментов и т. п.

Реализация бесперебойного электроснабжения

Хотя внешнее электроснабжение и не находилось в ведении «Квазар-Микро», благодаря заранее составленному детальному техническому заданию на электроснабжение системы бесперебойного питания у подрядчика не возникло трудностей с интеграцией этой системы в общую сеть. В ТЗ были указаны мощность, сечение кабелей и их тип, номиналы линейных автоматических выключателей — те параметры, которые необходимы подрядчику, выполняющему работы по силовой разводке в здании. Учитывая проблемы с подведением требуемой мощности в Киеве (а для дата-центра ее требуется немало), такой шаг позволил ускорить согласование проектной части.

Для построения серверной использовалось решение APC InfraStruXure Type B, в состав которого вошли ИБП Symmetra PX. В ЦОД установлены две такие системы по 80 кВт c резервированием N+1, и ещё по одной на каждом этаже контакт-центра. Причем заказчик может использовать эту систему либо как 80 кВт 2N+1, либо как 160 кВт N+1.

Предсказать рост банка и требований к ИТ-инфраструктуре очень сложно. Если возникнет острая необходимость, можно снизить степень резервируемости системы, но выиграть при этом во времени автономной работы. Системы Symmetra PX, благодаря интеллектуальности и возможности «горячей» замены модулей, позволяют, с одной стороны, снизить расходы на обслуживание (заказчик нередко может самостоятельно выполнять сервисные замены), с другой — быть уверенным в скорости работы службы поддержки.

Помимо традиционной инфраструктуры на базе решений APC InfraStruXure (шкафы для сетевого и серверного оборудования, кабельные каналы, централизованная система мониторинга температуры и влажности), интегратором на начальном этапе проекта была добавлена система распределения питания с мониторингом входных и выходных токов.

Строим СКС

Структурированная кабельная система — одна из важнейших инженерных систем, фундамент для развёртывания локальной сети, информационных сервисов и телефонии. По словам Константина Коваленко, руководившего внедрением СКС, в качестве технического решения для размещения рабочих мест частично использовалась концепция открытого пространства. Согласно требованиям заказчика, пол не применялся в качестве базы во время прокладки всех инженерных систем, поэтому единственно возможным вариантом оставалась разводка трасс за подвесным фальшпотолком. Такое решение потребовало детальной проработки прохождения трасс СКС с привязками их к координатным осям, чтобы увязать эту систему в общую инженерную инфраструктуру.

Для максимальной отказоустойчивости, трассы оптических и медных кабельных сегментов были проложены в разных лотках. Оптические линии выполнялись с резервированием 100% (2N) — это позволит в случае повреждения участка межэтажной предотвратить нарушение функционирования локальной сети банка.

Заказчик выдвинул следующие требования к СКС: высокая пропускная способность, надёжность и адекватность системы современным сетевым протоколам. К особенностям можно отнести использование IP-телефонии во всём здании, для чего вполне достаточно одного информационного порта на рабочее место. Общее количество портов в проекте — 1975.

 «Сердце» локальной сети, ЦОД, представляет собой полностью герметичное помещение, выполненное в соответствии с нормами НБУ. Все вводы электропитания выполнялись через фильтры, кабельные вводы для слаботочных систем — сквозь «запредельные» волноводы, обеспечивая максимальную конфиденциальность информации и отсутствие влияния внешних помех на функционирование сервисов внутри ЦОД. В дополнительном серверном помещении размещается телефония и оборудование с резервными сервисами.

Пассивная часть инфраструктуры центра обработки данных представляет собой распределённую топологию типа «звезда» с несколькими центрами коммутации. В каждом шкафу, предназначенном для установки серверного оборудования, установлено 48 портов, линии связи от которых были сведены в коммуникационные шкафы по схеме «один к двум». Это позволило получить полностью готовую систему для развёртывания ЦОД с использованием стандартного оборудования и сократить время на запуск серверного оборудования в несколько раз.

Эффект от внедрения

В результате успешной реализации проекта банк получил распределённый центр обработки данных, состоящий из нескольких площадок с доступностью 99,9%. Технологичность решения позволила значительно сократить сроки на развёртывание серверной инфраструктуры и рабочих мест сотрудников банка. Построенный ЦОД рассчитан на 250 КВт потребляемой мощности с возможностью автономной работы более 2 часов, которые необходимы для включения и выхода на проектную мощность дизель-генератора или — при выходе его из строя — корректного переноса вычислительных мощностей банка на другие площадки.

Новые горизонты

Данный проект успешно завершён в ноябре 2007 года, но сотрудничество «Квазар-Микро» и КБ «Дельта» продолжается. Телекоммуникационных портов никогда не бывает много, и их востребованность — лишь дело времени. Поэтому в данный момент специалисты «Квазар-Микро» продолжают развивать СКС для включения новых рабочих мест в информационную сеть. Достаточный запас по мощности ИБП позволяет эксплуатировать систему энергоснабжения ещё долгое время. А если учесть рекомендации НБУ по созданию резервных ЦОД, то сотрудничество, возможно, в дальнейшем расширится.

КОММЕНТАРИЙ ИНТЕГРАТОРА

Виталий Пасечник, менеджер по развитию бизнеса, отдел инженерных систем «Квазар-Микро»:


В начале проекта заказчики, как правило, думают, что следующую серверную комнату они начнут строить лет через пять. Однако по опыту внедрения подобных проектов в банковской сфере могу сказать: возможности исчерпываются через год-два. Не стоит забывать, что ещё около года проходит от момента зарождения идеи до завершения внедрения. Сократить этот срок можно только за счёт согласованных действий заказчика и интегратора: пожелания заказчика трансформируются в проектное решение, которое и внедряется в кратчайшие сроки интегратором, имеющим опыт построения такого рода систем. Нам удалось добиться сокращения сроков внедрения комплексного проекта кредитного банка «Дельта» до трёх месяцев благодаря проработке проектной документации, чёткому разграничению ответственности между участниками проекта и слаженной работе с заказчиком.


Константин Коваленко, ведущий инженер-проектировщик, отдел инженерных систем «Квазар-Микро»:

Благодаря опыту внедрения подобных проектов нам удалось ещё на стадии проектирования учесть архитектурные особенности здания и сложность инсталляции комплекса инженерных систем. Это позволило минимизировать риски при внедрении конкретного проектного решения и добиться полного соответствия реализованного решения первоначальным ожиданиям заказчика.