Многие динамично разви­вающиеся компании сталкиваются с необходимостью оптимизировать свою ИТ-инфраструктуру. Особенно остро этот вопрос стоит перед теми, чей бизнес не допускает приостановки на длительное время функционирования сервисов. Этому процессу обычно предшествуют разработка стратегии развития инфраструктуры, которая предусматривает возможность поэтапного расширения в будущем. Подобную задачу сумела решить компания «Воля». Она успешно провела несколько этапов модернизации аппаратной и программной составляющей своей биллинговой системы, обеспечивающей обслуживание абонентов аналогового и цифрового телевидения, а также пользователей интернета.


Архитектура решения
Архитектура решения

Предпосылки внедрения

В 2002 году кабельный оператор «Воля», оценив перспективность рынка, начал развивать широкополосный доступ в интернет, основываясь на собственных уникальных для Украины технологиях. На сегодняшний день «Воля» — единственный оператор на территории Европы, который предоставляет широкополосный доступ в интернет по протоколу DOCSIS 2.0. (большинство операторов до сих пор используют DOCSIS 1.0.). Кроме того, планировалось предоставление и услуги цифрового кабельного телевидения. Таким образом, с учетом аналогового ТВ количество услуг расширялось уже до трех, при этом каждая из них имела свои особенности тарификации, учета и контроля.

Руководство оператора сформулировало перечень требований к новой ИT-инфраструктуре. В первую очередь необходимо было создать единую биллинговую систему, которая обслуживала бы всех абонентов столицы. Компания изначально ориентировалась на дальнейшее расширения спектра услуг, поэтому на этапе проектирования сформулировали требования к программным и аппаратным средствам с учетом роста абонентской базы (сегодня она ежегодно увеличивается более чем на 100 тыс.) и количества предоставляемых сервисов.

Начало реализации

Поскольку возможности расширения старой системы, основанной на технологии «толстых клиентов», были исчерпаны, «Воля» решила развивать веб-ориентированную архитектуру и технологию «тонких клиентов». Создание ядра новой биллинговой системы, которая должна была автоматизировать процессы учета и обслуживания абонентов цифровых услуг, поручили одному из лучших отечественных разработчиков программного обеспечения — компании Softline. Из технологий выбор пал на Java и СУБД Oracle.

При построении той или иной вычислительной системы перед разработчиками возникает проблема выбора программного и аппаратного обеспечения, которое будет наиболее эффективно реализовывать задачи проекта. В зависимости от задач проекта необходимо определить важнейшие требования к системе, а именно:

масштабируемость (эффективность наращивания вычислительных мощностей);
надежность (отказоустойчивость);
производительность (способность решать больше задач за единицу времени);
управляемость (способность управляться с наименьшими затратами);
интегрируемость (возможность обслуживать программные приложения различных конфигураций);
техническая поддержка (возможность сервисного обслуживания системы со стороны поставщика оборудования и программного обеспечения).

ИТ-директор компании «Воля» Дмитрий Литвин прокомментировал процесс выбора базового оборудования и системного ПО на начальном этапе проекта следующим образом: «Прогноз роста количества абонентов обусловил жесткие требования к производительности и расширяемости системы биллинга. Эксперты нашей компании проанализировали применимость различных аппаратных платформ и сформулировали общее видение аппаратного комплекса. Для принятия окончательного решения был заказан независимый экспертный анализ аппаратной составляющей проекта, заключение которого полностью совпало с мнением наших специалистов об убедительной экономической и технической целесообразности построения серверной части системы на основе RISC-процессоров, чипсетов Sun Microsystems и системного ПО Sun Solaris. И несмотря на более высокие первоначальные капитальные затраты, мы сознательно пошли на них, понимая всю ответственность перед нашими абонентами за качество обслуживания».

К концу 2003 года биллинг-услуги доступа в интернет был полностью реализованы на новой архитектуре, а в начале 2004-го в этой же системе был запущен биллинг цифрового кабельного телевидения.

Развитие системы


Дмитрий Литвин
Дмитрий Литвин
В 2005 году ожидалось существенное увеличение вычислительной нагрузки на аппаратную составляющую биллинговой системы ввиду стремительного роста количества абонентов интернета, увеличения потребляемого ими трафика. Кроме того, компания планировала внедрить новый принцип построения тарифных планов и запуск таких функциональных модулей биллинговой системы, как тарификация on-line и персональный сайт абонента. Поэтому для обеспечения беспрерывности предоставления сервисов и обслуживания абонентов в конце 2004 года ИТ-специалисты «Воли», помимо существенного рефакторинга базы данных и оптимизации программной составляющей, также модернизировали аппаратные мощности системы, установив серверы Sun Microsystems, построенные на SPARC-архитектуре.

Следующим этапом развития проекта в 2007 году стало объединение новой и старой биллинговых систем для учета абонентов всех предоставляемых услуг, в том числе кабельного телевидения в аналоговом формате. Специалисты компании «Воля» на основании согласованного с корпорациями «Инком» и Sun Microsystems проекта в мае модернизировали аппаратную платформу, проведя миграцию продуктивной системы на новое, более производительное оборудование.

Особенности аппаратного обеспечения

В качестве аппаратной платформы для application-серверов компания «Воля» использует серверы Sun Fire V240. «Данный сервер демонстрирует высокий уровень производительности, удачно интегрируется в трехуровневую архитектуру информационных систем, удовлетворяет требованиям сетевой инфраструктуры в области маршрутизации трафика, работы сетевых служб и аутентификации пользователей», — говорит системный инженер компании Sun Microsystems Владимир Овчинников. В процессе построении аппаратной архитектуры компании могут сократить объем начальных инвестиций, выбрав конфигурацию с минимально необходимым количеством компонентов. При этом дальнейшее увеличение вычислительной мощности требует минимум времени простоя сервисов.

Для организации работы системы биллинга жизненно важно свести к минимуму отказы обслуживания на этапе авторизации пользователя. По словам г-на Овчинникова, серверы, построенные на SPARC-архитектуре, лучше других справляются с динамически изменяющейся нагрузкой и способны сохранять необходимый уровень обслуживания пользовательских запросов при их приближении к пиковому значению. В то же время для серверов стандартной архитектуры характерно увеличение времени реакции системы при росте количества обращений вплоть до отказа в обслуживании при достижении максимальных показателей. Сервер Sun V240, построенный на архитектуре UltraSPARC III, специально рассчитан на нагрузки такого рода, и в совокупности с операционной системой Solaris позволяет поддерживать на должном уровне производительность благодаря встроенным механизмам адаптации к работе в условиях пиковой нагрузки. К тому же сравнительно невысокая стоимость серверов Sun V240 дает возможность увеличивать вычислительную мощность по горизонтальной схеме, путем добавления новых серверов.

Компании, в которых запущены телекоммуникационные биллинговые системы, используют, как правило, одну централизованную базу данных. Для повышения производительности серверов, обслуживающих такие СУБД, применяется преимущественно вертикальное масштабирование, которое подразумевает добавление или модернизацию компонентов сервера. Этим требованиям, по мнению компании «Воля», соответствует Sun Fire V890 с процессорами UltraSPARC IV+, используемый сейчас в качестве сервера базы данных. Архитектура Sun Fire V890 предусматривает размещение модулей оперативной памяти на процессорной плате, что позволяет увеличивать вычислительный ресурс одновременно с расширением объема ОЗУ.

По словам экспертов компании Sun Microsystems, серверы Sun Fire V890 хорошо зарекомендовали себя именно в задачах, связанных с использованием СУБД Oracle. Благодаря тесному сотрудничеству Sun Microsystems и Oracle совместное применение ОС Solaris и СУБД Oracle выгодно с точки зрения производительности системы. Solaris предоставляет широкий набор настроек на уровне ядра операционной системы, которые помогают добиться наибольшего быстродействия в приложениях с различными профилями нагрузки. Все версии Solaris бинарно совместимы, что способствует простой миграции приложений и данных при выходе нового релиза ОС. В большинстве случаев все программы, которые работали на предыдущей версии операционной системы, работают и на следующей. Отличие СУБД Oracle состоит в том, что для каждой новой версии СУБД выполняется процедура ее сертификации для популярных операционных систем и в первую очередь для Solaris.

Отказоустойчивость

Функционирование биллинговой системы в компании «Воля», представляющей собой распределенное решение, обеспечивают несколько серверов. Некоторые нетребовательные к ресурсам приложения запущены на одном физическом сервере, а для критичных сервисов выделены отдельные машины. Нагрузка на систему распределена равномерно — ряд ресурсоемких задач, к примеру построение сложных аналитических отчетов, выполняются ночью, в часы наименьшей нагрузки.

При проектировании архитектуры системы повышенное внимание было уделено непрерывности процессов. Для защиты от различных видов аварий компания использует несколько стратегий. Аппаратная составляющая биллинговой системы расположена на двух территориально удаленных площадках, построенных с выполнением всех требований к отказоустойчивости систем питания и охлаждения. В случае отказа любого из серверов продуктивной системы нагрузка переносится на резервную систему. Резервирование системы на уровне базы данных выполняется средствами Oracle Data Guard. Для критичных составляющих базы данных используется еще и традиционное резервирование (backup). Отказоустойчивость системы в целом обеспечивается благодаря высокой степени дублирования критичных компонентов и наличию резервного узла, который может быть активирован в течение нескольких минут. Сервер базы данных также имеет полностью резервированную архитектуру: продублированы все элементы дискового массива (контроллеры, интерфейсные элементы, системы электропитания и охлаждения).

Перспективы развития проекта

По мнению - на Литвина, дальнейшие развитие бизнеса «Воли» может потребовать использования еще более производительных систем. Компания «Воля» предполагает к концу 2008 года обслуживать около 400 тыс. абонентов цифрового телевидения и 280 тыс. — услуги доступа к интернету. Требования к аппаратной составляющей биллинговой системы существенно изменяются в зависимости от выбираемых стратегий развития как самой компании, так и предоставляемых ею сервисов. Основным критерием при определении необходимости наращивания аппаратных мощностей будет стремление компании обеспечить стопроцентную доступность всех услуг и сервисов для абонентов.

Для обслуживания крупных баз данных — схожих с теми, которые используются в компании «Воля», Sun Microsystems разрабатывает серверы нового поколения на основе традиционной SPARC-архитектуры. Эти новинки будут способны справиться с растущим уровнем нагрузки. Благодаря архитектуре SPARC и совместимости на уровне программного кода, которая лежит в основе нового поколения серверов, для системы биллинга при необходимости будет обеспечена простая миграция приложений без их перекомпиляции и проведения дополнительных настроек.

Для серверов приложений Sun Microsystems разработала серверы на основе процессоров Ultra SPARC Т2, известных также под названием Niagara II. В них применяется многопотоковая архитектура, которая предполагает реализацию на одном кристалле до 64 аппаратных вычислительных потоков, позволяющих обрабатывать в параллельном режиме большое количество пользовательских запросов. Кроме того, на том же кристалле интегрированы контроллер оперативной памяти, 8 модулей криптования, два 10-гигабитных Ethernet-интерфейса и контроллер PCI Express. Размещение на одном кристалле подсистемы ввода-вывода, процессорных ядер и контроллеров памяти позволяет организовать между ними высокоскоростное взаимодействие, а уменьшение количества компонентов снижает вероятность выхода системы из строя.

Выводы

Успешно спланированная стратегия развития ИТ-инфраструктуры, которая изначально предусматривала поэтапное расширение возможностей системы, позволила компании «Воля» эффективно оптимизировать функционирование биллинговой системы с ростом абонентской базы и запуском новых сервисов. Оборудование Sun Microsystems, которое было выбрано в качестве аппаратной платформы, показало себя с лучшей стороны как наиболее эффективное решение, соответствующее растущим бизнес-потребностям компании.