Системы водяного охлаждения для ЦОД: виды, преимущества и критерии выбора

Кирилл Дмитриев, менеджер по продукции (ИT-охлаждение), Rittal

 

Современные центры обработки данных часто приходится создавать в ограниченном пространстве, поэтому важно грамотно спроектировать инженерную инфраструктуру и обеспечить ее системой охлаждения и вентиляции. Как ни парадоксально, выработка холода системой охлаждения – сложный процесс, в котором многое зависит от технологических особенностей. Какие условия эксплуатации и критерии выбора необходимо учитывать, чтобы оборудовать объект оптимальной системой?

Любая система, работающая на фреоне или на охлажденной воде, состоит из генератора и доводчика холода. В настоящее время все чаще в качестве хладагента вместо воздуха используют жидкость, что позволяет существенно сэкономить энергию, место под магистрали и повысить эффективность работы системы.

 От воздушных систем охлаждения к водяным

 

Задача системы бытового назначения или промышленного холодильного центра – производство холода. Способов его получения достаточно много: начиная от термоэлектрических процессов и заканчивая тепловыми насосами, использующими энергию грунта или водоемов. Самыми распространенными остаются воздухоохлаждаемые парокомпрессионные холодильные агрегаты – стандартные холодильные агрегаты, функционирующие по циклу Карно. Основополагающим в них является изменение агрегатного состояния вещества – хладагента. Принцип цикла представлен на рис. 1.

Рис. 1. Принцип цикла Карно

В качестве хладонов в настоящее время используются различные марки фреонов, которые относятся к семейству инертных углеводородных газов. Востребованы они благодаря своим физико-химическим свойствам, а именно – низкой температуре кипения.

 

Структура холодильного контура одинакова для любой холодильной машины: испаритель, в котором фреон преобразуется из жидкого в газообразное состояние, компрессор, где происходят сжатие и перегрев газа, конденсатор, где газ превращается в жидкость, и электронно-расширительный вентиль, резко снижающий давление жидкости и тем самым переохлаждающий ее. Расположение основных компонентов приведено на рис. 2.

 

Рис. 2. Структура холодильного контура

Система охлаждения состоит из генератора холода, магистралей и доводчика. При этом не имеет значения, какие системы имеются в виду: работающие только на фреоне, например бытовые сплит-системы, или системы промышленного холодоснабжения, функционирующие на охлажденной воде, поступающей от чиллера. В таком случае фреоновый контур передает холод не сразу воздуху, а воде или водному раствору антифриза, который поступает к оконечному устройству, т. е. кондиционеру. Вода обладает высокой теплоемкостью, поэтому она вытеснила воздушные системы охлаждения. Так, для обеспечения одной и той же холодопроизводительности потребуется во много раз больший объемный расход воздуха, чем воды. Например, чтобы обеспечить нагрузку в 100 кВт потребовалось бы 24 368 м3/ч воздуха при разнице температур 12 С0, а воды 17,2 м3/ч при разнице температур всего 5 С0. То есть для такого расхода воздуха нам потребовался бы воздуховод с площадью поперечного сечения 1,2–1,7 м2, а для воды достаточно трубы диаметром всего 65 мм – разница очевидна.

 

Преимущества системы

 

Любое строящееся здание не может функционировать без систем микроклимата, вне зависимости от того, для чего предназначены его помещения. Основное преимущество жидкостных систем – универсальность. Если нужна централизованная система кондиционирования, устанавливается чиллер, и все здание обеспечивается холодом. Для решения задачи локального охлаждения подходит фреоновая сплит-система. Существует риск утечки из водяной системы, что может привести к пагубным последствиям. В этом случае можно применить фреоновые системы, так как хладагент превращается в бесцветный нетоксичный газ. Главное, что эти системы могут использоваться практически в любой сфере деятельности, будь то бытовые, административные, производственные или специализированные помещения. По сути, каждый из нас ежедневно взаимодействует с холодильником, который представляет собой холодильную машину в миниатюре.

 

Популярность систем жидкостного охлаждения объясняется компактностью, легкостью как качественного, так и количественного регулирования холодопроизводительности. Наиболее высоким спросом пользуются фреоновые системы, поскольку для них характерна максимальная энергоэффективность при достаточно компактных габаритах. Большинство производителей климатического оборудования делают упор именно на эти системы. И хотя физические основы процессов остаются неизменными, значительные ресурсы привлекаются к разработке и внедрению инновационных технологий. Например, сегодня с трудом можно себе представить систему холодоснабжения с применением стандартного on/off-компрессора, на смену им пришли инверторные компрессоры с частотным регулированием. Такие агрегаты позволяют не только продлить срок службы устройства и снизить потребление энергии благодаря отсутствию пусковых токов, но и более глубоко регулировать холодопроизводительность в зависимости от фактической нагрузки.

Модернизируется и вторичное оборудование: применяются современные насосы и электронно-коммутируемые вентиляторы. Все эти устройства работают по схожему с инверторным компрессором принципу адаптации производительности с помощью модуляции напряжения. Так, в межрядных кондиционерах Liquid Cooling Package (LCP) и встраиваемых в стойку сплит-системах Liquid Cooling Unit (LCU) используются электронно-коммутируемые (ЕС) вентиляторы, которые позволяют плавно изменять расход воздуха в диапазоне 10…100% от номинала, а инверторные компрессоры DX-версий поддерживают производительность 30…100% в зависимости от фактической нагрузки. Таким образом, путем комбинирования этих технологий можно достичь нужной глубины регулирования холодопроизводительности для удовлетворения потребности в холоде в конкретный момент.

 

В настоящее время разрабатываются и внедряются различные типы хладагентов – производители стали уделять внимание защите экологии. Несколько лет назад был широко распространен антифриз на базе этиленгликоля, который отличается высокой химической агрессивностью и токсичностью. На смену ему пришел пропиленгликоль, который применяется даже в пищевой промышленности. Разрабатываются и внедряются новые виды фреонов с более высокой степенью озонобезопасности: широко распространенный R-22 уступил место R-134, R-32, R-125, а также их смесям R-407C и R-410A, которые относятся к группе озонобезопасных хладонов.

 

Подходы к жидкостному охлаждению

Существует несколько подходов к организации охлаждения в ЦОД. Различаются они по уровню организации холодоснабжения: выбор способа зачастую зависит от удельной нагрузки на стойку, наличия свободной площади, удаленности генераторов холода от обслуживаемого помещения и иных менее значимых факторов.

Самый простой вариант для помещений с низким тепловыделением – ассимиляция теплоизбытков с помощью фонового кондиционирования. В этом случае стандартная система кондиционирования утилизирует теплопритоки всего объема помещения без их локализации. Это самый бюджетный, но и наименее надежный способ. Во-первых, приток охлажденного воздуха не организован, подается в помещение свободно, а дальше распределяется внутренними хаотичными потоками. Во-вторых, нет точного поддержания температуры в конкретной зоне. Стандартные системы кондиционирования не способны поддерживать температуру с той же точностью, что и специализированные. Таким образом, при подобном решении помещение охлаждается, защищается от перегрева, но параметры, при которых работает серверное оборудование, не контролируются.

Следующий вариант – решения на уровне отдельной стойки, к которым относятся встраиваемые системы охлаждения, например LCU от Rittal. Агрегаты предназначены для обслуживания низко- и средненагруженных отдельно или парно стоящих стоек. Такие системы из класса прецизионных кондиционеров с локальной организацией движения воздуха по стандартной схеме «спереди – назад». Кроме того, они обеспечивают возможность резервирования и ротации, что является неотъемлемым требованием надежности. Однако такое решение экономически оправдано только для небольшого количества стоек.

Для развитой инфраструктуры с большим количеством стоек и тепловыделением применяется решение на уровне помещения с использованием шкафных прецизионных кондиционеров. При такой системе охлажденный воздух подается из-под фальшпола в зону перед фронтальной 19” плоскостью, а нагретый воздух от задней плоскости забирается кондиционером через верхнюю зону. Для повышения эффективности рекомендуется организация отделения холодных/горячих коридоров, что позволяет избежать смешивания охлажденного и нагретого воздуха на верхней границе рядов. Среди недостатков такой системы можно отметить большую необходимую площадь для размещения кондиционеров и обязательное наличие фальшпола высотой от 500 мм.

Преимуществом схожего с предыдущим вариантом решения, предусматривающего применение межрядных кондиционеров, которые подают воздух перпендикулярно ряду либо вдоль него, организуя «холодную завесу» перед фронтальной плоскостью, является контроль температуры воздуха каждым агрегатом непосредственно в рабочей зоне. При этом температура подаваемого воздуха измеряется в трех точках по высоте кондиционера, что гарантирует ее равномерность по всей высоте ряда. Решение также рекомендуется использовать с отделениями коридоров.

Еще один тип решения – организация циркуляции воздуха внутри стойки с помощью межрядных кондиционеров, так называемое Rack-решение. Сегодня это самый мощный вариант охлаждения, позволяющий утилизировать до 50–55 кВт со стойки. Его преимущество заключается в организации замкнутого независимого контура «кондиционер –стойка», который не подвержен влияниям извне. Основной недостаток системы – чрезмерное увеличение количества внутренних холодильных агрегатов при резервировании. Это связано с ограничениями по внутреннему сопротивлению системы, т. е. количеству «продуваемых» стоек. Так, например, решение часто применяется при установке серверных стоек в офисных или неподготовленных для ЦОД помещениях. С его помощью можно создать замкнутую систему охлаждения, которая не требует воздуха из помещения, не подает воздух в помещение, не создает лишних воздушных потоков и при этом обеспечивает высокую холодильную мощность, поскольку работает непосредственно на сетевое оборудование.

 

Все перечисленные варианты могут быть реализованы как на охлажденной воде, так и на фреоне, но с определенными оговорками. В частности, фреоновые системы не позволяют размещать конденсаторные блоки намного выше или ниже испарителей, но требуют гораздо меньше места для размещения оборудования и магистрали. Системы на охлажденной воде, несмотря на свою громоздкость, предоставляют широкие возможности в сфере проектирования и отличаются более свободными рамками холодильной мощности. Представим ситуацию, когда ЦОД находится на первом или цокольном этаже, а наружное инженерное оборудование предполагается размещать на кровле на уровне 11-го этажа. В такой ситуации приходится отказаться от фреоновых решений в пользу охлажденной воды, поскольку они могут обеспечить перепад около 20 м, а в нашем случае это 11 × 3,5 = 38,5 м.

Рассмотрим другой пример: наружное оборудование размещается на одном уровне с внутренним, и выделено место только на стене здания либо маленькая площадь на земле. В этом случае рекомендуется рассмотреть фреоновые системы как более эффективные, компактные и простые в монтаже и обслуживании.

Жидкостное охлаждение для работающих серверов

При выборе поставщика оборудования и решения заказчики руководствуются возможностью модернизации и расширения систем. Из-за экспоненциального увеличения вычислительных мощностей и объемов электронных данных требуются все более мощные и совершенные системы охлаждения, которые можно адаптировать к фактической мощности оборудования. Применительно к решениям Rittal мы акцентировали внимание на модульности. Ранее это были системы кондиционирования с модулями теплообменников и вентиляторов, но такое решение не оправдало себя. Поэтому было отдано предпочтение единому теплообменнику, а мощность можно наращивать модулями вентиляторов. Преимущество решения в его высокой ремонтопригодности: вышедший из строя блок вентилятора можно заменить, не останавливая работу холодильного агрегата. Благодаря такому подходу можно обеспечить определенную степень резервирования на уровне агрегата.

Таким образом, при необходимости можно нарастить мощность установленных агрегатов путем добавления вентиляторных модулей. Если они установлены, система автоматически подстроится к изменившимся условиям эксплуатации.

Если рассматривать ЦОД, в котором не было системы охлаждения и возникла необходимость в ее установке, можно подобрать решение, которое органично впишется в структуру дата-центра. Это может быть решение на базе шкафных прецизионных кондиционеров или межрядных кондиционеров. При отсутствии свободного пространства для установки холодильных агрегатов предлагается решение для встраивания внутрь существующей стойки. Например, в стойку 42–47U с регулируемыми профилями без охлаждения шириной 800 мм и глубиной 1000+ мм можно встроить холодильный агрегат мощностью до 6,5 кВт, лишь сдвинув 19” плоскость в сторону. Можно применить такое решение даже с резервированием холодильных контуров. Таким образом, не меняя наполнения шкафа, можно встроить компактную и мощную систему охлаждения без использования дополнительной площади.

Перспективы систем охлаждения на российском рынке

В условиях экспоненциального увеличения объема потока данных и вычислительных мощностей оборудования системы охлаждения переживают пик популярности. Требования к агрегатам и конкуренция на рынке растут, поэтому не стоит принимать во внимание только уже разработанные решения, необходимо развивать существующую базу и внедрять новые продукты. Важно быть готовым пойти навстречу заказчику и, возможно, разработать уникальный агрегат, адаптированный под конкретный проект.

Предсказать, какое направление развития систем в ближайшем будущем окажется наиболее перспективным, трудно, однако, по моему мнению, это будет фреон. Очень многие заказчики боятся применения систем на воде из-за угрозы утечки. При формировании нашей продуктовой линейки мы несколько упустили указанное направление, но вовремя проанализировали ситуацию и сделали выводы. Поэтому компания предлагает фреоновые агрегаты до 20 кВт, а в 2018 г. планируем представить версию35 кВт.

Многие пытаются снизить бюджет проекта за счет упрощения вторичных систем, но охлаждение – жизненно необходимая подсистема для функционирования дата-центра наравне с электроснабжением. Экономия на этапе проектирования и возведения может дорого обойтись при дальнейшей эксплуатации. Единственно грамотное решение в данном случае – доверить разработку качественного и надежного решения специалистам с многолетним опытом.

Поделиться:
Спецпроект

Напряженный трафик или Современные требования к инфраструктуре ЦОД

Подробнее
Спецпроект

Специальный проект "Групповой спутниковый канал для территориально-распределенной сети связи"

Подробнее

Подпишитесь
на нашу рассылку