Inteligencia de datos generativa

Los centros de datos de Fintech se enfrentan a una “paradoja energética” de GenAI

Fecha:

Los centros de datos hacen girar el mundo. Estos edificios albergan los servidores que almacenan y calculan cada función digital que llevan a cabo nuestras sociedades. La “nube” se basa en gran medida en bastidores de computadoras apiñadas entre sí, que a su vez dependen de la energía, los sistemas de refrigeración y la conectividad, que abarca toda la gama desde interruptores y cables hasta cables submarinos y transmisiones por satélite.

La inteligencia artificial generativa está aumentando la demanda de centros de datos, pero también crea un gran desafío. Los modelos de lenguaje grande como ChatGPT dependen de las unidades de procesamiento gráfico de Nvidia para entrenar modelos de IA, y estos chips son bestias insaciables y hambrientas de energía.

"La IA generativa no se trata solo de agregar más bastidores", dijo Steven Lee, director de Schneider Electric, especialista en automatización digital y gestión de energía, quien habló en una conferencia reciente. "Está cambiando el paradigma de los centros de datos".

De las finanzas a las fintech

Los centros de datos son la columna vertebral poco glamorosa de la tecnología financiera y las finanzas. Los ecosistemas más grandes se encuentran en Estados Unidos (el norte de Virginia y Portland, Oregón), pero también lo están Singapur y Hong Kong, gracias a su papel como centros financieros globales.

Las instituciones financieras han sido los mayores clientes de los centros de datos en estos centros asiáticos, junto con las empresas de telecomunicaciones.

Sin embargo, esa situación está cambiando ahora, a medida que surgen nuevos clientes que compiten por bastidores y recursos. La industria no puede construir suficientes centros de datos con la suficiente rapidez.

La ola de IA ya está afectando a Estados Unidos y se extenderá a los centros de datos de Asia en los próximos dos años, dice Andrew Green de JLL, una consultora de propiedad comercial.

El nuevo conjunto de grandes actores son los hiperescaladores, un término que incluye a los grandes proveedores de nube y empresas de Internet como AWS, Meta o TikTok. Su hambre de informática está obligando a los centros de datos a ser más grandes, más flexibles y más personalizados.

Se requieren nuevos centros de datos

Esto está cambiando los requisitos de diseño de los centros de datos. Los bancos y las aseguradoras se han contentado con los tradicionales centros de datos de coubicación, que son más baratos porque ofrecen una infraestructura estandarizada. Se requiere hiperescala para trabajos de procesamiento intensivo y un conjunto más amplio de aplicaciones, incluido contenido digital, redes sociales, transmisión de video, comercio electrónico, criptomonedas y pagos móviles.

Y ahora agreguemos genAI a la lista, que realmente es leña para el fuego. Lee dice que una consulta ChatGPT consume 10 veces más energía que una búsqueda en Google. ¡Diez veces!



Esto se suma a un cambio más amplio hacia la digitalización en todo el mundo, con el Covid como un importante acelerador a medida que el trabajo y la vida se volvieron remotos. Un ejemplo: el número de usuarios diarios de Microsoft Teams pasó de 20 millones en 2019 a 300 millones en 2023, dice Damon Lim de datacenterHawk, una firma de investigación inmobiliaria centrada en centros de datos.

Para 2030, habrá 7.5 millones de personas utilizando Internet, o alrededor del 90 por ciento de la población mundial. Esa demanda es la razón por la que probablemente habrá más de 1,000 centros de datos de hiperescala en funcionamiento para finales de este año.

¿Paradoja o juego de poder?

El resultado es que el consumo de energía de los centros de datos se cuadruplicará de aquí a 2028, afirma Lee. "Ésta es la paradoja energética del enorme consumo", afirmó. 

Pero no hay nada paradójico en esto: a medida que la sociedad se digitaliza, descubre que los costos de energía para alimentar esa tendencia aumentan exponencialmente, por lo que los centros de datos "verdes" son vitales. Y la tendencia es global. Por ejemplo, el uso de IA representa ahora alrededor del 8 por ciento del consumo de centros de datos en el Sudeste Asiático. Se prevé que esa cifra se duplique con creces para 2028.

La tendencia también se está extendiendo, lo que dificulta su sostenibilidad. Si se tratara sólo de centros de datos, el enfoque ecológico podría centrarse en las nuevas construcciones o en la renovación de los edificios existentes. De hecho, hoy en día casi todas las cargas de trabajo relacionadas con la IA se almacenan y calculan de forma centralizada en centros de datos. Pero cada vez más estas tareas se realizan en el "borde", distribuyéndolas cerca de la fuente de datos (como edificios o máquinas, o quizás su teléfono). Ponga la IA en la cima y el requerimiento de energía seguirá creciendo y extendiéndose.

Los desarrolladores de centros de datos están respondiendo, en teoría, haciendo que los racks de servidores sean más eficientes energéticamente, cambiando los medios de enfriamiento de las computadoras (un desafío particular para los centros de datos en ubicaciones tropicales y cálidas) y conectándose a fuentes de electricidad que dependen más de las energías renovables. .

Lo que suena bien sobre el papel es difícil y costoso de realizar. Los centros de datos no han sido diseñados teniendo en cuenta estas necesidades.

Rosanna Tang, investigadora de Cushman & Wakefield, una consultora inmobiliaria, señala que en Hong Kong, el 44 por ciento de los centros de datos están ubicados en antiguos edificios industriales.

Estos centros no pueden manejar procesamiento pesado. Es posible que solo puedan consumir de 10 a 15 kilovatios por rack para satisfacer una necesidad informática, mientras que las necesidades de los hiperescaladores suelen consumir 40 kw/rack, y algunos necesitan hasta 100 kw/rack.

"Necesitará una infraestructura dedicada para proporcionar ese nivel de soporte de refrigeración y energía", dijo Patrick McCreary de Yondr Group, un operador y desarrollador de hiperescala.

El caso especial de Hong Kong

En Hong Kong, eso significa construir más centros en nuevas áreas. La mayoría de los centros de datos de la ciudad están en Kowloon, especialmente alrededor de un centro en Tseung Kwan O. Pero la promesa del Gran Área de la Bahía y la integración con las ciudades continentales vecinas significa que la nueva generación de centros de datos se construirá a lo largo de la frontera de Shenzhen, en lo que el gobierno local la denomina "Metrópoli del Norte".

Los centros de datos son especialmente problemáticos en Hong Kong debido a la falta de terrenos disponibles y a alquileres extraordinarios, combinados con regulaciones estrictas sobre proyectos de construcción. Green, de JLL, predice que a medida que más centros de datos entren en funcionamiento, los hiperescaladores devorarán cualquier nueva capacidad.

Dice que los acuerdos transfronterizos de intercambio de datos impulsarán una nueva demanda en Singapur y Hong Kong. En el caso de Singapur, el gobierno ha implementado algunas reglas de intercambio de datos con Johor Bahru en Malasia, el vecino país. Pero la mayor conmoción será la del Gran Área de la Bahía. Green señala que las autoridades de Hong Kong y del continente han acordado un mecanismo para compartir datos de privacidad.

"Sin esto, no podría haber un GBA", dijo Green. "Esto es un punto de inflexión". Esto facilitará que las empresas del continente utilicen Hong Kong como trampolín para globalizar sus negocios, en cualquier industria.

Ahora la industria de los centros de datos desarrollará una amplia capacidad para satisfacer la demanda relacionada con GBA y la IA. La industria fintech será una de las beneficiarias (y un cliente importante). Pero, ¿se diseñarán estos nuevos sitios para maximizar la eficiencia eléctrica y descarbonizar? El historial hasta ahora no es alentador y los costos iniciales de volverse ecológico son relativamente altos. La industria de los centros de datos, cada vez más construida para la genAI, podría sobrecargar el desastre climático tanto como lo hace con la economía digital.

punto_img

Información más reciente

punto_img

Habla con nosotros!

¡Hola! ¿Le puedo ayudar en algo?