Meta planea una expansión masiva de inteligencia artificial con 1,3 millones de GPU y un centro de datos de récord

La carrera por la supremacía de la IA se está intensificando y Meta está tomando medidas audaces para mantenerse a la vanguardia. El director ejecutivo, Mark Zuckerberg, anunció que la compañía planea terminar 2024 con más de 1,3 millones de GPU, más del doble de su stock actual de GPU empresariales. Esta expansión tiene como objetivo acelerar el desarrollo de las capacidades de IA de Meta, incluido el próximo modelo Llama 4, que rivalizará con ChatGPT de OpenAI y Gemini de Google.

Crédito de la imagen: David Paul Morris | Bloomberg vía Getty Images

Los ambiciosos objetivos de Meta incluyen proporcionar asistentes de inteligencia artificial a más de mil millones de usuarios y crear un "ingeniero de inteligencia artificial" capaz de contribuir directamente a los esfuerzos de investigación y desarrollo. Para apoyar estas iniciativas, Zuckerberg reveló planes para construir un enorme centro de datos capaz de albergar 1 gigavatio de potencia informática para finales de año, con una capacidad final superior a los 2 gigavatios, una escala sin precedentes en la computación con inteligencia artificial. Se espera que la instalación abarque un área comparable a una parte importante de Manhattan y sea parte de una inversión de capital de 65 mil millones de dólares en 2025.

Esta medida se produce en medio de una feroz competencia. La supercomputadora de IA de Elon Musk con sede en Memphis apunta a un millón de GPU, mientras que el Proyecto Stargate de Sam Altman, de 500 mil millones de dólares, tiene como objetivo construir centros de datos dedicados a la IA en los EE. UU. Microsoft también ha comprometido 80 mil millones de dólares para infraestructura habilitada para IA, incluida la reanudación de una instalación nuclear para satisfacer las demandas de energía.

A medida que los requisitos de energía para los centros de datos de IA se disparan (algunas proyecciones alcanzan los 5 gigavatios), la carrera informática de IA no muestra signos de desaceleración. Las inversiones de Meta ponen de relieve su compromiso de liderar la próxima generación de innovación tecnológica.

Llama, o Large Language Model Meta AI, es una serie de modelos de lenguaje autorregresivos desarrollados por Meta AI, que se lanzaron por primera vez en febrero de 2023. El modelo Llama inicial solo estaba disponible como modelo base, con ponderaciones restringidas a organizaciones académicas y de investigación bajo una licencia no comercial. A pesar del acceso estricto, las ponderaciones del modelo se filtraron en línea poco después de su lanzamiento, lo que generó debates sobre la accesibilidad y el uso indebido en el desarrollo de IA.

Llama 2, presentada en julio de 2023, marcó un punto de inflexión al incluir modelos optimizados para el chat y ampliar sus licencias para permitir ciertos usos comerciales. También mejoró el rendimiento al entrenarse con un 40% más de datos que su predecesor. En agosto de 2023, Meta lanzó Code Llama, una variante diseñada específicamente para tareas de codificación, lo que demuestra la versatilidad de la plataforma.

Llama 3, presentada en abril de 2024, amplió los límites aún más con capacidades multilingües y multimodales, razonamiento mejorado y ventanas de contexto extendidas. Su modelo más grande, con 70 mil millones de parámetros, fue entrenado previamente en 15 billones de tokens, superando a competidores como Gemini Pro 1.5 en puntos de referencia clave. Para julio de 2024, Llama 3.1 presentó una versión innovadora de 405 mil millones de parámetros, consolidando aún más la posición de Meta en el panorama de la IA.

A lo largo de sus iteraciones, Llama ha impulsado avances en los asistentes virtuales y herramientas de codificación de Meta, al tiempo que impulsa la innovación en sistemas de IA multilingües y multimodales.