Meta planlægger massiv AI-udvidelse med 1,3 millioner GPU'er og rekordstort datacenter

Kapløbet om AI-overherredømmet intensiveres, og Meta tager modige skridt for at holde sig foran. CEO Mark Zuckerberg meddelte, at virksomheden planlægger at afslutte 2024 med over 1,3 millioner GPU'er - mere end det dobbelte af dets nuværende lager af GPU'er til virksomheder. Denne udvidelse har til formål at accelerere udviklingen af Metas AI-kapaciteter, herunder den kommende Llama 4-model, som vil konkurrere med OpenAIs ChatGPT og Googles Gemini.

Billedkredit: David Paul Morris | Bloomberg via Getty Images

Metas ambitiøse mål inkluderer at drive AI-assistenter til over en milliard brugere og skabe en "AI-ingeniør", der er i stand til at bidrage direkte til forsknings- og udviklingsindsatsen. For at støtte disse initiativer afslørede Zuckerberg planer om at bygge et massivt datacenter, der kan rumme 1 gigawatt computerkraft inden årets udgang, med en endelig kapacitet på over 2 gigawatt - en hidtil uset skala inden for AI computing. Anlægget forventes at spænde over et område, der kan sammenlignes med en betydelig del af Manhattan og vil være en del af en kapitalinvestering på 65 milliarder dollars i 2025.

Dette skridt kommer midt i hård konkurrence. Elon Musks Memphis-baserede AI-supercomputer er rettet mod 1 million GPU'er, mens Sam Altmans 500 milliarder dollars Project Stargate har til formål at bygge AI-dedikerede datacentre i USA. Microsoft har også forpligtet 80 milliarder dollars til AI-aktiveret infrastruktur, herunder genstart af et nuklear anlæg for at opfylde energibehov.

Efterhånden som strømkravene til AI-datacentre skyder i vejret, med nogle fremskrivninger, der når 5 gigawatt, viser AI-computerløbet ingen tegn på at bremse farten. Metas investeringer fremhæver dets engagement i at lede den næste generation af teknologisk innovation.

Llama, eller Large Language Model Meta AI, er en række autoregressive sprogmodeller udviklet af Meta AI, første gang lanceret i februar 2023. Den oprindelige Llama-model var kun tilgængelig som en grundlæggende model, med vægte begrænset til akademiske og forskningsorganisationer under en ikke -kommerciel licens. På trods af streng adgang lækkede modellens vægte online kort efter dens udgivelse, hvilket udløste debatter om tilgængelighed og misbrug i AI-udvikling.

Llama 2, der blev introduceret i juli 2023, markerede et vendepunkt ved at inkludere finjusterede modeller til chat og udvide sin licens til at tillade visse kommercielle anvendelser. Det forbedrede også ydeevnen ved at træne på 40% mere data end sin forgænger. I august 2023 udgav Meta Code Llama, en variant specielt designet til kodningsopgaver, der demonstrerer platformens alsidighed.

Llama 3, der blev afsløret i april 2024, rykkede grænserne yderligere med flersprogede og multimodale muligheder, forbedret ræsonnement og udvidede kontekstvinduer. Dens største model, med 70 milliarder parametre, blev fortrænet på 15 billioner tokens, hvilket overgik konkurrenter som Gemini Pro 1.5 på vigtige benchmarks. I juli 2024 introducerede Llama 3.1 en banebrydende version med 405 milliarder parametre, der yderligere etablerede Metas position i AI-landskabet.

Gennem sine iterationer har Llama drevet fremskridt inden for Metas virtuelle assistenter og kodningsværktøjer, mens de driver innovation i flersprogede og multimodale AI-systemer.