Kunstig intelligens med superkræfter

(Opdateret) Mens verden enten reagerer fascineret eller skræmt af de nye systemer til kunstig intelligens (AI), fortsætter udviklingen af stadig stærkere computere til formålet.

Helt i centrum står det amerikanske firma NVIDIA i Californien, der ellers er mest kendt for at producere grafikchips og grafikkort til spil-pc’er,

NVIDIA har imidlertid også udviklet særlige AI-chips, og de fik for nylig NVIDIA aktien til at stige med raketfart.

Med alle historier om OpenAI, chatGPT og kapløbet mellem Microsoft og Google om herredømmet i AI fik investorerne for alvor smag på NVIDIA aktierne.

I dag nåede NVIDIA så en markeds-værdi på over en billion dollar eller 7.500.000.000.000 kroner.

Dermed kom NVIDIA i klasse med kun otte andre selskaber i verden – blandt dem tech-giganter som Apple, Microsoft, Amazon, Meta og Alphabet med Google.

Sulten stilner næppe, efter at NVIDIA har annonceret, at man bygger verdens største computer til kunstig intelligens. NVIDIA DGX GH200 hedder den.

NVIDIA er ikke ny blandt den lille elite af fabrikanter, der kan bygge de såkaldte supercomputere. Taiwaneserne har flere modeller liggende i Top-20 af verdens hurtigste datamater, som f.eks. bruges til vejrforudsigelser, krigs-simulationer, olie-eftersøgning osv.

Den store forskel er, at NVIDIA DGX GH200 er specialiseret til at skrive og oplære den næste generation af AI-modeller.

Nogle vil sikkert også mene, at den type nye AI-modeller vil sørge for, at mange af os bliver arbejdsløse.

Indendørs i en NVIDIA supercomputer sidder 256 styk super-processorer, der kan regne rasende hurtigt. En exaflop eller 1.000.000.000.000.000 flydende tals beregninger i sekundet.

De mange processorer deles om 144 terabyte (TB) delt hukommelse. Det er 500 gange mere end i den DGX A100 supercomputer, som NVIDIA præsenterede for tre år siden.

For at presse den sidste dråbe kræfter ud af hver GH200 superchip, består den af to dele. Den ene er en Grace processor (CPU) – den anden en Tensor Core grafikchop (GPU).

De kommunikerer syv gange hurtigere indbyrdes en den PCIe forbindelse, man kan finde i dyre pc’er i dag. Samtidig bruger NVIDIA’s løsning kun en femtedel så meget i strøm.

Alle chips er forbundet med hinanden via NVIDIA’s NVLink Switch System. Det kører så hurtigt, alle 256 processorer føles, som om de var én stor.

NVIDIA fortæller, at den nye supercomputere skal bruges til at lære afløserne for ChatGPT op. ChatGPT blev trænet af en supercomputer hos Microsoft, der rummer ti-tusinder af Nvidias tidligere A100 processorer.

Inden udgangen af 2023 vil NVIDIA stå klar med sin egen helt nye Helios supercomputer, som skal indeholde fire komplette DGX200 systemer – eller 1.024 GH200 superprocessorer.

Den skal så kunne yde i alt fire exaflops. Det er en helt utrolig regnekraft!

I øjeblikket står verdens stærkeste supercomputer i USA. Det er Hewlett-Packards DOE Frontier, der står på Oak Ridge Leadership Computing Facility i Tennessee. Den er en videreudvikling af Crays EX superdatamat.

Umiddelbart kunne det se ud, som NVIDIA’s nye Helios bliver fire gange hurtigere end HP’s Frontier. Men sådan kan man desværre ikke sammenligne. Det ville være som æbler og pærer.

NVIDIA benytter nemlig en mindre præcis hastigheds-måling end amerikanerne. Den kaldes FP8, mens USA bruger dobbelt-præcisions FP64.

Hvis Helios blev testet med FP64, ville dens ydelse falde til 36 petaflops eller 0.036 exaflops….