Optički moduli iza ai algoritmi: ubrzanje inteligentne interkonekcije u podatkovnim centrima

Optička kratka mreža AI podatkovnih mreža mreža

AI je eksplozivni rast - podstaknuo Nvidia GPU i veliki - modeli skale - pokrenuo je potražnju za velikom širokom mrežnoj propusnosti i ultra - niskoj latenci. Današnji klasteri AI trening djeluju poput "superračunala na steroidima", gdje hiljade GPU-a moraju razmjenjivati ​​masivne skupove podataka gotovo u stvarnom vremenu. Na primjer, NVIDIA je najnovijaBlackwell- Arhitektura Nvswitch može zgušiti1 pb / sGPU-a - do - GPU pojasev. Nalik najam, Nvidia je novo najavljenoNvlink kičmeTkanina povezuje GPU regale na900 GB / s po GPU-u.U praksi obuka model poput GPT-4 preko puta10,000 GPUSuključuje premještanje "ogromne količine podataka", pa čak i microsecond LAG-ovi u dodatnom vremenu treninga. Ova stvarnost znači da AI podatkovni centri moraju implementirati rezanje, a tkanine bez gubitaka i napredne topologije za izbjegavanje uskih grla.

Da biste poslužili AI Worload, mreže podataka se oslanjaju na aDebelo - Drvo / kralježnica - lisna arhitekturasa visokim linkovima širina širina širina. -. Moderne AI tkanine međusobno povezivanjeStotine ili hiljade akceleratora (XPUS)u 100g, 400g, 800g, a prekovremeno prekrivene hijerarhije neće ga preseći: Arista, ultra - klasteri (desetine hiljada GPU-a) trebaju skala {- blokirati, nizak - latenty transport.Nvidia nvlink / nvswitchOmogućuje punu širinu širine GPU-a - u - GPU komunikaciju, ali klastera - široka agregacija i dalje koristi Ethernet ili Infinibandu. Infiniband NDR (400 GB / S po portu) i Roce / 400G Ethernet zajednički su za klasteriranje AI; 400g po lučki prekidači i NIC-ovi su sada sveprisutni. Ukratko, AI umrežavanje mjeri prilagođene GPU tkanine i visoko - brzine IP / IB tkanine za podršku uska učvršćenoj GPU sinkronizaciji.

Visoko - Brzina optička povezanost: 400g / 800g modula

Da biste realizirali ove tkanine, AI podatkovni centri su opremanje prekidača i serveri sa rezom - edge optičkim modulima.400g i 800g primopredajnikasu sada norma. Dva glavna forma - faktori dominiraju:Qsfp-dd(Quad mali oblik - faktor dodatna dvostruka - gustoća) iOSFP(Oktal SFP). Obje podršku 8 traka od 100 g (za 800g) ili 4 trake (za 400g), ali se razlikuju po veličini i hlađenja. QSFP-DD moduli su kompaktniji (18,35 × 8,5 × 89,4 mm) i nazad - kompatibilan sa QSFP28 infrastrukturom, dok OSFP (≈22,58 × 13,0 × 107,8 mm) može podnijeti veću snagu i toplinu (do ~ 15W vs. ~ 12W za QSFP-dd). To je ekstra termoelektrana za 800g Linkovi i InfiniBand NDR okruženje.Both tipovi mogu se rasporediti u visokim ({21}} gustoćim preklopnim linijama (npr. . 36 × 800g po 1u) koristeći nisku snagu -LPO (linearna - pasivna optika)ili co - pakovani rešenja.

AI klasteri koriste vrlo visoku optiku gustoće -. Na primjer,QSFP-DD VS OSFPPrimopredajnici su mehanički slični u dužini, ali OSFP je širi i deblji, koji podržava veću energiju.Proizvođači broda 400g / 800gQSFP-DD i OSFP dodaciza GPU i Ethernet. Također se pojavljuju 800G CFP8 i budući QSFP-112 moduli (8 × 100g) kao alternative. Iza modula suOptička vlakna i kabliranje: Visok - grof MPO / MTP kablovi za patch most susedni QSFP / OSFP portovi, omogućavajući paralelne veze (npr. . 8- vlaknasto mpu za 400g DR4 ili 16-vlakna za 800g).

Aktivni optički kablovi (AOCS) Integrirajte ove primopredajne kablove ({0}} dužine vlakana (korisno za intra {{{- vezu do ~ 100m), dok direktni pričvršćuju bakrene (DAC) kabele navlake, intra - stalak (obično)<3–5 m) because of signal loss constraints. For instance, Wolon's proizvodNudi DACS do ~ 2,5 m i AOC-a od 3 m-100 m.Multimode 400g / 800g optike dosega ~ 100 m, a singl - verzije režima raspon kilometrima, omogućavajući i regalu - međusobno povezivanje.

Optički kablovi i konektori

Moderni AI podatkovni centri koristeMPO / MTP vlaknasti konektoriza paralelnu optiku za maksimiziranje gustoće. Visoko - kablovi gustoće (12-, 24- ili 48-vlakno MPO sklopovi) ventilator u LC dupleks vlakna na patch panelima, povezujući prekidače za servere ili među kralježnicima. MPO Fanouts dopušta jedan 800g modul (SR8 / DR8) da koristi jedan MPO adapter umjesto 8 LC konektora, ušteda prostora. Aktivni vlaknasti kablovi (AOCS) često koriste ove iste konektore na svakom kraju, ali ih pakete kao kabel s integriranim primopredajnicima 400g / 800g.Pasivni dacs, prema kontrastu, direktno koristite bakrenu žicu i SFP / QSFP konektore.
Najvišiji brzina ({0}} trka u AI tkaninama koriste vlakno. Ovdje prikazano je anMPO vlakno kabel({10}} Fiber MPO konektori na oba kraja) za multimode OM3. Slični OM4 / OS2 MPO kablovi podržavaju udaljenosti do 150 m (MMF) ili 10+ KM (SMF) sa malim gubitkom. AI klasteri koriste ove kablove intenzivno za svoju skalabilnost i nizak obrazac. MTP / MPO patch paneli i nosači kabela plete zajedno listove i kralježni preklopni sa 400g / 800g veza, tvoreći mrežicu koja ne blokira.

AI umrežavanje topologije i tehnologije

Tehnička logika AI tkanine unosi ove optičke trendove. Dizajn, moderni AI klasteri koristeList - kralježnice (Clos) mrežeza istočno - zapadni GPU promet. Svaki prekidač lista povezuje se sa svakom kralježnicom sa visokom optikom brzine -, osiguravajući da nijedan put nije zagušen. Arista Ai {{{{. 7800 R4 šasije, 7700R4 Distribuirani prekidači) Navedite linijske kartice sa desetak od 800g OSFP / QSFP - dd portova i naprednim opterećenjima. Kako se Arista objašnjava, ovaj stan, ne {- blokiranje dizajna "eliminira potrebu za tradicionalnim balansiranjem opterećenja" u AI klasterima.

Na stranu Etherneta, specijalizovani međusobno povesti. Nvidia'sNvlink / nvswitchDjeluje unutar servera i šasija kako bi svi GPU-a zadržali u kutiji potpuno mrežirani. S druge strane,Infiniband(Sada je dio NVIDIA) ostaje popularan u nekom na - Prem HPC / AI raspoređivanje: Nvidia's Quantum - 2 prekidač za tkanine nudi 64 × 400 GB / S IB portova po 1u, rukovanje RDMA prometom na 400g stopa. U mnogim slučajevima, klasteri AI miješaju ove: unutar svakog stalka, NVLink pruža server - unutarnju brzinu; Između regala koriste ili 400g / 800g Ethernet (često Roce) ili InfiniBand nad vlaknima. Silicon - Pakirana optika i CO - Pakirana optika (poput nadolazećih spektra-x NVIDIA obećavaju daljnje dobitke u moći i kašnjenju, ali za danas većina AI veza i dalje koristi pribor za pričvršćivanje i AOCS.

Ključ za preuzimanje:Moderna AI infrastruktura u osnovi je podaci - vezan, a ne komformirati - vezan. Model sastanka - Ciljevi obuke znači optimizacija mreže. Visok ({5}} brzi optički moduli (400g / 800g QSFP - dd ili OSFP) i visok - kabliranje vlakana gustoće u srži je ove optimizacije. Podaci o industriji Potvrdite procvat: Brzine luke od 400g / 800g skaliraju se na neviđenim cijenama, vođenim ai radom opterećenja

Zaključak i sljedeći koraci
 

Ukratko, AI revolucija je stavilaOptički podaci InterkonektiU srcu planiranja infrastrukture. Visok - krajnji GPU i AI tralovi zahtijevaju proporcionalne mrežne mogućnosti, te samo vlaknaste rješenja zasnovane na vlaknima (400g / 800g QSFP-DD ili OSFP, AOC / DAC kabliranje, MPO trupe) mogu susresti izazov. Podaci o industriji podvlače ovaj imperativ: IDC i svjetlosni projekt udvostručujući ili udvostručuje visok ({6}} brzine portnih pornica za Ai i hiperscaleri troše na 800g + optiku.

Istražite rješenja iz vodećih optičkih pružatelja (npr. Wolon primopredajnici i kablovi) I dizajnirajte svoj podatkovni centar za više - terabitni učinak danas. Za više informacija ili prilagođenih optike,Kontaktirajte WolonDa bismo razgovarali o tome kako njihov Ai {{{- DD / OSFP moduli i visoki - sklopi vlakana gustoće mogu udovoljiti evoluciranju vaše mreže.