Generatiivne andmeluure

DoE võtab Inteli uusima aju kätte kastis

kuupäev:

Intel Labs paljastas kolmapäeval oma suurima neuromorfse arvuti, 1.15 miljardi neuronisüsteemi, mis on tema sõnul ligikaudu analoogne öökulli ajuga.

Kuid ärge muretsege, Intel pole Fallouti uuesti loonud Roboaju. Orgaaniliste neuronite ja sünapside võrgustiku asemel emuleerib Inteli Hala Point neid kõiki ränis.

Umbes 20 W juures töötleb meie aju üllatavalt tõhusalt suures koguses teavet, mis voogedastub igal hetkel igalt meelelt. Neuromorfoloogia valdkonna, mille uurimisele Intel ja IBM on viimased paar aastat veetnud, eesmärk on jäljendada aju neuronite ja sünapside võrgustikku, et ehitada arvuteid, mis on võimelised töötlema teavet tõhusamalt kui traditsioonilised kiirendid.

Kui tõhus? Inteli sõnul suudab tema uusim süsteem, umbes 6 W tarbiva mikrolaineahju suurune 2,600U kast, väidetavalt saavutada sügava närvivõrgu efektiivsuse kuni 15 TOPS/W 8-bitise täpsusega. Selle perspektiivi silmas pidades võib öelda, et Nvidia võimsaim süsteem, Blackwellil põhinev GB200 NVL72, mida pole veel tarnitud, haldab vaid 6 TOPS/W INT8 juures, samas kui selle praegused DGX H100 süsteemid suudavad hallata umbes 3.1 TOPS/W.

Sandia National Labsi teadlased võtavad üle Inteli 1.15 miljardi neuroniga Hala Pointi neuromorfse arvuti

Sandia National Labsi teadlased võtavad üle Inteli 1.15 miljardi neuroniga Hala Pointi neuromorfse arvuti – klõpsake suurendamiseks

See jõudlus saavutatakse 1,152 Inteli Loihi 2 protsessoriga, mis on kokku liidetud kolmemõõtmeliseks ruudustikuks kokku 1.15 miljardi neuroni, 128 miljardi sünapsi, 140,544 2,300 töötlustuuma ja 86 manustatud xXNUMX tuumaga, mis käitlevad vajalikke lisaseadmeid. jätke asjaga kaasas.

Selguse huvides ei ole need tüüpilised x86 tuumad. "Need on väga-väga lihtsad, väikesed x86 tuumad. Need pole midagi meie uusimate tuumade või Atomi protsessorite moodi," ütles Inteli neuromorfse andmetöötluse direktor Mike Davies. Register.

Kui Loihi 2 heliseb kella, siis sellepärast, et kiip on olnud ringi koputades on juba mõnda aega debüteerinud aastal 2021 kui üks esimesi Inteli 7nm protsessitehnoloogiat kasutades toodetud kiipe.

Vaatamata oma vanusele on Inteli sõnul Loihi-põhised süsteemid võimelised lahendama teatud tehisintellekti järeldamis- ja optimeerimisprobleeme kuni 50 korda kiiremini kui tavalised CPU ja GPU arhitektuurid, tarbides samal ajal 100 korda vähem energiat. Need numbrid näivad olevat olnud saavutada [PDF], ühendades ühe Loihi 2 kiibi Nvidia pisikesele Jetson Orin Nanole ja Core i9 i9-7920X protsessorile.

Ärge visake veel oma GPU-sid välja

Kuigi see võib tunduda muljetavaldav, tunnistab Davies, et selle neuromorfsed kiirendid pole veel valmis GPU-sid iga töökoormuse jaoks asendama. "See ei ole mingil juhul üldotstarbeline AI kiirendi, " ütles ta.

Ühe, väidetavalt tehisintellekti kõige populaarsema rakenduse puhul ei tööta Hala Pointis vähemalt veel suured keelemudelid (LLM-id), mis toidavad selliseid rakendusi nagu ChatGPT.

"Me ei kaardista praegu ühtegi LLM-i Hala Pointi. Me ei tea, kuidas seda teha. Ausalt öeldes ei ole neuromorfsel uurimisvaldkonnal trafo neuromorfset versiooni, ”ütles Davies, märkides, et selle saavutamiseks on tehtud huvitavaid uuringuid.

Sellegipoolest on Daviese meeskonnal olnud edu traditsiooniliste sügavate närvivõrkude, mitmekihilise pertseptroni haldamisel Hala Pointis teatud hoiatustega.

"Kui saate võrgu aktiivsust ja juhtivust selles võrgus hõredamaks muuta, siis on teil võimalik saavutada väga-väga suuri kasu," ütles ta. "See tähendab, et see peab töötlema pidevat sisendsignaali … videovoogu või helivoogu, midagi, kus on mingi korrelatsioon näidist näidiseni."

Intel Labs demonstreeris paberil Loihi 2 potentsiaali video- ja helitöötluseks avaldatud [PDF] eelmise aasta lõpus. Katsetamise käigus avastasid nad, et kiip saavutas tavapäraste arhitektuuridega võrreldes märkimisväärset energiatõhusust, latentsust ja signaalitöötluse läbilaskevõimet, ületades mõnikord kolme suurusjärku. Suurim kasv tuli aga väiksema täpsuse arvelt.

Võimalus töödelda reaalajas andmeid väikese võimsuse ja latentsusega on muutnud selle tehnoloogia atraktiivseks selliste rakenduste jaoks nagu autonoomsed sõidukid, droonid ja robootika.

Teine paljulubav kasutusjuhtum on kombinatoorsed optimeerimisprobleemid, näiteks marsruudi planeerimine tarneautole, mis peab liikuma hõivatud kesklinnas.

Nende töökoormuste lahendamine on uskumatult keeruline, kuna väikeste muudatustega, nagu sõiduki kiirus, õnnetused ja sõiduradade sulgemine, tuleb arvestada käigu pealt. Tavapärased andmetöötlusarhitektuurid ei sobi sellise eksponentsiaalse keerukusega hästi, mistõttu oleme näinud nii palju kvantarvutite tarnijaid. sihtimine optimeerimisprobleemid.

Davies aga väidab, et Inteli neuromorfne andmetöötlusplatvorm on "palju küpsem kui need teised eksperimentaalsed uurimistöö alternatiivid".

Tuba kasvab

Daviese sõnul on ka veel palju vaba ruumi. "Mul on kurbusega tõdeda, et seda pole tarkvarapiirangute tõttu tänaseni täielikult ära kasutatud," ütles ta Loihi 2 kiipide kohta.

Riistvara kitsaskohtade tuvastamine ja tarkvara optimeerimine on osa põhjusest, miks Intel Labs on prototüübi Sandias kasutusele võtnud.

"Piirangute mõistmine, eriti riistvara tasemel, on nende süsteemide turule toomisel väga oluline osa," ütles Davies. "Me saame riistvaraprobleeme parandada, saame seda parandada, kuid me peame teadma, millises suunas optimeerida."

See poleks esimene kord, kui Sandia boffinid on Inteli neuromorfse tehnoloogiaga tutvunud. Paberis avaldatud 2022. aasta alguses leidsid teadlased, et tehnoloogial on potentsiaali HPC ja AI jaoks. Nendes katsetes kasutati aga Inteli esimese põlvkonna Loihi kiipe, millel on ligikaudu kaheksandik selle järglase neuronitest (128,000 1 vs XNUMX miljon). ®

spot_img

Uusim intelligentsus

spot_img

Jututuba koos meiega

Tere! Kuidas ma teid aidata saan?