Generative Data Intelligence

Η DoE παραδίδει τον πιο πρόσφατο εγκέφαλο της Intel σε κουτί

Ημερομηνία:

Η Intel Labs αποκάλυψε τον μεγαλύτερο νευρομορφικό υπολογιστή της την Τετάρτη, ένα σύστημα νευρώνων 1.15 δισεκατομμυρίων, το οποίο λέει ότι είναι περίπου ανάλογο με τον εγκέφαλο μιας κουκουβάγιας.

Αλλά μην ανησυχείτε, η Intel δεν έχει ξαναδημιουργήσει το Fallout Robobrain. Αντί για ένα δίκτυο οργανικών νευρώνων και συνάψεων, το Hala Point της Intel τα μιμείται όλα σε πυρίτιο.

Στα 20 W περίπου, ο εγκέφαλός μας είναι εκπληκτικά αποτελεσματικός στην επεξεργασία των μεγάλων ποσοτήτων πληροφοριών που ρέουν από καθεμία από τις αισθήσεις σε κάθε δεδομένη στιγμή. Ο τομέας των νευρομορφικών, του οποίου η Intel και η IBM έχουν περάσει τα τελευταία χρόνια εξερευνώντας, στοχεύει να μιμηθεί το δίκτυο νευρώνων και συνάψεων του εγκεφάλου για την κατασκευή υπολογιστών ικανών να επεξεργάζονται πληροφορίες πιο αποτελεσματικά από τους παραδοσιακούς επιταχυντές.

Πόσο αποτελεσματικό; Σύμφωνα με την Intel, το πιο πρόσφατο σύστημά της, ένα κουτί 6U περίπου στο μέγεθος ενός φούρνου μικροκυμάτων που καταναλώνει 2,600 W, μπορεί να επιτύχει βαθιές αποδόσεις νευρωνικών δικτύων έως και 15 TOPS/W με ακρίβεια 8 bit. Για να το θέσουμε σε μια προοπτική, το πιο ισχυρό σύστημα της Nvidia, το GB200 NVL72 που βασίζεται στο Blackwell, το οποίο δεν έχει ακόμη αποσταλεί, διαχειρίζεται μόλις 6 TOPS/W στο INT8, ενώ τα σημερινά συστήματα DGX H100 μπορούν να διαχειριστούν περίπου 3.1 TOPS/W.

Ερευνητές στα Εθνικά Εργαστήρια Sandia παρέλαβαν τον νευρομορφικό υπολογιστή Hala Point 1.15 δισεκατομμυρίων νευρώνων της Intel

Ερευνητές στο Sandia National Labs παραδίδουν τον νευρομορφικό υπολογιστή Hala Point 1.15 δισεκατομμυρίων νευρώνων της Intel – κάντε κλικ για μεγέθυνση

Αυτή η απόδοση επιτυγχάνεται με τη χρήση 1,152 επεξεργαστών Loihi 2 της Intel, οι οποίοι είναι ενωμένοι μεταξύ τους σε ένα τρισδιάστατο πλέγμα για συνολικά 1.15 δισεκατομμύρια νευρώνες, 128 δισεκατομμύρια συνάψεις, 140,544 πυρήνες επεξεργασίας και 2,300 ενσωματωμένους πυρήνες x86 για τον απαραίτητο υπολογισμό. συνέχισε το πράγμα.

Για να είμαστε σαφείς, αυτοί δεν είναι τυπικοί πυρήνες x86. «Είναι πολύ, πολύ απλοί, μικροί πυρήνες x86. Δεν μοιάζουν με τους τελευταίους μας πυρήνες ή τους επεξεργαστές Atom», είπε ο Mike Davies, διευθυντής νευρομορφικών υπολογιστών στην Intel. Το μητρώο.

Αν το Loihi 2 χτυπήσει ένα κουδούνι, αυτό οφείλεται στο ότι το τσιπ ήταν χτυπώντας γύρω εδώ και λίγο καιρό, έχοντας κάνει το ντεμπούτο του το 2021 ως ένα από τα πρώτα τσιπ που παρήχθησαν χρησιμοποιώντας την τεχνολογία διαδικασίας 7nm της Intel.

Παρά την ηλικία της, η Intel λέει ότι τα συστήματα που βασίζονται στο Loihi είναι ικανά να λύσουν ορισμένα προβλήματα τεχνητής νοημοσύνης και βελτιστοποίησης έως και 50 φορές πιο γρήγορα από τις συμβατικές αρχιτεκτονικές CPU και GPU, ενώ καταναλώνουν 100 φορές λιγότερη ενέργεια. Αυτοί οι αριθμοί φαίνεται να ήταν επιτευχθεί [PDF] τοποθετώντας ένα μόνο τσιπ Loihi 2 στο μικροσκοπικό Jetson Orin Nano της Nvidia και έναν επεξεργαστή Core i9 i9-7920X.

Μην πετάτε ακόμα τις GPU σας

Αν και αυτό μπορεί να ακούγεται εντυπωσιακό, η Davies παραδέχεται ότι οι νευρομορφικοί επιταχυντές της δεν είναι ακόμη έτοιμοι να αντικαταστήσουν τις GPU για κάθε φόρτο εργασίας. «Αυτός δεν είναι ένας επιταχυντής τεχνητής νοημοσύνης γενικής χρήσης σε καμία περίπτωση», είπε.

Για μία, αναμφισβήτητα η πιο δημοφιλής εφαρμογή του AI, τα μεγάλα γλωσσικά μοντέλα (LLM) που τροφοδοτούν εφαρμογές όπως το ChatGPT, δεν θα εκτελούνται στο Hala Point, τουλάχιστον όχι ακόμη.

«Δεν χαρτογραφούμε κανένα LLM στο Hala Point αυτήν τη στιγμή. Δεν ξέρουμε πώς να το κάνουμε αυτό. Ειλικρινά, το πεδίο της νευρομορφικής έρευνας δεν έχει μια νευρομορφική εκδοχή του μετασχηματιστή», είπε ο Davies, σημειώνοντας ότι υπάρχει κάποια ενδιαφέρουσα έρευνα για το πώς μπορεί να επιτευχθεί αυτό.

Τούτου λεχθέντος, η ομάδα του Davies είχε επιτυχία στη λειτουργία παραδοσιακών βαθιών νευρωνικών δικτύων, ενός πολυστρωματικού perceptron, στο Hala Point με ορισμένες προειδοποιήσεις.

"Εάν μπορείτε να αραιώσετε τη δραστηριότητα του δικτύου και την αγωγιμότητα σε αυτό το δίκτυο, τότε μπορείτε να επιτύχετε πραγματικά, πολύ μεγάλα κέρδη", είπε. "Αυτό σημαίνει ότι πρέπει να επεξεργάζεται ένα συνεχές σήμα εισόδου… μια ροή βίντεο ή μια ροή ήχου, κάτι όπου υπάρχει κάποια συσχέτιση από δείγμα σε δείγμα σε δείγμα."

Η Intel Labs απέδειξε τις δυνατότητες του Loihi 2 για επεξεργασία βίντεο και ήχου σε ένα χαρτί δημοσιεύθηκε [PDF] στα τέλη του περασμένου έτους. Σε δοκιμές διαπίστωσαν ότι το τσιπ πέτυχε σημαντικά κέρδη στην ενεργειακή απόδοση, την καθυστέρηση και την απόδοση για την επεξεργασία σήματος, που μερικές φορές ξεπερνούσαν τις τρεις τάξεις μεγέθους, σε σύγκριση με τις συμβατικές αρχιτεκτονικές. Ωστόσο, τα μεγαλύτερα κέρδη προήλθαν σε βάρος της χαμηλότερης ακρίβειας.

Η ικανότητα επεξεργασίας δεδομένων σε πραγματικό χρόνο σε χαμηλή ισχύ και καθυστέρηση έχει κάνει την τεχνολογία ελκυστική για εφαρμογές όπως αυτόνομα οχήματα, drones και ρομποτική.

Μια άλλη περίπτωση χρήσης που φαίνεται να υπόσχεται είναι τα προβλήματα συνδυαστικής βελτιστοποίησης, όπως ο σχεδιασμός διαδρομής για ένα όχημα παράδοσης, το οποίο πρέπει να πλοηγηθεί σε ένα πολυσύχναστο κέντρο πόλης.

Αυτοί οι φόρτοι εργασίας είναι απίστευτα πολύπλοκοι για να επιλυθούν, καθώς μικρές αλλαγές όπως η ταχύτητα του οχήματος, τα ατυχήματα και το κλείσιμο λωρίδων πρέπει να λαμβάνονται υπόψη εν κινήσει. Οι συμβατικές αρχιτεκτονικές υπολογιστών δεν ταιριάζουν καλά σε αυτού του είδους την εκθετική πολυπλοκότητα, γι' αυτό έχουμε δει τόσους πολλούς προμηθευτές κβαντικών υπολογιστών στόχευση προβλήματα βελτιστοποίησης.

Ωστόσο, ο Davies υποστηρίζει ότι η νευρομορφική υπολογιστική πλατφόρμα της Intel είναι «πολύ πιο ώριμη από αυτές τις άλλες εναλλακτικές πειραματικές ερευνητικές λύσεις».

Δωμάτιο για ανάπτυξη

Σύμφωνα με τον Davies, υπάρχει επίσης αρκετός χώρος για να ξεκλειδωθεί. «Λυπάμαι που λέω ότι δεν έχει γίνει πλήρης εκμετάλλευση μέχρι σήμερα λόγω περιορισμών λογισμικού», είπε για τα τσιπ Loihi 2.

Ο εντοπισμός των σημείων συμφόρησης υλικού και οι βελτιστοποιήσεις λογισμικού είναι μέρος του λόγου που η Intel Labs ανέπτυξε το πρωτότυπο στη Sandia.

«Η κατανόηση των περιορισμών, ειδικά σε επίπεδο υλικού, είναι ένα πολύ σημαντικό μέρος για να βγουν αυτά τα συστήματα εκεί έξω», είπε ο Davies. «Μπορούμε να διορθώσουμε τα προβλήματα υλικού, μπορούμε να το βελτιώσουμε, αλλά πρέπει να γνωρίζουμε ποια κατεύθυνση να βελτιστοποιήσουμε».

Αυτή δεν θα είναι η πρώτη φορά που οι Sandia boffins έχουν στα χέρια τους τη νευρομορφική τεχνολογία της Intel. Σε ένα χαρτί δημοσιεύθηκε στις αρχές του 2022, οι ερευνητές διαπίστωσαν ότι η τεχνολογία είχε δυνατότητες για HPC και AI. Ωστόσο, αυτά τα πειράματα χρησιμοποίησαν τα τσιπ Loihi πρώτης γενιάς της Intel, τα οποία έχουν περίπου το ένα όγδοο των νευρώνων (128,000 έναντι 1 εκατομμυρίου) του διαδόχου της. ®

spot_img

Τελευταία Νοημοσύνη

spot_img

Συνομιλία με μας

Γεια σου! Πώς μπορώ να σε βοηθήσω?