Η Intel κατασκευάζει το μεγαλύτερο νευρομορφικό σύστημα στον κόσμο

[deniSun]

Σήμερα, η Intel ανακοίνωσε ότι κατασκεύασε το μεγαλύτερο νευρομορφικό σύστημα στον κόσμο. Με την κωδική ονομασία Hala Point, αυτό το νευρομορφικό σύστημα μεγάλης κλίμακας, που αναπτύχθηκε αρχικά στα Εθνικά Εργαστήρια Sandia, χρησιμοποιεί τον επεξεργαστή Loihi 2 της Intel, στοχεύει στην υποστήριξη της έρευνας για τη μελλοντική τεχνητή νοημοσύνη (AI) εμπνευσμένη από τον εγκέφαλο και αντιμετωπίζει τις προκλήσεις που σχετίζονται με την αποτελεσματικότητα και τη βιωσιμότητα της σημερινής AI. Το Hala Point εξελίσσει το πρώτης γενιάς ερευνητικό σύστημα μεγάλης κλίμακας της Intel, Pohoiki Springs, με αρχιτεκτονικές βελτιώσεις για την επίτευξη πάνω από 10 φορές μεγαλύτερης χωρητικότητας νευρώνων και έως και 12 φορές υψηλότερης απόδοσης.

"Το υπολογιστικό κόστος των σημερινών μοντέλων τεχνητής νοημοσύνης αυξάνεται με μη βιώσιμους ρυθμούς. Η βιομηχανία χρειάζεται θεμελιωδώς νέες προσεγγίσεις ικανές να κλιμακώνονται. Για τον λόγο αυτό, αναπτύξαμε το Hala Point, το οποίο συνδυάζει την αποδοτικότητα της βαθιάς μάθησης με νέες δυνατότητες μάθησης και βελτιστοποίησης που εμπνέονται από τον εγκέφαλο. Ελπίζουμε ότι η έρευνα με το Hala Point θα προωθήσει την αποτελεσματικότητα και την προσαρμοστικότητα της τεχνολογίας AI μεγάλης κλίμακας". -Mike Davies, διευθυντής του Εργαστηρίου Νευρομορφικού Υπολογισμού στα εργαστήρια Intel Labs



Τι κάνει: Το Hala Point είναι το πρώτο νευρομορφικό σύστημα μεγάλης κλίμακας που επιδεικνύει κορυφαία υπολογιστική απόδοση σε κύριους φόρτους εργασίας τεχνητής νοημοσύνης. Ο χαρακτηρισμός δείχνει ότι μπορεί να υποστηρίξει έως και 20 τετράκις εκατομμύρια πράξεις ανά δευτερόλεπτο, ή 20 petaops, με απόδοση που υπερβαίνει τα 15 τρισεκατομμύρια πράξεις 8-bit ανά δευτερόλεπτο ανά Watt (TOPS/W) κατά την εκτέλεση συμβατικών βαθιών νευρωνικών δικτύων. Αυτό ανταγωνίζεται και υπερβαίνει τα επίπεδα που επιτυγχάνονται από αρχιτεκτονικές που βασίζονται σε μονάδες επεξεργασίας γραφικών (GPU) και κεντρικές μονάδες επεξεργασίας (CPU). Οι μοναδικές δυνατότητες του Hala Point θα μπορούσαν να επιτρέψουν τη μελλοντική συνεχή μάθηση σε πραγματικό χρόνο για εφαρμογές AI, όπως η επίλυση επιστημονικών και τεχνικών προβλημάτων, η εφοδιαστική, η διαχείριση υποδομών έξυπνων πόλεων, τα μεγάλα γλωσσικά μοντέλα (LLM) και οι πράκτορες AI.

Πώς θα χρησιμοποιηθεί: Οι ερευνητές στα Εθνικά Εργαστήρια Sandia σχεδιάζουν να χρησιμοποιήσουν το Hala Point για προηγμένη έρευνα υπολογιστών σε κλίμακα εγκεφάλου. Ο οργανισμός θα επικεντρωθεί στην επίλυση επιστημονικών υπολογιστικών προβλημάτων στη φυσική των συσκευών, την αρχιτεκτονική υπολογιστών, την επιστήμη των υπολογιστών και την πληροφορική.

"Η συνεργασία με το Hala Point βελτιώνει την ικανότητα της ομάδας μας στη Sandia να επιλύει προβλήματα υπολογιστικής και επιστημονικής μοντελοποίησης. Η διεξαγωγή έρευνας με ένα σύστημα αυτού του μεγέθους θα μας επιτρέψει να συμβαδίσουμε με την εξέλιξη της τεχνητής νοημοσύνης σε τομείς που κυμαίνονται από το εμπόριο μέχρι την άμυνα και τη βασική επιστήμη", δήλωσε ο Craig Vineyard, επικεφαλής της ομάδας Hala Point στα Sandia National Laboratories.

Επί του παρόντος, το Hala Point είναι ένα ερευνητικό πρωτότυπο που θα προωθήσει τις δυνατότητες των μελλοντικών εμπορικών συστημάτων. Η Intel αναμένει ότι αυτά τα διδάγματα θα οδηγήσουν σε πρακτικές εξελίξεις, όπως η ικανότητα των LLM να μαθαίνουν συνεχώς από νέα δεδομένα. Τέτοιες εξελίξεις υπόσχονται να μειώσουν σημαντικά το δυσβάσταχτο βάρος της εκπαίδευσης που συνεπάγεται η ευρεία ανάπτυξη της AI.

Γιατί έχει σημασία: Οι πρόσφατες τάσεις στην κλιμάκωση των μοντέλων βαθιάς μάθησης σε τρισεκατομμύρια παραμέτρους έχουν αποκαλύψει τρομακτικές προκλήσεις βιωσιμότητας στην AI και έχουν αναδείξει την ανάγκη για καινοτομία στα χαμηλότερα επίπεδα της αρχιτεκτονικής υλικού. Ο νευρομορφικός υπολογισμός είναι μια θεμελιωδώς νέα προσέγγιση που βασίζεται σε γνώσεις της νευροεπιστήμης, οι οποίες ενσωματώνουν τη μνήμη και τον υπολογισμό με εξαιρετικά μεγάλο παραλληλισμό για την ελαχιστοποίηση της μετακίνησης δεδομένων. Στα δημοσιευμένα αποτελέσματα από το Διεθνές Συνέδριο Ακουστικής, Ομιλίας και Επεξεργασίας Σήματος (ICASSP) αυτού του μήνα, το Loihi 2 κατέδειξε τάξεις μεγέθους κέρδη στην αποδοτικότητα, την ταχύτητα και την προσαρμοστικότητα των αναδυόμενων φορτίων εργασίας μικρής κλίμακας στην άκρη.

Προχωρώντας σε σχέση με τον προκάτοχό του, το Pohoiki Springs, με πολυάριθμες βελτιώσεις, το Hala Point φέρνει τώρα νευρομορφικά κέρδη απόδοσης και αποδοτικότητας σε mainstream συμβατικά μοντέλα βαθιάς μάθησης, ιδίως σε εκείνα που επεξεργάζονται φόρτους εργασίας πραγματικού χρόνου, όπως βίντεο, ομιλία και ασύρματες επικοινωνίες. Για παράδειγμα, η Ericsson Research εφαρμόζει το Loihi 2 για τη βελτιστοποίηση της αποδοτικότητας των τηλεπικοινωνιακών υποδομών, όπως επισημάνθηκε στο φετινό Mobile World Congress.

Σχετικά με το Hala Point: Οι νευρομορφικοί επεξεργαστές Loihi 2, οι οποίοι αποτελούν τη βάση για το Hala Point, εφαρμόζουν υπολογιστικές αρχές εμπνευσμένες από τον εγκέφαλο, όπως ασύγχρονα, βασισμένα σε γεγονότα νευρωνικά δίκτυα αιχμής (SNN), ολοκληρωμένη μνήμη και υπολογισμό και αραιές και συνεχώς μεταβαλλόμενες συνδέσεις για να επιτύχουν τάξεις μεγέθους κέρδη στην κατανάλωση ενέργειας και την απόδοση. Οι νευρώνες επικοινωνούν απευθείας μεταξύ τους αντί να επικοινωνούν μέσω της μνήμης, μειώνοντας τη συνολική κατανάλωση ενέργειας.

Το Hala Point πακετάρει 1.152 επεξεργαστές Loihi 2 που παράγονται σε κόμβο επεξεργασίας Intel 4 σε ένα πλαίσιο κέντρου δεδομένων με έξι ράφια στο μέγεθος ενός φούρνου μικροκυμάτων. Το σύστημα υποστηρίζει έως και 1,15 δισεκατομμύρια νευρώνες και 128 δισεκατομμύρια συνάψεις που κατανέμονται σε 140.544 πυρήνες νευρομορφικής επεξεργασίας, καταναλώνοντας μέγιστη ισχύ 2.600 Watt. Περιλαμβάνει επίσης πάνω από 2.300 ενσωματωμένους επεξεργαστές x86 για βοηθητικούς υπολογισμούς.

Το Hala Point ενσωματώνει τα κανάλια επεξεργασίας, μνήμης και επικοινωνίας σε ένα μαζικά παραλληλισμένο ιστό, παρέχοντας συνολικά 16 petabytes ανά δευτερόλεπτο (PB/s) εύρος ζώνης μνήμης, 3,5 PB/s εύρος ζώνης επικοινωνίας μεταξύ των πυρήνων και 5 terabytes ανά δευτερόλεπτο (TB/s) εύρος ζώνης επικοινωνίας μεταξύ των τσιπ. Το σύστημα μπορεί να επεξεργαστεί πάνω από 380 τρισεκατομμύρια συνάψεις 8-bit και πάνω από 240 τρισεκατομμύρια λειτουργίες νευρώνων ανά δευτερόλεπτο.

Εφαρμοσμένο σε μοντέλα βιο-εμπνευσμένων νευρωνικών δικτύων αιχμής, το σύστημα μπορεί να εκτελέσει την πλήρη χωρητικότητά του των 1,15 δισεκατομμυρίων νευρώνων 20 φορές ταχύτερα από έναν ανθρώπινο εγκέφαλο και έως και 200 φορές ταχύτερους ρυθμούς σε χαμηλότερη χωρητικότητα. Αν και το Hala Point δεν προορίζεται για μοντελοποίηση νευροεπιστημών, η χωρητικότητα των νευρώνων του είναι περίπου ισοδύναμη με εκείνη του εγκεφάλου μιας κουκουβάγιας ή του φλοιού ενός πιθήκου καπουτσίνο.

Τα συστήματα που βασίζονται στο Loihi μπορούν να εκτελούν συμπερασμούς ΑΙ και να επιλύουν προβλήματα βελτιστοποίησης χρησιμοποιώντας 100 φορές λιγότερη ενέργεια σε ταχύτητες έως και 50 φορές ταχύτερες από τις συμβατικές αρχιτεκτονικές CPU και GPU. Αξιοποιώντας την αραιή συνδεσιμότητα έως και 10:1 και την καθοδηγούμενη από συμβάντα δραστηριότητα, τα πρώτα αποτελέσματα στο Hala Point δείχνουν ότι το σύστημα μπορεί να επιτύχει αποδοτικότητα βαθιών νευρωνικών δικτύων έως και 15 TOPS/W2 χωρίς να απαιτείται η συλλογή δεδομένων εισόδου σε δέσμες, μια κοινή βελτιστοποίηση για GPU που καθυστερεί σημαντικά την επεξεργασία δεδομένων που φθάνουν σε πραγματικό χρόνο, όπως βίντεο από κάμερες. Αν και βρίσκονται ακόμη σε ερευνητικό στάδιο, οι μελλοντικές νευρομορφικές LLM με δυνατότητα συνεχούς μάθησης θα μπορούσαν να οδηγήσουν σε εξοικονόμηση ενέργειας σε γιγαβατώρες, εξαλείφοντας την ανάγκη για περιοδική επανεκπαίδευση με συνεχώς αυξανόμενα σύνολα δεδομένων.

Τι ακολουθεί: Η παράδοση του Hala Point στα Sandia National Labs σηματοδοτεί την πρώτη ανάπτυξη μιας νέας οικογένειας ερευνητικών νευρομορφικών συστημάτων μεγάλης κλίμακας που η Intel σχεδιάζει να μοιραστεί με τους ερευνητικούς συνεργάτες της. Η περαιτέρω ανάπτυξη θα επιτρέψει στις εφαρμογές νευρομορφικού υπολογισμού να ξεπεράσουν τους περιορισμούς ισχύος και καθυστέρησης που περιορίζουν την ανάπτυξη των δυνατοτήτων ΑΙ σε πραγματικό κόσμο και πραγματικό χρόνο.

Μαζί με ένα οικοσύστημα περισσότερων από 200 μελών της Intel Neuromorphic Research Community (INRC), συμπεριλαμβανομένων κορυφαίων ακαδημαϊκών ομάδων, κυβερνητικών εργαστηρίων, ερευνητικών ιδρυμάτων και εταιρειών σε όλο τον κόσμο, η Intel εργάζεται για να διευρύνει τα όρια της τεχνητής νοημοσύνης που εμπνέεται από τον εγκέφαλο και να προχωρήσει αυτή η τεχνολογία από τα ερευνητικά πρωτότυπα σε κορυφαία εμπορικά προϊόντα της βιομηχανίας τα επόμενα χρόνια.

πηγή via DeepL

[BlueChris]

The end is near... απλά πρέπει να βρούμε την ημερομηνία πλέον ε ?

[dimitri_ns]

Συναισθήματα έχει ?
Αδρεναλίνη βγάζει ?
Τρομάζει κι αντιδρά ?

Είναι πολύ πίσω ακόμα ..

ΥΓ
Χώρια που δεν λέει μαλακίες

[NicM1]

Pentium ai ;

[MitsakosGR]

Συναισθήματα έχει ?
Αδρεναλίνη βγάζει ?
Τρομάζει κι αντιδρά ?

Είναι πολύ πίσω ακόμα ..

ΥΓ
Χώρια που δεν λέει μαλακίες

Για αυτό μην ορκίζεσαι! Και οι προγραμματιστές έχουν ψυχή (ζωή όχι, ψυχή ναι) και μία έμφυτη τάση στο να βάζουν τα προγράμματα να γράφουν μαλακίες και να κράζουν όταν κάτι δεν πάει καλά!!!

[psolord]

Ο χαρακτηρισμός δείχνει ότι μπορεί να υποστηρίξει έως και 20 τετράκις εκατομμύρια πράξεις ανά δευτερόλεπτο, ή 20 petaops, αλλά ακόμα Crysis δε παίζει

fixed! xD