Σήμερα στο Microsoft Build, η AMD (NASDAQ: AMD) παρουσίασε τις πιο πρόσφατες ολοκληρωμένες δυνατότητες υπολογισμού και λογισμικού για τους πελάτες και τους προγραμματιστές της Microsoft. Με τη χρήση λύσεων της AMD, όπως οι επιταχυντές AMD Instinct MI300X, το ανοικτό λογισμικό ROCm, οι επεξεργαστές και το λογισμικό Ryzen AI και οι επιταχυντές μέσων Alveo MA35D, η Microsoft είναι σε θέση να παρέχει μια ισχυρή σουίτα εργαλείων για εφαρμογές βασισμένες στην τεχνητή νοημοσύνη σε πολλές αγορές. Οι νέες εικονικές μηχανές (VM) Microsoft Azure ND MI300X είναι πλέον γενικά διαθέσιμες, δίνοντας σε πελάτες όπως η Hugging Face, πρόσβαση σε εντυπωσιακές επιδόσεις και αποδοτικότητα για τα πιο απαιτητικά φορτία εργασίας AI.

"Η στοίβα λογισμικού AMD Instinct MI300X και ROCm τροφοδοτεί τις υπηρεσίες Azure OpenAI Chat GPT 3.5 και 4, οι οποίες είναι μερικά από τα πιο απαιτητικά φορτία εργασίας AI στον κόσμο", δήλωσε ο Victor Peng, πρόεδρος της AMD. "Με τη γενική διαθεσιμότητα των νέων VMs από το Azure, οι πελάτες AI έχουν ευρύτερη πρόσβαση στο MI300X για την παροχή υψηλών επιδόσεων και αποτελεσματικών λύσεων για εφαρμογές AI".

"Η Microsoft και η AMD έχουν μια πλούσια ιστορία συνεργασιών σε πολλαπλές υπολογιστικές πλατφόρμες: πρώτα το PC, μετά το προσαρμοσμένο πυρίτιο για το Xbox, το HPC και τώρα την τεχνητή νοημοσύνη", δήλωσε ο Kevin Scott, επικεφαλής τεχνολογίας και εκτελεστικός αντιπρόεδρος του τμήματος τεχνητής νοημοσύνης της Microsoft. "Κατά το πιο πρόσφατο παρελθόν, αναγνωρίσαμε τη σημασία της σύζευξης ισχυρού υπολογιστικού υλικού με τη βελτιστοποίηση του συστήματος και του λογισμικού που απαιτείται για την παροχή εκπληκτικών επιδόσεων και αξίας AI. Μαζί με την AMD, το πετύχαμε αυτό μέσω της χρήσης των ROCm και MI300X, δίνοντας τη δυνατότητα στους πελάτες και τους προγραμματιστές της Microsoft AI να επιτύχουν εξαιρετικά αποτελέσματα σε σχέση με την τιμή και την απόδοση για τα πιο προηγμένα και υπολογιστικά εντατικά συνοριακά μοντέλα. Είμαστε προσηλωμένοι στη συνεργασία μας με την AMD για να συνεχίσουμε να προωθούμε την πρόοδο του AI".

Η σειρά VM Azure ND MI300x v5 VM, η οποία είχε ήδη ανακοινωθεί σε προεπισκόπηση τον Νοέμβριο του 2023, είναι πλέον διαθέσιμη στην περιοχή Canada Central για τους πελάτες που επιθυμούν να εκτελέσουν τα φορτία εργασίας AI. Προσφέροντας κορυφαίες επιδόσεις στον κλάδο, αυτές οι VM παρέχουν εντυπωσιακή χωρητικότητα HBM και εύρος ζώνης μνήμης, επιτρέποντας στους πελάτες να χωρέσουν μεγαλύτερα μοντέλα στη μνήμη GPU ή/και να χρησιμοποιήσουν λιγότερες GPU, συμβάλλοντας τελικά στην εξοικονόμηση ενέργειας, κόστους και χρόνου για την επίτευξη λύσης.

Αυτά τα VM και το λογισμικό ROCm που τα τροφοδοτεί, χρησιμοποιούνται επίσης για φόρτους εργασίας Azure AI Production, συμπεριλαμβανομένης της υπηρεσίας Azure OpenAI Service, παρέχοντας στους πελάτες πρόσβαση σε μοντέλα GPT-3.5 και GPT-4. Με το AMD Instinct MI300X και την αποδεδειγμένη και έτοιμη στοίβα ανοικτού λογισμικού ROCm, η Microsoft είναι σε θέση να επιτύχει κορυφαία τιμή/απόδοση σε φόρτους εργασίας εξαγωγής συμπερασμάτων GPT.

Πέρα από τα φορτία εργασίας παραγωγής Azure AI, ένας από τους πρώτους πελάτες που θα χρησιμοποιήσει αυτά τα VM είναι η Hugging Face. Μεταφέροντας τα μοντέλα τους στις VMs ND MI300X σε μόλις έναν μήνα, η Hugging Face κατάφερε να επιτύχει εντυπωσιακή απόδοση και τιμή/απόδοση για τα μοντέλα της. Στο πλαίσιο αυτό, οι πελάτες του ND MI300X VM μπορούν να φέρουν τα μοντέλα της Hugging Face στα VM για να δημιουργήσουν και να αναπτύξουν εφαρμογές NLP με ευκολία και αποτελεσματικότητα.

"Η βαθιά συνεργασία μεταξύ της Microsoft, της AMD και της Hugging Face στο οικοσύστημα ανοικτού λογισμικού ROCm θα επιτρέψει στους χρήστες της Hugging Face να εκτελούν εκατοντάδες χιλιάδες μοντέλα τεχνητής νοημοσύνης που είναι διαθέσιμα στο Hugging Face Hub στο Azure με τις GPU AMD Instinct χωρίς αλλαγές στον κώδικα, διευκολύνοντας τους πελάτες του Azure να δημιουργούν τεχνητή νοημοσύνη με ανοικτά μοντέλα και ανοικτό κώδικα", δήλωσε ο Julien Simon, επικεφαλής της Hugging Face.

Επιπλέον, οι προγραμματιστές είναι σε θέση να χρησιμοποιούν το λογισμικό AMD Ryzen AI για τη βελτιστοποίηση και την ανάπτυξη συμπερασμάτων AI σε υπολογιστές AMD Ryzen AI powered PCs. Το λογισμικό Ryzen AI επιτρέπει στις εφαρμογές να εκτελούνται στη μονάδα νευρωνικής επεξεργασίας (NPU) που βασίζεται στην αρχιτεκτονική AMD XDNA, το πρώτο ειδικό πυρίτιο επεξεργασίας AI σε επεξεργαστή Windows x86. Ενώ η εκτέλεση μοντέλων AI μόνο σε CPU ή GPU μπορεί να αδειάσει γρήγορα την μπαταρία, με έναν φορητό υπολογιστή με τροφοδοσία Ryzen AI, τα μοντέλα AI λειτουργούν στην ενσωματωμένη NPU, απελευθερώνοντας πόρους CPU και GPU για άλλες υπολογιστικές εργασίες. Αυτό συμβάλλει στη σημαντική αύξηση της διάρκειας ζωής της μπαταρίας και επιτρέπει στους προγραμματιστές να εκτελούν αποτελεσματικά και τοπικά φόρτους εργασίας LLM AI στη συσκευή και ταυτόχρονες εφαρμογές.

Η Microsoft επέλεξε τον επιταχυντή πολυμέσων AMD Alveo MA35D για να τροφοδοτήσει τους τεράστιους φόρτους εργασίας ζωντανής ροής βίντεο, συμπεριλαμβανομένων των Microsoft Teams, SharePoint video και άλλων. Ο Alveo MA35D έχει σχεδιαστεί ειδικά για να τροφοδοτεί ζωντανές διαδραστικές υπηρεσίες ροής σε κλίμακα, και θα βοηθήσει τη Microsoft να εξασφαλίσει εμπειρία βίντεο υψηλής ποιότητας, βελτιώνοντας τα φορτία εργασίας επεξεργασίας βίντεο, συμπεριλαμβανομένης της μεταγλώττισης, αποκωδικοποίησης, κωδικοποίησης και ροής με προσαρμοστικό ρυθμό μετάδοσης bit (ABR). Χρησιμοποιώντας τον επιταχυντή Alveo MA35D σε διακομιστές που τροφοδοτούνται από επεξεργαστές AMD EPYC 4ης γενιάς, η Microsoft αποκτά:

  • Δυνατότητα ενοποίησης διακομιστών και υποδομών cloud - αξιοποιώντας τις δυνατότητες επεξεργασίας βίντεο υψηλής πυκνότητας καναλιών, ενεργειακής απόδοσης και εξαιρετικά χαμηλής καθυστέρησης του Alveo MA35D, η Microsoft μπορεί να μειώσει σημαντικά τον αριθμό των διακομιστών που απαιτούνται για την υποστήριξη των μεγάλου όγκου εφαρμογών ζωντανής διαδραστικής ροής.
  • Εντυπωσιακές επιδόσεις - το Alveo MA35D διαθέτει μονάδες επεξεργασίας βίντεο με βάση ASIC που υποστηρίζουν το πρότυπο συμπίεσης AV1 και βελτιστοποιήσεις ποιότητας βίντεο με δυνατότητα τεχνητής νοημοσύνης, οι οποίες συμβάλλουν στην εξασφάλιση ομαλών και απρόσκοπτων εμπειριών βίντεο.
  • Μελλοντικά έτοιμη τεχνολογία AV1 - με πορεία αναβάθμισης για την υποστήριξη αναδυόμενων προτύπων όπως το AV1, το Alveo MA35D παρέχει στη Microsoft μια λύση που μπορεί να προσαρμοστεί στις εξελισσόμενες απαιτήσεις επεξεργασίας βίντεο.


Οι επεξεργαστές AMD EPYC 4ης γενιάς τροφοδοτούν σήμερα πολυάριθμες VMs γενικής χρήσης, έντασης μνήμης, βελτιστοποιημένων υπολογιστών και επιταχυνόμενων υπολογιστικών VMs στο Azure. Αυτές οι VM αναδεικνύουν την ανάπτυξη και τη ζήτηση για επεξεργαστές AMD EPYC στο cloud και μπορούν να παρέχουν έως και 20% καλύτερες επιδόσεις για VM γενικού σκοπού και VM έντασης μνήμης με καλύτερη σχέση τιμής/απόδοσης και έως και 2 φορές καλύτερες επιδόσεις CPU για VM βελτιστοποιημένων υπολογιστών σε σχέση με την προηγούμενη γενιά VM με επεξεργαστές AMD EPYC στο Azure. Τώρα σε προεπισκόπηση, οι σειρές VM Dalsv6, Dasv6, Easv6, Falsv6 και Famsv6 θα γίνουν γενικά διαθέσιμες τους επόμενους μήνες.

πηγή via DeepL