Ο CEO της Nvidia παραδέχεται ότι τα συστήματα DGX επόμενης γενιάς απαιτούν υγρή ψύξη

[deniSun]

Οι επόμενης γενιάς διακομιστές DGX της Nvidia θα διαθέτουν υγρή ψύξη, σύμφωνα με τα σχόλια του CEO της Nvidia Jensen Huang στην οικονομική σύνοδο κορυφής 2024 SIEPR. Μεταξύ των δηλώσεων ότι το επερχόμενο σύστημα ήταν "υπέροχο" και "όμορφο", ο Huang ανέφερε επίσης ότι οι επόμενοι DGX servers "έρχονται σύντομα", υποδεικνύοντας ότι ίσως η επόμενη γενιά καρτών γραφικών της Nvidia είναι επίσης στον ορίζοντα.

Τα σχόλια του Huang δεν ήταν απολύτως σαφή και δεν ανέφερε ρητά τίποτα για το DGX. Αντ' αυτού, κατά τη διάρκεια ενός μονολόγου για την ισχύ των σύγχρονων GPU και των επεξεργαστών AI, είπε "ένας από τους υπολογιστές μας" και "ο επόμενος, που έρχεται σύντομα, είναι υδρόψυκτος". Δεδομένου ότι η μοναδική σειρά υπολογιστών της Nvidia που εστιάζει στην AI είναι ο DGX, είναι μάλλον ασφαλές να πούμε ότι ο Huang αναφέρεται στον DGX, ή τουλάχιστον αυτή είναι η άποψη ορισμένων αναλυτών του κλάδου της πληροφορικής.

Οι διακομιστές, ακόμη και αυτοί που βρίσκονται σε μεγάλα και πρωτοποριακά κέντρα δεδομένων, εξακολουθούν να βασίζονται κυρίως στην αερόψυξη για τις CPU και τις GPU, συμπεριλαμβανομένης της τρέχουσας γενιάς DGX. Ακόμη και οι high-end κάρτες γραφικών H100 και H200 της Nvidia λειτουργούν αρκετά καλά με αερόψυξη, οπότε η ώθηση για τη μετάβαση σε υγρό δεν ήταν τόσο μεγάλη. Ωστόσο, καθώς οι επερχόμενες GPU Blackwell της Nvidia λέγεται από την Dell ότι θα καταναλώνουν έως και 1.000 watt, η υγρή ψύξη μπορεί να απαιτηθεί. Έχουν επίσης διατυπωθεί ισχυρισμοί ότι η Blackwell καταναλώνει 1.400 watt.

Οι επεξεργαστές των 2.000 watt μπορεί να είναι ακόμη και στη σφαίρα του δυνατού, καθώς οι ερευνητές της Intel προσπαθούν να σχεδιάσουν ένα υγρό ψυγείο που να μπορεί να διαχειριστεί τόση θερμότητα. Εδώ και χρόνια, οι επεξεργαστές γίνονται όλο και πιο θερμοί και πιο ενεργοβόροι και για να συνεχιστεί αυτή η τάση, η βιομηχανία θα πρέπει να επενδύσει σε λύσεις ψύξης αιχμής.

Όλα αυτά γίνονται προς όφελος της αύξησης των επιδόσεων, αλλά δεν εντυπωσιάζονται όλοι από τετραψήφιες τιμές TDP. Ο αναλυτής της βιομηχανίας Patrick Moorhead ήταν ιδιαίτερα καυστικός σχετικά με την ιδέα ενός υδρόψυκτου DGX, λέγοντας: "Έτσι, έχουμε τραβήξει σχεδόν κάθε μοχλό μέχρι στιγμής για να βελτιστοποιήσουμε την απόδοση σε έναν κάπως λογικό βαθμό θερμότητας/ενέργειας... Τι είναι το επόμενο, υγρό άζωτο;" Ο Moorhead πρότεινε να πατήσουμε "το κουμπί επαναφοράς" και άφησε να εννοηθεί ότι η ενσωμάτωση αυτής της τεχνολογίας απλώς δεν θα ήταν βιώσιμη.

Ρεαλιστικά, πρέπει πιθανώς να υπάρξει ένα σημείο όπου η ισχύς δεν μπορεί πλέον να αυξηθεί για την ενίσχυση της απόδοσης, αλλά η κατανάλωση ενέργειας αυξάνεται σταθερά από γενιά σε γενιά. Πριν από μια δεκαετία, τα 300 watt θεωρούνταν υπερβολικά, ενώ τώρα οι CPU και οι GPU των υψηλότερων δυνατοτήτων ξεπερνούν εύκολα αυτό το νούμερο. Η περαιτέρω αύξηση της ισχύος δεν φαίνεται να απομακρύνεται σύντομα, εφόσον δεν υπάρχει καλύτερος τρόπος για την αξιόπιστη αύξηση των επιδόσεων.

πηγή via DeepL

[Pixel 57]

1,5KW με αερόψυξη δε γίνεται. Αλλά σε server ας θέλει οτιδήποτε. Το θέμα είναι τι θα γίνει με τη σειρά 5000. Θα έχει και αυτή τέτοια αύξηση στην κατανάλωση;

[netblues]

Και σε servers ζορι ειναι. Ενα DGX A100 φορτωμενο βγαζει 6.5ΚW θερμικο φορτίο. Κανονικη KUMTEL μαζι με το Kumtelaki.
Που να εχεις 3 σε ενα rack.
Παντως και στο Δαιδαλο, τα rack που ζηταει ειναι υδροψυκτα. Οποτε γιατι να μας κανει εντυπωση?