Η TSMC αγωνίζεται να ανταποκριθεί στη ζήτηση σε CoWoS packaging, καθυστερώντας την παραγωγή τσιπ AI και HPC

[deniSun]

Οι μεγάλοι πάροχοι υπηρεσιών cloud (CSP) - AWS, Google, Meta και Microsoft - πρόκειται να επεκτείνουν τις υποδομές τους για την τεχνητή νοημοσύνη και οι συνολικές κεφαλαιουχικές δαπάνες για το σκοπό αυτό αναμένεται να φτάσουν τα 170 δισεκατομμύρια δολάρια το 2024. Αυτή η αύξηση των επενδύσεων αυξάνει τη ζήτηση για επεξεργαστές AI και ασκεί πίεση στις παραγωγικές ικανότητες, ιδίως στην TSMC, η οποία αγωνίζεται να συμβαδίσει με τη ζήτηση για την τεχνολογία της chip-on-wafer-on-substrate (CoWoS), αναφέρει η TrendForce, επικαλούμενη τους Commercial Times.

Το μεγαλύτερο μέγεθος των interposers που απαιτούνται για τους πιο πρόσφατους επεξεργαστές AI και HPC της Nvidia και της AMD σημαίνει ότι από κάθε πλακίδιο 300 mm μπορούν να ληφθούν λιγότερα interposers, επιβαρύνοντας την παραγωγική ικανότητα CoWoS. Επιπλέον, ο αριθμός των στοίβων HBM που ενσωματώνονται γύρω από τις GPU αυξάνεται επίσης, αυξάνοντας τις προκλήσεις της παραγωγής. Καθώς αυξάνεται η επιφάνεια των interposer, η ικανότητα κάλυψης της ζήτησης GPU μειώνεται. Αυτό έχει οδηγήσει σε συνεχή έλλειψη στην παραγωγική ικανότητα CoWoS της TSMC.

Οι τελευταίοι επεξεργαστές της Nvidia της σειράς Blackwell (GB200, B100, B200) αναμένεται να επιδεινώσουν αυτό το πρόβλημα καταναλώνοντας ακόμη μεγαλύτερη χωρητικότητα CoWoS, με την TSMC να στοχεύει στην αύξηση της μηνιαίας παραγωγής της σε 40.000 μονάδες μέχρι το τέλος του 2024, μια σημαντική αύξηση από το προηγούμενο έτος.

Η παραγωγή στοίβας HBM γίνεται επίσης όλο και πιο πολύπλοκη, καθώς απαιτούνται περισσότερα στρώματα EUV για την κατασκευή ταχύτερης μνήμης HBM. Η SK Hynix, ο κορυφαίος κατασκευαστής HBM, χρησιμοποιούσε ένα μόνο στρώμα EUV για την τεχνολογία διεργασίας 1α, αλλά προχωρά σε τρεις έως τέσσερις φορές περισσότερα στρώματα με τη διαδικασία κατασκευής 1β, γεγονός που θα μπορούσε να μειώσει τους χρόνους κύκλου, αλλά θα αυξήσει σαφώς το κόστος της νέας μνήμης HBM3E.

Κάθε νέα γενιά HBM επιφέρει αύξηση του αριθμού των συσκευών DRAM. Ενώ το HBM2 στοιβάζει τέσσερις έως οκτώ DRAM, το HBM3/3E αυξάνει τον αριθμό αυτό σε οκτώ ή ακόμη και 12 συσκευές, ενώ το HBM4 θα τον αυξήσει περαιτέρω σε 16, γεγονός που θα αυξήσει και πάλι την πολυπλοκότητα των μονάδων μνήμης HBM.

Ως απάντηση σε αυτές τις προκλήσεις, οι φορείς του κλάδου διερευνούν εναλλακτικές λύσεις. Η Intel, για παράδειγμα, αναπτύσσει ορθογώνια γυάλινα υποστρώματα για την αντικατάσταση των παραδοσιακών ενδιάμεσων πλακιδίων 300 mm. Ωστόσο, αυτή η προσέγγιση θα απαιτήσει σημαντική έρευνα, ανάπτυξη και χρόνο προτού καταστεί βιώσιμη εναλλακτική λύση, υπογραμμίζοντας τον συνεχιζόμενο αγώνα για την ικανοποίηση των σημερινών αυξανόμενων απαιτήσεων για την παραγωγή επεξεργαστών ΤΝ.

πηγή via DeepL

[Slammer]

Όσο περνάει ο καιρός, αποκτώ την εντύπωση ότι όλο αυτό με το ΑΙ είναι μια τεράστια φούσκα. Κανείς δεν αμφισβητεί την χρησιμότητα της ΑΙ σε κάποιες εφαρμογές, όμως όπως πάει το πράγμα είναι τελικά μια μεθοδολογία ανάλυσης δεδομένων που απαιτεί τεράστιους πόρους τόσο σε παραγωγική δυνατότητα (πχ εξαντλεί σχεδόν την παραγωγική δυνατότητα της TSMC) όσο και σε ενέργεια για την λειτουργία της, και πραγματικά δεν ξέρω αν το αποτέλεσμα αξίζει τον κόπο και το χρήμα.
Στην ουσία είναι ανάλυση τεράστιων ποσοτήτων δεδομένων, με κάθε πιθανό και απίθανο τρόπο, που στη πλειοψηφία των περιπτώσεων τα δεδομένα αποδεικνύονται άσχετα και σε πολύ λίγες περιπτώσεις θα προκύψει κάτι χρήσιμο. Η εκμάθηση των νευρωνικών δικτύων. που ειναι η καρδιά της ΑΙ, μπορεί να έχει από πίσω μαθηματική θεωρία και μεθόδους επίλυσης, παραμένει όμως στη φύση του ένα ευριστικός brutal-force αλγόρυθμος.

[deniSun]

Όσο περνάει ο καιρός, αποκτώ την εντύπωση ότι όλο αυτό με το ΑΙ είναι μια τεράστια φούσκα.

Συμφωνώ απόλυτα.
Εχθές μάλιστα διάβαζα ένα σχετικό άρθρο με αυτόν ακριβώς τον τίτλο.

Στην ουσία είναι ανάλυση τεράστιων ποσοτήτων δεδομένων, με κάθε πιθανό και απίθανο τρόπο, που στη πλειοψηφία των περιπτώσεων τα δεδομένα αποδεικνύονται άσχετα και σε πολύ λίγες περιπτώσεις θα προκύψει κάτι χρήσιμο. Η εκμάθηση των νευρωνικών δικτύων. που ειναι η καρδιά της ΑΙ, μπορεί να έχει από πίσω μαθηματική θεωρία και μεθόδους επίλυσης, παραμένει όμως στη φύση του ένα ευριστικός brutal-force αλγόρυθμος.

Σωστά.
Για το brute-force έχω επιφυλάξεις.
Δεν θεωρώ ότι ανοίξει σε αυτή την κατηγορία.

[Slammer]

Για το brute-force έχω επιφυλάξεις.
Δεν θεωρώ ότι ανοίξει σε αυτή την κατηγορία.

Δεν είναι σε όλες τις περιπτώσεις, αλλά σε κάποιες η αναζήτηση (ή η σύγκλιση) μιας καλύτερης λύσης με βάση τόσο πολλά δεδομένα θυμίζει τέτοιους αλγόριθμους.

[deniSun]

Δεν είναι σε όλες τις περιπτώσεις, αλλά σε κάποιες η αναζήτηση (ή η σύγκλιση) μιας καλύτερης λύσης με βάση τόσο πολλά δεδομένα θυμίζει τέτοιους αλγόριθμους.

Αν το δούμε σε πολύ global μορφή
θα συμφωνήσω ότι ο τρόπος λειτουργίας εκμάθησης των συστημάτων
θυμίζει πολύ τον τρόπο λειτουργίας brute-force.