Τα νέας γενιάς συστήματα NVIDIA DGX που θα λανσαριστούν σύντομα θα απαιτούν υγρόψυξη

[polemikos]

Κατά τη διάρκεια του 2024 SIEPR Economic Summit, ο Διευθύνων Σύμβουλος της NVIDIA, Jen-Hsun “Jensen” Huang έκανε γνωστό ότι τα συστήματα DGX επόμενης γενιάς της εταιρείας, που είναι σχεδιασμένα για εφαρμογές Τεχνητής Νοημοσύνης και υψηλών επιδόσεων υπολογιστικούς φόρτους εργασίας, θα απαιτούν υγρόψυξη (liquid cooling) λόγω τεράστιας κατανάλωσης ενέργειας.

Ο Jensen Huang άφησε επίσης να εννοηθεί ότι τα νέα αυτά συστήματα πρόκειται να κυκλοφορήσουν στο εγγύς μέλλον. Τα νέα δεν αποτελούν έκπληξη αν λάβουμε υπόψη την ολοένα αυξανόμενη ισχύ που απαιτείται από τις GPUs για επιτάχυνση των εφαρμογών μηχανικής εκμάθησης και Τεχνητής Νοημοσύνης.

Καθώς λοιπόν οι απαιτήσεις σε υπολογιστική ισχύ εξακολουθούν να αυξάνονται, έτσι αυξάνονται και οι ανάγκες για ισχυρότερο hardware. Μαζί ωστόσο με τη μεγάλη ισχύ -και κατανάλωση ενέργειας- έρχεται και μεγάλη παραγωγή θερμότητας, γεγονός που απαιτεί προηγμένες λύσεις ψύξης για τη διατήρηση της βέλτιστης απόδοσης και της σταθερότητας των συστημάτων. Η υγρόψυξη αποτελεί εδώ και καιρό βασικό στοιχείο υπολογιστικών συστημάτων υψηλών προδιαγραφών, προσφέροντας ανώτερη θερμική διαχείριση σε σύγκριση με τις παραδοσιακές μεθόδους αερόψυξης.

Με την εφαρμογή υγρόψυξης στα επερχόμενα συστήματα DGX, η NVIDIA στοχεύει να αυξήσει την απόδοση διασφαλίζοντας παράλληλα την αξιοπιστία και την σταθερότητα του hardware. Παρόλο που ο Jensen Huang δεν αποκάλυψε την ημερομηνία διάθεσης των επερχόμενων συστημάτων DGX, με τις δηλώσεις του άφησε να εννοηθεί ότι η κυκλοφορία τους αναμένεται σύντομα. Δεν γνωρίζουμε αν η επόμενη γενιά συστημάτων DGX θα αξιοποιεί ως βασικό επιταχυντή την τρέχουσα NVIDIA H200 GPU ή την επερχόμενη B100 αρχιτεκτονικής «Blackwell» ωστόσο η απόδοση αναμένεται να είναι, όπως πάντα, αντάξια των προσδοκιών. Καθώς το τοπίο της Τεχνητής Νοημοσύνης και της υπολογιστικής υψηλών επιδόσεων εξελίσσεται με γεωμετρική πρόοδο, η θέση της NVIDIA στην αγορά εξακολουθεί να ενισχύεται και αυτά τα υγρόψυκτα συστήματα από ότι φαίνεται θα διαδραματίσουν καθοριστικό ρόλο στη διαμόρφωση του μέλλοντος του κλάδου.

Διαβάστε ολόκληρο το άρθρο

[weros]

Αυτά είναι, εμπρός πίσω που έλεγε και ο πώποτας ξανά εποχές Fermi ειδικά αν συνδυάζονταν και με τους FX είχες και θέρμανση τον χειμώνα

[tomeap]

Αντε και τηλεθερμανση  τωρα και καλα εχουμε πρασινη αναπτυξη (περι ορεξεως κολοκυθόπιτα)

[kurkosdr]

2 ώρες πριν, weros είπε

Αυτά είναι, εμπρός πίσω που έλεγε και ο πώποτας ξανά εποχές Fermi ειδικά αν συνδυάζονταν και με τους FX είχες και θέρμανση τον χειμώνα

Οι πιο δυνατές Fermi που φτιάχτηκαν (GTX 480 και GTX 580) είχαν TDP μόλις 250W, και η διπλή GTX 590 είχε TDP 365W.

Για σύγκριση, η midrange RTX 4070 Ti έχει TDP 285W και η high-end RTX 4080 έχει TDP 320W (δηλαδή σχεδόν όσο μια διπλή Fermi).

Όταν λέω εγώ ότι ζούμε το boiled frog effect στο θέμα του official overclocking... ο,τι ήταν εξωπραγματικό πριν μερικά χρόνια τώρα είναι midrange.

Θα στη σερβίρουν σιγά-σιγά και την  GPU των 1000W, αλλά σταδιακά.

Επεξ/σία 13 Μαρτίου από kurkosdr

[Pokemon640]

27 minutes ago, kurkosdr said:

Θα στη σερβίρουν σιγά-σιγά και την  GPU των 1000W, αλλά σταδιακά.

Σε quad sli θα θες γραμμή για κουζίνα και θερμοσίφωνα μαζί. Και στο μέλλον τριφασικό βιομηχανικό των 60A 😁

[dbrillis]

Θα τα βαλει η Microsoft σε datacenters μεσα στο νερο και θα φταιει η NVidia για την αυξηση της θερμοκρασιας των ωκεανων.

[kurkosdr]

1 ώρα πριν, Pokemon640 είπε

Σε quad sli θα θες γραμμή για κουζίνα και θερμοσίφωνα μαζί. Και στο μέλλον τριφασικό βιομηχανικό των 60A 😁

Δεν νομίζω να υπάρχουν πλέον μητρικές που να υποστηρίζουν Quad SLI (αν και δεν έχω ψάξει αναλυτικά), Dual SLI ίσως.

Κατά τα λοιπά, μια Αμερικανικού τύπου μπρίζα (115V) υποστηρίζει μέχρι 1800W, οπότε είναι το όριο για single GPU desktop PCs (λογικά οι κατασκευαστές CPU και GPU θα έρθουν σε μια ανεπίσημη συμφωνία σε στυλ gentelmens' agreement). Για Dual SLI στις ΗΠΑ όντως θα θες ειδική παροχή σαν αυτή που έχουν για τους στεγνωτήρες, αλλά ούτως ή άλλως το Dual GPU είναι σπάνιο πλέον εκτός και αν κάνεις GPGPU υπολογισμούς ή επαγγελματικό rendering.

Και εφόσον ο υπολογιστής ο,τι καταναλώνει το βγάζει ως θερμότητα στο περιβάλλον, θα έχεις ένα ωραιότατο αερόθερμο 1800W στο δωμάτιο χειμώνα καλοκαίρι.

[weros]

2 ώρες πριν, kurkosdr είπε

Οι πιο δυνατές Fermi που φτιάχτηκαν (GTX 480 και GTX 580) είχαν TDP μόλις 250W, και η διπλή GTX 590 είχε TDP 365W.

Για σύγκριση, η midrange RTX 4070 Ti έχει TDP 285W και η high-end RTX 4080 έχει TDP 320W (δηλαδή σχεδόν όσο μια διπλή Fermi).

Όταν λέω εγώ ότι ζούμε το boiled frog effect στο θέμα του official overclocking... ότι ήταν εξωπραγματικό πριν μερικά χρόνια τώρα είναι midrange.

Θα στη σερβίρουν σιγά-σιγά και την  GPU των 1000W, αλλά σταδιακά.

Εφόσον τα νανόμετρα πλέον δεν πάνε άλλο αρχίζουν και φτάνουν όλα τα άλλα στα όρια(κατανάλωση ειδικά) μαζι και την συχνότητα που ξεζουμίζουν μέχρι και το τελευταίο Mhz τους ώστε να αποδώσουν 

Οι επόμενες γενιές δυστυχώς ποτε δεν θα εχουν την γλυκα που ειχαμε οταν παιρναμε ενα επεξεργαστη στα 2.5 - 3 Ghz και τον φταναμε 4 - 4.5 ghz ή απο 4 πυρηνο τον ξεκλειδώναμε σε 6 πυρηνο η την καρτα γραφικων που την καναμε Unlock 

Επεξ/σία 13 Μαρτίου από weros

[CheOnWeb]

Χαζεύοντας βιαστικά τους τίτλους, διάβασα: 

Τα νέας γενιάς συστήματα NVIDIA DGX που θα λανσαριστούν σύντομα θα απαιτούν κατάψυξη. 

[kurkosdr]

35 λεπτά πριν, weros είπε

Εφόσον τα νανόμετρα πλέον δεν πάνε άλλο αρχίζουν και φτάνουν όλα τα άλλα στα όρια(κατανάλωση ειδικά) μαζι και την συχνότητα που ξεζουμίζουν μέχρι και το τελευταίο Mhz τους ώστε να αποδώσουν 

Οι επόμενες γενιές δυστυχώς ποτε δεν θα εχουν την γλυκα που ειχαμε οταν παιρναμε ενα επεξεργαστη στα 2.5 - 3 Ghz και τον φταναμε 4 - 4.5 ghz ή απο 4 πυρηνο τον ξεκλειδώναμε σε 6 πυρηνο η την καρτα γραφικων που την καναμε Unlock 

Οι περισσότεροι ούτε που ασχοληθήκαμε με το overclocking, απλά είχαμε ένα PC που δεν έκαιγε όσο μια σόμπα (κυριολεκτικά) και που μπορούσε να μαζέψει και λίγη σκόνη χωρίς να κάνει panic shutdown λόγω υπερθέρμανσης. Τώρα που όπως είπες ο νόμος του Moore είναι στην εντατική αυτό το safety marging δεν υπάρχει πλέον. Βλέπουμε θερμοκρασίες 90°C στις κάρτες γραφικών και το θεωρούμε φυσιολογικό. Προσωπικά έχω ένα λάπτοπ (με GTX 880M) που στο Furmark και το Heaven Benchmark δεν "κόβει" πριν φτάσει τους 90°C ! Και με μια GTX 780M τα ίδια! Ποιο λαμπρό μυαλό το σκέφτηκε αυτό, ήθελα να ήξερα... safety margin κυριολεκτικά μηδέν. Και η desktop RTX 4090 στην founders edition εκδοχή της απ' οτι διαβάζω βαράει 85άρια και αυτό θεωρείται φυσιολογικό(!). Ναι, 85 βαθμοί για desktop CPU φυσιολογικό!

ΥΓ: Ξέρει κανείς πως μειώνεις τα όρια του thermal throttling σε GPU αν δεν σε αφήνει το BIOS;

32 λεπτά πριν, CheOnWeb είπε

Χαζεύοντας βιαστικά τους τίτλους, διάβασα: 

Τα νέας γενιάς συστήματα NVIDIA DGX που θα λανσαριστούν σύντομα θα απαιτούν κατάψυξη. 

Στο παρελθόν υπήρξαν συστήματα υδρόψυξης για υπερυπολογιστές με συμπιεστή (σαν αυτόν που έχουν οι καταψύκτες), που σήμαινε ότι αν κοβόταν το ρεύμα στον υπερυπολογιστή αλλά όχι στο σύστημα ψύξης, το σύστημα ψύξης θα έκανε τον υπερυπολογιστή... κατεψυγμένο:
https://www.computer.org/volunteering/awards/cray/about-cray <-- ψάξε για "encased in ice"

Οπότε μπορεί να ξαναγίνει.

Το πραγματικό ερώτημα είναι ποια πηγή εσόδων θα τροφοδοτήσει όλο αυτή την επένδυση σε hardware και παρελκόμενα (δηλ συστήματα διανομής ισχύος, ψύξης, και κλιματισμού) που γίνεται τώρα. Εδώ υπάρχουν ακόμα εταιρείες του "Web 2.0" όπως το Reddit που δεν έχουν βγάλει ποτέ κέρδος κατά τη διάρκεια της ύπαρξης τους, και τώρα πρέπει να βρεθούν και χρήματα για το AI, σε μια οικονομία που πλέον το χρήμα έχει κόστος (τέρμα οι εποχές των μηδενικών επιτοκίων). Ίδωμεν.

Επεξ/σία 13 Μαρτίου από kurkosdr

[Thresh]

8 minutes ago, kurkosdr said:

Βλέπουμε θερμοκρασίες 90°C στις κάρτες γραφικών και το θεωρούμε φυσιολογικό.

Δεν βλέπουμε τόσο μεγάλες γιατί έχουν 500 κιλά ψύκτρα πλέον. 😛

Ακόμα κι η 4090 πάει μέχρι 70 (hotspot).

[arisikaria]

 Πρωτα αυτο: Μαζί ωστόσο με τη μεγάλη ισχύ -και κατανάλωση ενέργειας  έρχεται και μεγάλη παραγωγή θερμότητας...........  Και μετα πρασινα αλογα και χαρτινα καλαμακια .........

[kurkosdr]

32 λεπτά πριν, Thresh είπε

Δεν βλέπουμε τόσο μεγάλες γιατί έχουν 500 κιλά ψύκτρα πλέον. 😛

Ακόμα κι η 4090 πάει μέχρι 70 (hotspot).

Απ'οτι βλέπω στο ίδιο άρθρο σε μερικές κάρτες οι μνήμες βαράνε 80+ βαθμούς:
https://www.techpowerup.com/review/asus-geforce-rtx-4090-matrix-platinum/35.html
Και αυτό σε συνθήκες εργαστηρίου με τη θερμοκρασία του περιβάλλοντος χώρου στους 21 βαθμούς και μηδέν σκόνη αφού μιλάμε για καινούρια προϊόντα. Όμως μπορεί κάποιος να έχει θερμοκρασία περιβάλλοντος χώρου 27 βαθμούς γιατί δεν είμαστε όλοι ούγκανοι να βάζουμε το aircondition στους 20 βαθμούς το καλοκαίρι και να κυκλοφορούμε εντός σπιτιού με χειμωνιάτικη μπιτζάμπα καλοκαιριάτικα, ούτε ανοίγουμε την GPU κάθε 6 μήνες να την καθαρίσουμε από τη σκόνη. Αν μπεις στο Reddit θα δεις πραγματικούς χρήστες να αναφέρουν 85άρια ή και 90άρια.

Γι'αυτό και ρώτησα παραπάνω πως κάνουμε lower αυτό το ρημάδι το thermal throttling limit. Δεν είμαστε όλοι benchmark freaks να κυνηγάμε το τελευταίο FPS με κόστος το lognevity του hardware μας.

Επεξ/σία 13 Μαρτίου από kurkosdr

[Thresh]

3 minutes ago, kurkosdr said:

Απ'οτι βλέπω στο ίδιο άρθρο σε μερικές κάρτες οι μνήμες βαράνε 80+ βαθμούς:

Μια, Zotac και με Quiet Bios.. ούτε καν η Founders Edition

4 minutes ago, kurkosdr said:

Γι'αυτό και ρώτησα παραπάνω πως κάνουμε lower αυτό το ρημάδι το thermal throttling limit. Δεν είμαστε όλοι benchmark freaks να κυνηγάμε το τελευταίο FPS με κόστος το lognevity του hardware μας.

Κατεβάζεις το Power Limit, οπότε δεν πιάνει τα max watts η κάρτα και κρατιούνται πιο κάτω οι θερμοκρασίες.

[Zergoulini]

Υγροψυξη ή υδροψυξη;;;