Η Meta θα αγοράσει 350.000 H100 GPU της Nvidia αξίας άνω των 10 δισεκατομμυρίων δολαρίων

[nchatz]

Ο Mark Zuckerberg μοιράστηκε μερικές ενδιαφέρουσες πληροφορίες σχετικά με την ανάπτυξη της υποδομής τεχνητής νοημοσύνης της Meta, η οποία θα περιλαμβάνει έναν εκπληκτικό αριθμό H100 Tensor GPU της NVIDIA. 

Στην ανάρτηση του στο Instagram, ο διευθύνων σύμβουλος της Meta σημείωσε τα εξής: «Αυτή τη στιγμή εκπαιδεύουμε το μοντέλο επόμενης γενιάς Llama 3, και χτίζουμε μαζική υπολογιστική υποδομή για να υποστηρίξουμε τα μελλοντικά μας σχέδια, συμπεριλαμβανομένων 350k H100s μέχρι το τέλος του τρέχοντος έτους - και συνολικά σχεδόν 600k H100s ισοδύναμα υπολογισμού αν συμπεριλάβετε άλλες GPUs". Αυτό σημαίνει ότι η εταιρεία θα ενισχύσει την υποδομή AI με 350.000 Nvidia H100 GPU πάνω από τις υπάρχουσες GPU, οι οποίες φτάνουν τον αριθμό των 250.000 (και πάλι H100). Έτσι ο συνολικός αριθμός των H100 GPU της Nvidia που θα διαθέτει η Meta στο τέλος του έτους, υπολογίζεται στις 600.000, ένας τεράστιος αριθμός κατά γενική ομολογία.

Ο αριθμός πάντως, αναμενόμενα έρχεται με ένα υψηλό τίμημα. Με τη μέση τιμή πώλησης μιας H100 GPU να πλησιάζει τα 30.000 δολάρια, η επένδυση της Meta θα στοιχίσει στην το αστρονομικό ποσό των 10,5 δισεκατομμυρίων δολαρίων. Στην υποδομή της Meta θα πρέπει να υπάρχουν και άλλες GPU, όμως οι περισσότερες θα περιλαμβάνουν την οικογένεια NVIDIA Hopper. Επιπλέον, η Meta εκπαιδεύει επί του παρόντος το μοντέλο τεχνητής νοημοσύνης LLama 3, το οποίο θα είναι πολύ πιο ικανό από την υπάρχουσα οικογένεια LLama 2 και θα περιλαμβάνει καλύτερες δυνατότητες συλλογισμού, κωδικοποίησης και επίλυσης μαθηματικών προβλημάτων.

Τα μοντέλα αυτά  όπως έχει διευκρινίσει η εταιρεία θα είναι ανοικτού κώδικα και θα κάνουν την εμφάνισή τους στο GitHub. Αργότερα, καθώς η τεχνητή γενική νοημοσύνη (AGI) αναμένεται να μπει στο παιχνίδι, ο Zuckerberg σημειώνει ότι «το μακροπρόθεσμο όραμά μας είναι να δημιουργήσουμε τη γενική νοημοσύνη, να την ανοίξουμε με υπευθυνότητα και να την κάνουμε ευρέως διαθέσιμη, ώστε όλοι να μπορούν να επωφεληθούν». 

Διαβάστε ολόκληρο το άρθρο

[MetaTech]

Μετά από αυτό μην περιμένετε να τρέξουν να μαζέυουν τα ψιλά με τις gaming gpu .. ξέρετε τώρα πόση έμφαση θα δώσει η NVIDIA για παραγωγή RTX και τι επιπτώσεις θα έχει μια μικρή παραγωγή στις τιμές των GPU.

Κάτω από 1000ρικο high-end κάρτα δύσκολα παιδιά! 

Επεξ/σία 19 Ιανουαρίου από MetaTech

[Retromaniac]

Νέα άνοδος των τιμών. Εκεί που καθαρίσαμε από mining, κορωνοιούς, scalpers κτλ μας έκατσε το AI.

Σχεδόν όλη η παραγγελία της nvidia για chip στην TMSC θα πάει για το ζαγκερμπεκούλι...

Πάρτε ό,τι μπορείτε τώρα.

[SpidermanGR]

πάρτε όσο προλαβαίνετε και όσοι μπορείτε.. Πάρτε PS5\Xbox.. Κάτι να έχετε να πατάτε play και να γουστάρετε gaming.. έρχεται ο επόμενος χειμώνας όλοι μέσα 

Επεξ/σία 19 Ιανουαρίου από SpidermanGR

[lemond]

 

Αυτο ακριβως, τιποτα αλλο!

[poulinos]

but can it run Crysis?

[karma_nade]

Με λίγα λόγια θα μπορούμε να σας καίμε τον εγκέφαλο με το γάντι ,   Αφού έτσι και αλλιώς ότι σκουπίδι βγαίνει το τρώτε αμάσητο.  Ένα ακόμα checkbox θα είναι σε ότι έτσι και αλλιώς αποδέχεστε έως τώρα. 

[cpc464]

Πρόκειται για πραγματικά δυνατό hardware σε σημείο που δεν ξέρω αν υπάρχει ανταγωνιστικό προϊόν.

[panther_512]

6 minutes ago, cpc464 said:

Πρόκειται για πραγματικά δυνατό hardware σε σημείο που δεν ξέρω αν υπάρχει ανταγωνιστικό προϊόν.

 

11 minutes ago, cpc464 said:

 

Γεια σου, αυτός είναι ο Bing. Μπορώ να σε βοηθήσω με την ερώτησή σου. 😊

Η ερώτησή σου είναι πολύ ενδιαφέρουσα, αλλά δεν υπάρχει μια απλή απάντηση. Ο H100 της Nvidia είναι ένας πολύ ισχυρός επεξεργαστής για εφαρμογές τεχνητής νοημοσύνης, αλλά αντιμετωπίζει όλο και περισσότερο ανταγωνισμό από άλλες εταιρείες και προϊόντα.

Για παράδειγμα, η ίδια η Nvidia παρουσίασε το H200, ένα νέο μοντέλο στη μονάδα επεξεργασίας γραφικών (GPU) που έχει σχεδιαστεί για την εκπαίδευση και την ανάπτυξη των ειδών μοντέλων τεχνητής νοημοσύνης¹. Το H200 θα αποκτήσει τη δυνατότητα να χρησιμοποιεί μνήμη υψηλού εύρους ζώνης (HBM3e) ώστε να αντιμετωπίζει καλύτερα τα μεγάλα σύνολα δεδομένων που απαιτούνται για την ανάπτυξη και την εφαρμογή της τεχνητής νοημοσύνης¹. Οι εταιρείες αναμένεται να αρχίσουν να χρησιμοποιούν το H200 το δεύτερο τρίμηνο του 2024¹.

Επίσης, η Advanced Micro Devices (AMD) φέρνει στην αγορά το αντίπαλο τσιπ MI300 το τέταρτο τρίμηνο του 2023² και η Intel ισχυρίζεται ότι το μοντέλο Gaudi 2 είναι ταχύτερο από το H100². Αυτά τα τσιπ μπορεί να προσφέρουν καλύτερη απόδοση, χαμηλότερο κόστος ή μεγαλύτερη ενεργειακή απόδοση από το H100, ανάλογα με την εφαρμογή και την αρχιτεκτονική.

Επιπλέον, υπάρχουν και άλλες εναλλακτικές λύσεις για την επιτάχυνση των εφαρμογών τεχνητής νοημοσύνης, όπως οι ειδικοί επεξεργαστές AI (ASICs) ή οι προσαρμοσμένοι επεξεργαστές AI (CPUs). Για παράδειγμα, η startup στο τομέα της ΤΝ, που υποστηρίζεται από τη Microsoft, D-Matrix, κατασκεύασε μια μοναδική υπολογιστική πλατφόρμα, γνωστή ως Corsair C8, η οποία μπορεί να διεκδικήσει με αξιώσεις τον εκτοπισμό της κορυφαίας GPU H100 της Nvidia⁴.

Συνεπώς, η απάντηση στην ερώτησή σου εξαρτάται από πολλούς παράγοντες, όπως τον τύπο και το μέγεθος της εφαρμογής τεχνητής νοημοσύνης που θέλεις να χρησιμοποιήσεις, τον προϋπολογισμό και την κατανάλωση ενέργειας που έχεις, και την διαθεσιμότητα και την συμβατότητα των διαφορετικών επεξεργαστών στην αγορά. Ελπίζω να σε βοήθησα να καταλάβεις καλύτερα το θέμα. 😊

 

[6xXx6]

Το metavers υπάρχει ακόμα?

[scorpion8283]

Το βρισκω εξαιρετικο.

Δηλαδη θα τρεχουμε facebook με DLSS 3.5

4k selfies upscaling χωρις artifacts ομως ετσι...

Και φωτισμος απο τα clubακια στα stories με pathtracing! Ανυπομονω

.

🥸

 

[mAs_81]

[Diavolos666]

53 minutes ago, 6xXx6 said:

Το metavers υπάρχει ακόμα?

Εγώ απορώ που υπάρχει ακόμα facebook, κάτι γιαγιάδες και θείες θα είναι ακόμα μέσα.

[anax111]

350.000 H100;;;;😲 Δώσε και τα μας καμία μπαρμπα-Ζουγκ!

[Mythoplasths]

2 ώρες πριν, Retromaniac είπε

Νέα άνοδος των τιμών. Εκεί που καθαρίσαμε από mining, κορωνοιούς, scalpers κτλ μας έκατσε το AI.

Σχεδόν όλη η παραγγελία της nvidia για chip στην TMSC θα πάει για το ζαγκερμπεκούλι...

Πάρτε ό,τι μπορείτε τώρα.

Δεν θα υπάρχει καμία άνοδος τιμών. Θα αυξήσουν παραγωγή. Αυτό που έγινε με το κωρονα ήταν επιδει έκλεισαν τα πάντα και δεν είχα παραγωγή ή είχαν μειωμένη. Οι μαυραγωρητες ευδοκιμούν όταν υπάρχει ελλείψεις. Τι θα κάνουν δλδ θα αγορασουν 2 εκατομυρια κάρτες από ολλο τον πλανήτη να κάνουν τεχνική ελλείψη;;; η παραγωγή της 4000 kai 7000 είναι προσχέδιασμενη εδώ και 2 χρόνια... Τι θα κάνουν θα σπάσουν συμβόλαια τρις ευρώ για να αλλάξουν σειρά παραγωγής; πλακιτσα κάνουμε? Φιλικά πάντα.