Η πλατφόρμα Intel Nervana με βελτιστοποιήσεις και 32GB HBM2 ξεπερνάει σε bandwidth το 1TB/s

[voltmod]

Στο τμήμα έρευνας και ανάπτυξης της Intel εργάζονται πυρετωδώς πάνω στον επερχόμενο Nervana Neural Network Processor, έναν νέο επεξεργαστή που θα ξεπερνάει σε απόδοση σε εφαρμογές Τεχνητής Νοημοσύνης και Μηχανικής Εκμάθησης οποιονδήποτε γενικής χρήσης επεξεργαστή.

Ο Αντιπρόεδρος Hardware του Artificial Intelligence Products Group της Intel, Carey Kloss, έδωσε στη δημοσιότητα στοιχεία για την πρόοδο που έχει σημειώσει τελευταία η Intel πάνω στον επεξεργαστή νευρωνικών δικτύων της.
Ποια είναι η δουλειά ενός επεξεργαστή του είδους; Για να εκπαιδευτεί μία μηχανή χρησιμοποιώντας νευρωνικά δίκτυα απαιτούνται γιγαντιαίες ποσότητες μνήμης και αριθμητικών λειτουργιών προκειμένου να έχουμε κάποιο χρήσιμο αποτέλεσμα στην έξοδο.
Οι μεγάλες δυνατότητες κλιμάκωσης, η κατανάλωση ενέργειας και η μέγιστη αξιοποίηση πόρων αποτελούν τους ακρογωνιαίους λίθους της αρχιτεκτονικής του Intel Nervana, ενός επεξεργαστή που δημιουργήθηκε για να επιταχύνει εφαρμογές Βαθιάς Εκμάθησης και Τεχνητής Νοημοσύνης. Με την Intel να επιθυμεί να μεγιστοποιήσει την εξοικονόμηση ενέργειας, έπρεπε να βρεθεί ένας τρόπος ώστε τα δεδομένα να μην μετακινούνται στο εσωτερικό του συστήματος εκτός και να ήταν απολύτως απαραίτητο.
Αυτό σημαίνει ότι η πλατφόρμα Intel Nervana κατασκευάστηκε για να διατηρεί δεδομένα τοπικά, στο εσωτερικό του. Τα διανυσματικά δεδομένα μπορούν να διαμοιράζονται μεταξύ αρθρωμάτων μνήμης, ώστε να είναι πάντα κοντύτερα όταν απαιτούνται.
Σε αυτό παίζει ρόλο και η χρήση 32GB μνήμης HBM2 με memory bandwidth που ξεπερνάει το 1ΤB/s να είναι διαθέσιμο μεταξύ του die και των εξωτερικών memory banks. Αν και αναμφισβήτητα πρόκειται για ένα εντυπωσιακό νούμερο, το memory bandwidth συνεχίζει να αποτελεί περιοριστικό παράγοντα για τις ροές εργασίας βαθιάς εκμάθησης.

 

Η Intel θα ήθελε να υπήρχε διαθέσιμο ακόμα περισσότερο bandwidth, ωστόσο δεν γινόταν να περιμένει τις τεχνολογίες μνήμης επόμενης γενιάς, και έτσι συμβιβάστηκε με ότι καλύτερο υπήρχε σήμερα, τον τύπο HBM2 (High Bandwidth Memory 2). Ακόμα όμως και ο καλύτερος σημερινός τύπος μνήμης λειτουργούσε περιοριστικά για τη πλατφόρμα Intel Nervana οπότε και έπρεπε να γίνει περισσότερο… δημιουργική λαμβάνοντας ορισμένα μέτρα: έτσι, ο επεξεργαστής Nervana ενσωματώνει τοπικά κάποια αρθρώματα μνήμης μεγέθους 2MB το καθένα (η συνολική ποσότητα μνήμης φτάνει τα 30MB) με την Intel να χρησιμοποιεί λογισμικό για να ελέγξει τη λειτουργία της on-die μνήμης, που φορτώνει δεδομένα από την εξωτερική μνήμη μία φορά, και στη συνέχεια τα διαμοιράζει στα τοπικά αρθρώματα μνήμης. Μειώνοντας τα reads από την εξωτερική μνήμη, και επομένως έχοντας μικρότερη εξάρτηση από την εξωτερική μνήμη βοηθάει να αποτραπεί ο κορεσμός του memory bandwidth, παρέχοντας στην Intel δυνατότητα pre-fetching του επόμενου σετ δεδομένων που απαιτούνται για τη λειτουργία του συστήματος.

 

 

Site: Tweaktown

[saour]

[TheGrisGrisMan]

Σε άλλα νεα:

λίγο μετά το rollout οι ιθύνοντες της Intel παρατήρησαν ότι καποιος designer έκανε ένα ορθογραφικό λαθος σε κάποιο early concept document (e αντί i) και το...μαραφέτι κατέληξε να εχει αυτό το όνομα αντί για το άλλο που του ταιριάζει γάντι

[HeaDChargE]

Samething. Τουλάχιστον προφέρεται το ίδιο!

[Sheogorath]

Καλό νέο, αν είναι ανταγωνιστικό της Volta, θα ρίξει τις τιμές (κάποια στιγμή) σε αυτά τα προιόντα. Τα νευρωνικά αυτήν την φορά (την 3η) δεν θα είναι φούσκα γιατί επιτέλους έχουμε το απαιτούμενο computing power απο πίσω.

 

Μου φτιάξατε την μέρα όπως έπινα τον καφέ μου, ευχαριστώ.

[Noreak]

[anax111]

Σε άλλα νεα: λίγο μετά το rollout οι ιθύνοντες της Intel παρατήρησαν ότι καποιος designer έκανε ένα ορθογραφικό λαθος σε κάποιο early concept document (e αντί i) και το...μαραφέτι κατέληξε να εχει αυτό το όνομα αντί για το άλλο που του ταιριάζει γάντι

 

Το πιθανότερο είναι ότι η εμπορική ονομασία Nirvana ήταν κατοχυρωμένη από άλλη εταιρία για άλλο προϊόν και έτσι δεν μπορούσανε να το χρησιμοποιήσουνε. Το ίδιο έγινε και με το Blu-Ray. Κάποιος που είχε πάρει χαμπάρι την δουλειά  κατοχύρωσε την ονομασία Blue Ray πριν την Sony και μετά ζητούσε μια περιουσία για να πουλήσει την ονομασία στην Sony. H Sony όμως προτίμησε να αλλάξει την ονομασία του προϊόντος παρά να τον κάνει πλούσιο!

[panosveto12]

Στο μέλλον θα δούμε πραγματικούς υπερυπολογιστές στο σπίτι μας .

[aposkama]

Εχεις δει INTEL 8086; Ηδη έχουμε υπερυπολογιστές της προπροηγούμενης δεκαετίας.

[takos]

Καλή προσπάθεια, αλλά υπάρχει μικρή διαθεσιμότητα hbm2 η amd & nvidia περνούν όλη την παραγωγή. Ελπίζω να ανθίσει η παραγωγή αυτού του τύπου μνήμης εκτός της samsung που φτιάχνει να μπουν και άλλες εταιρείες ώστε να καλυφθεί η παραγωγή και να πέσει η τιμή.

[Sheogorath]

Λογικά το κάνανε nervana και όχι nirvana για τα neural networks/νευρωνικα δίκτυα (nevronic (?))

 

Δεν είναι λάθος, αν και ίσως είχανε θέμα με το συγκρότημα Nirvana.

[andreas314p]

Και πότε υπολογίζουν να έρθουν στα σπίτια μα τέτοια θηρία???? Θα προλάβουμε?

[freegr]

Δηλαδή πρόκειται για πλατφόρμα η οποία θα ξεπερνά εφαρμογές εικονικής και επαυξημένες πραγματικότητας για να δουλέψουν βαριές εφαρμογές;

[Sheogorath]

Δεν ειδα να αναφέρει κάτι για vr/ar.

 

Λογικά μόνο για deep learning είναι.

[Human Soul]

Κάνει ζουμ η κάμερα αλλά βλέπω μόνο το κοινό από πίσω.