Μέσα στο 2026 θα παρουσιαστεί η νέα σειρά επεξεργαστών της Nvidia για εφαρμογές τεχνητής νοημοσύνης

[nepomuk]

18 λεπτά πριν, michael92 είπε

Έχω δοκιμάσει το GPT-4o σε τυποποιημένες ασκήσεις εξετάσεων ισπανικών και γερμανικών και τα πήγε από χάλια έως μέτρια. Τα φροντιστήρια πιο πολύ κινδυνεύουν από τις διάφορες εφαρμογές και τα κανάλια του youtube παρά από την τεχνητή νοημοσύνη. 

Μούφα νούμερα καθώς αναφέρονται σε INT4 performance.

Με το καλημερα και οντας στο πρωινο ακομα , μιλαει - παραμιλαει ολος ο κοσμος για  το GPT -4  και την ΤΝ .

Πεφτει το δεσεκατομυριο της αρκουδας στις επενδυσεις , μεχρι δηλ το τελος της δεκαετιας , μηπως ο δασκαλος

ξενων γλωσσων ειναι καποια μηχανη ; Για δε τις επαγγελματικες μεταφρασεις και διερμηνειες συνδυασμος αυτων ;

Ετσι δεν δειχνει οτι παει το πραμα χαλαρα - χαλαρα;

Επεξ/σία 3 Ιουνίου από nepomuk

[AtiX]

1 ώρα πριν, nepomuk είπε

Περι Τ.Ν δεν γινεται ο λογος και τα τσιπακια που την υποστηριζουν ; Μια απο τις παμπολλες εφαρμογες ειναι και οι γλωσσες .

Δεν νομιζω οτι ενα τσιπακι η μια οικογενεια θα τα κανει ολα . Υπαρχει ψωμι για αρκετους παικτες.

Η κουβέντα ήταν ως προ ποια τσιπάκια ανταγωνίζεται…

Βάζω στοίχημα η nvidia δεν ανταγωνίζεται το φροντιστήριο αγγλικών της γειτονιάς σου… 🙂

[michael92]

8 λεπτά πριν, nepomuk είπε

Με το καλημερα και οντας στο πρωινο ακομα , μιλαει - παραμιλαει ολος ο κοσμος για  το GPT -4  και την ΤΝ .

Πεφτει το δεσεκατομυριο της αρκουδας στις επενδυσεις , μεχρι δηλ το τελος της δεκαετιας , μηπως ο δασκαλος

ξενων γλωσσων ειναι καποια μηχανη ; Για δε τις επαγγελματικες μεταφρασεις και διερμηνειες συνδυασμος αυτων ;

Ετσι δεν δειχνει οτι παει το πραμα χαλαρα - χαλαρα;

Ξέρεις τι γίνεται; Ενώ είμαι από τους πιο απαισιόδοξους, πάλι την πάτησα γιατί νόμιζα θα τα πάει καλύτερα στις τυποποιημένες ασκήσεις multiple choice που του έβαλα. Το hype δηλαδή δεν είναι ανάλογο του αποτελέσματος στην πραγματική χρήση. Γλωσσικό μοντέλο λύνει το πυθαγόρειο αλλά δεν μπορεί να λύσει ασκήσεις που ένας Ισπανός ή Γερμανός μαθητής της πρώτης-δευτέρας γυμνασίου λύνει για πλάκα χωρίς διάβασμα.

Για το τέλος της δεκαετίας απομένουν περίπου 5,5 χρόνια. Με την σημερινή εξέλιξη του hardware, θα δούμε βαρυά βαρυά τετραπλασιασμό του raw FP16 performance. Δεν μπορώ να σου πω τι θα γίνει στο μέλλον, αλλά δεν νομίζω ότι αυτό θα είναι αρκετό. Επίσης, δεν ξέρουμε αν το όλο hype κρατήσει μέχρι τότε.

Μακροπρόθεσμα τα πάντα θα εξαρτηθούν από το αν συνεχίσει να υπάρχει πρόοδος στους ημιαγωγούς, έστω και επιβραδυμένη ή αν θα είναι οικονομικά ασύμφορο το miniaturization από ένα σημείο και μετά. Αν π.χ η SMIC ξεπεράσει την TSMC, τότε σίγουρα θα πέσουν αρκετά λεφτά και ίσως δούμε ένα semiconductor arms race μεταξύ Δύσης-Κίνας.

[ethereum]

αν κάποιος το 2015 είχε επενδύσει 5,000 ευρώ σε μετοχές της nvdia  τώρα θα άξιζαν 1,5 εκατομμύριο 

[StavrosD]

@ethereum

Μην μου το θυμίζεις 😭

Είχα πάρει Nvidia, MS, AMD, Amazon, κλπ. Τις πούλησα όλες πριν λίγα χρόνια για να καλύψω εγχειρήσεις και ιατρικά έξοδα των γονιών μου.

Μόνο που σκέφτομαι την σημερινή αξία κάτι με πιάνει. Τουλάχιστον λύθηκαν τα θέματα υγείας.

Στο θέμα μας τώρα.

Λέτε να δούμε νέες θύρες στις μητρικές για Machine Learning Accellerators, όπως είχε γίνει παλιότερα όταν χρειάστηκαν μεγαλύτερο bandwidth για τις κάρτες γραφικών; Αν ναι, πιθανότατα θα βγουν διάφορα format στην αρχή με την κάθε εταιρεία να θέλει να προωθήσει την δικιά της τεχνολογία για να κονομήσει μετά από τα δικαιώματα. Σε πόσα χρόνια εκτιμάτε ότι θα κατασταλάξει η αγορά;

Για τους νεότερους, κάθε φορά που έφταναν στα όρια την υφιστάμενη τεχνολογία έβγαζαν νέα θύρα. PCI -> AGP -> PCIe.

Ήδη κυκλοφόρησε νέο format για μνήμη στους φορητούς. Για να δούμε τι θα δούμε.

Επεξ/σία 3 Ιουνίου από StavrosD

[adastra]

1 ώρα πριν, michael92 είπε

Μούφα νούμερα καθώς αναφέρονται σε INT4 performance.

Έχω την εντύπωση ότι το αποτέλεσμα μετράει. Ο κόσμος έχει τεράστια ζήτηση για inference (και μιλάω για data center όχι για να ψάχνετε κάποιος στο workstation του)

[michael92]

2 ώρες πριν, adastra είπε

Έχω την εντύπωση ότι το αποτέλεσμα μετράει. Ο κόσμος έχει τεράστια ζήτηση για inference (και μιλάω για data center όχι για να ψάχνετε κάποιος στο workstation του)

Το αποτέλεσμα κρίνεται από τις λεπτομέρειες όμως. Μπορεί σε θέματα που υπάρχουν αρκετά δεδομένα στο trained dataset να μη φαίνεται μεγάλη διαφορά αλλά σε πιο εξειδικευμένα θέματα να υπάρχει χαοτική διαφορά. Το INT8 είναι 16 φορές πιο ακριβές από το INT4, ενώ το FP16 256 φορές πιο ακριβές από το INT8 και 4096 φορές πιο ακριβές από το INT4. Από ένα σημείο και μετά, το quantization tradeoff παραείναι μεγάλο όπως και να το δεις. 

[bazzil]

Έχει πάρει φόρα η nvidia. Σε λίγο εκτός απ την έδρα στον τομέα των γραφικών θα κατέχει και την έδρα στον τομέα της Τ.Ν. Μένει να βγάλει και cpu για τον λαό αλλα μάλλον αυτό δεν τους ενδιαφέρει και τόσο...