Το νέο τσιπ της Nvidia για AI υπολογιστές έρχεται τον Σεπτέμβριο του 2025

Σε τι λειτουργικό θα τρέχει το SoC αυτό; Σε android;

Θα τρέχει σε φορητές συσκευές;

Σε business laptops;

30 λεπτά πριν, Mythoplasths είπε

ναι αλλα τα Τ/Μ flops ειναι πραγματική μονάδα μέτρησης , τωρα θα σου ελεγα τι ειναι τα καρε το δευτερόλεπτο. αλλά δεν ξερω ανα πραγματικά μπορείς να το διαχειριστείς..  

ρε πραγματικά είναι όλα....αλλά τα ΑΙ Τ/flops θα μου bootάρουν το υπολογιστή πιο γρήγορα ;  θα loadάρει το παιχνίδι πιο γρήγορα ; θα απογειωθούν τα fps στην 4Κ οθόνη ; μήπως το read/write speed στον SSD θα αλλάξει ; όταν θα βλέπω ταινία σε 4Κ ανάλυση, θα μένει κρύος ο επεξεργαστής να μην λυσσάει το ανεμιστηράκι ;;

τι να το κάνει το 99% των καταναλωτών το AI στο word ας πούμε που θα του γράψει καλύτερα ένα κείμενο ;; ή το AI στο paint....πόσοι "παράγουν" graphics μη επαγγελματικά ; πόσες AI δυνατότητες έχουμε ανάγκη να τρέχουμε "τοπικά" ;

48 minutes ago, Barbattilas said:

Σε τι λειτουργικό θα τρέχει το SoC αυτό; Σε android;

 

Θα τρέχει σε φορητές συσκευές;

 

Σε business laptops;

Windows 

2 ώρες πριν, mxpert είπε

πόσες AI δυνατότητες έχουμε ανάγκη να τρέχουμε "τοπικά" ;

Νομίζω πως αυτή είναι η ερώτηση κλειδί, πόσο είναι χρήσιμος ένας ai επεξεργαστής και πόση απο αυτή την χρησιμότητα είναι marketing,επίσης ακόμα και το τελειότερο προϊόν χωρίς στήριξη (σε αυτή την περίπτωση software) είναι άχρηστο,ας κάνει ο πέτσινος την προσπάθειά του και βλέπουμε.

1 hour ago, cpc464 said:

Νομίζω πως αυτή είναι η ερώτηση κλειδί, πόσο είναι χρήσιμος ένας ai επεξεργαστής και πόση απο αυτή την χρησιμότητα είναι marketing,επίσης ακόμα και το τελειότερο προϊόν χωρίς στήριξη (σε αυτή την περίπτωση software) είναι άχρηστο,ας κάνει ο πέτσινος την προσπάθειά του και βλέπουμε.

Πάντως εγω εχω εφαρμογή που εχω το δικο μου ΑΙ ,σε κινητο android.  Τρεχει τοπικα δηλαδή,  χωρίς χρηση ίντερνετ.  Ενα δικο μου chatgpt ουσιαστικά. Οπότε δεν αποκλείεται στα pc σε λίγο να τρέχουν internal AI, οποτε θα χρειαστούν οι cpu που επιταχύνουν την ΑΙ. Απ την άλλη,  αφου ολοι έχουν ίντερνετ,  μπορεί να τρέχουν τα ΑΙ μεσω ίντερνετ, και να μη χρειαστούν αυτες οι δυνατότητες των cpu., Θα δειξει.

2 ώρες πριν, oldnew είπε

Πάντως εγω εχω εφαρμογή που εχω το δικο μου ΑΙ ,σε κινητο android.  Τρεχει τοπικα δηλαδή,  χωρίς χρηση ίντερνετ.  Ενα δικο μου chatgpt ουσιαστικά. Οπότε δεν αποκλείεται στα pc σε λίγο να τρέχουν internal AI, οποτε θα χρειαστούν οι cpu που επιταχύνουν την ΑΙ. Απ την άλλη,  αφου ολοι έχουν ίντερνετ,  μπορεί να τρέχουν τα ΑΙ μεσω ίντερνετ, και να μη χρειαστούν αυτες οι δυνατότητες των cpu., Θα δειξει.

Για θέματα privacy (και καλά) έχουν λυσσάξει όλοι και βάζουν NPU's στα SOC. Προφανώς και όλος ο πολιτισμένος κόσμος έχει κάποια στοιχειώδη πρόσβαση στο διαδίκτυο και προφανώς μια αναιμική NPU των 30-40 tflops που είναι και το requirement για τα copilot pcs απέχει έτη φωτός από την συνολική δύναμη που παρέχει το cloud με συστοιχίες από nvidia clusters.

3 ώρες πριν, oldnew είπε

Πάντως εγω εχω εφαρμογή που εχω το δικο μου ΑΙ ,σε κινητο android.  Τρεχει τοπικα δηλαδή,  χωρίς χρηση ίντερνετ.  Ενα δικο μου chatgpt ουσιαστικά. Οπότε δεν αποκλείεται στα pc σε λίγο να τρέχουν internal AI, οποτε θα χρειαστούν οι cpu που επιταχύνουν την ΑΙ. Απ την άλλη,  αφου ολοι έχουν ίντερνετ,  μπορεί να τρέχουν τα ΑΙ μεσω ίντερνετ, και να μη χρειαστούν αυτες οι δυνατότητες των cpu., Θα δειξει.

Υπάρχουν πολλές εφαρμογές που τρέχουν σαν internal AI στις mobile συσκευές, όπως text translators, Google maps, Samsung Galaxy AI, Gemini nano κτλ.

Ανάλογα τι κάνει η κάθε εφαρμογή χρησιμοποιεί και τους ανάλογους πόρους από την τοπική cpu, για παράδειγμα οι cpu's των iPhone έχουν τεχνολογία AI εδώ και αρκετά χρόνια (απλά δεν ονόμαζαν μέχρι σήμερα την συγκεκριμένη τεχνολογία ως AI) η οποία χρησιμοποιείται στο face ID , στην επεξεργασία εικόνων κτλ.

Τώρα εάν κάποιος θέλει τον Jarvis η το Chatgpt να τρέχει internal στο κινητό του χωρίς την σύνδεση στο διαδίκτυο, αυτό πρακτικά είναι αδύνατο με την σημερινή τεχνολογία, αφού τα μεγάλα γλωσσικά μοντέλα χρησιμοποιούν και τεράστιες υποδομές για να τρέξουν, οπότε είναι αναγκαία η σύνδεση των διαφόρων apps που τα χρησιμοποιούν με τον κεντρικό τους server που διαμοιράζει τις υπηρεσίες.

14 ώρες πριν, mxpert είπε

στο "δίπλα" μαγαζί που είναι gamers, μετράνε την ισχύ με fps....με κάτι δηλαδή που είναι κατά κάποιο τρόπο κατανοητό και χειροπιαστό. Τώρα τα tflops και τα AI metrics δεν λένε τίποτα στο 99% των καταναλωτών.

Στο δίπλα μαγαζί που είμαστε gamers βλέπουμε κάτι τέτοια πράγματα και μένουμε με γουλωμένα μάτια.

Σε μία δεκαετία δεν θα πιστεύετε τα γραφικά που βλέπετε. Δεν θα είναι προσέγγιση της πραγματικότητας θα είναι πραγματικότητα. 

7 hours ago, Ne0n said:

Τώρα εάν κάποιος θέλει το Chatgpt να τρέχει internal στο κινητό του χωρίς την σύνδεση στο διαδίκτυο, αυτό πρακτικά είναι αδύνατο με την σημερινή τεχνολογία, αφού τα μεγάλα γλωσσικά μοντέλα χρησιμοποιούν και τεράστιες υποδομές .

Πάντως με αυτη την εφαρμογή   https://play.google.com/store/apps/details?id=us.valkon.privateai  εχεις ενα mini chatgpt να τρέχει internal στο κινητό. Και μάλιστα διαλέγεις ποιο νευρωνικο δίκτυο να κατεβάσεις για να χρησιμοποιεις.(θέλει αγορά η εφαρμογή). Συμφωνώ, δεν έχει την ισχύ πχ του chatgpt. Το τεσταρα λιγο πχ του ζήτησα να γράψει στοίχους τραγούδιου στα ελληνικά και το αποτέλεσμα ηταν σαν google translate. Σε αλλα πράγματα όμως στα αγγλικά με εντυπωσίασε, δεν ηξερα οτι με ενα απλο κινητό χωρίς καν ιδιαίτερη υποστήριξη σε ΑΙ απο τον επεξεργαστή είναι εφικτό αυτο. Το. Δοκίμασα σε ενα fold 5.

17 λεπτά πριν, oldnew είπε

Πάντως με αυτη την εφαρμογή   https://play.google.com/store/apps/details?id=us.valkon.privateai  εχεις ενα mini chatgpt να τρέχει internal στο κινητό. Και μάλιστα διαλέγεις ποιο νευρωνικο δίκτυο να κατεβάσεις για να χρησιμοποιεις.(θέλει αγορά η εφαρμογή). Συμφωνώ, δεν έχει την ισχύ πχ του chatgpt. Το τεσταρα λιγο πχ του ζήτησα να γράψει στοίχους τραγούδιου στα ελληνικά και το αποτέλεσμα ηταν σαν google translate. Σε αλλα πράγματα όμως στα αγγλικά με εντυπωσίασε, δεν ηξερα οτι με ενα απλο κινητό χωρίς καν ιδιαίτερη υποστήριξη σε ΑΙ απο τον επεξεργαστή είναι εφικτό αυτο. Το. Δοκίμασα σε ενα fold 5.

Λογικά θα έχει πολύ μικρά libraries, θα το δοκιμάσω αν και έχω την εντύπωση ότι λειτουργεί ως μεταφραστής παρά ως ολοκληρωμένο γλωσσικό μοντέλο.

Για να εγκαταστήσω και να τρέξω την έκδοση του Llama 3.1 70B τοπικά χρειάστηκα 2 Hyper server με 8(x) NVIDIA 40GB κάρτες γραφικών , σε cluster.

Το νέο SoC θα κατασκευαστεί στην προηγμένη τεχνολογία 3nm της TSMC, συνδυάζοντας την τεχνογνωσία της Nvidia στα γραφικά και την τεχνητή νοημοσύνη με την εμπειρία της MediaTek στο σχεδιασμό ολοκληρωμένων κυκλωμάτων.

εδώ με χάσατε λίγο. Δεν έχει εμπειρία η Nvidia στο σχεδιασμό ολοκληρωμένων κυκλωμάτων?

Η mediatek ανώτερη από την nvidia και qualcom στο κομμάτι ολοκληρωμένου κυκλώματος? Δεν καταλαβαίνω εγώ μάλλον καλά τι ακριβώς εννοεί.

2 hours ago, Ne0n said:

Λογικά θα έχει πολύ μικρά libraries, θα το δοκιμάσω αν και έχω την εντύπωση ότι λειτουργεί ως μεταφραστής παρά ως ολοκληρωμένο γλωσσικό μοντέλο.

Για να εγκαταστήσω και να τρέξω την έκδοση του Llama 3.1 70B τοπικά χρειάστηκα 2 Hyper server με 8(x) NVIDIA 40GB κάρτες γραφικών , σε cluster.

Εννοείται ότι είναι όπως τα λες. Απλα και πάλι είναι εντυπωσιακό αυτο που έχουν κάνει.

Δουλεύει κανονικά σαν το chatgpt, αν αυτό εννοείς, μου φαίνεται πληρη γλωσσικό μοντέλο απλα σίγουρα εχει μικρα libraries για να μπορεί να δουλεύει σε τόσο χαμηλό hardware, δε μου φαίνεται για μεταφραστης. 

Κυκλοφορεί και "δωρεάν" το συγκεκριμένο αν θες απλά να το δοκιμάσεις. Αν ψάξεις θα το βρεις. 

7 ώρες πριν, georgiosmag είπε

Το νέο SoC θα κατασκευαστεί στην προηγμένη τεχνολογία 3nm της TSMC, συνδυάζοντας την τεχνογνωσία της Nvidia στα γραφικά και την τεχνητή νοημοσύνη με την εμπειρία της MediaTek στο σχεδιασμό ολοκληρωμένων κυκλωμάτων.

εδώ με χάσατε λίγο. Δεν έχει εμπειρία η Nvidia στο σχεδιασμό ολοκληρωμένων κυκλωμάτων?

Η mediatek ανώτερη από την nvidia και qualcom στο κομμάτι ολοκληρωμένου κυκλώματος? Δεν καταλαβαίνω εγώ μάλλον καλά τι ακριβώς εννοεί.

Κατά πάσα πιθανότητα όλο αυτό το γλύψιμο γίνεται για τις άδειες που έχει η Mediatek και δεν έχει η Nvidia…

16 ώρες πριν, vste είπε

Στο δίπλα μαγαζί που είμαστε gamers βλέπουμε κάτι τέτοια πράγματα και μένουμε με γουλωμένα μάτια.

Σε μία δεκαετία δεν θα πιστεύετε τα γραφικά που βλέπετε. Δεν θα είναι προσέγγιση της πραγματικότητας θα είναι πραγματικότητα. 

 

 

Πάνω στην ώρα είδα ότι βγήκε αυτό: