Δεκαπλάσια απόδοση έχει ένα notebook με Snapdragon X Elite σε εφαρμογές AI σε σύγκριση με ένα με Intel Core Ultra

[polemikos]

Η Qualcomm δημοσίευσε πρόσφατα ένα σύντομο βίντεο που δείχνει έναν φορητό υπολογιστή Snapdragon X Elite να ξεπερνά σε επιδόσεις έναν φορητό υπολογιστή με Intel Core Ultra 7 έως και κατά 10 φορές σε φόρτους εργασίας AI.

Σύμφωνα με την περιγραφή του βίντεο, ο φορητός υπολογιστής με Snapdragon X Elite προσφέρει «μια πρωτοποριακή NPU απόδοσης 45 TOPS που παρέχει απαράμιλλες δυνατότητες AI». Οι δοκιμές NPU (μονάδα νευρωνικής επεξεργασίας) που διεξήγαγε η Qualcomm περιλάμβαναν τη δημιουργία εικόνων AI στα προγράμματα Stable Diffusion και το GIMP. Όπως θα περιμένατε, στις δοκιμές πραγματοποιήθηκαν σε τοπικό επίπεδο και on-device με τους ενσωματωμένους επεξεργαστές και όχι βεβαίως στο cloud.

Το βίντεο δείχνει αρχικά τους δύο υπολογιστές δίπλα-δίπλα να τρέχουν ένα πρότζεκτ με το Stable Diffusion. Ο φορητός υπολογιστής που βασίζεται στην πλατφόρμα Snapdragon X Elite ολοκλήρωσε την εργασία δημιουργίας μίας εικόνας με καλοκαιρινά φρούτα σε 7,25 δευτερόλεπτα την ώρα που όταν ο φορητός υπολογιστής με Intel Core Ultra 7 χρειάστηκε 22,26 δευτερόλεπτα για να ολοκληρώσει τη δημιουργία της εικόνας μετά από την ίδια προτροπή.

Η Qualcomm έδειξε να είναι δίκαιη στο συγκριτικό με το Stable Diffusion. Όπως μπορείτε να δείτε και από το παρακάτω στιγμιότυπο, οι μηχανικοί της εταιρείας φρόντισαν ώστε η έκδοση 1.5 της γεννήτριας εικόνων να «τρέχει στην πλέον αποδοτική διαμόρφωση» για την πλατφόρμα της Intel, «μοιράζοντας» την επεξεργασία μεταξύ της κεντρικής μονάδας Meteor Lake, της NPU και της GPU ανάλογα με την περίπτωση. Παρόλα αυτά, πρέπει να επισημανθεί ότι το μηχάνημα της Qualcomm φαίνεται να έχει επωφεληθεί από μια ειδικά βελτιστοποιημένη έκδοση του Stable Diffusion. Πιο συγκεκριμένα, και τα δύο, Stable Diffusion και Fast Stable Diffusion που «έτρεχαν» στον υπολογιστή με Snapdragon X Elite ήταν v1.5. Το σύστημα Intel Core Ultra 7 «έτρεχε» επίσης το Stable Diffusion v1.5 και είχε διαμορφωθεί βάσει των GitHub - GIMP AI plugins με OpenVINO Backend και Οδηγός Χρήσης για χρήστες windos · GitHub.

Η Qualcomm «έστησε» τα δύο μηχανήματα για να δημιουργήσουν και εικόνες τεχνητής νοημοσύνης με το GIMP. Αυτή τη φορά, η προτροπή ήταν «ένα μεγαλοπρεπές λιοντάρι που λιάζεται στον χρυσό απογευματινό ήλιο» με τα δύο μηχανήματα να ξεκινούν ταυτόχρονα αλλά τελικά να βλέπουμε το plugin AI του μηχανήματος με την πλατφόρμα Snapdragon X Elite που χρησιμοποιεί το AI Stack της Qualcomm να ολοκληρώνει την επεξεργασία σε ένα κλάσμα του χρόνου που χρειάστηκε το plugin OpenVINO της Intel για να ολοκληρώσει την ίδια εργασία. Η Qualcomm ισχυρίζεται ότι ο επεξεργαστής της απόδοσης 45 TOPS ξεπερνά τον αντίπαλο x86 καθώς μπορεί να παράγει 10X περισσότερες εικόνες στο ίδιο χρονικό διάστημα.

Δεν αποτελεί πάντως και μεγάλη έκπληξη που βλέπουμε την πλατφόρμα της Qualcomm να ξεπερνά σε απόδοση εκείνη της Intel όσον αφορά την ενσωματωμένη μονάδα νευρωνικής επεξεργασίας. Η Qualcomm κάνει λόγο για 45 TOPS όσον αφορά την απόδοση NPU της πλατφόρμας Snapdragon X Elite σε φόρτους εργασίας AI όταν επισήμως η Intel υπόσχεται έως και 34 TOPS με τη σειρά επεξεργαστών Core Ultra.

Η οικογένεια Meteor Lake σηματοδότησε την εμπορική διάθεση των πρώτων επεξεργαστών της Intel με ενσωματωμένη NPU με την εταιρεία να έχει ήδη «βάλει πλώρη» να αυξήσει σημαντικά τις επιδόσεις με την επόμενη γενιά - Arrow Lake (Desktop) και Lunar Lake (Laptop). Πιο συγκεκριμένα, πραγματοποιώντας βελτιώσεις σε επίπεδο αρχιτεκτονικής στις NPU και GPU, η Intel υπόσχεται έως και τριπλάσια απόδοση σε φόρτους εργασίας ΑΙ. Στην περασμένη έκθεση CES, η Intel έκανε γνωστό ότι οι παραπάνω επεξεργαστές που αναμένεται να κυκλοφορήσουν αργότερα φέτος βρίσκονταν στα τελικά στάδια της ανάπτυξης.

Να σημειωθεί ότι αντίστοιχα demo πραγματοποιεί η εταιρεία αυτή την εβδομάδα στο MWC 2024 που διεξάγεται στη Βαρκελώνη, με εντυπωσιακά εξίσου αποτελέσματα.

Διαβάστε ολόκληρο το άρθρο

[Othal]

Αυτη η πρεμουρα με το ΑΙ μονο εμενα καταλαμβανει το 1% του συνολικού ενδιαφέροντος μου για την τεχνολογία ή το χουν κι αλλοι? Εξετάζω τις συνεπειες του να πενηνταριζεις οχι τιποτα αλλο. 

[manolis940]

20 λεπτά πριν, Othal είπε

Αυτη η πρεμουρα με το ΑΙ μονο εμενα καταλαμβανει το 1% του συνολικού ενδιαφέροντος μου για την τεχνολογία ή το χουν κι αλλοι? Εξετάζω τις συνεπειες του να πενηνταριζεις οχι τιποτα αλλο. 

Γενικά είναι κάτι που μπαίνει όλο ένα μέσα σε softwares. Πχ το photoshop πλέον έχει AI Assistant που κάνει θελήματα για σένα. Από το δημιούργησε μου αυτό μέχρι το σβήσε μου το σύννεφο στην στο x σημείο. Είναι λοιπόν σημαντικό να υπάρχει και το ανάλογο hardware που θα μπορεί να διαχειριστεί τέτοια αιτήματα.

[Bourdoulas]

Κάθε ήττα της Intel είναι νίκη για την ανθρωπότητα 😛

[MariosX]

Τελικά όπως πάει δεν θα αγοράσω νέο PC ποτέ. Χρειάζεται να αγοράσω ένα PC γιατί ξεκινάω μεταπτυχιακό που σχετίζεται με τεχνητή νοημοσύνη αλλά με τις εξελίξεις, συνέχεια αλλάζω γνώμη 

[oldnew]

2 hours ago, Othal said:

Αυτη η πρεμουρα με το ΑΙ μονο εμενα καταλαμβανει το 1% του συνολικού ενδιαφέροντος μου για την τεχνολογία ή το χουν κι αλλοι? Εξετάζω τις συνεπειες του να πενηνταριζεις οχι τιποτα αλλο. 

Αυτή τη στιγμή είναι κυρίως μάρκετινγκ. Δε θα με ενδιέφερε ιδιαίτερα οι ΑΙ δυνατότητες ενος επεξεργαστή για τα προσεχή 5 χρόνια. Στο μέλλον θα γίνουν διαφορετικα τα πράγματα και η ΑΙ θα παίξει τεράστιο ρολο. 

Και επειδή 50ριζω και εγω, ο δημιουργός του επεξεργαστή του commodore 64 (1 mhz 64kb) το έφτιαξε λόγω της αγάπης του για τα ρομπότ που έβλεπε σε ταινίες επιστ. φαντασίας με στόχο μια μερα να δημιουργήσει ρομπότ. Εκείνη την εποχή το μόνο που έκανε είναι να παίξει παιχνίδια, αλλά μια μερα η εξέλιξη αυτών των επεξεργαστών θα κινήσει ρομπότ στα αληθεια. 

[Mythoplasths]

Πρεμουρα για επεξ με ΑΙ  πρώτης γενιάς.. Που όταν και συμβεί υπαρκτό ΑΙ στο εμπόριο αυτοί όχι απλά θα είναι ξεπερασμένοι αλλά μουσειακά κομμάτια... Αλλά θα μ πεις.. Ποιος ξέρει.. Και ποιος χεστ%κε.. Πουλά ΑΙ μέχρι να βρεθεί κάτι άλλο... Φιλάκια. 

5 ώρες πριν, Othal είπε

Αυτη η πρεμουρα με το ΑΙ μονο εμενα καταλαμβανει το 1% του συνολικού ενδιαφέροντος μου για την τεχνολογία ή το χουν κι αλλοι? Εξετάζω τις συνεπειες του να πενηνταριζεις οχι τιποτα αλλο. 

Πρώτης γενιάς είναι... Όταν και αφού.. Θα είναι για το μουσείο. Εγώ που δεν είμαι 50 πάλι φούσκα το βλέπω.. Αλλά τα προϊόντα πληροφορικής πρώτιστος είναι εμπορικά προϊόντα και μετά κάτι άλλο 

Και αν δεν πουλήσουν τώρα ΑΙ που είναι το φρέσκο κουλούρι.. Τι θα πουλήσουν; πύρινες; το αεμεξαν. Γιγα Χερτζ; 20 χρόνια πούλαγε η ιντελα Χερτζ.. Οθόνες; πόσο άλλο... Μεγάλους δίσκου;;; όχι... ΑΙ 10 καταλαβαίνουν 90 τρώνε τον παπά... ΤΌΣΟ ΑΠΛΆ αδερφέ. 

[Volga]

15 ώρες πριν, Othal είπε

Αυτη η πρεμουρα με το ΑΙ μονο εμενα καταλαμβανει το 1% του συνολικού ενδιαφέροντος μου για την τεχνολογία ή το χουν κι αλλοι? Εξετάζω τις συνεπειες του να πενηνταριζεις οχι τιποτα αλλο. 

Εχει αλλάξει τα πάντα.

Αν ξέρεις να το κάνεις κτήμα σου και να το χρησιμοποιήσεις κατάλληλα, δεν υπάρχει μεγαλύτερη επανάσταση στους Η/Υ.

[pirmen56]

15 ώρες πριν, manolis940 είπε

Γενικά είναι κάτι που μπαίνει όλο ένα μέσα σε softwares. Πχ το photoshop πλέον έχει AI Assistant που κάνει θελήματα για σένα. Από το δημιούργησε μου αυτό μέχρι το σβήσε μου το σύννεφο στην στο x σημείο. Είναι λοιπόν σημαντικό να υπάρχει και το ανάλογο hardware που θα μπορεί να διαχειριστεί τέτοια αιτήματα.

Υπάρχει ήδη. Είναι τα cuda cores. Το τελευταίο Office τα αξιοποιεί για την εκφώνηση κειμένου. Ας μείνουν τα CPU στον αρχικό τους σκοπό, την γενικών καθηκόντων επεξεργασία. Εκεί βαλτώσαμε.

[Volga]

10 ώρες πριν, Mythoplasths είπε

Πρεμουρα για επεξ με ΑΙ  πρώτης γενιάς.. Που όταν και συμβεί υπαρκτό ΑΙ στο εμπόριο αυτοί όχι απλά θα είναι ξεπερασμένοι αλλά μουσειακά κομμάτια... Αλλά θα μ πεις.. Ποιος ξέρει.. Και ποιος χεστ%κε.. Πουλά ΑΙ μέχρι να βρεθεί κάτι άλλο... Φιλάκια. 

Πρώτης γενιάς είναι... Όταν και αφού.. Θα είναι για το μουσείο. Εγώ που δεν είμαι 50 πάλι φούσκα το βλέπω.. Αλλά τα προϊόντα πληροφορικής πρώτιστος είναι εμπορικά προϊόντα και μετά κάτι άλλο 

Και αν δεν πουλήσουν τώρα ΑΙ που είναι το φρέσκο κουλούρι.. Τι θα πουλήσουν; πύρινες; το αεμεξαν. Γιγα Χερτζ; 20 χρόνια πούλαγε η ιντελα Χερτζ.. Οθόνες; πόσο άλλο... Μεγάλους δίσκου;;; όχι... ΑΙ 10 καταλαβαίνουν 90 τρώνε τον παπά... ΤΌΣΟ ΑΠΛΆ αδερφέ. 

Είναι κάπως απαισιόδοξο αυτό που γράφεις.

Έχει πολλές χρήσεις. Να πω μερικά παραδείγματα

Παράδειγμα 1: Άνοιξα ένα pdf που είχε τα ένσημα μου, χάλια δομή (κλασικό δημόσιο έγγραφο).

Ερώτηση στο Microsoft CoPilot: "Στο ανοιχτό έγγραφο δίπλα, μπορείς να μου βγάλεις ως σύνολα εξαμήνου τα ένσημα και να μου φτιάξεις ένα νέο πίνακα με τα σύνολα ανά μήνα;

Παράδειγμα 2: Πελάτης μου στέλνει 3 σελίδες κείμενο να το περάσω στο site του. Όλα κεφαλαία, χωρίς τόνους.  Καμία  σωστή στοίχιση (για να φέρει τίτλο στο κέντρο, πάταγε space μέχρι να το φέρει εμπειρικά στο κέντρο στη δική του οθόνη) και άπειρα ορθογραφικά λάθη.

..Μάντεψε ποιος επιμελήθηκε σωστά το κείμενο και μου το έδωσε στο πιάτο σε 1 λεπτό.

Παράδειγμα 3: Φτιάχνουμε μια εφαρμογή που ψάχνει live τη σελίδα του ιστότοπου και τραβάει κείμενο που περιέχει συγκεκριμένες λέξεις και θεματολογία, για ανάλυση. Είχαμε κολλήσει σε μια function που δεν δούλευε σωστά. Κοιτάζαμε 3 άνθρωποι και δεν βγάζαμε άκρη. Βάλαμε τη function για έλεγχο σε σύστημα AI. Μας βρήκε το λαθάκι, μας έγραψε και ένα ωραίο documentation με comments σε κάθε σημείο και τελειώσαμε.

Η ΑΙ, θα γίνει η εξέλιξη του σημερινού UI όπως τα ξέρουμε. Δεν θα χρειάζεσαι μενού ρυθμίσεων και start menu κλπ. Δες λίγο μπροστά και θα δεις οτι θα μπορείς να λες στον υπολογιστή σου οτι χρειάζεται να σου κάνει αυτό και να αλλάξει εκείνο και να συμπεριφερθεί ετσι. Είμαστε  αρχή σε μια τεράστια αλλαγή.

Θα βρεθεί εταιρεία που θα βγάλει λειτουργικό με απλώς μια οθόνη με background.