Ενώ εξελίσσει σειρά εργαλείων τεχνητής νοημοσύνης, η Apple εξακολουθεί να τηρεί διαφορετική στάση στον τομέα αυτό σε σχέση με τον ανταγωνισμό

[cat1967]

Ρωτάτε αν μπορεί να κάνει κάτι; Όπως με το αυτοκίνητο. 

[StavrosD]

1 ώρα πριν, apikoulas είπε

Συγκρίνεις εντελώς ανόμοια πράγματα.

Πρώτον, σήμερα παίρνεις Nvidia 3090 (με 24GB VRAM) μεταχειρισμένη με 500-700 ευρώ (εδώ στο insomnia), και την κοτσάρεις σε ένα oποιοδήποτε PC των ~500 ευρώ (αρκεί να έχει 850 watt τροφοδοτικό). Για κάντο αυτό σε Mac.

Δεύτερον, η 4090 είναι τέρας επιδόσεων, δε συγκρίνεται με το M2/M3 all-in-one τσιπάκι της Apple, είτε σε games είτε σε AI workloads.

Άρα η σύγκριση σου είναι άκυρη, είναι σαν να λες "μη παρετε αμάξι, πάρτε μια μηχανή, γιατί είναι πιο ευέλικτη, γρήγορη και φτηνότερη". Οκ, για κουβάλα την τηλεόραση στο εξοχικό με τη μηχανή...

Παραθέτω και αυτό https://appleinsider.com/articles/23/12/13/apple-silicon-m3-pro-blows-away-nvidia-rtx-4090-gpu-in-ai-benchmark που δείχνει (στο 2ο τεστ) πως η 4090 έκανε σε 8'' αυτό που το M3 Max έκανε σε 100''

Μια εταιρεία ή ένας επαγγελματίας δεν θα αγοράσει μεταχειρισμένη GPU. Είναι κοινό μυστικό ότι οι περισσότερες GPU της περασμένης γενιάς χρησιμοποιήθηκαν για mining, είναι αμφιβόλου ποιότητας και είναι θέμα χρόνου να τα φτύσει μια μεταχειρισμένη 3090, συνεπώς θα πάει σε καινούργια κάρτα γραφικών.

Η 4090 είναι πιο γρήγορη από τον M3 εφόσον το μοντέλο χωράει στην μνήμη της (ή στις περισσότερες από μία 4090) .

Αν το μοντέλο δεν χωράει στην μνήμη της GPU και γίνεται split στην RAM και χρησιμοποιεί και την CPU τότε ένας Mac με M2 ή M3 και αρκετή μνήμη είναι κατά πολύ πιο γρήγορος.

Αν το μοντέλο δεν χωράει στην VRAM και RAM τότε ουσιαστικά δεν τρέχει. Έχω δει κάποιες πατέντες που το τρέχουν από τον δίσκο αλλά η ταχύτητα ενός NVME είναι ασύγκριτα χαμηλότερη από την RAM και την VRAM, στην πράξη είναι μόνο για proof of concept.

 

Ο M2  Ultra έχει σχεδόν την μισή υπολογιστική ισχύ σε σχέση με την H100 η οποία είναι απλά τέρας επιδόσεων και πανάκριβη. Μια H100 με 80GB κοστίζει 20Κ (χώρια το κόστος για την ψύξη, προορίζεται για server).

https://huggingface.co/blog/lyogavin/airllm-mac

 

Δεν λέω ότι σε όλες τις περιπτώσεις συμφέρει ο Mac αλλά υπάρχει ένα εύρος στο mid level AI development και inference που τα Mac μονοπωλούν το Value for money.

 

Επεξ/σία 4 Μαΐου 2024 από StavrosD

[filip123go]

3 hours ago, atypicalcoder said:

Λογικό είναι γιατί ξέρει ότι είναι απλά ένα hype που κάποια στιγμή θα κουράσει, απλά σου λέει αν μια στο τόσο πετύχει ας είμαι μέσα.

Spoiler

Και για το internet στα  90s τα ίδια έλεγαν ....

 

[bazzil]

τηλέφωνα πουλάει. Δεν είναι εταιρεία λογισμικού

[endeavour]

3 hours ago, atypicalcoder said:

Λογικό είναι γιατί ξέρει ότι είναι απλά ένα hype που κάποια στιγμή θα κουράσει,

Μαζί με την ηλεκτροκίνηση ....

[jimarass26]

Σε μια κοινωνία και οικονομια που βασίζεται σε αγορά και πώληση αγαθών, δλδ πέρα από πωλητές (AI), να υπάρχουν και αγοράστες (non AI), η χρησιμότητα της AI πέρα από προσωπικού βοηθού είναι ανύπαρκτη. Η ΑΙ δεν ενδιαφέρεται να αγοράσει προϊόντα και η αντικατάσταση   μιας θέσης εργασίας χωρίς δημιουργία νέας, αφαιρεί από την αγορά έναν ακόμα αγοραστή. Επομενως είτε πρέπει να αποδεχτούμε πως ο ανταγωνισμός έχει ταβάνι και δεν χρειάζεται να πάμε πιο γρήγορα και πιο αποδοτικά (μέσω ΑΙ) , είτε αλλάζουμε οικονομικό μοντέλο σε κάτι πιο σοσιαλιστικό όπου θα δουλεύουν οι μηχανές και θα καταναλώνουμε εμείς την άπλετη ενέργεια που θα είναι διαθέσιμη λόγω τεχνολογίας. 
Ενα προϊόν που σίγουρα θα πουλήσει τρελά εντός του υπάρχοντος οικονομικού μοντέλου είναι AI pets. Σκυλάκι δλδ ή γατάκι. 

Επεξ/σία 4 Μαΐου 2024 από jimarass26

[Dimitris_1981]

3 ώρες πριν, filip123go είπε

  Απόκρυψη περιεχομένων

Και για το internet στα  90s τα ίδια έλεγαν ....

 

Πρώτα από όλα χρόνια πολλά.

Συγκεκριμένα για το Ίντερνετ ο Gates το έλεγε . Βέβαια είχε την σοβαρότητα και την αξιοπρέπεια να παραδεχτεί ότι έκανε λάθος.

Για το ΑΙ η Apple δεν το αρνήθηκε από ότι γνωρίζω. Δεν ξέρω από που έβγαλε το συμπέρασμα ο συμφορουμιτης.

Απλά έχει άλλη πολιτική και καλά κάνει. Δεν την παίρνει να ανταγωνιστεί τα data center των MS,Google, Amazon & Meta. Επίσης η ιδέα του cloud based AI δεν κολλάει με το Privacy που είναι σημαντικό selling point.

Η Apple έχει αγοράσει εδώ και καποια χρόνια πάμπολλες εταιρίες ΑΙ. Απλά δεν ξοδεύει σε infrastructure γιατί σκοπεύει σε on device AI. Όπου χρειαστεί κάτι έξτρα θα το πάρει από MS ή Google και μένει να μάθουμε το πως.

Πρόσφατα βγήκε η είδηση ότι η Google έσωσε 20δις για ένα χρόνο στην Apple για να είναι το default search engine.  Ελπίζω στο ΑΙ να γίνει το ανάποδο.

Φαίνεται η Apple να μην θέλει να μπει στο παιχνίδι των Cloud services περα από services dedicated για τις συσκευές της. Ακόμα και το Apple Maps πιστευω το έκανε για λόγους privacy και όχι για κάποιο άμεσο οικονομικό όφελος.
Φυσικά δείχνει να μην αποκλείει την περίπτωση να φτιάξει και κάποιο infrastructure αλλά νομίζω δεν θα είναι του ίδιου μεγέθους με τους άλλους. Αυτό πιθανόν εξηγεί το γιατί δαπανά λιγότερα χρήματα. Δεν χτίζει υποδομές.

[jadawin]

13 ώρες πριν, anonymous999 είπε

Αν και μονίμως κράζω την apple, εδώ οφείλω να συμφωνήσω.

Γιατί θα πρέπει μια εταιρεία που βγάζει ηλεκτρονικές συσκευές σώνει και καλά να φτιάξει και το δικό της ΑΙ (με κόστος δεκάδες δις)? Για να ικανοποιηθούν οι boomer μέτοχοι που έχουν μηδέν τεχνικές γνώσεις αλλά μόλις ακούσουν "ΑΙ" πέφτουν ανάσκελα με τα πόδια πάνω; 

Θυμάστε την Cortana? Το Bixby? (αυτός φυτοζωει ακόμα). Αποτυχημένες me too προσπάθειες για assistants. Οκ άλλο assistant άλλο ΑΙ αλλά η λογική είναι ίδια -αν είσαι ήδη τέρμα πίσω στην κούρσα εστίασε σε αυτό που κάνεις καλά και πάντρεψε το ωραία με κάτι που κάποιος άλλος κάνει εξίσου καλά.

Η Cortana me too? Και ποιος είναι αυτός ο Bixby που φυτοζωεί; 

[Επισκέπτης]

13 ώρες πριν, StavrosD είπε

Είναι κοινό μυστικό ότι οι περισσότερες GPU της περασμένης γενιάς χρησιμοποιήθηκαν για mining, είναι αμφιβόλου ποιότητας και είναι θέμα χρόνου να τα φτύσει μια μεταχειρισμένη 3090

Εύγε φίλε μου, αυτό ισχύει, κι άσε τους ινφλουεσερζζζζ να λένε ότι θέλουν.

[Tetrabitos]

13 ώρες πριν, filip123go είπε

  Εμφάνιση κρυμμένου περιεχομένου

Και για το internet στα  90s τα ίδια έλεγαν ....

 

Ναι αλλά έσκασε και το bubble.com άμα θυμάσαι...

[m3ltd0wn]

Θα συμφωνήσω με κάποιους ότι στην πραγματικότητα μιλάμε για ένα hype.
Στην παρούσα φάση δεν υπάρχει τίποτα καινοτόμο τεχνολογικά στον τομέα της ΤΝ. Οι γνωστοί αλγόριθμοι του '70-'90 οι οποίοι τρέχουν σε καλύτερο hardware με dedicated tensor units και απλετη μνήμη.
Εντάξει, έχουν βγει μεγάλα γλωσσικα μοντέλα πάνω σε κείμενα, τα οποία μπορούν να απαντήσουν σε ερωτήσεις πληροφορίας επάνω στο κείμενο ωστόσο τα μοντέλα αυτά ούτε να παράγουν γνώση μπορούν και επιπλέον εξαρτώνται από την ισχύ του συστήματος εκπαίδευσης, όσο ισχυρότερο τόσο περισσότερη πληροφορία αλλά μέχρι εκεί.

Θεωρώ ότι απέχουμε ακόμα από την πραγματική ΤΝ η οποία ίσως να έρθει με την ανάπτυξη της κβαντικής υπολογιστικής.

[patatasc]

6 ώρες πριν, m3ltd0wn είπε

Θα συμφωνήσω με κάποιους ότι στην πραγματικότητα μιλάμε για ένα hype.
Στην παρούσα φάση δεν υπάρχει τίποτα καινοτόμο τεχνολογικά στον τομέα της ΤΝ. Οι γνωστοί αλγόριθμοι του '70-'90 οι οποίοι τρέχουν σε καλύτερο hardware με dedicated tensor units και απλετη μνήμη.
Εντάξει, έχουν βγει μεγάλα γλωσσικα μοντέλα πάνω σε κείμενα, τα οποία μπορούν να απαντήσουν σε ερωτήσεις πληροφορίας επάνω στο κείμενο ωστόσο τα μοντέλα αυτά ούτε να παράγουν γνώση μπορούν και επιπλέον εξαρτώνται από την ισχύ του συστήματος εκπαίδευσης, όσο ισχυρότερο τόσο περισσότερη πληροφορία αλλά μέχρι εκεί.

Θεωρώ ότι απέχουμε ακόμα από την πραγματική ΤΝ η οποία ίσως να έρθει με την ανάπτυξη της κβαντικής υπολογιστικής.

Αρκετά απαισιόδοξο κρίνω. Η πραγματική ΤΝ είναι ήδη εδώ, δεν καταλαβαίνω τι προσδοκίες έχεις. Όσο για την απλ, η πραγματικότητα είναι ότι δεν έχει το απαιτούμενο ερευνητικό προσωπικό (διαχρονικά), και κάτι πρέπει να πει στους επενδυτές για να καλύψει αυτή την αδυναμία της.

[Volga]

Στις 4/5/2024 στις 7:50 ΜΜ, atypicalcoder είπε

Αυτό με το UI το έχω ακούσει αρκετά και πραγματικά δεν μπορώ να φανταστώ καθόλου πως οι γενικότητες που βγάζει το ΑΙ θα αλλάξει το UI. Όταν κάποιος θέλει από κάποιον designer να του σχεδιάσει κάτι θα πάρει κάτι που τον αντιπροσωπεύει. Θα είναι κοντά στο ύφος του. Το ΑΙ νιώθω ότι είναι περισσότερο για να κάνεις κάνα τικτοκ τις "δημιουργίες" σου. Δλδ για fun.

Δεν μιλάω για εμφάνιση, αλλά για...μη εμφάνιση.

Ο λόγος που υπάρχει το UI είναι για να με διευκολύνει ως χρήστη να βρω αυτό που θέλω. Αν όμως η AI μπει στη μέση, ίσως δεν χρειάζεται να μπαίνω στα Site ή σε κάποια εφαρμογή. Ίσως δεν χρειάζονται site με τη δομή που τα φανταζόμαστε αλλά απλώς ένα API που σερβίρει μέσω της AI αυτά που της ζήτησα.

[atypicalcoder]

29 λεπτά πριν, Volga είπε

Δεν μιλάω για εμφάνιση, αλλά για...μη εμφάνιση.

Ο λόγος που υπάρχει το UI είναι για να με διευκολύνει ως χρήστη να βρω αυτό που θέλω. Αν όμως η AI μπει στη μέση, ίσως δεν χρειάζεται να μπαίνω στα Site ή σε κάποια εφαρμογή. Ίσως δεν χρειάζονται site με τη δομή που τα φανταζόμαστε αλλά απλώς ένα API που σερβίρει μέσω της AI αυτά που της ζήτησα.

Α οκ κατάλαβα. Ναι το καταλαβαίνω αυτό ότι από το να μπαίνεις σε διάφορα sites μπορεί να σου κερδίσει χρόνο.

[somt]

21 ώρες πριν, Dimitris_1981 είπε

Συγκεκριμένα για το Ίντερνετ ο Gates το έλεγε . Βέβαια είχε την σοβαρότητα και την αξιοπρέπεια να παραδεχτεί ότι έκανε λάθος.

wut?

πότε το ειπε ο Gates αυτο;

ειναι σαν τα 640kb ram που δεν είπε επίσης ποτε;

Επεξ/σία 5 Μαΐου 2024 από somt