To νέο γλωσσικό μοντέλο ΜΑΙ-1 της Microsoft θα μπορούσε να αμφισβητήσει τα πρωτεία της OpenAI

[nchatz]

Στο διαρκώς εξελισσόμενο τοπίο της τεχνητής νοημοσύνης, η Microsoft ρίχνει το βάρος σε εντελώς δικές της προτάσεις, αντιμέτωπη με τις ελεγκτικές αρχές σε Ευρώπη και ΗΠΑ που εξετάζουν τη νομιμότητα των υφιστάμενων συμφωνιών της με εταιρίες όπως η OpenAI.

Η Microsoft φέρεται να ετοιμάζει το μεγαλύτερο μέχρι στιγμής μεγάλο γλωσσικό μοντέλο της (LLM), το οποίο θα μπορούσε να σταθεί επάξια απέναντι στα κορυφαία μοντέλα τεχνητής νοημοσύνης των OpenAI, Google και Anthropic. Σύμφωνα με δημοσιογραφικές πληροφορίες, επικεφαλής της ανάπτυξης του νέου μοντέλου της Microsoft, με την κωδική ονομασία ΜΑΙ-1, είναι ο Μουσταφά Σουλεϊμάν, συνιδρυτής των DeepMind και Inflection, ο οποίος πρόσφατα εντάχθηκε στο στελεχιακό δυναμικό της Microsoft ως διευθύνων σύμβουλος του τομέα τεχνητής νοημοσύνης.

Σύμφωνα με δύο εργαζομένους της Microsoft που γνωρίζουν πρόσωπα και καταστάσεις, το ΜΑΙ-1 θα ενσωματώνει περίπου 500 δισεκατομμύρια παραμέτρους και "θα είναι κατά πολύ μεγαλύτερο σε σχέση με τα μικρότερα, ανοιχτού κώδικα μοντέλα που έχει εκπαιδεύσει στο παρελθόν η Microsoft". Το GPT-4 της OpenAI φέρεται να ενσωματώνει περισσότερες από 1 τρισεκατομμύριο παραμέτρους, ενώ η πιο πρόσφατη έκδοση του Llama 3 της Meta αριθμεί μόλις 70 δισεκατομμύρια παραμέτρους.

Ρεπορτάζ του Information αναφέρει ότι το νέο μοντέλο ΜΑΙ-1 αναπτύσσεται πλήρως από τη Microsoft. Δεν πατάει πάνω σε υφιστάμενα μοντέλα της Inflection, της προηγούμενης εταιρίας που είχε ιδρύσει ο Σουλεϊμάν, αν και "ενδέχεται να αξιοποιήσει εκπαιδευτικά δεδομένα και άλλες τεχνολογίες" από την εταιρία αυτή. Σε κάθε περίπτωση, το ΜΑΙ-1 θα είναι πολύ πιο φιλόδοξο (και δαπανηρό) από ό,τι το μικρό γλωσσικό μοντέλο Phi-3 Mini που ανακοίνωσε η Microsoft προ δύο εβδομάδων.

Σε δηλώσεις του το Μάρτιο, ο Σάτια Ναντέλα, διευθύνων σύμβουλος της Microsoft, ανέφερε ότι στόχος του νέου τομέα τεχνητής νοημοσύνης που συγκρότησε ο τεχνολογικός κολοσσός, με επικεφαλής μεγάλα ονόματα της αγοράς, όπως ο Σουλεϊμάν, είναι "η δημιουργία παγκόσμιας κλάσης προϊόντων τεχνητής νοημοσύνης" που αξιοποιούν την τεχνολογία της OpenAI. "Θα συνεχίσουμε να δημιουργούμε υποδομές τεχνητής νοημοσύνης, συμπεριλαμβανομένων ειδικά σχεδιασμένων συστημάτων και επεξεργαστικών δυνατοτήτων, υποστηρίζοντας τον οδικό χάρτη της OpenAI, ενώ παράλληλα θα καινοτομούμε και θα δημιουργούμε προϊόντα τα οποία θα βασίζονται πάνω στα θεμελιώδη μοντέλα τους", είχε διευκρινίσει τότε ο Ναντέλα.

Η Microsoft έχει επενδύσει περισσότερα από 10 δισεκατομμύρια δολάρια στην OpenAI προκειμένου να εξασφαλίσει αποκλειστική άδεια χρήσης του GPT-4 και όλων των άλλων μοντέλων τεχνητής νοημοσύνης της εταιρίας. Όμως, η συμφωνία την οποία σύναψε η Microsoft με την OpenAI έχει βρεθεί ήδη στο στόχαστρο της Ομοσπονδιακής Επιτροπής Εμπορίου στις ΗΠΑ, της Αρχής Ανταγωνισμού και Αγοράς του Ηνωμένου Βασιλείου και της Ευρωπαϊκής Επιτροπής, επομένως η ανάπτυξη του ΜΑΙ-1 θα μπορούσε να είναι προσπάθεια εκ μέρους της Microsoft να μην εξαρτηθεί πλήρως από το αποτέλεσμα των ελέγχων αυτών.

Εκτός από την ανάπτυξη δικών της μοντέλων τεχνητής νοημοσύνης, το Φεβρουάριο η Microsoft ανακοίνωσε επίσης τη σύναψη στρατηγικής συνεργασίας με τη Mistral AI, εταιρία με έδρα τη Γαλλία. Και αυτή η συνεργασία, όμως, έχει βρεθεί ήδη στο στόχαστρο της Κομισιόν. Επομένως, η Microsoft ίσως κρίνει πως είναι προτιμότερο να εστιάσει σε ανάπτυξη εντελώς δικών της μοντέλων και, παρότι ο βασικός σκοπός του ΜΑΙ-1 παραμένει ασαφής, δημοσιογραφικές πληροφορίες αναφέρουν ότι η Microsoft θα μπορούσε να προχωρήσει στην επίσημη ανακοίνωση των δικών της μοντέλων τεχνητής νοημοσύνης στη διάρκεια του συνεδρίου της με την ονομασία Build, αργότερα μέσα στο Μάιο.

Διαβάστε ολόκληρο το άρθρο

[dalan2007]

καλα θα παει αυτο....

[pao13]

Quote

 με επικεφαλής μεγάλα ονόματα της αγοράς, όπως ο Σουλεϊμάν, είναι "η δημιουργία παγκόσμιας κλάσης προϊόντων 

[Retromaniac]

Αναμενόμενη εξέλιξη. Ήδη το έχουν μετανιώσει που δεν αγόρασαν την openai όταν ήταν πολύ μικρότερης αξίας και απλά επένδυσαν πάνω σε αυτή.

 

Επεξ/σία 12 Μαϊου από Retromaniac

[Conan2046]

Είναι αίσθηση μου παιδιά ή τα γλωσσικά μοντέλα, τουλάχιστον τα free για τα οποία έχω άποψη, γίνονται συνεχώς χειρότερα; Κάποια στιγμή σταμάτησα να μπαίνω στο ChatGpt γιατί οι απαντήσεις του ήταν όλο και λιγότερο χρήσιμες. Στην συνέχεια το Gemini που υποτίθεται μπορεί να σε βοηθήσει να ψάχνεις στο διαδίκτυο αποτελεσματικότερα αδυνατεί να κάνει και την παραμικρή συνδιαστική αναζήτηση. 

[cpc464]

[elpenor]

1 hour ago, Conan2046 said:

Είναι αίσθηση μου παιδιά ή τα γλωσσικά μοντέλα, τουλάχιστον τα free για τα οποία έχω άποψη, γίνονται συνεχώς χειρότερα; Κάποια στιγμή σταμάτησα να μπαίνω στο ChatGpt γιατί οι απαντήσεις του ήταν όλο και λιγότερο χρήσιμες. Στην συνέχεια το Gemini που υποτίθεται μπορεί να σε βοηθήσει να ψάχνεις στο διαδίκτυο αποτελεσματικότερα αδυνατεί να κάνει και την παραμικρή συνδιαστική αναζήτηση. 

Σίγουρα το ChatGPT βελτιώνεται όσο περνάει ο καιρός και το paid και το free. Αυτό φαίνεται σε πολλά test.

Πέρα από αυτό compute costs money και το chatgpt 4 έχει περισσότερα subscriptions από όσα μπορεί να υποστηρίξει. Άρα όπως είναι αυτονόητο όσο περνάει ο καιρός τόσο κάνουν παραπάνω limit ώστε να τους φτάσουν τα resources.

Εδώ και ένα χρόνο κάθε μέρα υπάρχει στο reddit ένα post που γράφει ότι το ChatGPT έγινε πολύ χειρότερο με το τελευταίο update. Αν ίσχυαν αυτά τα post το ChatGPT θα είχε γίνει ως τώρα χειρότερο από το calculator.

Nομίζω ότι αυτές οι εντυπώσεις έχουν να κάνουν παραπάνω με το ότι το ChatGPT αλλάζει συνέχεια και δεν δίνει τις ίδιες απαντήσεις όπως και με τα 1000 νέα bugs σε κάθε update. Ακόμα και ο τρόπος που αντιμετωπίζει τα prompts είναι διαφορετικός, παλαιότερα ένα αρνητικό ή ένα θετικό prompt έκαναν την ίδια δουλειά, τώρα είναι αρκετά διαφορετικά.

Επεξ/σία 12 Μαϊου από elpenor

[v-tidus]

Κοίτα που το rebirth ήταν όντως πρωτοποριακό! Αλλάξτε του όνομα, θα γίνει ζημιά!

[fast8]

Το GPT (Generative Pre-trained Transformer) βασίζεται στην γνωστή σε όλους τους ειδικούς μέθοδο transformer. Μπορεί η κάθε εταιρεία να έχει τα δικά της μικρά μυστικά, αλλά δεν φαίνεται αυτά να κάνουν την διαφορά. Αυτό που παίζει μεγαλύτερο ρόλο είναι τα δεδομένα και κυρίως η υπολογιστική ισχύ, δηλαδή το σύνολο των παραμέτρων που χρησιμοποιούνται στα μοντέλα. Η ικανότητα των μοντέλων αυξάνεται γεωμετρικά με την αύξηση των παραμέτρων.

Η Microsoft έχει μια γιγαντιαία υποδομή με servers για το cloud της, έχει τα resource, τα χρήματα και την τεχνογνωσία να φτιάξει μόνη in house το επόμενο γλωσσικό μοντέλο. Εξάλλου και ο Sam Altman της OpenAI αυτό προσπαθεί να κάνει, να φτιάξει υποδομές. Μοιραία η Microsoft θα δώσει βάρος στην δική της προσπάθεια ενώ έχει πληρώσει αρκετά στην OpenAI ώστε άλλες εταιρίες να μην μπορούν να έχουν την πρόσβαση που έχει εκείνη στην OpenAI.

2 ώρες πριν, Conan2046 είπε

Είναι αίσθηση μου παιδιά ή τα γλωσσικά μοντέλα, τουλάχιστον τα free για τα οποία έχω άποψη, γίνονται συνεχώς χειρότερα; Κάποια στιγμή σταμάτησα να μπαίνω στο ChatGpt γιατί οι απαντήσεις του ήταν όλο και λιγότερο χρήσιμες. Στην συνέχεια το Gemini που υποτίθεται μπορεί να σε βοηθήσει να ψάχνεις στο διαδίκτυο αποτελεσματικότερα αδυνατεί να κάνει και την παραμικρή συνδιαστική αναζήτηση. 

Δεν ξέρω αν το χειρότερα είναι η σωστή λέξη, αλλά λιγότερο χρήσιμα σίγουρα, τουλάχιστον για την ώρα. Αυτό συμβαίνει γιατί προσπαθούν να βάλουν περιορισμούς ώστε να μην τα χρησιμοποιούν κακόβουλοι χρήστες, ή απλά θέλουν να τα επιρεάσουν προς μια κατεύθυνση. Στην αρχή πχ μπορούσες απο τα γλωσσικά μοντέλα να ψάξεις να βρεις ποιοι χρηματοπιστωτικοί οργανισμοι είχαν γνωστά προβλήματα ασφαλείας και πως θα μπορούσε κάποιος να τα εκμεταλευτεί ή πως κάποιος να κάνει σπίτι του παράνομα χημικά "πειράματα". Για να περιορίσουν όλα τα πονηρά, αναγκαστηκά κόψανε και πολλά αθώα και χρήσιμα. Εκεί που σου απαντούσε με τις ικανότητες ειδικού (με τα γνωστά συχνά λάθη), τώρα οι απαντήσεις είναι περισσότερο περιορισμένες και ελεγχόμενες. Πίσω απο τους περιορισμούς για το κοινό, τα μοντέλα εξελίσονται συνεχώς.

[atypicalcoder]

Όλο για το γαμάτο ΑΙ ακούμε αλλά θα δούμε και καμιά ουσιαστική χρήση πέραν των "autogenerate blogposts, generate AI-based images for tiktok memes" ? Γιατί εδώ και κάνα χρόνο δεν βλέπω να ξεκολλάμε από τα παραπάνω.

Επεξ/σία 12 Μαϊου από atypicalcoder

[thanosAIAS]

49 λεπτά πριν, atypicalcoder είπε

Όλο για το γαμάτο ΑΙ ακούμε αλλά θα δούμε και καμιά ουσιαστική χρήση πέραν των "autogenerate blogposts, generate AI-based images for tiktok memes" ? Γιατί εδώ και κάνα χρόνο δεν βλέπω να ξεκολλάμε από τα παραπάνω.

Για την ώρα έχει πολλές εφαρμογές στην παραγωγική διαδικασία πολλών εταιρειών.

Είναι ωστόσο το μέλλον, ειδικά στην αναζήτηση.

Δοκίμασε να ρωτήσεις το copilot στον edge οτιδήποτε.

[Retromaniac]

1 ώρα πριν, atypicalcoder είπε

Όλο για το γαμάτο ΑΙ ακούμε αλλά θα δούμε και καμιά ουσιαστική χρήση πέραν των "autogenerate blogposts, generate AI-based images for tiktok memes" ? Γιατί εδώ και κάνα χρόνο δεν βλέπω να ξεκολλάμε από τα παραπάνω.

Δεν ξέρω το επάγγελμα κάνεις αλλά ήδη χρησιμοποιείται πάρα πολύ σε δουλειά γραφείου, προγραμματισμό, αρθρογραφία κτλ

[billstamaniac]

Της AI το κάγκελο γίνεται !

[Conan2046]

1 ώρα πριν, thanosAIAS είπε

Για την ώρα έχει πολλές εφαρμογές στην παραγωγική διαδικασία πολλών εταιρειών.

Είναι ωστόσο το μέλλον, ειδικά στην αναζήτηση.

Δοκίμασε να ρωτήσεις το copilot στον edge οτιδήποτε.

Εμένα δεν με εντυπωσιάζουν στην αναζήτηση πάντως, βρίσκουν ότι θα έβρισκα κι εγώ με μια αναζήτηση στο google π.χ Αν ρωτήσω όμως π.χ  ποιοί παίκτες βγήκαν πρώτοι ριμπάουντερ στην Ευρωλίγκα από το 2010 και μετά κάτι που πρέπει να κάνω πολλαπλές περιηγήσεις για να τα βρω κανένα μοντέλο δεν θα μου δώσει την απάντηση 

[anonymous999]

1 hour ago, thanosAIAS said:

Για την ώρα έχει πολλές εφαρμογές στην παραγωγική διαδικασία πολλών εταιρειών.

Είναι ωστόσο το μέλλον, ειδικά στην αναζήτηση.

Δοκίμασε να ρωτήσεις το copilot στον edge οτιδήποτε.

Πάντως εγώ με επικεφαλής τον Μουσταφά Σουλεϊμάν το πρώτο πράγμα που θα ρωτήσω είναι "ΜΑΙ-1, συμπλήρωσε τη φράση: Πάλι με χρόνια με καιρούς..."

Έτσι για να εκπαιδεύεται σωστά το μοντέλο.