Το Bard AI κάνει λάθος, κοστίζοντας στη Google αρκετά δισεκατομμύρια δολάρια

[alion]

Η Microsoft διοργάνωσε μια αιφνιδιαστική εκδήλωση για την τεχνητή νοημοσύνη, όπου πραγματοποίησε μια ζωντανή επίδειξη της μηχανής αναζήτησης Bing στην οποία προσθέτει τεχνητή νοημοσύνη.

Για να μην μείνει πίσω, η Google δημοσίευσε στο Twitter ένα demo του δικού της AI chatbot. Ωστόσο, τα πράγματα δεν πήγαν ακριβώς όπως τα είχε σχεδιάσει.

Δεν είναι μυστικό ότι η μεγάλη δημοτικότητα του ChatGPT έχει ανησυχήσει την Google. Για να ανταγωνιστεί αυτή την απειλή για την επιχείρησή της, η Google αποκάλυψε το δικό της AI chatbot, το Bard. Το εργαλείο μπορεί να παράγει έξυπνες απαντήσεις σε ερωτήματα φυσικής γλώσσας χρησιμοποιώντας πληροφορίες που συλλέγονται από το διαδίκτυο.

Μια ημέρα μετά τη ζωντανή επίδειξη του νέου Bing της Microsoft με την βοήθεια του ChatGPT, η Google δημοσίευσε ένα GIF στο Twitter που δείχνει το νέο της εργαλείο τεχνητής νοημοσύνης σε δράση. Το GIF δείχνει το Bard να απαντά στην ερώτηση "Ποιες νέες ανακαλύψεις από το διαστημικό τηλεσκόπιο James Webb μπορώ να αναφέρω στον 9χρονο γιο μου;". Στη συνέχεια, το Bard παρέχει μια λίστα με τις απαντήσεις.

Στο τελευταίο bullet point, η τεχνητή νοημοσύνη της Google αναφέρει χαρακτηριστικά ότι "Το JWST τράβηξε τις πρώτες εικόνες ενός πλανήτη εκτός του δικού μας ηλιακού συστήματος". Οι αστρονόμοι στο Twitter έσπευσαν να επισημάνουν ότι αυτή η πληροφορία είναι ψευδής. Ο αστροφυσικός Grant Tremblay εξήγησε λίγο αργότερα σε tweet ότι η πρώτη εικόνα ενός πλανήτη εκτός του ηλιακού μας συστήματος λήφθηκε το 2004, κάτι που έγινε δηλαδή αρκετά πριν τη δημιουργία του διαστημικού τηλεσκοπίου James Webb.

Ενώ αυτή η “γκάφα” μπορεί να είναι μια αστεία στιγμή για κάποιους στα μέσα κοινωνικής δικτύωσης, η Google κάθε άλλο παρά γελάει. Λίγο μετά τη διάδοση της είδησης του λάθους, οι μετοχές της μητρικής εταιρείας της Google, της Alphabet, φέρεται να έπεσαν κατά 8%, σύμφωνα με το Reuters. Αυτό είχε ως αποτέλεσμα την απώλεια περισσότερων από 100 δισεκατομμυρίων δολαρίων σε χρηματιστηριακή αξία.

Δεν είναι ασυνήθιστο για τα εργαλεία τεχνητής νοημοσύνης όπως το Bard και το ChatGPT να κάνουν πραγματικά λάθη λόγω του ότι αντλούν πληροφορίες από το διαδίκτυο και όχι από μια αξιόπιστη βάση δεδομένων με επαληθευμένα δεδομένα. Το πρόβλημα είναι ότι αυτά τα συστήματα παρουσιάζουν τις πληροφορίες με έναν έγκυρο τρόπο που κάνει τον κόσμο να πιστεύει ότι οι απαντήσεις είναι αληθινές.

Η Microsoft έχει προληπτικά προστατεύσει τον εαυτό της από την ευθύνη που απορρέει από αυτό, θέτοντας το βάρος στον χρήστη. Αυτό δηλώνεται στην αποποίηση ευθυνών που αναφέρει χαρακτηριστικά ότι "Το Bing τροφοδοτείται από τεχνητή νοημοσύνη, οπότε είναι πιθανές οι εκπλήξεις και τα λάθη. Βεβαιωθείτε ότι ελέγχετε τα γεγονότα και μοιραστείτε τα σχόλιά σας, ώστε να μπορούμε να μαθαίνουμε και να βελτιωνόμαστε!"

Σε απάντηση του περιστατικού, ένας εκπρόσωπος της Google δήλωσε στο The Verge: Αυτό υπογραμμίζει τη σημασία μιας αυστηρής διαδικασίας δοκιμών, κάτι που ξεκινάμε αυτή την εβδομάδα με το πρόγραμμα Trusted Tester. Θα συνδυάσουμε την εξωτερική ανατροφοδότηση με τις δικές μας εσωτερικές δοκιμές για να βεβαιωθούμε ότι οι απαντήσεις του Bard πληρούν έναν υψηλό πήχη για την ποιότητα και την σε ότι αφορά πληροφορίες από τον πραγματικό κόσμο.

Σε ένα επόμενο tweet, ο Tremblay αναφέρει: "Αλλά και το ChatGPT.. ενώ είναι τρομακτικά εντυπωσιακό, είναι συχνά λάθος χωρίς να του λείπει η αυτοπεποίθηση. Θα είναι ενδιαφέρον να δούμε ένα μέλλον όπου οι LLMs αυτοελέγχουν τα λάθη". Το αν αυτό το περιστατικό θα πείσει αυτές τις εταιρείες να εφαρμόσουν τη διασφάλιση της ποιότητας μέσω ελέγχων σφαλμάτων, μένει να το δούμε.

Διαβάστε ολόκληρο το άρθρο

[bigballon]

τι είπε ο ένας για τον άλλο και πως σχολιάστηκε κάτι για κάποιον.

και αυτό τώρα είναι θέμα προς σχολιασμό; έλεος.

Επεξ/σία 9 Φεβρουαρίου 2023 από bigballon

[Xvipes]

[spectaculator]

11 λεπτά πριν, bigballon είπε

τι είπε ο ένας για τον άλλο και πως σχολιάστηκε κάτι για κάποιον.

και αυτό τώρα είναι θέμα προς σχολιασμό; έλεος.

"Bard is an experimental conversational AI service"

Τα έκανε όμως σκατά σε conversation. Δεν το θεωρείς άξιο κουβέντας; Και δεν ήταν απλά κουβέντα:

Αναφορά σε κείμενο

Ενώ αυτή η “γκάφα” μπορεί να είναι μια αστεία στιγμή για κάποιους στα μέσα κοινωνικής δικτύωσης, η Google κάθε άλλο παρά γελάει. Λίγο μετά τη διάδοση της είδησης του λάθους, οι μετοχές της μητρικής εταιρείας της Google, της Alphabet, φέρεται να έπεσαν κατά 8%, σύμφωνα με το Reuters. Αυτό είχε ως αποτέλεσμα την απώλεια περισσότερων από 100 δισεκατομμυρίων δολαρίων σε χρηματιστηριακή αξία.

 

[BadIronTree]

άμα  έτσι  χάνουν  -100 δις δολάρια  ...

και μετά  κλαίγονται για λίγα  της Ελλάδας xD

 

[ChatGTP]

Ας ξεκινήσει από το να δίνει πραγματικά χρήσιμες απαντήσεις στο Google Search στο κομμάτι "People also ask" που συνήθως βγάζει κάτι στο περίπου, κάτι που απαντά με post από 8 χρόνια πριν, κάτι από sites εντελώς άκυρα...

Η ποιότητα των αποτελεσμάτων έχει πέσει τον τελευταίο καιρό αρκετά οπότε καλός ο ανταγωνισμός από την MS.

[MAFAKA]

Θέμα χρόνου το Bard να καταπιεί τον ανταγωνισμό. Μόλις πετύχουν το σωστό δέσιμο μεταξύ ΑΙ και γκουγκλαρίσματος it's game over.

[CyanBlue]

Ουδείς άσφαλτος... 🙃

[nepomuk]

15 λεπτά πριν, CyanBlue είπε

Ουδείς άσφαλτος... 🙃

errare humanum est, sed perseverare Diabolicum!

[klaftop]

ενω το chatgpt εινσι σπιρτο

Επεξ/σία 9 Φεβρουαρίου 2023 από klaftop

[Neural_handshake]

18 λεπτά πριν, klaftop είπε

Αυτο απο το chatgpt

το επιασε τελειως μακακα ο τυπας

42 λεπτά πριν, MAFAKA είπε

Θέμα χρόνου το Bard να καταπιεί τον ανταγωνισμό. Μόλις πετύχουν το σωστό δέσιμο μεταξύ ΑΙ και γκουγκλαρίσματος it's game over.

καταρχας οτι crawling κανει η google στο internet το ιδιο μπορουν να κανουν κ οι αλλοι οποτε δεν εχει καποιο πλεονεκτημα εκει ειδικα οταν δεν μιλαμε για καμια μικρη εταιρεια αλλα την ms που δεν υστερει καθολου σε infrastructure 

περα απο αυτο το ai powered bing θα ειναι βασισμενο στην επομενη γενια gpt της openai το gpt-4 που παιζει να ειναι απο τα μεγαλυτερα μοντελα εκει εξω ,θυμιζω το ηδη πολυ καλο chatgpt ειναι gpt-3.5

θα εχει και προσφατα αποτελεσματα κ οχι μεχρι το 2021

η ai της ms εχει ηδη 2 μηνων training εκκατομυριων πραγματικων τελικων χρηστων μεσω του chatgpt

κ το σημαντικοτερο δεν εχει το βαριδι της google με το διαφημιστικο της μοντελο επιχειρηματικοτητας που πρεπει να διατηρησει παση θυσια οποτε θα μπορει (κ το κανει ηδη) να σου φερει πραγματικα οργανικα αποτελεσματα

δεν νομιζω οτι ο bard εχει ευκολη δουλεια ,μαλλον το αντιθετο θα ελεγα 

σε χθεσινη συνεντευξη του ναντελα γελουσαν μεχρι κ τα αυτια του ,κατι ξερει παραπανω

οπως κ να γινει η google παθαινει γερη ζημια

εγω το γυρισα σε bing παντως

Επεξ/σία 9 Φεβρουαρίου 2023 από Neural_handshake

[Vasilisxd]

23 λεπτά πριν, klaftop είπε

ενω το chatgpt εινσι σπιρτο

Επεξ/σία 9 Φεβρουαρίου 2023 από Vasilisxd
Πάλι υπάρχει ένα μικρό λαθάκι 🤣

[Neural_handshake]

12 λεπτά πριν, Vasilisxd είπε

64 years later

το παλευει ο ατιμος αλλα δεν τον θελει

[john_dr]

Θα μείνουν χωρίς έσοδα οι δημοσιογράφοι. Δεν θα τους πληρώνει κανένας για να λένε ψέματα, όλα τα λεφτά θα πηγαίνουν σε αυτούς που θα ελέγχουν αυτά τα συστήματα.

[MikeKata]

Πρέπει σίγουρα να δημιουργηθεί νομικό πλαίσιο που θα αφορά την αναζήτηση. Γιατί τώρα θα περάσουμε από το στάδιο της αξιολόγησης της απάντησης από το χρήστη με βάση την πηγή (την οποία την έχουμε μπροστά μας), στο στάδιο που θα πρέπει να στηριζόμαστε στο αν το AI είναι σωστό. Το ιδανικό είναι π.χ αυτό που κάνει το Perplexity (και αν δεν απατώμαι θα κάνει και το καινούριο Bing) που σου παρέχει και τις πηγές μέσα στο κείμενο (και στο τέλος αναλυτικά) σα reference, όπως στα επιστημονικά papers. Ώστε να μπορείς να τις αξιολογήσεις. Η ανακοίνωση του Bard (τουλάχιστον οι εικόνες που έδειξαν στο blog) δεν είχε κάτι τέτοιο. Και είναι μεγάλο ζήτημα γιατί αν πριν υπήρχε μια φορά κίνδυνος biased πληροφοριών, τώρα θα δεκαπλασιαστεί.

Επεξ/σία 9 Φεβρουαρίου 2023 από MikeKata