Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters

[alion]

Τις ημέρες που προηγήθηκαν πριν από την τετραήμερη εξορία του πρώην διευθύνοντος συμβούλου της OpenAI, Sam Altman, από την εταιρεία, αρκετοί ερευνητές της εταιρείας είχαν γράψει μια επιστολή προς το διοικητικό συμβούλιο προειδοποιώντας για μια νέα πολύ σημαντική ανακάλυψη γύρω από την τεχνητή νοημοσύνη που, όπως υποστήριζαν, θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα.

Δύο πηγές που γνωρίζουν την κατάσταση μίλησαν στο Reuters για αυτή την προηγουμένως μη δημοσιοποιημένη επιστολή και τον αλγόριθμο τεχνητής νοημοσύνης. Οι εξελίξεις φαίνεται ότι αποτέλεσαν βασικά γεγονότα που οδήγησαν στην αμφιλεγόμενη απόφαση του διοικητικού συμβουλίου να απομακρύνει τον Altman, το δημόσιο πρόσωπο της OpenAI και συνιδρυτή της εταιρείας. Σε απάντηση, πάνω από 700 εξοργισμένοι εργαζόμενοι απείλησαν να παραιτηθούν μαζικά για να ενταχθούν στην Microsoft.   

Οι πηγές του Reuters αναφέρουν την επιστολή του προσωπικού ως έναν παράγοντα που συνέβαλε σε έναν μακρύτερο κατάλογο παραπόνων που είχε το διοικητικό συμβούλιο με τον Altman, συμπεριλαμβανομένων των ανησυχιών για τη βιασύνη να εμπορευματοποιήσει τις βελτιώσεις στο γλωσσικό μοντέλο της εταιρείας, πριν αξιολογήσει σωστά τις συνέπειες. 

Αφού επικοινώνησε με το Reuters, η OpenAI αναγνώρισε την ύπαρξη ενός εσωτερικού project με την ονομασία Q* καθώς και ότι υπάρχει μια επιστολή που στάλθηκε στο διοικητικό συμβούλιο πριν από την απόλυση του Altman. Η εταιρεία όμως αρνείται σχολιάσει επίσημα ή να επιβεβαιώσει λεπτομέρειες.  

Η πηγή αποκάλυψε ότι ορισμένοι μηχανικοί στην OpenAI θεωρούν το Q* ως μια πιθανή στιγμή καμπής στην επιδίωξη της τεχνητής γενικής νοημοσύνης (AGI). Δεδομένης της τεράστιας υπολογιστικής ισχύος, το νέο μοντέλο υποτίθεται ότι ήταν σε θέση να λύσει ορισμένα προηγμένα μαθηματικά προβλήματα, κάνοντας τους ερευνητές ιδιαίτερα αισιόδοξους για τις μελλοντικές του δυνατότητες.

Αν και ανεπιβεβαίωτο, αν η πληροφορία είναι ακριβής, θα σήμαινε ένα επίπεδο μαθηματικής λογικής που πλησιάζει την ανθρώπινη νοημοσύνη. Οι ερευνητές βλέπουν την κυριαρχία των μαθηματικών ως ένα σύνορο για τη γεννητική τεχνητή νοημοσύνη, δεδομένου ότι περιλαμβάνει ακριβείς, μοναδικές απαντήσεις και όχι στατιστικές προβλέψεις γλωσσικών εργασιών.

Επισημαίνοντας την υπεροχή του Project Q αλλά και διευκρινίζοντας απροσδιόριστα ζητήματα ασφαλείας, η επιστολή του προσωπικού προφανώς προσπάθησε να προειδοποιήσει το συμβούλιο για την πολλά υποσχόμενη αλλά δυνητικά επικίνδυνη πρόοδο της τεχνητής νοημοσύνης. Παραμένει η συζήτηση γύρω από τους κινδύνους από την εξαιρετικά προηγμένη τεχνητή νοημοσύνη, συμπεριλαμβανομένων των σεναρίων όπου θα μπορούσε να αποφασίσει ότι η καταστροφή της ανθρωπότητας ευθυγραμμίζεται με άλλες προτεραιότητες. 

Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων στο πρώτο συνέδριο της OpenAI αυτό το μήνα, την περασμένη εβδομάδα σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο, ο Altman δήλωσε ότι σημαντικές εξελίξεις ήταν ορατές.

«Τέσσερις φορές τώρα στην ιστορία της OpenAI -η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες- έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε τα σύνορα της ανακάλυψης προς τα εμπρός, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου", δήλωσε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.

Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Altman.

Διαβάστε ολόκληρο το άρθρο

[JcD]

Αστείες ιστορίες για να τραβάνε δημοσιότητα προς το μέρος τους, άιντε αποφάσισε η τεχνητή νοημοσύνη την καταστροφή της ανθρωπότητας, πως θα το κάνει, με υπέρταση στην καφετιέρα?

Επεξ/σία 23 Νοεμβρίου 2023 από JcD

[MikhailBakurin]

Mια χαρά. Αυτός είναι ο υπέρτατος ορθολογισμός, άμα αφήσουμε τις μηχανές να σκεφτούν: Παράγεις CO2, αποτελείς απειλή προς εξολόθρευση. Το θέμα είναι η ανθρωπινότητα. Αυτή δε θα την πετύχουν ποτέ οι μηχανές. Ίσως τη μιμηθούν καλά.

 

[fmarulezkd]

3 λεπτά πριν, JcD είπε

Αστείες ιστορίες για να τραβάνε δημοσιότητα προς το μέρος τους, άιντε αποφάσισε η τεχνητή νοημοσύνη την καταστροφή της ανθρωπότητας, πως θα το κάνει, με υπέρταση στην καφετιέρα?

Ακόμα και να είναι σε θέση να το κάνει, πού το πρόβλημα; 

Είτε θα είμαστε σε σημείο υπερβολικά προχωρημένου AI (=> Eυκολότερη ζωή για όλους) είτε θα ζήσουμε επιτέλους το Terminator που όλοι ονειρευόμαστε. 

Win-win situation. 

Επεξ/σία 23 Νοεμβρίου 2023 από fmarulezkd

[NikosKallithea]

12 λεπτά πριν, JcD είπε

Αστείες ιστορίες για να τραβάνε δημοσιότητα προς το μέρος τους, άιντε αποφάσισε η τεχνητή νοημοσύνη την καταστροφή της ανθρωπότητας, πως θα το κάνει, με υπέρταση στην καφετιέρα?

Οχι αλλα την τεχνητή νοημοσύνη μπορεί απλα να την χρησιμοποιήσει οποιος θελει, εσύ εγω, το κράτος ο τρομοκράτης, ο απατεώνας κλπ οι οποιοι το μονο που εχουν στο μυαλο τους είναι η καταστροφή 

[foniki_melitzana]

13 minutes ago, NikosKallithea said:

Οχι αλλα την τεχνητή νοημοσύνη μπορεί απλα να την χρησιμοποιήσει οποιος θελει, εσύ εγω, το κράτος ο τρομοκράτης, ο απατεώνας κλπ οι οποιοι το μονο που εχουν στο μυαλο τους είναι η καταστροφή 

το έγραψες πάρα πολύ όμορφα φίλε μου χωρίς ",". Το κράτος ο τρομοκράτης

[GamingMaster424]

7 hours ago, JcD said:

Αστείες ιστορίες για να τραβάνε δημοσιότητα προς το μέρος τους, άιντε αποφάσισε η τεχνητή νοημοσύνη την καταστροφή της ανθρωπότητας, πως θα το κάνει, με υπέρταση στην καφετιέρα?

Τραβηγμένο παράδειγμα, αλλά πες πως έχει ανακαλύψει ένα back door στην αυτόνομη οδήγηση πχ των Tesla ή στους αναπνευστήρες της Χ εταιρείας που έχουν στα νοσοκομεία και κάποιος δώσει την εντολή "Μείωσε το ενεργειακό αποτύπωμα του ανθρώπου." Μπορεί το μοντέλο να συμπεράνει πως ο καλύτερος τρόπος θα ήταν η μείωση του πληθυσμού, οπότε να προκαλέσει τα Tesla να συγκρουστούν μεταξύ τους και να απενεργοποιήσει τους αναπνευστήρες στα νοσοκομεία.

Όσο γελοίο και να ακούγεται, είναι τρομερά σημαντικό να μείνει απομονωμένη η AI και να μην αποκτήσει ποτέ πρόσβαση σε σημαντικά συστήματα, τα οποία είναι πραγματικά αμέτρητα. Γι' αυτό γίνεται τόσος ντόρος ανάμεσα στους ειδικούς, δεν είναι παιδάκια που φοβούνται κάτι επειδή δεν το γνωρίζουν, το φοβούνται ΕΠΕΙΔΗ το γνωρίζουν.

Επεξ/σία 23 Νοεμβρίου 2023 από GamingMaster424

[freegr]

Προφανώς όταν ο Αρνολντ έχει δηλώσει δημόσια ότι η ταινία του έχει ήδη ξεκινήσει ως πραγματικότητα εικάζει ότι στο χέρι μας είναι να μην εκπληρωθεί τελικά

[herbalife3]

Σαν να έρχεται και η ταινία δεν νομίζετε;

[korakios]

Πάντως δεν κατάλαβα κάποια ' δυνητικά τρομακτική ανακάλυψη" '

[Tablet]

Πια ειναι η τρομακτικη ανακαλυψη δεν μας ειπατε ομως..

[vorlon68]

20 λεπτά πριν, Tablet είπε

Πια ειναι η τρομακτικη ανακαλυψη δεν μας ειπατε ομως..

Δεν υπάρχει... Απλα εβαλαν ενα τίτλο για τα clicks

[geoluc]

μπααα... θα σας προλάβει ο ανθρωπος (καπιταλισμος, πυρηνικά, απληστία). 

Πάντως για όσους νομίζουν οτι δεν εινια δυνατό, εγώ θα πω οτι ειναι, σε ενα κόσμο τοσο διασυνδεδεμένο και με τόση πληροφορία Online, ναι μπορει να μας φάει η AI και μάλιστα με πολλούς τρόπους, πολλούς απο τους οποίους ουτε φανταζόμαστε. (αν και προσωπικά φαντάζομαι 5-6 ανετα)

Επεξ/σία 23 Νοεμβρίου 2023 από geoluc

[coffeex]

 

[gmirtzakis]

Εάν ποτέ αποκτήσει πρόσβαση στα drones και τα πυρηνικά, θα ζήσουμε στιγμές terminator….