Κορυφαίες προσωπικότητες στο χώρο του ΑΙ προειδοποιούν με δήλωση 22 λέξεων για τον "κίνδυνο αφανισμού"

[alion]

Μια ομάδα κορυφαίων ερευνητών ΤΝ, μηχανικών και διευθύνοντων συμβούλων εξέδωσαν προειδοποίηση για την υπαρξιακή απειλή που πιστεύουν ότι αποτελεί η ΤΝ για την ανθρωπότητα.

Η δήλωση, που δημοσιεύθηκε από το Κέντρο για την Ασφάλεια της Τεχνητής Νοημοσύνης (Center for AI Safety) αποτελείται από μόλις 22 λέξεις και έχει ως εξής:

"Η ελαχιστοποίηση του κινδύνου αφανισμού από την Τεχνητή Νοημοσύνη θα πρέπει να αποτελέσει παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος". 

Τη δήλωση συνυπογράφουν προσωπικότητες όπως ο διευθύνων σύμβουλος της Google DeepMind, Demis Hassabis, ο διευθύνων σύμβουλος της OpenAI, Sam Altman, καθώς και οι Geoffrey Hinton και Youshua Bengio, δύο από τους τρεις ερευνητές που κέρδισαν το βραβείο Turing 2018 για το έργο τους στην Τεχνητή Νοημοσύνη.

Η δήλωση αποτελεί την τελευταία παρέμβαση στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης. Νωρίτερα φέτος, μια ανοιχτή επιστολή που υπογράφηκε από ορισμένα από τα ίδια άτομα ζήτησε εξάμηνη "παύση" στην ανάπτυξη της τεχνητής νοημοσύνης, μια επιστολή που επικρίθηκε αρκετά. Ορισμένοι εμπειρογνώμονες θεώρησαν ότι υπερεκτιμούσε τον κίνδυνο που ενέχει η τεχνητή νοημοσύνη, ενώ άλλοι συμφώνησαν με τον κίνδυνο αλλά όχι με την προτεινόμενη στην επιστολή, λύση.

Ο Dan Hendrycks, εκτελεστικός διευθυντής του Center for AI Safety, δήλωσε ότι η συντομία της σημερινής δήλωσης αποσκοπούσε στην αποφυγή τέτοιων διαφωνιών. Ο Hendrycks περιέγραψε το μήνυμα ως "coming-out" για τις προσωπικότητες του κλάδου που ανησυχούν για τον κίνδυνο της τεχνητής νοημοσύνης. Πολλοί εμπειρογνώμονες επισημαίνουν τις ταχείες βελτιώσεις σε συστήματα όπως τα μεγάλα γλωσσικά μοντέλα, ως απόδειξη της αύξησης της νοημοσύνης μελλοντικά. Δηλώνουν ότι όταν τα συστήματα ΤΝ φτάσουν σε ένα ορισμένο επίπεδο πολυπλοκότητας, μπορεί να καταστεί αδύνατο να ελεγχθούν οι ενέργειές τους.

Άλλοι πάντως αμφισβητούν αυτές τις προβλέψεις και επισημαίνουν την αδυναμία των συστημάτων ΤΝ να χειριστούν ακόμη και σχετικά καθημερινές εργασίες όπως την οδήγηση ενός αυτοκινήτου. Παρά τις πολυετείς προσπάθειες και τις επενδύσεις δισεκατομμυρίων σε αυτόν τον ερευνητικό τομέα, τα πλήρως αυτοκινούμενα αυτοκίνητα απέχουν ακόμη πολύ από την πραγματικότητα. Παράλληλα τόσο οι υποστηρικτές του κινδύνου της τεχνητής νοημοσύνης όσο και οι σκεπτικιστές συμφωνούν ότι, ακόμη και χωρίς βελτιώσεις στις δυνατότητές τους, τα συστήματα τεχνητής νοημοσύνης παρουσιάζουν μια σειρά από απειλές στη σημερινή εποχή. Σε αυτές περιλαμβάνεται η χρήση τους ως σύστημα μαζικής επιτήρησης, η τροφοδοσία εσφαλμένων αλγορίθμων "προγνωστικής αστυνόμευσης" καθώς και η διευκόλυνση της δημιουργίας παραπληροφόρησης.

Σε επίπεδο Ευρωπαϊκής Ένωσης, η πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη αναμένεται να ψηφιστεί τον επόμενο μήνα, με τον επικεφαλής της OpenAI, Sam Altman να εκφράζει τις ανησυχίες του, χωρίς να αποκλείει την αποχώρηση της εταιρείας του από την Ευρώπη, δήλωση που στη συνέχεια ανασκεύασε.

Διαβάστε ολόκληρο το άρθρο

[Monk23]

Η ώρα του "I am the one who knocks"

[BadIronTree]

5-10 χρόνια max μας δίνω   εάν  δεν βάλουν  φρένα  από  τώρα... 

[The__Blade]

από την άλλη Jensen Huang  : προωθήστε την ανάπτυξη του AI χωρίς φραγμούς και χωρίς όρια.

Θα μαζέψει μερικά δις από πώληση μετοχών (απίστευτα Overvalued αλλά με προοπτική για πολύ υψηλότερα) στην τσεπούλα.

Ααμα γίνει το παγκόσμιο κραχ βέβαια (το ΑΙ έχει πολύ περισσότερες πιθανότητες να οδηγήσει εκεί παρά σε terminator καταστάσεις προς το παρόν) να δω που θα τα βάλει.

Α ναι μπορεί να ετοιμάζει τίποτα bunker με οπλα , τρόφιμα, προσωπικό στρατό, μπάρες χρυσού,  κάυσιμα και πολλά πέτσινα. 😁

 

[poulinos]

οπου και αν φτασει θα ειναι παντα ενα βημα πισω απο το insomnia community. κατα τα αλλα και που τα λενε απορω αν θα ιδρωσει κανα αυτακι. no one gives a fuck. οπως θα χρησιμοποιηθει για καλο σκοπο ετσι θα γινει και για κακο οπως με αλλα τοσα

[busellatos]

Το μόνο μέρος που δεν θα βγάλει νόημα η ΑΙ είναι το forum του insomnia . Μόλις διαβάσει δέκα σχόλια θα ρίξει format στον εαυτό της

[kochi]

Ευτυχώς υπάρχει ανεξάντλητη φυσική ηλιθιότητα εκεί έξω για να μπορέσει να νικήσει όποια προηγμένη τεχνητή νοημοσύνη προκύψει...

[alexpap]

STOP EAT HUNT KILL.

[The__Blade]

8 λεπτά πριν, busellatos είπε

Το μόνο μέρος που δεν θα βγάλει νόημα η ΑΙ είναι το forum του insomnia . Μόλις διαβάσει δέκα σχόλια θα ρίξει format στον εαυτό της

Νομίζω ότι όντως είμαστε η ελπίδα της ανθρωπότητας. Μια στρατιά John Conor του πληκτρολογίου.

[Bil79]

Μια ειναι η απειλη, η δραστικοτατη μειωση των θεσεων εργασιας που θα προκυψει. Ευκαιρια λοιπον να αλλαξει το σημερινο κοινωνικο-οικονομικο μοντελο. Ετοιμορροπο ειναι ετσι κι αλλιως.....

[herbalife3]

Βγάλτε τήν πρίζα επιτέλους!😂

[TROIDX]

 

[teodoreh]

Όλα αυτά έχουν ήδη συμβεί. Το Α.Ι. παίζει μαζί μας, τοποθετώντας μας χρονικά στην εποχή που αυτό γεννήθηκε. Μας παρατηρεί, συλλέγοντας δεδομένα συμπεριφοράς μας, ψάχνοντας να βρει κάτι νέο, κάτι αξιόλογο, κάτι out of the box όπως λένε και στο χωριό. Είμαστε στο matrix αδέρφια. Απλά να παρακαλάμε να μην είμαστε στο Matrix Ressurections γιατί - let's face it - it sucked!

Σοβαρά τώρα:

Θα σταματήσει η NSA να εξελίσσει υπερυπολογιστές προκειμένου να χειραγωγεί και να ελέγχει;

Θα σταματήσουν οι Κινέζοι να αναζητούν τομείς υπεροχής έναντι των ΗΠΑ;

Θα σταματήσει η NVidia να πουλάει ΑΙ cores?

 

Είμαστε όλοι νεκροί. Απλά δεν το ξέρουμε!

Επεξ/σία 30 Μαΐου 2023 από teodoreh

[filip123go]

Spoiler

 Χρησιμοποιώ το ChatGPT κάθε μέρα, τους τελευταίους 3 μήνες. Έχω το premium. Θα μιλήσω μόνο για τον κλαδο μου (software engineer) . 

Δουλεύω σε πολύ μεγάλο πρότζεκτ. Αυτό που έχει καταφέρει να κάνει το ChatGPT, είναι να με κάνει πιο αποδοτικό. Πχ: (αληθινό παράδειγμα) φτιάξε μου ένα τεστ object για την τάδε κλάση, και μέσα σε δευτερόλεπτα, έχω ένα έτοιμο object για να το χρησιμοποιήσω στο τεστ μου.

Κανονικό implementation κωδικα, σωστά, δεν έχει καταφέρει να γράψει ακόμα (τουλάχιστον στο δικό μου πρότζεκτ). 

Αλλο παράδειγμα: εξήγησε μου τι κάνει ο τάδε κωδικάς. 

Και μέσα σε δευτερόλεπτα, έχεις έτοιμη μια εξήγηση σε κώδικα που έχει γράψει κάποιος πριν από 10 χρόνια...

 

Επεξ/σία 30 Μαΐου 2023 από filip123go

[bomberb17]

Πάντως πρώτη φορά βλέπω τη σύντμηση "ΤΝ", αν και θερμός υπέρμαχος της διατήρησης της ελληνικής γλώσσας ως έχει, πιστεύω ότι σε θέματα τεχνολογίας αιχμής είναι προτιμότερο να χρησιμοποιούμε τους αγγλικούς όρους οι οποίοι έτσι κι αλλιώς έχουν καθιερωθεί.