Ο "νονός της τεχνητής νοημοσύνης" εγκαταλείπει τη Google και προειδοποιεί για τους κινδύνους που ελλοχεύουν

[alion]

Ο Geoffrey Hinton, ένας από τους πρωτοπόρους στο A.I και γνωστός ως "νονός της τεχνητής νοημοσύνης", παραιτήθηκε από τη θέση του αντιπροέδρου και μηχανικού της Google.

Σε συνέντευξή του στους New York Times, ο Hinton αποκάλυψε ότι εγκατέλειψε τη θέση του τον Απρίλιο για «να μπορεί να προειδοποιεί ελεύθερα για τους κινδύνους που συνδέονται με την τεχνολογία της τεχνητής νοημοσύνης».

Ο Hinton εξέφρασε την ανησυχία του ότι η Google εγκαταλείπει την προηγούμενη αυτοσυγκράτησή της στη δημόσια κυκλοφορία projects γύρω από την τεχνητή νοημοσύνη, σε μια προσπάθεια να ανταγωνιστεί το ChatGPT, το Bing Chat και παρόμοια μοντέλα. Αυτό θα μπορούσε να ανοίξει την πόρτα σε πολλαπλά ηθικά προβλήματα. Βραχυπρόθεσμα, ο Hinton ανησυχεί ότι η δημιουργική AI θα μπορούσε να οδηγήσει σε ένα κύμα παραπληροφόρησης. Φοβάται επίσης ότι οι άνθρωποι ίσως «να μην είναι πλέον σε θέση να γνωρίζουν τι είναι αλήθεια και τι ψέματα». Ανησυχεί ότι η τεχνητή νοημοσύνη μπορεί όχι μόνο να εξαλείψει τις "αγγαρείες", αλλά και να αντικαταστήσει εντελώς ορισμένες θέσεις εργασίας.

Για το μέλλον, ο Hinton ανησυχεί τόσο για την πιθανότητα πλήρως αυτόνομων όπλων όσο και για την τάση των μοντέλων τεχνητής νοημοσύνης να μαθαίνουν και να διαθέτουν περίεργη συμπεριφορά με βάση τα δεδομένα εκπαίδευσης στα οποία στηρίχθηκε. Ενώ ορισμένα από αυτά τα ζητήματα είναι θεωρητικά, ο Hinton φοβάται μια κλιμάκωση που δεν θα υπόκειται σε κανονισμούς ή την ανάπτυξη αποτελεσματικών ελέγχων.

Μεταξύ άλλων, το πρώην στέλεχος της Google δηλώνει ότι η στάση του άρχισε να αλλάζει πέρυσι, όταν η Google, η OpenAI και άλλοι άρχισαν να δημιουργούν συστήματα τεχνητής νοημοσύνης που πιστεύει ότι μερικές φορές είναι ανώτερα από την ανθρώπινη νοημοσύνη. Η τεχνητή νοημοσύνη έχει αναπτυχθεί ραγδαία μόλις τα τελευταία πέντε χρόνια - είναι "τρομακτικό" το τι θα μπορούσε να συμβεί στα επόμενα πέντε, προτείνει ο ερευνητής.

Σε δήλωσή του στους Times, ο επικεφαλής της Google, Jeff Dean, αναφέρει ότι η εταιρεία του εξακολουθεί να είναι αφοσιωμένη σε μια "υπεύθυνη προσέγγιση" και βρίσκεται σε επιφυλακή για "αναδυόμενους κινδύνους". Ο γίγαντας της αναζήτησης κυκλοφόρησε τον Μάρτιο μια πρώτη έκδοση του AI chatbot της με την ονομασία Bard, μετά από μήνες φημών ότι η εταιρεία ανησυχεί για την ανταγωνιστική απειλή της δημιουργικής τεχνητής νοημοσύνης της OpenAI. Πριν από αυτό, αρνήθηκε να δημοσιεύσει δημοσίως μοντέλα τεχνητής νοημοσύνης, όπως το Imagen που είναι προσανατολισμένο στην τέχνη, λόγω της πιθανότητας τοξικού περιεχομένου και παραβίασης πνευματικών δικαιωμάτων.

Ο Hinton έχει αφιερώσει την καριέρα του στη μελέτη των νευρωνικών δικτύων που συχνά αποτελούν το κλειδί για την ΤΝ, αλλά είναι περισσότερο γνωστός για την ανάπτυξη ενός συστήματος αναγνώρισης αντικειμένων το 2012. Το επαναστατικό νευρωνικό του δίκτυο θα μπορούσε να χρησιμοποιήσει εικόνες εκπαίδευσης για να βοηθήσει στην αναγνώριση κοινών αντικειμένων. Η Google αγόρασε τη νεοσύστατη επιχείρηση DNNresearch του Hinton το 2013, και η βασική ιδέα της εφεύρεσής του βοήθησε στην προώθηση ενός κύματος ανάπτυξης που οδήγησε στη σημερινή δημιουργική AI τεχνολογία.

Πάντως θα πρέπει να επισημανθεί ότι ο Hinton δεν είναι ο μόνος που ανησυχεί. Μια σειρά από σημαντικούς ακαδημαϊκούς και προσωπικότητες της τεχνολογίας, συμπεριλαμβανομένων των Elon Musk και Steve Wozniak, υπέγραψαν πρόσφατα μια ανοιχτή επιστολή που ζητά εξάμηνη παύση στην ανάπτυξη της τεχνητής νοημοσύνης για την αντιμετώπιση προβλημάτων ηθικής και ασφάλειας. Ως μία από τις πιο εξέχουσες προσωπικότητες του κλάδου, ωστόσο, ο λόγος του Hinton έχει σημαντική βαρύτητα.

Μένει να δούμε τι αντίκτυπο θα έχουν η παραίτηση και οι προειδοποιήσεις του Hinton στην ανάπτυξη και την εξάπλωση της τεχνολογίας της τεχνητής νοημοσύνης. Ωστόσο, είναι σαφές ότι υπάρχουν αυξανόμενες ανησυχίες σχετικά με τους πιθανούς κινδύνους που συνδέονται με αυτόν τον ταχέως εξελισσόμενο τομέα.

Διαβάστε ολόκληρο το άρθρο

[nlogginidis]

Θα τον πούμε ψεκα και αντιεπιστημονικο,  θα τον λοιδωρησουμε ότι φοράει αλουμινόχαρτα στο κεφάλι, ότι πιστεύει στην επιπεδοτητα της γης και θα τον "πετάξουμε" στον κάλαθο των αχρήστων. 

[teodoreh]

Μπορεί ήδη να έχουμε υποταχθεί στην ΑΙ και αυτό που βλέπουμε τώρα να είναι το matrix... Just saying...

[troi.g]

Έχει φάει τα νιάτα του,  και ήταν  πρωτοπόρος στην τεχνητη νοημοσύνη, και τώρα βγάζει την ουρά του απ'έξω για να μπορεί να λέει: Σας τα λεγα εγώ οτι αυτά είναι επικίνδυνα πράγματα.

Απλά τραγικός.

[nitroc]

Δεν είναι αφύσικο να δουλεύεις πάνω σε ενα πρότζεκτ για πολλά χρόνια και να νιώθεις την ανάγκη να εκφράσεις και τα αρνητικά του εγχειρήματός σου. Ιδιαίτερα αν αυτή η θέση σου θα έχει μεγαλύτερο επικοινωνιακό μπαμ. 

[immortalx]

Ειναι και τρισεγγονος των Boole. Που να φανταζοταν οι προγονοι του οτι το 0 και το 1 θα μπορουσαν να φερουν τετοιες κατακλυσμικες αλλαγες στην ανθρωποτητα!

[pcos]

"σημαντικούς ακαδημαϊκούς και προσωπικότητες της τεχνολογίας, συμπεριλαμβανομένων των Elon Musk και Steve Wozniak"

[herbalife3]

Μετά από την απομάκρυνση από το ταμείο ουδέν λάθος αναγνωρίζεται!!

[DarkNGrimm]

Ω ρε φίλε....

Τα ίδια ακουγαμε και με την dolly,

Τα ίδια για την χιλιετία

Δεν αντέχεται τόσο ψέκασμα. Κάποιος να πει τα αεροπλάνα να προσγειωθούν....

[neo80]

Οι επιστήμονες και οι εφευρέτες είναι ρομαντικοί, γιατί νομίζουν ότι η έρευνα τους θα πιάσει τόπο για το καλό της ανθρωπότητας.

Έλα ντε όμως που δεν είναι έτσι τα πράγματα γιατί οι CEO έχουν άλλα πράγματα στο μυαλό τους το ΚΕΡΔΟΣ!!

I told you so όπως λένε και οι Αμερικάνοι.

Υ.Γ.: Ψ.Ε.Κ. (Ψάχνω Ερευνώ Κατανοώ)

[safridia]

Δειτε το Star Trek, τους Borg. Αυτο ακριβως θα μας κανουν οι μηχανες

[this.is.elia]

3 λεπτά πριν, safridia είπε

Δειτε το Star Trek, τους Borg. Αυτο ακριβως θα μας κανουν οι μηχανες

Αν κάνουν μερικές όπως την Seven of Nine, εγώ προσυπογράφω και δηλώνω την αμέριστη υποστήριξή μου.

[Επισκέπτης]

Όλοι και όλα έχουν όρια. Όταν αυτά ξεπεραστούν τότε οι καταστάσεις που έπονται είναι απροσδιόριστες και -ίσως- επικίνδυνες.

[klaftop]

Λογικα τον παραιτήσαν γιατι το να εισαι ο αρχιδιευθυντης τεχνητης νοημοσυνης και να εισαι εναντια σε αυτη ειναι ανεκδοτο. Ισως τελικα για αυτο η google εμεινε πισω γιατι τα ατομα που εβαλε επι κεφαλης  (ασχετως αν εχουν δικιο) ηταν εναντια σε αυτο. Αυτο που δε μπορω να καταλαβω ειναι γιατι να εισαι ο πρωτοπορος σε κατι που εσυ ο ιδιος πιστευεις οτι ειναι καταστροφικο . Εισαι εναντια στη τεχνητη νοημοσυνη αλλα εσυ εισαι ο πρωτεργατης που εκανε μεγαλες προοδους; ειναι σαν να πουλας οπλα και να λες οτι το κανεις για την ειρηνη

[magictoboggan]

Όλοι λένε για τους κινδύνους του ΑΙ αλλά κανένας δεν περιγράφει ποιοι είναι ακριβώς είναι αυτοί οι κίνδυνοι. Το άρθρο λέει βασικά ότι ο μεγαλύτερος κίνδυνος είναι

Αναφορά σε κείμενο

όχι μόνο να εξαλείψει τις "αγγαρείες", αλλά και να αντικαταστήσει εντελώς ορισμένες θέσεις εργασίας.

;