Musk: Η τεχνητή νοημοσύνη είναι η μεγαλύτερη απειλή για τον πολιτισμό μας

[DaemonLord92]

Εξελιγμένη ΑΙ δεν σημαίνει απαραίτητα πόλεμος και καταστροφή με την συμβατική την έννοια.

Φαντάσου ένα "ανυπάκουο" σύστημα ΑΙ, στην γραμμή παραγωγής ενός αεροπλάνου, ενός φάρμακου, στον έλεγχο κυκλοφορίας.

Αν "απλά" προγράμματα όπως κειμενογράφοι, browsers, antivirus, έχουν bugs και χρειάζονται διαρκώς αναβαθμίσεις.... σκέψου πόσο δύσκολο είναι να εντοπίσεις bug σε μία ΑΙ, δεδομένου ότι είναι πολύ δύσκολο να προβλέψεις την "συμπεριφορά" ενός τέτοιου προγράμματος.

Και επειδή οι εταιρίες βιάζονται να βγάλουν τέτοια προγράμματα, λόγω ανταγωνισμού (άρα εξ ορισμού θα υπάρχουν bugs και πλημμελής έλεγχος) πρέπει να υπάρχουν αυστηροί έλεγχοι, ΠΡΙΝ είναι πολύ αργά (με την έννοια της δυσκολίας) για να περιοριστούν οι ΑΙ.

 

Αυτο ακριβως!

 

Το ολο θεμα με την τεχνητη νοημοσυνη ειναι οτι αν ποτε επιτευχθει αυτο που λεμε true AI ή ASI (Αrtificial Super Intelligence) ή πιο απλα singularity σημαινει πως θα εχουμε ενα μηχανημα που θα αντιλαμβανεται την υπαρξη του και κατα συνεπεια θα εχει δικη του βουληση. 

[suffocater]

Εξελιγμένη ΑΙ δεν σημαίνει απαραίτητα πόλεμος και καταστροφή με την συμβατική την έννοια.

Φαντάσου ένα "ανυπάκουο" σύστημα ΑΙ, στην γραμμή παραγωγής ενός αεροπλάνου, ενός φάρμακου, στον έλεγχο κυκλοφορίας.

Αν "απλά" προγράμματα όπως κειμενογράφοι, browsers, antivirus, έχουν bugs και χρειάζονται διαρκώς αναβαθμίσεις.... σκέψου πόσο δύσκολο είναι να εντοπίσεις bug σε μία ΑΙ, δεδομένου ότι είναι πολύ δύσκολο να προβλέψεις την "συμπεριφορά" ενός τέτοιου προγράμματος.

Και επειδή οι εταιρίες βιάζονται να βγάλουν τέτοια προγράμματα, λόγω ανταγωνισμού (άρα εξ ορισμού θα υπάρχουν bugs και πλημμελής έλεγχος) πρέπει να υπάρχουν αυστηροί έλεγχοι, ΠΡΙΝ είναι πολύ αργά (με την έννοια της δυσκολίας) για να περιοριστούν οι ΑΙ.

Καταρχάς,να ορίσουμε τι εννοούμε ΑΙ απ την οποία "απειλούμαστε".

Το machine learning,όπως το γνωρίζουμε ως σήμερα,αν κάνει τα λαθη στα οποία αναφέρεσαι,θα ειναι ανθρώπινο λαθος,και όχι του ΑΙ.

Με άλλα λόγια,δεν υπάρχει ακόμα(διέψευσε με αν κάνω λαθος),το περιθώριο ανυπακοής.

Το tesla αυτοκίνητο,πχ,δε θα χτύπησει εναν ανθρωπο επειδή πήρε ΑΥΤΟΒΟΥΛΩΣ την απόφαση να χτυπήσει εναν ανθρωπο,αλλα επειδή ή πηρε ελλειπη δεδομένα(δε λειτουργησε καποιος αισθητήρας ώστε να τον "δει",ή επειδή δεν προγραμματίστηκε να τον αποφύγει,ή επειδή ανάμεσα σε 2 ενδεχόμενα,να πέσει στον γκρεμό ή να χτυπήσει εναν ανθρωπο(λέγεται βαρύτητα στα συστήματα ασαφους λογικης),προγραμματίστηκε να επιλέξει το χτύπημα του ανθρώπου ως καλύτερη επιλογή.

Εγώ τουλάχιστον,αυτά έχω διδαχθεί.

Μέχρι την πραγματική ΑΙ,όπου θα μπορεί να παίρνει σημαντικές αποφάσεις μόνη της,με πλήρη συνείδηση της υπάρξης του,απέχουμε πολύ,καθώς ο συγκεκριμένος τομέας ειναι ακόμα σε βρεφονηπιακό επίπεδο(επίσης διέψευσε με αν κάνω λάθος).

 

[zio10]

Καταρχάς,να ορίσουμε τι εννοούμε ΑΙ απ την οποία "απειλούμαστε".

Το machine learning,όπως το γνωρίζουμε ως σήμερα,αν κάνει τα λαθη στα οποία αναφέρεσαι,θα ειναι ανθρώπινο λαθος,και όχι του ΑΙ.

Με άλλα λόγια,δεν υπάρχει ακόμα(διέψευσε με αν κάνω λαθος),το περιθώριο ανυπακοής.

Το tesla αυτοκίνητο,πχ,δε θα χτύπησει εναν ανθρωπο επειδή πήρε ΑΥΤΟΒΟΥΛΩΣ την απόφαση να χτυπήσει εναν ανθρωπο,αλλα επειδή ή πηρε ελλειπη δεδομένα(δε λειτουργησε καποιος αισθητήρας ώστε να τον "δει",ή επειδή δεν προγραμματίστηκε να τον αποφύγει,ή επειδή ανάμεσα σε 2 ενδεχόμενα,να πέσει στον γκρεμό ή να χτυπήσει εναν ανθρωπο(λέγεται βαρύτητα στα συστήματα ασαφους λογικης),προγραμματίστηκε να επιλέξει το χτύπημα του ανθρώπου ως καλύτερη επιλογή.

Εγώ τουλάχιστον,αυτά έχω διδαχθεί.

Μέχρι την πραγματική ΑΙ,όπου θα μπορεί να παίρνει σημαντικές αποφάσεις μόνη της,με πλήρη συνείδηση της υπάρξης του,απέχουμε πολύ,καθώς ο συγκεκριμένος τομέας ειναι ακόμα σε βρεφονηπιακό επίπεδο(επίσης διέψευσε με αν κάνω λάθος).

 

Για το τελευταίο που λες, ίσως τα πράγματα έχουν προχωρήσει περισσότερο από ό,τι νομίζουμε. Το λέω με αφορμή αυτό που είπε ο Musk, ότι έχει πρόσβαση στα πιο προηγμένα projects. (Τα οποία προφανώς δεν ξέρουμε οι υπόλοιποι). 

[AtiX]

ΑΙ και συνείδηση πρέπει να είναι ένα... αν καταφέρουμε κάτι τέτοιο με το διάδικο σύστημα τότε πάμε πολύ μπροστά σαν είδος...

[vagelisda]

Η δήλωση του Musk ,είναι από τις πολύ πολύ λίγες ,πού έχουν όλα τα μεγάλα μυαλά την ίδια άποψη .

Και πιστεύω ότι έχουν δίκιο.

Το πρώτο πράγμα που θα κάνει ένα μηχάνημα που μαθαίνει ,αν τυχόν μάθει παραπάνω από όσα εμείς θέλουμε ,θα είναι να προστατεύσει εαυτόν πάση θυσία .

Αργά η γρήγορα θα γίνει αν συνεχίσουμε φλαμπουτσο με το A.I.

 

[Manos Petrucci]

Η ανθρωπότητα έχει 2 επιλογές για το μέλλον της με τις μηχανές... Ή το Star Trek ή το Matrix. Στο Star Trek οι μηχανές είναι οι δούλοι της ανθρωπότητας με ένα οικονομικό σύστημα όπου το χρήμα απουσιάζει, με το μόνο κίνητρο ζωής για την ανθρωπότητα, η εξερεύνηση του διαστήματος. Στο άλλο, οι μηχανές σκλάβωσαν τους ανθρώπους και τους χρησιμοποιούσαν ως μπαταρίες με κίνητρο των μηχανών; Την αυτοβελτίωσή τους στην διαχείριση κρίσεων του Matrix. Η διαφορά; Ποιο οικονομικό σύστημα υπήρχε πριν οι μηχανές φτάσουν στο επιθυμητό επίπεδο για την υπηρεσία τους στην ανθρωπότητα. Αν οι μηχανές ανήκουν σ' αυτούς που απλά έχουν την οικονομική μεγαδύναμη, προβλέπεται Matrix. Και το υπάρχον οικονομικό σύστημα που έχει ξεφύγει από τον Καπιταλισμό και έχει γίνει Χρεωτραπεζισμός, είναι το απόλυτο λίπασμα για την δυστοπία του Matrix.
Η ποιότητα κάθε ιδέας, κάθε πολιτεύματος και κάθε ανθρώπου δεν εξαρτάται από τον πλούτο αλλά από την διαχείρισή του κι αυτό είναι η Οικονομία. Και η έννοια της οικονομίας δεν διαχειρίζεται μόνο τον πλούτο του χρήματος, αλλά κάθε έννοια πλούτου και παραγωγής μέχρι και τον πλούτο ιδεών. Εκ τούτου, η οικονομία είναι το Α και το Ω σε έναν - μεσαίας ποιότητας πολιτισμό, όπως αυτόν που διανύουμε.

[hyperspaced]

Λέτε να ρίξει την ευθύνη για κάνα τράκο του Tesla στην "κακιά" Τεχνητή Νοημοσύνη; 

[activex]

Έχει πει και δυο λόγια παραπάνω πάντως :

 

On Saturday, however, he went further to describe his specific fears about AI. Robots, he said, will be able to do everything better than us.

 

He believes AI "could start a war by doing fake news and spoofing email accounts and fake press releases, and just by manipulating information." Or, indeed -- as some companies already claim they can do -- by getting people to (appear to) say anything that the machine wants.

 

https://www.cnet.com/news/elon-musk-ai-is-greatest-risk-we-face-as-a-civilization/

[Επισκέπτης]

Τα AI. Robots, είναι, απλά, το κερασάκι στην τούρτα της..........!!!

Παραθέτω:
http://www.scmp.com/news/china/economy/article/1949918/rise-robots-60000-workers-culled-just-one-factory-chinas

Από τις σκοτεινές εσοχές της ψυχής μου, πηγάζει αυτό το ερώτημα: Αν οι Κινέζοι μπορούν να αντικαταστήσουν 60.000 εργαζομένους με ρομπότ, σε ένα εργοστάσιο υπολογιστών και κινητών τηλεφώνων, σε τι χρησιμεύουν στην Ελλάδα οι περισσότεροι εξ'ημών, οι οποίοι στατιστικά έχουμε στο χέρι 10 πόντους IQ λιγότερο από τους Κινέζους ;

Κινέζοι IQ -> 105
Έλληνες IQ-> 95

....με IQ πάνω από 115 και χαρακτήρα...κανένα πρόβλημα...δεν υπάρχει απειλή...ούτε Ελλάδα, ούτε... εσύ που θες ;

[hiphoper13]

http://9gag.com/gag/aee68nO?ref=android

[gdriver]

για κάποιο λόγο πιο γρήγορα μου φαίνεται πως θα επιτευχθεί η μεταφορά της ανθρώπινης συνείδησης σε έναν υπολογιστή,  παρά η δημιουργία της τεχνητής νοημοσύνης. Κ στις δύο περιπτώσεις βέβαια θα εξελιχθεί με εκθετικούς ρυθμούς η ανθρωπότητα. 

[vastegial_74]

Αυτονόητα σε ποιους???

 

Τι θεωρείς πιο πιθανό σε ένα συνέδρειο Αμερικανών ηγετών σήμερα?

 

Θα κάτσουν να μελετήσουν τους προβληματισμούς που έθεσε ο Asimov πριν 50 χρόνια ή θα ακούσουν τι θα πει ένας σημερινός επιτυχημένος και διάσημος στον τομέα της τεχνολογίας businessman?

 

 

Το ότι εσύ προσωπικά εδώ στο φόρουμ γνωρίζεις ποιος ήταν ο Asimov και τι είπε πριν 50 χρόνια, δεν σημαίνει αυτόματα ότι είναι αυτονόητο και για ολόκληρη την υπόλοιπη κοινωνία... Εκτός και αν νομίζεις ότι την εκπροσωπείς.

 

Βγες και ρώτα τον γείτονα σου να σου απαριθμήσει τους 3 νόμους της ρομποτικής να δούμε τι θα σου πει.

Ή θα είχε πολύ ενδιαφέρον να ακούγαμε τι γνώμη έχουν για όλα αυτά και οι δικοί μας ηγέτες αφού είναι τόσο αυτονόητα...

 

 

Κάποιος σαν τον Musk είναι χρήσιμος γι αυτό το λόγο (επειδή είναι διάσημος, χαρισματικός και τραβάει τα φώτα όπως λες). Έχει τη δυνατότητα να επηρρεάσει έστω και λίγο την εξέλιξη του κλάδου. Εφόσον υποστηρίζει την προσοχή και θέλει να ενημερώσει ανθρώπους με δύναμη αλλά άσχετους στον χώρο, για μένα καλό κάνει.

Για σένα μάλλον είναι "κλανιά" αλλά δεν πειράζει...

Η AI ειναι μια. Δεν εχει καλη και κακη ουτε πρεπει απαραιτητα να ειναι μονοδρομος η πορεια που θα ακολουθησει μελλοντικα. Οσο για τις δηλωσεις Μασκ ειναι καθαρα επιπεδου καφενειου. Δεν επενδυεις στην αυτονομη οδηγηση απο τη μια και απο την αλλη θετεις φιλοσοφικους προβληματισμους. Ειναι σαν να ερχεται ο προεδρος της BP και να εκφραζει προβληματισμους για την μολυνση του περιβαλλοντος.

[Lanike71]

Εγώ αυτό που αντιλαμβάνομαι είναι ότι ο άνθρωπος λέει "ξέρετε, ωραία η ΑΙ, αλλά το θέμα είναι ότι είναι ανθρώπινο επίτευγμα, με όσα + και - αυτό σημαίνει".

Μου θυμίζει την ατομική βόμβα του '45 που οι φυσικοί-επιστήμονες μετά, δήλωσαν μετανιωμένοι για την ανακάλυψη και διάθεση της γνώσης.

[alex1001]

η τεχνίτη νοημοσύνη θα μπορούσε να βοηθήσει αρκετά τον άνθρωπο, αλλά δυστυχώς αυτοί που έχουν τον έλεγχο θα χρησιμοποιήσουν και αυτή την τεχνολογία κατά του ανθρώπου όπως γίνεται συνήθως

[CoRt3z]

Με την διαφορά ότι στο επιστημονικής φαντασίας σενάριο που η τεχνητή νοημοσύνη πιάνει τα ηνία δεν θα κάνει ότι η Κίνα...που απλά σου ρίχνει πρόστιμο για παραπάνω από 1 παιδί,αλλά θα σκοτώσει κόσμο.Επιλεκτικά ή όχι ..Λέξη κλειδί σε αυτή μου την άποψη το " επιστημονικής φαντασίας σενάριο "