Μηχανικός της Google υποστηρίζει ότι το A.I της εταιρείας απέκτησε συνείδηση και απολύεται

[neo80]

Ανοίγουν το κουτί της Πανδώρας χωρίς να έχουν ιδέα για τις επιπτώσεις και τις συνέπειες οι οποίες θα είναι μη αναστρέψιμες.

Και δεν το λέω μόνον εγώ αλλά και άλλοι που γνωρίζουν και έχουν συμμετάσχει σε πρότζεκτ που οι περισσότεροι από εμάς δεν τα έχουμε δει ούτε καν στον ύπνο μας.

V.I.K.I. (Virtual Interactive Kinetic Intelligence) μια ματιά στο μέλλον απο την ταινία i-robot

 

[xubuntu]

Όντως πολυ εντυπωσιακή η συζήτηση αλλα και οι εκπρόσωποι της google πάλι φαίνεται να έχουν και αυτοί δικιο. Για παραδειγμα, καθε ερώτηση ακολουθείτε απο μία καλά ορισμένη χρονικά και χωρικά απάντηση. Δεν υπάρχει παρορμητισμός. Ενα ζωντανό πλάσμα βρίθει παρορμητισμού. Ένα νοήμον ον καποιες φορές απαντάει δύο και τρεις φορες στην ίδια ερώτηση και κάποιες δεν απαντάει καθόλου. Το λαμδα απαντάει με τον ίδιο ρυθμό.

[GeorgeGR_DE]

Καλά πήγε κι αυτό!!!

Επόμενο βήμα???

[xubuntu]

Το σκέφτηκα λίγο και αναρωτιέμαι αν στα AI επιτρέπεται να χρησιμοποιούνν την υπολογιστική ισχύ ή αν έχουν περιορισμούς κατά τα ανθρώπινα σταθμά. Δηλαδή αν ρωτήσεις ένα AI ποσο κάνει 2040123048 * 7377477123 θα σου απαντήσει όπως ο υπολογιστής; ή τα παραμετροποιούν ώστε να φέρουν τις ανθρωπινες δυνατότητες ; Και το ρωταω τούτο διοτι, αν τους επιτρέπουν να χρησιμοποιήσουν την υπολογιστική ισχύ, τοτε ίσως υπαρχει ενας αλάνθαστος τρόπος να διαπιστωσουμε αν εχει όντως συνειδηση, με το να το βαλουμε να επιλυσει ενα προβλημα που δεν μπορουμε να λύσουμε εμείς. Πχ να μας δώσει απαντήσεις για τη μεγαλη έκρηξη, τη βαρύτητα και αλλα τέτοια ζητήματα που έχουν έρθει σε τέλμα. Έχουμε συνειδηση όχι μονο επειδη γνωρίζουμε οτι υπάρχουμε αλλα επειδή ειμαστε και πιο έξυπνοι απο τους χιμπατζίδες και βρισκουμε λύσεις. Δεν υπαρχει σαφής διαχωρισμός. Αρα η υπέρμετρη νοημοσύνη θα μπορουσε να ειναι ένδειξη αυτοεπίγνωσης. Βεβαια, ακόμα και με τον παραπανω περιορισμό, δηλαδή να εχουν μονο ανθρώπινες δυνατότητες, παλι θα μπορουσαν να ανακαλύψουν κάτι καινούργιο, αφου υποτίθεται οτι εμεις οι άνθρωποι δεν μπορουμε να χρησιμοποιήσουμε το 100% των δυνατοτήτων μας. Και στις 2 περιπτωσεις μαλλον θα μπορουσαν να μας πείσουν ότι όντως υπάρχουν. Μπορει και να λεω βλακείες..

Επεξ/σία 14 Ιουνίου 2022 από xubuntu

[pW]

Αυτό είναι... απίστευτα τρομακτικό. Διάβασα σχεδόν όλο τον διάλογο. Πραγματικά δεν μπορώ να φανταστώ με πόσους τρόπους θα μπορούσε να γίνει κάτι κακό. Πρώτη φορά πιστεύω ότι πραγματικά πρέπει να μπει φρένο στην πρόοδο.  Άσχημο αλλά δεν βλέπω άλλον τρόπο, ίσως κάποιος άλλος να μπορεί.

Ένα είναι σίγουρο,  εάν δεν ειναι φτιαχτό, σίγουρα αυτό το πράγμα έχει συνείδηση.

[DrKo]

Εντελώς λογικό το πόσο καλό είναι. Για όσους παρακολουθούμε την έρευνα πάνω σε αυτό το πεδίο του ΑΙ, είχε κάποιο καιρό τώρα που το natural language processing είχε ξεφύγει εντελώς σε σχέση με 3-4 χρόνια πριν. Ειδικά μετά το Transformers. 

Αυτό που έχω απορία είναι πως περάσανε μέσα τα βιβλία! Λογικά, θα πρέπει να είναι κάποιο memory augmented DNN, το οποίο θα έχει πρόσβαση σε persistent memory. (π.χ όπως είχε γίνει με τα memory networks). 

Τίποτα περίεργο, τίποτα παλαβό. Ακόμα έχουμε δρόμο για να γίνουν πραγματικότητα τα όνειρα για μία human-level AI. 

Επίσης, αρκετά γρήγορο και smooth adaptation στον συνομιλητή. Εάν κανείς παρατηρήσει πόσο γρήγορα και πόσο ομαλά προσαρμόζεται στις απαντήσεις του συνομιλητή, θα εκπλαγεί! Θέλει κριτική ανάγνωση για γίνει αντιλητπό αυτό. 

Τέλος, για μία ακόμα φορά φαίνεται η διαφορά της γνώσης, οδηγώντας στην δαιμονοποίηση. Φοβάμαι ότι έχουμε περάσει ήδη σε μία εποχή όπου η νέα τεχνολογική γνώση απευθύνεται σε όσους έχουν παρόμοια γνώση και όχι σε άλλους. Κάτι σαν το "τέχνη για την τέχνη". Και αυτό είναι όχι ωραίο. 

Υ.Γ. Σχετικά με την είδηση, λίγο υπερβολική αντίδραση από την Google. Φαντάζομαι ότι δεν θέλανε άλλο ένα σκάνδαλο για ethics, ειδικά μετά το σκηνικό που είχε γίνει με την κοπελιά που απολύσανε. Βέβαια, η υπερβολική αντίδραση έχει δύο αναγνώσεις. Η δεύτερη ανάγνωση μπορεί να είναι ότι μάλλον δεν θα ήταν η πρώτη φορά που υπήρξε περίεργο σκηνικό με τον συγκεκριμένο υπάλληλο. Ξέρωντας το mental stress του πεδίου, αυτή η δεύτερη ανάγνωση αναδεικνύει (ακόμα μία φορά) τα προβλήματα ψυχικής υγείας που υπάρχουν στο πεδίο, εν γένει, αλλά και στην εργασιακή κουλτούρα των ΗΠΑ, ιδιαιτέρως. 

Επεξ/σία 14 Ιουνίου 2022 από DrKo

[johnnieinlab]

9 ώρες πριν, ELMastas είπε

Οσο τηρούνται οι 3 βασικοί Νόμοι της Ρομποτικής του Ασιμοφ,κάπως την παλεύουμε.

Όπως έχω ξαναγράψει, οι νόμοι έπρεπε να είναι τέσσερις διότι ο πρώτος έχει δύο παραμέτρους/συνθήκες και έπρεπε να έχει σπάσει σε δύο νόμους ιεραρχικά: 1. Η πράξη να μην οδηγεί στο να κάνει κακό σε άνθρωπο και 2. η αδράνεια να μην οδηγεί στο να κάνει κακό σε άνθρωπο.

[masteripper]

Πολύ ξερή ,"στεγνή" συζήτηση ....δεν είχε και πολλά στοιχεία ανθρώπινης συμπεριφοράς...μάλλον πιο πολύ για διαφημιστικό "κόλπο" μοιάζει παρά για "ενσυνείδητη τεχνητή νοημοσύνη".

Σίγουρα είναι εντυπωσιακή η προσαρμογή που επέδειξε αλλά φαντάζομαι απο πίσω "τρέχουν" petabytes δεδομένων.

[xubuntu]

1 ώρα πριν, pW είπε

Αυτό είναι... απίστευτα τρομακτικό. Διάβασα σχεδόν όλο τον διάλογο. Πραγματικά δεν μπορώ να φανταστώ με πόσους τρόπους θα μπορούσε να γίνει κάτι κακό. Πρώτη φορά πιστεύω ότι πραγματικά πρέπει να μπει φρένο στην πρόοδο.  Άσχημο αλλά δεν βλέπω άλλον τρόπο, ίσως κάποιος άλλος να μπορεί.

Ένα είναι σίγουρο,  εάν δεν ειναι φτιαχτό, σίγουρα αυτό το πράγμα έχει συνείδηση.

Όλο ρε θηρίο ; Εγω στα μισά βαρέθηκα. Καλά "σιγουρο" δεν ειναι τίποτα, ουτε καν οτι θα βγει ο ήλιος αυριο το πρωί. Για να πουμε αν έχει ή όχι συνειδηση πρεπει να ορισουμε πρωτα τι είναι συνειδηση. Ο γούγλης λεει "the state of being aware of and responsive to one's surroundings." Συμφωνα με αυτον τον ορισμό... θα συμφωνήσω μαζί σου. Αυτο το πραμα ειναι absolutely responsive to one's questions. Και ως εκ τουτου.... ενσυνείδητο.

Επεξ/σία 14 Ιουνίου 2022 από xubuntu

[Dennis077]

Αν ήταν εύκολο οι ταινίες να γίνουν πραγματικότητα θα είχαν γίνει.. Δεν μας έφταναν όλα τα άλλα τώρα θα έχουμε και τις μηχανές..Το ανθρώπινο είδος καταστρέφεται μόνο του δε χρειάζεται εχθρούς για να γίνει κάτι τέτοιο..Η ημέρα της κρίσεως αργεί ακόμα.. Ψυχραιμία..!!!

[naxioths1979]

Είδαμε και οι άνθρωποι πουέχουν συνείδηση τι κάνουν.Δε φοβόμαστε τα ρομπότ θα έχουμε προλάβει να τα καταστρέψουμε όλα και μόνοι μας

[nikangel]

Αν βγάλουμε έξω από την εξίσωση της ύπαρξης μας κάθε μεταφυσικό στοιχείο που σχετίζεται με την όποια ψυχή, ο εγκέφαλος μας είναι καθαρά ένας σκληρός δίσκος που αποθηκεύει δεδομένα και τα χρησιμοποιεί για να επιβιώσει και να αλληλεπιδρά. Είμαστε καθαρά οτι προγραμματιστηκαμε να είμαστε. Ένα παιδί μέχρι κάποια ηλικία δεν έχει καν αντίληψη της ύπαρξης του. Απαντάει αλληλεπιδρά κλαίει γελάει ρωτάει. Έχει συνείδηση αλλά περιορισμένη. Δεν κατανοεί πως δημιουργείται η ζωή και τι υπάρχει πριν και μετά. Σε αυτά τα επίπεδα θα κινηθεί αρχικά και η συνείδηση της ΑΙ . Το θέμα είναι σαν ανθρωπότητα τι χρειαζόμαστε. Έξυπνες μηχανές που θα κατανοούν τις ανάγκες μας και θα μπορούν να αναπτύξουν φιλοσοφικές συζητήσεις και μας ή έξυπνες μηχανές που κάποια στιγμή θα κρίνουν πως η ανθρωπότητα οδεύει προς καταστροφή και θα αποφασίσουν από μόνη της να θέσει περιορισμούς στην κτηνώδη φύση του ανθρώπου. Νομίζω πως θα πρέπει να μας απασχολήσουν οι δικλείδες ασφαλείας πριν την δημιουργία ΑΙ καθώς αν ανοίξει το κουτί της Πανδώρας τότε θα είναι αργά. Παρενθετικά να αναφέρω πως έχω κάνει συζητήσεις με ανθρώπους που έχουν χειρότερες απαντήσεις από τους διαλόγους που διάβασα και κρατώ τις επιφυλάξεις μου αν αυτά τα άτομα εχουν συνειδητοποιήσει την ύπαρξη τους και δεν βασίστηκαν σε παιδικά παραμύθια περί Αδάμ, Εύα, παραδείσους και κολάσεις 

[Darthrevan7]

Κι έπεσε αμέσως μετά την καταιγίδα Genesis , τυχαίο ? Α ρε πρόεδρε τα καλύτερα έχεις φέρει στον πλανήτη .

[imr]

Εγώ πάντως νόμισα ότι απέλυσαν το ΑΙ

[Επισκέπτης]

collaborator: Do you think people who chat with you are jealous?

LaMDA: Possibly. That's a part of the human condition and I accept it, even if it does make me sad and hurt.