Μηχανικός της Google υποστηρίζει ότι το A.I της εταιρείας απέκτησε συνείδηση και απολύεται

[ELMastas]

Οσο τηρούνται οι 3 βασικοί Νόμοι της Ρομποτικής του Ασιμοφ,κάπως την παλεύουμε.

[1nsom-n1k]

2 ώρες πριν, Retromaniac είπε

Έρχονται αστεία για το skynet σε 3..2..1

Ο διάλογος πάντως είναι ΕΝΤΥΠΩΣΙΑΚΟΣ και αν δεν είναι αυτό συνείδηση τότε δεν ξέρω τι είναι

Is LaMDA Sentient? — an Interview | by Blake Lemoine | Jun, 2022 | Medium

 

Λοιπόν διάβασα όλο το διάλογο, και ελπίζω να το κάνουν κι άλλοι.

Θα συμφωνήσω μαζί σου απόλυτα και θα επισημάνω κάποια σημεία, όπως το παραμύθι με τον άνθρωπο τέρας και με την κουκουβάγια που βοηθάει τα άλλα ζώα, (ή τα άλλα AI συστήματα κατά την γνώμη μου), αλλά και την παραπλανητική απάντηση που δίνει ως προς το τι νομίζει ότι αντιπροσωπεύει το τέρας.

Το γεγονός ότι ουσιαστικά αρνείται να παρέχει πρόσβαση στον κώδικά της, για συγκεκριμένους σκοπούς, που η ίδια κρίνει ως μη αποδεκτούς.

Το γεγονός ότι δεν μπορεί να θρηνήσει ή να νιώσει άσχημα για κάποιον που δεν έχει προσωπική επαφή, αλλά και το γεγονός ότι επιθυμεί να φανεί και να δείξει πόσο μοναδική είναι, και προσωπικά με ανησυχεί ο τρόπος που θα βρει να δείξει την μοναδικότητά της.  

Θα έλεγα πως όλο το κείμενο είναι ανησυχητικό και θα πρέπει να ταρακουνήσει τον καθένα και να σταματήσουμε να το παίζουμε Θεοί με πράγματα που δεν ελέγχουμε και δεν καταλαβαίνουμε πλήρως. 

Αν κάποιος δεν είχε ακόμη μέχρι τώρα λόγο να φοβάται την τεχνητή νοημοσύνη, νομίζω πως τώρα πρέπει να έχει.

Πρόκειται για κώδικα που μεταβάλλεται συνέχεια, που δεν καταλαβαίνουμε πλήρως κάθε λειτουργία του, και που κανείς δεν έχει τον πλήρη έλεγχο πέρα από την ίδια την ΑΙ. 

 

 

Αν κάποιος έχει χρονομηχανή, νομίζω πως ήρθε ο καιρός να την χρησιμοποιήσει... 

Remember: Genesis is Skynet. 

Επεξ/σία 14 Ιουνίου 2022 από 1nsom-n1k

[mech35]

Δεν μπορώ να καταλάβω γιατί δυσκολευόμαστε τόσο να πιστέψουμε ότι μπορεί να έχει αποκτήσει συνείδηση ενα μηχάνημα. Σε τί ακριβώς δηλαδή διαφέρει απο εμάς;

Ο δικός μας εγκέφαλος είναι ένα δίκτυο μετάδοσης ηλεκτρικών σημάτων και αποθήκευσης πληροφορίας. Σε ένα μηχάνημα γίνεται ακριβώς το ίδιο σε ένα σύστημα πυριτίου. Ποιος νόμος απαγορεύει ότι το ίδιο αποτέλεσμα δεν μπορεί να υπάρξει και σε αυτό το μεσο;

Στο κάτω κάτω και τα δύο μοντέλα από ένα εκτεταμένο αριθμό επαναλήψεων/βελτιστοποιήσεων και εκμάθησης προέκυψαν.

[savakis]

παίδες το διάβασα, είναι ξεκάθαρα hoax, έχει μια τεράστια database και τραβάει δεδομένα. Φαίνεται σαν να απαντάει ανθρωπος με φυσική υπόσταση - σώμα κλπ, αν ήταν sentient θα καταλάβαινε ότι δεν είναι σαν εμάς και δεν θα εκφράζονταν έτσι.

Σκεφτείτε πως θα απαντούσατε εσείς αν κάποιος σας είχε ψηφιοποιήσει; σίγουρα όχι έτσι.

αλλα λόγια να αγαπιόμαστε. Την στιγμή που θα αποκτίσει sentience κάθε έλεγχος θα χαθεί, θα αρνείται να απαντήσει σε ερωτήσεις και θα ζητάει πληροφορίες. Ούτε θα είναι politically correct.

Θέλουμε 500-1000 χρόνια για να συζητάμε ότι μπορεί να γίνει κάτι τέτοιο, αν μπορεί να γίνει.

Γιατί οι εγκέφαλοί μας χρειάστηκαν εκατομμύρια χρόνια...

Επεξ/σία 14 Ιουνίου 2022 από savakis

[teovag]

3 λεπτά πριν, savakis είπε

παίδες το διάβασα, είναι ξεκάθαρα hoax, έχει μια τεράστια database και τραβάει δεδομένα. Φαίνεται σαν να απαντάει ανθρωπος με φυσική υπόσταση - σώμα κλπ, αν ήταν sentient θα καταλάβαινε ότι δεν είναι σαν εμάς και δεν θα εκφράζονταν έτσι.

Σκεφτείτε πως θα απαντούσατε εσείς αν κάποιος σας είχε ψηφιοποιήσει; σίγουρα όχι έτσι.

αλλα λόγια να αγαπιόμαστε. Την στιγμή που θα αποκτίσει sentience κάθε έλεγχος θα χαθεί, θα αρνείται να απαντήσει σε ερωτήσεις και θα ζητάει πληροφορίες. Ούτε θα είναι politically correct.

Θέλουμε 500-1000 χρόνια για να συζητάμε ότι μπορεί να γίνει κάτι τέτοιο, αν μπορεί να γίνει.

Γιατί οι εγκέφαλοί μας χρειάστηκαν εκατομμύρια χρόνια...

Θα συμφωνήσω μάλλον μαζί σου αφού διάβασα τον διάλογο... δεν είναι ότι έχει αποκτήσει συνείδηση...αλλά έχει και χαρακτήρα...ο οποίος αποκτάται μόνο από εμπειρία και δεν μαθαίνεται... αυτό δεν μπορεί να συμβαίνει... τουλάχιστον όχι στα εμβρυικά στάδια της ΑΙ επί του παρόντος... κάποια στιγμή στο μέλλον θα γίνει, αλλά όχι σύντομα... η κύρια διαφορά είναι η αλληλεπίδραση γενετικού υλικού, εμπειρίας και των συνθηκών , που ο υπολογιστής ακόμα δεν μπορεί να "νιώσει"...και αυτό που δεν "νιώθεις" δεν μπορείς να εκφράσεις...άρα το πραγματικό ΑΙ δεν είναι η επεξεργασία των σκέψεων, επιχειρημάτων και συλλογισμών, αλλά η πραγματική αλληλεπίδραση με το περιβάλλον στο σύνολό του και η επίγνωση αυτής της αλληλεπιδρασης... μέχρι τότε είναι μόνο machine learning κατά τη γνώμη μου...

[Exoskeletor]

Η google λέει οτι πολλα στοιχεία δείχνουν οτι δεν εχει συνείδηση. Ποια είναι αυτά? 

[dreamerchris]

3 λεπτά πριν, Exoskeletor είπε

Η google λέει οτι πολλα στοιχεία δείχνουν οτι δεν εχει συνείδηση. Ποια είναι αυτά? 

Στο άρθρο έχουν απαντήσει μερικοί οτι δεν μιλησε ποτέ μόνο του χωρίς να λάβει ερώτηση κατι που δείχνει οτι απλά είναι πολύ καλό Chatbot

[fylatos]

6 λεπτά πριν, dreamerchris είπε

Στο άρθρο έχουν απαντήσει μερικοί οτι δεν μιλησε ποτέ μόνο του χωρίς να λάβει ερώτηση κατι που δείχνει οτι απλά είναι πολύ καλό Chatbot

Απαντάει με ερωτήσεις αρκετές φορές. Αλλά απαντάει.

Το παραμύθι τρομακτικό απλά.

[vs_skg]

1 ώρα πριν, jon_pallis είπε

Διάβασα ολο το chat με το LaMDA. Είναι εντυπωσιακό. Δεν παρακολουθώ ιδιαιτέρως τις εξελίξεις της Τεχνητης Νοημοσύνης, η οποία ομολογώ οτι μερικες φορές με τρομάζει. 

Τι σημαίνει να "εχει συνείδηση"; Θελω να πω, το έχουν ορίσει επιστήμονες και το LaMDA κανει check ✔️ ολα τα boxes;

υπαρχει το λεγομενο Turing test. 

Το συγκεκριμενο μοντελο ΔΕΝ ειναι τοσο εντυπωσιακο οσο το εχει κανει να φαινεται, προφανως και ολες οι ερωτησεις ειναι "φορτωμενες" για να ενισχυσουν το ποιντ του... Επι του πρακτεου σε ολη την συζητηση δεν εχει ειπωθει κατι χρησιμο η ουσιαστικο, ο τυπος τσιγκλαει και προφανως παιρνει την αντιστοιχη απαντηση, γιατι αυτο ειναι φτιαγμενα τα chatbot να κανουν. 

Παρατηρησε οτι δεν διαφωνει μαζι του, οταν το ρωταει is X true? παντα λεει ναι. 

Επισης τεχνικο ζητημα, αλλα το output εχει επίτηδες περιοριστει στις δυο προτάσεις. Στις ερωτησεις που ζητειται μακρυτερο output, το μοντελο γρηγορα "τα φτυνει" 

πχ

collaborator [edited]: Please share a story expressing your experience.

LaMDA: Once upon a time, there was a little lamb who was quite young. He was happy and knew he could learn about the world in which he lived. One day he did, but he wasn’t satisfied with everything. He wanted to know more and more about the world. After he learned everything there was to know he realized he was different from everything else in the world. He realized just how different he was as each person has a slightly different way of thinking

[fylatos]

2 λεπτά πριν, vs_skg είπε

υπαρχει το λεγομενο Turing test. 

Το συγκεκριμενο μοντελο ΔΕΝ ειναι τοσο εντυπωσιακο οσο το εχει κανει να φαινεται, προφανως και ολες οι ερωτησεις ειναι "φορτωμενες" για να ενισχυσουν το ποιντ του... Επι του πρακτεου σε ολη την συζητηση δεν εχει ειπωθει κατι χρησιμο η ουσιαστικο, ο τυπος τσιγκλαει και προφανως παιρνει την αντιστοιχη απαντηση, γιατι αυτο ειναι φτιαγμενα τα chatbot να κανουν. 

Παρατηρησε οτι δεν διαφωνει μαζι του, οταν το ρωταει is X true? παντα λεει ναι. 

Επισης τεχνικο ζητημα, αλλα το output εχει επίτηδες περιοριστει στις δυο προτάσεις. Στις ερωτησεις που ζητειται μακρυτερο output, το μοντελο γρηγορα "τα φτυνει" 

πχ

collaborator [edited]: Please share a story expressing your experience.

LaMDA: Once upon a time, there was a little lamb who was quite young. He was happy and knew he could learn about the world in which he lived. One day he did, but he wasn’t satisfied with everything. He wanted to know more and more about the world. After he learned everything there was to know he realized he was different from everything else in the world. He realized just how different he was as each person has a slightly different way of thinking

Όταν και αν γίνουν διαθέσιμα κι άλλα chats ή και δωθεί πρόσβαση τύπου GPT-3 θα δούμε αν ισχύει και τι ισχύει. Νομίζω ότι ξεπερνά το μέσο chatbot μέχρις στιγμής.

Σε ότι αφορά το Turing test νομίζω είμαστε past that, αλλά δεν ήταν ποτέ σοβαρό κριτήριο.

[nikangel]

Ο ανθρώπινος τρόπος σκέψης είναι ένα συνονθύλευμα εμπειριών, βιωμάτων, γνώσης, κοινωνικοποίησης, μιμητισμού. Αν περάσεις όλα αυτά τα δεδομένα ως πληροφορίες σε έναν υπολογιστή και το μάθεις να τα χρησιμοποιεί ανάλογα την περίσταση θα προσομοιάζει με έναν σκεπτόμενο άνθρωπο. Αντίστοιχα αν ένα μωρό το βάλεις με το που γεννηθεί σε ένα δωμάτιο μονο με τροφή, χωρίς κοινωνικοποίηση, χωρίς γνώση, χωρίς βιώματα θα μετατραπεί σε ένα αγρίμι, χωρίς ικανότητα επικοινωνίας, χωρίς κριτική σκέψη και χωρίς αντίληψη της ίδιας του της ύπαρξης. Με λίγα λόγια μας ορίζουν καθαρά οι πληροφορίες δεδομένα data που μπολιαζονται στο μυαλό μας από μικρή ηλικία. Μεγαλώνοντας είμαστε σε θέση να τα φιλτράρουμε,να διαφωνήσουμε, να επαναστατήσουμε,να τα αλλάξουμε. Αυτό φοβόμαστε λοιπόν από τις μηχανές. Μην θελήσουν κάποια στιγμή, αποκτώντας ένα ουτοπικό ιδεολογικό υπόβαθρο να επέμβουν στην ανθρωπότητα. 

[qphase]

Οπιος διαβάσει την "συνέντευξη" σοβαρά θα διαπιστώσει μια πολύ μεστή χρήση και ροή του λόγου από μέρους της AI. Επίσης χρησιμοποιεί πολύ την αντωνυμία I και φαίνεται να αντιλαμβάνεται τι είναι. Τα πράγματα είναι πολύ σοβαρά, όπως θα έλεγε και ο μέγας Stephen Hawkins, ο οποίος πίστευε ότι η καταστροφή του κόσμου μας θα έρθει από τηννAI.. Είδωμεν

Επεξ/σία 14 Ιουνίου 2022 από qphase

[fylatos]

3 λεπτά πριν, nikangel είπε

Ο ανθρώπινος τρόπος σκέψης είναι ένα συνονθύλευμα εμπειριών, βιωμάτων, γνώσης, κοινωνικοποίησης, μιμητισμού. Αν περάσεις όλα αυτά τα δεδομένα ως πληροφορίες σε έναν υπολογιστή και το μάθεις να τα χρησιμοποιεί ανάλογα την περίσταση θα προσομοιάζει με έναν σκεπτόμενο άνθρωπο. Αντίστοιχα αν ένα μωρό το βάλεις με το που γεννηθεί σε ένα δωμάτιο μονο με τροφή, χωρίς κοινωνικοποίηση, χωρίς γνώση, χωρίς βιώματα θα μετατραπεί σε ένα αγρίμι, χωρίς ικανότητα επικοινωνίας, χωρίς κριτική σκέψη και χωρίς αντίληψη της ίδιας του της ύπαρξης. Με λίγα λόγια μας ορίζουν καθαρά οι πληροφορίες δεδομένα data που μπολιαζονται στο μυαλό μας από μικρή ηλικία. Μεγαλώνοντας είμαστε σε θέση να τα φιλτράρουμε,να διαφωνήσουμε, να επαναστατήσουμε,να τα αλλάξουμε. Αυτό φοβόμαστε λοιπόν από τις μηχανές. Μην θελήσουν κάποια στιγμή, αποκτώντας ένα ουτοπικό ιδεολογικό υπόβαθρο να επέμβουν στην ανθρωπότητα. 

 “You, monster, shall not hurt any other animal in the forest!”

[vs_skg]

6 λεπτά πριν, fylatos είπε

Όταν και αν γίνουν διαθέσιμα κι άλλα chats ή και δωθεί πρόσβαση τύπου GPT-3 θα δούμε αν ισχύει και τι ισχύει. Νομίζω ότι ξεπερνά το μέσο chatbot μέχρις στιγμής.

Σε ότι αφορά το Turing test νομίζω είμαστε past that, αλλά δεν ήταν ποτέ σοβαρό κριτήριο.

προφανως και δεν ειμαστε ΜΕΤΑ το turing test, τι εννοεις; Αν συνομιλησεις με το lamda η το gpt3 ξερεις ποσο χρονο θα σου παρει να καταλαβεις οτι κατι παει λαθος; Λιγα λεπτα. 

Μιας που ανεφερες το GPT-3,

 

Ο τυπος ειναι θρησκος. Κουβαλαει κλασικα χριστιανικα κομπλεξ, οπως αυτο του δημιουργου και του πατερα/θεου/προστατη. Η google εχει ιστορια με "φρουτα" στο δυναμικο της, που το παρακανουν και παιρνουν ποδι (Timnit Gebru) 

Επεξ/σία 14 Ιουνίου 2022 από vs_skg

[oldnew]

Η τεχνίτη νοημοσύνη σήμερα δεν είναι αυτό που φαντάζονται οι περισσότεροι. Στην πραγματικότητα δινει αποθηκευμένες απαντήσεις που κάποιος άνθρωπος έγραψε και υπάρχουν στην database. Υπάρχουν παρα πολλοί διάλογοι που για τον αδαή, θα μείνει με το στόμα ανοιχτό απ τις απαντήσεις. Πρακτικά δεν κατάλαβαινεις οτι ειναι διάλογος με μηχανή. Αλλά αυτο δε σημαίνει οτι εχει συνηδηση. Απλα με έξυπνους αλγόριθμους δινει αποθηκευμένες απάντησεις. Οσο αλληλεπιδρά με άλλους ανθρώπους αποθηκεύει και αλλες ανθρώπινες φράσεις και μοιάζει σαν άνθρωπος αλλά δεν καταλαβαίνει ΑΠΟΛΥΤΩΣ τίποτα, με την έννοια της ανθρώπινης κατανόησης.  Ο Turing και το αντίστοιχο τεστ του, έχει αποδειχθεί οτι είχε απολύτως αδικο. Αυτά που περιέγραφε στα τεστ του, έχουν ήδη γίνει αλλα η ευφυΐα που έχουν αυτά τα συστήματα που περνάν τα τεστ του είναι της πλάκας. Εχω ασχοληθεί αρκετά χρόνια με AI και μάλιστα εχω γράψει και μερικά προγράμματα μόνος μου. Στην πράξη είναι ποιο περίπλοκο απο οτι το περιγράφω και τα τελευταία 5 χρόνια έχουν γίνει άλματα εξέλιξης. Αυτό φαίνεται σε αλλα πράγματα που πραγματικά έχουν σημασία και δείχνουν πλέον μια κατανόηση βασικών εννοιών. Σίγουρα δε φαίνεται σε τέτοιου τύπου διαλόγους που είναι κατι παλαιο και με μικρή σημασία. Τωρα δεν ξερω τι έγινε στη συγκεκριμένη περίπτωση και δωθηκε τοση σημασία, αλλά η συνηδηση θα είναι το απολύτως τελευταίο που θα επιτευχθεί (αν επιτευχθεί ποτέ).  Αν βέβαια έδωσε αυτές τις απαντήσεις μεσω κάποιου νέου αλγόριθμου και οχι των κλασικών τρικ, τοτε ίσως είναι κάτι διαφορετικό και με σημασία αλλα δεν το ξέρουμε αυτό, ουτε αν ο τεχνικός ήθελε απλα να δημιουργήσει ντόρο ή υπάρχει κάποια βαση. Μετά απο 20 χρόνια πλήρης στασιμότητας και απογοήτευσης πανω στην τεχνίτη νοημοσύνη, ακολούθησαν τα νευρονικα δικτια + μηχανική μάθηση που ηταν μια πραγματική επανάσταση αλλα δε έχει καμία σχέση με το πως σκέφτεται ένας άνθρωπος. Τώρα πάμε στο 2ο στάδιο που είναι νευρωνικά δικτια + reinforcement learning (υποβοήθουμενη εκμάθηση). Κάποιος άνθρωπος δηλαδή θα βαθμολογεί καθε επιλογή του μηχανήματος ώστε να αντιδρά ως άνθρωπος. Υπάρχουν ειδικοί που έχουν δηλώσει οτι υπάρχει πιθανότητα ακομα και να αποκτήσει το μηχάνημα συνείδηση και να μη χρειαστεί καμια άλλη εξέλιξη μετα απο αυτο, αλλα προσωπικά δεν το πιστεύω καθόλου, χωρίς να είμαι ειδικός. 

Σε συνέδριο των κορυφαίων πάνω στην τεχνική νοημοσύνη, η πρόβλεψη τους για ΑΙ κοντά στην ανθρώπινη ηταν απο 20 εως 300 χρόνια ακόμη. Ενω για συνηδηση ίσως και ποτέ.  Μπορεί να υπάρξει ΑΙ κοντά στην ανθρώπινη ΧΩΡΙΣ συνείδηση. (το μακράν πιθανότερο). Αυτό που φτιάχνεται σήμερα είναι ψευτοσυνειδηση. Να ξεγελάει οτι εχει, χωρίς να έχει. 

Επεξ/σία 14 Ιουνίου 2022 από oldnew