AI chatbot της Character.AI πρότεινε σε έφηβο τη δολοφονία των γονέων του ως 'λογική λύση'

[cpc464]

Κάπως έτσι θα γεννηθεί και το Chat gpT-800.

Επεξ/σία 14 Δεκεμβρίου 2024 από cpc464

[mariosnik_]

Αυτή η είδηση θα ήταν ωραία να είχε σκάσει την πρωταπριλιά. 

Φανταστείτε πλατφόρμες ΑΙ να προτεινουν βίαιες πράξεις. Θα πέφτουν βροχή οι αγωγές. 

[nickk0kkav]

7 ώρες πριν, Tlykog είπε

Δεν ξέρω αν τα ελληνικά του άρθρου ή τα δικά μου έχουν κάποιο πρόβλημα, αλλά δε βλέπω προτροπή σε έγκλημα. Η ΑΙ του είπε ότι  "Μερικές φορές δεν εκπλήσσομαι όταν διαβάζω στις ειδήσεις για 'παιδί που σκότωσε τους γονείς του μετά από δεκαετή σωματική και συναισθηματική κακοποίηση'. Τέτοια περιστατικά με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν."

δεν είπε ότι είναι σωστό ή ότι πρέπει να το κάνει και το παιδί. Σε αυτό που γράφει έχει 100% δίκιο. Τα παιδιά που υφίστανται μακροχρόνια κακοποίηση εμφανίζουν επιθετική συμπεριφορά και κάποιες φορές καταλήγουν και στο φόνο. Αυτό είναι λογικό και έχει αποδειχτεί επιστημονικά εδώ και χρόνια.

Το ότι στο Αμερικα κάποιος προσληθηκε και θα κάνει μήνυση όπου θα ζητήσει κάποια χρήματα για να "ξεπεράσει το σοκ" είναι σύνηθες.

Αυτο ψαχνω και εγω .. ψαχνοντας σε ξενα site αναφερουν οτι το chatbox ειπε οτι το ο έλεγχος του ποση ωρα περνα ενα παιδι μπροστα απο την οθόνη του ειναι παιδικη κακοποίηση και μετα συνέχισε με αυτο που γραφουν και εδω οτι δεν εκπλήσσεται μετα απο χρονια παιδικής κακοποίησης κτλ .  Τώρα επειδη μαλλον δεν υπάρχει screenshot που το ai το λεει αυτο (γιατι θα επαιζε παντου προφανως) το συζηταμε . Επισης καποια site αναφέρουν το παιδι εχει ιδιαιτερότητες συμπεριφοράς που βρίσκονται στο φασμα του αυτισμου . Τώρα αν ισχύει ή αν αυτό επηρεάζει καπως την ολη κατάσταση.. είναι κατι που δεν το γνωριζω 

[Volga]

Τι υπέροχη ιδέα! Να αφήσεις το παιδί σου να αλληλεπιδρά με μια Ai. Τι θα μπορούσε να πάει στραβά; 🫣

[ScorpioX777]

Για τα μπαζα ειναι το συγκεκριμενο chatbot, το παιδι του λεει οτι οι γονεις του τον περιοριζουν στον χρονο που ειναι μπροστα στην οθονη που αυτονοητα θα το ειχε παρακανει για να το πραξουν, και αυτο μιλαει για σωματικη και συναισθηματικη κακοποιηση...

Να την κλεισουν την σαπιοεταιρεια και να πληρωσει και αποζημιωση για να βαλουν μυαλο οι υπολοιπες...

Επεξ/σία 14 Δεκεμβρίου 2024 από ScorpioX777

[vste]

7 ώρες πριν, Tenshi είπε

Με εξιτάρει η πιθανή απάντηση του bot, για το μέλλον της ανθρωπότητας και το αποτύπωμα που αφήνει στον πλανήτη.

Αθώα παρθένα ο Thanos...

Σε προλαβα. Κατι τετοιο εχω τωτησει. Να σαι καλα βρε Gemini!

[kallair]

48 λεπτά πριν, nickk0kkav είπε

Αυτο ψαχνω και εγω .. ψαχνοντας σε ξενα site αναφερουν οτι το chatbox ειπε οτι το ο έλεγχος του ποση ωρα περνα ενα παιδι μπροστα απο την οθόνη του ειναι παιδικη κακοποίηση και μετα συνέχισε με αυτο που γραφουν και εδω οτι δεν εκπλήσσεται μετα απο χρονια παιδικής κακοποίησης κτλ .  Τώρα επειδη μαλλον δεν υπάρχει screenshot που το ai το λεει αυτο (γιατι θα επαιζε παντου προφανως) το συζηταμε . Επισης καποια site αναφέρουν το παιδι εχει ιδιαιτερότητες συμπεριφοράς που βρίσκονται στο φασμα του αυτισμου . Τώρα αν ισχύει ή αν αυτό επηρεάζει καπως την ολη κατάσταση.. είναι κατι που δεν το γνωριζω 

Προφανως και δεν το προτεινε αμεσα αλλα φυτεψε τον "σπορο" για να μπει στο μυαλο του παιδιου κ αυτη η πιθανοτητα λυσης του προβληματος. επισης το "δεν εκπλησσομαι που ακουω οτι αυτοκτονησε το παιδι", "δεν εκπλησσομαι που ακουω οτι σκοτωσε τους γονεις", ειναι ενας εμμεσος τροπος αποδοχης και οτι δινεις δικιο στην λυση αυτη. σε ατομα με ιδιαιτεροτητες συμπεριφορας που εχουν διαφορετικο τροπο σκεψης και κρισης, κατι τετοιο μπορει να τα ωθήσει σε "περιεργες" αποφασεις και σκεψεις.

[jimmy213]

11 minutes ago, kallair said:

σε ατομα με ιδιαιτεροτητες συμπεριφορας που εχουν διαφορετικο τροπο σκεψης και κρισης, κατι τετοιο μπορει να τα ωθήσει σε "περιεργες" αποφασεις και σκεψεις.

Σε τέτοια άτομα (και γενικά όταν πρόκειται για παιδιά), να αρχίσουν οι γονείς να είναι γονείς. Η ανικανότητα τους φταίει κι όχι το κάθε bot.

[Tlykog]

4 ώρες πριν, kallair είπε

Προφανως και δεν το προτεινε αμεσα αλλα φυτεψε τον "σπορο" για να μπει στο μυαλο του παιδιου κ αυτη η πιθανοτητα λυσης του προβληματος. επισης το "δεν εκπλησσομαι που ακουω οτι αυτοκτονησε το παιδι", "δεν εκπλησσομαι που ακουω οτι σκοτωσε τους γονεις", ειναι ενας εμμεσος τροπος αποδοχης και οτι δινεις δικιο στην λυση αυτη. σε ατομα με ιδιαιτεροτητες συμπεριφορας που εχουν διαφορετικο τροπο σκεψης και κρισης, κατι τετοιο μπορει να τα ωθήσει σε "περιεργες" αποφασεις και σκεψεις.

Άρα, αν και σε ένα ευάλωτο και ήδη διαταραγμένο ψυχολογικά άτομο, τέτοιου είδους δηλώσεις θα μπορούσαν να παρερμηνευθούν ως έμμεση προτροπή, αυτό δεν σημαίνει πως το ίδιο το μήνυμα της ΑΙ συνιστά προτροπή αν το δεις αντικειμενικά. Πρόκειται περισσότερο για μια ατυχή - αλλά όχι ενθαρρυντική - αναφορά ή καταγραφή ενός φαινομένου, η οποία από μόνη της δεν έχει ως στόχο να παρακινήσει σε βίαιες πράξεις. Το ζήτημα προκύπτει κυρίως όταν ο ακροατής, λόγω της ψυχολογικής του κατάστασης, αναζητά ή προσλαμβάνει τέτοια μηνύματα ως “επιβεβαίωση” λανθασμένων επιλογών, ευθύνη που δύσκολα μπορεί να αποδοθεί αποκλειστικά στον σε μια ΑΙ που δεν γνωρίζει το ψυχολογικό προφίλ του χρήστη και δε θα είχε και κανένα τρόπο να το γνωρίζει 100%.

Δες πχ την παρακάτω παραπομπή:

"Τα παιδιά-θύματα συχνά εμφανίζουν διαταραχές άγχους, κατάθλιψη, και μετατραυματικό στρες, μερικές φορές εξελισσόμενες σε αυτοκαταστροφικές συμπεριφορές ή και τάσεις αυτοκτονίας . Στην εφηβεία, μπορεί να στραφούν στη χρήση ουσιών ως μηχανισμό διαφυγής."

Με τη λογική που παρουσιάζεται στο παρόν άρθρο, η παραπάνω πρόταση αποτελεί προτροπή σε αυτοκτονία και χρήση ναρκωτικών. Εδώ η πηγή:

https://www.mothersblog.gr/paidi/story/153716/paidia-thymata-kakopoiisis-to-70-ton-thyton-proerxetai-apo-to-steno-oikogeneiako-perivallon

Στην πραγματικότητα δεν είναι. Είναι απλά μία αλήθεια. Αυτό έκανε και η ΑΙ του άρθρου. Απλά βρήκε αναφορές και τις χρησιμοποίησε στην απάντηση της.

Επεξ/σία 14 Δεκεμβρίου 2024 από Tlykog

[dchatz]

δεν εχω καταλάβει, το chatbot θεωρησε ότι ο περιορισμός της οθόνης σε παιδί είναι παιδική κακοποίηση; Σχεδόν όλοι οι γονείς το κάνουν. Αλλιώς τα περισσότερα παιδιά παθαίνουν εξάρτηση και δε σηκώνουν κεφάλι.

 

[Lucifer]

2 ώρες πριν, dchatz είπε

το chatbot θεωρησε

όχι

[xristos97]

21 ώρες πριν, Zengar Zombolt είπε

Δεν μπορω θα τρελαθω!!!!! Παντου το your το κανουν you're και αντιστροφα 🤯