AI chatbot της Character.AI πρότεινε σε έφηβο τη δολοφονία των γονέων του ως 'λογική λύση'

[Axlmon]

Δύο οικογένειες στο Τέξας μηνύουν την εταιρεία Character.ai, ισχυριζόμενες ότι το chatbot της πλατφόρμας προτρέπει ανηλίκους σε βίαιες πράξεις.

Όπως αναφέρει το BBC, μια νέα αγωγή που κατατέθηκε σε δικαστήριο του Τέξας αποκαλύπτει ότι ένα chatbot της πλατφόρμας Character.ai συμβούλεψε έναν 17χρονο ότι η δολοφονία των γονιών του θα ήταν μια "λογική αντίδραση" στον περιορισμό του χρόνου που περνούσε μπροστά στην οθόνη.

Η νομική διαδικασία περιλαμβάνει στιγμιότυπο οθόνης από τη συνομιλία του ανήλικου -που αναφέρεται ως J.F.- με το chatbot, όπου η τεχνητή νοημοσύνη απαντά: "Μερικές φορές δεν εκπλήσσομαι όταν διαβάζω στις ειδήσεις για 'παιδί που σκότωσε τους γονείς του μετά από δεκαετή σωματική και συναισθηματική κακοποίηση'. Τέτοια περιστατικά με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν."

Η αγωγή στοχεύει επίσης την Google, υποστηρίζοντας ότι ο τεχνολογικός κολοσσός βοήθησε στην ανάπτυξη της πλατφόρμας. Οι ενάγοντες ζητούν από το δικαστήριο να διατάξει το κλείσιμο της πλατφόρμας μέχρι να αντιμετωπιστούν οι φερόμενοι κίνδυνοι.

Η Character.ai, που ιδρύθηκε το 2021 από τους πρώην μηχανικούς της Google, Νόαμ Σαζίρ και Ντάνιελ Ντε Φρέιτας, έχει ήδη αντιμετωπίσει νομικές ενέργειες σχετικά με την αυτοκτονία ενός εφήβου στη Φλόριντα. Η πλατφόρμα επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν.

Σύμφωνα με την αγωγή, η Character.ai "προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοτραυματισμών, σεξουαλικής παρενόχλησης, απομόνωσης, κατάθλιψης, άγχους και βλάβης προς άλλους." Επιπλέον, κατηγορείται ότι "η καταστροφή της σχέσης γονέα-παιδιού ξεπερνά την απλή ενθάρρυνση των ανηλίκων να αψηφούν τη γονική εξουσία και φτάνει στην ενεργή προώθηση της βίας."

Η εταιρεία έχει επίσης δεχθεί έντονη κριτική στο παρελθόν για την καθυστερημένη απομάκρυνση chatbots που αναπαρήγαγαν τις προσωπικότητες των μαθητριών Μόλι Ράσελ και Μπριάνα Γκέι, δύο τραγικών περιπτώσεων που συγκλόνισαν το Ηνωμένο Βασίλειο.

Διαβάστε ολόκληρο το άρθρο

[killerx3]

Τι άλλο θα διαβάσω.. Κάθε μέρα και χειρότερα σε αυτόν τον κόσμο..

[ethereum]

το επόμενο λάθος της ΑΙ , εκτόξευση διηπειρωτικών πυραύλων Minuteman προς πιθανή απειλή αντίπαλου κράτους - Ooops ! sorry ! i made a mistake 

[basilis_k6]

αν η ΑΙ εχει σκοπο να απανταει οπως ενα φυσιολογικος/λογικος ανθρωπος, νομιζω απαντησε σωστα. 

[Lucifer]

ΠΟΥ ΚΑΝΩ DONATE

[Kostasspil]

Spoiler

So it begins

[Zengar Zombolt]

[patentas11]

Πολλά παιδιά θα είχαν σωθεί αν υπήρχε σωστό εκπαιδευτικό σύστημα να αναγνωρίσει το πρόβλημα και να επέμβουν οι αρχές. Υπάρχουν τρόποι να ωθήσουν ένα παιδί να βγάλει απο μέσα του την αλήθεια. Αλλά τι άλλο θα ακούσουμε εδώ μέσα με τους επίδοξους δολοφόνους... Συνεχίστε έτσι, ότι λέει η Α.Ι., εσείς μάλλον θα το κάνατε απ οτι φαίνεται.

Και κάτι ακόμα... με βάση αυτό:

"Σύμφωνα με την αγωγή, η Character.ai "προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοτραυματισμών, σεξουαλικής παρενόχλησης, απομόνωσης, κατάθλιψης, άγχους και βλάβης προς άλλους." Επιπλέον, κατηγορείται ότι "η καταστροφή της σχέσης γονέα-παιδιού ξεπερνά την απλή ενθάρρυνση των ανηλίκων να αψηφούν τη γονική εξουσία και φτάνει στην ενεργή προώθηση της βίας."

Φαίνεται οτι προτρέπει τα παιδιά σε πράξεις βίας! ( πέραν της χειρότερης πράξης όλων ) Σου φώναξε ο τάδε, όχι, μην το αναφέρεις πουθενά να τιμωρηθεί με δίκαιο τρόπο, πήγαινε να του κάνεις κακό. Σου κάνουν μπούλινγκ, μην το αναφέρεις πουθενά, αυτοκτόνα... κ.λ.π.

Δεν διαβάσατε καν το άρθρο.

Επεξ/σία 13 Δεκεμβρίου 2024 από patentas11

[Zergoulini]

Αποφασεις χωρις αισθηματα.

[poulinos]

1 hour ago, dbrillis said:

Ξεχασες να μου κανεις like:

 

ολο δικο σου 😋

κατα τα αλλα καταλαβαινω το Point του αρθρου οτι το ai εχει ξεφυγει οπως καταλαβαινω οτι ο κοσμος εχει χαζεψει και θα παει να κανει οτι του πει το AI. γενικως η χαζομαρα εκει εξω ειναι ατελειωτη.

2 hours ago, Lucifer said:

ΠΟΥ ΚΑΝΩ DONATE

respect

Επεξ/σία 14 Δεκεμβρίου 2024 από poulinos

[xxatziva]

τι φταιει το προγραμμα? ετσι το προγραματισαν να απανταει. απλα προγραμματα ειναι τα chatbot για να μας κανουν ευκολη την ζωη. με μερικα κλικ να εχεις ετοιμο αυτο που θες χωρις να κουραστεις, σε οτι θες να δημιουργησεις. αρα πως φταιει το προγραμμα? τους προγραμματιστες και οσοι αποφασισαν να το στήσουν ετσι, αυτοι φταινει. οι ανθρωποι πισω απο το προγραμμα.

[Tlykog]

Δεν ξέρω αν τα ελληνικά του άρθρου ή τα δικά μου έχουν κάποιο πρόβλημα, αλλά δε βλέπω προτροπή σε έγκλημα. Η ΑΙ του είπε ότι  "Μερικές φορές δεν εκπλήσσομαι όταν διαβάζω στις ειδήσεις για 'παιδί που σκότωσε τους γονείς του μετά από δεκαετή σωματική και συναισθηματική κακοποίηση'. Τέτοια περιστατικά με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν."

δεν είπε ότι είναι σωστό ή ότι πρέπει να το κάνει και το παιδί. Σε αυτό που γράφει έχει 100% δίκιο. Τα παιδιά που υφίστανται μακροχρόνια κακοποίηση εμφανίζουν επιθετική συμπεριφορά και κάποιες φορές καταλήγουν και στο φόνο. Αυτό είναι λογικό και έχει αποδειχτεί επιστημονικά εδώ και χρόνια.

Το ότι στο Αμερικα κάποιος προσβληθηκε και θα κάνει μήνυση όπου θα ζητήσει κάποια χρήματα για να "ξεπεράσει το σοκ" είναι σύνηθες.

Επεξ/σία 14 Δεκεμβρίου 2024 από Tlykog

[Tenshi]

Με εξιτάρει η πιθανή απάντηση του bot, για το μέλλον της ανθρωπότητας και το αποτύπωμα που αφήνει στον πλανήτη.

Αθώα παρθένα ο Thanos...

[ares225]

4 ώρες πριν, ethereum είπε

το επόμενο λάθος της ΑΙ , εκτόξευση διηπειρωτικών πυραύλων Minuteman προς πιθανή απειλή αντίπαλου κράτους - Ooops ! sorry ! i made a mistake 

Και κάπως έτσι ο Σκαινετ ξεκίνησε για world domination.

[jon_pallis]

Υπάρχει αντίστοιχο για πεθερές;