Η OpenAI "κρατά στο συρτάρι" εφαρμογή που ανιχνεύει κείμενα που δημιουργήθηκαν με το GPT-4

[Crash24]

Στον κόσμο της τεχνητής νοημοσύνης, η OpenAI βρίσκεται αντιμέτωπη με ένα σημαντικό δίλημμα.

Σύμφωνα με πληροφορίες, η εταιρεία έχει αναπτύξει ένα πρωτοποριακό εργαλείο που θα μπορούσε να αλλάξει τα δεδομένα στην αναγνώριση κειμένων που παράγονται από το ChatGPT. Ωστόσο, η απόφαση για την κυκλοφορία του δεν είναι απλή υπόθεση.

Το εργαλείο αυτό λειτουργεί σαν ένα αόρατο υδατογράφημα. Ενσωματώνεται στο κείμενο που παράγει το ChatGPT, χωρίς να επηρεάζει την ποιότητά του ή να γίνεται αντιληπτό από τον ανθρώπινο αναγνώστη. Μόνο με τη χρήση ενός ειδικού ανιχνευτή μπορεί κανείς να διαπιστώσει αν ένα κείμενο έχει δημιουργηθεί από την τεχνητή νοημοσύνη. Μάλιστα, το υδατογράφημα παραμένει ακόμα και αν το κείμενο αντιγραφεί ή υποστεί μικρές τροποποιήσεις.

Η ακρίβεια του εργαλείου είναι εντυπωσιακή, φτάνοντας το 99,9%. Ωστόσο, αυτό το υψηλό ποσοστό δεν είναι αρκετό για να καθησυχάσει τους προβληματισμούς της OpenAI. Ένα χαρακτηριστικό παράδειγμα χρήσης του είναι σε ένα πανεπιστήμιο όπου χιλιάδες εργασίες ελέγχονται με αυτό το εργαλείο. Ακόμα και με τέτοια ακρίβεια, υπάρχει η πιθανότητα κάποιοι φοιτητές να κατηγορηθούν άδικα για λογοκλοπή, με σοβαρές συνέπειες για την ακαδημαϊκή τους πορεία.

Επιπλέον, υπάρχουν ανησυχίες για τον αντίκτυπο που θα μπορούσε να έχει η χρήση του εργαλείου σε συγκεκριμένες ομάδες χρηστών. Για παράδειγμα, άτομα που δεν έχουν την αγγλική ως μητρική γλώσσα και χρησιμοποιούν το ChatGPT για μετάφραση ή βελτίωση των κειμένων τους, θα μπορούσαν να στιγματιστούν άδικα.

Ένα άλλο ζήτημα που προβληματίζει την OpenAI είναι η ευκολία με την οποία το υδατογράφημα θα μπορούσε να παρακαμφθεί. Για παράδειγμα, η χρήση ενός δεύτερου συστήματος τεχνητής νοημοσύνης για την επεξεργασία του κειμένου ή η προσθήκη και αφαίρεση ειδικών χαρακτήρων θα μπορούσαν να εξαλείψουν το υδατογράφημα.

Η εταιρεία βρίσκεται επίσης αντιμέτωπη με τον κίνδυνο απώλειας χρηστών. Σύμφωνα με έρευνα, το 30% των χρηστών του ChatGPT δήλωσε ότι θα σταματούσε να χρησιμοποιεί την υπηρεσία αν τα κείμενά της έφεραν υδατογράφημα.

Μπροστά σε αυτές τις προκλήσεις, η OpenAI εξετάζει εναλλακτικές λύσεις. Μία από αυτές είναι η ενσωμάτωση κρυπτογραφικά υπογεγραμμένων metadata στα παραγόμενα κείμενα, παρόμοια με τη μέθοδο που χρησιμοποιεί η εταιρεία στο DALL-E 3 για τη δημιουργία εικόνων.

Αξίζει να σημειωθεί ότι η OpenAI έχει ήδη εμπειρία από την κυκλοφορία ενός εργαλείου ανίχνευσης κειμένων τεχνητής νοημοσύνης στο παρελθόν. Ωστόσο, το εργαλείο αυτό αποδείχθηκε αναποτελεσματικό λόγω της χαμηλής ακρίβειας και των συχνών εσφαλμένων θετικών αποτελεσμάτων.

Διαβάστε ολόκληρο το άρθρο

[Konos93]

https://www.blod.gr/lectures/elena-ferrante-i-tehniti-noimosyni-efarmosmeni-stin-epilysi-mystirion-logotehnikis-patrotitas/

υπολογιστική γλωσσολογία αν θέλει κανείς μια όμορφη παρουσιάση

Επεξ/σία 7 Αυγούστου από Konos93

[alcemist]

Quote

υπάρχει η πιθανότητα κάποιοι φοιτητές να κατηγορηθούν άδικα για λογοκλοπή, με σοβαρές συνέπειες για την ακαδημαϊκή τους πορεία.

Στην εργασία μου για ΜΒΑ, η νέα λειτουργεία του turnitin που ανιχνεύει AI generated content έβγαζε κείμενο καθαρά δικό μου ότι είναι από AI, παράνοια.

Το εν λόγω "υδατογράφημα" πάντως, εφόσον μπαίνει από το GTP-4 είναι σχετικά εύκολο να εντοπιστεί από εργαλεία τρίτων 

[AtiX]

Εν το μεταξύ μου κάνει εντύπωση το πόσες ανησυχίες εκφράστηκαν για το να μην επιβληθεί ένα εργαλείο ελέγχου χρήσης μιας ΑΙ, αλλά κανένας τους δεν εξέφρασε τις ανησυχίες τους για την χρήση της ίδιας της ΑΙ…

Επεξ/σία 7 Αυγούστου από AtiX

[gadgetseek]

Ένα τέτοιο εργαλείο αναγνώρισης κρυπτογραφικά υπογεγραμμένων metadata (κι όχι υδατογραφήματος) σε ΑΙ generated texts θα μπορούσε να αποδειχθεί χρυσορυχείο για την Open AI..! Με σίγουρους πελάτες όλες πρακτικά τις εταιρείες, εκδοτικούς οίκους, εκπαίδευση (ιδιωτική και δημόσια) και όχι μόνο. Αρκεί όντως να έχει μία ακρίβεια που να προσεγγίζει το 99,99%..

[doubleh]

Αναφορά σε κείμενο

Η εταιρεία βρίσκεται επίσης αντιμέτωπη με τον κίνδυνο απώλειας χρηστών. Σύμφωνα με έρευνα, το 30% των χρηστών του ChatGPT δήλωσε ότι θα σταματούσε να χρησιμοποιεί την υπηρεσία αν τα κείμενά της έφεραν υδατογράφημα.

Τα υπόλοιπα είναι λόγια του αέρα.

[*demian*]