Η OpenAI "κρατά στο συρτάρι" εφαρμογή που ανιχνεύει κείμενα που δημιουργήθηκαν με το GPT-4

Σύμφωνα με πληροφορίες, η εταιρεία έχει αναπτύξει ένα πρωτοποριακό εργαλείο που θα μπορούσε να αλλάξει τα δεδομένα στην αναγνώριση κειμένων που παράγονται από το ChatGPT. Ωστόσο, η απόφαση για την κυκλοφορία του δεν είναι απλή υπόθεση.

Το εργαλείο αυτό λειτουργεί σαν ένα αόρατο υδατογράφημα. Ενσωματώνεται στο κείμενο που παράγει το ChatGPT, χωρίς να επηρεάζει την ποιότητά του ή να γίνεται αντιληπτό από τον ανθρώπινο αναγνώστη. Μόνο με τη χρήση ενός ειδικού ανιχνευτή μπορεί κανείς να διαπιστώσει αν ένα κείμενο έχει δημιουργηθεί από την τεχνητή νοημοσύνη. Μάλιστα, το υδατογράφημα παραμένει ακόμα και αν το κείμενο αντιγραφεί ή υποστεί μικρές τροποποιήσεις.

Η ακρίβεια του εργαλείου είναι εντυπωσιακή, φτάνοντας το 99,9%. Ωστόσο, αυτό το υψηλό ποσοστό δεν είναι αρκετό για να καθησυχάσει τους προβληματισμούς της OpenAI. Ένα χαρακτηριστικό παράδειγμα χρήσης του είναι σε ένα πανεπιστήμιο όπου χιλιάδες εργασίες ελέγχονται με αυτό το εργαλείο. Ακόμα και με τέτοια ακρίβεια, υπάρχει η πιθανότητα κάποιοι φοιτητές να κατηγορηθούν άδικα για λογοκλοπή, με σοβαρές συνέπειες για την ακαδημαϊκή τους πορεία.

Επιπλέον, υπάρχουν ανησυχίες για τον αντίκτυπο που θα μπορούσε να έχει η χρήση του εργαλείου σε συγκεκριμένες ομάδες χρηστών. Για παράδειγμα, άτομα που δεν έχουν την αγγλική ως μητρική γλώσσα και χρησιμοποιούν το ChatGPT για μετάφραση ή βελτίωση των κειμένων τους, θα μπορούσαν να στιγματιστούν άδικα.

Ένα άλλο ζήτημα που προβληματίζει την OpenAI είναι η ευκολία με την οποία το υδατογράφημα θα μπορούσε να παρακαμφθεί. Για παράδειγμα, η χρήση ενός δεύτερου συστήματος τεχνητής νοημοσύνης για την επεξεργασία του κειμένου ή η προσθήκη και αφαίρεση ειδικών χαρακτήρων θα μπορούσαν να εξαλείψουν το υδατογράφημα.

Η εταιρεία βρίσκεται επίσης αντιμέτωπη με τον κίνδυνο απώλειας χρηστών. Σύμφωνα με έρευνα, το 30% των χρηστών του ChatGPT δήλωσε ότι θα σταματούσε να χρησιμοποιεί την υπηρεσία αν τα κείμενά της έφεραν υδατογράφημα.

Μπροστά σε αυτές τις προκλήσεις, η OpenAI εξετάζει εναλλακτικές λύσεις. Μία από αυτές είναι η ενσωμάτωση κρυπτογραφικά υπογεγραμμένων metadata στα παραγόμενα κείμενα, παρόμοια με τη μέθοδο που χρησιμοποιεί η εταιρεία στο DALL-E 3 για τη δημιουργία εικόνων.

Αξίζει να σημειωθεί ότι η OpenAI έχει ήδη εμπειρία από την κυκλοφορία ενός εργαλείου ανίχνευσης κειμένων τεχνητής νοημοσύνης στο παρελθόν. Ωστόσο, το εργαλείο αυτό αποδείχθηκε αναποτελεσματικό λόγω της χαμηλής ακρίβειας και των συχνών εσφαλμένων θετικών αποτελεσμάτων.

• OpenAI
• ChatGPT