Η ΑΙ του Facebook «μπερδεύει» βίντεο με μαύρους άνδρες με περιεχόμενο με πιθήκους

Το Facebook ζήτησε συγγνώμη αφότου η τεχνητή νοημοσύνη πρόσθεσε μία απαράδεκτη ετικέτα σε ένα βίντεο με μαύρους άνδρες. Σύμφωνα με τους New York Times, οι χρήστες που παρακολούθησαν πρόσφατα ένα βίντεο με μαύρους άνδρες που δημοσιεύτηκε από την Daily Mail είδαν μια ερώτηση που τους ρωτούσε αν θα ήθελαν να βλέπουν γενικά βίντεο με πιθήκους. Το κοινωνικό δίκτυο ζήτησε συγγνώμη για το «απαράδεκτο σφάλμα» σε δήλωση που εστάλη στο ειδησεογραφικό πρακτορείο. Η εταιρεία απενεργοποίησε επίσης τη δυνατότητα προτάσεων που ήταν υπεύθυνη για το αυτό το μήνυμα καθώς εξετάζει την αιτία για να αποτρέψει την επανάληψη σοβαρών σφαλμάτων όπως αυτό.

Ο εκπρόσωπος της εταιρείας, Dani Lever, δήλωσε:

Όπως είπαμε, ενώ έχουμε βελτιώσει την τεχνητή νοημοσύνη μας, γνωρίζουμε ότι δεν είναι τέλεια και έχουμε αρκετή πρόοδο να κάνουμε. Ζητούμε συγγνώμη από όποιον μπορεί να έχει δει αυτές τις προσβλητικές προτάσεις της AI.

Το φύλο και η φυλετική προκατάληψη στην τεχνητή νοημοσύνη δεν είναι ένα πρόβλημα που αντιμετωπίζει μόνο το Facebook, καθώς οι τεχνολογίες αναγνώρισης προσώπου δεν είναι ακόμη τέλειες και τείνουν να εντοπίζουν εσφαλμένα γυναίκες και ανθρώπους γενικότερα. Πέρυσι, μία εσφαλμένη αναγνώριση προσώπου οδήγησε στη σύλληψη δύο μαύρων ανδρών στο Ντιτρόιτ. Το 2015, το Google Photos επισήμανε τις φωτογραφίες των μαύρων ανθρώπων ως «γορίλες» και η Wired διαπίστωσε λίγα χρόνια αργότερα ότι η λύση του τεχνολογικού γίγαντα ήταν να λογοκρίνει τη λέξη «γορίλας» από αναζητήσεις και ετικέτες εικόνων.

Το Facebook μοιράστηκε ένα σύνολο δεδομένων που δημιούργησε μαζί με την AI κοινότητα σε μια προσπάθεια να καταπολεμήσει το ζήτημα πριν από μερικούς μήνες. Περιείχε πάνω από 40.000 βίντεο με 3.000 ηθοποιούς που μοιράστηκαν την ηλικία και το φύλο τους με την εταιρεία. Το Facebook προσέλαβε ακόμη και επαγγελματίες φωτογράφους για να φωτίσουν και να φωτογραφίσουν τους τόνους του δέρματος των ηθοποιών, έτσι ώστε τα συστήματα τεχνητής νοημοσύνης να μπορούν να μάθουν πώς μοιάζουν οι άνθρωποι διαφορετικών εθνικοτήτων υπό διάφορες συνθήκες φωτισμού. Το σύνολο δεδομένων σαφώς δεν ήταν αρκετό για να λύσει πλήρως την προκατάληψη της τεχνητής νοημοσύνης για το Facebook, αποδεικνύοντας περαιτέρω ότι η κοινότητα ΑΙ έχει ακόμη πολλή δουλειά μπροστά της.