Η ΑΙ του Facebook «μπερδεύει» βίντεο με μαύρους άνδρες με περιεχόμενο με πιθήκους

[trib]

Το κοινωνικό δίκτυο ζήτησε συγγνώμη για αυτό το «απαράδεκτο σφάλμα».

Το Facebook ζήτησε συγγνώμη αφότου η τεχνητή νοημοσύνη πρόσθεσε μία απαράδεκτη ετικέτα σε ένα βίντεο με μαύρους άνδρες. Σύμφωνα με τους New York Times, οι χρήστες που παρακολούθησαν πρόσφατα ένα βίντεο με μαύρους άνδρες που δημοσιεύτηκε από την Daily Mail είδαν μια ερώτηση που τους ρωτούσε αν θα ήθελαν να βλέπουν γενικά βίντεο με πιθήκους. Το κοινωνικό δίκτυο ζήτησε συγγνώμη για το «απαράδεκτο σφάλμα» σε δήλωση που εστάλη στο ειδησεογραφικό πρακτορείο. Η εταιρεία απενεργοποίησε επίσης τη δυνατότητα προτάσεων που ήταν υπεύθυνη για το αυτό το μήνυμα καθώς εξετάζει την αιτία για να αποτρέψει την επανάληψη σοβαρών σφαλμάτων όπως αυτό.

Ο εκπρόσωπος της εταιρείας, Dani Lever, δήλωσε:

Όπως είπαμε, ενώ έχουμε βελτιώσει την τεχνητή νοημοσύνη μας, γνωρίζουμε ότι δεν είναι τέλεια και έχουμε αρκετή πρόοδο να κάνουμε. Ζητούμε συγγνώμη από όποιον μπορεί να έχει δει αυτές τις προσβλητικές προτάσεις της AI.

Το φύλο και η φυλετική προκατάληψη στην τεχνητή νοημοσύνη δεν είναι ένα πρόβλημα που αντιμετωπίζει μόνο το Facebook, καθώς οι τεχνολογίες αναγνώρισης προσώπου δεν είναι ακόμη τέλειες και τείνουν να εντοπίζουν εσφαλμένα γυναίκες και ανθρώπους γενικότερα. Πέρυσι, μία εσφαλμένη αναγνώριση προσώπου οδήγησε στη σύλληψη δύο μαύρων ανδρών στο Ντιτρόιτ. Το 2015, το Google Photos επισήμανε τις φωτογραφίες των μαύρων ανθρώπων ως «γορίλες» και η Wired διαπίστωσε λίγα χρόνια αργότερα ότι η λύση του τεχνολογικού γίγαντα ήταν να λογοκρίνει τη λέξη «γορίλας» από αναζητήσεις και ετικέτες εικόνων.

Το Facebook μοιράστηκε ένα σύνολο δεδομένων που δημιούργησε μαζί με την AI κοινότητα σε μια προσπάθεια να καταπολεμήσει το ζήτημα πριν από μερικούς μήνες. Περιείχε πάνω από 40.000 βίντεο με 3.000 ηθοποιούς που μοιράστηκαν την ηλικία και το φύλο τους με την εταιρεία. Το Facebook προσέλαβε ακόμη και επαγγελματίες φωτογράφους για να φωτίσουν και να φωτογραφίσουν τους τόνους του δέρματος των ηθοποιών, έτσι ώστε τα συστήματα τεχνητής νοημοσύνης να μπορούν να μάθουν πώς μοιάζουν οι άνθρωποι διαφορετικών εθνικοτήτων υπό διάφορες συνθήκες φωτισμού. Το σύνολο δεδομένων σαφώς δεν ήταν αρκετό για να λύσει πλήρως την προκατάληψη της τεχνητής νοημοσύνης για το Facebook, αποδεικνύοντας περαιτέρω ότι η κοινότητα ΑΙ έχει ακόμη πολλή δουλειά μπροστά της.

Διαβάστε ολόκληρο το άρθρο

[masteripper]

Έχει δρόμο ακόμα το ΑΙ....

Επεξ/σία 5 Σεπτεμβρίου 2021 από masteripper

[George Mav]

Καθόλου ρατσιστικό…

[leogr90]

6 λεπτά πριν, George Mav είπε

Καθόλου ρατσιστικό…

Μα δεν ειναι ρατσιστικο. Ο ρατσισμος εχει να κανει με την πεποίθηση οτι μια φυλη, φυλο, ιδιολογια κλπ. ειναι κατωτερη μιας αλλης. 
Αυτο ειναι απλα ενα bug του προγραμματος, μη τα βαφτιζουμε ολα "ρατσισμο".

[john_dr]

Πόσες φορές έχουμε ξανά διαβάσει παρόμοια είδηση;

[Toper Harley]

Έπρεπε να μπερδεύει παντζάρια με μπριζόλες και να τα προτείνει στους vegan...!!!

[Επισκέπτης]

Ε μη το βαράτε, το ΑΙ είναι σαν παιδί, τώρα έμαθε οτι υπάρχουν και άνθρωποι με μαύρο χρώμα. Πιθανό να μπερδευτεί και όταν δει άνθρωπο με ένα πόδι ή χωρίς χέρια κτλ μαθαίνει. 

[korakios]

5 λεπτά πριν, john_dr είπε

Πόσες φορές έχουμε ξανά διαβάσει παρόμοια είδηση;

αρκετές , το ίδιο είχε γίνει με google

[Basilhs23___]

Μα τι λέτε τώρα. Η ΑΙ του fb είναι η καλυτερη.... 

[spectaculator]

17 λεπτά πριν, leogr90 είπε

Μα δεν ειναι ρατσιστικο. Ο ρατσισμος εχει να κανει με την πεποίθηση οτι μια φυλη, φυλο, ιδιολογια κλπ. ειναι κατωτερη μιας αλλης. 
Αυτο ειναι απλα ενα bug του προγραμματος, μη τα βαφτιζουμε ολα "ρατσισμο".

Δεν είναι bug! Σε μια ΑΙ αυτό σημαίνει πως έτσι τη "έμαθες". Οι μπαγλαμάδες που την "εκπαίδευσαν" φταίνε!

[valkon]

Και από ότι διαβάζουμε και για το copilot του GitHub, η τακτική τους είναι να βάζουν χέρι στο ΑΙ (μια if κοινώς) να μην παρουσιάζει τέτοια αποτελέσματα.

Έχει πολύ δρόμο ακόμα ο κλάδος αυτός.

[kotronas]

Δεν φταίει η Τ.Ν. για αυτό απλά ακολουθάει πιστά την λογική του δημιουργού της.

[michael92]

Μήπως το facebook AI είναι η μετεμψύχωση της Tay; 

 

[nepomuk]

26 λεπτά πριν, valkon είπε

Και από ότι διαβάζουμε και για το copilot του GitHub, η τακτική τους είναι να βάζουν χέρι στο ΑΙ (μια if κοινώς) να μην παρουσιάζει τέτοια αποτελέσματα.

Έχει πολύ δρόμο ακόμα ο κλάδος αυτός.

Μιά γενιά ακομα το  πολύ , δηλ 20 χρόνια , η μεση καποτε ηλικια τεκνοποιησης μιας γυναικας , στο δυτικο κοσμο .

Αν θυμηθουμε απο που ξεκινησε και που εφτασε , η προοδος ειναι μεγαλη , τι ειναι 20 χρονια ; 5 ολυμπιαδες , ερχεται στο κοσμο ενα παιδι

και μεχρι να ηλικιωθει για να πινει αλκοολ στην Αμερική , νασου  η ΑΙ που θα "κοβει" τον νεαρό αμεσως και θα δινει την εγκριση στον

μπαρμαν να τον σερβιρει . Ειναι κι αυτο μια εφαρμογη της ΑΙ  αμφιλεγομενη, που προς το παρον βγαζει πολλα  σφαλματα.

Επεξ/σία 5 Σεπτεμβρίου 2021 από nepomuk

[pirmen56]

25 λεπτά πριν, spectaculator είπε

Δεν είναι bug! Σε μια ΑΙ αυτό σημαίνει πως έτσι τη "έμαθες". Οι μπαγλαμάδες που την "εκπαίδευσαν" φταίνε!

Το deep learning AI αναγνωρίζει στατιστικές ομοιότητες μεταξύ φωτογραφιών. Αν αναγνωρίσει ομοιότητες μεταξύ μαύρων και γορίλων θα επιστρέψει το σχετικό αποτέλεσμα. Αφού οι γορίλες είναι ανθρωπόμορφοι και έχουν μαύρο χρώμα.

Δεν είναι biased με κοινωνικές νόρμες για να λογοκρίνει αυτόματα και να μην επιστρέφει προσβλητικά για ανθρώπους αποτελέσματα. Το ακριβώς αντίθετο δηλαδή από αυτό που ισχυρίζονται όλοι οι επικριτές. Οι άνθρωποι είμαστε biased και τροποποιούμε τις απόψεις μας για να αρέσουμε στους άλλους, όχι τα AI συστήματα.