Η ΑΙ του Facebook «μπερδεύει» βίντεο με μαύρους άνδρες με περιεχόμενο με πιθήκους

[petasis]

48 λεπτά πριν, AtiX είπε

Βρε φίλε μου μπορείς να μου απαντήσεις αν κάποιος θα μπορούσε ακόμα και αν αυτή είναι μια αυτόματη διαδικασία και ξέροντας από προηγούμενες προσπάθειες την μεγάλη πιθανότητα λάθους, γιατί δεν πήγε ένας... ΕΝΑΣ να διαγράψει αυτόν τον απαράδεκτο χαρακτηρισμό???

Δεν καταλαβαίνω τι ρωτάς. Ζητάς να βλέπει άνθρωπος τα εκατομμύρια recommendations που κάνει κάθε μέρα η πλατφόρμα τους (αδύνατο); Νομίζω έγινε το εξής απλό: Σε ένα συγκεκριμένο βίντεο συνέβη να προτείνει βίντεο με πιθήκους, το είδαν, το ανάφεραν στην πλατφόρμα, τους ζήτησε συγνώμη η πλατφόρμα και θα το φτιάξουν. Τι παραπάνω έπρεπε να γίνει;

Δεν είναι ότι σε κάθε βίντεο με μαύρους έβγαζε προτάσεις με πιθήκους.

48 λεπτά πριν, liberostelios είπε

Όχι. Εννοώ ότι η συστημική προκατάληψη μας πολλές φορές μας οδηγεί στο να μην τροφοδοτούμε τα συστήματα αυτά με δεδομένα αρκετά διαφορετικά ώστε να λειτουργούν για όλους τους ανθρώπους. Δε λέω ότι είναι εσκεμμένο, αλλά είναι μια παράλειψη που οφείλεται στις προκαταλήψεις του δημιουργού. Δες πχ αυτό: https://www.weforum.org/agenda/2021/07/ai-machine-learning-bias-discrimination/

Τα δεδομένα που χρειάζονται είναι πλέον τεράστια σε όγκο. Τα δεδομένα πρέπει να αντληθούν από τα υπάρχοντα δεδομένα (τα οποία είναι προκατειλημμένα επειδή η κοινωνία είναι προκατειλημμένη), και πολύ συχνά δεν υπάρχουν τα "ουδέτερα" δεδομένα (ούτε μπορούν να φτιαχτούν).

Αν υποθέσουμε ότι η απλ θέλει να φτιάξει την αναγνώριση προσώπου, και βλέπει ότι έχει δεδομένα από τα τηλέφωνα για 600 εκ. λευκούς, 30 εκ. ασιάτες, 20 εκ. μαύρους. Τι μπορεί να κάνει;

Δεν είναι εύκολο να λυθούν ζητήματα που ξεκινούν από κοινωνικά στερεότυπα και λειτουργίες.

[Και θα έπρεπε να διαμαρτυρόμαστε για να διορθωθεί η κοινωνία, και όχι μόνο το είδωλο στην ΤΝ.]

[Z1A9]

Το AI δεν εκανε λαθος επι της ουσιας.

Ρωτησε αν θελουν να δουν και αλλα βιντεο με primates.

Ε και που ειναι το προβλημα και ο ανθρωπος primate δεν ειναι?

Οποιος εχει την μυγα μυγιαζεται που λενε.

[admiral@1]

Εδω...δεν μπορει να ξεχωρισει μια ...Φρεγατα ,απο εναν...ανθρωπο 😂😂😂

[Imak]

μηπως το αρθο επρεπε να γραφει για εγχρωμους κ οχι μαυρους...?

λεω εγω τωρα

[spectaculator]

16 ώρες πριν, pirmen56 είπε

Το deep learning AI αναγνωρίζει στατιστικές ομοιότητες μεταξύ φωτογραφιών. Αν αναγνωρίσει ομοιότητες μεταξύ μαύρων και γορίλων θα επιστρέψει το σχετικό αποτέλεσμα. Αφού οι γορίλες είναι ανθρωπόμορφοι και έχουν μαύρο χρώμα.

Δεν είναι biased με κοινωνικές νόρμες για να λογοκρίνει αυτόματα και να μην επιστρέφει προσβλητικά για ανθρώπους αποτελέσματα. Το ακριβώς αντίθετο δηλαδή από αυτό που ισχυρίζονται όλοι οι επικριτές. Οι άνθρωποι είμαστε biased και τροποποιούμε τις απόψεις μας για να αρέσουμε στους άλλους, όχι τα AI συστήματα.

Γνωρίζεις πως "εκπαιδεύεις" μια ΑΙ; Την ταϊζεις με εικόνες ή λέξεις, ή γενικότερα σειρές μέσα στις οποίες θέλει να εντοπίζει μοτίβα και στην "αναγνώριση" της παρέχεις τα στοιχεία εκείνα που διαφοροποιούν το αποτέλεσμα Α από το Β. Οι μπαγλαμάδες του FB προφανώς αντέγραψαν ή εφάρμοσαν τη βάση μιας άλλης ΑΙ χωρίς να κάνουν τίποτα το παραπάνω. Αποδείχθηκε και στο παρελθόν με αστοχίες αναγνώρισης του περιεχομένου εικόνας και μάλιστα κάπου είχαν γίνει και εικασίες για το ποια ΑΙ χρησιμοποίησε (δεν ανέπτυξε τίποτα).

Εδώ υπάρχουν ΑΙ που αναγνωρίζουν πρόσωπα, αυτή του FB δεν μπορεί να ξεχωρίσει γορίλα από άνθρωπο...

Δεν μίλησα για biased αλγόριθμο, ήταν δικό σου συμπέρασμα.

[Spect~]

Δεν ειναι κατι νεο αυτο. Θυμαμαι που το συζητουσαμε στο μεταπτυχιακο το '16..

[Herald]

15 ώρες πριν, yiannis1991 είπε

Απ' ότι φαίνεται όχι. Ότι γίνεται γίνεται αλλά θέλει περισσότερο training. Δεν είναι εκεί το θέμα όμως, αλλά στο ότι φυσικά και δεν υπάρχει ρατσιστική πρόθεση. Το AI αναγνωρίζει patterns, βάλε το χρώμα, βάλε ότι οι γορίλες μοιάζουν με ανθρώπους, βάλε τα μεγαλύτερα χείλη και τις κάπως πεπλατυσμένες μυτες που έχουν οι άνθρωποι αφρικανικής καταγωγής, ε εντάξει λογικό να δει ομοιότητες το ΑΙ.

Βάλε και ότι οι άνθρωποι είναι...primates, άρα δεν έκανε καν λάθος η AI. Η πηγή γράφει για primates, η μετάφραση για πίθηκους

9 ώρες πριν, AtiX είπε

Βρε φίλε μου μπορείς να μου απαντήσεις αν κάποιος θα μπορούσε ακόμα και αν αυτή είναι μια αυτόματη διαδικασία και ξέροντας από προηγούμενες προσπάθειες την μεγάλη πιθανότητα λάθους, γιατί δεν πήγε ένας... ΕΝΑΣ να διαγράψει αυτόν τον απαράδεκτο χαρακτηρισμό???

Στην πηγή αναφέρεται σε primates και όχι σε πίθηκους (apes). Οι μαύροι, όπως και οι λευκοί, είμαστε primates. Οπότε δεν έκανε κάποιο λάθος η AI

[AtiX]

2 λεπτά πριν, Herald είπε

Βάλε και ότι οι άνθρωποι είναι...primates, άρα δεν έκανε καν λάθος η AI. Η πηγή γράφει για primates, η μετάφραση για πίθηκους

Το θέμα είναι ότι το έβγαλε σε βίντεο με μαύρους ανθρώπους και όχι σε λευκούς… αν δεν έκανε αυτό τον διαχωρισμό δεν θα υπήρχε κανένα πρόβλημα…

[Herald]

2 λεπτά πριν, AtiX είπε

Το θέμα είναι ότι το έβγαλε σε βίντεο με μαύρους ανθρώπους και όχι σε λευκούς… αν δεν έκανε αυτό τον διαχωρισμό δεν θα υπήρχε κανένα πρόβλημα…

E και δεν σου φαίνεται καθόλου...λογικό? Φυσιογνωμικά εννοώ

Μπορεί να μπερδέψει και ένα Τσεχοσλοβάκικο Λυκόσκυλο με λύκο, ενώ το τσιαουάου μου όχι.

Επεξ/σία 6 Σεπτεμβρίου 2021 από Herald

[AtiX]

4 λεπτά πριν, Herald είπε

E και δεν σου φαίνεται καθόλου...λογικό? Φυσιογνωμικά εννοώ

Μπορεί να μπερδέψει και ένα Τσεχοσλοβάκικο Λυκόσκυλο με λύκο, ενώ το τσιαουάου μου όχι.

Όχι δεν μου φαίνεται καθόλου φυσιολογικό πρώτον για την κοινωνία, δεύτερον για το επίπεδο των προγραμματιστών και τρίτων για τους ίδιους τους σχολιαστές…

[Επισκέπτης]

13 λεπτά πριν, AtiX είπε

Το θέμα είναι ότι το έβγαλε σε βίντεο με μαύρους ανθρώπους και όχι σε λευκούς… αν δεν έκανε αυτό τον διαχωρισμό δεν θα υπήρχε κανένα πρόβλημα…

Αν οι πίθηκοι είχαν άσπρο τρίχωμα θα το έβγαζε σε βίντεο με λευκούς ανθρώπους.

1 λεπτό πριν, AtiX είπε

Όχι δεν μου φαίνεται καθόλου φυσιολογικό πρώτον για την κοινωνία, δεύτερον για το επίπεδο των προγραμματιστών και τρίτων για τους ίδιους τους σχολιαστές…

Δεν γνωρίζεις πως δουλεύει το ΑΙ, πως γίνεται το training

[Herald]

1 λεπτό πριν, AtiX είπε

Όχι δεν μου φαίνεται καθόλου φυσιολογικό πρώτον για την κοινωνία, δεύτερον για το επίπεδο των προγραμματιστών και τρίτων για τους ίδιους τους σχολιαστές…

Δηλαδή πιστεύεις ότι είναι ρατσιστές με το τσιουάουα μου?  

[Nabuko]

2 ώρες πριν, Imak είπε

μηπως το αρθο επρεπε να γραφει για εγχρωμους κ οχι μαυρους...?

λεω εγω τωρα

Όχι δεν έπρεπε

[AtiX]

Μόλις τώρα, yiannis1991 είπε

Αν οι πίθηκοι είχαν άσπρο τρίχωμα θα το έβγαζε σε βίντεο με λευκούς ανθρώπους.

Δεν γνωρίζεις πως δουλεύει το ΑΙ, πως γίνεται το training

Σοβαρά??? Να το κλείσουν τότε αφού δεν μπορεί να ξεχωρίσει έναν μαύρο άνθρωπο από έναν πιθηκοειδές…

μου κάνει εντύπωση που δικαιολογείτε μια μηχανή που έχει εκπαιδευτεί να ξεχωρίζει brands για να σου πετάει μετά διαφημίσεις και δεν μπορεί να ξεχωρίσει έναν άνθρωπο από έναν γορίλα…

[Επισκέπτης]

Μόλις τώρα, AtiX είπε

Σοβαρά??? Να το κλείσουν τότε αφού δεν μπορεί να ξεχωρίσει έναν μαύρο άνθρωπο από έναν πιθηκοειδές…

μου κάνει εντύπωση που δικαιολογείτε μια μηχανή που έχει εκπαιδευτεί να ξεχωρίζει brands για να σου πετάει μετά διαφημίσεις και δεν μπορεί να ξεχωρίσει έναν άνθρωπο από έναν γορίλα…

Χρειάζεται επιπλέον training, δεν δικαιολογώ τη μηχανή, απλώς εξηγώ πως λειτουργεί.