Στο στόχαστρο της Microsoft και της τεχνητής νοημοσύνης η τοξικότητα του Internet

[Hal9000]

Στην κατηγορία του open source λογισμικού προσθέτει σήμερα η Microsoft εργαλεία και βάσεις δεδομένων που έχουν σχεδιαστεί με σκοπό τον έλεγχο των συστημάτων συντονισμού περιεχομένου με τη χρήση τεχνητής νοημοσύνης και την αυτόματη δημιουργία δοκιμών που εντοπίζουν ενδεχόμενες αστοχίες σε αυτά τα μοντέλα.

Η εταιρία υποστηρίζει πως τα δύο αυτά προγράμματα, με τις ονομασίες AdaTest και (De)ToxiGen, θα μπορούσαν να οδηγήσουν σε περισσότερο αξιόπιστα μεγάλα γλωσσικά μοντέλα (LLM) ή μοντέλα παρόμοια με το GPT-3 του OpenAI, ικανά να αναλύουν και να παράγουν κείμενα με συνθετότητα ανθρωπίνου επιπέδου.

Είναι σαφές πως τα LLM ενέχουν κινδύνους. Ακριβώς επειδή εκπαιδεύονται με την εισαγωγή μεγάλου όγκου δεδομένων από το διαδίκτυο, συμπεριλαμβανομένων των μέσων κοινωνικής δικτύωσης, είναι ικανά να παράξουν τοξικά κείμενα, βασισμένα σε παρόμοια γλωσσικά δείγματα τα οποία συναντούν στο πλαίσιο της εκπαίδευσής τους. Το πρόβλημα είναι πως ο εντοπισμός και η αποκατάσταση των αστοχιών σε αυτά τα μοντέλα εξακολουθεί να συνιστά πρόκληση, τόσο λόγω του κόστους επανεκπαίδευσης των μοντέλων όσο και του ευρύτατου φάσματος αστοχιών που θα μπορούσαν να υφίστανται.

Έχοντας ως στόχο την καταγραφή προόδου στην αντιμετώπιση του προβλήματος της τοξικότητας, μια ερευνητική ομάδα της Microsoft ανέπτυξε το ToxiGen, μια βάση δεδομένων που προορίζεται για την εκπαίδευση των αυτόματων εργαλείων συντονισμού περιεχομένου, ικανή να εντοπίζει προβληματικές χρήσεις της γλώσσας. Η ToxiGen περιλαμβάνει 274.000 παραδείγματα “ουδέτερων” και “τοξικών” διατυπώσεων, γεγονός που την καθιστά τη μεγαλύτερη δημόσια διαθέσιμη βάση δεδομένων ρητορικής μίσους, σύμφωνα με τη Microsoft.

«Κατανοούμε πως το οιοδήποτε σύστημα συντονισμού περιεχομένου θα έχει κενά, καθώς και ότι θα απαιτείται διαρκής βελτίωση αυτών των μοντέλων. Ο στόχος με το (De)ToxiGen είναι να μπορέσουν οι προγραμματιστές συστημάτων τεχνητής νοημοσύνης να εντοπίζουν κινδύνους ή προβλήματα σε οποιαδήποτε υφιστάμενη τεχνολογία συντονισμού περιεχομένου αποτελεσματικότερα», δήλωσε η Έτσε Καμάρ, στέλεχος του ερευνητικού τομέα της Microsoft και επικεφαλής των AdaTest και (De)ToxiGen. «Τα πειράματά μας καταδεικνύουν πως το εργαλείο μπορεί να χρησιμοποιηθεί για τη δοκιμή πολλών υφιστάμενων συστημάτων και προσδοκούμε να διδαχτούμε από την κοινότητα σχετικά με τα νέα περιβάλλοντα που θα μπορούσαν να ωφεληθούν από αυτό το εργαλείο».

Διαβάστε ολόκληρο το άρθρο

[stormoffire]

Μάλλον η ελευθερία του να λες ότι θέλεις είναι στο στόχαστρο....!!!

[michael92]

Dieversity.

[Επισκέπτης]

8 λεπτά πριν, stormoffire είπε

Μάλλον η ελευθερία του να λες ότι θέλεις είναι στο στόχαστρο....!!!

Ακριβώς αυτό!!! Και τι ακριβώς εννοεί ο ποιητής όταν λέει "τοξικό περιεχόμενο". οέο ??? Και ποιός κρίνει τί είναι και τί όχι "τοξικό"???? 

[NotAliki177]

Και ποιος ορίζει τι είναι τοξικό και τι όχι; let me guess...

Επεξ/σία 25 Μαΐου 2022 από NotAliki177

[basilis5]

Ο,τι πρεπει για το insomnia

[Τέρης Α.]

Να τα βλέπουν αυτά μερικά αστροπελέκια του forum.

[AtiX]

[SabotazNic]

[Dr_Pepper]

2 ώρες πριν, aggelis6 είπε

Ακριβώς αυτό!!! Και τι ακριβώς εννοεί ο ποιητής όταν λέει "τοξικό περιεχόμενο". οέο ??? Και ποιός κρίνει τί είναι και τί όχι "τοξικό"???? 

Δεν υπάρχουν τοξικά μηνύματα όλα είναι pixel σε μια οθόνη, δεν σου αρέσει κάτι ; μην το διαβάσεις μην απαντήσεις. 

Όλα ήταν σχεδιασμένα τα block τα ban σου δίνουν το τυρί για να μπεις στην φάκα/λούπα δηλαδή σου δίνουν "δύναμη" ποιος δεν θέλει δύναμη/έλεγχο (ειδικά εμείς οι Έλληνες  ); 

Για να αποδεχτείς το ανούσιο αυτό σύστημα, μετά αφού μαζικά το έχουν αποδεχτεί και μοιάζει φυσιολογικό καθημερινό χρησιμοποιούν αυτή την συνήθεια σαν επιχείρημα για να εφαρμόσουν τις πολιτικές τους. 

Και φτάσαμε στο σημείο πχ ακόμη και στο youtube (που δεν το λες social media ) τα δημόσια κανάλια σε κάθε χώρο (πχ κανάλι της βουλής) ή δημοσιογραφικά κανάλια να μην επιτρέπουν σχόλια για να πουσάρουν μόνο το μήνυμα τους χωρίς κάποιος να μπορεί να δει άλλες απόψεις. 

Ή το άλλο μπορεί κάποιος που ελέγχει ένα κανάλι να κάνει τα σχόλια σου αόρατα χωρίς να το ξέρεις (δεν έχεις κάποιο notification) και απο την δική σου πλευρά τα μηνύματα σου φαίνονται στα σχόλια απλά όλος ο υπόλοιπος κόσμος δεν τα βλέπει. 

Μεγάλο πολιτικό εργαλείο που σαν κερασάκι στην τούρτα εργαλειοποιείται και απο (κλασσικούς) απατεώνες πχ (μέσα σε άπειρες κατηγορίες καθαρών απατεώνων/κλεφτών και "γρκίζων" που δηλαδή ναι μεν σου πουλάνε κάτι δεν σου κλέβουν τα λεφτά εν ψυχρώ , αλλά ειναι μούφα και υπερκοστολογημένο και το παρουσιάζουν σαν θαύμα επι της γης) έχω δει ακόμη και Έλληνες "επενδυτικούς συμβούλους" να θέλουν να σου πουλήσουν "μαθήματα" στο youtube για το πως να γίνεις πλούσιος και αν δεις τα σχόλια απο κάτω ειναι όλα θετικά αν τους ξεσκεπάσεις (όχι να βρίσεις κτλ απλά πχ να βρεις ποιο μάθημα μεταπουλάει ο κύριος και πως το μάθημα αυτό δεν ειναι επένδυση αλλά προσομοίωση επένδυσης -ψεύτικα χρήματα δηλαδή για να μάθεις να επενδύεις- ενώ αυτός το πλασάρει για αληθινά χρήματα που παίρνεις "δώρο" )  το σβήνει σε δευτερόλεπτα και δεν φαίνεται τίποτα. 

2 ώρες πριν, basilis5 είπε

Ο,τι πρεπει για το insomnia

Ακριβώς χρήση εξουσίας χωρίς νόημα... πάω στοίχημα ότι το 99% που τρώνε μπαν μπαίνουν ξανά μέσα με άλλο account το μόνο αποτέλεσμα που έχει κάτι τέτοιο (πέρα απο την καταπίεση της ελευθερίας του λόγου) είναι ένα "hit" ντοπαμίνης σε αυτόν που κάνει ban. 

Και επίσης ειναι και χειρότερο όσο αφορά το forum, δεν θα θίξω καν την περίπτωση να είναι άδικα ή προϊόντα της συγκεκριμένης όρεξης κάποιου, είναι κακό απλά γιατί πχ αν δεν πέφτανε τα ban θα ήξερες ποιο account κάνει "βλακείες" ή τεσπα τις απόψεις του και θα το αγνοούσες/το χειριζόσουν αναλόγως τώρα λόγω των ban δεν ξέρεις ο άλλος ποιος ειναι έχει 1000 πρόσωπα/"μετενσαρκώσεις" account. 

Επεξ/σία 25 Μαΐου 2022 από Dr_Pepper

[valkon]

Η αποστείρωση του ιντερνετ, τουλάχιστον ζήσαμε τα ωραία κάποτε

[Dr_Pepper]

5 λεπτά πριν, valkon είπε

Η αποστείρωση του ιντερνετ, τουλάχιστον ζήσαμε τα ωραία κάποτε

Είναι χειρότερο απο αποστείρωση ειναι έλεγχος και εξοστρακισμός απόψεων/πληροφοριών για να περνάνε πιο εύκολα τα μηνύματα τους και να φαίνονται σαν κοινή γνώμη γιατί αν πχ έχεις 10000 απαντήσεις σε ένα μήνυμα και σβήσεις τις 7000 χιλιάδες που δεν σου αρέσουν και ο άλλος δει μόνο τις 3000 που σου αρέσουν αυτό μετά περνάει και σε εσένα πως ειναι η κοινή γνώμη ενώ στην πραγματικότητα άλλη ειναι η κοινή γνώμη απλά το εργαλείο ελέγχου δεν ειναι κοινό. 

Επεξ/σία 25 Μαΐου 2022 από Dr_Pepper

[NotAliki177]

19 minutes ago, Dr_Pepper said:

Είναι χειρότερο απο αποστείρωση ειναι έλεγχος και εξοστρακισμός απόψεων/πληροφοριών για να περνάνε πιο εύκολα τα μηνύματα τους και να φαίνονται σαν κοινή γνώμη γιατί αν πχ έχεις 10000 απαντήσεις σε ένα μήνυμα και σβήσεις τις 7000 χιλιάδες που δεν σου αρέσουν και ο άλλος δει μόνο τις 3000 που σου αρέσουν αυτό μετά περνάει και σε εσένα πως ειναι η κοινή γνώμη ενώ στην πραγματικότητα άλλη ειναι η κοινή γνώμη απλά το εργαλείο ελέγχου δεν ειναι κοινό. 

Ποιος διαβάζει σχόλια yt 2κ22? γενικά ποιος διαβάζει σχόλια για να ακούσει διαφορετικές απόψεις και για να ενημερωθεί;

Επεξ/σία 25 Μαΐου 2022 από NotAliki177

[Dr_Pepper]

11 λεπτά πριν, NotAliki177 είπε

Ποιος διαβάζει σχόλια yt 2κ22? γενικά ποιος διαβάζει σχόλια για να ακούσει διαφορετικές απόψεις και για να ενημερωθεί;

Μάλλον αρκετοί για να θέλει να ασχοληθεί ακόμη και η microsoft που δεν έχει καν social media outlet (καθώς και όλες τις κινήσεις των άλλων social media όπως η πρωτοβουλία του Musk για το twitter το youtube πέρα απο το ήδη υπάρχων σύστημα να αφαιρέσει την καταμέτρηση στα dislike των βίντεο κτλ) 

Πχ στα σημερινά δρώμενα η μισή ευρώπη απλά βλέπει την Ρωσία σαν το απόλυτο κακό πολύ απλά γιατί όπου και να πάει να περάσει πληροφορία για το αντίθετο απλά κατατροπώνεται 

[ANTiL00P]

@NotAliki177 ανάλογα με το βίντεο. Believe it or not υπάρχουν και βίντεο με χρήσιμα και ενημερωτικά σχόλια απο κάτω 🧐