Αυστηρές πολιτικές ελέγχου της τεχνητής νοημοσύνης προτείνει η Ευρωπαϊκή Επιτροπή

[Snoob]

Οι προτάσεις δημιουργούν ένα Γενικό Κανονισμό Ασφαλείας Δεδομένων για συστήματα ελεγχόμενα από την τεχνητή νοημοσύνη

Καθώς οι κυβερνήσεις σε ολόκληρο τον κόσμο εξετάζουν τρόπους ρύθμισης των χρήσεων της τεχνητής νοημοσύνης, η Ευρωπαϊκή Ένωση σχεδιάζει ένα νομοθετικό πλαίσιο, το πρώτο του είδους του, το οποίο εφόσον εγκριθεί θα θέσει αυστηρά όρια στη χρησιμοποίηση της συγκεκριμένης τεχνολογίας. Την Τετάρτη, η Ευρωπαϊκή Επιτροπή, το εκτελεστικό όργανο της Ευρωπαϊκής Ένωσης, παρουσίασε μια ρυθμιστική προσέγγιση η οποία προβλέπει ένα σύστημα τεσσάρων βαθμίδων, το οποίο κατατάσσει το λογισμικό τεχνητής νοημοσύνης σε διακριτές κατηγορίες επικινδυνότητας και ορίζει μια ανάλογη ρυθμιστική κλίμακα για κάθε μία από αυτές.

Στην υψηλότερη βαθμίδα κατατάσσονται συστήματα τα οποία συνιστούν "απαράδεκτο" κίνδυνο για τα δικαιώματα και την ασφάλεια των ανθρώπων. Η Ευρωπαϊκή Ένωση, εφόσον γίνει δεκτή η νομοθετική πρόταση της Ευρωπαϊκής Επιτροπής, θα προχωρούσε στην άμεση απαγόρευση τέτοιου είδους αλγορίθμων. Παράδειγμα λογισμικού το οποίο θα ενέπιπτε σε αυτή την κατηγορία είναι οιοδήποτε σύστημα τεχνητής νοημοσύνης θα επέτρεπε σε κυβερνήσεις και εταιρίες να εφαρμόσουν συστήματα κοινωνικής βαθμολόγησης. 

Ακολουθούν τα λεγόμενα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου. Η συγκεκριμένη βαθμίδα είναι η εκτενέστερη, τόσο ως προς την πολυμορφία του λογισμικού που κατατάσσεται σε αυτή, όσο και ως προς τα προτεινόμενα όρια. Η Ευρωπαϊκή Επιτροπή αναφέρει πως τα συστήματα αυτά θα υπόκεινται σε αυστηρό ρυθμιστικό πλαίσιο το οποίο θα ελέγχει τα πάντα, από το σύνολο των δεδομένων που χρησιμοποιούνται για την εκπαίδευσή τους μέχρι το τι συνιστά κατάλληλο επίπεδο ανθρώπινης εποπτείας και το πώς θα προωθούνται οι πληροφορίες στον τελικό χρήστη, μεταξύ άλλων. Στην κατηγορία αυτή περιλαμβάνονται συστήματα τεχνητής νοημοσύνης τα οποία χρησιμοποιούνται από τις αστυνομικές αρχές καθώς και όλες οι μορφές απομακρυσμένης βιομετρικής ταυτοποίησης. Δεν θα επιτρέπεται στην αστυνομία να χρησιμοποιεί τέτοια συστήματα σε δημόσιους χώρους, αν και η Ευρωπαϊκή Ένωση θα ήταν διατεθειμένη να κάνει ορισμένες εξαιρέσεις εφόσον αφορούν ζητήματα εθνικής ασφάλειας.

Στη συνέχεια υπάρχει η κατηγορία για συστήματα τεχνητής νοημοσύνης περιορισμένου κινδύνου, λ.χ. chatbots. Η νομοθεσία θα προβλέπει υποχρέωση των προγραμμάτων αυτών να ενημερώνουν το χρήστη ότι συνομιλεί με σύστημα τεχνητής νοημοσύνης, ώστε να μπορεί ο άνθρωπος να αποφασίσει, έχοντας υπόψη αυτή την παράμετρο, αν επιθυμεί να συνεχίσει να τα χρησιμοποιεί ή όχι. Τέλος, υπάρχει μια κατηγορία για προγράμματα τα οποία συνιστούν ελάχιστο κίνδυνο για τους ανθρώπους. Σύμφωνα με την Ευρωπαϊκή Επιτροπή, η "συντριπτική" πλειοψηφία των συστημάτων τεχνητής νοημοσύνης εμπίπτει στη συγκεκριμένη κατηγορία. Προγράμματα τα οποία κατατάσσονται σε αυτή τη βαθμίδα περιλαμβάνουν λογισμικό όπως τα φίλτρα ελέγχου ανεπιθύμητης αλληλογραφίας. Στην κατηγορία αυτή, η Ευρωπαϊκή Επιτροπή δεν σχεδιάζει να επιβάλει ρυθμιστικό πλαίσιο.

"Η τεχνητή νοημοσύνη αποτελεί μέσο, όχι σκοπό", αναφέρει χαρακτηριστικά σε δήλωσή του ο Τιερί Μπρετόν, Επίτροπος Εσωτερικής Αγοράς. "Οι προτάσεις που κατατέθηκαν σήμερα στόχο έχουν να ενισχύσουν τη θέση της Ευρώπης ως παγκοσμίου κόμβου πρωτοπορίας στον τομέα της τεχνητής νοημοσύνης, από τα εργαστήρια μέχρι τις αγορές, να διασφαλίσουν πως η τεχνητή νοημοσύνη στην Ευρώπη σέβεται τις αξίες και τους κανόνες μας και να αξιοποιήσουν τις προοπτικές της τεχνητής νοημοσύνης για βιομηχανική χρήση".

Η νομοθεσία, η οποία εκτιμάται πως θα απαιτηθούν χρόνια προκειμένου να συζητηθεί διεξοδικά και να εφαρμοστεί στην Ευρώπη, θα μπορούσε να φέρει τις εταιρίες αντιμέτωπες με πρόστιμα ίσα με έως και το 6% των παγκοσμίων πωλήσεών τους, σε περίπτωση παραβίασης του πλαισίου. Με το Γενικό Κανονισμό Προστασίας Δεδομένων η Ευρώπη ήδη έχει θεσπίσει ορισμένες από τις αυστηρότερες πολιτικές προστασίας της ιδιωτικότητας παγκοσμίως, ενώ ανάλογα μέτρα εξετάζει για υποθέσεις οι οποίες αφορούν το συντονισμό περιεχομένου στις πλατφόρμες κοινωνικής δικτύωσης καθώς και την αντιμονοπωλιακή νομοθεσία. 

Διαβάστε ολόκληρο το άρθρο

[petasis]

Και πολύ καλά κάνει. Άσε το ΗΒ να φωνάζει για αγωγές στο τικ τοκ.

[afantos]

Σύστημα κοινωνικής βαθμολόγησης, το όνειρο κάθε εξουσίας....

[dieksodo]

μια ζωη αυτη η μπουρδ$#λοΕνωση ψαχνει πως να γινει λιγοτερο ανταγωνιστικη με τον υπολοιπο πλανητη που τρεχει εντωμεταξυ σαν τρελος

αντι για Ηνωμενες πολιτειες της ευρωπης γιναμε ενωση σοβιετικων σοσιαλιστικων δημοκρατιων της ευρωπης

[dreamerchris]

όπως έγινε και με τα πυρηνικά για να αποφευχθεί το αρμαγεδόν,

θα πρέπει να γίνει και μια παγκόσμια συμφωνία μεταξύ όλων των χωρών,

για την αυστηρή επιτήρηση γενικής τεχνικής νοημοσύνης να αποφευχθεί το black mirror των AI

11 λεπτά πριν, dieksodo είπε

μια ζωη αυτη η μπουρδ$#λοΕνωση ψαχνει πως να γινει λιγοτερο ανταγωνιστικη με τον υπολοιπο πλανητη που τρεχει εντωμεταξυ σαν τρελος

αντι για Ηνωμενες πολιτειες της ευρωπης γιναμε ενωση σοβιετικων σοσιαλιστικων δημοκρατιων της ευρωπης

καλά το πάει πάντως, όταν θα μιλάς με botaki θα πρέπει να λέει οτι ειναι bot.

καθώς επίσης και σοσιαλ σκορ αλα κίνα να απαγορευτεί εντελώς πολύ καλό μην ξημερώση μια μέρα που μια χώρα της ευρώπης να έχει σκόρ για όλους μας στην ΕΕ

αυτό που γυροφέρνω στο νου μου ειναι οι "εξαιρέσεις για εθνικά θέματα" κάτω από αυτήν την ομπρέλα βλέπω να γίνονται αντικατασκοπικά παιχνίδια νέου επιπέδου που απλούστατα θα έχουν ενα ΑΙ με όλα όσα μπορεί να "δει" και θα έχουμε black mirror τύπου ΣιΑϊΕϊ με δράσεις πριν μπορεί να κουνηθεί κανείς.

φαντάζομαι σενάρια που θα κάνει λάθος το ΑΙ και θα σου έρχονται στο σπιτι σου και θα σε μαζεύουνε και μετά δεν θα μπορούν παρά να σε επιστρέψουν λόγω λάθους

Επεξ/σία 23 Απριλίου 2021 από dreamerchris

[ethereum]

μηπως γνωριζει καποιος προγραμματιστής σε τι γλώσσα προγραμματίζουμε AI ?

[triplex1]

Πλησιαζει το skynet και θα ερθει ο Ο'Κονορ να μας σωσει απο τον εξολοθρευτη.

Καθε μερα που περναει εγω ξερω χειροτερα γινονται ολα.

 

[Eragon1996]

1 ώρα πριν, ethereum είπε

μηπως γνωριζει καποιος προγραμματιστής σε τι γλώσσα προγραμματίζουμε AI ?

Python σχεδόν σγρ

[dreamerchris]

33 λεπτά πριν, Eragon1996 είπε

Python σχεδόν σγρ

to python δεν είναι αργό; ή όταν τρέχει είναι οκ? μόνο αρχίζει αργά; είχα δει ενα Python vs cpp vs assembly και έλεγε ότι το assembly έτρεχε 400 φορές πιο γρήγορα από cpp και το python 40χ Πιο αργά από cpp ή κάτι τέτοιο!

[Basilhs23___]

Έλεγχος σε όλα. Για την ασφάλεια του εβροπεου πολίτη. 

[ChrisN.S.]

Τον Bill Gates θα τον σέβεστε..

[Returntolobby]

Το αστείο είναι ότι πάντα αυτές τις οπισθοδρομικές αλλαγές τις προτείνουν άσχετοι με την τεχνολογία άνθρωποι, οι οποίοι επί το πλείστον έχουν ασχοληθεί με ανθρωπιστικές σπουδές και νοιώθουν άχρηστοι σε έναν κόσμο τεχνολογίας που δεν κατανοούν. Οπότε και τον φοβούνται. Αρνούνται να προσαρμοστούν και προσπαθούν να επιβάλουν την ανικανότητά τους και στους υπόλοιπους. Η χρήση τεχνητής νοημοσύνης στην αξιολόγηση θα μπορούσε να προσφέρει ένα αμερόληπτο σύστημα αξιοκρατίας. Αν κάποιος δεν ήθελε να πουλάει τα δεδομένα του στις διαφημιστικές τότε ας πλήρωνε τα υλικά προϊόντα τεχνολογίας και τις υπηρεσίες που λαμβάνει χωρίς να πληρώσει. 

4 ώρες πριν, ethereum είπε

μηπως γνωριζει καποιος προγραμματιστής σε τι γλώσσα προγραμματίζουμε AI ?

Άρχισε από prolog για να μπεις στην λογική και μετά διάλεξε ότι σου αρέσει. Θες δυνατό υπόβαθρο σε μαθηματικά αν το σκεύτεσαι. 

P.S. Έκανε το post και την απάντηση σύμπτηξη. Αλλά είναι διαφορετικά. 

Επεξ/σία 24 Απριλίου 2021 από Returntolobby

[nickolasemp]

5 ώρες πριν, Returntolobby είπε

Το αστείο είναι ότι πάντα αυτές τις οπισθοδρομικές αλλαγές τις προτείνουν άσχετοι με την τεχνολογία άνθρωποι, οι οποίοι επί το πλείστον έχουν ασχοληθεί με ανθρωπιστικές σπουδές και νοιώθουν άχρηστοι σε έναν κόσμο τεχνολογίας που δεν κατανοούν.

 

Το ξέρεις βαθιά αυτό ή το υποθέτεις; Κι αν σού πω ότι εγώ έχω γνωστούς που έχουν διπλά master σε νομική και Computer engineering και αναλαμβάνουν αυτές τις θέσεις; Άσε δε που κάποιοι/αρκετοί συνάδελφοί τους στη Νομική, είναι καλά διαβασμένοι.

Επεξ/σία 24 Απριλίου 2021 από nickolasemp

[Returntolobby]

47 λεπτά πριν, nickolasemp είπε

Το ξέρεις βαθιά αυτό ή το υποθέτεις; Κι αν σού πω ότι εγώ έχω γνωστούς που έχουν διπλά master σε νομική και Computer engineering και αναλαμβάνουν αυτές τις θέσεις; Άσε δε που κάποιοι/αρκετοί συνάδελφοί τους στη Νομική, είναι καλά διαβασμένοι.

Πληρώνονται αδρά για τις υπηρεσίες τους? :Ρ Φαντάζομαι αυτή η θέση "χρειάζεται" το πρόβλημα για να υπάρχει. Το μόνο που θα φοβόμουν στην κοινωνική βαθμολόγηση, είναι η φερεγγυότητα της (λόγο ανθρώπινης επέμβασης) αλλά υποθέτω πως θα μπορούσε ο αλγόριθμος πίσω από το AI να είναι open source και τα δεδομένα να διατηρούνται σε blockchain όπως συμβαίνει σε decentralized συστήματα (πχ cryptocurrencies) . Δεν νομίζω ότι το βισματικό σύστημα που έχουμε τώρα είναι καλήτερο. Αν πάλι παρεξηγήθηκες επειδή αισθάνθηκες πως έθιξα τις ανθρωπιστικές σπουδές μάλλον διατύπωσα λάθος το post μου. Δεν ήταν σκοπός να δώσω έμφαση στην ανικανότητα των ατόμων που τις ακολουθουν, στην χρήση τεχνολογίας, απλά το έφερα εσφαλμένα ως παράδειγμα για να τονίσω το "μας τρομάζει ότι δεν κατανοούμε". 

Επεξ/σία 24 Απριλίου 2021 από Returntolobby

[AtiX]

Έχει πολύ γέλιο άτομα που κράζουν τώρα εταιρίες που εκμεταλλεύονται πχ τα προσωπικα δεδομένα, έκραζαν κινήσεις που προσπαθούσαν να βάλουν φρένο σε αυτό το φαινόμενο, να κράζουν τώρα τις προσπάθειες για έλεγχο μιας σίγουρα μελλοντικής εκμετάλλευσης και που όταν η απειλή γίνει πραγματικότητα, θα πουν: “νίπτω τας χείρας μου, γιατί δεν αντιδράστε τότε???”