Ευρωπαϊκή Ένωση: Συμφωνία με ολοκληρωμένους κανόνες για αξιόπιστη τεχνητή νοημοσύνη με πλαίσιο προστασίας και καινοτομία

[Hal9000]

Σε μια κίνηση ορόσημο που θα αποτελέσει τη βάση για το μέλλον της τεχνητής νοημοσύνης (ΤΝ) στην Ευρώπη, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο κατέληξαν -μετά από έντονες διαπραγματεύσεις- σε καταρχήν συμφωνία σχετικά με την πολυαναμενόμενη Πράξη για την τεχνητή νοημοσύνη (AI Act).

Η πρωτοποριακή αυτή νομοθεσία που είναι στα σκαριά από το 2021, έχει σχεδιαστεί για να δημιουργήσει ένα πλαίσιο που διασφαλίζει ότι τα συστήματα τεχνητής νοημοσύνης όπως τα ChatGPT, Midjourney, Bard κ.α, αναπτύσσονται και χρησιμοποιούνται με τρόπο ασφαλή και με σεβασμό των θεμελιωδών ανθρωπίνων δικαιωμάτων, ενώ παράλληλα ενθαρρύνει την καινοτομία και την ανάπτυξη στον τομέα.

Η συμφωνία σηματοδοτεί ένα σημαντικό βήμα προς την κατεύθυνση της θέσπισης νομικών ορίων για τις εφαρμογές τεχνητής νοημοσύνης, ιδίως εκείνων που έχουν προκαλέσει ανησυχίες σχετικά με το ενδεχόμενο να παραβιάζουν τα ατομικά δικαιώματα και τις αρχές της δημοκρατίας. Σε μια αποφασιστική στάση, η νομοθεσία απαγορεύει ευθέως ορισμένες χρήσεις της τεχνητής νοημοσύνης που θεωρούνται απαράδεκτοι κίνδυνοι για τις προσωπικές ελευθερίες. Αυτοί είναι σχεδόν ίδιοι με αυτούς που είχαν συμπεριληφθεί στο προσχέδιο κανόνων του AI Act τον περασμένο Ιούνιο και είναι οι εξής:

• συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. πολιτικές, θρησκευτικές, φιλοσοφικές πεποιθήσεις, σεξουαλικός προσανατολισμός, φυλή),
• την προγνωστική αστυνόμευση,
• τη μη στοχευμένη απόσπαση εικόνων προσώπου από το διαδίκτυο ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου,
• αναγνώριση συναισθημάτων στο χώρο εργασίας και σε εκπαιδευτικά ιδρύματα,
• κοινωνική βαθμολόγηση βάσει κοινωνικής συμπεριφοράς ή προσωπικών χαρακτηριστικών,
• συστήματα τεχνητής νοημοσύνης που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούλησή τους,
• Τεχνητή νοημοσύνη που χρησιμοποιείται για την εκμετάλλευση των τρωτών σημείων των ανθρώπων (λόγω ηλικίας, αναπηρίας, κοινωνικής ή οικονομικής κατάστασης).

Ωστόσο, η νομοθεσία δεν στερείται εξαιρέσεων. Αναγνωρίζοντας τα δυνητικά οφέλη και τις ανάγκες της ΤΝ σε ορισμένα πλαίσια, η συμφωνία προβλέπει συγκεκριμένες εξαιρέσεις για τις υπηρεσίες επιβολής του νόμου. Οι υπηρεσίες αυτές μπορούν, υπό αυστηρές προϋποθέσεις και με την κατάλληλη δικαστική εποπτεία, να αναπτύσσουν συστήματα βιομετρικής ταυτοποίησης σε δημόσιους χώρους. Η παραχώρηση αυτή ρυθμίζεται αυστηρά ώστε να αποτραπεί η κατάχρηση και να διασφαλιστεί ότι τα ισχυρά αυτά εργαλεία χρησιμοποιούνται με υπευθυνότητα και μόνο όταν είναι απολύτως απαραίτητο. 

Για τα συστήματα ΤΝ που εμπίπτουν στην κατηγορία "υψηλού κινδύνου", η νομοθεσία επιβάλλει μια σειρά αυστηρών υποχρεώσεων για τη διασφάλιση της αξιοπιστίας και της ασφάλειάς τους. Τα συστήματα αυτά, τα οποία θα μπορούσαν να επηρεάσουν σημαντικά τη ζωή των ανθρώπων, πρέπει να υποβάλλονται σε ενδελεχή αξιολόγηση των επιπτώσεων στα θεμελιώδη δικαιώματα πριν από την ανάπτυξή τους. Η διαδικασία αυτή αποσκοπεί στον εντοπισμό και τον μετριασμό τυχόν δυνητικών κινδύνων για τα ατομικά δικαιώματα. Επιπλέον, η νομοθεσία ενισχύει τους πολίτες, παρέχοντάς τους το δικαίωμα να υποβάλλουν καταγγελίες και να ζητούν εξηγήσεις για τις αποφάσεις που λαμβάνονται από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και τους επηρεάζουν. Η μη συμμόρφωση με τους κανόνες μπορεί να οδηγήσει σε τσουχτερά πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ευρώ, ή 1,5% του κύκλου εργασιών, ανάλογα με την παράβαση και το μέγεθος της εταιρείας.

Όπως αναφέρεται στην ανακοίνωση, η προσωρινή συμφωνία σχετικά με την Πράξη για την Τεχνητή Νοημοσύνη αποτελεί απόδειξη της δέσμευσης της Ευρώπης να «εξισορροπήσει τη ζυγαριά» μεταξύ της τεχνολογικής προόδου και της προστασίας των δικαιωμάτων των πολιτών της. Αντανακλά τη βαθιά κατανόηση της πολύπλοκης αλληλεπίδρασης μεταξύ καινοτομίας και ηθικής στην ψηφιακή εποχή. Καθώς οι λεπτομέρειες της νομοθεσίας βελτιώνονται και εφαρμόζονται, η Πράξη της Ε.Ε αναμένεται να επηρεάσει την παγκόσμια συζήτηση για την υπεύθυνη χρήση της τεχνητής νοημοσύνης και θα χρησιμεύσει ως πρότυπο για άλλες περιοχές που έχουν παρόμοιες προκλήσεις.

Οι επιπτώσεις της νομοθεσίας είναι εκτεταμένες, όχι μόνο για τους προγραμματιστές και τους χρήστες AI συστημάτων αλλά και για την κοινωνία στο σύνολό της. Το AI Act θα μπορούσε κάλλιστα να αποτελέσει ίσως το σημαντικότερο κομμάτι σ' αυτό που πολλοί ονομάζουν "ψηφιακή ηθική", δημιουργώντας προηγούμενο για τον τρόπο με τον οποίο θα πρέπει να διέπονται οι αναδυόμενες τεχνολογίες στον 21ο αιώνα.

Αν και το σχέδιο νόμου χρειάζεται ακόμη επίσημη έγκριση από τα κράτη μέλη της ΕΕ και το Ευρωπαϊκό Κοινοβούλιο, η σημερινή συμφωνία αποτελεί ίσως το καθοριστικότερο βήμα προς μία νομοθεσία ορόσημο για την τεχνητή νοημοσύνη. 

Διαβάστε ολόκληρο το άρθρο

[TechnoState]

Μου άφησε θετική εντύπωση το όλο act.

Βάζει όρια κ κανόνες στον τομέα της προσωπικότητας κ της ιδιωτικότητας, εν μέρει φυσικά.

Θεωρώ ότι άμεσα θα γίνει αποδεκτό απο τα κράτη μέλη κ θα ενσωματωθεί στην κοινοτική νομοθεσία, οπότε μετά θα έρχονται σιγά σιγά κ τροποποιήσεις, προσθήκες κλπ.

Βλέπω τις εταιρίες ΤΝ/ΑΙ να τρέχουν να μαζευτούν γρήγορα, γιατί σίγουρα θα ξεκινήσουν κ αγωγές απο Ευρωπαίους πολίτες (ειδικά στα θέματα βιομετρικης ταυτοποίησης, προγνωστικής αστυνόμευσης-μη στοχευμένη απόσπαση εικόνων απο cctvs κ λοιπά...που συνέταιρος -συμμέτοχος είναι κ μία κρατική οντότητα....δεν ξέρω πόσο καλά θα πάει αυτό )

[dieksodo]

αχρηστη νομοθετηση και γραφειοκρατια απο τις βρυξελλες ως συνηθως

τι παραπανω προσφερει ο νομος αυτος οταν υπαρχουν ηδη τα πλαισια του εντελως αχρηστου gdpr και αλλων?

 

[nepomuk]

Δηλ στην Ευρωπη απαγορευεται δια ροπαλου στα χαρτια τλχ ,οτι επιτρεπεται αλλα προπαντων επιδιωκεται απο την Κινα

και αυταρχικα καθεστωτα οπως Κουβα, Βενεζουελα , Νικαραγουα ,Ρωσσια , Ιραν ,Β Κορεα ,και

αλλες "δημοκρατικες" δυναμεις.

Οπως εχει καταγραφει στην Ιστορια αλλα και ακουσαμε πρωτο χερι απο οσους τα εζησαν , υπηρξε περιοδος στην χωρα μας οπου

εκδιδοταν απο την "Ασφαλεια" το λεγομενο "Πιστοποιητικο Κοινωνικων Φρονηματων" χρησιμο η και απαραιτητο για εκδοση

ακομα και Διαβατηριου.Αφορουσε κυριως τους "Κομμουνιστες" , "αμετανοητους" , διοτι οι μεταμεληθεντες το ελαμβαναν

καθαρο.

Τρεμω στην ιδεα οτι η ΤΝ , δηλ μηχανηματα αλληλοσυνδεομενα και υπο κοινη καθοδηγηση θα μπορουσαν στο μελλον

να κατηγοριοποιουν γενικευμενα ανθρωπους και με παμπολλα κριτηρια , ωστε το παλαι ποτε "στιγμα" του "Κομμουνιστη"

να μοιαζει με χαρακτηρισμο σε παιδικο λευκωμα.

[pcos]

θαθελα να γελασω, αλλα θα συγκρατηθω!

[Dimitris_1981]

Αυτό μου θύμισε όταν κάποιος είπε η Ελλάδα ΔΕΜ θα αποκτήσει πυρηνική ενέργεια…..

[mariosraptor84]

Προγνωστικό αστυνόμευση. Έχουν χεστει πάνω τους από το Minority Report 

[atrias]

Quote

προγνωστική αστυνόμευση

μου θυμίζει μια ταινία ....

https://www.imdb.com/title/tt0106697/

είμαστε άραγε τόσο κοντά σε αυτό που πρέπει να νομοθετηθεί η απαγόρευσή του;

Επεξ/σία 9 Δεκεμβρίου 2023 από atrias

[atypicalcoder]

Αντί να πούμε και ένα ευχαριστώ στην ΕΕ που προστατεύει τα δεδομένα μας, που αν δεν ήταν αυτοί θα ήξερε η κάθε άσχετη εταιρία μέχρι και το πότε πηγαίνουμε τουαλέτα...

[freegr]

Όλο το σχεδιάζουν αλλά χωρίς αποτέλεσμα μέχρι σήμερα, ελπίζοντας ότι κάποια στιγμή θα καταλήξουν όλοι σε μια κοινή γραμμή και θεσπίζουν κανόνες και το μέλλον.

[stamstergios]

Άχρηστοι καρεκλοκένταυροι γραφειοκράτες της Ευρωπαϊκής Ένωσης.

"Those who can, do and those who can't, teach make EU regulations"

[endeavour]

Και η ασχετοσύνη συνεχίζεται, μετά απο το Cookie Law, GDPR και τώρα το AI Act.

[jcnstd100]

8 ώρες πριν, TechnoState είπε

Μου άφησε θετική εντύπωση το όλο act.

Βάζει όρια κ κανόνες στον τομέα της προσωπικότητας και της ιδιωτικότητας, εν μέρει φυσικά.

Θεωρώ ότι άμεσα θα γίνει αποδεκτό απο τα κράτη μέλη και θα ενσωματωθεί στην κοινοτική νομοθεσία, οπότε μετά θα έρχονται σιγά-σιγά και τροποποιήσεις, προσθήκες κλπ.

Βλέπω τις εταιρείες ΤΝ/ΑΙ να τρέχουν να μαζευτούν γρήγορα, γιατί σίγουρα θα ξεκινήσουν και αγωγές απο Ευρωπαίους πολίτες (ειδικά στα θέματα βιομετρικής ταυτοποίησης, προγνωστικής αστυνόμευσης-μη στοχευμένη απόσπαση εικόνων απο cctvs κ λοιπά...που συνέταιρος -συμμέτοχος είναι και μία κρατική οντότητα....δεν ξέρω πόσο καλά θα πάει αυτό)

Μακάρι αυτός ο νόμος να μη χρησιμεύσει ως ένα ακόμα φτηνό άλλοθι για τον έλεγχο και τη λογοκρισία στο Internet.

Το λέω αυτό γιατί μας έχει συνηθίσει σε τέτοιες πρακτικές περιορισμού της ελευθερίας της έκφρασης ο ευρωκομισάριος Breton.

 

Επεξ/σία 9 Δεκεμβρίου 2023 από jcnstd100

[asmilon]

2 ώρες πριν, endeavour είπε

Και η ασχετοσύνη συνεχίζεται, μετά απο το Cookie Law, GDPR και τώρα το AI Act.

Θα συμφωνησω στο κομματι της ασχετοσυνης. Ακους εκει να τολμα η ΕΕ να νομοθετει υπερ της ιδιωτικοτητας και της ορθης χρησης των προσωπικων δεδομενων των πολιτων της;

Επεξ/σία 9 Δεκεμβρίου 2023 από asmilon

[Eloy]

"Σε μια κίνηση ορόσημο που θα αποτελέσει τη βάση για το μέλλον της τεχνητής νοημοσύνης (ΤΝ) στην Ευρώπη..."

Μπούρδες... Την ΑΙ την ελέγχεις είτε όλη, είτε καθόλου... Ποιά ασφάλεια παρέχεται αν δουλεύει σωστά στην Ευρώπη αλλά όχι σωστά στην Αμερική, στην Κίνα  ή σε κάποια "ζωηρή" μουσουλμανική χώρα την ?

Επεξ/σία 9 Δεκεμβρίου 2023 από Eloy