Πράξη για την τεχνητή νοημοσύνη – ένα βήμα πιο κοντά στην τελική συμφωνία

/ / Legal x-rays
Artificial Intelligence Act – one step closer to the final agreement

Από την Ευαγγελία Μανίκα, Associate, LLB, MSc.

Στις 8 Δεκεμβρίου 2023, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο κατέληξαν σε προσωρινή συμφωνία σχετικά με τους βασικούς όρους και διατάξεις της Πράξης για την τεχνητή νοημοσύνη, της πρώτης οριζόντιας νομοθεσίας παγκοσμίως για την τεχνητή νοημοσύνη. Ο κύριος στόχος της Πράξης για την τεχνητή νοημοσύνη είναι να διασφαλίσει ότι μόνο συστήματα τεχνητής νοημοσύνης που είναι τόσο ασφαλή όσο και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ θα διατίθενται στην αγορά της ΕΕ. Αυτό διαδραματίζει σημαντικό ρόλο στον τομέα της υγειονομικής περίθαλψης, όπου η εμπιστοσύνη και η διαφάνεια αποτελούν βασικά στοιχεία για τη δημιουργία και την ανάπτυξη εφαρμογών που χρησιμοποιούν τεχνητή νοημοσύνη στην υγειονομική περίθαλψη. Όλα αυτά μπορούν να συμβάλουν στη βελτίωση των αποτελεσμάτων των ασθενών, στη μείωση του κόστους της υγειονομικής περίθαλψης και στη δημιουργία ιατρικών τεχνολογιών με επίκεντρο τον ασθενή. Τούτο μπορεί να οδηγήσει σε πιο εξατομικευμένες και αποτελεσματικές λύσεις για όλους τους ασθενείς.

Στην εν λόγω πολιτική συμφωνία, οι συννομοθέτες συμφώνησαν, μεταξύ άλλων, σε ορισμένες βασικές διατάξεις, συμπεριλαμβανομένων των εγγυήσεων σχετικά με την τεχνητή νοημοσύνη γενικού σκοπού, τον περιορισμό της χρήσης βιομετρικών συστημάτων ταυτοποίησης από τις αρχές επιβολής του νόμου, την απαγόρευση των συστημάτων βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά, το δικαίωμα των καταναλωτών να υποβάλλουν καταγγελίες και να λαμβάνουν εξηγήσεις σχετικά με αποφάσεις που βασίζονται σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και επηρεάζουν τα δικαιώματα τους, καθώς και τα πρόστιμα τα οποία θα κυμαίνονται έως το 7% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών μιας εταιρείας ή τα 35 εκατομμύρια ευρώ.

Επιπλέον, το τελικό κείμενο της Πράξης για την τεχνητή νοημοσύνη θα περιλαμβάνει τον τελικό τροποποιημένο ορισμό των συστημάτων ΤΝ, τις βασικές αρχές που ισχύουν για τα συστήματα ΤΝ, διατάξεις για απαγορευμένα συστήματα ΤΝ (συστήματα ΤΝ που ενέχουν μη αποδεκτό κίνδυνο) και συστήματα ΤΝ υψηλού κινδύνου (π.χ. ιατροτεχνολογικά προϊόντα που έχουν ως βάση την ΤΝ), ζητήματα πνευματικών δικαιωμάτων κ.λπ.
Η πολιτική συμφωνία θα διαμορφωθεί σε τελικό κείμενο τους επόμενους μήνες, ενδεχομένως το πρώτο τρίμηνο του 2024. Επίσης, μέχρι το τέλος Φεβρουαρίου, έχουν προγραμματιστεί ορισμένες απαραίτητες διαπραγματεύσεις τεχνικού χαρακτήρα προκειμένου να οριστικοποιηθούν ορισμένες τεχνικές πτυχές του κειμένου της Πράξης για την τεχνητή νοημοσύνη. Δεδομένου ότι η Πράξη για την τεχνητή νοημοσύνη αποτελεί κανονισμό της ΕΕ, θα έχει άμεση ισχύ στα κράτη μέλη χωρίς να απαιτείται να μεταφερθεί στην εθνική έννομη τάξη με εσωτερικό νόμο. Το μεγαλύτερο μέρος των υποχρεώσεων της Πράξης για την τεχνητή νοημοσύνη θα εφαρμόζεται 24 μήνες μετά την έναρξη ισχύος αυτής. Ωστόσο, το τρέχον σχέδιο της Πράξης για την ΤΝ προβλέπει ότι ορισμένες υποχρεώσεις θα εφαρμοστούν νωρίτερα. Για παράδειγμα, οι υποχρεώσεις για τα συστήματα ΤΝ γενικού σκοπού μπορούν να εφαρμοστούν 12 μήνες μετά την έναρξη ισχύος της πράξης για την τεχνητή νοημοσύνη, ενώ οι απαγορεύσεις θα εφαρμοστούν έξι μήνες μετά την έναρξη ισχύος αυτής.

Ως εκ τούτου, συνιστάται ιδιαίτερα στις εταιρείες να επανεξετάσουν τις υποχρεώσεις της Πράξης για την τεχνητή νοημοσύνη το συντομότερο δυνατό, στη συνέχεια να αξιολογήσουν εάν τα προϊόντα τους υπόκεινται σε υποχρεώσεις συμμόρφωσης με την Πράξη για την τεχνητή νοημοσύνη και, εάν ναι, να προετοιμαστούν για τη συμμόρφωση, καθώς η Πράξη για την τεχνητή νοημοσύνη επιβάλλει υψηλές απαιτήσεις τεκμηρίωσης και συμμόρφωσης.

Για το σκοπό αυτό, είναι σημαντικό να κατανοήσετε τη θέση της εταιρείας σας στην αλυσίδα εφοδιασμού ΤΝ, καθώς οι σχετικές υποχρεώσεις συμμόρφωσης διαφέρουν για τον κάθε οικονομικό φορέα, ενώ είναι πολύ σημαντικό να λάβετε υπόψη τις υποχρεώσεις που απορρέουν και από λοιπά νομοθετήματα (π.χ. MDR, GDPR). Αυτό είναι ιδιαίτερα σημαντικό στις περιπτώσεις όπου τα προϊόντα ΤΝ ταξινομούνται ως “ιατροτεχνολογικά προϊόντα” σύμφωνα με τον MDR και πρέπει, ως εκ τούτου, να πληρούν ορισμένες απαιτήσεις ασφάλειας και ποιότητας. Ωστόσο, δεν υπάρχουν πρόσθετες απαιτήσεις όσον αφορά τη διαφάνεια ή την επεξηγησιμότητα των ιατροτεχνολογικών προϊόντων που χρησιμοποιούν ΤΝ. Ειδικά για τα συστήματα ΤΝ υψηλού κινδύνου, η Πράξη για την τεχνητή νοημοσύνη εισάγει νέες διατάξεις σχετικά με τη διαφάνεια, όπως η καταχώριση σε βάση δεδομένων της ΕΕ. Ως εκ τούτου, η συνδυασμένη εφαρμογή όλων των απαραίτητων νομοθετικών ρυθμίσεων θα οδηγήσει σε πλήρη συμμόρφωση των εταιρειών που δραστηριοποιούνται στον τομέα της υγειονομικής περίθαλψης και χρησιμοποιούν λύσεις βασισμένες στην ΤΝ.