Κύριοι κίνδυνοι που σχετίζονται με τη χρήση της Τεχνητής Νοημοσύνης → θεμελιώδη δικαιώματα, συμπεριλαμβανομένων των προσωπικών δεδομένων και της προστασίας της ιδιωτικής ζωής και της μη διάκρισης
Η Τεχνητή Νοημοσύνη (TN) μπορεί να εκτελέσει πολλές λειτουργίες που προηγουμένως μπορούσαν να γίνουν μόνο από ανθρώπους. Ως αποτέλεσμα, οι πολίτες και οι νομικές οντότητες θα υπόκεινται όλο και περισσότερο σε ενέργειες και αποφάσεις που λαμβάνονται από ή με τη βοήθεια συστημάτων ΤΝ, οι οποίες ενδέχεται μερικές φορές να είναι δύσκολο να κατανοηθούν και να αντιμετωπιστούν αποτελεσματικά. Επιπλέον, η ΤΝ αυξάνει τις δυνατότητες παρακολούθησης και ανάλυσης των καθημερινών συνηθειών των ανθρώπων. Παραδείγματος χάρη, υπάρχει δυνητικός κίνδυνος να χρησιμοποιηθεί η ΤΝ, κατά παράβαση της προστασίας δεδομένων της Ε.Ε. και άλλων κανόνων, από κρατικές αρχές ή άλλες οντότητες για μαζική επιτήρηση και από τους εργοδότες να παρακολουθούν τον τρόπο με τον οποίο συμπεριφέρονται οι υπάλληλοί τους. Αναλύοντας μεγάλο όγκο δεδομένων και προσδιορίζοντας τους δεσμούς μεταξύ τους, η ΤΝ μπορεί επίσης να χρησιμοποιηθεί για την ανασκόπηση και την ανωνυμοποίηση δεδομένων σχετικά με τα πρόσωπα, δημιουργώντας νέους κινδύνους για την προστασία των προσωπικών δεδομένων, ακόμη και σε σύνολα δεδομένων που δεν περιλαμβάνουν προσωπικά δεδομένα. Η ΤΝ χρησιμοποιείται επίσης από τους διαδικτυακούς διαμεσολαβητές για να δίνουν προτεραιότητα στις πληροφορίες για τους χρήστες τους και να πραγματοποιούν μετριοπάθεια περιεχομένου. Τα επεξεργασμένα δεδομένα, ο τρόπος με τον οποίο σχεδιάζονται οι εφαρμογές και τα περιθώρια για ανθρώπινη παρέμβαση μπορούν να επηρεάσουν τα δικαιώματα στην ελευθερία έκφρασης, την προστασία των προσωπικών δεδομένων, την ιδιωτική ζωή και τις πολιτικές ελευθερίες.
Ορισμένα προγράμματα ΤΝ για ανάλυση προσώπου εμφανίζουν το φύλο και τη φυλετική προκατάληψη, επιδεικνύοντας χαμηλά σφάλματα για τον προσδιορισμό του φύλου για τους άνδρες με ανοιχτότερο δέρμα αλλά υψηλά σφάλματα στον προσδιορισμό του φύλου για τις γυναίκες με σκουρόχρωμο δέρμα. Πηγή: Joy Buolamwini, Timnit Gebru; Πρακτικά 1ου Συνεδρίου για την Αμεροληψία, Λογοδοσία και Διαφάνεια, PMLR 81: 77-91, 2018.
Η προκατάληψη και οι διακρίσεις αποτελούν εγγενείς κινδύνους οποιασδήποτε κοινωνικής και οικονομικής δραστηριότητας. Η ανθρώπινη λήψη αποφάσεων δεν είναι απαλλαγμένη από λάθη και προκαταλήψεις. Ωστόσο, η ίδια μεροληψία όταν υπάρχει στην ΤΝ θα μπορούσε να έχει πολύ μεγαλύτερη επίδραση, επηρεάζοντας και διακρίνοντας πολλούς ανθρώπους χωρίς τους μηχανισμούς κοινωνικού ελέγχου που διέπουν την ανθρώπινη συμπεριφορά.
Αναγνώριση προσώπου
Μιλώντας σε μια ομάδα δημοσιογράφων στις 13 Φεβρουαρίου 2020, η Αντιπρόεδρος της Επιτροπής για τον Ψηφιακό Τομέα Margrethe Vestager δήλωσε ότι «όπως συμβαίνει τώρα, ο Γενικός Κανονισμός Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (GDPR) θα υποστήριζε να «μην την χρησιμοποιείτε», επειδή δεν μπορείτε να πάρετε την συγκατάθεση του υποκειμένου. Το εμβληματικό καθεστώς προστασίας δεδομένων της ΕΕ καθιστά την αυτόματη αναγνώριση μέσω της τεχνολογίας αναγνώρισης προσώπου παράνομη». Ειδικότερα, το άρθρο 6 του Γενικού Κανονισμού για την προστασία των δεδομένων της ΕΕ περιγράφει τους όρους υπό τους οποίους τα δεδομένα προσωπικού χαρακτήρα μπορούν να υποβάλλονται σε νόμιμη επεξεργασία, μια τέτοια απαίτηση είναι ότι το πρόσωπο στο οποίο αναφέρονται τα δεδομένα έχει δώσει ρητή συγκατάθεση. Ωστόσο, υπάρχουν εξαιρέσεις στον κανόνα όσον αφορά σε θέματα δημόσιας ασφάλειας, όπου θα πρέπει να επιτρέπεται η αναγνώριση των προσώπων με τεχνολογίες αναγνώρισης των προσώπων νομίμως. Σημειωτέον πως η αναγνώριση προσώπου υπάρχει ήδη στα συστήματα ελέγχου των έξυπνων κινητών (smartphones) και των διαβατηρίων στα αεροδρόμια. Η δε χρήση της εξ αποστάσεως, μεταξύ άλλων από τις δημόσιες αρχές, γίνεται όλο και περισσότερο ένα αμφιλεγόμενο ζήτημα αναφορικά με την ανάπτυξη της τεχνητής νοημοσύνης, όπως συνέβη και κατά τις διαδηλώσεις στο Χονγκ Κονγκ.
Το σχόλιό μας
Είναι ζωτικής σημασίας να εκμεταλλευτούμε πλήρως τις ευκαιρίες που προσφέρει η ΤΝ, δημιουργώντας παράλληλα ένα μελλοντικό κανονιστικό πλαίσιο που προστατεύει τις θεμελιώδεις αξίες μας, όπως η προστασία της ανθρώπινης αξιοπρέπειας και της ιδιωτικής ζωής, καθώς και λύσεις στις πιο πιεστικές κοινωνικές προκλήσεις, όπως είναι η κλιματική αλλαγή και η υποβάθμιση του περιβάλλοντος. Στο πλαίσιο των σημαντικών αυτών αλλαγών, ένα πράγμα είναι βέβαιο: νέες νομικές προκλήσεις προκύπτουν και πρέπει να αντιμετωπιστούν αναλόγως, μέσω της θέσπισης ενημερωμένων και νέων νομικών και κανονιστικών κανόνων.
