Αναδυόμενες Τεχνολογίες & AI.

Σχεδόν σε όλες τις περιπτώσεις, ναι, αν αναπτύσσετε, εφαρμόζετε ή διανέμετε σύστημα AI που αγγίζει την αγορά της ΕΕ. Ο AI Act κατατάσσει τα συστήματα σε τέσσερα επίπεδα — μη αποδεκτός κίνδυνος (απαγορεύεται εξ ολοκλήρου, όπως ορισμένες χειραγωγικές πρακτικές ή πρακτικές κοινωνικής βαθμολόγησης), υψηλός κίνδυνος (υπόκειται σε αξιολόγηση συμμόρφωσης, τεχνική τεκμηρίωση, ανθρώπινη εποπτεία και απαιτήσεις καταχώρισης), περιορισμένος κίνδυνος (υποχρεώσεις διαφάνειας, όπως η γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από AI) και ελάχιστος κίνδυνος (σε μεγάλο βαθμό αρρύθμιστος). Η ταξινόμηση εξαρτάται από το τι κάνει το σύστημα και ποιον επηρεάζει, όχι από τον κλάδο σας, και σπάνια είναι τόσο προφανής όσο φαίνεται αρχικά. Αξιολογούμε το σύστημα έναντι των κριτηρίων του AI Act και τεκμηριώνουμε την ταξινόμηση σε επίπεδο που αντέχει σε έλεγχο.

Όχι, και αυτή είναι μία από τις πιο σοβαρές παρανοήσεις που συναντάμε. Η απουσία ειδικής νομοθεσίας AI για τη συγκεκριμένη χρήση σας δεν σημαίνει απουσία νομικής έκθεσης. Το δίκαιο ευθύνης προϊόντος, προστασίας καταναλωτή, οι γενικές αρχές αδικοπραξίας και η κλαδική νομοθεσία ασφάλειας εξακολουθούν όλα να εφαρμόζονται σε συστήματα AI, ρομποτικής και αυτόνομα συστήματα, ανεξάρτητα από το αν υπάρχουν ήδη ειδικοί κανόνες AI. Δικαστήρια και ρυθμιστικές αρχές ήδη εφαρμόζουν υπάρχοντα πλαίσια σε νέα τεχνολογία, και το να είσαι πρώτος στην αγορά με κάτι γνήσια νέο δεν καθυστερεί το σημείο στο οποίο μπορεί να προκύψει ευθύνη. Αξιολογούμε την έκθεση συλλογιζόμενοι από τις νομικές αρχές που πράγματι εφαρμόζονται, αντί να περιμένουμε έναν κανόνα που ονομάζει το προϊόν σας συγκεκριμένα.

Τα δύο πλαίσια εφαρμόζονται ταυτόχρονα και ανεξάρτητα — η συμμόρφωση με το ένα δεν συνεπάγεται συμμόρφωση με το άλλο. Ένα σύστημα AI υψηλού κινδύνου που επεξεργάζεται προσωπικά δεδομένα χρειάζεται τόσο αξιολόγηση συμμόρφωσης βάσει AI Act όσο και νόμιμη βάση σύμφωνη με τον GDPR, και σε πολλές περιπτώσεις μια Εκτίμηση Αντικτύπου σχετικά με την Προστασία Δεδομένων που καλύπτει τους ειδικούς κινδύνους AI που εισάγει το σύστημα (κατάρτιση προφίλ, αυτοματοποιημένη λήψη αποφάσεων, νέα συναγωγή από δεδομένα). Τα δύο καθεστώτα χρησιμοποιούν επίσης διαφορετική ορολογία για επικαλυπτόμενες έννοιες, όπου συχνά τα προγράμματα συμμόρφωσης που τα αντιμετωπίζουν ως χωριστές ροές εργασίας αναπτύσσουν κενά. Χειριζόμαστε και τα δύο μαζί, βάσει μεθοδολογίας που ενημερώνεται από την εξειδίκευση στο δίκαιο προστασίας δεδομένων, ώστε η επικάλυψη να αντιμετωπίζεται μία φορά αντί για δύο.

Η ευθύνη και η ασφάλεια προϊόντος έρχονται πρώτα — ποιος είναι υπεύθυνος όταν ένα ρομπότ ή αυτόνομο σύστημα προκαλεί βλάβη, και ποια στοιχεία θα αποδείξουν ότι το σύστημα σχεδιάστηκε και δοκιμάστηκε υπεύθυνα. Καθεστώτα έγκρισης τύπου και κλαδικής ασφάλειας ενδέχεται να εφαρμόζονται ανάλογα με την κατηγορία προϊόντος, συχνά πολύ πριν προλάβει οποιαδήποτε ειδική νομοθεσία για AI ή αυτόνομα οχήματα. Η διακυβέρνηση δεδομένων έχει επίσης σημασία, καθώς αυτά τα συστήματα συνήθως συλλέγουν δεδομένα αισθητήρων και περιβάλλοντος σε μεγάλη κλίμακα. Και τα διασυνοριακά ζητήματα προκύπτουν γρήγορα — ένα όχημα ή ρομπότ που λειτουργεί ή πωλείται σε πολλαπλές δικαιοδοσίες κληρονομεί διαφορετική εικόνα ευθύνης και ρύθμισης σε κάθε μία. Τα επεξεργαζόμαστε συστηματικά πριν την κυκλοφορία, όχι μετά από ένα περιστατικό.

Ένα έγγραφο πολιτικής είναι σημείο εκκίνησης, όχι πρόγραμμα διακυβέρνησης. Ένα λειτουργικό πρόγραμμα περιλαμβάνει καθορισμένους ρόλους εποπτείας, τεκμηριωμένη ταξινόμηση κινδύνου για κάθε σύστημα σε χρήση, τεχνική τεκμηρίωση που πράγματι διατηρείται καθώς τα συστήματα αλλάζουν, και περιοδικότητα επανεξέτασης που εντοπίζει νέες αναπτύξεις πριν τεθούν σε λειτουργία χωρίς αξιολόγηση. Ρυθμιστικές αρχές και ενάγοντες ελέγχουν τι μπορεί πράγματι να παραγάγει και να αποδείξει ένας οργανισμός, όχι τι δηλώνει μια πολιτική κατ' αρχήν. Η δημιουργία του προγράμματος διακυβέρνησης πριν τεθεί σε δοκιμασία — αντί μετά από μια ρυθμιστική αρχή ή περιστατικό — είναι σημαντικά φθηνότερη και πιο υπερασπίσιμη.