Tecnologie Emergenti & AI.

Quasi sempre sì, se sviluppate, implementate o distribuite un sistema di IA che tocca il mercato UE. L'AI Act suddivide i sistemi in quattro livelli — rischio inaccettabile (vietato del tutto, come alcune pratiche manipolative o di scoring sociale), alto rischio (soggetto a valutazione di conformità, documentazione tecnica, supervisione umana e requisiti di registrazione), rischio limitato (obblighi di trasparenza, come dichiarare che un contenuto è generato dall'IA) e rischio minimo (in gran parte non regolamentato). La classificazione dipende da cosa fa il sistema e chi coinvolge, non dal vostro settore, e raramente è così ovvia come appare a prima vista. Valutiamo il sistema rispetto ai criteri dell'AI Act e documentiamo la classificazione a uno standard che resiste al controllo.

No, e questo è uno dei fraintendimenti più significativi che riscontriamo. L'assenza di legislazione specifica sull'IA per il vostro caso d'uso esatto non significa assenza di esposizione legale. Il diritto della responsabilità del prodotto, della tutela dei consumatori, i principi generali di responsabilità civile e la normativa di sicurezza settoriale continuano tutti ad applicarsi a sistemi di IA, robotica e sistemi autonomi, indipendentemente dall'esistenza di norme specifiche sull'IA. Tribunali e regolatori stanno già applicando i quadri esistenti alla tecnologia inedita, ed essere i primi sul mercato con qualcosa di genuinamente nuovo non ritarda il momento in cui può sorgere la responsabilità. Valutiamo l'esposizione ragionando a partire dai principi giuridici effettivamente applicabili, anziché attendere una norma che nomini specificamente il vostro prodotto.

I due quadri si applicano simultaneamente e indipendentemente — soddisfarne uno non soddisfa l'altro. Un sistema di IA ad alto rischio che tratta dati personali necessita sia di una valutazione di conformità all'AI Act sia di una base giuridica conforme al GDPR, e in molti casi di una Valutazione d'Impatto sulla Protezione dei Dati che copra i rischi specifici dell'IA introdotti dal sistema (profilazione, decisioni automatizzate, nuove inferenze dai dati). I due regimi utilizzano anche una terminologia diversa per concetti che si sovrappongono, ed è proprio qui che i programmi di conformità che li trattano come flussi di lavoro separati tendono a sviluppare lacune. Gestiamo entrambi insieme, con un'unica metodologia, così che la sovrapposizione venga affrontata una sola volta anziché due.

La responsabilità e la sicurezza del prodotto vengono prima di tutto — chi è responsabile quando un robot o un sistema autonomo causa un danno, e quali prove dimostreranno che il sistema è stato progettato e testato in modo responsabile. Regimi di omologazione e sicurezza settoriale possono applicarsi a seconda della categoria di prodotto, spesso ben prima che qualsiasi legislazione specifica su IA o veicoli autonomi li raggiunga. Anche la governance dei dati è rilevante, poiché questi sistemi tipicamente raccolgono dati di sensori e ambientali su larga scala. E le questioni transfrontaliere emergono rapidamente — un veicolo o robot che opera o viene venduto in più giurisdizioni eredita un quadro di responsabilità e regolamentazione diverso in ciascuna. Le affrontiamo sistematicamente prima del lancio, non dopo che un incidente impone la questione.

Un documento di policy è un punto di partenza, non un programma di governance. Un programma funzionante include ruoli di supervisione definiti, una classificazione del rischio documentata per ogni sistema in uso, documentazione tecnica effettivamente mantenuta man mano che i sistemi cambiano, e una cadenza di revisione che intercetta nuove implementazioni prima che vengano lanciate senza valutazione. Regolatori e ricorrenti verificano ciò che un'organizzazione può effettivamente produrre e dimostrare, non ciò che una policy afferma in linea di principio. Costruire il programma di governance prima che venga messo alla prova — anziché dopo che un regolatore o un incidente impone la questione — è notevolmente più economico e difendibile.