“Una componente cruciale per ottenere un’IA affidabile è la robustezza tecnica, che è strettamente connessa al principio di prevenzione dei danni. La solidità tecnica richiede che i sistemi di IA siano sviluppati con un approccio di prevenzione dei rischi e in maniera tale che si comportino in maniera attendibile secondo le previsioni, riducendo al minimo i danni non intenzionali e imprevisti e prevenendo danni inaccettabili. Ciò si applica anche ai cambiamenti potenziali nel loro ambiente operativo o in presenza di altri agenti (umani o artificiali) che possono interagire con il sistema in maniera contraddittoria. Inoltre, dev’essere garantita l’integrità fisica e psichica degli esseri umani.”
– Gruppo di esperti ad alto livello sull’IA[1]
Principi etici e disposizioni dell’RGPD
Il gruppo di esperti ad alto livello sull’IA suddivide il requisito di robustezza tecnica e sicurezza in quattro sotto-componenti: (1) resilienza agli attacchi e sicurezza; (2) piano alternativo e sicurezza generale; (3) precisione; (4) affidabilità e riproducibilità.
Per un uso più semplice, la presente sezione rispecchia questa struttura, collegando tali sotto-componenti ai requisiti e alle raccomandazioni legali (RGPD). Ciò è importante perché, sebbene i requisiti dell’RGPD si applichino in genere solo al trattamento dei dati personali, molti sistemi pratici di IA sono progettati per produrre un risultato personalizzato (ossia sistemi di raccomandazione), pertanto, in un determinato momento devono trattare i dati personali.
- Gruppo di esperti ad alto livello sull’IA (2019) Orientamenti etici per un’IA affidabile, pag.16 e ss. Commissione europea, Bruxelles. Disponibile all’indirizzo: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (consultato il 28 maggio 2020). ↑