Il primo requisito per lo sviluppo di IA contiene tre diversi principi fondamentali:[1]
- Diritti fondamentali I sistemi di IA possono agevolare o ostacolare i diritti fondamentali. In tali circostanze, dovrebbe essere realizzata una valutazione d’impatto di diritti fondamentali prima di sviluppare una soluzione di IA.
- Intervento umano. Gli utenti dei sistemi di IA devono essere in grado di prendere decisioni informate, autonome in merito a ciò. I sistemi di IA dovrebbero aiutare gli individui a compiere scelte migliori e più informate, coerenti con i loro obiettivi. Il principio generale dell’autonomia dell’utente dev’essere centrale nella funzionalità del sistema di IA. Ad esempio, gli interessati devono essere consapevoli che i loro dati potrebbero essere usati per la profilazione, se del caso. Inoltre, dev’essere rispettato il loro diritto a non essere sottoposti a una decisione basata esclusivamente su un trattamento automatizzato, quando ciò produce effetti giuridici o ugualmente significativi. In ogni caso, è necessario tener presente che ciò, in generale, si riferisce a scopi commerciali. Quindi, quanto anzidetto non si applica alle Autorità incaricate dell’applicazione della legge che trattano dati personali utilizzando una base giuridica e potrebbero utilizzare IA per una lotta efficace contro vari crimini e per adempiere gli obblighi stabiliti dalla legge
- Sorveglianza umana. La sorveglianza umana aiuta a garantire che un sistema di IA non comprometta l’autonomia umana o provochi altri effetti negativi. Questa sorveglianza può avvenire mediante vari meccanismi di governance. A parità di condizioni, minore è la sorveglianza che un essere umano può esercitare su un sistema di IA, maggiore è la necessità di prove esaurienti e di una governance rigorosa.
- Ibid., pag.15. ↑