domenica 01 Agosto 2021

Una legge europea per l’intelligenza artificiale

Da non perdere

Lo scorso 21 aprile la Commissione Europea ha lanciato una proposta destinata a modificare il panorama dell’intelligenza artificiale nell’intera Unione.

L’obiettivo del documento, chiamato “Artificial Intelligence Act”, è quello di definire un “approccio europeo all’intelligenza artificiale”. 

La Commissione riconosce l’incredibile opportunità legata alle tecnologie del machine learning, ma contemporaneamente chiede che si tengano sempre in dovuto conto anche i rischi.

In questo senso, i modelli di intelligenza artificiale sono classificati in tre categorie:

  • a basso rischio
  • a rischio elevato
  • inaccettabili.

Tra i modelli inaccettabili, e proibiti, vi sono ad esempio quelli che valutano “l’affidabilità di una persona” attraverso il suo comportamento sociale. In altre parole: le tecnologie alla “grande fratello” sono espressamente vietate. 

Tra le applicazioni ad elevato rischio vi è invece ad esempio l’uso di sistemi che valutano la sicurezza dal punto di vista della di un prodotto, ma anche l’utilizzo dell’intelligenza artificiale per la valutazione automatica dei curricula. 

La proposta della Commissione, oltre a vietare espressamente alcune pratiche, impone prescrizione precise per chi utilizza sistemi di intelligenza artificiale a rischio elevato, a partire da un sistema di risk management che deve descrivere con precisione i possibili pericoli, i processi messi in atto per evitarli, e le strategie per verificare l’efficacia di questi ultimi.

Dietro queste prescrizioni vi è la filosofia della qualità: per ridurre i rischi legati all’intelligenza artificiale occorre impostare un sistema di qualità che monitori tutte le fasi di costruzione del modello di machine learning adottato.

I modelli a rischio elevato verrebbero anche catalogati in un database europeo, e sottoposti a revisione periodica.

Inoltre, si propone l’istituzione di appositi organismi nazionali, sulla base di quanto già oggi esiste per la protezione dei dati personali con il Garante della Privacy. 

L’Artificial Intelligence Act è solo all’inizio del suo percorso, ed è possibile che il testo finale risulterà differente dalla prima versione anche in punti sostanziali.

Tuttavia, è importante che chi si occupa di intelligenza artificiale e di data science inizi a pensare che, entro pochi anni, dovrà fare i conti con regole europee anche severe. Meglio, quindi, iniziare ad adeguare fin da subito i propri modelli ai desiderata europei.

Andrea Carobene a.carobene@unitedrisk.eu

Head of data and digital management di United Risk Management (www.unitedspa.it)

- Advertisement -spot_img
- Advertisement -spot_img

Articoli recenti

- Advertisement -spot_img