giovedì 08 Dicembre 2022

Come superare i rischi dei recommender systems

Da non perdere

Nell’articolo precedente abbiamo apprezzato la potenza dei recommender systems, che ci conoscono meglio dei nostri parenti ed amici.

Tuttavia, questa grande personalizzazione può dare origine a diversi rischi.

Un esempio di suggerimenti dei recommender systems di Amazon basati sulla cronologia di navigazione

L’ALGORITMO

Il primo è quello di rivelare aspetti della personalità che si preferirebbe tenere nascosti, magari anche a se stessi.

Così, può capitare che l’algoritmo continui a propormi film di comici italiani degli anni settanta anche quando io, razionalmente, preferirei che mi mostrasse invece video di conferenze scientifiche: ma lui sa bene che io mi diverto di più a vedere un film comico che una conferenza di fisica classica!

L’altro rischio è quello di rimanere ingabbiati all’interno di una bolla comunicativa, ricevendo solo ed esclusivamente le informazioni che siamo pronti ad accogliere.

L’OSSIFICAZIONE

Questo diventa pericoloso soprattutto nel caso di convinzioni specifiche. Così, ad esempio, un terrapiattista finisce per ricevere unicamente notizie o post da persone che ne condividono le teorie, radicandosi così ancora di più nelle sue convinzioni, in un processo che si chiama “ossificazione”. 

TERZO RISCHIO

Il terzo rischio, collegato a questo, è quello di precludersi la possibilità di avere esperienze diverse da quelle attese.

Se il sistema di raccomandazione continua a propormi i libri di fantascienze che mi interessano, non avrò mai l’occasione di provare a leggere un romanzo storico ambientato durante la rivoluzione francese, che tuttavia potrebbe piacermi ugualmente. 

Questi rischi hanno anche dei risvolti sociali, che nascono dal fatto che le macchine forniscono le loro risposte sulla base della storia precedente, ma questa storia può anche contenere dei pregiudizi.

Così, ad esempio, si è scoperto che alcuni algoritmi di raccomandazione preferivano per i ruoli lavorativi di maggiore responsabilità gli uomini alle donne, e questo perché i dati aziendali su cui basavano i loro calcoli registrano una maggiore preminenza di maschi nelle posizioni apicali.

Occorre quindi combattere il rischio di ratificare situazioni ingiuste esistenti.  

L’EQUILIBRIO

Molti recommender systems si sono attrezzati per ridurre la probabilità di tali rischi. In particolare, si cerca di bilanciare la precisione con l’introduzione di una certa percentuale di risposte “altre”, creando così una sorta di “rumore di fondo”.

In altre parole, si riduce la precisione assoluta delle risposte aprendo però all’imprevisto, e suggerendo così soluzioni nuove.

Un’altra tecnica utilizzata è quella di mostrare agli utenti la ragione dei suggerimenti, coinvolgendoli così, in una certa misura, nelle logiche dell’algoritmo.

È quanto avviene ad esempio con una delle modalità di suggerimento di Netflix, che consiglia alcuni film con la frase “Poiché hai guardato …”. 

Amazon, dal canto suo, accompagna il suggerimento di alcuni prodotti con le frasi “Consigliati in base alla tua cronologia di navigazione” o “Correlati agli articoli visualizzati”. 

Con questo tipo di modalità ogni utente diventa consapevole dei criteri usati dagli algoritmi, e tale consapevolezza ne aumenta il giudizio critico. 

In conclusione: non si rinuncia allo strumento, ma si impara ad usarlo.Ed è questa sicuramente la strada migliore per un uso accorto dei recommender systems: una tecnologia preziosa, utilissima e che migliora le nostre vite ma che, come ogni tecnologia, occorre imparare ad utilizzare.

Andrea Carobene, Direttore di Baia, Business Artificial Intelligence Agency

www.baia.tech – a.carobene@baia.tech

- Advertisement -spot_img
- Advertisement -spot_img

Articoli recenti

- Advertisement -spot_img
- Advertisement -spot_img