Le aziende fanno sempre più affidamento su algoritmi che utilizzano i dati forniti dagli utenti per prendere decisioni che influenzano le persone. Ad esempio, Amazon, Google e Facebook utilizzano algoritmi per personalizzare ciò che gli utenti vedono e Uber e Lyft li utilizzano per abbinare i passeggeri ai conducenti e fissare i prezzi. Gli utenti, i clienti, i dipendenti e altri hanno il diritto di sapere in che modo le aziende che utilizzano algoritmi prendono le loro decisioni? In una nuova analisi, i ricercatori esplorano le basi morali ed etiche di tale diritto. Concludono che il diritto a una tale spiegazione è un diritto morale, quindi si occupano di come le aziende potrebbero farlo.
“Nella maggior parte dei casi, le aziende non offrono alcuna spiegazione su come accedono ai profili degli utenti, da dove raccolgono i dati e con chi scambiano i loro dati”, spiega Tae Wan Kim, Professore associato di etica aziendale presso Carnegie Mellon Tepper School of Business dell’Università, che ha co-scritto l’analisi. “Non è in gioco solo la correttezza, ma anche la fiducia”.
In risposta all’aumento di algoritmi decisionali autonomi e alla loro dipendenza dai dati forniti dagli utenti, un numero crescente di scienziati informatici e organismi governativi ha chiesto trasparenza nell’ambito dell’ampio concetto di responsabilità algoritmica. Ad esempio, nel 2016 il Parlamento europeo e il Consiglio dell’Unione europea hanno adottato il Regolamento generale sulla protezione dei dati (GDPR), parte del quale regola l’uso di sistemi decisionali algoritmici automatici. Il GDPR, lanciato nel 2018, interessa le aziende che elaborano le informazioni di identificazione personale dei residenti nell’Unione Europea.
Ma il GDPR è ambiguo sul fatto che implichi un diritto alla spiegazione in merito al modo in cui i sistemi di profilazione algoritmica automatizzata delle aziende prendono le decisioni. In questa analisi, gli autori sviluppano un argomento morale che può servire come base per una versione legalmente riconosciuta di questo diritto.
Nell’era digitale, scrivono gli autori, alcuni affermano che il consenso informato – ottenere il previo permesso di divulgare informazioni con piena consapevolezza delle possibili conseguenze – non è più possibile perché molte transazioni digitali sono in corso. Invece, gli autori concettualizzano il consenso informato come una garanzia di fiducia per processi algoritmici incompleti.
L’ottenimento del consenso informato, soprattutto quando le aziende raccolgono ed elaborano dati personali, è eticamente richiesto a meno che non venga ignorato per motivi specifici e accettabili, sostengono gli autori. Inoltre, il consenso informato nel contesto del processo decisionale algoritmico, specialmente per usi non contestuali e imprevedibili, è incompleto senza una garanzia di fiducia.
In questo contesto, concludono gli autori, le aziende hanno il dovere morale di fornire una spiegazione non solo prima che avvenga il processo decisionale automatizzato, ma anche dopo, in modo che la spiegazione possa riguardare sia la funzionalità del sistema che la logica di una decisione specifica.
Gli autori approfondiscono anche il modo in cui le aziende che gestiscono attività basate su algoritmi possono fornire spiegazioni sul loro utilizzo in un modo che attrae i clienti pur mantenendo segreti commerciali. Questa è una decisione importante per molte start-up moderne, comprese le domande su quanto codice dovrebbe essere open source e su quanto dovrebbe essere estesa ed esposta l’interfaccia del programma applicativo.
Molte aziende stanno già affrontando queste sfide, notano gli autori. Alcuni possono scegliere di assumere “interpreti di dati”, dipendenti che collegano il lavoro dei data scientist e le persone interessate dalle decisioni delle aziende.
“Richiedere che un algoritmo sia interpretabile o spiegabile ostacolerà le prestazioni delle aziende o porterà a risultati migliori?” chiede Bryan R. Routledge, professore associato di finanza alla Tepper School of Business della Carnegie Mellon, che ha co-scritto l’analisi. “Questo è qualcosa che vedremo nel prossimo futuro, molto simile al conflitto di trasparenza tra Apple e Facebook. Ma ancora più importante, il diritto alla spiegazione è un obbligo etico oltre all’impatto sui profitti.”