Oltre i dati: quando i valori dei programmatori influenzano l'intelligenza artificiale

Un recente articolo scientifico firmato da Peter Seele, Professore ordinario presso la Facoltà di comunicazione, cultura e società dell’Università della Svizzera italiana, e da Ludovico Giacomo Conti, dottorando presso la stessa Facoltà, affronta il tema dei bias nell’intelligenza artificiale da una prospettiva ancora poco esplorata. Pubblicato sulla rivista Humanities & Social Sciences Communications (Nature Portfolio), lo studio analizza come i valori e le assunzioni di chi programma i sistemi di IA possano influenzarne il funzionamento, anche in assenza di dati di addestramento distorti.

Partendo da una riflessione critica sul dibattito attuale, il lavoro di Seele e Conti mette in luce un livello di arbitrarietà spesso trascurato nello sviluppo dei sistemi di intelligenza artificiale. Se gran parte della letteratura si concentra infatti sui bias derivanti dai dataset utilizzati per l’addestramento degli algoritmi, lo studio propone di spostare lo sguardo su chi quegli algoritmi li progetta e li scrive.

Secondo gli autori, i programmatori – consapevolmente o meno – incorporano nei codici valori, presupposti e priorità che riflettono il loro contesto culturale, sociale e professionale. Questo fenomeno, definito come “arbitrarietà di secondo livello”, contribuisce a orientare il comportamento dei sistemi di IA, influenzandone gli output anche quando i dati di partenza appaiono neutrali.

Per affrontare questo problema, l’articolo propone di trasferire nel campo dell’intelligenza artificiale una metodologia consolidata nelle scienze sociali: la riflessività. In concreto, gli autori suggeriscono l’introduzione di Algorithm Designers’ Reflexivity Statements (ADRS), ovvero riflessioni scritte interne e riservate in cui i programmatori analizzano criticamente le proprie assunzioni, scelte progettuali e potenziali fonti di bias.

A queste dichiarazioni interne si affiancherebbe una AI Positionality Statement (AIPS), una sintesi pubblica rivolta agli utenti finali. Questo strumento avrebbe l’obiettivo di rendere trasparenti i bias residui e strutturali che possono influenzare i risultati prodotti dall’algoritmo, permettendo così una lettura più consapevole e contestualizzata degli output dell’IA.

Nel loro insieme, queste proposte mirano a rafforzare la responsabilità e la trasparenza nello sviluppo dell’intelligenza artificiale, offrendo un quadro concettuale che invita a ripensare il ruolo umano nella progettazione dei sistemi algoritmici e a integrare pratiche etiche già sperimentate in altri ambiti disciplinari.

L’articolo completo è disponibile online, insieme a un approfondimento sui concetti teorici e sulle implicazioni pratiche della proposta, all’indirizzo: https://rdcu.be/eU5iS