Women in AI Ethics: diritti e inclusione

Quante volte hai detto di no questa settimana?
Me lo sono chiesta io per prima quando ho ritrovato una storia che arriva da Women in AI Ethics, un’organizzazione internazionale che studia il rapporto tra intelligenza artificiale, diritti e inclusione. 
Qualche mese fa un gruppo di ricerca legato a una prestigiosa università ha chiesto loro di partecipare a uno studio (non hanno condiviso il nome dell’ateneo).

L’obiettivo era capire perché le donne usino meno l’intelligenza artificiale generativa.
Una richiesta apparentemente sensata: chiedere a un’associazione che si occupa di inclusione di partecipare a uno studio del genere, sembra più che naturale. 
Anzi, a prima vista potrebbe sembrare persino un passo avanti: finalmente qualcuno si interessa a un tema di cui si parla ancora troppo poco.

E invece sai qual è stata la loro risposta?
NO

Hanno risposto no. E non perché fossero contrarie alla ricerca o perché non credessero nei dati.  Ma perché, secondo loro, la domanda portava verso una direzione distorta.
In una newsletter, Women in AI Ethics ha scritto:

We refused to participate because we find this framing to be problematic and harmful, not only for women but for all marginalized groups.

E cioè:

Abbiamo rifiutato di partecipare perché riteniamo che questa impostazione sia problematica e dannosa, non solo per le donne ma per tutti i gruppi emarginati.

Ci ho pensato a lungo. E mi sono resa conto che quando ci chiediamo qualcosa come “perché le donne usano meno l’IA?” stiamo spostando l’attenzione sulle donne, anche involontariamente.
Stiamo quindi trattando la questione come se il problema fosse un loro comportamento, una difficoltà insita all’essere donna.
E questo vale per tutte le narrative distorte, come sottolineavano appunto in Women in AI Ethics.

A chi tocca colmare il divario?

Le domande che le donne di Women in AI Ethics (e a dirla tutta, anche io) avrebbero voluto leggere erano ben altre. Per esempio:

Perché tanti strumenti di intelligenza artificiale continuano a essere progettati senza affrontare davvero i rischi che possono creare per donne, bambini e altri gruppi più vulnerabili?

Non parliamo di sfumature.

In realtà cambia completamente il punto di vista.
Nel primo caso stiamo chiedendo a chi subisce un problema di spiegare perché non si adatta.
Nel secondo stiamo chiedendo a chi costruisce quei sistemi quale responsabilità si assume.

È una differenza enorme.
E, leggendo quella presa di posizione, mi sono resa conto che riguarda molto più dell’intelligenza artificiale.
Riguarda il modo in cui costruiamo il dibattito pubblico.
Pensiamoci.
Quante volte leggiamo titoli come:

• Perché i giovani non leggono più?
• Perché i cittadini non si fidano dei media?
• Perché i lavoratori hanno paura dell’intelligenza artificiale?

Sono domande legittime, me le sono fatte tante volte anche io.
Ma più ci penso, più mi rendo conto che non sono l’unico modo possibile di raccontare quei fenomeni.
Potremmo chiederci:

• Come sono cambiati i media?
• Com’è cambiato il lavoro?
• Come vengono progettati gli strumenti digitali?
• Quali incentivi hanno le aziende che li adottano?

Il potere delle domande

Le risposte cambiano completamente perché sono le domande a cambiare.
Da giornalista, questa storia mi ha ricordato una cosa che rischio di dimenticare anche io. Siamo abituati a parlare di fact-checking, di verifica delle fonti, di controllo delle informazioni. Sono tutti passaggi fondamentali.

Ma esiste una verifica a monte: quella delle domande.
Perché una domanda costruita male può produrre una ricerca impeccabile dal punto di vista metodologico e, allo stesso tempo, portarci nella direzione sbagliata. 
Lo stesso vale per l’intelligenza artificiale. 
Passiamo moltissimo tempo a discutere della qualità delle risposte che ChatGPT, Gemini o Claude ci restituiscono.

Molto meno tempo a chiederci se il prompt, cioè la domanda da cui tutto parte, fosse davvero quello giusto o quali siano i dati su cui è stato costruito quel particolare modello linguistico.  
Forse una parte della qualità del nostro dibattito pubblico dipende dalla qualità delle domande che scegliamo di porci.

E allora la prossima volta che leggeremo il titolo di una ricerca, proviamo a fermarmi qualche secondo prima di arrivare ai risultati: chiediamo qualcosa di semplice.

Erano queste le domande che avremmo dovuto fare?

Il meglio di News48 e contenuti esclusivi direttamente nella tua casella di posta.