Come rendere piu' inclusive le tecnologie linguistiche

Le tecnologie linguistiche, come la traduzione automatica o i comandi vocali, hanno fatto passi da gigante negli ultimi dieci anni, passando da oggetto di derisione per i ragazzi a strumento di lavoro per tutti. "Ora dovrebbero fare qualche passo in più verso l'inclusività," dice Dirk Hovy, professore associato del Dipartimento di Computing Sciences della Bocconi, anticipando il suo intervento al workshop del 27 giugno, Fairness in AI.

Un'area in cui la traduzione automatica fa ancora fatica è l'uso dei pronomi moderni. Le persone con un nome femminile e un'identità maschile, per esempio, potrebbero scegliere di usare i pronomi femminili per sé stesse; le persone non binarie sono spesso presentate come they/them in inglese; la vocale centrale media schwa (É™) è talvolta usata al posto dei suffissi di genere -o/i e -a/e in italiano. Quando si traduce in altre lingue, si pongono problemi di comprensibilità, correttezza grammaticale e rappresentazione fedele degli individui.

Hovy sta studiando il problema nell'ambito del suo progetto INTEGRATOR, finanziato dall'European Research Council, insieme ad Anne Lauscher e Debora Nozza. "Attualmente i sistemi di traduzione automatica scelgono quella che ritengono essere la traduzione migliore, una sorta di scelta predefinita, indipendentemente dall'intelligibilità, dalla correttezza grammaticale o dalla rappresentatività," spiega Hovy. "In teoria, potrebbero essere possibili altre scelte: non tradurre - anche se sembra estremo - o, meglio, lasciare che sia l'utente a scegliere. Quello che diciamo è che i sistemi di traduzione automatica potrebbero evidenziare le posizioni in cui i pronomi non si adattano al loro addestramento e alla loro esperienza, e chiedere ai lettori di fare la propria scelta."



Per addestrare un sistema di traduzione automatica, gli si forniscono grandi quantità di testi e si lascia che impari con l'esperienza. Se gli si forniscono documenti scritti per lo più da uomini di mezza età, anche le traduzioni suoneranno come se a scriverle fossero stati maschi di quella fascia d'età, come hanno dimostrato Hovy e i suoi coautori in un articolo. "Questi sistemi sono ora comunemente utilizzati per tradurre un'ampia gamma di documenti," dice Hovy, "normalizzando e rafforzando così gli stereotipi. Il rischio è che, a lungo andare, solo il modo di parlare di maschi etero di mezza età sembri legittimo."

Lo stesso vale per i comandi vocali che tendono a funzionare bene con gli uomini adulti, ma non con le donne, i bambini o le persone con un forte accento locale. "Spesso vengono addestrati con voci a bassa frequenza e faticano ad adattarsi a toni più alti," spiega Hovy. "I bambini e le donne devono abbassare il tono se vogliono essere capiti. È un chiaro esempio di tecnologia che richiede agli utenti di adattarsi al sistema, invece che al sistema di adattarsi all'utente. Ma questa impostazione impedisce agli utenti di esprimersi pienamente attraverso il loro modo di parlare."