Nonostante i significativi progressi scientifici compiuti finora, la maggior parte delle tecnologie di intelligenza artificiale (IA) attualmente in uso tiene però ancora poco conto del rilevamento dei pregiudizi legati al genere. A fronte del fatto che gli algoritmi di machine learning sono sempre più utilizzati in ambito sanitario per assistere i medici nelle decisioni riguardanti la diagnosi, la prognosi e la scelta della terapia più appropriata, se questi algoritmi non vengono attentamente valutati per verificare la presenza di bias, il miglioramento atteso delle cure sarà limitato solo a un sottoinsieme di pazienti e questo provocherà di conseguenza l’aumento delle disuguaglianze nell'assistenza sanitaria. L'attenzione alla selezione delle caratteristiche di genere negli insiemi di dati medici sottoposti a modellazione con IA è quindi molto importante per mitigare i bias legati alla sottorappresentazione delle donne nella scienza medica.
Per rispondere alla domanda: "L'informazione sul genere è utile per una rete neurale per costruire un modello predittivo?", ho controllato retrospettivamente quante volte il genere è stato salvato come parte del sottoinsieme di variabili informative in 21 basi di dati provenienti da autori con cui ho collaborato negli ultimi 20 anni per l’applicazione della IA in campo medico. Si è trattato di studi scientifici pubblicati su riviste internazionali in cui abbiamo impiegato le reti neurali, uno dei machine learning systems più potenti, per rispondere a domande critiche pertinenti a una vasta gamma di malattie e condizioni. In tutte queste analisi uno speciale algoritmo chiamato TWIST, sviluppato dal Centro Ricerche Semeion, selezionava euristicamente le variabili contenenti l’informazione utile per addestrare le reti neurali ad una previsione corretta scartando quelle ridondanti che non offrivano un valore aggiunto. Ebbene, il genere è risultato essere parte del modello predittivo euristico 19 volte su 21.
Ciò significa che anche per strumenti altamente adattivi e potenti come le reti neurali, l'informazione sul genere ha un valore specifico. Il risultato di questo studio conferma l'importanza delle informazioni sul genere nella costruzione di modelli predittivi ad alte prestazioni nel campo dell'IA. Pertanto, anche per l’IA il genere conta.
È quindi fondamentale che le informazioni sul genere siano disponibili in tutti gli insiemi di dati sottoposti a modellizzazione predittiva con sistemi di intelligenza artificiale per assistere meglio i medici e gli operatori sanitari nel processo decisionale.