Intelligenza artificiale, machine learning e discriminazione. L'AI alla prova con le nuove soggettività

LE interpretazioni femministe del test di turing anticipano un filone di ricerche di genere che si occupano di interrogare la tecnologia per costruire delle pratiche alternative e più eque nei confronti delle soggettività alternative. LE tecniche di machine learning attivano invece strategie categorizzanti che tendono a privilegiare gli standard e le soggettività più tradizionali, rendendo la discriminazione di genere un elemento inevitabile delle sue valutazioni. I sistemi di classificazione e clustering si basano, infatti, sui dati pregressi che registrano in modo acritico le ingiustizie storicamente perpretrate. I sistemi della presa di decisione algoritmica devono per forza affidarsi alle discriminazioni e ai pregiudizi per costruire gli spazi latenti della propria ricerca di correlazioni e pattern da proiettare sul futuro. E' decisivo avere uno sguardo critico su questi processo di valutazione per evitare che vengano considerati oggettivi per il solo fatto che sono il prodotto di un complesso sistema sociotecnico.