Fondazione Prada ospita Training Humans, una mostra concepita da Kate Crawford, artista, professoressa e studiosa nell’ambito dell’intelligenza artificiale, e Trevor Paglen, artista e ricercatore, nella sede di Osservatorio dal 12 settembre al 24 febbraio
Si tratta della prima grande mostra fotografica dedicata a immagini di training: repertori di fotografie utilizzate per insegnare ai sistemi di intelligenza artificiale (IA) come “vedere” e classificare il mondo. In questa mostra Crawford e Paglen esplorano l’evoluzione delle collezioni di immagini di training dagli anni Sessanta a oggi. La loro ricerca evidenzia come immagini comuni e funzionali siano raccolte come materia prima per il riconoscimento facciale e il monitoraggio di persone da parte di soggetti governativi e commerciali.
Training Humans la prima grande mostra fotografica dedicata a immagini di training
Training Humans esplora due tematiche chiave: la rappresentazione, l’interpretazione e la codificazione degli esseri umani attraverso dataset di training e le modalità con cui i sistemi tecnologici raccolgono, etichettano e utilizzano questi materiali. Quando la classificazione di esseri umani attraverso l’intelligenza artificiale diventa più invasiva e complessa, i pregiudizi e le implicazioni politiche presenti al loro interno appaiono più evidenti. Nella computer vision e nei sistemi di IA i criteri di misurazione si trasformano facilmente, ma in modo nascosto, in strumenti di giudizio morale.
La mostra è concepita come una ricostruzione storica a partire dalle immagini utilizzate nei primi esperimenti in laboratorio di riconoscimento facciale computerizzato, finanziati dal 1963 dalla CIA negli Stati Uniti. Fino alla diffusione di Internet e dei social media che ha generato un aumento esponenziale di immagini disponibili. I ricercatori nel campo dell’IA hanno, infatti, smesso di usare collezioni di immagini di proprietà del governo, iniziando ad attingere da milioni di immagini disponibili pubblicamente senza chiedere il permesso o il consenso ai fotografi o ai soggetti ritratti.
L’assegnazione di etichette a queste immagini produce un sistema di classificazione delle persone in base alla razza, al genere, all’età, all’emozione e talvolta ai tratti caratteriali. Questo processo ha delle implicazioni politiche chiare e durevoli nel tempo perché rappresenta la continuazione della storia oscura dei sistemi post-coloniali e razzisti di segmentazione demografica.
La mostra si confronta quindi con due interrogativi essenziali: quali sono i confini tra scienza, storia, politica, pregiudizio e ideologia nell’intelligenza artificiale? Chi ha il potere di costruire questi sistemi e di trarne benefici? Come sottolineano gli artisti, “un’asimmetria di potere è propria di questi strumenti. La nostra speranza è che Training Humans segni il punto di partenza per iniziare a ripensare questi sistemi e per comprendere in modo scientifico come ci vedono e ci classificano”