1/ Su quale aspetto dell’IA lei è specializzata?

 

Carolina Polito : Ho laureato su diversi ambienti adesso mi sto specializzando su l’utilizzo dell’IA in sistemi civili quindi soprattutto sui sistemi biometrici (riconoscimento facciale, riconoscimento delle impronte) hanno una componentistica dell’IA ormai integrati in quasi tutti i sistemi quindi lo studio soprattutto nella sua applicazione nei controlli alla frontiera in somma in generale i sistemi biometrici.

In passato ho laureato in realtà sull’intersezione dell’IA e cybersecurity quindi sulle modalità in quale l’IA potreste aiutare il settore della cybersecurity e come l’IA potrebbe rappresentare un nuovo vettore di attacco, in somma come potrebbe creare delle nuove problematiche al livello di cybersecurity.

 

2/ Qual è la Sua opinione sull’attuale stato dell’IA in Italia e sull’impatto sulla società?

 

Carolina Polito : È una domanda un po’ difficile nel senso che di utilizzare la categoria IA come una categoria generica perché effettivamente viene riempita da tante cose diverse quindi c’è un utilizzo che è governativo dell’IA e un utilizzo invece molto privato di cui la regolamentazione può agire più o meno quindi penso che sia anche difficile discernere cos’è l’impatto in Italia piuttosto che non è l’impatto o parliamo di applicazione al livello governativo e possiamo dire ad esempio controlla le frontiere allora l’Italia utilizza l’IA cosi’, cosi’, cosi’… piuttosto che la Francia l’utilizza in un altro modo. Se vogliamo fare un discorso complessivo io credo che sia un impatto complesso anche al livello europeo dove ci siamo muovendo un po’ di più anche al livello di una direzione della regolamentazione di questi sistemi, credo che siano delle tecnologie che hanno impatto “disruptive” sulla società e che è necessario, nel modo regolamentare, capire come gestire l’utilizzo di queste tecnologie detto che è una tecnologia molto notevole quindi anche la nostra capacità di progettarsi nelle direzioni che la tecnologia prenderà è molto complessa

 Se pensiamo al momento in cui è stato scritto l’AI Act per esempio, è stato un momento in cui non avevamo in mente un tipo di sviluppo tecnologico di generative AI che è dove stiamo andando in questo momento, l’attenzione del grande pubblico si sta muovendo in termine di quello che è l’IA ed è una cosa che non è stata prevista ma nel arco di 3 mesi e adesso ci sono un tutta una seria di applicazione anche commerciali che la generative AI ha sbloccato in tutti i settori del mercato quindi ci sono delle possibilità sia commerciali che di diversi genere molto grandi che è stato molto difficile prevedere ma questo è il caso per la generative IA ma magari ci sono altri applicazioni questo è per dire che c’è un grande grado d’imprevedibilità nello sviluppo dell’IA.

 

3/ Lei pensa che l’Intelligenza Artificiale possa sostituire alcuni lavori come ad esempio i lavori artistici (musica, pittura, scrittura?) o lavoretti difficili (ed esempio: cameriere, commesse...)

 

Carolina Polito : Ci sono dei piani di discussione diversi rispetti a questi vari campi. Tendenzialmente credo che l’IA stia dimostrando il fatto che una completa autonomia nel suo utilizzo non è né una cosa che la società vuole né uno sviluppo plausibile. Quindi credo che comunque sicuramente ci sarà un aiuto molto grande anche probabilmente l’IA si congestionerà come lavoro mano e quindi sempre di più ci saranno dei lavori in cui ci saranno dei sistemi integrati di uomo e IA. Chiaramente nel campo artistico la situazione a un livello di complessità diverso perché secondo me ha anche una componente creatività anche generativa che è difficile da replicare per un sistema, anche lì credo che ci potrà essere una commissione probabilmente cioè che l’IA diventa uno strumento come tanti altri strumenti che però non è che si sostituirà all’uomo soprattutto nel campo artistico non credo che si potrà sentire solo canzone prodotte con l’IA ma sicuramente gli artisti sfrutteranno questo strumento.

 

4/ Cosa Lei pensa dell’utilizzazione dell’IA all’università?

 

Carolina Polito : È un’ottima domanda e ne ho parlato l’altro giorno con un collega. Credo che in realtà il problema fondamentale di chatgpt in questo momento all’università sia uno strumento come altri strumenti dell’IA veramente “disruptive” per la quale non abbiamo ancora la digital literacy adeguata per capire come utilizzarlo in modo non acritico e purtroppo soprattutto nella produzione di testo scritto se ci affida completamente a un sistema come chatgpt il modo di modulare il pensiero dello studente che viene chiamato a produrre un testo scritto e che lo scrive usando un sistema come chatgpt perde alcune delle capacità analitiche che la produzione stessa di quel testo scritto lo porta necessariamente a fare perché per poter produrre un determinato testo scritto deve articolare i suoi pensieri in un modo poi possano resi chiari all’interno del testo, tutto questo processo e la complessità di questo processo nel momento in cui si utilizza uno strumento come chatgpt poi si va a perdere.

Poi è uno strumento sicuramente utile nel senso che non è che va demonizzato però bisogna imparare a utilizzarlo anche perché poi il testo che viene prodotto è un testo molto piatto per ora al meno è molto evidente quando un testo viene prodotto da chatgpt. Poi c’è una scelta binaria o decidi di vietare completamente il suo utilizzo oppure in questo momento non è che ci sono grandi alternative creative alcuni professori ci stanno provando un po’ quindi si ci sta muovendo un po’ per cercare di farne un utilizzo un po’ più consapevole.

 

Manon : Io sono d’accorda con Lei nel senso che chatgpt può essere un attrezzo però bisogna usarla con moderazione

 

Carolina Polito : Si con moderazione, con un’idea un po’ critica dietro perché purtroppo il testo prodotto da chatgpt da una percezione di correttezza che è anche reale, da un punto di vista stilistico è un testo che viene costruito sempre molto bene però anche da un punto di vista stilistico è un testo che non ha un guizzo personale che ci può essere in un testo scritto da una persona reale e questo appiattisce il tipo di testo che viene prodotto.

 

5/ Quali sono i progetti o le iniziative legate all’IA che ritiene siano particolarmente interessanti o promettenti in Italia?
 

Carolina Polito : Per quanto riguarda le start-up italiane che hanno sviluppato dei sistemi dell’IA ci sono sicuramente ma non sono a conoscenza esattamente, non ho mai studiato in modo approfondito specificamente il mercato italiano delle start up dell’IA ma penso che ci siano veramente in ogni settore. Ad esempio ho intervistato un paio di aziende italiane che fanno biometria perché è legato al mio ambito ma insomma hanno dell’applicazione abbastanza promettenti (sistema di riconoscimento facciale, cose che cercano di essere più privacy con uno storage dati nel cloud, data base centralizzato), cercano sempre di più di aumentare la sicurezza di questi sistemi. Dipende anche cosa si intende con “promettenti”

 

6/ Parlando di “riconoscimento facciale”, ci sono preoccupazioni specifiche sulla “privacy” o sulla sicurezza legate al uso dell’IA ?

 

Carolina Polito : Sicuramente i sistemi di riconoscimento facciale sono dei sistemi che hanno avuto un grande grado di attenzione pubblica e che sono stati considerati particolarmente invasivi o comunque al livello di percezione pubblica. C’è stata una mobilitazione che secondo me con altri sistemi dell’Intelligenza Artificiale non c’è stata quindi una grande attenzione anche al modo in cui vengono utilizzati che ha portato poi effettivamente a oggi a una legge dell’Unione Europea che proibisce la sua applicazione in alcuni ambiti. Quindi sicuramente è un caso particolare di tecnologia, è un sistema abbastanza problematica da alcuni punti di vista, ovviamente se parliamo strettamente di privacy ci sono di meccanismi per garantire il trattamento dei dati personali. Se guardiamo l’applicazione nell’Unione Europea ci sono delle regole per garantire la protezione dei dati e poi appunto per molte aziende che operano nel settore biometrico, la legislazione più grande con quale loro si interfacciano fino ad adesso è stata il GDPR.

Come sviluppo di mercato probabilmente l’AI Act avrà un impatto sul settore dell’Intelligenza Artificiale non è che smetterà di esistere però è già un mercato con delle immagini comunque non ampissimi di mercato per le aziende perché comunque tra i costi di produzione e i costi di vendita non è esattamente un mercato florido. Chiaramente il fatto che sia stato intenzionato in un modo specifico dal AI Act probabilmente ridurrà ancora di più questa fetta del mercato che non è necessariamente male perché effettivamente sono dei sistemi che possano essere problematici come ad esempio la sorveglianza nell’ambito del lavoro anche se facilitano il monitoraggio del comportamento. Sicuramente è una tecnologia che deve essere intenzionata al livello di sicurezza ma ci sono anche altra tematiche secondo me che sono più rilevanti perché non necessariamente risolvibili con degli aggiustamenti alla tecnologia.

 

7/ Ho parlato con un’altra persona francese che lavora nel settore dell’Intelligenza Artificiale e lei mi ha parlato dell’impatto ambientale dell’uso dell’IA e cosa Lei pensa di quest’impatto ? Pensa che sia un disastro per il nostro pianeta ?

 

Carolina Polito : Non è il mio ambito di competenza quindi parlo a grandi linee. Ma è chiaro che c’è una tematica di sostenibilità ma come in tutti gli sviluppi tecnologici, dipende dai vari ambiti dell’IA e del tipo di consumo che hanno penso ad esempio alla blockchain che ha un consumo energetico abbastanza importante. Le capacità computazionali per diventare sempre più efficienti richiedono delle quantità di energia molto alte. Poi è molto difficile perché alcuni dicono che quest’impatto ambientale può essere controbilanciato dal supporto che l’IA può dare all’economia green però quest’ambito è veramente specifico e non ho dei grandi dati da questo punto di vista.

 

8/ Ci sono aspetti etici dell’IA che dovrebbero essere più attentamente considerati nella discussione pubblica italiana?

 

Carolina Polito : Un tema su quale mi sento abbastanza vicina in questo momento è l’idea dell’approccio dell’IA al livello etico è l’idea di superare il concetto di bias per come l’abbiamo interpretato nel senso che non fosse sbagliato però credo che bisognerebbe allargare un po’ la nostra interpretazione di quelli che sono i bias di una tecnologia come una come quella dell’IA perché il modo in cui viene trattato il bias dell’IA al momento è quello di una “”non performatività” del sistema dell’IA. Al interno dei training data di quel sistema non c’è abbastanza diversità nel modo in cui il sistema è stato trained e quindi questo fa si che il sistema non sia in grado per performare una certa task perché non aveva quelli dati nella suo sistema. La soluzione a questo dibattito sul bias dell’IA sarebbe banalmente di mettere più dati nel training data set che andrà poi nel sistema dell’IA in modo che poi il sistema sia in grado, con una diversità maggiore di dati, di riconoscere una persona piuttosto di un’altra ad esempio. Secondo me non è solo un discorso di diversità di dati ma dobbiamo renderci conto che il sistema dell’IA incorpora una visione, una concezione del mondo che riflette solo una visione socioculturale “bianca”, c’è una discussione più importante da fare su quanto il contesto in quale il sistema è stato sviluppato viene influire sul modo in cui il sistema agisce. Non può esistere secondo me un sistema completamente neutro anche con tutti i dati del mondo. Bisogna ampliare molto di più il nostro concetto di bias in un sistema che è molto legata al training data set ma invece c’è tutto un discorso sullo sviluppo del design e della macchina.