1/ Pouvez-vous expliquer votre rapport à l’Intelligence Artificielle, quelles sont vos recherches, votre métier ?

​

Lucile Sassatelli : Je travaille dans la recherche sur l’Intelligence Artificielle en général avec différents domaines d’application surtout dans le multimédia, je suis d’ailleurs professeure d’informatique à l’Université Côte d’Azur et je suis directrice scientifique EFELIA Côte d’Azur : un projet ambitieux qui vise à massifier l’enseignement en Intelligence Artificielle. 

​

​2/ Quels sont les débats sur l’Intelligence Artificielle que l’on rencontre en France ?

​

Lucile Sassatelli : En ce qui concerne les débats sur l’Intelligence Artificielle que l’on rencontre en France il faut tout de même se rappeler que le système en lui-même de l’Intelligence Artificielle ne représente pas un problème en soi, c’est un langage abusif. Cependant on pourrait se demander si celle-ci est digne d’autonomie, si elle a un part de conscience, si elle possède une sorte de « compréhension » et si cette compréhension est similaire à celle de l’humaine.

​

​3/ Que pensez-vous du fait que l’Intelligence Artificielle puisse remplacer les artistes ?

​

​

Lucile Sassatelli : L’Intelligence Artificielle ne peut pas remplacer l’être humain, c’est bien mal nommé pour des questions de lobbying, le développement de ce domaine est croisé avec plusieurs autres domaines comme les mathématiques, les neurosciences, les sciences… Cette question est plutôt le résultat de fantasmes qui ont mené à ce nom d’Intelligence Artificielle mais il ne s’agit que d’un système pour des outils pour les humains, elles ne sont pas autonomes, leur complexité se base sur des données collectées alors cela n’a pas de sens de dire qu’elles remplaceront des humains.

Pour la partie Art c’est dommage de réduire la création artistique au processus de production l’art est un message, une intention, une volonté de communiquer, une évocation d’un ensemble de concepts plus ou moins abstraits et tous les travaux des grands spécialistes d’Intelligence Artificielle montrent que les systèmes d’IA actuellement n’ont pas de notion d’intentionnalité et/ou de compréhension, la cohérence apparente de l’association des formes textuels et visuels nous font l’impression d’une communication intentionnelle alors que derrière il n’y en a pas puisque ces systèmes n’ont accès qu’à la forme et non pas au sens des signes humains. C’est un contre sens de dire qu’ils vont remplacer un artiste

​

4/ Que pensez-vous du fait que l’Intelligence Artificielle puisse remplacer les travailleurs dans certains métiers (par exemple les hôtesses de caisse)

 

Lucile Sassatelli : Des études ont démontré que soi-disant une grosse partie de l’emploi tertiaire serait remplacé, c’était la même prédiction lors de la révolution internet, ce qui est vrai, c’est que c’est plus facile d’automatiser des emplois qui n’ont pas besoin d’interaction humaine (préparation de colis, métiers pénibles et ingrats) mais tous les métiers où il y a besoin d’une interaction humaine c’est plus difficile à automatiser. Pour l’instant les humains ne sont pas encore prêts car il y a besoin d’interaction. Les chatbot par exemple n’ont pas encore remplacé les humains car c’est très difficile à remplacer. L’important est aussi la finalité derrière ; le profit à tout prix ou encore si les objectifs capitalistes n’ont pas pour objectif le bien commun

Par exemple j’ai un collègue qui gère des sites internet, il a une cette question d’installer un chat bot pour aider les gens. Cependant c’est très compliqué car si le chat bot se trompe dans une interaction déjà sensible, si l’interaction n’est pas la bonne, cela énervera encore plus le ou la cliente.

 

5/ J’ai entendu dire que l’Intelligence Artificielle devrait être utilisé avec « modération », jusqu’où la mesurer ?

 

Lucile Sassatelli : La modération c’est comme pour tout. Actuellement il y a un usage croissant de l’IA dans différents domaines et contexte sociaux et contrairement aux autres systèmes (par exemple Word) ils n’ont pas passé de système de fiabilité (hallucination/faille dans l’IA), il n’y pas encore de certification car il y a une problématique de régulation les contextes d’utiliser ces systèmes. Par exemple il faut éviter de faire comme la chine avec le système de crédit social.

On peut envisager la modération pour des raisons éthiques (pour des raisons morales par exemple) et par ex dans l’enseignement universitaire cela dépend du niveau universitaire, du domaine, des types de projets de travail, il s’agit de discernement et d’études en cours actuellement pour déterminer dans quel cas la modération est plus ou moins souhaitable.

 

6/ Quelles sont les évolutions de l’Intelligence Artificielle à envisager en France dans un avenir proche selon vous ?

 

Lucile Sassatelli : Il y aura des évolutions de techniques pour répondre aux enjeux environnements, au droit au respect à la vie privé et à la réorganisation ou plutôt transition numérique, une évolution dans la façon dont les humains et les différents champs sociétaux vont voir arriver l’IA, les enjeux dans la médecine, de l’éducation, de la pédagogie, on va devoir revoir la façon d’enseigner, comment enseigner l’informatique ? comment gérer la production ? quelle chaîne de valeur ? comment créer de nouveau savoir, de nouvelles découvertes, de nouveaux mécanismes ?

​

7/ Comment pouvons-nous garantir la protection des données dans un monde de plus en plus alimenté par l’Intelligence Artificielle ?

 

Lucile Sassatelli : La protection des données n’est pas exactement une question sur l’Intelligence Artificielle mais sur les relations de pouvoir déjà en œuvre, l’Intelligence Artificielle n’est juste qu’un outil d’intérêt pour servir ces pouvoirs économiques et politiques. En France nous avons des lois pour protéger nos données ce qui permet de rester protéger, nous pouvons faire respecter notre droit à la vie privée mais nous avons en permanence des oppositions entre le développement économique et le respect de la vie privée. Par exemple les données relatives à la santé représentent un grand enjeu actuel, notamment celles récoltées par le Health Data Hub, il y a une inquiétude de la part de la CNIL, quand les données ne sont pas sur le territoire européen elles ne sont pas soumises à la loi européenne.

 

8/ Pensez-vous que l’Intelligence Artificielle puisse changer nos rapports sociaux ?

 

Lucile Sassatelli : Cette focalisation sur le fantasme anthropomorphique ne montre pas les réels dangers liés à l’utilisation de l’Intelligence Artificielle (comme par exemple les biais dans les modèles de langage raciste, antisémites etc..). Sur les rapports sociaux, le Japon par exemple, a créé des robots pour les relations sociales, mais même si cela arrive ce sera tout de même très niche. Selon le Podcast IA café de l’Université Lavalle, il y a eu une discussion sur l’évolution de la relation enseignant/étudiant avec l’Intelligence Artificielle. De plus en plus d’outils sur l’Intelligence Artificielle permettent de produire du texte et modifient la façon dont les élèves produisent du contenu alors il peut y avoir un débat sur la perte de confiance en l’élève, le manque d’intérêt à passer du temps à corriger une copie, comment évaluer si le niveau est très bon ou si une IA a été utilisée pour produire le devoir ?

 

9/ L’Intelligence Artificielle a-t-elle réellement un impact sur l’environnement ?

​

Lucile Sassatelli : C’est une catastrophe environnementale, entraîner un modèle de langage juste l’entraînement c’est l’équivalent d’un vol transatlantique. Actuellement le coût a été multiplié par 10 ou 100. C’est un énorme enjeu environnemental qui en plus maintenant, avec chatgpt et l’IA générative, constitue le 2ème problématique environnementale alors que la plus grosse consommation électrique était faite au moment de la création de l’IA mais maintenant aussi dès qu’on l’utilise. Il y a un effet rebond ; comme ils sont performants beaucoup de personnes les utilisent très fréquemment et cela fait que les IA consomment encore plus d’énergie.

 

10/ Nous avons parlé des biais plutôt durant cet interview, en quoi les biais constituent un enjeu important pour vous ?

​

Lucile Sassatelli : Il y a un enjeu énorme de communication, une guerre communicationnelle entre ceux qui ont un intérêt à masquer certaines problématiques, les grosses boîtes qui ont le monopole et qui gèrent cette communication et le public ; au niveau des termes et des enjeux effectifs, le vrai débat ce n’est pas celui du remplacement de certains emplois ni celui des robots tueurs mais des enjeux fondamentaux passés sous silence.

Il y a aussi l’enjeu du biais subtil, les stéréotypes, les discriminations, le biais sexiste et raciste automatisés avec l’Intelligence Artificielle. Techreview du MIT en 2019 disait que c’était le vrai enjeu de l’Intelligence Artificielle. Le grand modèle de langage développé est majoritairement fait par une population caucasienne), la complexité de la chaîne de la création de ces modèles les humains qui trient, collectent, de qui ont prend les données, conçoivent le système d’Intelligence Artificielle. Quand ils rencontrent un problème, ils le réduisent systématiquement. On ne pense pas à toute la complexité à tous les niveaux

Le débat porte sur l’interprétation humaine et c’est problématique que ces décisions soient laissées dans les mains d’ingénieurs uniquement et que la société n’y prennent pas part surtout dans la médecine et dans le domaine social.