Innovation absolument révolutionnaire pour certains, source de dangers sans précédent pour d’autres : une chose est sûre, l’IA, ça fait débat. Il faut dire que ses impacts technologiques, sociaux et sociétaux sont colossaux. Et ce dans tous les domaines, du travail à la souveraineté des Etats, en passant par les industries culturelles, la formation, l’éthique ou les neurosciences. Pour ou contre, la vérité se trouve toujours au milieu. On vous aide à démêler le vrai du faux sur cinq grands débats qui animent la planète IA aujourd’hui. Second de la semaine : l’IA nous manipule-t-elle ?
L’éducation et la règlementation du numérique sont au cœur des enjeux d’un monde où les créations (voire les créatures !) entièrement générées par l’IA se multiplient… et sont susceptible de manipuler l’opinion. Le saviez-vous ? Le gouvernement albanais a nommé une intelligence artificielle, ministre des Marchés publics, la présentant comme un outil anticorruption. Côté industries culturelles, l’IA menace déjà les métiers de sous-titreur et de doubleur, et même le métier d’acteur. En effet, Tilly Norwood, première actrice générée entièrement par l’IA, a été présentée au grand public en septembre dernier, suscitant un intérêt fulgurant au sein des grosses productions standardisées. Des agents se seraient même manifestés pour s’occuper de sa future carrière !
L’IA au service du faux
On constate aussi tous les jours la capacité de l’IA à créer des images, des vidéos ou des fichiers audios entièrement faux mais extrêmement réalistes : les fameux deepfakes. Un phénomène d’autant plus inquiétant qu’un deepfake ne nécessite pas de matériels ou de connaissances extrêmement poussés pour être convaincant. « Il y a 10 ans, pour réaliser le clone audio d’un comédien, un spécialiste de la voix avait besoin de nombreuses heures d’enregistrement de sa voix originale et d’un programme propriétaire pour un résultat satisfaisant. Aujourd’hui, il suffit d’un logiciel open source et de cinq secondes d’enregistrement de la voix originale d’un individu pour que quelqu’un d’un peu averti puisse la cloner » explique Olivier Lascar, auteur de Deepfake – L’IA au service du faux (Ed. Eyrolles 2024) et Rédacteur en chef du pôle numérique de Sciences et Avenir – La Recherche.
Démasquer un deepfake : mission impossible ?
De plus en plus faciles à réaliser, de plus en plus nombreux, les deepfakes sont aussi de plus en plus difficiles à détecter. « Il y a deux ans, on pouvait encore déceler certaines erreurs récurrentes en regardant attentivement les images : des mains à quatre ou six doigts, des boucles d’oreilles dépareillées, des détails incohérents en arrière-plan, des clignements d’yeux inhabituels sur une vidéo etc. Mais aujourd’hui les programmes se sont affinés et on ne dispose plus de paramètres tangibles pour assurer qu’une vidéo, une photo ou un audio est faux » décrit l’auteur. Mais heureusement, des remparts existent. D’abord, l’éducation aux sources. On le rappelle : il est indispensable de s’interroger systématiquement sur l’origine d’un document. Des solutions normatives ensuite. « On dit souvent que si l’Europe n’a pas de GAFAM, elle a des règlementations ! De fait, si l’IA Act n’interdit pas l’existence des deepfakes visuels, il impose que leur diffusion soit accompagnée de la mention Fabriqué par l’IA. et criminalise l’usage des deepfakes dans le cadre de campagnes de cyberharcèlement notamment » détaille Olivier Lascar. Des solutions technologiques sont enfin envisageables. On pourrait imaginer que les fabricants de matériels de captation s’accordent sur une signature numérique permettant de s’assurer de leur véracité. Ou qu’un logiciel permette de déceler les vraies des fausses informations et images, comme le fait un anti-virus par exemple.
Une arme de désinformation massive ?
Mais alors, l’IA générative atteint-elle désormais un niveau tel que la manipulation visuelle est devenue une arme de désinformation massive ? « Nous assistons à l’heure actuelle à une profusion de faux contenus. Des contenus qui font passer de fausses informations pour de vraies informations, mais qui sont aussi à même d’instiller le doute sur ce qui est vrai. Rien de plus facile d’accuser une image qui dérange de deepfake pour la discréditer aux yeux du grand public ! Par ailleurs, tout ne se résume pas aux deepfakes. L’IA permet en effet de générer facilement de faux articles, portés par de faux sites d’information de plus en plus nombreux qui fournissent massivement les IA génératives. Aujourd’hui, dire « cette information est vraie parce que je l’ai vue sur internet » n’a pas de sens. Internet est un support, la façade d’un kiosque. Or, c’est la valeur des journaux qui s’y trouvent qu’il faut juger » conclut l’expert.
>>>> Envie d’en savoir plus sur les débats qui animent la planète IA aujourd’hui ? Lisez nos articles :
L’IA met en danger notre souveraineté ?
L’IA va faire disparaitre mon job ?
L’IA tue la planète ?
L’IA atrophie les neurones ?
