Il est probable que dans quelques mois ou années, il y aura plus d'images créées par les IA que par les humains.
Cela aura un impact civilisationnel qui n'est pas anodin et dont on ne connait pas encore les effets. Le dessous des images (Arte) se penche sur Sora, l'outil d'OpenAI (ChatGPT) de création de vidéos à partir de texte (hashtagprompt). Cet outil est déjà si bluffant (liens en commentaire) que l'éditeur à jugé préférable de ne pas encore le mettre à disposition du public. L'émission détaille les nombreuses raisons qui incitent l'éditeur à la prudence, pour l'instant en tout cas :
📃 En terme de droits à l'image et de droits d'auteur, l'IA générative échappe aux contrôles juridiques classiques. Par définition, l'IA a besoin, pour progresser, de piocher dans les milliards de ressources (textes, images, vidéos) disponibles sur internet. Il est aujourd'hui difficile (voire impossible) de savoir précisément si les ressources utilisées sont libres de droits, ou soumises à un copyright. De nombreuses plaintes sont en cours contre la firme OpenAI, pour violation du droit d'auteur : George R.R.Martin (auteur de Game of Thrones), le New York Times...
😨 Vos propres images, partagées sur vos blogs ou réseaux sociaux, peuvent également être utilisées et retraitées par l'IA. Elles ne seront pas reprises en l'état mais seront mixées à d'autres ressources. Il sera plus ou moins facile de les reconnaitre.
🤖 Les industries du divertissement (media et réseau sociaux) se livrent une bataille farouche pour capter notre attention. Il s'agit de produire toujours plus d'images pour exploiter notre précieux "temps de cerveau".
❤️Le positif : l'IA donne de superpouvoirs créatifs sans aucun apprentissage.
💔Le négatif : risque de falsification, de tromperie et de désinformation.
❓Comment distinguer le vrai du faux ?
La falsification a toujours existé, mais elle était reservée aux experts.
Avec Sora une nouvelle étape est franchie. Celle de la création vidéo réaliste pour tout le monde. chacun devient un deepfaker de très haut niveau.
👀 Notre société, et notre espèce, ont un sens dominant : celui de la vue. Nous sommes très influencés et réceptifs aux images. Avec un "as" de la fake news et de la désinformation comme Trump, il est possible qu'on découvre les travers de l'IA lors des élections américaines.
👉 Distinguer le vrai du faux va devenir un enjeu majeur pour les legal tech avec, espérons le, une obligation légale de marquer les faux contenus.
🌚 Mais, à l'image de Sam Altman (DG d'OpenAI) qui met en garde sur les dangers liés à sa propre création, on constate une bipolarité chez les gens : la peur que l'IA génére en nous se confronte à la fascination qu'elle exerce.
