Principaux renseignements
- L’outil d’IA Veo 3 de Google peut générer des vidéos très réalistes de huit secondes à partir d’invites textuelles.
- Cet outil puissant soulève des inquiétudes quant au risque d’utilisation abusive et de manipulation de fausses informations.
- L’accessibilité généralisée et la nature convaincante des vidéos fabriquées peuvent particulièrement affecter les générations plus âgées.
Les récents événements survenus à Téhéran et à Tel-Aviv mettent en évidence l’inquiétude croissante que suscite la désinformation, en particulier les contenus générés par l’intelligence artificielle.
Outre les craintes relatives à la sécurité physique, les habitants sont confrontés à la réalité troublante de la désinformation générée par l’IA, notamment des vidéos fabriquées de toutes pièces décrivant des frappes aériennes inexistantes. Cette tendance reflète une augmentation similaire des images manipulées lors des récentes manifestations à Los Angeles, soulignant la vulnérabilité des événements politiques à la manipulation.
La puissance et l’accessibilité de Veo 3
La sortie de Veo 3 vient alimenter ces inquiétudes. Cet nouvel outil d’IA puissant de Google DeepMind est capable de générer des vidéos très réalistes de huit secondes à partir de messages textes. Son accessibilité et ses capacités suscitent de vives inquiétudes quant au risque d’utilisation abusive. Al Jazeera a démontré cette facilité d’utilisation en créant une fausse vidéo convaincante en quelques minutes, mettant en scène un manifestant à New York affirmant avoir été payé pour sa participation.
Bien que Google souligne son engagement en faveur du développement responsable de l’IA et de la protection des utilisateurs grâce à des mesures telles que les filigranes, les experts critiquent la publication prématurée de l’outil. Certains affirment que Google a précipité la mise sur le marché de Veo 3 pour ne pas se laisser distancer par des concurrents tels qu’OpenAI et Microsoft, privilégiant potentiellement l’opportunisme sur les considérations éthiques.
Les implications plus larges de la désinformation
Les implications de Veo 3 vont bien au-delà des images de manifestations. Des vidéos fabriquées imitant de vraies émissions d’information ont déjà fait surface sur les médias sociaux, notamment un faux reportage sur un cambriolage de maison avec des graphiques de CNN. Un autre clip prétendait à tort que le yacht de JK Rowling avait coulé à la suite d’une attaque d’orques, attribuée à un expert de la Harvard Law Cyberlaw Clinic qui avait créé la vidéo pour tester ses capacités.
On craint de plus en plus que les générations plus âgées ne soient particulièrement sensibles à ce type de désinformation en raison de sa nature convaincante et de sa facilité à être reproduite. L’absence de repères visuels clairs, comme les bannières des chaînes d’information, complique encore les efforts de détection, ce qui facilite la diffusion incontrôlée de contenus trompeurs.