Le 31 juillet, Google a dévoilé ses dernières mises à jour visant à lutter contre les deepfakes. Cette initiative illustre la réponse des géants de la technologie face à la prolifération de faux contenus explicites.

Qu’est-ce qu’un deepfake ?

Un deepfake est une image ou une vidéo fausse générée par l’intelligence artificielle, utilisant des techniques avancées de manipulation d’images pour créer du contenu qui semble réel. Le terme « deepfake » est une contraction de « deep learning » (apprentissage profond) et « fake » (faux). Les deepfakes exploitent des algorithmes d’apprentissage profond pour superposer le visage ou la voix d’une personne sur une vidéo existante, créant des scènes qui peuvent paraître authentiques mais sont entièrement fabriquées.

Ces technologies de manipulation sont devenues extrêmement sophistiquées, rendant parfois difficile la distinction entre le réel et le faux, même pour des observateurs formés. Les deepfakes peuvent être utilisés à diverses fins, allant de l’humour et de l’art à la désinformation et à la diffamation. Malheureusement, leur utilisation la plus inquiétante concerne la création de contenus explicites non consentis, souvent mettant en scène des figures publiques dans des scénarios pornographiques.

Les implications des deepfakes sont graves et multifactorielles. En plus d’envahir la vie privée et de nuire à la réputation des personnes affectées, ils représentent un risque majeur pour le respect des personnes. Par exemple, les vidéos deepfake peuvent être utilisées pour diffuser de fausses informations, manipuler l’opinion publique ou même influencer des élections.

Réponse de Google aux menaces

En réponse à ces menaces, Google, en tant que moteur de recherche majeur, joue un rôle crucial dans cette lutte en mettant à jour ses systèmes pour mieux gérer ces contenus. La capacité de Google à identifier et filtrer les deepfakes peut aider à réduire leur impact et protéger les victimes potentielles de ces manipulations numériques.

Rapport et suppression facilités

Google s’est engagé à simplifier considérablement le processus de signalement et de suppression des deepfakes de ses résultats de recherche, reconnaissant l’urgence de protéger les victimes de ces manipulations numériques. Les nouvelles mesures permettent désormais aux utilisateurs de demander plus facilement et rapidement la suppression des images explicites fausses.

Lorsqu’un utilisateur identifie un deepfake le concernant ou concernant une autre personne, il peut maintenant signaler ce contenu à travers une procédure simplifiée. Google a mis en place un système intuitif qui guide l’utilisateur à travers les étapes nécessaires pour faire cette demande. Ce processus inclut la soumission d’une demande de suppression qui déclenche une recherche automatisée par Google pour du contenu similaire.

Une amélioration majeure est la capacité de Google à détecter de manière proactive les deepfakes associés à une demande de suppression. Une fois la demande reçue, les systèmes de Google analysent l’image ou la vidéo signalée pour identifier les copies ou les versions similaires sur Internet. Cela signifie que même si une image deepfake a été largement partagée et reproduite, Google s’engage à rechercher et à supprimer toutes les occurrences similaires qu’il peut trouver dans ses résultats.

De plus, Google a renforcé la protection des utilisateurs en rendant ces outils de signalement plus visibles et accessibles. Les liens directs pour signaler du contenu inapproprié ou nuisible sont maintenant plus facilement accessibles dans les résultats de recherche et les paramètres de compte des utilisateurs. Cette visibilité accrue vise à encourager les utilisateurs à signaler les deepfakes et autres contenus explicites non consentis dès qu’ils en prennent connaissance.

Ces mesures prises par Google représentent un pas important vers la protection des individus contre les abus liés aux deepfakes. En facilitant le signalement et en automatisant la détection et la suppression du contenu, Google démontre son engagement à utiliser ses capacités technologiques pour combattre les menaces numériques et promouvoir un environnement en ligne plus sûr pour tous.

Modifications du classement des contenus

En réponse à la prolifération des deepfakes, Google a également modifié son algorithme de recherche pour pénaliser les sites qui diffusent ce type de contenu. Cette mise à jour vise non seulement à réduire la visibilité des deepfakes dans les résultats de recherche, mais aussi à promouvoir un contenu plus pertinent et convivial.

L’un des principaux changements concerne le classement des contenus explicites dans les résultats de recherche. Dorénavant, lorsque les utilisateurs effectuent des recherches incluant des noms de personnes et spécifiquement ciblées sur des contenus explicites, Google privilégiera les articles de presse plutôt que les images ou vidéos explicites elles-mêmes. Cette stratégie vise à détourner l’attention des utilisateurs des contenus nuisibles et à fournir des informations contextuelles et éducatives sur le phénomène des deepfakes.

Par ailleurs, si Google détecte qu’un site web enfreint systématiquement ses règles sur le contenu explicite, le moteur de recherche peut prendre des mesures pour pénaliser le classement général de ce site. Cette approche vise à décourager les sites web de distribuer des deepfakes en réduisant leur visibilité globale, sans les retirer complètement des résultats de recherche. Cette sanction progressive permet à Google de maintenir un équilibre entre la protection des utilisateurs et la liberté d’expression sur Internet.

Cependant, ce système de pénalisation n’est pas sans défis. Un problème persistant est la capacité des algorithmes de Google à distinguer avec précision les deepfakes des contenus explicites réels. Bien que des progrès significatifs aient été réalisés dans ce domaine, il existe encore des erreurs de classification pouvant mener à la suppression de contenus légitimes ou à la persistance des deepfakes dans les résultats de recherche.

L’importance des filigranes en IA

Ces mises à jour de l’algorithme de Google représentent une avancée significative dans la lutte contre les deepfakes en réduisant leur visibilité et en promouvant un contenu plus sûr et plus fiable. Cependant, lutter contre ces manipulations numériques nécessite une vigilance continue et des améliorations technologiques constantes pour assurer un environnement en ligne plus sûr pour tous les utilisateurs. De plus, l’initiative de Google souligne la nécessité d’outils plus robustes pour combattre les deepfakes. Une solution prometteuse réside dans le développement de filigranes numériques pour les contenus générés par l’IA. Ces filigranes permettraient de tracer l’origine des images et des vidéos, facilitant leur identification et leur suppression en cas de mauvaise utilisation. Les efforts de Google marquent un pas important, mais la lutte contre les deepfakes nécessitera une collaboration continue et une innovation technologique pour protéger les individus de ces atteintes.

Par Brice Matter

____________________________

Pour ne rien rater de l’actualité des IA génératives, abonnez-vous ici à la Newsletter Gennn !

Tag: Deepfake

Google s’attaque aux deepfakes