Google宣布avec des organisations à but non lucratif du Royaume-UniArrêtNCIIGoogle collabore avec Google pour renforcer ses efforts de prévention de la diffusion non consensuelle d'images intimes (NCII), également appelées « vengeance porno », grâce à une technologie de correspondance de hachage plus avancée. Cette mise à jour sera déployée progressivement au cours des prochains mois afin d'aider les victimes à mieux empêcher l'apparition d'images intimes non désirées dans les résultats de recherche Google.
StopNCII génère principalement des « empreintes digitales » d'images par l'utilisateur, lui permettant de sélectionner les photos sur son appareil dont il souhaite empêcher la fuite. Le système génère une valeur de hachage unique (c'est-à-dire une empreinte numérique) pour l'image et télécharge uniquement cette valeur sur le serveur StopNCII au lieu de télécharger directement la photo originale. Par la suite, si une personne illégale tente de télécharger la même photo sur la plateforme de coopération du serveur StopNCII, le système la bloque automatiquement après comparaison des valeurs, voire intercepte l'image avant qu'elle ne soit divulguée, assurant ainsi une protection immédiate.
Cependant, cette technologie présente encore des limites : elle ne protège que contre les images connues. Si la victime ne dispose pas du fichier photo original pour comparaison, ou découvre une nouvelle image divulguée pour la première fois, elle devra déposer une plainte par d’autres moyens. De plus, StopNCII ne prend pas encore en charge le blocage des images, des voix ou des textes générés par l’IA. De plus, si l’image est diffusée sur une plateforme non coopérative, le système sera également inefficace.
Actuellement, de nombreuses plateformes, dont Google, Meta, Reddit, Pornhub, OnlyFans, Snap, Microsoft Bing, « X » et d'autres, ont coopéré avec StopNCII pour former un réseau de protection multiplateforme.
En fait, Google a mis en place un processus d'appel pour la suppression du revenge porn il y a dix ans et a ajouté un outil de suppression pour les deepfakes en 2024. Griffin Hunt, chef de produit chez Google, a déclaré que même si de nombreuses mesures de protection sont en place, compte tenu de l'ampleur de l'ouverture d'Internet, des efforts supplémentaires sont nécessaires pour réduire la charge qui pèse sur les victimes pour gérer elles-mêmes le problème.
