Avec la récente mise à jour d'OpenAISora2Alors que les outils avancés générés par l'IA, comme DeepFakes, gagnent en puissance et en omniprésence, les inquiétudes quant à leur utilisation abusive potentielle s'intensifient. Célébrités comme utilisateurs ordinaires risquent de voir leur image altérée ou imitée.
À cette fin, YouTube a annoncé l’année dernière qu’il lanceraitFonctionnalités connexesAprès cela, il a officiellement commencé à lancer un nouvel « outil de détection de ressemblance » pour certains créateurs plus tôt, dans l'espoir de lutter contre le contenu Deepfake non autorisé sur la plateforme et de permettre aux créateurs de demander à la plateforme de supprimer ces vidéos.
Initialement disponible uniquement pour les utilisateurs du programme Partenaire YouTube
Dans un premier temps, cette fonctionnalité sera réservée aux membres du Programme Partenaire YouTube (YPP). Cette stratégie repose clairement sur le fait que les créateurs disposant de qualifications en matière de monétisation bénéficient généralement d'une notoriété et d'une visibilité supérieures, ce qui accroît le risque d'imitation de leurs traits par les deepfakes.
Vous devez soumettre votre pièce d'identité et votre vidéo selfie pour créer un modèle de comparaison
Selon YouTube, les créateurs doivent d'abord se soumettre à une procédure de vérification pour activer cette fonctionnalité. Plus précisément, les utilisateurs doivent soumettre à YouTube une pièce d'identité officielle et un court selfie vidéo.
Cette démarche a un double objectif : premièrement, vérifier que le candidat est « vraiment lui-même » et empêcher que l’outil ne soit utilisé de manière abusive ; deuxièmement, fournir au système d’IA suffisamment de « matériel source » pour construire un modèle précis des traits du visage lors de la numérisation et de la comparaison ultérieures.
Il fonctionne de manière similaire à Content ID, mais ne prend pas encore en charge la correspondance vocale AI.
Une fois vérifié, le système fonctionnera de la même manière que le système de détection des droits d'auteur Content ID existant de YouTube, en analysant automatiquement les vidéos nouvellement téléchargées à la recherche de contenu modifié par l'IA qui correspond aux traits du visage du créateur.
Lorsque le système détecte une correspondance possible, il en informe le créateur, qui peut examiner les correspondances lui-même et, s'il confirme l'infraction, signaler la vidéo et demander à YouTube de la supprimer.
Cependant, cette fonctionnalité ne couvre actuellement que les cas où le visage d'une personne a été modifié par l'IA. Quant aux cas où la voix a été modifiée par l'IA mais où l'image reste inchangée, ce système pourrait ne pas être en mesure de les détecter efficacement pour le moment, ce qui signifie que l'utilisation abusive de l'imitation de voix par l'IA reste un défi pour YouTube.
