Une start-up d'IA teste des masques numériques qui contrecarrent la reconnaissance faciale

Alethea IA, une société de médias synthétiques, teste des « skins faciaux préservant la confidentialité », ou des masques numériques qui contrecarrent les algorithmes de reconnaissance faciale et aident les utilisateurs à préserver la Politique de confidentialité des vidéos préenregistrées.

Cette décision intervient alors que des entreprises telles qu'IBM, Microsoft et Amazon ont annoncé qu'elles allaientsuspendre la vente de leur Technologies de reconnaissance faciale aux forces de l’ordre.

« Il s'agit d'une nouvelle technique que nous avons développée en interne et qui intègre nos algorithmes d'IA à un visage », a déclaré Arif Khan, PDG d'Alethea AI. « Les avatars sont amusants à utiliser et à développer, mais ces « masques/skins » sont une solution différente, plus efficace, pour préserver la Politique de confidentialité. »

Voir aussi :La Fondation des droits de Human finance des outils de Politique de confidentialité Bitcoin malgré la stigmatisation juridique du « mixage de pièces »

Lancée en 2019 à Los Angeles, cette startup se concentre sur la création d'avatars pour les créateurs de contenu, que ces derniers peuvent céder sous licence pour générer des revenus. L'idée fait suite à la généralisation et à la diffusion croissantes des deepfakes, ces médias manipulés permettant de faire croire à quelqu'un qu'il fait ou dit n'importe quoi.

Selon unRapport 2019 de Deep Trace,Entreprise de détection et de surveillance des deepfakes, plus de 14 000 deepfakes ont été recensés en ligne en 2019, ciblant plus de 850 personnes. Alethea AI souhaite permettre aux créateurs d'utiliser leurs propres avatars synthétiques à des fins marketing, permettant ainsi aux utilisateurs d'exploiter leurs propres deepfakes pour générer des revenus.

Khan compare la prolifération actuelle des données de reconnaissance faciale à l'explosion du piratage musical de type Napster au début des années 2000. Des entreprises commeClearview AI, ont déjà récolté de grandes quantités de données auprès des personnes pour des algorithmes de reconnaissance faciale, puis ont revendu ces données à des services de sécurité sans consentement, et avec tous les biais inhérents aux algorithmes de reconnaissance faciale, qui sontgénéralement moins précis sur les femmes et les personnes de couleur.

Clearview AIs'est fait connaître auprès des forces de l'ordre et a récupéré des milliards d'images sur des sites web comme Facebook, YouTube et Venmo. L'entreprise est actuellement poursuivie en justice pour ces faits.

« Nous arriverons à un point où il faudra une sorte de couche iTunes, où vos données faciales et vocales seront en quelque sorte protégées », a déclaré Khan.

Cela s'explique en partie par le fait que les créateurs concèdent leur image sous licence moyennant des frais. L'entrepreneur en Crypto Alex Masmej était lepremier avatar de ce type, et pour 99 $, vous pouvez engager l'avatar pour dire 200 mots de ce que vous voulez, à condition que le vrai Masmej approuve le texte.

Nous arriverons à un point où... où vos données faciales et vocales seront en quelque sorte protégées

Alethea AI s'est également associé à la société de logiciels Oasis Labs, de sorte que tout le contenu généré pour le marché des médias synthétiques d'Alethea AI sera vérifié à l'aide de la blockchain sécurisée d'Oasis Lab, semblable à la coche bleue « vérifiée » de Twitter.

« Il existe de nombreux scénarios Black Mirror lorsque nous pensons aux deepfakes, mais si mon approbation personnelle est nécessaire pour mes deepfakes et qu'elle est ensuite horodatée sur une blockchain publique pour que quiconque puisse vérifier les vidéos que je souhaite réellement publier, cela offre une protection qui manque actuellement aux deepfakes », a déclaré Masmej.

Le projet pilote de Politique de confidentialité pousse cette idée ONE plus loin, non seulement en créant une fausse licence profonde, mais en empêchant également les entreprises ou quiconque de récupérer vos données faciales à partir d'un enregistrement.

Le composant de Politique de confidentialité se compose de deux parties. La première, actuellement en phase pilote, consiste à utiliser des vidéos préenregistrées. L'utilisateur télécharge une vidéo, identifie où et quelle partie de son visage il souhaite superposer à la sienne. Les algorithmes d'Alethea AI cartographient ensuite les points clés de son visage et appliquent le MASK autour de cette carte. La vidéo est ensuite renvoyée au client.

Voir aussi :Fake News sous stéroïdes : les deepfakes arrivent – les dirigeants mondiaux sont-ils préparés ?

Alethea AI souhaite également permettre le port du masque lors des communications en temps réel, comme lors d'un appel Zoom. Cependant, Khan affirme que la puissance de calcul ne le permet T encore tout à fait, même si cela devrait être possible d'ici un an, espère-t-il.

Alethea AI a piloté un exemple de cette technologie avec Crypto AI Profit, un influenceur de la blockchain et de l'IA, qui l'a utilisée lors d'une Vidéo Youtube.

Deepfakes,usurpation de voix, et d’autres imitations technologiques semblent là pour rester, mais Khan reste optimiste quant au fait que nous ne sommes pas encore au point de non-retour lorsqu’il s’agit de nous protéger.

« J'espère que l'individu bénéficiera d'un cadre dans ce paysage émergent », a déclaré Khan. « Ce sera une aventure passionnante. Je T pense pas que la bataille soit définitivement gagnée, même si les systèmes existants sont orientés vers la préservation d'une participation plus large et plus corporative. »