L'extension Surfsafe est comme un antivirus pour détecter les photos trafiquées

MICHAEL BENNETT a joué pour les Seahawks de Seattle, il a célébré la victoire avec une danse dans le vestiaire de l'équipe. Il ne l'a pas célébrée en brûlant le drapeau américain, contrairement à une photo virale photoshoppée qui a commencé à faire le tour du web en septembre 2017. Si vous aviez lu les vérifications de faits sur des sites comme Snopes.com, Time, et yep, même WIRED, vous auriez su que la photo de Bennett brûlant un drapeau, ses coéquipiers et son entraîneur regardant joyeusement, était fausse.

Mais si vous rencontrez la fausse photo sur Facebook, où elle a été présentée à plusieurs reprises comme réelle, et si vous vous opposez à des joueurs de la NFL comme Bennett qui protestent pendant l'hymne national, alors vous auriez pu être enclin à croire ce que vous avez vu. Vous auriez même pu être enclin à écrire un commentaire comme "Mort au NFL. Envoyez-les tous à l'étranger pour voir à quel point leur vie sera meilleure ", comme l'a écrit un utilisateur de Facebook la semaine dernière, près d'un an après que la photo a commencé à circuler et malgré des milliers d'autres commentaires l'identifiant comme étant fausse.

Les images truquées sont le fléau de la lutte à l'échelle du web contre les fausses nouvelles. Les entreprises de technologie et les chercheurs peuvent analyser le comportement d'un bot typique afin d'en détecter de nouveaux. Ils peuvent limiter la portée des organes d'information qui partagent perpétuellement des articles signalés comme étant faux. Ils peuvent voir quand les comptes coordonnent leur activité et effacent des réseaux entiers à la fois. Mais pour déterminer si une photo qui a été mémorisée et prise des milliers de fois à l'écran représente quelque chose de réel, il faut un niveau différent d'analyse. Les chercheurs commencent à développer des logiciels capables de détecter les images altérées, mais ils sont enfermés dans une course aux armements avec des créateurs de plus en plus habiles de fausses images.

Comme les mèmes sont devenus le langage de l'Internet, ils sont aussi devenus un véhicule clé pour la désinformation. Les organismes de vérification des faits travaillent consciencieusement à démystifier les images comme la photo qui brûle les drapeaux, mais la recherche de ces vérifications des faits demeure la responsabilité des utilisateurs, qui sont déjà occupés à faire défiler leurs téléphones, à aimer et à partager au fur et à mesure qu'ils vont. Et il est rare que ces analyses réfléchies soient aussi largement partagées que les informations erronées originales.

"Nous voulons scanner votre flux de nouvelles à la recherche de fausses nouvelles pendant que vous naviguez."

Ce dont nous avons vraiment besoin, dit Ash Bhat, c'est d'un outil qui indique de façon proactive aux gens quand leur régime alimentaire médiatique a été infecté par des informations erronées, au moment même où ils le voient. Ainsi, Bhat et son partenaire commercial, Rohan Phadte, tous deux étudiants de l'Université de Berkeley, ont mis au point un plug-in de navigateur qui fait exactement cela.

Appelé SurfSafe, le plug-in, qui est lancé aujourd'hui, permet aux gens de survoler n'importe quelle image qui apparaît dans leur navigateur, que ce soit sur Facebook ou sur un site comme WIRED. SurfSafe vérifie instantanément cette photo par rapport à plus de 100 sites d'information de confiance et à des sites de vérification de faits comme Snopes pour voir si elle y est déjà apparue. La photo de Bennett brûlant le drapeau, par exemple, ferait monter à la surface neuf autres articles où l'image est apparue, y compris des vérifications de faits de Snopes et de Time.com.

"Nous voulons que SurfSafe devienne une solution analogue à un logiciel antivirus ", dit Bhat. "Nous voulons scanner votre flux de nouvelles à la recherche de fausses nouvelles pendant que vous naviguez."

Le concept de SurfSafe est né d'un ancien outil appelé BotCheck.me, développé par Bhat et la startup de Phadte, RoBhat Labs. C'était aussi une extension de navigateur qui ajoutait un bouton à chaque profil Tweet et Twitter, sur lequel les utilisateurs pouvaient cliquer pour vérifier si ce compte appartenait probablement à un bot. Bhat et Phadte ont utilisé l'apprentissage machine pour analyser la différence entre le comportement typique d'un bot et le comportement humain sur Twitter, et ont développé un modèle qui, selon eux, pouvait prédire les bots avec plus de 93,5% de précision.

Au cours de ce travail, les deux étudiants ont réalisé non seulement à quel point ces robots partageaient du contenu photo, mais aussi à quel point il était difficile de vérifier. "C'est un défi qui afflige à la fois les chercheurs et les plateformes, dit Onur Varol, un chercheur postdoctoral au Centre de recherche sur les réseaux complexes de l'Université Northeastern, qui a aidé à construire un concurrent de BotCheck.me appelé Botometer. "La contrefaçon d'images ou le fait d'essayer de créer des informations trompeuses dans les photos est un problème beaucoup plus profond ", dit Varol. "C'est une tâche très difficile même pour les journalistes de valider s'ils sont faux ou réels."

C'est particulièrement vrai, dit Varol, lorsque l'image elle-même est réelle, mais qu'elle est présentée en ligne dans un contexte entièrement différent. Une photo d'une manifestation, par exemple, peut apparaître dans un reportage sur une autre, induisant le spectateur en erreur sur ce qui s'est réellement passé.

SurfSafe n'est pas une solution parfaite, mais c'est certainement un début ambitieux. Il stocke une "empreinte digitale numérique" unique pour chaque photo sur plus de 100 sites d'information que SurfSafe considère comme fiables, y compris NYTimes.com, CNN.com et FoxNews.com. Il enregistre également une signature de chaque photo que ses utilisateurs voient pendant qu'ils naviguent sur Internet avec le plug-in installé. "Un utilisateur peut voir des centaines ou des milliers d'images par jour, simplement avec des habitudes de navigation de base ", dit Phadte. Les photos qui sont similaires mais trafiquées auront des empreintes digitales, ou " hashes ", qui sont presque, mais pas précisément, les mêmes. "Si une image est Photoshoppée, seule une partie du hashe de l'image est différente, de sorte qu'en fin de compte, nous pouvons dire que ces images sont assez similaires ", dit Phadte.

Lorsqu'un utilisateur passe au-dessus d'une photo, SurfSafe scanne l'ensemble de la base de données d'empreintes digitales pour voir s'il a déjà rencontré cette image dans sa forme brute ou trafiquée. Si c'est le cas, il surface instantanément les autres images sur le côté droit de l'écran, en donnant la priorité à la première instance de l'image, car il est plus probable qu'il s'agisse de l'original. Les utilisateurs ont alors la possibilité de marquer l'image comme propagande, Photoshopped, ou trompeuse, ce qui aide à informer le modèle SurfSafe pour l'avenir.

Bhat reconnaît que l'outil a des angles morts. Si SurfSafe n'a jamais rencontré une image auparavant, par exemple, l'utilisateur verra simplement qu'il n'y a pas de correspondance, même si cette image est, en fait, fausse. Mais Bhat considère qu'il s'agit d'un défaut mineur. "Les fausses nouvelles dont nous nous soucions sont les fausses nouvelles qui se répandent viralement ", dit-il. "Si une fausse nouvelle se répand, on l'aura vue."

Plus il y a de personnes qui utilisent SurfSafe, plus l'outil ingérera d'images. Si SurfSafe peut obtenir quelques centaines de milliers d'utilisateurs dans sa première année, Bhat dit qu'il s'attend à avoir une base de données de 100 milliards d'empreintes digitales.

Varol considère qu'il s'agit d'un bon point de départ, parce qu'il permet de sauver des gens - y compris des vérificateurs de faits professionnels - une étape. "Cet outil pourrait saisir les aspects faciles de la vérification des faits, de sorte que vous n'avez pas à passer par l'image et à faire votre propre vérification des antécédents ", dit-il.

Néanmoins, il y a des limitations qui restent hors du contrôle de Bhat et Phadte, la plus importante étant d'amener les gens à installer le plug-in en premier lieu. Après tout, c'est en partie un manque de culture numérique qui rend les gens vulnérables aux fausses nouvelles. C'est un peu exagéré de s'attendre à ce que quelqu'un dont la fenêtre principale sur Internet est Facebook prenne l'étape supplémentaire de l'installation d'un plug-in de vérification des faits. Un autre défi est le fait qu'actuellement, le plug-in n'est disponible que sur les navigateurs web Chrome, Firefox et Opera. Cela signifie que SurfSafe ne peut pas signaler le contenu que les gens trouvent sur leur téléphone lorsqu'ils sont à l'intérieur d'une application, comme Facebook. RoBhat Labs travaille sur une version mobile de l'outil.

La façon la plus simple d'assurer l'adoption massive d'un tel outil serait que des plateformes comme Facebook et Twitter intègrent elles-mêmes cette technologie. Facebook a commencé une version de ceci pour les articles de nouvelles. Lorsque les organisations qui vérifient les faits signalent qu'un reportage est faux, Facebook diminue la portée de l'article et les articles liés aux surfaces démystifient l'article original qui se trouve juste en dessous. L'entreprise a récemment commencé à étendre cette fonctionnalité aux photos et aux vidéos. Pour l'instant, cependant, une grande partie de ce travail commence manuellement, les vérificateurs humains vérifiant le contenu. L'automatisation de ce processus, comme SurfSafe tente de le faire, comporte le risque de se tromper. "Les entreprises essaient d'être plus prudentes lorsqu'elles déploient de tels systèmes pour nettoyer leurs plates-formes ", explique M. Varol. "Faire une erreur leur coûtera beaucoup plus cher qu'un logiciel développé par une université."

Cela souligne les enjeux de ce que RoBhat Labs a entrepris d'accomplir. Lorsque votre but est de débarrasser Internet de la désinformation, la dernière chose que vous voulez faire est d'en créer encore plus.

Wired .

Correction : 15h39, 22/08/2018 Une version antérieure de cette histoire citait à tort Phadte comme disant que l'utilisateur moyen voit "des centaines de milliers" d'images par jour. La citation était "des centaines ou des milliers".

---

Posted from my blog with SteemPress : https://owdin.live/2018/09/01/lextension-surfsafe-est-comme-un-antivirus-pour-detecter-les-photos-trafiquees/

---