Le nouveau produit d’IA de Microsoft ressemble à un cauchemar dystopique

Les experts le qualifient de « cauchemar pour la vie privée » et d’aubaine pour les criminels.

Ces deux derniers jours ont été riches en événements pour Microsoft. La conférence annuelle Build, qui s’est tenue du 21 au 23 mai à Seattle, a donné lieu à une multitude d’annonces sur les technologies à venir, la plupart d’entre elles étant centrées sur l’intégration de l’IA dans les futurs appareils. Mais il y a une annonce en particulier qui a déjà suscité la controverse et qui pourrait même mettre l’entreprise dans l’eau chaude sur le plan juridique.

La fonction « Recall », alimentée par l’IA et présentée par Microsoft comme « une chronologie explorable du passé de votre PC », a fait sourciller les experts comme les profanes depuis sa révélation – et c’est compréhensible, puisque son but est de prendre littéralement des captures d’écran de votre écran actif toutes les quelques secondes et de les sauvegarder localement. Le programme pourra ensuite effectuer des recherches dans ces captures d’écran, ainsi que dans toutes les activités passées de l’utilisateur – fichiers, photos, courriels, historique de navigation, etc.

Selon le Dr Kris Shrishak, conseiller en matière d’intelligence artificielle et de protection de la vie privée, il s’agit là d’un « cauchemar pour la vie privée ».

« Le simple fait que des captures d’écran soient réalisées pendant l’utilisation de l’appareil pourrait avoir un effet dissuasif sur les gens », a déclaré M. Shrishak. « Les gens pourraient éviter de visiter certains sites web et d’accéder à des documents, en particulier des documents confidentiels, lorsque Microsoft prend des captures d’écran toutes les quelques secondes. »

Microsoft, quant à lui, a souligné que des garanties étaient en place : la confidentialité a été « intégrée […] dès le départ dans la conception de Recall », affirme l’entreprise, les utilisateurs pouvant limiter le moment où des captures d’écran sont effectuées.

« Les captures d’écran de Recall sont conservées […] sur le disque dur local et sont protégées par le cryptage des données sur votre appareil », explique l’entreprise. « Les captures d’écran Recall sont uniquement liées à un profil d’utilisateur spécifique et Recall ne les partage pas avec d’autres utilisateurs, ne les met pas à la disposition de Microsoft et ne les utilise pas pour cibler des publicités […] Les captures d’écran Recall ne sont pas disponibles pour d’autres utilisateurs et ne sont pas accessibles par d’autres applications ou services. »

Cela semble rassurant, mais les experts en sécurité ne sont pas convaincus. Microsoft elle-même note que les informations sensibles telles que les mots de passe et les numéros de comptes financiers ne seront pas cachées sur les captures d’écran ; un ordinateur dont les paramètres de confidentialité de Recall sont mal configurés, qui est la cible d’un logiciel malveillant ou qui échoue tout simplement, pourrait donc constituer une menace de sécurité à grande échelle.

« Il s’agit d’une attaque ponctuelle pour les criminels », a déclaré Muhammad Yahya Patel, ingénieur en chef de la sécurité chez Check Point, à TechRadar.

« Il s’agit d’une attaque de type “grab and go”, mais avec Recall, ils auront essentiellement tout en un seul endroit [votre base de données de captures d’écran] », a ajouté M. Patel. « Imaginez la mine d’or d’informations qui sera stockée sur une machine, et ce que les acteurs de la menace peuvent en faire. »

En fait, les questions entourant Recall sont si préoccupantes que Microsoft s’est déjà retrouvé en difficulté juridique – du moins au Royaume-Uni, où l’Information Commissioner’s Office (ICO), l’autorité nationale de protection des données qui dépend directement du Parlement, a annoncé qu’elle « se renseignait auprès de Microsoft pour comprendre les garanties mises en place pour protéger la vie privée des utilisateurs ».

« Nous attendons des organisations qu’elles soient transparentes avec les utilisateurs sur la manière dont leurs données sont utilisées et qu’elles ne traitent les données personnelles que dans la mesure où cela est nécessaire pour atteindre un objectif spécifique », a déclaré l’ICO dans un communiqué publié mercredi. « L’industrie doit prendre en compte la protection des données dès le départ et évaluer et atténuer rigoureusement les risques pour les droits et les libertés des personnes avant de mettre des produits sur le marché. »

Lire aussi : Le Conseil européen approuve la loi sur l’IA, accusée de légaliser la surveillance biométrique de masse

Source : IFLScience – Traduit par Anguille sous roche