(São Paulo) – Des photos personnelles d’enfants brésiliens sont utilisées pour créer de puissants outils d’intelligence artificielle (IA) à l’insu des enfants et sans le consentement des familles, a déclaré Human Rights Watch aujourd’hui. Ces photos sont extraites de divers sites web et intégrées dans un vaste ensemble de données que des entreprises utilisent pour développer leurs outils d’IA. Certains outils peuvent ensuite être employés par des acteurs malveillants pour créer des faux contenus (« deepfakes »), qui exposent ces enfants au risque d’exploitation et d’autres préjudices.
« Les enfants ne devraient pas avoir à vivre dans la peur que leurs photos soient volées et utilisées contre eux », a déclaré Hye Jung Han, chercheuse et chargée de plaidoyer sur les questions de technologie au sein de la division Droits des enfants à Human Rights Watch. « Le gouvernement brésilien devrait adopter d’urgence des mesures pour protéger les données des enfants contre toute utilisation abusive liée à l’IA. »
L’analyse de Human Rights Watch a révélé que LAION-5B, une banque d’images récupérées sur Internet en vue de leur utilisation pour développer des outils d’IA, contient des liens vers des photos identifiables d’enfants brésiliens. Les noms de certains enfants sont parfois même mentionnés dans la légende qui accompagne l’image, ou dans le lien vers la page web où elle est stockée. Dans plusieurs cas, il est facile de déterminer non seulement l’identité de l’enfant, mais aussi la date et l’heure de la photo, ainsi que le lieu où elle a été prise.
Par exemple, une photo disponible sur LAION-5B montre une fillette de deux ans, bouche bée avec une expression d’émerveillement alors qu’elle touche les doigts de sa petite sœur qui vient de naître. La légende de la photo et les informations connexes révèlent non seulement les noms des deux enfants, mais aussi le nom et l’emplacement précis de l’hôpital de Santa Catarina où le bébé est né il y a neuf ans, un après-midi d’hiver.
Human Rights Watch a trouvé, dans la base de données LAION-5B, 170 photos d’enfants provenant d’au moins dix États brésiliens : Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina et São Paulo. Il s’agit probablement d’un échantillon minuscule de la totalité des données personnelles d’enfants disponibles sur LAION-5B, qui contient 5,85 milliards d’images et de légendes, dont moins de 0,0001 % ont été examinées par Human Rights Watch.
Une fois leurs données récupérées et intégrées dans les systèmes d’IA, ces enfants sont confrontés à d’autres menaces pour leur vie privée en raison de failles technologiques. Les modèles d’IA, y compris ceux qui utilisent LAION-5B, divulguent parfois des informations privées ; ils peuvent par exemple reproduire des copies identiques de photos de personnes réelles, ou de documents comme des dossiers médicaux. Certaines entreprises ont mis en place des outils sécuritaires pour empêcher la fuite de données sensibles, mais de tels outils ont échoué à plusieurs reprises.
Au moins 85 filles vivant dans les États brésiliens d’Alagoas, de Minas Gerais, de Pernambuco, de Rio de Janeiro, de Rio Grande do Sul et de São Paulo ont signalé avoir été harcelées par des camarades de classe qui ont utilisé des outils d’IA pour créer de fausses images « deepfake » sexuellement explicites à partir de photos issues de leurs profils sur les réseaux sociaux ; ces fausses images ont ensuite été diffusées en ligne.
Contactée par Human Rights Watch, LAION, l’association allemande à but non lucratif qui gère la base de données LAION-5B, s’est engagée à supprimer les photos d’enfants brésiliens repérées par Human Rights Watch.
Texte complet en anglais : en ligne ici.
…………
Articles
