Aucun indice de sécurité de l'IA n'a détecté un chatbot traduisant la variole par la syphilis
Traduction automatique de l’original anglais, publiée sans relecture humaine. En cas de doute, l’anglais fait foi. Si un passage sonne faux, sélectionnez-le et signalez-le en bas de page.
Les cadres occidentaux de sécurité de l’intelligence artificielle laissent tomber les utilisateurs des pays en développement, car ils se concentrent sur des menaces au niveau du modèle, telles que le piratage autonome ou les armes biologiques, plutôt que sur les défaillances de déploiement locales. Le reportage rassemble des constats des Nations unies et d’instituts de recherche, ainsi que des études de cas régionales. Les preuves incluent une étude menée en Inde montrant que plus des deux tiers des chatbots ne tiennent pas suffisamment compte des dialectes ou ne reconnaissent pas les signaux d’urgence. Il met aussi en lumière des erreurs de traduction médicale en tigrigna, une langue parlée par 9 millions de personnes, où la traduction automatique a rendu “variole” par “syphilis” et “antibiotiques intraveineux” par “insecticides”.
Les garde-fous de sécurité conçus pour l’anglais et les environnements à revenu élevé s’effondrent dans les langues à faibles ressources, exposant les utilisateurs non occidentaux à un préjudice physique et économique immédiat. Alors que des entreprises comme Anthropic et OpenAI obtiennent les meilleurs scores sur les indices de sécurité, ces mêmes leaders du secteur reviennent sur leurs engagements. En pratique, déployer ces systèmes sans tenir compte du contexte local entraîne de graves conséquences, comme des systèmes de reconnaissance faciale privant des personnes de salaire ou de repas. Le reportage soutient que sans investissement immédiat dans une infrastructure de sécurité locale, la confiance du public s’érodera. Dans un cas, une adolescente hindiphone de New Delhi a interrogé un chatbot qui a attribué sa fatigue au stress, retardant son diagnostic final d’anémie ferriprive.
La sécurité de l’intelligence artificielle est un choix budgétaire qui concentre les moyens d’évaluation dans des laboratoires occidentaux testant des risques au niveau du modèle. Déployer un système d’IA généraliste pour des services publics dans une langue non testée revient à déployer un système non testé. Combler cet écart supposerait d’élargir les suites d’évaluation existantes à davantage de langues, ou de financer des communautés locales pour qu’elles évaluent elles-mêmes les outils qu’elles utilisent.
Liens du jour : Liens divers pour le 29 septembre 2026.
Tiago C. Peixoto · English original · About