Ningún índice de seguridad de IA detectó un chatbot que tradujo viruela como sífilis
Traducción automática del original en inglés, publicada sin revisión humana. En caso de duda, prevalece el inglés. Si un fragmento suena mal, selecciónelo y márquelo al final de la página.
Los marcos occidentales de seguridad de la inteligencia artificial fallan a los usuarios de países en desarrollo porque se centran en amenazas a nivel del modelo, como la piratería autónoma o las armas biológicas, en lugar de las fallas de implementación local. El reportaje reúne hallazgos de las Naciones Unidas e institutos de investigación, junto con estudios de caso regionales. La evidencia incluye una revisión hecha en India que muestra que más de dos tercios de los chatbots no tienen en cuenta adecuadamente los dialectos ni reconocen señales de urgencia. También destaca errores de traducción médica en tigriña, un idioma hablado por 9 millones de personas, donde la traducción automática convirtió “viruela” en “sífilis” y “antibióticos intravenosos” en “insecticidas”.
Las salvaguardas de seguridad diseñadas para el inglés y los entornos de altos ingresos fallan en los idiomas con pocos recursos, exponiendo a los usuarios no occidentales a un daño físico y económico inmediato. Mientras empresas como Anthropic y OpenAI obtienen las puntuaciones más altas en los índices de seguridad, esos mismos líderes de la industria están retrocediendo en sus compromisos. En la práctica, implementar estos sistemas sin tener en cuenta el contexto local trae consecuencias graves, como sistemas de reconocimiento facial que niegan salario o comida a las personas. El reportaje sostiene que, sin inversión inmediata en infraestructura de seguridad local, la confianza pública se erosionará. En un caso, una adolescente hablante de hindi en Nueva Delhi consultó a un chatbot que atribuyó su fatiga al estrés, retrasando su diagnóstico final de anemia por deficiencia de hierro.
La seguridad de la inteligencia artificial es una decisión presupuestaria que concentra los recursos de evaluación en laboratorios occidentales que prueban riesgos a nivel del modelo. Implementar un sistema de IA de propósito general para servicios públicos en un idioma no probado significa implementar un sistema no probado. Cerrar esa brecha exigiría ampliar los conjuntos de evaluación existentes a más idiomas, o financiar a comunidades locales para que evalúen ellas mismas las herramientas que realmente usan.
Los enlaces de hoy: Enlaces varios para el 29 de septiembre de 2026.
Tiago C. Peixoto · English original · About