Nenhum índice de segurança de IA identificou um chatbot que traduziu varíola como sífilis
Tradução automática do original em inglês, publicada sem revisão humana. Em caso de dúvida, o inglês prevalece. Se um trecho soar errado, seleccione-o e sinalize-o no fim da página.
As estruturas ocidentais de segurança da inteligência artificial falham com os usuários em países em desenvolvimento porque se concentram em ameaças no nível do modelo, como invasões autônomas ou armas biológicas, em vez de falhas de implantação local. A reportagem reúne dados das Nações Unidas e de institutos de pesquisa, além de estudos de caso regionais. As evidências incluem uma análise feita na Índia mostrando que mais de dois terços dos chatbots não levam em conta adequadamente dialetos ou não reconhecem sinais de urgência. A reportagem também destaca erros de tradução médica em tigrínia, um idioma falado por 9 milhões de pessoas, no qual a tradução automática converteu “varíola” em “sífilis” e “antibióticos intravenosos” em “inseticidas”.
As barreiras de segurança projetadas para o inglês e para ambientes de alta renda falham em idiomas de poucos recursos, expondo usuários não ocidentais a danos físicos e econômicos imediatos. Enquanto empresas como Anthropic e OpenAI obtêm as maiores pontuações nos índices de segurança, esses mesmos líderes do setor estão recuando de seus compromissos. Na prática, implantar esses sistemas sem considerar o contexto local traz consequências graves, como sistemas de reconhecimento facial que negam salário ou refeições a pessoas. A reportagem argumenta que, sem investimento imediato em infraestrutura de segurança local, a confiança pública vai se corroer. Em um caso, uma adolescente falante de hindi em Nova Délhi consultou um chatbot que atribuiu sua fadiga a estresse, atrasando o diagnóstico final de anemia por deficiência de ferro.
A segurança da inteligência artificial é uma escolha orçamentária que concentra os recursos de avaliação em laboratórios ocidentais que testam riscos no nível do modelo. Implantar um sistema de IA de uso geral para serviços públicos em um idioma não testado significa implantar um sistema não testado. Fechar essa lacuna exigiria ampliar os conjuntos de avaliação existentes para mais idiomas, ou financiar comunidades locais para que avaliem, elas mesmas, as ferramentas que efetivamente usam.
Os links de hoje: Links diversos para 29 de setembro de 2026.
Tiago C. Peixoto · English original · About