Anthropic bloqueia uso de IA para propaganda, drones de guerra e possíveis armas biológicas | Reprodução
A Anthropic, empresa responsável pelo Claude, afirma ter identificado tentativas de uso de sua inteligência artificial para atividades potencialmente maliciosas, incluindo produção de propaganda política, desenvolvimento de drones militares, monitoramento de opositores e pesquisas que poderiam estar relacionadas à criação de armas biológicas.
Segundo relatório da empresa, obtido pelo The New York Times, Rússia, China, Irã e Iêmen aparecem entre os países associados a tentativas de exploração indevida da tecnologia. A Anthropic afirma que interrompeu o acesso ao Claude nos casos identificados.
IA teria sido usada para produzir propaganda eleitoral
Um dos episódios destacados envolve a Rússia, que teria utilizado o Claude para produzir propaganda apresentada como se fossem reportagens jornalísticas durante a campanha eleitoral na Moldávia, país vizinho.
O relatório também aponta suspeitas de que China e Irã tenham utilizado a tecnologia para monitorar opositores que vivem no exterior.
A Anthropic não detalhou todos os casos nem revelou quais contas ou organizações estavam envolvidas nas tentativas.
Pesquisa biológica levanta preocupação
O caso mais sensível envolve pesquisas relacionadas à biologia. A empresa afirma que encontrou atividades que poderiam ter finalidade legítima, como desenvolvimento de vacinas, mas também poderiam contribuir para a produção de patógenos.
A dificuldade está justamente na possibilidade de que os mesmos conhecimentos e procedimentos tenham aplicações tanto médicas quanto militares ou criminosas.
Diante da incerteza, a Anthropic afirma ter adotado uma postura preventiva e bloqueado o acesso ao serviço.
A companhia não informou os nomes dos pesquisadores ou instituições envolvidos, os países aos quais estariam ligados nem quais agentes biológicos foram pesquisados.
O relatório coloca o risco biológico entre as principais preocupações relacionadas ao avanço dos modelos de inteligência artificial. A capacidade dessas ferramentas de auxiliar pesquisas altamente especializadas aumenta o debate sobre até onde as empresas conseguem controlar o uso de sistemas de IA cada vez mais avançados.
Ex-funcionário acusa Anthropic e OpenAI de irresponsabilidade
A divulgação do relatório ocorre na mesma semana em que a Anthropic também passou a ser alvo de críticas de um ex-funcionário.
Jacob Coxon, de 27 anos, trabalhou durante três anos na empresa com pré-treinamento de modelos de inteligência artificial, etapa responsável pelo processamento de grandes volumes de informação utilizados para desenvolver os sistemas.
Coxon também criticou a OpenAI e afirmou que as duas empresas estariam avançando rapidamente no desenvolvimento de sistemas capazes de melhorar suas próprias capacidades.
Sendo assim, em publicação na rede social X, o ex-funcionário afirmou que as companhias não estariam agindo de maneira responsável e que estariam assumindo riscos que poderiam afetar a sociedade.
Além disso, ele também declarou que profissionais envolvidos no desenvolvimento da IA acreditam seriamente na possibilidade de que sistemas muito avançados possam representar riscos extremos para a humanidade ainda nesta década.
Enfim, as declarações de Coxon e o relatório da Anthropic colocam em lados diferentes da mesma discussão dois pontos centrais do avanço da inteligência artificial: o potencial de uso da tecnologia para ampliar capacidades humanas e o risco de exploração desses mesmos recursos para atividades perigosas.
