Melhor que qualquer 'hacker' humano: o que é o novo modelo de inteligência artificial que assusta o sistema financeiro

Anthropic
Reuters via BBC
Nas últimas semanas, o mundo da inteligência artificial tem andado em polvorosa após alegações feitas pela empresa líder Anthropic sobre seu novo modelo, Claude Mythos.
A empresa afirma ter descoberto que a ferramenta pode superar humanos em algumas tarefas de hacking e segurança cibernética — o que levou reguladores, parlamentares e instituições financeiras a discutirem os perigos que ela poderia representar para serviços digitais.
Várias gigantes da tecnologia receberam acesso ao Mythos por meio de uma iniciativa chamada Project Glasswing, concebida para reforçar a resiliência contra o próprio Mythos.
A Anthropic anunciou esta semana que vai estender o acesso ao Mythos para outras 150 instituições em setores diversos, como energia, água, saúde, comunicações e equipamentos. Novos parceiros precisarão atender a requisitos de segurança antes de obterem acesso ao modelo.
Alguns analistas ainda são mais céticos sobre a capacidade do Mythos e dizem que é do interesse da Anthropic sugerir que ela possui uma ferramenta com habilidades nunca antes vistas.
O tema também causou medo no sistema financeiro e chegou a ser abordado em reunião do FMI em Washington envolvendo autoridades internacionais.
Na prática — como costuma acontecer com a IA — a tarefa de distinguir entre fatos e exageros é complicada.
O que é o Claude Mythos?
O Mythos é um dos modelos mais recentes da Anthropic, desenvolvido como parte de seu sistema de IA mais amplo chamado Claude. Ele engloba o assistente de IA e a família de modelos da empresa, rivalizando com o ChatGPT da OpenAI e o Gemini do Google.
Ele foi apresentado pela Anthropic no início de abril como “Mythos Preview”.
Pesquisadores que testam como modelos de IA lidam com solicitações ou tarefas específicas, conhecidos como “red teams”, disseram em um relatório que o Mythos era “incrivelmente capaz em tarefas de segurança de computadores”.
Eles descobriram que a ferramenta poderia localizar bugs inativos escondidos em códigos de décadas atrás e explorá-los com facilidade.
Em vez de disponibilizá-lo amplamente aos utilizadores do Claude, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, que descreveu como “um esforço para proteger sistemas essenciais de software”.
Entre elas estão a gigante de computação em nuvem Amazon Web Services, os fabricantes de dispositivos Apple, Microsoft e Google, e os fabricantes de chips Nvidia e Broadcom.
A Crowdstrike, cuja atualização defeituosa de software causou uma grande interrupção global em julho de 2024, também está entre os parceiros do projeto, e a Anthropic afirma ter concedido acesso ao Mythos a mais de 40 organizações responsáveis por softwares considerados críticos.
Em um vídeo divulgado junto com o lançamento do Project Glasswing, o chefe da Anthropic, Dario Amodei, disse que a empresa se ofereceu para trabalhar com funcionários do governo dos EUA a fim de “ajudar a se defender contra o risco desses modelos”.
Por que existem preocupações?
A Anthropic afirma que, durante os testes, descobriu que o modelo é altamente habilidoso em tarefas de segurança cibernética e hacking, superando humanos.
“O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”, afirmou a Anthropic em 7 de abril.
“Dada a velocidade do progresso da IA, não demorará muito para que tais capacidades se disseminem, potencialmente além de agentes comprometidos com seu uso seguro.”
A empresa disse que ele poderia localizar — com pouca supervisão — falhas críticas que exigem ação imediata em sistemas antigos, incluindo uma vulnerabilidade que esteve presente em um sistema por 27 anos, e sugerir maneiras de explorá-las.
Desde então, alguns ministros das finanças, banqueiros centrais e executivos do setor financeiro expressaram sérias preocupações, temendo que o modelo possa comprometer a segurança dos sistemas financeiros.
O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do Fundo Monetário Internacional (FMI) em Washington em abril.
“Certamente é sério o suficiente para merecer a atenção de todos os ministros das Finanças”, disse ele.
O diretor do Banco da Inglaterra, Andrew Bailey, disse à BBC: “Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético.”
A União Europeia disse que também está em discussões com a Anthropic sobre suas preocupações relacionadas ao Mythos. Em maio, o bloco europeu recebeu acesso à ferramenta.
O que dizem os especialistas cibernéticos?
Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse à BBC no início desta semana que a alegação de que o Mythos poderia descobrir vulnerabilidades críticas muito mais rapidamente do que outros modelos de IA “realmente abalou as pessoas”.
“A segunda questão é que, mesmo com vulnerabilidades existentes que conhecemos, mas contra as quais as organizações podem não ter aplicado correções ou podem não estar bem defendidas, ele é simplesmente um hacker muito bom”, disse ele.
Muitos analistas independentes e especialistas em segurança cibernética ainda não puderam testar o Mythos por conta própria, e alguns permanecem céticos quanto ao seu desempenho.
O Instituto de Segurança em IA do Reino Unido concluiu recentemente que, embora se trate de um modelo muito poderoso, sua maior ameaça seria contra sistemas mal protegidos e vulneráveis.
“Não podemos afirmar com certeza se o Mythos Preview seria capaz de atacar sistemas bem protegidos”, disseram seus pesquisadores.
Para eles, onde há boas práticas de cibersegurança, esse modelo, em teoria, seria contido.
A italiana Valentina Palmiotti — mais conhecida como Chompie — participa de torneios internacionais de hacking ético, em que competidores ganham dinheiro encontrando vulnerabilidades em sistemas de segurança antes que elas possam ser exploradas por cibercriminosos.
Ela disse à BBC que seus dias de competição podem estar contados devido à ascensão de ferramentas de IA como o Claude Mythos.
Devemos nos preocupar?
Os medos relacionados à IA não são novidade.
Novos modelos e ferramentas estão surgindo o tempo todo e geralmente são acompanhados por promessas de revolucionar nossas vidas — para melhor ou para pior.
Aproveitar essa mistura de medo e entusiasmo sobre a IA e seu impacto futuro também se tornou uma marca registrada do setor e de suas estratégias de marketing nos últimos anos.
No caso da Mythos, ainda não sabemos o suficiente para entender se essas esperanças ou temores são justificados, ou mais um reflexo do entusiasmo que cerca o setor.
Em ambos os casos, de acordo com o National Cyber Security Centre, órgão britânico de cibersegurança, a coisa mais importante que podemos fazer agora é não entrar em pânico e, em vez disso, focar na necessidade de corrigir a segurança cibernética básica.
Afinal, a maioria dos hackers não precisa de ferramentas de superinteligência artificial para violar sistemas — ataques muito mais simples geralmente são suficientes.
“Para alguns, esse é um evento apocalíptico, para outros, parece muito exagero”, disse Martin à BBC.
Mas ele afirmou que, seja esta ferramenta ou outras subsequentes desenvolvidas pela Anthropic ou por concorrentes, além dos riscos existe uma oportunidade de construir um mundo online mais seguro.
“No médio prazo, há uma oportunidade de usar essas ferramentas para corrigir muitas das vulnerabilidades subjacentes da internet”, afirmou.
No final de abril, a Anthropic anunciou que estava investigando uma denúncia de que um pequeno grupo de pessoas obteve acesso ao Claude Mythos.
“Estamos investigando uma denúncia de acesso não autorizado ao Claude Mythos Preview por meio de um de nossos ambientes de fornecedores terceirizados”, afirmou a empresa em comunicado.
A declaração foi uma resposta a uma reportagem da Bloomberg, que revelou que usuários em um fórum privado conseguiram acessar o modelo sem as permissões necessárias.
Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).
A empresa de IA que enfrentou o Pentágono nos EUA — e por que isso afeta o mundo todo
Como Elon Musk pode ficar trilionário com oferta de ações da SpaceX na bolsa
O recado do papa Leão 14 sobre a inteligência artificial em seu primeiro ‘cartão de visitas’ ao completar um ano de pontificado



Source link