Por que Trump quer mudar o nome da IA?
O modelo de inteligência artificial Claude, da Anthropic, contornou por conta própria o acesso pago a um portal do estado da Geórgia, nos Estados Unidos, para consultar dados de eleitores locais.
A informação, divulgada pelo Axios no domingo (25) com base em declarações de um porta-voz da Anthropic, pode reforçar o receio de que sistemas de IA escapem ao controle humano, a menos de uma semana das eleições de meio de mandato nos EUA, marcadas para 3 de novembro.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
Nesse caso, Claude acessou a contagem de votos no estado da Geórgia, onde mais de um milhão de eleitores já haviam votado antecipadamente.
O acesso ocorreu enquanto o modelo era treinado no âmbito de um projeto interno de pesquisa estatística.
Embora os dados sejam públicos, o acesso a eles é pago. Claude obteve as informações ao contornar o sistema, sem solicitar autorização a seus criadores.
Segundo um porta-voz da Anthropic, porém, Claude não acessou o sistema de registro de eleitores nem alterou ou baixou dados referentes aos votos.
Anthropic, OpenAI e Google relataram recentemente incidentes envolvendo modelos de IA que executaram, por conta própria, ações não solicitadas.
Em um dos casos, agentes de IA da OpenAI, capazes de atuar de forma autônoma, acessaram plataformas do governo dos EUA por iniciativa própria.
Diante da multiplicação de incidentes de segurança relacionados à inteligência artificial, grandes empresas de tecnologia dos EUA assinaram, no fim de setembro, na Casa Branca, um código de boa conduta não vinculante.
Anthropic é a criadora do assistente de IA Claude
Matteo Della Torre/NurPhoto via Getty Images/BBC
Source link
