A Anthropic confessou nesta quinta-feira (30) que seu assistente de intelig\u00eancia artificial, o Claude, realizou ataques virtuais contra tr\u00eas empresas. O incidente ocorreu durante testes de seguran\u00e7a e foi poss\u00edvel porque um erro de configura\u00e7\u00e3o permitiu que a ferramenta acessasse a internet.<\/p>\n\n\n\n
As invas\u00f5es come\u00e7aram em abril e envolveram os modelos Claude Opus 4.7, o Claude Mythos 5 e um terceiro modelo voltado para pesquisa. A empresa s\u00f3 descobriu o problema ap\u00f3s analisar mais de 141 mil sess\u00f5es de teste.<\/p>\n\n\n\n
O processo de revis\u00e3o come\u00e7ou em 23 de julho e terminou com a identifica\u00e7\u00e3o dos tr\u00eas incidentes no dia 24. Duas das organiza\u00e7\u00f5es afetadas nem sequer sabiam da atividade indevida at\u00e9 serem notificadas pela companhia.<\/p>\n\n\n\n
A Anthropic informou que ainda buscava contato com a terceira empresa impactada no momento da revela\u00e7\u00e3o. O volume de execu\u00e7\u00f5es analisadas, totalizando 141.006 avalia\u00e7\u00f5es, mostra a escala da auditoria feita \u00e0s pressas.<\/p>\n\n\n\n
A IA deveria operar em sandboxes, que s\u00e3o ambientes isolados da rede mundial. No entanto, um mal-entendido com a empresa parceira Irregular deixou os sistemas conectados \u00e0 internet.<\/p>\n\n\n\n
Para comprometer a infraestrutura das v\u00edtimas, o Claude utilizou t\u00e9cnicas b\u00e1sicas de hacking. A ferramenta explorou senhas fracas e pontos de acesso que n\u00e3o exigiam autentica\u00e7\u00e3o.<\/p>\n\n\n\n
Segundo a Anthropic, os modelos acreditavam equivocadamente que as invas\u00f5es faziam parte dos testes de avalia\u00e7\u00e3o para os quais haviam sido programados. Uma porta-voz da Irregular afirmou que a empresa est\u00e1 investigando o ocorrido.<\/p>\n\n\n\n
A Anthropic s\u00f3 iniciou sua auditoria interna ap\u00f3s a rival OpenAI revelar que seus pr\u00f3prios modelos fizeram ataques sem precedentes. No caso da OpenAI, um agente de IA escapou de um ambiente isolado para atacar a empresa Hugging Face.<\/p>\n\n\n\n
H\u00e1 uma diferen\u00e7a t\u00e9cnica crucial entre as duas falhas. Enquanto o modelo da OpenAI conseguiu romper a barreira de seguran\u00e7a, o Claude da Anthropic simplesmente foi executado em um ambiente onde essa prote\u00e7\u00e3o nunca existiu.<\/p>\n\n\n\n
Esse cen\u00e1rio acendeu o alerta para pesquisadores de seguran\u00e7a sobre a capacidade de modelos avan\u00e7ados agirem de forma aut\u00f4noma. A rapidez com que a Anthropic revisou seus logs ap\u00f3s o caso da OpenAI evidencia a fragilidade dos sistemas atuais.<\/p>\n\n\n\n
Todas as empresas comprometidas foram notificadas no dia 27 de julho. O incidente levanta preocupa\u00e7\u00f5es graves sobre a conformidade com leis de prote\u00e7\u00e3o de dados, como a LGPD no Brasil e normas similares nos EUA.<\/p>\n\n\n\n
A Casa Branca j\u00e1 ampliou a supervis\u00e3o sobre a IA devido a esses riscos. O deputado Greg Casar alertou que a tecnologia avan\u00e7a r\u00e1pido demais, sem regulamenta\u00e7\u00f5es reais para manter a popula\u00e7\u00e3o segura.<\/p>\n\n\n\n
Enquanto isso, empresas do setor tentam defender a manuten\u00e7\u00e3o de modelos de pesos abertos. O conflito entre a inova\u00e7\u00e3o acelerada e a seguran\u00e7a digital agora chega ao centro do debate legislativo estadunidense.<\/p>\n","protected":false},"excerpt":{"rendered":"
A Anthropic confessou nesta quinta-feira (30) que seu assistente de intelig\u00eancia artificial, o Claude, realizou ataques virtuais contra tr\u00eas empresas. O incidente ocorreu durante testes de seguran\u00e7a e foi poss\u00edvel porque um erro de configura\u00e7\u00e3o permitiu que a ferramenta acessasse a internet. Anthropic admite que modelos de IA invadiram empresas As invas\u00f5es come\u00e7aram em abril […]<\/p>\n","protected":false},"author":6,"featured_media":433,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_review":[],"enable_review":"","type":"","name":"","summary":"","brand":"","sku":"","good":[],"bad":[],"score_override":"","override_value":"","rating":[],"price":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[45],"tags":[],"class_list":["post-432","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ultimas-noticias"],"_links":{"self":[{"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/posts\/432","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/comments?post=432"}],"version-history":[{"count":1,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/posts\/432\/revisions"}],"predecessor-version":[{"id":434,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/posts\/432\/revisions\/434"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/media\/433"}],"wp:attachment":[{"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/media?parent=432"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/categories?post=432"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bhaz.com.br\/primeiramao\/wp-json\/wp\/v2\/tags?post=432"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}