como Claude foi manipulado para armas, espionagem e golpes
As tentativas incluíram esforços para obter a ajuda do Claude na elaboração de um pedido de subsídio para financiar pesquisas sobre a modificação do vírus da chikungunya em um local onde a Anthropic não oferece seus serviços. Em outro caso, também em um local onde a empresa não opera, o que exige que os usuários ocultem sua localização para utilizar os serviços, a Anthropic afirmou ter detectado esforços para pesquisar a gripe aviária altamente patogênica. Outros exemplos incluíram pesquisas relacionadas ao ortopoxvírus e a novos venenos e toxinas não transmissíveis, informou a Anthropic.
Operações eletrônicas
– Operações na China: A Anthropic afirmou que operadores de língua chinesa, provavelmente baseados em Changsha, capital da província de Hunan, na China central, utilizaram o Claude em operações digitais contra cerca de 50 organizações, incluindo redes de governos estrangeiros. O grupo, que segundo a Anthropic incluía dois estudantes universitários de Hunan, utilizou fluxos de trabalho impulsionados por IA para buscar vulnerabilidades de software até então desconhecidas, desenvolver formas de explorá-las e conduzir partes das invasões com supervisão humana limitada.
– Coleta de informações pela Rússia: Um grupo de hackers supostamente realizou operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, afirmou a Anthropic. As técnicas do grupo eram consistentes com as do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.
– Reconhecimento naval iraniano: A Anthropic informou ter identificado e neutralizado um operador ligado ao Irã que utilizava o Claude para coletar e analisar dados acessíveis ao público, a fim de desenvolver recomendações de alvos contra as forças navais dos EUA na região. O material compilado incluía uma lista de pessoal norte-americano extraída de legendas em fotografias militares públicas, identificadores de transponders de navios e aeronaves acessíveis ao público e scripts de consulta de imagens de satélite comerciais.
O operador também instruiu o Claude a compilar pesquisas sobre vulnerabilidades de software em sistemas de bordo relacionados a equipamentos de comunicação via satélite e outros equipamentos de comunicação, bem como produtos de controle industrial.
