nova IA atinge nível crítico em cibersegurança
*Segundo a empresa, isso significa que, com as ferramentas e acessos certos, o Astra consegue encontrar vulnerabilidades desconhecidas (as chamadas “zero-day”, falhas que ainda não foram corrigidas) e criar formas de explorá-las em sistemas bem protegidos, sem precisar de orientação humana em cada etapa.
*A OpenAI afirma que vai lançar uma versão do Astra “em breve”, mas que o acesso às capacidades mais avançadas de cibersegurança será mais limitado no começo.
*Essas funções mais fortes devem ficar inicialmente com um grupo seleto de testadores e, depois, com parceiros do programa Daybreak Blue – que inclui empresas de infraestrutura digital como Cisco, Cloudflare e Palo Alto Networks -, com a justificativa de ajudar defensores a se preparar antes de uma liberação mais ampla.
*O modelo Astra da OpenAI estaria usando uma “técnica secreta” chamada “recurrent depth” para turbinar suas capacidades de raciocínio, segundo o The Information.
*A abordagem consiste em fazer a informação circular várias vezes pelas mesmas camadas internas do sistema antes de gerar uma resposta – na prática, o modelo ganha um poder computacional efetivo muito maior a cada etapa, sem a necessidade de adicionar uma quantidade gigantesca de novos parâmetros.
*Especialistas e pesquisadores apontam preocupações de segurança com o modelo, já que uma parcela maior do raciocínio acontece de forma oculta em um espaço latente, e não na forma de texto visível, o que torna mais difícil para auditores identificar comportamentos desalinhados, intenções ocultas ou planos não autorizados por parte da IA.
