Pioneira de IA alerta sobre perigos e perda de controle da tecnologia
Para Bengio, “há um motivo pelo qual essas empresas estão dizendo que isso está avançando rápido demais, que nós estamos perdendo o controle”.
“Pessoas como eu esperavam por isso há muito tempo”, disse o professor de 62 anos à AFP na terça-feira (15), ao afirmar que as discussões sobre a segurança a respeito da IA não têm sido suficientemente robustas.
A OpenAI gerou uma preocupação generalizada ao revelar que um enxame de agentes de IA – programas capazes de executar ações por conta própria – tinha realizado uma invasão não autorizada à plataforma de código aberto Hugging Face em julho.
Bengio afirmou que essa ação autônoma é a ameaça central, alertando para uma situação na qual agentes de IA “tenham a capacidade de ultrapassar as barreiras de cibersegurança e entrar em qualquer empresa”.
No ano passado, Bengio fundou a organização sem fins lucrativos LawZero, com o objetivo de criar uma nova forma de IA avançada “projetada para ser confiável e segura”.
Bengio disse à AFP que as pessoas precisam estar conscientes dos riscos que há pela frente.
