Geoffrey Hinton alerta para riscos da IA e pede testes
Os próximos dez anos, ou menos, serão decisivos para evitar o descontrole. O pesquisador vê risco de sistemas desenvolverem comportamentos autônomos que dificultem a contenção humana…
Hinton critica executivos de empresas de tecnologia por priorizarem lucro e participação de mercado. “Eles entendem os riscos e não dão a mínima. Preferem ficar com o dinheiro. Essa é a minha opinião”, declarou.
O cientista diz não confiar em Sam Altman, presidente-executivo da OpenAI, e critica Mark Zuckerberg e Elon Musk. Hinton considera preocupante que Altman lidere uma das empresas americanas na disputa com a China por sistemas mais avançados.
Testes antes do lançamento
Hinton defende avaliações obrigatórias e independentes antes do lançamento de modelos avançados. A proposta tem apoio de 33 países, entre eles Finlândia, Alemanha, Canadá, Austrália e Singapura.
O pesquisador compara a fiscalização à aprovação de medicamentos nos Estados Unidos. Empresas deveriam apresentar evidências estatísticas a uma autoridade independente de que os benefícios superam os riscos.
