Líderes da área de IA alertam ONU sobre riscos à segurança
Governos têm se debatido com a questão de como supervisionar sistemas de IA que avançam mais rápido do que os órgãos reguladores conseguem acompanhar, enquanto os Estados Unidos e a China — os dois principais atores no desenvolvimento da IA — permanecem divididos sobre eventuais limites globais à tecnologia ou se ela deve ser deixada, em grande parte, às forças de mercado.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas devem ser moldadas por meio de processos democráticos e por governos que prestem contas ao povo que servem”, disse Altman ao conselho. “No âmbito internacional, isso exigirá cooperação”.
“Ao longo da nossa história, houve momentos em que países que competem entre si e nem sempre se dão muito bem ainda assim se uniram por interesses comuns e pelo bem coletivo diante de uma nova tecnologia poderosa. Acreditamos que este deve ser um desses momentos”, disse ele.
Yoshua Bengio, canadense considerado um dos “padrinhos da IA” e copresidente do Painel Científico Internacional Independente, criado pela Assembleia Geral da ONU no ano passado, disse ao Conselho de Segurança: “Os perigos são reais e iminentes”.
“Este conselho enfrenta uma ameaça sem precedentes, que nenhum de seus membros escolheria, que ninguém pode conter sozinho e que não respeita as fronteiras que defendemos”, afirmou.
Às vésperas de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês Xi Jinping, em Washington amanhã, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns, que abrangeria incidentes relacionados à IA que atinjam o nível de segurança nacional.
