Amazon entra em discussão sobre segurança da IA e defende “testes rigorosos”
A empresa apresentou sua posição em resposta a uma consulta da Reuters dias depois que muitos dos maiores laboratórios pediram uma desaceleração no desenvolvimento da IA, após um clamor entre pesquisadores e outras pessoas que temem que a tecnologia possa escapar ao controle humano e ameaçar os sistemas globais e até mesmo a própria humanidade.
“Existem riscos se isso não acontecer de forma coletiva”, afirmou a Amazon, referindo-se ao avanço no desenvolvimento da IA. “Acreditamos que, como setor, em parceria com governos, vamos estabelecer as proteções adequadas.”
A Amazon desenvolve modelos de IA por meio de sua subsidiária Amazon Web Services e em uma unidade dedicada à inteligência artificial geral, ou AGI, em parte para equipar a assistente de voz Alexa, entre outros serviços. A empresa também é uma das principais fornecedoras de infraestrutura para laboratórios de IA e ajuda outras companhias a terem acesso aos modelos dos concorrentes por meio de seu marketplace Bedrock.
Depois que o presidente-executivo da Anthropic, Dario Amodei, publicou no sábado um ensaio de quase 4.000 palavras pedindo que o setor desacelerasse o ritmo do desenvolvimento da IA, o que é conhecido como “pacing”, os dirigentes de OpenAI, xAI, DeepMind e da Microsoft se manifestaram a favor de uma abordagem mais cautelosa, marcando um raro momento de união.
As empresas também concordaram em trabalhar juntas para garantirem que a segurança seja prioridade máxima. A Amazon não informou se planeja adotar medidas semelhantes.
Pesquisadores da Anthropic, OpenAI e DeepMind publicaram em redes sociais suas preocupações de que a IA, se não for controlada, ameaça potencialmente exterminar a civilização. Os temores sobre a segurança da IA chegaram ao auge depois que um pesquisador da Anthropic pediu demissão na semana passada, afirmando em uma publicação em redes sociais que os desenvolvedores de IA “acreditam que ela poderá matar a todos nós até o final da década”.
