CEO da Anthropic defende desacelerar IA sem parar progresso
O CEO propõe um plano em três etapas para “desacelerar a fronteira” sem parar o desenvolvimento. A ideia é garantir tempo para alinhar modelos, reforçar barreiras e permitir que avaliadores independentes verifiquem se as práticas de segurança estão sendo seguidas.
Três etapas para “marcar o passo”
1) Adoção de avaliadores externos dentro das empresas. Amodei diz que a Anthropic vai permitir acesso contínuo, em formato parecido com o de funcionários, a equipes independentes que possam verificar práticas de segurança, relatar incidentes e avaliar não só modelos prontos, mas também processos e infraestrutura de treinamento.
2) Coordenação entre empresas de IA em países democráticos para criar padrões comuns. Ele afirma que parte dessa coordenação esbarra em obstáculos legais e pode exigir apoio de governos, inclusive para viabilizar conversas sobre segurança sem violar regras antitruste.
3) Buscar coordenação global, inclusive com governos autoritários. Amodei diz que a verificação de cumprimento seria um dos principais desafios e argumenta que qualquer acordo precisaria levar em conta riscos geopolíticos.
Por que desacelerar, na visão do CEO
Amodei afirma que discutir uma pausa em 2023 fazia menos sentido porque os modelos eram menos capazes de atuar como agentes no mundo. Agora, ele diz que os sistemas atuais já permitem entender melhor falhas e reduzir riscos antes que cheguem a níveis críticos de capacidade.
