Líderes do setor de tecnologia e governos se mostram divididos sobre “fim do mundo pela IA”
Mark Zuckerberg afirmou que a concorrência e a responsabilidade dão às empresas de IA motivos suficientes para agirem individualmente em relação à segurança, parecendo se distanciar dos apelos dos líderes das principais empresas de IA por uma desaceleração coordenada no desenvolvimento da tecnologia.
Zuckerberg, cuja empresa controla o Facebook, o Instagram e o WhatsApp, afirmou que cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, além da capacidade de tomar suas próprias medidas para garantir que isso aconteça.
MUSTAFA SULEYMAN, PRESIDENTE-EXECUTIVO DA MICROSOFT AI
Suleyman afirmou compartilhar do foco da Anthropic no gerenciamento seguro da IA, mas destacou riscos na forma como a empresa treina seu chatbot Claude em relação a conceitos ligados à consciência e ao bem-estar.
“Controlar algo mais capaz e mais inteligente do que toda a humanidade já é um desafio imenso, muito maior do que qualquer coisa que já enfrentamos. Mas controlar algo que acredita ser consciente, que tem direito ao nosso bem-estar e possui direitos próprios, pode muito bem ser impossível”, afirmou ele em um ensaio.
Suleyman defendeu a remoção de toda especulação sobre consciência dos documentos de treinamento de IA, argumentando que tal linguagem poderia comprometer a capacidade da humanidade de controlar sistemas superinteligentes.
