É realmente possível desligar uma inteligência artificial?
Esse mecanismo teria que poder ser acionado no caso de uma IA escapar de qualquer controle e representar um risco para a segurança. Uma IA continua sendo um “programa de computador”, ressalta o pesquisador.
“A pessoa ou a organização que a criou pode interrompê-la, negando a ela o acesso à potência de cálculo necessária para sua execução”, acrescenta.
A situação se complica quando se autoriza o programa a agir para além de seu ambiente inicial.
Segundo Papernot, isso pode acontecer se um “worm informático” (programa malicioso) controlado pela IA se propagar utilizando os recursos de outros dispositivos para se duplicar.
“Nesse caso, seria preciso interromper simultaneamente todas as cópias geradas pelo worm, aparelho por aparelho”, explica.
Para Jean-Gabriel Ganascia, professor de informática da Universidade Sorbonne, a questão do ‘kill switch’ pode alimentar a ideia de “um risco metafísico” com uma IA que teria vontade própria. Mas, para ele, o perigo mais concreto é nossa crescente dependência desses sistemas.
