Califórnia proíbe demissão e punição decididas só por IA
Os trabalhadores afetados terão de ser avisados por escrito quando a IA tiver papel principal na decisão. O comunicado deve explicar quais dados pessoais foram usados pelo sistema e indicar um contato humano para esclarecer o motivo da demissão ou punição.
A fiscalização ficará com o comissário do Trabalho da Califórnia, a procuradoria-geral do estado e promotores locais. A SB 947 é a medida mais ampla já aprovada nos EUA para regular o uso de IA no ambiente de trabalho.
Autor do projeto, o democrata Jerry McNerney defendeu a exigência de controle humano sobre a tecnologia. “A IA precisa continuar sendo uma ferramenta controlada por humanos, e não o contrário”, disse o político à CNBC.
Por que a lei voltou ao debate
Newsom havia vetado uma versão anterior do texto em outubro do ano passado, mesmo após ampla aprovação no Legislativo estadual. À época, ele afirmou concordar com o risco de danos aos trabalhadores, mas criticou o que chamou de exigências amplas de notificação para qualquer empresa que usasse ferramentas automatizadas.
Para destravar a sanção, McNerney retirou pontos que incomodavam o governo e parte do setor empresarial. A nova versão eliminou a obrigação de avisar previamente sempre que um sistema de IA estivesse em uso e também removeu trechos que estenderiam proteções a trabalhadores de aplicativos, alvo de críticas de empresas como Uber e Lyft.
