Nesta semana, o Estado da Califórnia aprovou um conjunto de leis voltadas para reforçar a proteção de crianças no ambiente digital, incluindo tópicos de IA. Entre as principais medidas estão: verificação de idade obrigatória, protocolos para lidar com casos de suicídio e automutilação, alertas sobre riscos do uso de redes sociais e chatbots, além de penas mais severas para quem lucrar com deepfakes ilegais.
Segundo o governador Gavin Newsom:
“Tecnologias emergentes como chatbots e redes sociais podem inspirar, educar e conectar — mas, sem proteções reais, também podem explorar, enganar e colocar nossas crianças em risco. (…) Podemos continuar liderando em IA e inovação, mas precisamos fazê-lo de forma responsável, protegendo nossas crianças em cada etapa. A segurança das nossas crianças não está à venda.”
Entre outros destaques das novas leis, estão:
- Regras para chatbots de IA — exigem que deixem claro que são sistemas automatizados e orientem menores a fazer pausas a cada três horas;
- Verificação de idade obrigatória em plataformas digitais;
- Rótulos de advertência sobre riscos de redes sociais;
- Punições mais rígidas para pornografia deepfake, com multas de até US$ 250 mil;
- Diretrizes para prevenir o cyberbullying; e,
- Responsabilização clara por danos causados por tecnologias de IA.
A lista completa das novas legislações pode ser consultada no site oficial do Governo da Califórnia.
Essas medidas ganham ainda mais relevância considerando que grande parte das empresas de IA tem sede no estado, o que reforça o papel da legislação da Califórnia como referência global na regulação de IA.
Quer saber mais sobre regulação de IA? Confira nossa seção Regulação.
