Dados recentes do AI Incident Database (AIID) indicam um aumento expressivo no número de incidentes de IA. Em 2024, o total de ocorrências registradas alcançou 233 casos, o maior patamar desde o início da base de dados. Esse número representa um aumento de 56,4% em relação a 2023, evidenciando uma tendência preocupante de aceleração nos problemas associados ao uso da IA.
Para quem ainda não conhece, o AI Incident Database (AIID) é uma iniciativa que monitora e cataloga casos documentados de incidentes envolvendo sistemas de IA, com foco em usos eticamente problemáticos, falhas técnicas com impacto social relevante, discriminação algorítmica, violações de privacidade, desinformação, deepfakes e outros danos associados a sistemas automatizados.
É importante destacar que o AIID se baseia predominantemente em relatos da mídia e em fontes públicas. Isso significa que os números divulgados provavelmente subestimam a dimensão real do problema. Muitos incidentes não chegam ao conhecimento público em razão de acordos de confidencialidade, ausência de mecanismos de denúncia, assimetrias de informação ou interesses econômicos e reputacionais envolvidos.
Por outro lado, um ponto relevante a ser considerado é que parte desse aumento está associada à expansão do uso da inteligência artificial, o que naturalmente tende a elevar o número absoluto de incidentes. Ainda assim, isso não diminui a gravidade dos dados, sobretudo quando se observa a velocidade com que esses sistemas vêm sendo adotados em contextos sensíveis.
Entre os diversos exemplos disponíveis publicamente no site do AI Incident Database, destacam-se:
- Sistemas de reconhecimento facial que produzem identificações incorretas, resultando em detenções injustas;
- Algoritmos de decisão automatizada que reproduzem ou amplificam discriminações raciais, de gênero ou socioeconômicas;
- Modelos generativos utilizados para a criação de deepfakes, desinformação política ou fraudes.
O crescimento de 56,4% nos incidentes relacionados à IA em 2024 é um dado que não pode ser ignorado. Se a IA pretende cumprir seu papel como tecnologia de interesse público, os incidentes registrados devem ser devidamente analisados e tratados.
Quer saber mais sobre os riscos da IA? Acesse: Riscos
