A recente implementação de um sistema de autorregulação voluntária para a Inteligência Artificial (IA) pelo governo dos Estados Unidos gerou polêmica, sendo vista por muitos como uma “carta branca” para as grandes empresas do setor. O sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC, expressou preocupações sobre os riscos à saúde pública e à democracia.
No evento que ocorreu na Casa Branca no dia 29 de setembro, representantes de grandes empresas de tecnologia como OpenAI, Meta, Google e Nvidia assinaram um acordo que visa estabelecer novos controles para o desenvolvimento da IA. Este acordo inclui medidas como a adoção de “controles internos” para prevenir acessos indevidos aos sistemas. Contudo, Amadeu critica a real eficácia desse acordo, afirmando que muitas das abordagens existentes já não proporcionam uma regulamentação adequada.
Críticas à fiscalização
Um aspecto preocupante é a proposta de auditorias externas independentes das empresas de IA. Amadeu ressalta que, como essas auditorias são financiadas pelas próprias empresas, um conflito de interesse pode comprometer sua imparcialidade. “Até que ponto um auditor pago pela própria empresa fará críticas que possam desagradá-la?”, questionou, levantando a dúvida sobre a real accountability nesse processo.
Ettore Arpini, especialista em governança de IA, também se manifestou sobre o tema. Ele acredita que, mesmo que a autorregulação possa trazer benefícios, sua eficácia pode ser prejudicada se isso acarretar perdas comerciais. Arpini mencionou exemplos históricos, como a Moratória da Soja na Amazônia, que se tornou ineficaz devido a alterações nas condições políticas e econômicas.
Riscos para a saúde e a democracia
A análise de Amadeu revela uma visão mais ampla sobre os perigos gerados pela tecnologia. Ele ressalta que a IA pode levar a violações de privacidade pela sua natureza de vigilância em massa, além de produzir efeitos adversos nas decisões relacionadas à saúde pública. O sociólogo alertou que a interação entre grandes empresas de tecnologia e a indústria farmacêutica pode resultar em experimentos sem o devido controle governamental, colocando em risco a saúde da população.
“Quando o uso da IA é guiado por investidores, surgem riscos à saúde pública, pois eles tendem a priorizar lucros em detrimento do bem-estar social”, advertiu. Ele expressou sua preocupação com a possibilidade de pacientes começarem a automedicar-se ou realizar diagnósticos sem a devida orientação médica, o que poderia ameaçar suas vidas.
Sentimento público e desafios futuros
A falta de regulamentação é uma preocupação compartilhada pela população. Uma pesquisa da Ipsos e Reuters revelou que 73% dos americanos sentem que as empresas de IA não estão fazendo o suficiente para evitar danos à sociedade. Entre eles, 39% afirmam que a IA tem um impacto negativo em suas vidas. Além disso, há um receio de que essa tecnologia seja utilizada para desestabilizar o mercado de trabalho, aumentar fraudes cibernéticas e manipular a opinião pública nas redes sociais.
A administração Biden enfrenta um desafio ao lidar com essa situação, já que, apesar das pressões para implementar uma regulamentação mais rigorosa, encontra resistência tanto na indústria quanto entre o público. Este cenário evidencia a necessidade de manter um diálogo contínuo sobre as consequências da IA e buscar um equilíbrio que promova o progresso tecnológico sem comprometer os valores democráticos e sociais.