DENVER — A inteligência artificial está a ajudar a decidir quais os americanos que conseguirão a entrevista de emprego, o apartamento e até os cuidados médicos, mas as primeiras grandes propostas para controlar o preconceito na tomada de decisões da IA enfrentam ventos contrários em todas as direções.
Os legisladores que trabalham nestes projetos de lei, em estados como Colorado, Connecticut e Texas, reúnem-se na quinta-feira para defender as suas propostas, enquanto grupos orientados para os direitos civis e a indústria jogam cabo de guerra com componentes essenciais da legislação.
Organizações, incluindo sindicatos e grupos de defesa dos consumidores, estão a exigir mais transparência por parte das empresas e maiores recursos legais para os cidadãos processarem por discriminação relacionada com a IA. A indústria está a oferecer apoio provisório, mas insiste nessas medidas de responsabilização.
Os legisladores bipartidários apanhados no meio – incluindo os do Alasca, Geórgia e Virgínia – têm trabalhado juntos na legislação sobre IA face à inacção federal. O objetivo da conferência de imprensa é destacar o seu trabalho entre estados e partes interessadas, reforçando a importância da colaboração e do compromisso nesta primeira etapa da regulamentação.
Os legisladores incluem o senador estadual democrata de Connecticut, James Maroney, o líder da maioria democrata no Senado do Colorado, Robert Rodriguez, e a senadora republicana do Alasca, Shelley Hughes.
“Neste momento, não temos confiança no governo federal para aprovar nada rapidamente. E vemos que há necessidade de regulamentação”, disse Maroney. “É importante que os defensores da indústria, o governo e a academia trabalhem juntos para obter as melhores regulamentações e legislação possíveis.”
Os legisladores argumentam que os projetos de lei são um primeiro passo que pode ser construído no futuro.
Embora mais de 400 projetos de lei relacionados à IA estejam sendo debatidos este ano em assembleias estaduais em todo o país, a maioria tem como alvo um setor ou apenas uma parte da tecnologia – como deepfakes usados em eleições ou para criar imagens pornográficas.
Os maiores projetos de lei que esta equipa de legisladores apresentou oferecem um amplo quadro de supervisão, especialmente em torno de um dos dilemas mais perversos da tecnologia: a discriminação da IA. Os exemplos incluem uma IA que não conseguiu avaliar com precisão os pacientes médicos negros e outra que rebaixou os currículos das mulheres ao filtrar os pedidos de emprego.
Ainda assim, até 83% dos empregadores utilizam algoritmos para ajudar na contratação, de acordo com estimativas da Comissão de Igualdade de Oportunidades de Emprego.
Se nada for feito, quase sempre haverá preconceitos nesses sistemas de IA, explicou Suresh Venkatasubramanian, professor de computação e ciência de dados da Brown University que está ministrando uma aula sobre como mitigar preconceitos no design desses algoritmos.
“Você tem que fazer algo explícito para não ser tendencioso em primeiro lugar”, disse ele.
Estas propostas, principalmente no Colorado e Connecticut, são complexas, mas o ponto principal é que as empresas seriam obrigadas a realizar “avaliações de impacto” para determinados sistemas de IA. Esses relatórios incluiriam descrições de como a IA figura numa decisão, os dados recolhidos e uma análise dos riscos de discriminação, juntamente com uma explicação das salvaguardas da empresa.
A disputa é principalmente sobre quem consegue ver esses relatórios. Um maior acesso à informação sobre os sistemas de IA, como as avaliações de impacto, significa uma maior responsabilização e segurança para o público. Mas as empresas temem que isso também aumente o risco de processos judiciais e de revelação de segredos comerciais.
De acordo com projetos de lei no Colorado, Connecticut e Califórnia, a empresa não teria que submeter rotineiramente avaliações de impacto ao governo. A responsabilidade também recairia em grande parte sobre as empresas, de divulgarem ao procurador-geral se encontrassem discriminação – um governo ou organização independente não testaria esses sistemas de IA quanto a preconceitos.
Os sindicatos e os académicos preocupam-se com o facto de a dependência excessiva dos auto-relatos das empresas colocar em perigo a capacidade do público ou do governo de detectar a discriminação da IA antes que esta cause danos.
“Já é difícil quando temos estas grandes empresas com milhares de milhões de dólares”, disse Kjersten Forseth, que representa a AFL-CIO do Colorado, uma federação de sindicatos que se opõe à lei do Colorado. “Essencialmente, você está dando a eles uma pressão extra para pressionar um trabalhador ou consumidor.”
As empresas de tecnologia afirmam que uma maior transparência revelará segredos comerciais num mercado agora hipercompetitivo. David Edmonson, da TechNet, uma rede bipartidária de CEOs de tecnologia e executivos seniores que fazem lobby em projetos de lei de IA, disse em um comunicado que a organização trabalha com legisladores para “garantir que qualquer legislação aborde o risco da IA, permitindo ao mesmo tempo que a inovação floresça”.
A Câmara de Comércio da Califórnia se opõe ao projeto de lei do estado, preocupada com a possibilidade de as avaliações de impacto serem tornadas públicas em litígios.
Outro componente controverso dos projetos de lei é quem pode entrar com uma ação judicial nos termos da legislação, que os projetos geralmente limitam aos procuradores-gerais estaduais e outros procuradores públicos que não sejam cidadãos.
Depois que uma disposição do projeto de lei da Califórnia que permitia aos cidadãos processar foi retirada, a Workday, uma empresa de software financeiro e de RH, endossou a proposta. Workday argumenta que as ações civis dos cidadãos deixariam as decisões aos juízes, muitos dos quais não são especialistas em tecnologia, e poderiam resultar numa abordagem inconsistente da regulamentação.
“Não podemos impedir que a IA seja integrada em nossas vidas diárias, então obviamente o governo terá que intervir em algum momento, mas também faz sentido que a própria indústria queira um bom ambiente para prosperar”, disse Chandler Morse, vice-presidente de políticas públicas e assuntos corporativos na Workday.
Sorelle Friedler, professora que se concentra no preconceito da IA no Haverford College, revida.
“Geralmente é assim que a sociedade americana faz valer os nossos direitos, processando”, disse Friedler.
O senador Maroney, de Connecticut, disse que houve resistência em artigos que afirmam que ele e o deputado Giovanni Capriglione, republicano do Texas, têm “pedalado projetos de lei escritos pela indústria”, apesar de todo o dinheiro ser gasto pela indústria para fazer lobby contra a legislação.
Maroney destacou que um grupo industrial, a Consumer Technology Association, publicou anúncios e construiu um site, instando os legisladores a derrotar a legislação.
“Acredito que estamos no caminho certo. Trabalhamos em conjunto com pessoas da indústria, da academia, da sociedade civil”, disse ele.
“Todos querem se sentir seguros e estamos criando regulamentações que permitirão uma IA segura e confiável”, acrescentou.
_____
Os repórteres da Associated Press Trân Nguyễn contribuíram de Sacramento, Califórnia, Becky Bohrer contribuiu de Juneau, Alasca, Susan Haigh contribuiu de Hartford, Connecticut.
Bedayn é membro do corpo da Associated Press/Report for America Statehouse News Initiative. Report for America é um programa de serviço nacional sem fins lucrativos que coloca jornalistas em redações locais para cobrir questões secretas.
Este artigo foi gerado a partir de um feed automatizado de uma agência de notícias sem modificações no texto.
