A Casa Branca determinou que agências federais dos Estados Unidos implementem medidas de proteção ao usar inteligência artificial (IA) para salvaguardar direitos e segurança dos cidadãos, segundo a agência de notícias Reuters.

Para quem tem pressa:

  • A Casa Branca exige que agências federais dos EUA implementem medidas de proteção ao usar inteligência artificial (IA), incluindo transparência e avaliação dos impactos sociais, para mitigar riscos como a discriminação algorítmica;
  • Agências devem monitorar e avaliar o uso da IA, com ênfase na transparência e na mitigação de riscos, incluindo a divulgação pública de informações sobre as aplicações de IA do governo;
  • Iniciativas incluem optar por não usar reconhecimento facial em aeroportos e supervisão humana em decisões diagnósticas na saúde, além de exigências de compartilhamento de testes de segurança para sistemas de IA relacionados à segurança nacional ou pública;
  • A administração do presidente Joe Biden tem aumentado a transparência no uso governamental de IA ao contratar especialistas e designar oficiais de IA nas agências, visando também controlar o acesso estrangeiro a dados usados para treinar modelos de IA.

Entre essas medidas de proteção, estão a exigência de transparência e a avaliação dos impactos da IA na sociedade. A meta desta determinação da Casa Branca é mitigar riscos de discriminação algorítmica.

Leia mais:

Determinações dos EUA sobre IA

Ilustração de cérebro humano com diversas formas de conteúdo em holograma para representar conceito de inteligência artificial
Imagem Pedro Spadoni via DALL ETechBlog

Uma diretriz do Escritório de Gerenciamento e Orçamento orienta as agências a monitorar e avaliar a IA, focando na transparência e na mitigação de riscos. Isso inclui avaliações de impacto e estabelecimento de métricas de governança.

publicidade

Salvaguardas específicas devem ser adotadas pelas agências para regular o uso da IA, com requisitos de divulgação pública detalhada sobre as aplicações de IA pelo governo, visando informar o público sobre o uso governamental da tecnologia.

Em outubro de 2023, o presidente dos EUA, Joe Biden, assinou uma ordem executiva (iniciativa formal do chefe do Executivo com força de lei) para regular o desenvolvimento de IA que possa impactar a segurança nacional ou pública. A ordem exigia que os resultados dos testes de segurança desses sistemas fossem compartilhados com o governo estadunidense antes de seu lançamento.

Outras medidas

Ilustração de mão robótica segurando folha de papel com quadrados rosas em volta
Imagem Rawpixel

Medidas adicionais incluem garantias de que os passageiros possam optar por não usar o reconhecimento facial em aeroportos sem atrasos e a supervisão humana de decisões diagnósticas na área de saúde que utilizam IA.

A administração de Biden expressa preocupações com a IA generativa, que tem potencial tanto para inovação quanto para riscos, incluindo impactos no emprego (Reino Unido que o diga), na estabilidade eleitoral e na autonomia humana.

As agências federais deverão tornar públicos seus inventários de uso de IA, métricas e, quando seguro, seus códigos e dados, promovendo transparência e responsabilidade no uso governamental da IA.

A Casa Branca também tem tomado medidas proativas ao contratar especialistas em IA e exigir que as agências designem oficiais responsáveis pela IA, além de propor regulações para controlar o acesso estrangeiro a dados nos EUA usados para treinar modelos de IA.