Os governos do Reino Unido e dos Estados Unidos assinaram um acordo no qual se comprometem a desenvolver métodos robustos para avaliar a segurança da inteligência artificial (IA) e seus modelos. Este acordo é o primeiro deste tipo – ou seja, não tem precedentes.

Para quem tem pressa:

  • Os governos do Reino Unido e dos Estados Unidos assinaram um acordo inédito para desenvolver métodos de avaliação da segurança de sistemas de inteligência artificial (IA). Tratado marca compromisso colaborativo internacional nessa área;
  • A ministra da tecnologia do Reino Unido, Michelle Donelan, destacou a importância da segurança na evolução da IA, sublinhando a necessidade de colaboração internacional para gerenciar os riscos e explorar os benefícios da tecnologia;
  • Como parte do acordo, foram estabelecidos Institutos de Segurança de IA em ambos os países, com o objetivo de avaliar a segurança dos sistemas de IA e responder ao avanço da tecnologia de “IA estreita” (que executa tarefas simples) para aplicações mais complexas, com possíveis riscos;
  • O acordo visa incorporar padrões de segurança na evolução da IA, assegurando que o progresso tecnológico seja conduzido de forma segura e responsável. Assim, o tratado oficializa esforços globais para mitigar riscos e fomentar inovações baseadas em IA.

A ministra da tecnologia do Reino Unido, Michelle Donelan, enfatizou a importância global da segurança no desenvolvimento da IA, destacando a necessidade de colaboração internacional para enfrentar os riscos associados à tecnologia, bem como explorar seu potencial.

Leia mais:

Acordo entre Reino Unido e EUA sobre IA

Imagem Pixels HunterShutterstock

O acordo expande os compromissos estabelecidos na Cúpula de Segurança de IA realizada em Bletchley Park, que contou com a presença de líderes da área – entre eles: Sam Altman (“pai” do ChatGPT), Demis Hassabis (do Google DeepMind) e Elon Musk (dono da Tesla, SpaceX e X). Ambos os países estabeleceram Institutos de Segurança de IA dedicados à avaliação da segurança dos sistemas de IA.

publicidade

As preocupações com a segurança da IA centram-se principalmente no avanço da tecnologia para além da “IA estreita”, que executa tarefas simples, para aplicações que realizam funções mais complexas, levantando questões sobre controle e possíveis riscos.

Ilustração de inteligência artificial filtrando informações
Imagem Pedro Spadoni via DALL ETechBlog

O acordo entre o Reino Unido e os EUA também visa integrar princípios de segurança na evolução da IA, não para inibir o progresso, mas para assegurar que o desenvolvimento seja feito de forma segura e responsável.

Este tratado, portanto, representa um passo significativo na cooperação internacional para promover o desenvolvimento seguro e responsável da inteligência artificial. Isso porque alinha esforços para prevenir riscos e garantir avanço tecnológico benéfico para a humanidade.