OpenAI e Anthropic firmam acordos com governo dos EUA para pesquisa e testes de IA

Postado em: 30/08/2024 | Por: Emerson Alves

As startups de inteligência artificial OpenAI e Anthropic assinaram acordos pioneiros com o governo dos Estados Unidos para garantir a segurança e a ética no desenvolvimento de novos modelos de IA.

As startups OpenAI e Anthropic, ambas líderes no desenvolvimento de inteligência artificial, firmaram acordos com o governo dos Estados Unidos para a pesquisa, teste e avaliação de seus modelos de IA. Esses acordos foram anunciados pelo U.S. Artificial Intelligence Safety Institute e marcam um passo significativo em meio ao crescente escrutínio regulatório sobre o uso seguro e ético da IA.

Leia também: Golpistas se sofisticam e usam perfis falsos e Inteligência Artificial para enganar consumidores, alerta Procon-ES.

Detalhes dos acordos de pesquisa e testes

De acordo com os termos dos acordos, o U.S. AI Safety Institute terá acesso antecipado aos novos modelos desenvolvidos pela OpenAI e Anthropic, tanto antes quanto depois de sua liberação pública. Esse acesso permitirá uma avaliação rigorosa das capacidades e dos riscos associados aos modelos de IA, colaborando para assegurar que a tecnologia seja implementada de maneira responsável.

“Uma IA segura e confiável é essencial para maximizar o impacto positivo da tecnologia. Nossa parceria com o U.S. AI Safety Institute aproveita sua vasta experiência para testar rigorosamente nossos modelos antes de seu lançamento em larga escala”, afirmou Jack Clark, cofundador e chefe de política da Anthropic, que conta com o apoio de gigantes como Amazon e Alphabet.

Importância da colaboração entre startups e governo

O objetivo desses acordos é garantir que os Estados Unidos mantenham uma liderança responsável no desenvolvimento de IA. Jason Kwon, diretor de estratégia da OpenAI, destacou a importância dessa colaboração: “Estamos convencidos de que o instituto desempenha um papel crucial na definição da liderança dos EUA no desenvolvimento responsável da IA e esperamos que nosso trabalho conjunto sirva de referência para o restante do mundo.”

A parceria não apenas facilita a pesquisa conjunta, mas também envolve o U.S. AI Safety Institute na definição de padrões de segurança que podem influenciar regulamentos globais sobre IA. Elizabeth Kelly, diretora do U.S. AI Safety Institute, mencionou que esses acordos representam um marco importante no gerenciamento responsável do futuro da IA: “Esses acordos são apenas o início, mas representam um marco importante enquanto buscamos gerenciar o futuro da IA de forma responsável.”

O papel do U.S. AI Safety Institute

Criado no ano passado como parte de uma ordem executiva do presidente Joe Biden, o U.S. AI Safety Institute tem a missão de avaliar os riscos associados a modelos de IA emergentes. O instituto também colaborará com o U.K. AI Safety Institute e fornecerá feedback contínuo às empresas sobre possíveis melhorias de segurança.

Esses acordos destacam um movimento significativo para garantir que a IA, uma tecnologia com vasto potencial de transformação, seja desenvolvida e implementada de forma a minimizar riscos e maximizar benefícios para a sociedade.