OpenAI dará acesso a seus modelos de linguagem ao governo dos EUA

Postado em: 30/08/2024 | Por: Emerson Alves

A OpenAI firmou um acordo com o governo dos Estados Unidos para permitir acesso antecipado aos seus novos modelos de linguagem, visando identificar possíveis riscos de segurança antes do lançamento público.

A OpenAI, conhecida por ser a criadora do ChatGPT, chegou a um acordo significativo com o governo dos Estados Unidos para conceder acesso a seus modelos de linguagem antes de serem lançados. Esse acordo faz parte de um esforço para garantir a segurança e identificar potenciais riscos associados a esses modelos de inteligência artificial (IA).

Leia também: Novo sistema de IA revoluciona a validação de renda e emprego no setor financeiro.

Os modelos de linguagem, como o ChatGPT, são programas avançados que permitem a geração de texto, imagens ou som a partir de instruções dadas em linguagem comum. O acordo foi feito através do AI Safety Institute, um instituto de segurança para inteligência artificial criado em 2023 pela administração do presidente Joe Biden.

Colaboração com Anthropic

Além da OpenAI, o instituto também firmou um acordo similar com a Anthropic, uma startup concorrente no campo da IA. Ambas as empresas se comprometeram a colaborar com o AI Safety Institute para avaliar as capacidades de seus modelos e os riscos de segurança que possam surgir com seu uso.

Esses acordos incluem trabalhar em métodos para gerenciar os riscos identificados, com o objetivo de garantir que a tecnologia seja desenvolvida e utilizada de forma responsável. Elizabeth Kelly, diretora do AI Safety Institute, destacou que “esses acordos são apenas um começo, mas marcam uma etapa importante para ajudar a orientar o futuro da IA em direção a uma abordagem responsável”.

Importância de uma IA segura

Com o avanço dos modelos de linguagem, suas capacidades aumentam, mas também os riscos associados, especialmente no que diz respeito ao uso mal-intencionado dessas tecnologias. Jack Clark, cofundador da Anthropic, enfatizou que “uma IA segura e confiável é determinante para que essa tecnologia possa ter um impacto positivo”.

O acordo entre a OpenAI, Anthropic e o governo dos EUA reflete uma preocupação crescente com os riscos potenciais das tecnologias de IA e a necessidade de estabelecer diretrizes para seu desenvolvimento e implementação seguros.