Grok-2: Nova IA do X que gera imagens e suas implicações

Postado em: 23/08/2024 | Por: Emerson Alves

O Grok-2, a mais recente atualização de Inteligência Artificial (IA) lançada pela rede social X, antiga Twitter, agora permite a geração de imagens, mas já está causando polêmica devido à falta de controles sobre o conteúdo criado.

Na terça-feira, 13 de agosto, o X, sob a propriedade de Elon Musk, lançou em versão beta o Grok-2 e o Grok-2 mini, avançando significativamente em relação à versão anterior, o Grok-1.5. A principal novidade é a capacidade de gerar imagens diretamente na plataforma, embora o acesso a essa função ainda esteja restrito a usuários Premium e Premium+.

Leia também: O poder transformador da inteligência artificial no varejo.

De acordo com uma postagem oficial no blog da xAI, a empresa responsável pela IA, o Grok-2 apresenta recursos avançados em bate-papo, codificação e raciocínio. Além disso, a empresa planeja disponibilizar ambos os modelos para desenvolvedores por meio de sua API corporativa ainda este mês, expandindo o uso da tecnologia para além dos limites da rede social.

Potencial e preocupações do Grok-2

Embora existam poucos detalhes sobre todos os recursos do Grok-2, o pesquisador independente Nima Owji destacou que a nova versão é mais eficaz na geração de código, escrita e notícias. No entanto, ainda há dúvidas quanto à precisão e segurança dessas funções, especialmente porque versões anteriores enfrentaram problemas ao resumir notícias de forma correta.

A xAI afirmou que planeja utilizar o Grok-2 em várias funções orientadas por IA dentro do X, incluindo pesquisas aprimoradas, análise de postagens e respostas automatizadas. Esses avanços indicam que a IA poderia ser integrada em mais áreas da plataforma, potencialmente revolucionando a forma como os usuários interagem no X.

Polêmicas em torno das imagens geradas

As primeiras imagens geradas pelos usuários do Grok-2 já levantaram preocupações significativas. Entre as imagens criadas, algumas mostravam figuras públicas, como o ex-presidente dos EUA Barack Obama em situações comprometedoras, e o atual candidato à presidência Donald Trump em contextos controversos. Essas criações ressaltam a falta de proteções adequadas na geração de conteúdo, o que poderia levar à disseminação de desinformação e conteúdos prejudiciais.

Embora a xAI tenha estabelecido diretrizes para evitar a criação de imagens pornográficas, violentas, odiosas ou que promovam atividades perigosas, a falta de mecanismos de controle efetivos levanta a preocupação de que o Grok-2 possa ser usado para criar deepfakes e outras formas de manipulação digital. Não está claro se as imagens geradas incluem metadados que indiquem que foram criadas por IA, o que poderia ajudar a mitigar os riscos de desinformação.

O que é Grok?

O Grok foi anunciado por Elon Musk em março como parte da estratégia da xAI para competir com outras IAs, como o ChatGPT. O modelo foi disponibilizado para assinantes Premium+ da rede social X, que pagam entre R$ 84 e R$ 110 por mês. A ferramenta funciona dentro da própria plataforma X, sem um site ou aplicativo independente.

A introdução do Grok-2 e seus recursos de geração de imagens marcam um novo capítulo na evolução das IAs voltadas para redes sociais, mas também sublinham os desafios éticos e de segurança que acompanham essas inovações. À medida que a tecnologia avança, será crucial monitorar seu uso para evitar a proliferação de conteúdos enganosos ou prejudiciais.