O que é o GPTZero, detector de IA para chatbots

Postado em: 24/08/2024 | Por: Emerson Alves

O GPTZero é uma ferramenta desenvolvida para detectar textos gerados por chatbots de inteligência artificial, mas enfrenta controvérsias devido a casos de falsos positivos.

Com o aumento da popularidade dos chatbots de IA, como o ChatGPT da OpenAI, surgiram preocupações sobre o uso indevido dessa tecnologia, especialmente em trabalhos acadêmicos. Em resposta a essas preocupações, foi criado o GPTZero, um software lançado em janeiro de 2023, projetado para identificar textos escritos por bots de IA. Desenvolvido por Edward Tian, Alex Cui e Yazan Mimi, o GPTZero rapidamente ganhou notoriedade, mas também gerou debates sobre sua precisão e confiabilidade.

Leia também: Nvidia: Projeções para o trimestre são altas, apesar de desconfianças recentes – possibilidade de novo rali no mercado.

O que é o GPTZero?

O GPTZero foi criado com o objetivo de detectar textos gerados por chatbots, como o ChatGPT, lançado em novembro de 2022. A motivação principal para seu desenvolvimento foi combater possíveis casos de plágio em trabalhos acadêmicos, uma preocupação crescente com o avanço das ferramentas de IA. Edward Tian, então estudante da Universidade de Princeton, nos Estados Unidos, liderou o desenvolvimento da ferramenta, que em sua primeira semana de lançamento alcançou 30 mil usuários.

Como o GPTZero funciona?

O GPTZero utiliza dois principais indicadores para determinar se um texto foi escrito por uma IA: perplexidade e explosão. A perplexidade mede a complexidade do texto. Se o GPTZero se mostra “perplexo” com o conteúdo, isso sugere uma alta complexidade, indicando que o texto pode ter sido escrito por um humano. Em contrapartida, textos mais familiares para o bot, e com baixa complexidade, são mais prováveis de terem sido gerados por IA.

A explosão, por outro lado, avalia as variações nas frases. Textos escritos por humanos tendem a ter variações significativas, com frases longas e complexas ao lado de outras mais curtas. Já textos gerados por IA são geralmente mais uniformes, o que o GPTZero usa como um dos critérios para identificar sua origem.

Controvérsias e críticas

Apesar de seu propósito inovador, o GPTZero não está isento de críticas. A ferramenta foi acusada de gerar falsos positivos, ou seja, de identificar incorretamente textos como sendo criados por IA quando na verdade foram escritos por humanos. Esse problema é particularmente preocupante em contextos acadêmicos, onde uma acusação de plágio pode ter consequências graves.

O site Futurism, ao testar o GPTZero, relatou que a ferramenta, apesar de ser “impressionante”, poderia levar a “acusações falsas contra quase 20% dos alunos inocentes”. Outro artigo do Washington Post destacou que, mesmo uma pequena taxa de erro em falsos positivos pode resultar em acusações injustas de plágio.

O futuro do GPTZero

Embora o GPTZero represente um avanço significativo na detecção de textos gerados por IA, suas limitações levantam questões sobre sua aplicação em contextos críticos, como o ambiente acadêmico. A necessidade de aprimorar a precisão da ferramenta é evidente, especialmente para evitar as potenciais injustiças que os falsos positivos podem causar.

Conforme a tecnologia avança, é provável que veremos melhorias no GPTZero e em ferramentas semelhantes, à medida que os desenvolvedores buscam equilibrar a detecção eficaz com a minimização de erros. Até lá, a cautela continua sendo essencial ao utilizar essas ferramentas para tomar decisões importantes.