Ficou claro que com a chegada das Inteligências artificiais, as pessoas podem acabar usando esses textos desenfreadamente. Textos publicitários que exigem uma digital humana ou trabalhos escolares que serviriam para testar o conhecimento do aluno, agora podem estar sujeitos a serem analisados em um detector de IA.
Mas será que esses detectores de IA cumprem de fato o seu papel? Me chamo Matheus, sou redator focado em criptomoedas, e neste artigo vou destacar alguns pontos sobre a eficácia e limitação desses detectores de IA, venha comigo!
O que são Detectores de IA?
Os detectores de IA são ferramentas, geralmente softwares, projetadas originalmente e especificamente para analisar e buscar identificar se um texto, imagem ou vídeo de fato é geração por IA.
Basicamente, esses detectores recorrem a alguns padrões ou pistas que acabam escapando durante a geração do conteúdo. Por exemplo, textos gerados por IAs costumam ter algumas métricas, como previsibilidade, estrutura de escrita, parágrafos lisos, entre outros.
Os textos feitos inteiramente por humanos costumam ter uma certa imprevisibilidade e maiores variações. Claro que não tem como mensurar isso, mas os detectores buscam achar estas pistas para poder indicar qual a porcentagem daquele texto é IA.
Outro ponto interessante é que estes detectores conseguem identificar marcas d’águas que estão inseridas dentro do texto. Sim, isso existe mesmo, alguns modelos possuem indicadores de IA, mesmo que não seja um padrão ainda.
Será que os detectores de IA funcionam mesmo?
Bem como o uso das IAs foi aumentando, a demanda por detectores cresceu junto, além da dúvida se elas realmente funcionam. Existem já alguns estudos feitos que tentaram cravar de vez se esses detectores são eficazes.
Em 2023, um estudo comparou trabalhos científicos, resumos gerados por IAs com trabalhos humanos. Usando estes detectores de IA, ferramentas de detecção de plágio e também revisores humanos que não sabiam quais eram quais.
Por fim do estudo, eles identificaram que os detectores de IA conseguiram identificar que os textos criados por inteligência artificial apresentavam alta probabilidade de ser de fato IA. Já os revisores humanos tiveram uma taxa de acerto de 68% e 14% de falsos acertos.
Em outro estudo feito por Debora Weber-Wulff, uma acadêmica muito respeitada, analisou 14 ferramentas de detectores. Neste estudo, ela concluiu que as ferramentas têm um desempenho muito ruim, principalmente quando esses textos passam por leves alterações ou parafraseados, ou seja, fáceis de burlar.
Diante destas duas pesquisas, fica claro que ainda não existe um consenso se estas ferramentas de fato são eficazes em detectar o uso das IAs. Mesmo que alguns textos sejam evidentes o uso de IA, pela sua estrutura e estilo de escrita, pequenas alterações já são suficientes para enganar os detectores.
É possível burlar os Detectores de IA?
Como deu para ver no estudo que apontei feito pela acadêmica Debora Weber-Wulff, sim, tudo indica que é possível burlar os detectores de IA. Os detectores possuem algumas limitações que tendem a ficar cada vez mais evidentes, tendo em vista que as IAs estão cada dia mais evoluídas.
Os textos híbridos, ou seja, que tem partes de IA e partes humanas, dificultam bastante a detecção destas ferramentas. Acompanhado disso, grande parte dos detectores têm maiores usos em idiomas como o inglês e espanhol, e quando aplicado para usos em português, talvez não consiga exercer totalmente sua capacidade.
Ademais, hoje já existem outras ferramentas e softwares que reescrevem os textos para que possam ter maiores similaridades com textos humanos. Acrescentando mais uma barreira na detecção.
Evolução dos modelos de IA
Olhando para uma tecnologia que avança tão rápido como é o caso destas IAs, como o Grok 3, GPT 4, Claude e outras, acaba jogando os detectores para escanteio. Essas IAs conseguem criar textos cada vez mais naturais e com maior variedade linguística.
Modelos do GPT 2 eram bastante previsíveis e tinham um vocabulário bem limitado, além de facilmente previsível como IA. Atualmente com o GPT 4, o modelo avançou muito e os mesmos detectores de antes não conseguem acompanhar e cravar se o texto foi geração de IA.
Não só isso, mas com os prompts mais detalhados e específicos conseguem moldar os textos de diferentes maneiras. Em um estudo de 2023 feito pela PUBMED identificou que pequenos ajustes nos prompts já eram o suficiente para passar despercebidos nos detectores.
Falsos positivos
Uma acusação de uso de IA pode ser bem chato, especialmente quando se coloca um empenho e esforço real. Os falsos positivos são basicamente quando uma destas ferramentas acaba acusando o seu texto de forma errada.
Isso pode acontecer por alguns fatores, como tinha falado anteriormente, os detectores usam padrões e métricas para analisar os textos. Esses padrões como estrutura de frases, escolha de vocabulário ou repetitividade podem bater com o seu estilo de escrita e neste caso, seria infelizmente acusado de uso de IA, mesmo que o seu trabalho seja totalmente autoral.
Hoje, em ambientes acadêmicos, os detectores já estão sendo usados, e com essa possibilidade de falso positivo, certos impasses acabam surgindo. Já que textos autorais que usam de uma linguagem mais formal e técnica acabam caindo no falso positivo.
A desconfiança que isso gera é impactante para o desempenho de qualquer pessoa, pois mesmo que faça um trabalho com excelência e autoria, pode perder toda a credibilidade por conta de um detector de IA.
Conclusão final
Em suma, os detectores de IA sim, funcionam, mas apresentam algumas limitações em suas aplicações e podem ser facilmente burlados com pequenos ajustes. Bem como mostrei em dois estudos feitos, essas ferramentas têm uma taxa de acerto em textos comparados com humanos, mas acaba também gerando falsos positivos.
Os detectores são úteis, mas enquanto as inteligências artificiais continuarem evoluindo a passos largos, essas ferramentas poderão ser deixadas de lado. A revisão humana ainda é bastante necessária em decisões um pouco mais minuciosas.
Tá querendo aprender um pouco mais o mercado cripto? Confira quais as principais criptomoedas para o ano de 2025.
Muito obrigado pela sua leitura até, nos vemos em uma próxima análise, guia ou notícia!
