Dona do ChatGPT lança ferramenta 'imperfeita' para detectar texto gerado por IA

Por Krystal Hu

TORONTO, Canadá (Reuters) - A OpenAI, criadora do popular chatbot ChatGPT, lançou uma ferramenta para identificar texto gerado por inteligência artificial, informou a empresa nesta quarta-feira.

O ChatGPT é um programa gratuito que gera texto em resposta a uma solicitação, incluindo artigos, ensaios, piadas e até poesia, que ganhou grande popularidade desde sua estreia em novembro, ao mesmo tempo em que criou preocupações sobre direitos autorais e plágio.

O classificador de inteligência artificial, um modelo de linguagem treinado no conjunto de dados de pares de texto, visa distinguir o texto escrito por robôs. O programa usa uma variedade de fontes para resolver problemas como campanhas automatizadas de desinformação e desonestidade acadêmica, disse a empresa.

Em seu modo beta público, a OpenAI reconhece que a ferramenta de detecção não é muito confiável em textos com menos de mil caracteres e que o texto escrito por inteligência artificial pode ser editado para enganar o classificador.

“Estamos disponibilizando este classificador publicamente para obter feedback sobre se ferramentas imperfeitas como esta são úteis”, disse a OpenAI.

“Reconhecemos que a identificação de texto escrito por inteligência artificial tem sido um ponto importante de discussão entre os educadores, e igualmente importante é reconhecer os limites e impactos dos classificadores de texto gerados por programas na sala de aula.”

Desde que o ChatGPT estreou em novembro e ganhou grande popularidade entre milhões de usuários, alguns dos maiores distritos escolares dos Estados Unidos, incluindo a cidade de Nova York, proibiram o chatbot devido a preocupações de que os alunos possam usar o software para trapacear ou plagiar trabalhos.

A OpenAI disse que está se envolvendo com educadores para discutir os recursos e limitações ao ChatGPT e continuará trabalhando na detecção de texto gerado por IA.