Iniciativa procura garantir que estudantes produzam trabalhos autorais, mas há incerteza sobre exatidão de ferramentas
A popularidade de programas que criam textos utilizando inteligência artificial, conhecida pela sigla IA, tem gerado preocupação na área da educação. Apesar das facilidades que a ferramenta proporciona, o mau uso tem influenciado na produção de trabalhos autorais feitos por estudantes de universidades. Como alternativa para identificar a presença de IA e plágio em textos, plataformas que detectam o uso da ferramenta têm sido utilizadas por professores.
A medida visa garantir que as atividades sejam inteiramente produzidas por alunos, mas ainda existem dúvidas sobre o quanto esses recursos são confiáveis, tanto que os desenvolvedores das plataformas destacam que os sistemas são imperfeitos e ainda estão sendo aperfeiçoados.
A discussão sobre soluções para identificar a presença de IA já é pauta entre professores de universidades. Como essa tecnologia se tornou acessível recentemente, ainda não existe um protocolo oficial que deva ser seguido por instituições educacionais. O Ministério da Educação informa que cabe a cada universidade definir suas políticas e procedimentos internos sobre o uso de tecnologia para assegurar a qualidade e ética acadêmica.
Um documento da Faculdade de Economia da UnB (Universidade de Brasília), com instruções para elaboração de resenhas, orienta que o trabalho dos alunos está sujeito a análise por ferramentas de detecção de plágio e IA, como o ZeroGPT, Turnitin e GPTZero. O Turnitin e outras plataformas já são utilizadas por instituições federais, como as de Sergipe, Espírito Santo e Mato Grosso do Sul. Os desenvolvedores dos programas reforçam que a ferramenta ainda é falha e não deve ser usada como absoluta, mas como um auxílio.
O professor e advogado de direito digital e inteligência artificial Lucas Karam explica que os programas possuem limitações, apesar dos avanços da tecnologia de detecção de textos artificiais. “Esses modelos são treinados em grandes volumes de dados para identificar características típicas de textos gerados por IA. No entanto, a precisão pode variar dependendo da qualidade dos dados de treinamento e da complexidade dos textos analisados, podendo gerar falsos positivos”, diz.
Esse foi o caso de Diana Santos, estudante de estatística na UFPR (Universidade Federal do Paraná). Ela conta que precisava fazer uma análise de um trecho do livro “Os Sertões”, de Euclides da Cunha. O professor alegou que havia detectado plágio e inteligência artificial no texto, que Diana confirma ser autoral, e decidiu zerar a nota da aluna. “Me senti injustiçada. É meio ofensivo você se dedicar para algo e alguém falar que foi feito por IA.”
Lucas afirma que confiar inteiramente nesses recursos para tomar decisões que podem impactar significativamente a vida acadêmica ou profissional de alguém pode ser problemático. “A legislação brasileira exige que decisões automatizadas sejam transparentes e que os indivíduos afetados tenham o direito de contestar essas decisões. Portanto, uma decisão baseada unicamente em um detector de IA poderia ser contestada legalmente se não houver um processo de revisão humana.”
Como funciona a detecção
A escrita feita por IA possui características que ajudam a identificá-la facilmente, como falta de profundidade, repetição de palavras, inconsistência na discussão de certos tópicos e excesso de perfeição em estrutura gramatical. Ao contrário da escrita humana, que atribui um vocabulário variado e maior personalidade ao texto, o algoritmo do detector coleta e analisa essas estruturas, se baseando na programação GPT, linguagem utilizada nos sistemas de IA, e em bancos de dados.
A OpenAI, criadora do ChatGPT, publicou um artigo declarando que detectores não são confiáveis o suficiente para que professores façam julgamentos baseados nos resultados obtidos. A plataforma afirma que conduziu uma pesquisa e concluiu que essas ferramentas, por vezes, sugerem que um texto humano é artificial.
Como parte do estudo, a empresa tentou criar um detector próprio e o pediu para analisar a Declaração da Independência dos Estados Unidos e uma peça de Shakespeare. O programa identificou que ambos foram gerados por AI.
Fonte: R7
