Os detectores de IA non serven como proba e as institucións propoñen avaliar o proceso
Os programas que prometen descubrir se un traballo o escribiu unha intelixencia artificial equivócanse, tamén co alumnado que non a usou, e nin os seus propios fabricantes aconsellan sancionar con eles. Este reportaxe explica que din os estudos, o Regulamento europeo, a protección de datos e as guías educativas, e propón un plan sen custo para avaliar con garantías en calquera materia: declarar que usos se admiten, pedir evidencias do proceso e escoitar o alumnado.
7 minutos de lectura
Unha porcentaxe que parece un veredicto
Un detector de texto xerado non comproba quen escribiu un traballo: estima, a partir de como está escrito, a probabilidade de que se pareza ao que adoita producir un modelo de linguaxe. O resultado chega como unha porcentaxe ou unha etiqueta, e esa forma numérica dálle unha aparencia de obxectividade que non ten. Un texto correcto e previsible pode parecerse ao que escribe unha máquina sen pasar por ela, e un texto xerado e retocado despois pode pasar por humano. Por iso, un detector dá, como moito, un indicio que hai que contrastar, nunca unha proba.
O problema xa saíu das aulas. O diario contou o debate sobre a «caza de bruxas» dos detectores no sector editorial, publicado o 2 de novembro de 2026: editoriais que pasaban orixinais por detectores, autores acusados que non sabían como demostrar que non usaran IA e dúas novelas de 1946 e 1969 que o mesmo detector sinalou primeiro con rastros de IA e despois como humanas. No grupo ChatGPT-IA-edu, a conversa trasladouse á avaliación do alumnado. Unha postura defendía comprobar a autoría coñecendo a persoa e contrastando con outros formatos sobre o mesmo tema; outra, fixar antes un marco claro sobre que usos da IA se autorizan e que evidencias pode achegar a persoa acusada. Houbo acordo no segundo: aclarar que se permite e para que.
O que miden os estudos
O estudo máis citado asinárono Weixin Liang, James Zou e outros investigadores da Universidade de Stanford na revista Patterns en xullo de 2023: «GPT detectors are biased against non-native English writers». Pasaron por sete detectores 91 redaccións do exame TOEFL escritas por persoas que teñen o inglés como segunda lingua. De media, os detectores clasificaron como xeradas por IA máis do 61 % desas redaccións humanas; 18 das 91 (o 19,8 %) foron sinaladas polos sete á vez, e 89 (o 97,8 %) por polo menos un. En cambio, 88 redaccións de alumnado estadounidense de oitavo curso clasificáronse case sen erros. Os autores desaconsellan con firmeza usar estes detectores en contextos educativos ou de avaliación.
Ese mesmo ano, Debora Weber-Wulff e sete coautores probaron catorce ferramentas, entre elas as comerciais Turnitin e PlagiarismCheck, no estudo «Testing of Detection Tools for AI-Generated Text», publicado no International Journal for Educational Integrity. A súa conclusión é que as ferramentas dispoñibles «are neither accurate nor reliable»: tenden a clasificar como humano o xerado, e abonda con retocar ou disfrazar o texto para que funcionen bastante peor.
Para o castelán hai datos máis recentes. Sheila Queralt, Beatriz Esparcia, Marco R. Lessi, Lucía Sánchez-Vecina e Laura Úbeda Cuspinera publicaron en setembro de 2025, na revista Intelética, «¿IA, Humano o híbrido?: Fiabilidad de herramientas de detección de IA en textos multiautoría». Con 180 textos en español, humanos, xerados con ChatGPT, Gemini e Grok, e mixtos, compararon Originality.ai, GPTZero e Copyleaks. Originality.ai tivo o mellor rendemento global e GPTZero, a menor taxa de falsos positivos, pero ningunha das tres acadou unha fiabilidade aceptable cos textos híbridos, e as autoras observaron clasificacións erróneas feitas con alta confianza.
Redaccións escritas por persoas que os detectores tomaron por textos de IA
OpenAI, a empresa de ChatGPT, lanzou en xaneiro de 2023 o seu propio clasificador de texto e retirouno o 20 de xullo dese ano. Segundo a nota engadida ao seu anuncio, fíxoo pola súa baixa precisión: nas súas probas, identificaba como probablemente xerado o 26 % dos textos escritos por IA e etiquetaba así, por erro, o 9 % dos humanos.
Turnitin, o detector máis estendido nas universidades, admite no seu blog que o risco de erro non é cero. En marzo de 2023, a súa directora de produto, Annie Chechitelli, escribía que, como a taxa de falsos positivos non é cero, o docente «will need to apply your professional judgment» («terá que aplicar o seu criterio profesional»). En xuño de 2023 daba as súas propias cifras: menos do 1 % de falsos positivos por documento nos que teñen polo menos un 20 % de escritura con IA e arredor do 4 % por frase, e pedía usar o resultado «to initiate a conversation, not to draw a conclusion» («para iniciar unha conversa, non para tirar unha conclusión»). Son datos da propia empresa.
GPTZero é aínda máis explícito na súa páxina de limitacións: «These results should not be used to punish students» («Estes resultados non deben usarse para castigar o alumnado»). Engade que a súa precisión é maior con textos parecidos aos do seu conxunto de adestramento, na súa maioría prosa en inglés escrita por adultos, e que o texto moi editado é máis difícil de clasificar.
O marco europeo e español
O Regulamento europeo de intelixencia artificial considera de alto risco, no punto 3 do seu anexo III, os sistemas destinados a avaliar os resultados da aprendizaxe e os destinados ao seguimento e á detección de comportamentos prohibidos dos estudantes durante os exames. Alto risco non significa prohibido, senón suxeito a obrigas estritas, entre elas a supervisión humana. Segundo a Comisión Europea, na súa páxina actualizada o 19 de outubro de 2026, esas obrigas aprazáronse ao 2 de decembro de 2027, mentres que a de alfabetización en IA aplícase desde o 2 de febreiro de 2025.
A protección de datos engade dúas cautelas. Sen referirse aos detectores, a Axencia Española de Protección de Datos lembra no seu blog que o artigo 22 do RXPD recoñece o dereito a non ser obxecto dunha decisión baseada unicamente nun tratamento automatizado, que non vale «inventarse» unha participación humana e que a persoa que supervisa pode caer no sesgo de automatización, é dicir, aceptar sen cuestionar o que di a máquina. Ademais, nun asunto próximo, o das clases e exames en liña, a AEPD indica que as ferramentas as elixen o centro ou a administración educativa, co asesoramento do seu delegado de protección de datos, e que o profesorado debería usar as que se poñen á súa disposición.
Entre as administracións educativas, a que se pronuncia con máis claridade é Cataluña. As súas Orientacions per a l’ús de la intel·ligència artificial als centres educatius, publicadas polo Departament d’Educació i Formació Professional en setembro de 2026 e reseñadas na Biblioteca do diario, xustifican a súa prudencia, entre outras razóns, en que os detectores non dan garantías suficientes, sobre todo fóra do inglés, e conclúen que son desaconsellables: «els millors detectors continuen sent les persones». Tamén establecen que a IA non debe cualificar nin determinar o grao de logro, por tratarse dun uso de alto risco segundo o Regulamento europeo.
No ámbito estatal, a Guía sobre o uso da intelixencia artificial no ámbito educativo do INTEF, na súa versión 2.0 publicada o 8 de setembro de 2026, trata a integridade académica e inclúe un modelo de declaración de uso da IA e un cuestionario para que o alumnado reflexione sobre a súa relación con ela. O diario non atopou noutras guías autonómicas un pronunciamento tan expreso sobre os detectores como o catalán.
Do produto ao proceso
A alternativa que máis se repite nas institucións non é vixiar mellor, senón avaliar doutra maneira. O informe do comité do MIT sobre a IA no ensino, datado o 13 de agosto de 2026 e explicado na Biblioteca do diario, pide que o profesorado revise primeiro os seus obxectivos de aprendizaxe e só despois deseñe avaliacións adaptadas á IA. Propón exames orais, portfolios semestrais e traballos fóra da aula acompañados dunha conversa en clase, e que cada materia teña unha política clara sobre a IA, comunicada cun formato estándar.
Sobre a vixilancia, o informe recomenda non fiarse dos detectores, lembra que poden confundir con IA a escritura das persoas que non teñen o inglés como lingua materna e sinala que o propio comité disciplinario do MIT non considera suficiente, por si só, o resultado dun detector. Prefire outras evidencias: plataformas que gardan o historial de versións, entregas parciais con datas e comentarios do docente en varias etapas, non só sobre o produto final.
Para decidir que uso se admite en cada tarefa existe unha ferramenta moi difundida, a AI Assessment Scale, creada por Mike Perkins, Jasper Roe, Leon Furze e Jason MacVaugh e revisada en decembro de 2024 nun artigo asinado, entre outros, por Perkins, Roe e Furze. Ten cinco niveis: sen IA, planificación con IA, colaboración con IA, uso pleno da IA e exploración con IA. Os seus responsables presentana como unha ferramenta para decidir que papel ten a IA nunha tarefa e redeseñala, e está traducida a máis de trinta linguas.
Un plan para calquera materia
As guías non presentan a IA só como ameaza na avaliación. As Orientacions catalás admiten que axude a crear instrumentos de avaliación, a corrixir respostas inequívocas ou a detectar erros frecuentes, sempre con datos seudonimizados, e piden deseñar actividades que esixan interpretación e unha posición persoal. A decisión sobre unha nota ou unha sanción ten que tomala unha persoa que poida cambiala, non un programa.
Con isto, un docente pode comezar sen pagar nada. Primeiro, decidir e escribir en cada tarefa que usos da IA se admiten e por que, cunha escala sinxela como a de cinco niveis, e pedir ao alumnado que declare como a usou; o modelo do INTEF serve de punto de partida. Segundo, pedir evidencias do proceso: un esquema previo, borradores, o historial de versións do documento ou entregas por etapas con comentarios.
Terceiro, engadir unha explicación breve, oral ou escrita en clase, na que o alumno conte coas súas palabras que fixo, por que tomou as súas decisións e que aprendeu; serve igual en primaria, en ESO ou en FP. Cuarto, redeseñar algunha tarefa para que dependa do traballado na aula, de datos propios ou dunha opinión argumentada. E, se algo non encaixa, conversar antes de acusar.
O que convén non facer está igual de claro: cualificar con IA, sancionar pola porcentaxe dun detector ou subir traballos do alumnado a servizos que o centro non autorizou. Cando haxa dúbidas sobre unha ferramenta, o delegado de protección de datos da administración educativa pode asesorar.
Os detectores de IA non serven como proba e as institucións propoñen avaliar o proceso
Os programas que prometen descubrir se un traballo o escribiu unha intelixencia artificial equivócanse, tamén co alumnado que non a usou, e nin os seus propios fabricantes aconsellan sancionar con eles. Este reportaxe explica que din os estudos, o Regulamento europeo, a protección de datos e as guías educativas, e propón un plan sen custo para avaliar con garantías en calquera materia: declarar que usos se admiten, pedir evidencias do proceso e escoitar o alumnado.
Unha porcentaxe que parece un veredicto
Un detector de texto xerado non comproba quen escribiu un traballo: estima, a partir de como está escrito, a probabilidade de que se pareza ao que adoita producir un modelo de linguaxe. O resultado chega como unha porcentaxe ou unha etiqueta, e esa forma numérica dálle unha aparencia de obxectividade que non ten. Un texto correcto e previsible pode parecerse ao que escribe unha máquina sen pasar por ela, e un texto xerado e retocado despois pode pasar por humano. Por iso, un detector dá, como moito, un indicio que hai que contrastar, nunca unha proba.
O problema xa saíu das aulas. O diario contou o debate sobre a «caza de bruxas» dos detectores no sector editorial, publicado o 2 de novembro de 2026: editoriais que pasaban orixinais por detectores, autores acusados que non sabían como demostrar que non usaran IA e dúas novelas de 1946 e 1969 que o mesmo detector sinalou primeiro con rastros de IA e despois como humanas. No grupo ChatGPT-IA-edu, a conversa trasladouse á avaliación do alumnado. Unha postura defendía comprobar a autoría coñecendo a persoa e contrastando con outros formatos sobre o mesmo tema; outra, fixar antes un marco claro sobre que usos da IA se autorizan e que evidencias pode achegar a persoa acusada. Houbo acordo no segundo: aclarar que se permite e para que.
O que miden os estudos
O estudo máis citado asinárono Weixin Liang, James Zou e outros investigadores da Universidade de Stanford na revista Patterns en xullo de 2023: «GPT detectors are biased against non-native English writers». Pasaron por sete detectores 91 redaccións do exame TOEFL escritas por persoas que teñen o inglés como segunda lingua. De media, os detectores clasificaron como xeradas por IA máis do 61 % desas redaccións humanas; 18 das 91 (o 19,8 %) foron sinaladas polos sete á vez, e 89 (o 97,8 %) por polo menos un. En cambio, 88 redaccións de alumnado estadounidense de oitavo curso clasificáronse case sen erros. Os autores desaconsellan con firmeza usar estes detectores en contextos educativos ou de avaliación.
Ese mesmo ano, Debora Weber-Wulff e sete coautores probaron catorce ferramentas, entre elas as comerciais Turnitin e PlagiarismCheck, no estudo «Testing of Detection Tools for AI-Generated Text», publicado no International Journal for Educational Integrity. A súa conclusión é que as ferramentas dispoñibles «are neither accurate nor reliable»: tenden a clasificar como humano o xerado, e abonda con retocar ou disfrazar o texto para que funcionen bastante peor.
Para o castelán hai datos máis recentes. Sheila Queralt, Beatriz Esparcia, Marco R. Lessi, Lucía Sánchez-Vecina e Laura Úbeda Cuspinera publicaron en setembro de 2025, na revista Intelética, «¿IA, Humano o híbrido?: Fiabilidad de herramientas de detección de IA en textos multiautoría». Con 180 textos en español, humanos, xerados con ChatGPT, Gemini e Grok, e mixtos, compararon Originality.ai, GPTZero e Copyleaks. Originality.ai tivo o mellor rendemento global e GPTZero, a menor taxa de falsos positivos, pero ningunha das tres acadou unha fiabilidade aceptable cos textos híbridos, e as autoras observaron clasificacións erróneas feitas con alta confianza.
Redaccións escritas por persoas que os detectores tomaron por textos de IA
OpenAI, a empresa de ChatGPT, lanzou en xaneiro de 2023 o seu propio clasificador de texto e retirouno o 20 de xullo dese ano. Segundo a nota engadida ao seu anuncio, fíxoo pola súa baixa precisión: nas súas probas, identificaba como probablemente xerado o 26 % dos textos escritos por IA e etiquetaba así, por erro, o 9 % dos humanos.
Turnitin, o detector máis estendido nas universidades, admite no seu blog que o risco de erro non é cero. En marzo de 2023, a súa directora de produto, Annie Chechitelli, escribía que, como a taxa de falsos positivos non é cero, o docente «will need to apply your professional judgment» («terá que aplicar o seu criterio profesional»). En xuño de 2023 daba as súas propias cifras: menos do 1 % de falsos positivos por documento nos que teñen polo menos un 20 % de escritura con IA e arredor do 4 % por frase, e pedía usar o resultado «to initiate a conversation, not to draw a conclusion» («para iniciar unha conversa, non para tirar unha conclusión»). Son datos da propia empresa.
GPTZero é aínda máis explícito na súa páxina de limitacións: «These results should not be used to punish students» («Estes resultados non deben usarse para castigar o alumnado»). Engade que a súa precisión é maior con textos parecidos aos do seu conxunto de adestramento, na súa maioría prosa en inglés escrita por adultos, e que o texto moi editado é máis difícil de clasificar.
O marco europeo e español
O Regulamento europeo de intelixencia artificial considera de alto risco, no punto 3 do seu anexo III, os sistemas destinados a avaliar os resultados da aprendizaxe e os destinados ao seguimento e á detección de comportamentos prohibidos dos estudantes durante os exames. Alto risco non significa prohibido, senón suxeito a obrigas estritas, entre elas a supervisión humana. Segundo a Comisión Europea, na súa páxina actualizada o 19 de outubro de 2026, esas obrigas aprazáronse ao 2 de decembro de 2027, mentres que a de alfabetización en IA aplícase desde o 2 de febreiro de 2025.
A protección de datos engade dúas cautelas. Sen referirse aos detectores, a Axencia Española de Protección de Datos lembra no seu blog que o artigo 22 do RXPD recoñece o dereito a non ser obxecto dunha decisión baseada unicamente nun tratamento automatizado, que non vale «inventarse» unha participación humana e que a persoa que supervisa pode caer no sesgo de automatización, é dicir, aceptar sen cuestionar o que di a máquina. Ademais, nun asunto próximo, o das clases e exames en liña, a AEPD indica que as ferramentas as elixen o centro ou a administración educativa, co asesoramento do seu delegado de protección de datos, e que o profesorado debería usar as que se poñen á súa disposición.
Entre as administracións educativas, a que se pronuncia con máis claridade é Cataluña. As súas Orientacions per a l’ús de la intel·ligència artificial als centres educatius, publicadas polo Departament d’Educació i Formació Professional en setembro de 2026 e reseñadas na Biblioteca do diario, xustifican a súa prudencia, entre outras razóns, en que os detectores non dan garantías suficientes, sobre todo fóra do inglés, e conclúen que son desaconsellables: «els millors detectors continuen sent les persones». Tamén establecen que a IA non debe cualificar nin determinar o grao de logro, por tratarse dun uso de alto risco segundo o Regulamento europeo.
No ámbito estatal, a Guía sobre o uso da intelixencia artificial no ámbito educativo do INTEF, na súa versión 2.0 publicada o 8 de setembro de 2026, trata a integridade académica e inclúe un modelo de declaración de uso da IA e un cuestionario para que o alumnado reflexione sobre a súa relación con ela. O diario non atopou noutras guías autonómicas un pronunciamento tan expreso sobre os detectores como o catalán.
Do produto ao proceso
A alternativa que máis se repite nas institucións non é vixiar mellor, senón avaliar doutra maneira. O informe do comité do MIT sobre a IA no ensino, datado o 13 de agosto de 2026 e explicado na Biblioteca do diario, pide que o profesorado revise primeiro os seus obxectivos de aprendizaxe e só despois deseñe avaliacións adaptadas á IA. Propón exames orais, portfolios semestrais e traballos fóra da aula acompañados dunha conversa en clase, e que cada materia teña unha política clara sobre a IA, comunicada cun formato estándar.
Sobre a vixilancia, o informe recomenda non fiarse dos detectores, lembra que poden confundir con IA a escritura das persoas que non teñen o inglés como lingua materna e sinala que o propio comité disciplinario do MIT non considera suficiente, por si só, o resultado dun detector. Prefire outras evidencias: plataformas que gardan o historial de versións, entregas parciais con datas e comentarios do docente en varias etapas, non só sobre o produto final.
Para decidir que uso se admite en cada tarefa existe unha ferramenta moi difundida, a AI Assessment Scale, creada por Mike Perkins, Jasper Roe, Leon Furze e Jason MacVaugh e revisada en decembro de 2024 nun artigo asinado, entre outros, por Perkins, Roe e Furze. Ten cinco niveis: sen IA, planificación con IA, colaboración con IA, uso pleno da IA e exploración con IA. Os seus responsables presentana como unha ferramenta para decidir que papel ten a IA nunha tarefa e redeseñala, e está traducida a máis de trinta linguas.
Un plan para calquera materia
As guías non presentan a IA só como ameaza na avaliación. As Orientacions catalás admiten que axude a crear instrumentos de avaliación, a corrixir respostas inequívocas ou a detectar erros frecuentes, sempre con datos seudonimizados, e piden deseñar actividades que esixan interpretación e unha posición persoal. A decisión sobre unha nota ou unha sanción ten que tomala unha persoa que poida cambiala, non un programa.
Con isto, un docente pode comezar sen pagar nada. Primeiro, decidir e escribir en cada tarefa que usos da IA se admiten e por que, cunha escala sinxela como a de cinco niveis, e pedir ao alumnado que declare como a usou; o modelo do INTEF serve de punto de partida. Segundo, pedir evidencias do proceso: un esquema previo, borradores, o historial de versións do documento ou entregas por etapas con comentarios.
Terceiro, engadir unha explicación breve, oral ou escrita en clase, na que o alumno conte coas súas palabras que fixo, por que tomou as súas decisións e que aprendeu; serve igual en primaria, en ESO ou en FP. Cuarto, redeseñar algunha tarefa para que dependa do traballado na aula, de datos propios ou dunha opinión argumentada. E, se algo non encaixa, conversar antes de acusar.
O que convén non facer está igual de claro: cualificar con IA, sancionar pola porcentaxe dun detector ou subir traballos do alumnado a servizos que o centro non autorizou. Cando haxa dúbidas sobre unha ferramenta, o delegado de protección de datos da administración educativa pode asesorar.
Claves
Un detector de texto xerado dá, como moito, un indicio: os estudos independentes atópano pouco fiable e especialmente inxusto co alumnado que escribe nunha segunda lingua.
En castelán, ningún dos tres detectores probados por Queralt e o seu equipo en 2025 foi fiable con textos mixtos de persoa e IA.
Os propios fabricantes advirten: OpenAI retirou o seu clasificador en 2023 por baixa precisión, Turnitin pide usar o resultado para conversar e GPTZero, non para castigar.
O Regulamento europeo considera de alto risco a IA que avalía a aprendizaxe, e Cataluña desaconsella os detectores e cualificar con IA.
A alternativa é avaliar o proceso: usos de IA declarados por tarefa, borradores e historial de versións, entregas por etapas e unha explicación oral breve.