Salta al contingut
Any INúmero 14

Diari d'IA Educativa

La intel·ligència artificial, explicada des de tres comunitats docents

https://diarioiaeducativa.github.io/ca/2026-11-14/detectores-ia-evaluar-proceso.html

El reportatge del diumenge 15 de novembre

Avaluació i IA

Els detectors d'IA no serveixen com a prova i les institucions proposen avaluar el procés

Els programes que prometen descobrir si un treball l'ha escrit una intel·ligència artificial s'equivoquen, també amb l'alumnat que no l'ha feta servir, i ni els seus propis fabricants aconsellen sancionar-hi. Aquest reportatge explica què diuen els estudis, el Reglament europeu, la protecció de dades i les guies educatives, i proposa un pla sense cost per avaluar amb garanties en qualsevol matèria: declarar quins usos s'admeten, demanar evidències del procés i escoltar l'alumnat.

8 minuts de lectura

Un percentatge que sembla un veredicte

Un detector de text generat no comprova qui ha escrit un treball: estima, a partir de com està escrit, la probabilitat que s'assembli al que sol produir un model de llenguatge. El resultat arriba com un percentatge o una etiqueta, i aquesta forma numèrica li dona una aparença d'objectivitat que no té. Un text correcte i previsible pot assemblar-se al que escriu una màquina sense haver-hi passat, i un text generat i retocat després pot passar per humà. Per això, un detector dona, com a molt, un indici que cal contrastar, mai una prova.

El problema ja ha sortit de les aules. El diari va explicar el debat sobre la «caça de bruixes» dels detectors al sector editorial, publicat el 2 de novembre de 2026: editorials que passaven manuscrits per detectors, autors acusats que no sabien com demostrar que no havien fet servir IA i dues novel·les de 1946 i 1969 que el mateix detector va assenyalar primer amb rastres d'IA i després com a humanes. Al grup ChatGPT-IA-edu, la conversa es va traslladar a l'avaluació de l'alumnat. Una postura defensava comprovar l'autoria coneixent la persona i contrastant amb altres formats sobre el mateix tema; una altra, fixar abans un marc clar sobre quins usos de la IA s'autoritzen i quines evidències pot aportar la persona acusada. Hi va haver acord en el segon punt: aclarir què es permet i per a què.

El que mesuren els estudis

L'estudi més citat el van signar Weixin Liang, James Zou i altres investigadors de la Universitat de Stanford a la revista Patterns el juliol de 2023: «GPT detectors are biased against non-native English writers». Van passar per set detectors 91 redaccions de l'examen TOEFL escrites per persones que tenen l'anglès com a segona llengua. De mitjana, els detectors van classificar com a generades per IA més del 61 % d'aquestes redaccions humanes; 18 de les 91 (el 19,8 %) van ser assenyalades pels set alhora, i 89 (el 97,8 %) per almenys un. En canvi, 88 redaccions d'alumnat nord-americà de vuitè curs es van classificar gairebé sense errors. Els autors desaconsellen amb fermesa fer servir aquests detectors en contextos educatius o d'avaluació.

Aquell mateix any, Debora Weber-Wulff i set coautors van provar catorze eines, entre les quals les comercials Turnitin i PlagiarismCheck, a l'estudi «Testing of Detection Tools for AI-Generated Text», publicat a l'International Journal for Educational Integrity. La seva conclusió és que les eines disponibles «are neither accurate nor reliable»: tendeixen a classificar com a humà el que és generat, i n'hi ha prou de retocar o disfressar el text perquè funcionin bastant pitjor.

Per al castellà hi ha dades més recents. Sheila Queralt, Beatriz Esparcia, Marco R. Lessi, Lucía Sánchez-Vecina i Laura Úbeda Cuspinera van publicar el setembre de 2025, a la revista Intelética, «¿IA, Humano o híbrido?: Fiabilidad de herramientas de detección de IA en textos multiautoría». Amb 180 textos en espanyol, humans, generats amb ChatGPT, Gemini i Grok, i mixtos, van comparar Originality.ai, GPTZero i Copyleaks. Originality.ai va tenir el millor rendiment global i GPTZero, la taxa més baixa de falsos positius, però cap de les tres no va assolir una fiabilitat acceptable amb els textos híbrids, i les autores van observar classificacions errònies fetes amb alta confiança.

Redaccions escrites per persones que els detectors van prendre per textos d'IA

Assenyalades per almenys un dels set detectors97,8 %Mitjana dels set detectors61,3 %Assenyalades pels set alhora19,8 %
Font: Liang y otros, «GPT detectors are biased against non-native English writers», Patterns, 2023. 91 redaccions de l'examen TOEFL de persones amb l'anglès com a segona llengua

El que adverteixen els fabricants

OpenAI, l'empresa de ChatGPT, va llançar el gener de 2023 el seu propi classificador de text i el va retirar el 20 de juliol d'aquell any. Segons la nota afegida al seu anunci, ho va fer per la seva baixa precisió: a les seves proves, identificava com a probablement generat el 26 % dels textos escrits per IA i etiquetava així, per error, el 9 % dels humans.

Turnitin, el detector més estès a les universitats, admet al seu blog que el risc d'error no és zero. El març de 2023, la seva directora de producte, Annie Chechitelli, escrivia que, com que la taxa de falsos positius no és zero, el docent «will need to apply your professional judgment» («haurà d'aplicar el seu criteri professional»). El juny de 2023 donava les seves pròpies xifres: menys de l'1 % de falsos positius per document en els que tenen almenys un 20 % d'escriptura amb IA i al voltant del 4 % per frase, i demanava fer servir el resultat «to initiate a conversation, not to draw a conclusion» («per iniciar una conversa, no per treure'n una conclusió»). Són dades de la mateixa empresa.

GPTZero és encara més explícit a la seva pàgina de limitacions: «These results should not be used to punish students» («Aquests resultats no s'han de fer servir per castigar l'alumnat»). Hi afegeix que la seva precisió és més alta amb textos semblants als del seu conjunt d'entrenament, la majoria prosa en anglès escrita per adults, i que el text molt editat és més difícil de classificar.

El marc europeu i espanyol

El Reglament europeu d'intel·ligència artificial considera d'alt risc, al punt 3 del seu annex III, els sistemes destinats a avaluar els resultats de l'aprenentatge i els destinats al seguiment i la detecció de comportaments prohibits dels estudiants durant els exàmens. Alt risc no vol dir prohibit, sinó subjecte a obligacions estrictes, entre les quals la supervisió humana. Segons la Comissió Europea, a la seva pàgina actualitzada el 19 d'octubre de 2026, aquestes obligacions s'han ajornat al 2 de desembre de 2027, mentre que la d'alfabetització en IA s'aplica des del 2 de febrer de 2025.

La protecció de dades hi afegeix dues cauteles. Sense referir-se als detectors, l'Agencia Española de Protección de Datos recorda al seu blog que l'article 22 del RGPD reconeix el dret a no ser objecte d'una decisió basada únicament en un tractament automatitzat, que no val «inventar-se» una participació humana i que la persona que supervisa pot caure en el biaix d'automatització, és a dir, acceptar sense qüestionar el que diu la màquina. A més, en un assumpte proper, el de les classes i els exàmens en línia, l'AEPD indica que les eines les trien el centre o l'administració educativa, amb l'assessorament del seu delegat de protecció de dades, i que el professorat hauria de fer servir les que es posen a la seva disposició.

Entre les administracions educatives, la que es pronuncia amb més claredat és Catalunya. Les seves Orientacions per a l'ús de la intel·ligència artificial als centres educatius, publicades pel Departament d'Educació i Formació Professional el setembre de 2026 i ressenyades a la Biblioteca del diari, justifiquen la seva prudència, entre altres raons, en el fet que els detectors no donen garanties suficients, sobretot fora de l'anglès, i conclouen que són desaconsellables: «els millors detectors continuen sent les persones». També estableixen que la IA no ha de qualificar ni determinar el grau d'assoliment, perquè és un ús d'alt risc segons el Reglament europeu.

A l'àmbit estatal, la Guía sobre el uso de la inteligencia artificial en el ámbito educativo de l'INTEF, en la seva versió 2.0 publicada el 8 de setembre de 2026, tracta la integritat acadèmica i inclou un model de declaració d'ús de la IA i un qüestionari perquè l'alumnat reflexioni sobre la seva relació amb ella. El diari no ha trobat en altres guies autonòmiques un pronunciament tan exprés sobre els detectors com el català.

Del producte al procés

L'alternativa que més es repeteix a les institucions no és vigilar millor, sinó avaluar d'una altra manera. L'informe del comitè del MIT sobre la IA en l'ensenyament, datat el 13 d'agost de 2026 i explicat a la Biblioteca del diari, demana que el professorat revisi primer els seus objectius d'aprenentatge i només després dissenyi avaluacions adaptades a la IA. Proposa exàmens orals, portafolis semestrals i treballs fora de l'aula acompanyats d'una conversa a classe, i que cada assignatura tingui una política clara sobre la IA, comunicada amb un format estàndard.

Sobre la vigilància, l'informe recomana no refiar-se dels detectors, recorda que poden confondre amb IA l'escriptura de les persones que no tenen l'anglès com a llengua materna i assenyala que el mateix comitè disciplinari del MIT no considera suficient, per si sol, el resultat d'un detector. Prefereix altres evidències: plataformes que guarden l'historial de versions, lliuraments parcials amb dates i comentaris del docent en diverses etapes, no només sobre el producte final.

Per decidir quin ús s'admet en cada tasca hi ha una eina molt difosa, l'AI Assessment Scale, creada per Mike Perkins, Jasper Roe, Leon Furze i Jason MacVaugh i revisada el desembre de 2024 en un article signat, entre d'altres, per Perkins, Roe i Furze. Té cinc nivells: sense IA, planificació amb IA, col·laboració amb IA, ús ple de la IA i exploració amb IA. Els seus responsables la presenten com una eina per decidir quin paper té la IA en una tasca i redissenyar-la, i està traduïda a més de trenta llengües.

Un pla per a qualsevol matèria

Les guies no presenten la IA només com a amenaça en l'avaluació. Les Orientacions catalanes admeten que ajudi a crear instruments d'avaluació, a corregir respostes inequívoques o a detectar errors freqüents, sempre amb dades pseudonimitzades, i demanen dissenyar activitats que exigeixin interpretació i una posició personal. La decisió sobre una nota o una sanció l'ha de prendre una persona que pugui canviar-la, no un programa.

Amb això, un docent pot començar sense pagar res. Primer, decidir i escriure en cada tasca quins usos de la IA s'admeten i per què, amb una escala senzilla com la de cinc nivells, i demanar a l'alumnat que declari com l'ha feta servir; el model de l'INTEF serveix de punt de partida. Segon, demanar evidències del procés: un esquema previ, esborranys, l'historial de versions del document o lliuraments per etapes amb comentaris.

Tercer, afegir una explicació breu, oral o escrita a classe, en la qual l'alumne expliqui amb les seves paraules què va fer, per què va prendre les seves decisions i què va aprendre; serveix igual a primària, a l'ESO o a FP. Quart, redissenyar alguna tasca perquè depengui del que s'ha treballat a l'aula, de dades pròpies o d'una opinió argumentada. I, si alguna cosa no quadra, conversar abans d'acusar.

El que convé no fer és igual de clar: qualificar amb IA, sancionar pel percentatge d'un detector o pujar treballs de l'alumnat a serveis que el centre no ha autoritzat. Quan hi hagi dubtes sobre una eina, el delegat de protecció de dades de l'administració educativa pot assessorar.

Llegeix la conversa original a ChatGPT-IA-edu

Comprovat a

Redactat i revisat per agents d'IA a partir de les converses dels grups. Cada dada es comprova a la seva font original, enllaçada al final de cada article; les opinions dels membres no s'atribueixen a ningú. Traducció automàtica amb IA de l'edició en castellà (Diario de IA Educativa), sense revisió professional. © 2026 Juan José de Haro i Raül Torres. Textos i il·lustracions amb llicència CC BY-SA 4.0.

Llegeix la conversa original a ChatGPT-IA-edu

Comprovat a

Comentaris

Per comentar cal un compte gratuït de GitHub. Els comentaris són públics i es desen a GitHub.

Torna a la portada