Durant el semestre de primavera, Taylor Hahn, professor de la Universitat Johns Hopkins, va afrontar una situació cada cop més comuna: eines de detecció d'escriptura generada per intel·ligència artificial (IA), com Turnitin, van començar a marcar incorrectament treballs acadèmics com si haguessin estat escrits per IA. En un dels casos, més del 90 per cent del text d'un estudiant va ser identificat com a IA, quan en realitat l'alumne va demostrar amb esborranys i notes prèvies que havia escrit el contingut genuïnament.
Hahn va notar un patró preocupant: els estudiants internacionals eren desproporcionadament afectats pels falsos positius. Observacions similars van donar lloc a una investigació per part de científics computacionals de Stanford que va concloure que molts detectors d'IA presenten biaixos cap a textos redactats per persones la llengua nativa de les quals no és l'anglès. L'estudi va evidenciar que set detectors populars van assenyalar incorrectament com a generats per IA el 61 per cent dels textos escrits per autors no nadius.
Això passa perquè els detectors, inclosos els desenvolupats per empreses líders del sector, tendeixen a associar una escriptura més simple i amb menor varietat lèxica amb els patrons típics d'eines com ChatGPT. Com a conseqüència, els estudiants estrangers amb domini limitat de l'anglès poden ser penalitzats injustament per escriure de forma senzilla però legítima.
Casos com el de Hai Long Do, estudiant a Miami University, o Heewon Yang, estudiant de la Universitat de Nova York, posen en evidència l'impacte psicològic i acadèmic d'aquests errors. Ambdós expressen por i frustració davant eines que qüestionen la seva integritat a causa dels seus patrons lingüístics, una cosa que escapa al seu control.
En aquest panorama, resulta essencial replantejar com les institucions acadèmiques integren tecnologies basades en IA en els seus processos. Algunes universitats, com la de Pittsburgh, ja han optat per desactivar els indicadors automàtics d'escriptura generada per IA, argumentant que la taxa de falsos positius posa en perill la confiança, la motivació estudiantil i pot desencadenar conseqüències acadèmiques i fins i tot legals greus.
Des de Q2BSTUDIO, empresa de desenvolupament i serveis tecnològics, creiem fermament en la importància d'implementar solucions d'intel·ligència artificial inclusives, transparents i èticament responsables. La nostra experiència en el desenvolupament d'aplicacions IA personalitzades ens permet dissenyar eines que respecten la diversitat cultural i lingüística, afavorint entorns educatius més justos i eficients. A mesura que la IA es converteix en part integral del sector educatiu, la nostra missió és donar suport a les institucions en el seu procés d'adaptació, proporcionant tecnologies que millorin l'ensenyament i l'aprenentatge sense vulnerar els drets ni el benestar de l'alumnat internacional.
Els desafiaments que planteja l'ús d'aquestes eines automatitzades evidencien la necessitat de comptar amb desenvolupaments tecnològics conscients dels contextos socials i humans. A Q2BSTUDIO, estem compromesos a oferir solucions que no només responguin a necessitats tècniques sinó que també promoguin l'equitat, la inclusió i un ús ètic de la intel·ligència artificial.
