Los educadores quieren una herramienta que detecte cuándo los alumnos utilizan programas de IA para escribir en lugar de hacerlo ellos mismos. Incluso hay programas para profesores que supuestamente detectan cuándo un alumno ha «copiado» utilizando IA.
Algunos de los signos comunes del texto generado por IA incluyen:
- Escritura extrañamente genérica o repetitiva. Los modelos de IA se entrenan con grandes conjuntos de datos de texto, por lo que pueden limitarse a repetir lo que han visto antes. Esto puede dar lugar a una escritura extrañamente genérica o repetitiva.
- Errores fácticos. Los modelos de IA no siempre son precisos, por lo que pueden cometer errores fácticos en sus escritos.
- Falta de creatividad u originalidad. Los modelos de IA no son tan creativos ni originales como los seres humanos, por lo que sus escritos pueden carecer de estas cualidades.
- Orden de palabras o estructura de frases poco naturales. Es posible que los modelos de IA no siempre comprendan los matices del lenguaje humano, por lo que sus textos pueden presentar un orden de palabras o una estructura de frases poco naturales.
Con el fin de ayudar a los educadores a identificar cuándo los alumnos utilizan IA, OpenAI entrenó una herramienta (AI Text Classifier) para distinguir entre texto escrito por un humano y texto escrito por IA de diversos proveedores.
Sin embargo, OpenAI determinó que su clasificador no es fiable. En sus propias pruebas, el clasificador identificó correctamente el 26 % del texto escrito por IA (verdaderos positivos) como «probablemente escrito por IA», mientras que etiquetó incorrectamente el texto escrito por humanos como escrito por IA en el 9 % de los casos (falsos positivos).
Otras empresas y sitios web también afirman disponer de herramientas de detección de IA. Algunas de estas herramientas son GPTZero y Copyleaks AI Content Detector. Según mi análisis, Copyleaks parece ser la que mejor funciona, aunque no es perfecta y también comete errores.
Probablemente no debería sorprender que la IA tenga limitaciones... entre ellas, no ser capaz de identificar con precisión el contenido generado por IA.
El creador de ChatGPT, OpenAI, desconectó discretamente su herramienta de detección de IA, AI Classifier, la semana pasada debido a «su baja tasa de precisión», según informó la empresa.
Ver artículo de referencia
