Detector de inteligencia artificial: opciones y cómo utilizarlos

La aparición de los distintos modelos de detector de inteligencia artificial no se hizo esperar tras la irrupción de la IA generativa más avanzada. 

Con el auge de herramientas como ChatGPT o Google Bard, las herramientas que tratan de detectar cuándo un texto ha podido ser generado por Inteligencia artificial son útiles para muchas personas: desde profesores a moderadores de sitios web o plataformas de publicación de contenidos. 

Como vamos a ver a continuación, también han surgido dudas sobre cómo utilizar un detector de texto generado por IA o si estas herramientas son verdaderamente útiles o fiables. 

En este sentido, la mayoría de análisis de expertos han establecido que, a finales de 2024, este tipo de herramientas son aún plataformas experimentales y, por lo tanto, no son fiables al 100%. Por ejemplo, un análisis por parte de Scribbrl halló que la mejor plataforma de pago tenía un 84% de precisión, mientras que la precisión de la mejor herramienta gratuita se situaba en un 68%. 

Precisamente por este motivo, dejamos a continuación un análisis sobre cómo funciona un detector de texto IA y algunas consideraciones sobre su uso.

Qué es un detector de contenido de IA

Un detector de contenido de IA es una herramienta diseñada para identificar si un texto ha sido generado por herramientas de IA generativa, como ChatGPT.

¿Cómo funciona un detector de contenido de IA?

La premisa básica de funcionamiento de un detector de contenido de IA es el siguiente: el comprobador de inteligencia artificial analiza un texto y sus características; su objetivo es ver si éste se parece a las muestras de texto humano con que ha sido entrenado o si, por el contrario, el texto es más parecido a los textos generados por IA que le han servido de entrenamiento.

Para ello, a menudo los distintos modelos de detector de inteligencia artificial han sido entrenados con modelos de lenguaje similares a las herramientas de IA que generan textos.

Las siguientes dos características son los dos principales marcadores que los detectores de IA suelen emplear para determinar la probabilidad de que el texto sea generado por humanos:

• • Perplejidad: trata de medir cómo de impredecible es el contenido de un texto. En general, se considera que los textos generados con IA presentan una perplejidad baja (son más predecibles); los humanos, una alta perplejidad (por el empleo de figuras del lenguaje, posibles faltas ortotipográficas, posibles saltos en el tema tratado…)
  • Explosividad: se fija en la variación de la estructura en las oraciones, además de la variación en la longitud. Por lo general, se considera que los textos generados con IA cuentan con una baja explosividad (pocas variaciones en la estructura y longitud de las frases), en comparación con los textos humanos. 

Por qué es importante utilizar un detector de contenido de IA

Debido a su relativa novedad y la falta de políticas para su uso, las herramientas de generación de texto por IA han resultado disruptivas para algunos sectores.

Por un lado, la preocupación por los derechos de autor se halla en el centro de las polémicas en torno a este tipo de herramientas y, por lo tanto, también entre las razones por las que usar un detector de inteligencia artificial. Una preocupación que ya ha sido abordada por la Ley de Inteligencia Artificial de la UE que, entre otras medidas, establece que este tipo de herramientas deberán revisar sus modelos para evitar el incumplimiento de la legislación de propiedad intelectual.

Por otro lado, las instituciones educativas también han querido acudir a herramientas de detección de IA para evitar posibles fraudes o plagios. 

Igualmente, la aparición de estas herramientas en el ámbito de la creación de contenidos y el marketing digital ha puesto sobre la mesa algunas cuestiones. Entre ellas, destaca el temor a posibles sanciones de Google en el posicionamiento SEO de los contenidos que hayan sido generados por IA.

En este sentido, Google respondió ya en 2023 a estas preocupaciones: en un artículo titulado “Recompensamos el contenido de alta calidad, sin importar cómo se produzca”, el buscador explicaba que sus algoritmos iban a seguir “priorizando la creación de contenido valioso” sin importar cómo haya sido creado. En el artículo, Google aseguraba que las herramientas de IA pueden servir “como una herramienta fundamental que ayuda a las personas a crear contenido de calidad para la Web”, siempre que no se utilicen para prácticas fraudulentas, como el spam.

¿Cuándo utilizar un detector de contenido de IA?

Utilizar un detector de contenido de IA puede ser útil para obtener indicios sobre la probabilidad de que un texto haya sido generado por IA, con los matices que indicamos más abajo.

En general, a la hora de publicar este artículo destacan los siguientes modelos de detector de contenido de IA entre las listas que analizan la efectividad de estas herramientas:

• Copyleaks
• ZeroGPT 
• GLRT
• Indetectable.ai 
• Originalidad IA
• Compilatio
• Winston AI
• Content at scale
• DetectGPT

El uso del detector de inteligencia artificial debe quedar matizado, no obstante, por los resultados que son capaces de lograr este tipo de herramientas. En este sentido, es preciso tener en cuenta las faltas de precisión que se han encontrado en los resultados de los modelos de detector de texto IA. 

En otras palabras: a día de hoy, ningún comprobador de inteligencia artificial puede utilizarse como prueba de que se haya utilizado IA para elaborar un texto.

Entre las prácticas recomendables para el uso de un detector de inteligencia artificial, conviene informarse a través de los análisis de efectividad disponibles públicamente sobre estas herramientas. Igualmente, es posible realizar pruebas a nivel personal para comprobar de primera mano si los resultados resultan satisfactorios.

¿Quieres saber más sobre usos responsables de la IA y cómo aprovechar todo el potencial de estas tecnologías de forma ética y de acuerdo a la ley? En BeeDIGITAL AI ayudamos a pymes y autónomos a incorporar herramientas de inteligencia artificial que les ayuden a impulsar su negocio. ¡Descubre nuestras soluciones!