Caja de herramientas para revelar si un texto lo escribió una persona o una inteligencia artificial

Con la creciente capacidad de los modelos de lenguaje como ChatGPT para generar textos coherentes y convincentes, se hace cada vez más difícil distinguir si un texto ha sido escrito por un ser humano o por una máquina. Por eso, compartimos algunos programas que pueden ayudarte. Una mala: no son infalibles (todavía).

Caja de herramientas para revelar si un texto lo escribió una persona o una inteligencia artificial

Foto: Freepik.com

Sociedad

Tecnología y sociedad

Unidiversidad

Unidiversidad

Publicado el 10 DE ABRIL DE 2023

Diferenciar si un texto ha sido escrito por una persona o por una inteligencia artificial (IA) puede ser un desafío, ya que ChatGPT -la herramienta más utilizada en la actualidad- es un modelo de lenguaje muy avanzado que puede generar texto que parece haber sido escrito por un ser humano. Sin embargo, te podemos recomendar algunas herramientas que pueden ayudar a distinguir si un texto ha sido generado por ChatGPT o escrito por una persona.

Para comenzar, los especialistas en escritura consideran que se debe analizar la coherencia y el contexto del texto producido; otros de los factores para tener en cuenta pueden ser los errores gramaticales o de concordancia; finalmente, las y los especialistas en escritura determinan que el estilo y el tono emocional empleado en los textos puede ser un factor para tener en cuenta al momento de determinar si fue generado por una IA o un ser humano.

¿Cuáles son las herramientas para diferenciar si un texto lo ha escrito un humano o ChatGPT?

El impacto de ChatGPT en la innovación educativa y en otras áreas en las que el procesamiento del lenguaje natural y la generación de texto son cruciales es difícil de medir con exactitud debido a su alcance significativo. No obstante, el uso excesivo de esta herramienta plantea cuestiones éticas importantes, que han llevado a la necesidad de encontrar formas de detectar si un contenido ha sido generado por la IA en lugar de por un ser humano.

Actualmente, existen herramientas especializadas en la detección de textos generados por IA, que incluyen las siguientes opciones destacadas:

ChatGPT Detector

ChatGPT Detector es una herramienta que cuenta con la capacidad de identificar si un texto ha sido generado por ChatGPT. Esta “habilidad” se logra gracias al uso de funciones lingüísticas y clasificadores basados en modelos de lenguaje pre entrenados. Sus análisis arrojan resultados que se clasifican como "humano" o "ChatGPT", y proporcionan una probabilidad de acierto expresada en porcentaje.

GPTZero

GPTZero, creado por Edward Tian (un estudiante de la Universidad de Princeton), es una herramienta que se encarga de identificar textos generados por chatbots, utilizando la medida de "perplejidad" o aleatoriedad del texto como criterio. Esta medida indica qué tan bien un bot puede predecir un texto y, por tanto, cuanto mayor sea este indicador, mayor será el nivel de caos en el escrito y, por consiguiente, mayor será la probabilidad de que haya sido producido por una herramienta como ChatGPT.

Writer

Writer es una herramienta de inteligencia artificial para equipos que funciona como asistente de escritura y también incluye un detector de contenido producido por herramientas de IA. Su uso es muy sencillo: basta con copiar y pegar el texto o la URL donde se encuentra alojado y, en cuestión de segundos, el sistema realiza un análisis que proporciona un resultado de probabilidad de que el escrito haya sido generado por un ser humano.

Las herramientas de detección no son infalibles

Por lo general, las herramientas de detección de texto generado por las IA no son infalibles y muchas veces pueden fallar. En esta ocasión, lo comprobamos al utilizar un párrafo escrito por una persona y otro reescrito por la herramienta de ChatGPT.

En varias ocasiones, estas herramientas no estuvieron a la altura y no fueron capaces de identificar los párrafos escritos por un humano y los que fueron generados a través de la inteligencia artificial. A continuación, te lo comentamos con el siguiente ejemplo:

  • El texto original redactado por un humano fue el siguiente: “GPTZero, creado por Edward Tian (un estudiante de la Universidad de Princeton), es una herramienta que se encarga de identificar textos generados por chatbots, utilizando la medida de "perplejidad" o aleatoriedad del texto como criterio. Esta medida indica qué tan bien un bot puede predecir un texto y, por tanto, cuanto mayor sea este indicador, mayor será el nivel de caos en el escrito y, por consiguiente, mayor será la probabilidad de que haya sido producido por una herramienta como ChatGPT”.
  • Por otro lado, este texto fue reescrito por una inteligencia artificial (ChatGPT) y las herramientas no pudieron detectarlo. “GPTZero es una herramienta desarrollada por Edward Tian, un estudiante de la Universidad de Princeton, que se enfoca en detectar textos generados por chatbots utilizando la medida de "perplejidad" como criterio. Esta medida se refiere a la aleatoriedad del texto y muestra qué tan bien un bot puede predecir un texto. Cuanto mayor sea el indicador de perplejidad, mayor será el nivel de caos en el escrito, lo que sugiere que es más probable que el texto haya sido producido por una herramienta como ChatGPT”.

Texto generado con GPTZero

(Imagen: texto generado por Writer)

Es evidente que, en especial cuando se trata de textos en español, que estas herramientas todavía tienen un amplio margen de mejora. No obstante, se sabe que están en constante evolución y es posible que en un futuro próximo sean capaces de proporcionar resultados más precisos.

En resumen, la mejor manera de determinar si un texto ha sido generado por ChatGPT o escrito por una persona es examinar cuidadosamente el texto y considerar las señales y pistas mencionadas anteriormente. Sin embargo, a medida que los modelos de lenguaje continúan mejorando y evolucionando, puede ser cada vez más difícil distinguir entre texto generado por una máquina y texto escrito por un ser humano.

inteligencia artificial, texto generado por ia, chatgpt,