¿Se puede detectar si un texto o imagen fue hecho por IA o por un humano? Implicaciones en materia de Derechos de autor.

Herramientas de detección de contenido artificial.

En la actualidad existen herramientas llamadas detectores de IA que como su nombre lo indica, se utilizan para detectar porcentajes de contenido de IA en textos e imágenes, entre las que podemos citar a Turnitin, Copyleaks, GPTZero, Plagium, (entre muchas otras), las cuáles analizan patrones comunes que suelen utilizar las herramientas de IA.

Patrones comunes utilizados.

Las herramientas de detección de IA, suelen detectar secuencias u otras estructuras identificables para determinar patrones comunes en textos e imágenes, específicamente:

A. Patrones estadísticos y estilísticos (nivel lingüístico):

• Uniformidad excesiva.- Las herramientas de IA suelen generar frases equilibradas, con puntuación correcta y estilo uniforme.

  Los textos humanos, por su parte, tienen más variación (errores, cambios de ritmo, expresiones más espontáneas).

• Uso predecible del vocabulario.- En los textos de IAs, los textos tienden a emplear palabras frecuentes y seguras, evitando términos poco comunes o arriesgados.

• Longitud de frases y párrafos.- En las creaciones de IA, las frases suelen ser bastante regulares en longitud, en tanto que los textos humanos tienden a mezclar frases cortas y largas.

• Falta de estilo personal.- A diferencia de los humanos, la IA puede sonar genérica, sin expresiones idiosincráticas (giros personales, ironía no convencional, muletillas).

B. Patrones semánticos (nivel de contenido):

• Precisión sin profundidad.- Las IAs suelen dar respuestas correctas y organizadas, pero sin ejemplos personales ni matices emocionales.

• Cohesión perfecta.- Los textos de IAs tienen transiciones muy claras y ordenadas, inclusive lineales.

• Ausencia de errores de contexto.- Las personas tienden a cometer errores o distracciones, en tanto que la IA mantiene la estructura perfecta, aún cuando los datos utilizados son inventados o alucinados.

C. Patrones de probabilidad (detección estadística):

Los detectores de IA también utilizan patrones de probabilidad (perplejidad y ráfaga (burstiness):

• Perplejidad.- Los modelos de IA generan texto muy predecible, por lo que las herramientas de detección miden qué tan predecible es el texto generado, ya que las IAs suelen tener dificultades cuando el contexto o las palabras tienen variación como en el caso de los textos legales, cuyos términos jurídicos no siempre tienen el mismo significado que en lenguaje común.
  

• Ráfaga: Los humanos muestran variación en la longitud y complejidad de las oraciones, esto es, escriben en ráfagas (mezclan oraciones cortas y largas), por lo que las herramientas de detección de IA miden precisamente esas variaciones en contraposición de los textos generados por IAs que suelen ser uniformes o regulares en longitud.

En Resumen

Los patrones más usados para intentar detectar IA en textos son:

1. Uniformidad y consistencia en estilo y estructura.

2. Vocabulario y gramática excesivamente correctos y predecibles.

3. Baja variación en la complejidad de las frases (perplejidad).

4. Ausencia de rasgos personales y espontáneos.

¿Y en las imágenes?

En las imágenes generadas por IA también se identifican patrones comunes:

• Repetición de estilos visuales.

• Elementos demasiado perfectos o simétricos.

• Características sutiles (manos mal formadas, proporciones extrañas).

Dificultades actuales.

No obstante el avance de las tecnologías para detección de obras creadas por IA, todavía no existe un método que sea 100% preciso para detectar si un contenido fue creado solo por IA, esto es:

• No existe una prueba infalible para detectar si un contenido fue creado por IA, ya que un humano especializado puede escribir de forma muy ordenada y parecer que determinado texto fue creado por IA, inclusive, un buen editor puede corregir imágenes creadas por IA eliminando errores visibles.

• Las IAs modernas están siendo entrenadas para simular estilo humano, incluyendo errores intencionales.

• La detección no mide el porcentaje exacto de participación humana.

Lo que significa que, las herramientas de detección de IA, todavía acusan tasas de error al confundir textos humanos con IA, y viceversa, en tanto que con los modelos mejorados, las IAs generan textos cada vez más parecidos al estilo humano.

¿Qué significa esto para la protección legal?

Aunque estas herramientas puedan sugerir “probabilidad de IA”, no son criterios legales infalibles para determinar si un texto o una imagen es objeto de protección legal, pues con independencia de que el uso de esas herramientas no son pruebas exactas de medición del porcentaje de participación humana, un resultado "X% probable IA", aún alto, no es prueba definitiva de que el contenido efectivamente haya sido creado por IA. Tampoco existe regulación en cuanto al porcentaje de participación humana necesaria para determinar quien creó el contenido con apoyo de IA.

Conclusión.

No hay un estándar técnico que pueda usarse como prueba legal de forma automática.

Detectar si un texto, imagen o música proviene de una IA no es sencillo, ya que las herramientas modernas generan resultados tan sofisticados que la frontera entre lo humano y lo automático se difumina.

Más que el producto final, lo que importa es el proceso creativo, en cuyo caso, la intervención humana sigue siendo el elemento central para que una obra tenga protección legal.

¿Te resultó útil este artículo?

Si te gustó, compártelo en tus redes sociales para que más personas conozcan este contenido.

Tu participación nos ayuda a seguir creando contenido útil para la comunidad jurídica.

También puedes dejarnos tus comentarios en nuestras redes sociales, canales y correo indicados al pie de página.