Cómo funciona un detector de IA por dentro

Casi todo lo que se escribe sobre detectores de IA da por hecho que funcionan por magia o que no funcionan en absoluto. Ninguna de las dos cosas es cierta. Un detector hace algo muy concreto, muy limitado y perfectamente explicable, y entenderlo cambia por completo cómo lees el número que te devuelve.

Empecemos por lo que no hace.

No existe una marca de agua#

La intuición más extendida es que ChatGPT deja alguna huella oculta en su texto y que el detector la busca. No es así. El texto que produce un modelo de lenguaje son palabras normales en un archivo normal. No hay metadatos, ni caracteres invisibles, ni firma.

Se han investigado sistemas de marca de agua real, en los que el modelo sesga sus propias elecciones de palabra siguiendo un patrón que luego se puede verificar. Es una línea de trabajo seria, pero no es lo que usan los detectores públicos, no está implantada de forma generalizada y desaparece en cuanto alguien edita el texto.

Así que un detector no puede reconocer un texto. Solo puede compararlo con lo que estadísticamente parece un texto generado.

En qué se basa un detector de IA: dos medidas#

Un modelo de lenguaje es, en el fondo, una máquina de predecir la palabra siguiente. Ante "el gato se subió al", asigna probabilidad alta a "tejado" y "árbol", y muy baja a "ministerio". Al generar, elige entre las opciones más probables. Es su funcionamiento normal, y es también lo que lo delata.

Los detectores explotan eso con dos medidas.

Perplejidad#

La perplejidad mide cuán sorprendente resulta cada palabra dado lo que venía antes, según un modelo de lenguaje de referencia. Perplejidad baja significa texto predecible.

Un texto generado tiende a tener perplejidad baja porque se construyó precisamente eligiendo continuaciones probables. Una persona escribiendo tiene perplejidad más alta y, sobre todo, más irregular: mete una palabra rara, cambia de idea a mitad de frase, usa un giro coloquial que ningún modelo habría escogido ahí.

Detalle importante: el detector usa su propio modelo de referencia para calcular esto, no el que escribió el texto. Está estimando desde fuera.

Ráfaga, o burstiness#

La ráfaga mide la variación. No la de las palabras, sino la del ritmo: longitud de frase, complejidad sintáctica, densidad de información de un párrafo al siguiente.

La escritura humana es irregular por naturaleza. Una frase de cuarenta palabras seguida de tres. Un párrafo denso seguido de una aclaración breve. La generada tiende a la uniformidad, con frases de longitud parecida y párrafos de estructura similar, página tras página.

Un detector combina ambas señales, a veces con un clasificador entrenado encima que ha visto muchos ejemplos de los dos tipos, y produce un número.

Qué significa ese número, y qué no#

Aquí es donde se rompe casi todo el uso real de estas herramientas.

Cuando un detector devuelve "85% IA", eso no significa que el 85% del texto lo escribiera una máquina, ni que haya un 85% de probabilidad de que sea así. Significa, aproximadamente: según las señales que mido, este texto cae en una zona donde, en los datos con los que se calibró este clasificador, la mayoría de los ejemplos eran generados.

Es una puntuación de similitud con un perfil estadístico. Nada más. Cambian los datos de calibración y cambia el número, con el mismo texto.

De ahí salen dos consecuencias que conviene tener presentes:

El umbral es una decisión humana, no un hecho. Alguien eligió en qué punto un texto pasa a mostrarse en rojo. Subir ese umbral reduce los falsos positivos y deja escapar más texto generado. Bajarlo hace lo contrario. No hay un valor correcto, hay un compromiso, y quien lo elige está decidiendo qué error prefiere cometer.

El texto corto no da para medir. La perplejidad y la ráfaga son estadísticas de distribución. Con dos frases no hay variación que medir. Por eso la mayoría de detectores serios piden un mínimo de palabras, y por eso los resultados sobre fragmentos cortos son ruido.

Por qué el mismo texto puntúa distinto en dos herramientas#

Es la pregunta que más desconcierta a la gente, y tiene respuesta directa. Dos detectores discrepan porque son sistemas distintos en cuatro sentidos:

1. Usan modelos de referencia distintos para calcular la perplejidad. Un texto es predecible para un modelo concreto. Cambia el modelo, cambia la cifra.
2. Se entrenaron con datos distintos. Un clasificador calibrado con ensayos académicos en inglés y otro con texto de blog en español no han aprendido lo mismo.
3. Fijaron umbrales distintos. Ver el punto anterior sobre el compromiso.
4. Envejecen a ritmos distintos. Cada generación de modelos escribe con más variación que la anterior, precisamente por lo que se les pide. Un detector calibrado contra la escritura de un modelo de 2023 mide peor la de uno de 2026.

Por eso comparar tu texto en un detector público con el resultado de Turnitin en tu universidad no te dice nada útil. Son medidas diferentes de propiedades parecidas, y no son intercambiables.

El fallo estructural: los falsos positivos#

Todo lo anterior lleva a un problema que no es un defecto de implementación, sino una consecuencia lógica del método. Si defines "humano" como irregular e impredecible, entonces cualquier persona que escriba de forma regular y predecible puntúa como máquina.

Y hay perfiles enteros que escriben así:

• Quien redacta textos técnicos o académicos, donde la precisión terminológica y el registro formal son el objetivo.
• Quien escribe en una lengua que no es la suya, y usa por prudencia estructuras más simples y regulares. Los estudios sobre detectores en inglés han mostrado repetidamente una tasa de falsos positivos más alta en hablantes no nativos.
• Quien revisa mucho su texto. Pulir frases, igualar el ritmo y eliminar repeticiones borra exactamente las irregularidades que el detector lee como señal de autoría humana.
• Quien escribe con formato de plantilla, como un informe de prácticas o un trabajo con estructura impuesta.

Ninguna de esas cuatro cosas es hacer trampa. Las cuatro suben la puntuación.

Qué se puede pedir a un detector bien hecho#

Sabiendo el mecanismo, se puede exigir con criterio:

• Que muestre el desglose. Qué frases concretas levantaron la sospecha, no solo un porcentaje global. Es la única forma de que puedas juzgar si tiene razón.
• Que sea estable. El mismo texto, dos veces, debe dar el mismo resultado. Si no, no está midiendo, está adivinando.
• Que exija un mínimo de longitud en lugar de opinar sobre un párrafo suelto.
• Que hable en probabilidad, no en veredicto.

El detector de IA de Molixa está construido con ese criterio: análisis frase por frase con mapa de calor, puntuación de confianza en lugar de dictamen, y sin registro para usarlo.

En una frase#

Un detector de IA mide si un texto es estadísticamente predecible y uniforme, dos rasgos que la escritura generada tiene con frecuencia y la humana también, a veces. Es una señal útil para empezar una conversación. No es una prueba de nada, y ninguna herramienta, incluida la nuestra, puede convertirla en una.