La Inteligencia Artificial (IA) capturó la escritura. ChatGPT, Google Gemini, Samsung Galaxy AI y Apple Intelligence, por mencionar algunas plataformas, generan textos a partir de prompts u órdenes de las personas.
Si quieres escribir un mensaje personal, formal, solemne o de feliz cumpleaños, solo escribe la orden. Dejando de lado si es o no auténtico, sin duda ahorra tiempo. ¿Pero qué pasa con aquellos textos pensados para informar o tienen un fin de evaluación?
Es decir, ¿qué pasa si lo que leo en los portales noticiosos lo hizo una IA?, o, si soy docente, ¿cómo saber si el brillante ensayo de mi alumno lo hizo él? Ejemplos hay.
En Grupo REFORMA informamos de Semafor, medio de comunicación que emplea tecnología de Microsoft y OpenAI para ofrecer en su portal web noticias escritas con ayuda de la Inteligencia Artificial Generativa (IAG); así como de AI-Powered News Summaries, herramienta de IA de Bloomberg que genera resúmenes de noticias en su software Terminal Bloomberg.
En el caso de los estudiantes, el NYT reportó cómo un docente en Estados Unidos reprobó a una alumna porque creyó que recibió ayuda de un chatbot, que llevó incluso a la joven a grabar su pantalla para probar que no hizo trampa.
James D. Walsh, periodista de New York Magazine, escribió un artículo titulado Everyone Is Cheating Their Way Through College, en el que relata cómo universitarios emplean la IAG para hacer trampa, al punto que entregaban lo primero que ChatGPT generaba, sin revisar.
Al avanzar en el escrito, Walsh citó al poeta Troy Jollimore quien soltó una idea que, entre otras cosas, causó la viralización del texto.
"Un gran número de estudiantes saldrán de la universidad con un título y se incorporarán al mercado laboral, siendo básicamente analfabetos. Tanto en el sentido literal como en el sentido de ser analfabetos históricos y no tener ningún conocimiento de su propia cultura, y mucho menos de la de los demás", zanjó el artista.
Aunque extrema, la opinión de Jollimore pone sobre la mesa el uso ético de la IAG y atisba posibles consecuencias de su uso sin meditación.
Regresando a la cuestión inicial, ¿cómo sé si lo que estoy leyendo lo escribió un humano? Algunos responderán: con herramientas que detectan IA. Por supuesto, y no les faltaría razón, pero, ¿son confiables?
Si escribes en algún motor de búsqueda "detector de IA" o similares, aparecerán listados de "detectores de IA gratuitos" o palabras semejantes en diferentes portales web. No es la intención de esta nota hablar de la efectividad de un producto, así que no se mencionarán nombres, pero la experiencia fue así.
Le pedimos a chatbots como ChatGPT y Gemini que reescribieran algunos textos de esta sección y se colocaron en tres diferentes herramientas "gratuitas". Las tres marcaron un 100 por ciento de empleo de IAG.
Luego, edité los mismos textos y dejé la primera mitad hecha por el reportero y el resto el texto creado por la IAG. Cada herramienta entregó diferentes resultados. Una un 35 por ciento, otra un 50 por ciento y una se fue hasta el 90 por ciento de contenido generado presuntamente por IA.
Después, se pegó un texto hecho totalmente por un humano, un escrito viejo, redactado a principios de 2022, mucho antes de la popularización de ChatGPT. Las cosas se descontrolaron. Dos herramientas marcaron el texto libre de contenido generado por IAG y uno marcó que el texto había sido hecho en un 100 por ciento por esta tecnología.
Al ser empresas extranjeras, sin equipo de comunicación en México, no hubo manera de contactarles y expresarles estos hallazgos. Sin embargo, una empresa que ofrece servicios de este tipo, Turnitin, sí cuenta con presencia en América Latina.
Belén Correa, directora de Turnitin para Latam, fue cautelosa al hablar sobre la ineficacia de los productos de otras empresas, pero aseguró que encontrar herramientas con este tipo de tecnología que funcionen adecuadamente es complicado.
Ejemplificó con Turnitin, quien en concreto desarrolla una herramienta que detecta el plagio en textos académicos y ante el auge de la IA, también identifica si un escrito tiene líneas generadas por computadora. Por ello, entre sus clientes encontramos a universidades como la UNAM.
Correa detalló que para que una IA detecte a otra IA son necesarios muchísimos datos y debe tener un equipo experto detrás que calibre la herramienta.
Ella defendió la eficacia de la herramienta de Turnitin porque el modelo de IA entrenado por ellos cuenta con bases de datos de sus más de 25 años de experiencia en educación y gracias a esto, acorde con la directiva, aseguran tasas de falsos positivos por debajo del 1 por ciento.
"Todo esto lo pudimos usar para entrenar nuestro modelo y de forma muy sencilla poder identificar ciertos patrones de cómo tienden a escribir los humanos y cómo tienden a escribir este tipo de herramientas", precisó.
Al notar la creciente necesidad de herramientas que detectan IA, Turnitin mejoró iThenticate, herramienta detecta plagio para editoriales y centros de investigación, para que fuera capaz de identificar IA contenido en un texto.
¿Entonces solo basta pagar por un servicio como los de Turnitin y estaré seguro de que mi lectura es de un humano? Lamentablemente, no es tan simple.
En la nota del NYT antes referida, Leigh Burrell, la estudiante afectada por la confusión del profesor, ingresó su texto a Turnitin y en cuanto al contenido generado por IA, lo marcó como "Sospechoso".
Correa mencionó el concepto de falso positivo que, según la ejecutiva, Turnitin mantiene por debajo del 1 por ciento. ¿Cómo estar seguro de que el texto que reviso como profesor o lector de noticias no es un falso positivo? No parece posible.
Mientras la IA avanza en el uso profesional y los mecanismos de detección se refinen, solo queda confiar en que ese texto que te dejó boquiabierto por su belleza narrativa, se redactara por neuronas humanas y no por un frío recipiente algorítmico.
Todo se reduce a un acto de fe.
¿Alternativas? Regresar al siglo V a. C., al método socrático, que, de acuerdo con el Fondo de Cultura Económica, consistía en ayudar al interlocutor a producir sus pensamientos e ideas personales sin ninguna imposición. Tomando como punto de partida la postura del interlocutor.
(Por si las dudas, el 100 por ciento del texto anterior fue forjado por un ser humano).
