Un equipo científico de Google DeepMind desarrolló SynthID-Text una herramienta capaz de añadir marcas de agua a textos generados por grandes modelos lingüísticos, con el objetivo de mejorar su capacidad para identificar y rastrear contenidos creados con inteligencia artificial (IA).
Los grandes modelos de lenguaje (LLM, por sus siglas en inglés) son una forma de inteligencia artificial ampliamente utilizada, capaz de generar texto para chatbots, asistencia en la escritura y otros propósitos. No obstante, identificar y atribuir el contenido generado por esta inteligencia artificial a una fuente específica puede ser complicado, lo que cuestiona la fiabilidad de la información proporcionada.
En el caso de imágenes, videos o audios, la inserción de marcas de agua es relativamente sencilla; sin embargo, en los textos, esto representa un desafío, ya que cualquier modificación en las palabras puede alterar el significado y la calidad del contenido.
En este contexto, Google ha sugerido el uso de marcas de agua como una posible solución, aunque su implementación a gran escala aún no se ha materializado.
SynthID-Text un algoritmo para la implementación de marcas de agua
Los investigadores Sumanth Dathathri y Pushmeet Kohli, de Google DeepMind, presentaron una estrategia que emplea un innovador algoritmo de muestreo para la inserción de marcas de agua en el texto generado por inteligencia artificial, denominado SynthID-Text.
Los investigadores indicaron que esta herramienta utiliza el algoritmo mencionado “para sesgar de manera sutil la selección de palabras del LLM, incorporando una firma que puede ser detectada por el software de detección correspondiente”.
La capacidad de detectar estas marcas de agua fue evaluada utilizando varios modelos accesibles al público, y SynthID-Text demostró una eficacia superior en comparación con los métodos existentes, según un resumen de la revista.
De acuerdo con los científicos, el uso de SynthID-Text también tiene un impacto mínimo en la potencia de cálculo requerida para operar el LLM, lo que facilita su implementación.
Restringir el uso inapropiado de los textos generados por inteligencia artificial
Los autores han destacado que los modelos de lenguaje de gran tamaño han facilitado la creación de texto sintético de alta calidad, que a menudo resulta indistinguible del contenido elaborado por seres humanos, en una magnitud que puede influir significativamente en la naturaleza del ecosistema informativo.
La implementación de una marca de agua puede ser útil para identificar el texto sintético y mitigar su uso indebido, ya sea de forma accidental o intencionada. “En este documento presentamos SynthID-Text, una estrategia de marca de agua que mantiene la calidad del texto y permite una detección altamente precisa”, afirmaron.
Para Pablo Haya, del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid, el artículo ofrece “una solución técnicamente sólida” para la detección de texto producido por inteligencia artificial mediante el uso de marcas de agua.
En una declaración a Science Media Centre España, una plataforma de recursos científicos destinada a periodistas, Haya explica que la marca de agua implica modificar el algoritmo de generación de palabras de tal manera que se adhiera a un patrón estadístico identificable, sin alterar el significado del texto.
En la actualidad, los sistemas diseñados para determinar si un documento ha sido creado por IA presentan bajos niveles de precisión, lo que hace que sean necesarias tecnologías que faciliten la identificación de la autoría, según Haya, quien no está involucrado en el estudio.
Con información de: El Diario
Continúe leyendo: SpaceX recuperó en pleno vuelo el cohete Starship en la plataforma de lanzamiento
Únete a nuestros canales
Whatsapp Noticiero de Venezuela
Telegram Noticiero de Venezuela
Síguenos en Nuestras Redes Sociales:
Facebook: Noticiero de Venezuela
Instagram: @noticierodevenezuela
YouTube: @noticierodevenezuela
Twitter: @ndv_noticias
TikTok: @noticierodevenezuela
