HomeTecnologíaSynthID-Text una herramienta desarrollada por científico de Google DeepMind

SynthID-Text una herramienta desarrollada por científico de Google DeepMind

Fecha:

spot_imgspot_img

Destacados

La AN ratifica a Tarek William Saab como Fiscal General hasta 2031

Se ratificó a Tarek William Saab como Fiscal General,...

Una madre venezolana y su bebé murieron en el temporal de España

Eliana López, una venezolana en Valencia, España ofreció una...

Gobierno de España decreta tres días de luto oficial por las víctimas

El Gobierno ha tomado la decisión este miércoles de...

Aumentan a 62 los muertos por las inundaciones en España

El número de personas que han perdido la vida...
spot_img
spot_imgspot_img

Un equipo científico de Google DeepMind desarrolló SynthID-Text una herramienta capaz de añadir marcas de agua a textos generados por grandes modelos lingüísticos, con el objetivo de mejorar su capacidad para identificar y rastrear contenidos creados con inteligencia artificial (IA).

Los grandes modelos de lenguaje (LLM, por sus siglas en inglés) son una forma de inteligencia artificial ampliamente utilizada, capaz de generar texto para chatbots, asistencia en la escritura y otros propósitos. No obstante, identificar y atribuir el contenido generado por esta inteligencia artificial a una fuente específica puede ser complicado, lo que cuestiona la fiabilidad de la información proporcionada.

En el caso de imágenes, videos o audios, la inserción de marcas de agua es relativamente sencilla; sin embargo, en los textos, esto representa un desafío, ya que cualquier modificación en las palabras puede alterar el significado y la calidad del contenido.

En este contexto, Google ha sugerido el uso de marcas de agua como una posible solución, aunque su implementación a gran escala aún no se ha materializado.

SynthID-Text un algoritmo para la implementación de marcas de agua

Los investigadores Sumanth Dathathri y Pushmeet Kohli, de Google DeepMind, presentaron una estrategia que emplea un innovador algoritmo de muestreo para la inserción de marcas de agua en el texto generado por inteligencia artificial, denominado SynthID-Text.

Los investigadores indicaron que esta herramienta utiliza el algoritmo mencionado “para sesgar de manera sutil la selección de palabras del LLM, incorporando una firma que puede ser detectada por el software de detección correspondiente”.

La capacidad de detectar estas marcas de agua fue evaluada utilizando varios modelos accesibles al público, y SynthID-Text demostró una eficacia superior en comparación con los métodos existentes, según un resumen de la revista.

De acuerdo con los científicos, el uso de SynthID-Text también tiene un impacto mínimo en la potencia de cálculo requerida para operar el LLM, lo que facilita su implementación.

Restringir el uso inapropiado de los textos generados por inteligencia artificial

Los autores han destacado que los modelos de lenguaje de gran tamaño han facilitado la creación de texto sintético de alta calidad, que a menudo resulta indistinguible del contenido elaborado por seres humanos, en una magnitud que puede influir significativamente en la naturaleza del ecosistema informativo.

La implementación de una marca de agua puede ser útil para identificar el texto sintético y mitigar su uso indebido, ya sea de forma accidental o intencionada. “En este documento presentamos SynthID-Text, una estrategia de marca de agua que mantiene la calidad del texto y permite una detección altamente precisa”, afirmaron.

Para Pablo Haya, del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid, el artículo ofrece “una solución técnicamente sólida” para la detección de texto producido por inteligencia artificial mediante el uso de marcas de agua.

En una declaración a Science Media Centre España, una plataforma de recursos científicos destinada a periodistas, Haya explica que la marca de agua implica modificar el algoritmo de generación de palabras de tal manera que se adhiera a un patrón estadístico identificable, sin alterar el significado del texto.

En la actualidad, los sistemas diseñados para determinar si un documento ha sido creado por IA presentan bajos niveles de precisión, lo que hace que sean necesarias tecnologías que faciliten la identificación de la autoría, según Haya, quien no está involucrado en el estudio.

Con información de: El Diario

Continúe leyendo: SpaceX recuperó en pleno vuelo el cohete Starship en la plataforma de lanzamiento


Únete a nuestros canales

Whatsapp Noticiero de Venezuela

Telegram Noticiero de Venezuela

Síguenos en Nuestras Redes Sociales:

Facebook: Noticiero de Venezuela

Instagram: @noticierodevenezuela

YouTube:  @noticierodevenezuela

Twitter: @ndv_noticias

TikTok: @noticierodevenezuela

Suscríbete

Más recientes

Publicidad

Salud