Investigadores consiguen romper todas las marcas de agua para contenido generado mediante IA
El contenido generado mediante inteligencia artificial ha causado ya estragos en prácticamente todos los segmentos de la población, incluyéndose casos de alto nivel donde el propio estatus de la democracia está en peligro. Debido a ello, se ha hablado en más de una ocasión de integrar marcas de agua especiales en el contenido generado por inteligencia artificial, pero esto no es un seguro demasiado fiable.
Tal como podemos leer en Wired, un grupo de investigadores ha conseguido romper todos los métodos de marcaje de contenido generado mediante inteligencia artificial disponibles por el momento, y con romper nos referimos tanto a la posibilidad de eliminar la marca de agua correspondiente a un contenido artificial, como añadírsela a un contenido real.
Se ha hablado en más de una ocasión de que las marcas de agua de baja perturbación –es decir, invisibles al usuario—son todas vulnerables a ataque, mientras que las marcas de agua de alta perturbación deberían poder ser diseñadas de cara a resistir cualquier ataque, aunque evidentemente esto también puede ser manipulado dependiendo de las circunstancias.
En cualquier caso, se espera que el uso de marcas de agua pueda detener falsificaciones de bajo nivel, similar en cierto modo a lo que se hace con el dinero, donde un cierto porcentaje de falsificaciones puede pasar como verdadero.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!