Google DeepMind ha estado enfocado en construir herramientas de IA generativas de alta calidad, pero también en desarrollar herramientas para detectar contenido generado por IA. Según el CEO de Google DeepMind, Demis Hassabis, esto es esencial debido a preocupaciones como los deepfakes y su impacto en eventos como las elecciones. Con las elecciones previstas para 2024 en EE. UU. y el Reino Unido, la capacidad de identificar y detectar imágenes generadas por IA cobra una importancia creciente.
El resultado de años de trabajo es SynthID, una herramienta presentada por Google. Su propósito es agregar marcas de agua a imágenes generadas por IA. Estas marcas son imperceptibles para el ojo humano, pero detectables fácilmente por herramientas de IA.
La marca de agua se inserta en los píxeles de la imagen sin alterar su apariencia o calidad. Según Hassabis, "no cambia la imagen, la calidad de la imagen ni la experiencia visual", pero es resistente a varias transformaciones, como recortar o redimensionar la imagen, que normalmente podrían burlar las marcas de agua convencionales. A medida que los modelos de SynthID mejoran, la marca de agua será menos visible para los humanos, pero más fácil de detectar para las herramientas de DeepMind.
Hassabis y su equipo han optado por no revelar muchos detalles técnicos sobre SynthID por ahora, ya que temen que podría ser aprovechado por hackers y entidades maliciosas. En sus inicios, SynthID estará disponible para los usuarios de Google Cloud que utilicen Vertex AI e Imagen. A medida que el sistema se someta a pruebas del mundo real, se espera su mejora continua. Google planea extender su uso y compartir más información sobre su funcionamiento a medida que obtenga más experiencia y datos.
Demis Hassabis, el CEO de Google DeepMind, parece vislumbrar un horizonte donde SynthID se convierta en un pilar fundamental en la web. Esta tecnología, que actualmente está en fase beta, no solo tiene aplicaciones en imágenes, sino que sus conceptos centrales podrían extenderse a otros medios como video y texto. La visión de Hassabis es clara: después de demostrar la efectividad, la idea es compartirla con socios y ampliar su alcance. Sin embargo, enfatiza que esto debe ser objeto de un debate social para definir sus límites.
Hassabis recalca repetidamente que SynthID no es una solución mágica para los deepfakes, sino un primer intento en una nueva dirección. A pesar de esto, su confianza en el potencial es evidente.
Google no está solo en esta misión. En un movimiento conjunto, compañías como Meta, OpenAI y otras figuras influyentes en IA se comprometieron a fortalecer la seguridad de sus sistemas. Además, existe un protocolo llamado C2PA, que utiliza metadatos criptográficos para etiquetar contenido generado por IA. La competencia por soluciones de detección de IA es intensa, y es posible que veamos varios estándares antes de encontrar los efectivos.
A pesar de ello, Hassabis confía en que SynthID y su enfoque en marcas de agua al menos contribuirán a abordar el problema en la web. La visión es audaz y el camino por recorrer es desafiante, pero la búsqueda de una web más confiable y veraz continúa.
Google no es la única compañía con esta ambición
SynthID hace su debut en la conferencia Cloud Next de Google, un evento donde la compañía presenta a sus clientes empresariales las nuevas características de Google Cloud y Workspace. Durante esta ocasión, Thomas Kurian, CEO de Google Cloud, destaca el asombroso crecimiento en la adopción de Vertex AI, la plataforma de inteligencia artificial de Google. Kurian señala que los modelos están evolucionando y que cada vez más personas están utilizando estos modelos avanzados.
La combinación de este crecimiento y las mejoras en SynthID llevó a Kurian y Demis Hassabis a considerar que era el momento propicio para su lanzamiento.
Aunque la inquietud por los deepfakes es palpable entre los clientes, Kurian subraya que también hay necesidades más mundanas en cuanto a la detección de inteligencia artificial. Por ejemplo, menciona que muchos clientes emplean estas herramientas para crear imágenes destinadas a anuncios publicitarios. En ocasiones, el equipo central de marketing genera la imagen original y otros equipos necesitan verificar su autenticidad. En el ámbito del comercio minorista, la herramienta también tiene relevancia. Algunos minoristas utilizan la IA para generar descripciones de sus vastos catálogos de productos. Asegurarse de que las imágenes de los productos que cargan no se confundan con las generadas por la IA es fundamental, ya que estas últimas se utilizan en brainstorming y procesos de iteración.
