Google Deepmind 推 SynthID 浮水印:Deepfake 隱憂有望獲得解決

SynthID 是什麼?
SynthID 是 Google DeepMind 團隊在過去幾年開發的一項技術,它可以在 AI 生成圖片中嵌入一種一般肉眼看不見的浮水印,但可用專門的 AI 工具來檢測。這種浮水印不會影響圖片的品質或觀看體驗,但是可以抵抗各種變形,如裁剪、縮放等,如此一來就能確認一張圖片是否是由 AI 創造的,以及它的來源和用途。
為什麼要開發 SynthID?
Google DeepMind 的 CEO Demis Hassabis 說,開發 SynthID 的動機是為了應對深度偽造(deepfake)的問題。深度偽造是指利用 AI 技術來製造虛假或誤導性的影像或聲音,例如讓政治人物說出他們從未說過的話,或者讓名人出現在他們從未參與過的場合。這種技術可能會對社會和民主造成嚴重的威脅,因為它可以用來散佈假消息、詐騙、勒索、騷擾等。因此,Hassabis 認為,建立一套能夠識別和檢測 AI 影像的工具是非常重要的。
SynthID 如何使用?
SynthID 目前只在 Google 的部分產品中提供,例如 Google Cloud 的 Vertex AI 平台和 Imagen 圖像生成器。使用這些產品的客戶可以選擇是否要在他們生成的圖片中加入 SynthID 浮水印,也可以用 Google 提供的工具來檢測。

Hassabis 說,SynthID 還是一個新系統,需要更多的實際測試和改進。他希望未來能夠將 SynthID 應用到更多的場合,並與其他合作夥伴分享。他也表示需要與公民社會進行討論,決定如何使用這項技術。
SynthID 有什麼挑戰和限制?
SynthID 雖然看起來很有前景,但也面臨著一些挑戰和限制。首先,SynthID 的原理和細節還沒有公開,畢竟這可能會讓駭客或惡意軟體找到繞過它的方法。其次,SynthID 目前只能用於圖片,而不能用於影片或文字等其他媒體。第三,SynthID 需要與其他類似的技術協調和整合,例如 C2PA 協議,它使用加密元數據來標記 AI 生成的內容。最後,SynthID 可能會引發一場 AI 間的軍備競賽,因為開發者和攻擊者會不斷地嘗試突破對方的防禦。Hassabis 說,他們已經準備好應對這種情況,並會不斷地更新和改進 SynthID。

考量到 AI 生成內容的迅速發展,在各類型媒體中能夠有類似的浮水印去做判斷,進而限制對於整體社群來說是件好事,畢竟 AI 事件已經頻傳,像是比如近期鬧很兇的好萊塢演員罷工事件即是一例,不過該起事件不止和 AI 生成內容有關,也涉及人權隱私等問題。
而單純就前文提到的 Deepfake 問題來看的話,就歐美來說最常見的是仿造政治人物說過的話,很有可能會導致社會分裂或恐慌,而在台灣的話最大的事件想必就是前些年的 Deefake 影片事件了,雖然 SynthID 目前還無法針對影片去做對應,但假設未來能針對像影片、文字、聲音、甚至即時的視訊通話內容等做偵測和限制的話,想必能減少非常多的 AI 隱憂。
歡迎加入我們的 Facebook 粉絲團,隨時掌握最新消息!
喜歡看圖說故事的話,也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!