Google DeepMind 推出了 SynthID，這是一種新的水印工具，可以區(qū)分人工智能生成的圖像。
Synth ID 的創(chuàng)建是為了區(qū)分人工智能生成的內(nèi)容與實(shí)際內(nèi)容并保護(hù)版權(quán)。最初，它可以與 Google 的圖像創(chuàng)建人工智能 Imagen 一起使用。Imaginen 是托管在 Google Cloud 機(jī)器學(xué)習(xí)平臺(tái) Vertex 上的一項(xiàng)服務(wù)。Imaginen 用戶現(xiàn)在可以選擇在創(chuàng)建 AI 圖像時(shí)是否添加水印。
去年非常流行的生成式人工智能模型已經(jīng)傳播了基于人工智能的深度造假、未經(jīng)同意的色情內(nèi)容和侵犯版權(quán)的問(wèn)題。水印作為解決這一問(wèn)題的最流行的想法而受到關(guān)注，它是一種將信號(hào)隱藏在文本或圖像中以區(qū)分其是否由人工智能創(chuàng)建的技術(shù)。
去年 7 月，美國(guó)政府宣布 OpenAI、Google 和 Meta 等主要人工智能公司自愿承諾開發(fā)水印工具，以防止人工智能生成內(nèi)容的錯(cuò)誤信息和濫用。
此前，5月，在Google年度I/O大會(huì)上，谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)提到，他正在開發(fā)一種以水印等版權(quán)保護(hù)技術(shù)為標(biāo)準(zhǔn)的AI模型。隨后，谷歌 DeepMind 成為承諾與美國(guó)政府合作的公司中第一家公開發(fā)布水印工具的公司。
以前，水印的插入方式是在圖像上添加肉眼可見(jiàn)的覆蓋層或在元數(shù)據(jù)中添加信息。然而，谷歌 DeepMind 研究副總裁 Pushmeet Kohli 指出，在這種情況下，當(dāng)圖像被裁剪、調(diào)整大小或編輯時(shí)，水印可能會(huì)被損壞。
Synth ID 使用兩個(gè)神經(jīng)網(wǎng)絡(luò)。第一個(gè)神經(jīng)網(wǎng)絡(luò)獲取原始圖像并創(chuàng)建一個(gè)看起來(lái)幾乎相同的新圖像，但對(duì)一些像素進(jìn)行了微妙的修改。這是一種嵌入肉眼無(wú)法識(shí)別的圖案的方法。第二個(gè)神經(jīng)網(wǎng)絡(luò)在圖像中找到這些模式，并告訴用戶水印是否存在或懷疑存在。Cawley 強(qiáng)調(diào)，Synth ID 的設(shè)計(jì)目的是檢測(cè)水印，即使圖像被捕獲為屏幕截圖或通過(guò)旋轉(zhuǎn)和調(diào)整圖像大小進(jìn)行編輯。
芝加哥大學(xué)教授本·趙表示，谷歌 DeepMind 并不是唯一一家開發(fā)這種水印工具的公司。他參與開發(fā)了一個(gè)防止人工智能收集藝術(shù)家作品的系統(tǒng)。類似于 SynthID 的水印工具已經(jīng)發(fā)布，可用于開源圖像創(chuàng)建 AI“Stable Diffusion”。Meta尚未公開發(fā)布水印工具，但已對(duì)其進(jìn)行了研究。
Colley 認(rèn)為，雖然 Google DeepMind 的水印尚不完美，但它比現(xiàn)有水印更能抵抗操縱。
不過(guò)，趙教授對(duì)這種說(shuō)法表示懷疑。“我認(rèn)為很少有水印能夠隨著時(shí)間的推移而保持牢固，”他指出。研究表明，文本水印在發(fā)布后幾個(gè)月內(nèi)就會(huì)變得毫無(wú)用處。
他補(bǔ)充說(shuō)，有惡意勢(shì)力試圖使水印對(duì)某種利益毫無(wú)用處。例如，使用深度偽造內(nèi)容作為不存在的犯罪或事件的實(shí)際照片證據(jù)。
趙教授表示：“這些勢(shì)力可以通過(guò)將 Deepfake 圖像偽裝成真實(shí)照片或聲稱真實(shí)照片是假的來(lái)獲取大量利潤(rùn)?！八麄儾粫?huì)僅僅停留在裁剪圖像、通過(guò)壓縮增加損耗或改變顏色。”
盡管如此，SynthID 的推出是良好的第一步，AI Partnership 的人工智能和媒體誠(chéng)信項(xiàng)目總監(jiān) Claire Leibowicz 表示。她解釋說(shuō)，這些努力可能會(huì)導(dǎo)致行業(yè)共享有關(guān)哪些技術(shù)有效、哪些技術(shù)無(wú)效的信息。
萊博維茨強(qiáng)調(diào)，“無(wú)論情況多么困難，我們都不能放棄。”
Cawley 向本文解釋說(shuō)，SynthID 是一種“實(shí)驗(yàn)性”水印工具，他們將研究人們?nèi)绾问褂迷摴ぞ邅?lái)確定其優(yōu)缺點(diǎn)，然后將其擴(kuò)展到更廣泛的人群。他拒絕回答 Google DeepMind 是否會(huì)將 Synth ID 的使用擴(kuò)展到 Imaginen 之外。此外，沒(méi)有提及是否有計(jì)劃將 Synth ID 添加到谷歌自己的圖像創(chuàng)建人工智能系統(tǒng)中。
初創(chuàng)公司 Hugging Face 的人工智能研究員 Sasha Luccioni 指出，這一決定可能會(huì)限制其實(shí)用性。她補(bǔ)充說(shuō)，如果谷歌擁有該工具的獨(dú)家所有權(quán)，那么只有谷歌才能嵌入和檢測(cè)該水印。
Lucioni 強(qiáng)調(diào)，“如果我們?cè)谡麄€(gè)圖像創(chuàng)作系統(tǒng)中添加水印組件，就可以減少 Deepfake 色情內(nèi)容等造成的損害?！?/p>
原創(chuàng)文章，作者：小科同學(xué)，如若轉(zhuǎn)載，請(qǐng)注明出處：http://leeannwhittemore.com/article/580543.html
