作者 | 核子可樂、凌敏

經過迅速發展，如今的 AI 技術已經可以利用社交媒體素材輕松偽造出有害照片。

近日， 的研究人員做了一項研究：大家在社交媒體上發布的真實照片，會被 AI 的二次創作“玩壞”嗎？

為了找到答案，研究人員聯系了一位志愿者，使用其提供的幾張真實照片，用 AI 生成假照片。結果顯示，這些假照片的威力巨大，很有可能破壞其聲譽。最終，研究人員創建了一個名為約翰的虛擬人物，以其作為案例，一起看看 AI 是怎么把約翰“玩壞”的。

提供了 7 張照片后，約翰被 AI“玩壞”了

這位名叫約翰的虛構人物，在假想的場景中是一名小學教師。和大多數人一樣，他在過去 12 年里通過 發布了不少自己工作、居家和外出時的照片。

以約翰的 7 張照片作為訓練數據，就能訓練出足以偽造約翰形象的強大 AI 模型，并能把約翰的照片毫無破綻地放在任意背景之下。

這個 AI 模型生成的假照片栩栩如生，甚至到了以假亂真的底部，比如，約翰打扮成小丑跑去喝酒，約翰在周末參加準軍事組織的訓練，約翰幾年前曾入獄服刑。

這些約翰照片來自名為 （1.5 版）的 AI 圖像生成器，外加名為 的技術。雖然約翰不是真人，但用真人的 5 張以上圖像完全可以重現類似的結果。這類照片不難獲取，社交媒體的發布內容可以、視頻中的靜止幀也行。

整個訓練過程大概需要一個小時，訓練完成后，圖像內容的生成還需要幾個小時——這不是因為生成過程太慢，而是研究人員從大量不完美的圖片里挑出質量最高的圖片。但無論如何，這樣還是比親自動手用 PS 畫假約翰簡單得多。

在 AI 的支持下，約翰可以是犯罪分子，也可以是變態狂人，如果使用針對色情內容優化的附加 AI 模型，約翰甚至可以成為色情明星。

AI 還能把約翰放置在奇妙的背景下，例如讓他成為中世紀的騎士或者宇航員，讓他顯得年輕或衰老、肥胖或瘦弱、戴眼鏡或不戴，也能給他換上不同的服飾。

有的合成圖像并不完美。如果仔細觀察，有經驗的人會發現這些并非真圖。但相應的 AI 技術一直在迅速發展，我們可能很快就無法分辨合成照片與真實照片間的區別。而且即使存在缺陷，這些偽造圖像仍有可能毀掉約翰的名譽乃至生活。

這就是技術的兩面性所在。人們當然可以用 AI 創建天馬行空的神奇畫面， 等近期大熱的商業服務和應用就是一例。然而，一旦有人未經他人同意就使用對方的面部圖像，那么同樣的技術也可能造成可怕的后果。

背后的工作原理

計算機科學家們已經找到了利用真實照片教 AI 偽造新畫面的高質量方法，在過去的一年里，這項技術正日漸成熟。不過，這項技術一直存在爭議，因為除照片之外，它還允許人們在未經許可下模仿在世藝術家的創作風格。

目前最具影響力的 AI 圖像生成器之一是 。這種深度學習圖像合成模型能夠利用文本描述生成全新圖像，可以運行在 或 PC 的強大本地 GPU 上，也可以在 Mac 或者租用的云端硬件上起效。

在 AI 雄厚財力的支持下， 學術組織利用互聯網上獲取的幾億張公開圖像訓練出了 AI 模型。 AI 于 2022 年 8 月 22 日將 以開源軟件的形式發布，現在任何人均可免費使用，其功能也被集成至越來越多商業產品當中。

通過強化訓練， 神經網絡學會了單詞與圖像中各像素位置間的一般統計關聯。大家可以給 提供一條文本提示，例如“摩根·弗里曼坐在教室里”，然后就能得到相應的全新圖像。

制作這類大明星的圖像很簡單，因為 的訓練數據集里沒準有幾百張摩根·弗里曼的照片，它知道這位演員長什么樣子。但如果想制作約翰這類普通人的圖像，就得給 一點額外的幫助。這就是 的意義所在。

微調模型

谷歌研究人員于 2022 年 8 月 30 日宣布， 使用一種特殊的“微調”技術幫助 完成了新的學習。

最初， 其實跟 沒有任何關系，而且谷歌為了防止被濫用而屏蔽了 的代碼。但在公布不久之后，就有人主動把 跟 結合了起來，并將其代碼作為開源項目免費發布。

從那時起， 開始成為 學習全新藝術風格的重要“家教”。用戶們在線上存儲庫里分享自己的 微調模型，并供其他人下載以快速獲得類似的視覺效果。

但從一開始，谷歌研究人員就知道這種技術完全可以用到人身上，而麻煩也將隨之而來。因此他們在公布 時，使用的是柯基犬的圖像。但這點小心思當然躲不過評判者的法眼，《麻省理工科技評論》批評稱，AI 科學家顯然是在用這種消極的方式回避其成果所帶來的潛在負面影響。

用 AI“打敗”AI

未來，也許會有新的技術手段來防范這種照片濫用。例如，法律可能要求未來的 AI 圖像生成器在輸出中嵌入肉眼不可見的水印，以供日后檢驗。

比如， 就默認嵌入水印，但開源版本的用戶可以刪除或禁用水印組件來解決問題。不過，即使法律強制要求，市面上也還有其他不加水印的 技術存在。

最近，麻省理工學院的研究人員公布了 對抗方法，能用一種不可見的方法巧妙修改照片，借此防止 AI 操縱現有圖像。但其目前只適用于 AI 編輯（即「修改」），而非圖像訓練或生成。

另外，時間也許能解決一切。隨著人們對偽造圖像認知的增強，社會文化最終也許能夠消化掉這些新問題。我們會慢慢接受這樣一種新的媒體呈現方式，并開始關注照片是否擁有可信來源。但在適應新形勢之前，AI 合成的偽造品肯定會造成一段時期的混亂。