在采訪中，Reality Defender的首席執(zhí)行官Ben Colman探討了在實(shí)際應(yīng)用中檢測高質(zhì)量深度偽造內(nèi)容(deepfake)所面臨的挑戰(zhàn)。他討論了水印技術(shù)、基于AI的檢測以及新興技術(shù)在確保媒體真實(shí)性方面的潛力及其局限性。

Colman還強(qiáng)調(diào)了公眾教育、針對特定行業(yè)的AI實(shí)施以及積極的研究合作對于應(yīng)對快速發(fā)展的深度偽造策略的重要性。

鑒于深度偽造生成技術(shù)的不斷發(fā)展，當(dāng)前在實(shí)際應(yīng)用中的檢測方法存在哪些局限性?像水印或基于AI的檢測這樣的傳統(tǒng)技術(shù)效果如何，尤其是在面對高質(zhì)量、基于生成對抗網(wǎng)絡(luò)(GAN)的深度偽造內(nèi)容時(shí)?

基于水印(來源)的檢測和基于AI(推斷)的檢測在任何/所有用例中都可以并且非常有效地根除深度偽造內(nèi)容。然而，前者在實(shí)施上面臨獨(dú)特的問題，即平臺和生成工具的“接納”。簡而言之，如果AI生成模型沒有選擇加入，因此沒有使用來源水印進(jìn)行簽名，那么在這種情況下，使用來源水印就會受到限制。還有一個(gè)令人擔(dān)憂的問題是，如果任何人都能用平臺檢查水印時(shí)所用的水印給內(nèi)容打上標(biāo)記，而不論其真實(shí)性如何，那么這種水印檢查就會失效。

就基于推斷的檢測而言，真實(shí)情況永遠(yuǎn)未知且被視為如此，因此檢測是基于內(nèi)容被操縱或未被操縱的1%至99%的可能性?；谕茢嗟钠脚_不需要平臺的接納，而是需要在各種用例和情境下(以及作為平衡的各種真實(shí)媒體)對廣泛的深度偽造技術(shù)和方法進(jìn)行訓(xùn)練的穩(wěn)健模型。

為了領(lǐng)先于新興的威脅向量和突破性的新模型，那些制定基于推斷的解決方案的人可以關(guān)注新興的GenAI研究，并在此類研究產(chǎn)品化之前或之時(shí)將其方法納入檢測模型中。同樣，借鑒來源檢測的策略，與GenAI和深度偽造平臺合作，在公開部署之前獲取模型和技術(shù)，以便對未來的模型生成數(shù)據(jù)進(jìn)行訓(xùn)練，這對于增強(qiáng)穩(wěn)健性也是至關(guān)重要的。

使用區(qū)塊鏈、元數(shù)據(jù)和數(shù)字水印來驗(yàn)證媒體的真實(shí)性有哪些潛在的優(yōu)點(diǎn)和局限性?是否有新興技術(shù)或混合方法有望在提高深度偽造檢測準(zhǔn)確性方面展現(xiàn)出前景?

與檢測暴力圖像或兒童性虐待材料(CSAM)不同——后者通常需要與已知此類內(nèi)容的數(shù)據(jù)庫進(jìn)行比對——深度偽造沒有已知的數(shù)據(jù)庫，并且由于深度偽造的廣泛性和深度，以及深度偽造技術(shù)和模型的多樣性，建立此類數(shù)據(jù)庫是徒勞的。也就是說，單一的檢測方法效果不如組合的檢測方法——這是網(wǎng)絡(luò)安全中的“瑞士奶酪”策略?；谕茢嗪突趤碓吹臋z測方法協(xié)同工作可以相互補(bǔ)充，并為每個(gè)掃描的媒體文件提供比單獨(dú)使用時(shí)更多的數(shù)據(jù)。

深度偽造已經(jīng)被用于散布虛假信息、網(wǎng)絡(luò)騷擾和其他惡意活動。如何在公共和政府部門實(shí)施用于檢測深度偽造的AI工具，以保護(hù)信息完整性而不侵犯個(gè)人自由?

僅從過去一年來看，確保通信安全至關(guān)重要——尤其是在金融和政府部門。根據(jù)我們的經(jīng)驗(yàn)，在最關(guān)鍵的入口點(diǎn)，由于深度偽造——尤其是音頻和視頻——分別在電話環(huán)境和網(wǎng)絡(luò)會議平臺上構(gòu)成的財(cái)務(wù)和安全風(fēng)險(xiǎn)，許多這些實(shí)體已經(jīng)在實(shí)施某種程度的深度偽造檢測。

為了在這些領(lǐng)域?qū)崿F(xiàn)有效檢測，用于訓(xùn)練這些檢測模型的數(shù)據(jù)集必須平衡且具有代表性——包括但不限于口音、方言、膚色(跨越Monk膚色量表)、面部不對稱性以及一系列有助于使這些數(shù)據(jù)集真正具有代表性的因素。這不僅是為了構(gòu)建一個(gè)完全穩(wěn)健的系統(tǒng)，也是為了保護(hù)電話另一端那些不是深度偽造的人——防止由于某一組或子集缺乏代表性而導(dǎo)致的誤報(bào)和漏報(bào)。

公眾教育作為應(yīng)對深度偽造威脅的工具效果如何?還可以采取哪些額外措施來幫助用戶識別被操縱的媒體?

許多公眾已經(jīng)知道AI的奇妙之處，但較少有人知道其危害。提高公眾意識和教育始終至關(guān)重要，尤其是在可能接觸到深度偽造或人為操縱內(nèi)容的地方。然而，深度偽造變得越來越令人信服、越來越逼真，以至于現(xiàn)在即使是經(jīng)驗(yàn)豐富的研究人員也很難僅通過查看或收聽媒體文件來區(qū)分真假。這就是深度偽造技術(shù)的先進(jìn)程度，并且它們將繼續(xù)在可信度和逼真度方面不斷發(fā)展。

因此，在上述內(nèi)容平臺或任何可能存在深度偽造的地方實(shí)施深度偽造檢測解決方案至關(guān)重要。用戶不能也不應(yīng)該被要求依靠自己的感官來判斷，例如，一個(gè)逼真的音頻文件是真是假，尤其是當(dāng)音頻在不到兩年的時(shí)間里逼真度突飛猛進(jìn)時(shí)。所以，是的，提高意識并將其納入基本的網(wǎng)絡(luò)安全/反社會工程學(xué)培訓(xùn)是關(guān)鍵，但這并不是全部。

鑒于深度偽造制作者能夠快速適應(yīng)檢測方法，您如何設(shè)想未來AI的發(fā)展，以助于預(yù)先識別和減輕新的深度偽造策略?

如前所述，關(guān)注研究的發(fā)展方向和整個(gè)行業(yè)的合作對于快速檢測新技術(shù)和模型至關(guān)重要。我們有幸與業(yè)內(nèi)一些最著名的公司建立了合作伙伴關(guān)系，正是出于這個(gè)目的，因?yàn)樗鼈兣c我們有著共同的使命，即在企業(yè)和政府空間中確保通信安全，防范危險(xiǎn)的深度偽造。通過合作伙伴關(guān)系和協(xié)作，在公開推出之前增加對這些方法的訪問，已經(jīng)并將繼續(xù)阻止新的威脅和不良行為者的出現(xiàn)。