展開
 找回密碼
 立即注冊

QQ登錄

只需一步,快速開始

門戶 消費品 IT服務 查看內容
  • QQ空間
  • 回復
  • 收藏

【俠客島】因為這項“危險技術”,11家互聯網公司被約談 ...

nuochen123456 2021-3-29 14:48 1008人圍觀 IT服務

(圖源:網絡)

3月18日,國家網信辦、公安部指導各地網信部門、公安機關,依法約談11家互聯網企業,包括映客、小米、快手、阿里、騰訊等互聯網巨頭。

值得關注的是約談事由。相關公告稱,這些企業的軟件被點名“未履行安全評估程序”和“涉‘深度偽造’技術”,要求其認真開展安全評估,切實履行企業信息內容安全主體責任。

2019年6月,一款名為DeepNude的App風靡全球。用戶只需上傳一張照片,其中人物便可自動“脫掉”衣服,裸體示人。

2020年12月流傳的一則視頻中,“英國女王”在發表圣誕致辭時突然跳上桌子手舞足蹈,說自己早就不滿于對著鏡頭念稿。事后媒體承認,該視頻是將女王面孔合成到演員身上制成,用以警示人們“虛假信息充斥網絡”。

今年,不少短視頻平臺推出魔性“螞蟻呀嘿”視頻。玩家只需上傳一張照片,圖中人就能扭起脖子、瞪著眼睛唱歌。有網友說:只要找到臉,蒙娜麗莎都能蹦起來。

這些產品的基礎都是深度偽造技術。

所謂深度偽造(Deepfake),是指有關軟件通過AI換臉、語音模擬、視頻生成等方式,對既有圖像、聲音、視頻進行篡改、偽造,自動生成音視頻產品。

深度偽造通常由生成器、鑒別器兩個系統組成。生成器生成假音視頻片段,鑒別器辨別該片段真假,從而構成“生成式對抗網絡”,通過不間斷“反復生產”,合成能以假亂真的音視頻。

技術有了,應用場景就多了。

比如,逼真的虛擬教師能讓數字教學更具互動性,虛擬主播在各大媒體平臺吸睛不斷,影視作品可憑虛擬化身突破創作的時空限制,醫療、零售、娛樂等領域的人形問診機器人、虛擬客服、虛擬偶像等也多由深度偽造生成。

但同時,深度偽造也被視作當今世界“最危險的AI技術”之一。

例如,DeepNude“脫衣換臉術”就曾進入國內市場,在一些平臺上只需100元即可打包購買數百部換臉色情片;某反欺詐語音軟件公司對美、英、法、德4國的語音合成市場調查結果顯示,每638個欺詐電話中就有一個是人工合成聲音;美聯社報道稱,一名間諜使用深度偽造技術生成圖片,在某職場社交平臺多次騙取行業信息。

短視頻平臺上流行的“螞蟻呀嘿”視頻(圖源:網絡)

在美劇《越獄》中,男主角的兄長被控謀殺,唯一的證據是停車場內的監控視頻。經過無數波折,男主角最終發現這視頻居然是剪輯、拼接修飾而成。那時還沒有深度偽造技術,但顯然,現在的技術給類似事件提供了更多實現的便利。

有研究論文稱,深度偽造可讓人“言”所未言、“行”所未行,甚至成為實施色情報復、商業詆毀、敲詐勒索、網絡攻擊等非法行為的工具,損害個人和企業合法權益。

美國情報界2019年研究報告稱,深度偽造已為美國帶來一系列安全風險,包括出現了“假奧巴馬”在換臉視頻中人身攻擊競選對手、“假特朗普”出鏡批評別國環保政策等假視頻。該報告稱:“敵對勢力很有可能通過深度偽造加強對美國及其盟友的影響滲透?!?/p>

深度偽造還能通過篡改新聞報道、傳播虛假信息,削弱國家機構及官方新聞媒體公信力,擾亂公共秩序甚至政治秩序。2018年,印度有人在即時通訊軟件上散布利用深度偽造技術制造的虛假信息,導致一些無辜民眾被認為是綁架兒童的嫌犯,最終有20余人被毆打致死。

此外,深度偽造還可能加深公眾對各方的不信任感,進而引發社會憂慮、信任危機。

中國傳媒大學國家傳播創新研究中心副研究員姬德強表示,在人類歷史中,“眼見為實”占據著最基本的認識論權威,大家相信視覺文本的客觀屬性。如今,深度偽造對此構成了前所未有的挑戰,很大程度將沖擊基于“真相”的社會意義和價值空間。

換言之,有了PS后,有圖不一定有真相;有了深度偽造呢?你看到和聽到的都未必是真實的。

美國華盛頓,一名記者觀看“深度偽造”視頻。圖源:視覺中國

對深度偽造嚴加監管,刻不容緩。

在國際上,比如美國近年來陸續出臺包括《2018年惡意偽造禁令法案》《深度偽造責任法案》在內的多項法案,對深度偽造技術進行嚴格的使用限制。

中國《民法典》規定,任何組織或個人不得以丑化、污損,或利用信息技術手段偽造等方式侵害他人的肖像權,未經肖像權人同意,不得制作、使用、公開肖像權人的肖像。

2020年12月,中共中央印發《法治社會建設實施綱要(2020-2025年)》,提出制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法。

從技術角度講,對深度偽造的負面應用要嚴防死守,有兩方面關鍵操作:

一是事前識別。將識別偽造音視頻技術部署在傳播渠道前端,禁止虛假內容發布,或至少提出警告。業內人士建議,相關部門可嘗試建立全網“數字水印或簽名”系統,所有要播發的音視頻、圖片,都須打上數字水印或簽名,便于追溯查詢。

二是事后鑒偽。例如,鼓勵企業加大對鑒偽技術研發的投入,抓緊開發能識別深度偽造內容的工具。還有研究人員指明,區塊鏈技術或將成為“恢復互聯網信任”的最佳切入口。

網絡技術與人工智能在帶來技術紅利的同時,也將達摩克利斯之劍高懸于人類社會的頭頂。如何兼顧技術進步與社會倫理、平衡收益與風險并兼顧發展與安全,將是未來人類社會的一場大考。

文/點蒼居士

編輯/綾波、云歌


鮮花

握手

雷人

路過

雞蛋
?