語(yǔ)音社交軟件安全嗎？騰訊小米字節(jié)快手等被約談

　　在聲音社交與短視頻及直播越發(fā)火爆的當(dāng)下，如果一個(gè)陌生人突然頂著你的聲音與臉出現(xiàn)在網(wǎng)絡(luò)端，你的驚訝程度會(huì)否大過(guò)對(duì)自身安全的擔(dān)憂？

　　3月18日，針對(duì)近期未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉“深度偽造”(Deepfake)的技術(shù)的應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)依法約談?dòng)晨汀⑿∶?、快手、字?jié)跳動(dòng)、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂(lè)、騰訊、去演等11家企業(yè)，督促其按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開(kāi)展安全評(píng)估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對(duì)安全評(píng)估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

　　所謂“深度偽造”(Deepfake)，也被譯作“深度造假”，是計(jì)算機(jī)“深度學(xué)習(xí)”(Deeplearning)和“偽造”(fake)的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代，通過(guò)自動(dòng)化手段，尤其是人工智能算法技術(shù)進(jìn)行智能生產(chǎn)、操縱、修改數(shù)據(jù)，實(shí)現(xiàn)媒體傳播行為的一種結(jié)果。直白來(lái)講就是在圖片和聲音中輸入機(jī)器學(xué)習(xí)算法，進(jìn)行“面部操作”(face manipulation)，將一個(gè)人的臉部輪廓與表情轉(zhuǎn)移至其他人臉上，同時(shí)利用對(duì)聲音的處理制造出以假亂真的視頻，大多數(shù)深度偽造都依托于名為生成式對(duì)抗網(wǎng)絡(luò)(GANs)的深度學(xué)習(xí)技術(shù)。

　　根據(jù)《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》要求，出現(xiàn)具有輿論屬性或社會(huì)動(dòng)員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能；使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更；用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開(kāi)展安全評(píng)估，對(duì)評(píng)估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門和公安機(jī)關(guān)提交報(bào)告。網(wǎng)信部門和公安機(jī)關(guān)根據(jù)對(duì)安全評(píng)估報(bào)告的書(shū)面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對(duì)互聯(lián)網(wǎng)信息服務(wù)提供者開(kāi)展現(xiàn)場(chǎng)檢查。

　　公開(kāi)消息稱，未來(lái)國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動(dòng)履行安全管理義務(wù)，切實(shí)履行企業(yè)主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營(yíng)造良好網(wǎng)絡(luò)生態(tài)。

　　截至發(fā)稿，相關(guān)企業(yè)均未回應(yīng)第一財(cái)經(jīng)記者的采訪要求。多位業(yè)內(nèi)相關(guān)企業(yè)人士對(duì)第一財(cái)經(jīng)記者表示，此舉主要為了技術(shù)規(guī)范，對(duì)企業(yè)技術(shù)安全使用標(biāo)準(zhǔn)進(jìn)行進(jìn)一步的明確與統(tǒng)一。

　　2019年夏天，一段似乎是“馬克·扎克伯格”本人的假視頻在Instagram上傳播甚廣，該“扎克伯格”在視頻中聲稱已“完全控制了數(shù)十億用戶的數(shù)據(jù)，掌握了他們所有的秘密”。后經(jīng)調(diào)查后發(fā)現(xiàn)這是一個(gè)藝術(shù)惡搞項(xiàng)目，AI換頭技術(shù)和深度偽造(Deepfake)的危害，而非蓄意傳播的虛假信息。

　　后來(lái)，F(xiàn)acebook與Reddit共同出臺(tái)針對(duì)Deepfake的審核政策，該政策的方向不是為徹底清除這種偽造模式，而是要進(jìn)一步縮小“清除”的目標(biāo)焦點(diǎn)。Facebook表示他們將從平臺(tái)上移除“有強(qiáng)誤導(dǎo)性的媒體信息”，這些信息由機(jī)器學(xué)習(xí)技術(shù)以普通人看不出的方式“編輯或合成”，誤導(dǎo)傳播視頻中的“仿冒”人物所發(fā)表過(guò)的言論。

　　另外，近期多家短視頻平臺(tái)上“螞蟻牙黑”的換臉惡搞視頻火爆刷屏，傳播至抖音、快手、微博、朋友圈，該特效技術(shù)可以將人物圖片同框一起魔性起舞。該換臉特效最初源自一款名為Avatarify的AI變臉軟件。今年3月2日，Avatarify已在AppStore中國(guó)區(qū)下架，官方并未說(shuō)明下架原因。除了Avatarify外，Deep Nostalgia與ZAO等平臺(tái)也因AI換臉應(yīng)用引發(fā)爭(zhēng)議，其背后原因均涉及DeepFake技術(shù)的以假亂真與面部識(shí)別帶來(lái)的個(gè)人隱私泄露及濫用。

　　一位不愿透露姓名的頭部互聯(lián)網(wǎng)安全工程師對(duì)第一財(cái)經(jīng)記者表示，Avatarify的下架主要是因?yàn)閾Q臉惡搞視頻的侵權(quán)問(wèn)題，技術(shù)層面上這些換臉應(yīng)用有可能突破人臉識(shí)別身份認(rèn)證的場(chǎng)景，攻擊者可能利用AI換臉騙取風(fēng)控系統(tǒng)。另外如今大火的聲音社交中，語(yǔ)音偽造技術(shù)也會(huì)被犯罪組織利用。較大的廠商一直在改進(jìn)相關(guān)技術(shù)，技術(shù)層面的研發(fā)提升與其本身存在的各類風(fēng)險(xiǎn)問(wèn)題未來(lái)將長(zhǎng)期對(duì)抗存在。隨著相關(guān)技術(shù)監(jiān)管的加強(qiáng)以及企業(yè)方的自我完善，未來(lái)AI換臉與聲音社交的應(yīng)用將更加嚴(yán)格與謹(jǐn)慎。

　　轉(zhuǎn)自：第一財(cái)經(jīng)日?qǐng)?bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀