3月18日，網(wǎng)信辦、公安部宣布，針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)地方網(wǎng)信部門、公安機關(guān)依法約談映客、阿里等11家企業(yè)。

當(dāng)下不少語音社交和AI換臉的產(chǎn)品一上線就成為爆款，但涉及用戶隱私泄露、內(nèi)容是否合規(guī)等問題也被曝光，隨即被下架。針對此類產(chǎn)品，相關(guān)部門強化安全評估，這給平臺提出了更高的安全挑戰(zhàn)，但對保護用戶個人信息、打擊違法違規(guī)內(nèi)容傳播則是直接利好。

開展安全評估

據(jù)國家互聯(lián)網(wǎng)信息辦公室官方微信公眾號“網(wǎng)信中國”披露：針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機關(guān)依法約談映客、小米、快手、字節(jié)跳動、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)，督促其按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)及政策要求，認真開展安全評估，完善風(fēng)險防控機制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時采取有效整改措施，切實履行企業(yè)信息內(nèi)容安全主體責(zé)任。

根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》要求，出現(xiàn)具有輿論屬性或社會動員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能；使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更；用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開展安全評估，對評估結(jié)果負責(zé)，并向網(wǎng)信部門和公安機關(guān)提交報告。網(wǎng)信部門和公安機關(guān)根據(jù)對安全評估報告的書面審查情況，認為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對互聯(lián)網(wǎng)信息服務(wù)提供者開展現(xiàn)場檢查。

截至北京商報記者發(fā)稿，上述企業(yè)并未就此次約談對外回應(yīng)。

亂象愈演愈烈

說到語音社交和AI換臉，2021年國內(nèi)最火的應(yīng)用非“對話吧”和“螞蟻呀嘿”莫屬，前者是“Clubhouse中國版”，后者類似之前爆紅的“ZAO”。

按照對話吧項目負責(zé)人江宇航透露的信息，對話吧是2月3日晚上立項的，2月10日對話吧在蘋果和安卓應(yīng)用商店全部上線進行內(nèi)測。2月20日，對話吧母公司映客CEO奉佑生邀請金沙江創(chuàng)投董事總經(jīng)理朱嘯虎、昆侖萬維(22.900, -0.64, -2.72%)CEO周亞輝等大佬在對話吧討論。當(dāng)天，對話吧在互聯(lián)網(wǎng)圈走紅。

沒過幾天，對話吧在蘋果和安卓應(yīng)用商店下架，對話吧相關(guān)人士對北京商報記者的解釋是：“目前是在進行整體技術(shù)和形態(tài)的升級調(diào)整，技術(shù)產(chǎn)品人員在加班加點進行更新?！苯刂帘本┥虉笥浾甙l(fā)稿，對話吧沒有恢復(fù)上架。

2月底3月初，互聯(lián)網(wǎng)圈再因一系列“螞蟻呀嘿”搞笑短視頻沸騰。用戶在AI換臉軟件Avatarify上傳一張照片，就可以讓任何人實現(xiàn)變臉特效。操作簡單、畫面魔性諸多因素讓“螞蟻呀嘿”視頻在各大社交平臺瘋狂傳播，但不到一個星期，Avatarify遭遇下架。

Avatarify的經(jīng)歷和2019年上線的ZAO如出一轍。當(dāng)年ZAO上線僅一天，就在各大社交平臺刷屏，隨后在蘋果應(yīng)用商店的免費App下載登頂。但3天后，ZAO被下架。

“Avatarify和ZAO涉及的問題一樣，主要是可能存在個人隱私數(shù)據(jù)泄露、侵權(quán)等隱患，也不排除數(shù)據(jù)被不法分子用于偽造照片或視頻實施詐騙等。”比達咨詢分析師李錦清向北京商報記者表示。

他進一步說，“相比圖文社交，語音社交，尤其是像對話吧這樣的多人參與的語音群聊，在內(nèi)容安全性上更難把控，涉黃涉非等違法違規(guī)內(nèi)容更容易出現(xiàn)，且在現(xiàn)有技術(shù)條件下，隱蔽性更強，給平臺提出了安全合規(guī)挑戰(zhàn)”。

監(jiān)管未雨綢繆

事實上，上述問題一直是相關(guān)部門的關(guān)注重點。2019年9月，針對媒體公開報道和用戶曝光的ZAO App用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局9月3日對北京陌陌科技有限公司相關(guān)負責(zé)人進行了問詢約談，要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，采取有效措施防范自有業(yè)務(wù)平臺被利用實施電信網(wǎng)絡(luò)詐騙等風(fēng)險隱患。

“相比之下，傳統(tǒng)的圖文是審核最嚴(yán)格、流程最成熟的，巨頭互聯(lián)網(wǎng)公司都有上萬人巨大的審核團隊，基本上杜絕了大的欺騙事件發(fā)生。短視頻時代出現(xiàn)了新的問題，比如騙子冒充明星行騙，監(jiān)管部門、視頻平臺還沒有做好確認身份，剔除假信息的流程。不過2018-2019年視頻平臺加大投入，用AI和人工審核，基本上擦邊的色情暴力以及詐騙等審核也成熟很多?，F(xiàn)在語音和人臉AI合成又出現(xiàn)了新問題，如果流行開來，肯定會造成假消息泛濫，沖擊正常的輿論空間，甚至被不法分子利用詐騙?！蔽臏Y智庫創(chuàng)始人王超總結(jié)。

王超還告訴北京商報記者，“目前來看，這類惡意語音和人臉AI合成制造假消息和詐騙還沒苗頭，但隨著這些技術(shù)進一步發(fā)展，肯定會出現(xiàn)這一問題。監(jiān)管層未雨綢繆，很有遠見，而且這個詐騙的逼真程度更高，就連高學(xué)歷高知識人群也辨別不了。不過，一定有技術(shù)可以識別這些虛假合成的語音和視頻，平臺總會想到簡單易行、成本較低的鑒別辦法的”。

國家互聯(lián)網(wǎng)信息辦公室、公安部表示，下一步將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動履行安全管理義務(wù)，切實履行企業(yè)主體責(zé)任，共同維護網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。