“改頭換面”“語(yǔ)音克隆” 警惕AI帶來(lái)便利時(shí)暴露出風(fēng)險(xiǎn)隱患
記者從國(guó)家安全部了解到，隨著人工智能技術(shù)的飛速發(fā)展，深度偽造技術(shù)逐漸進(jìn)入我們的生活，在帶來(lái)驚喜和便利的同時(shí)，也暴露出一系列風(fēng)險(xiǎn)隱患，如不注意防范，甚至可能危害國(guó)家安全。
眼見(jiàn)未必為實(shí)
耳聽(tīng)未必為真
深度偽造技術(shù)是“深度學(xué)習(xí)”與“偽造”的結(jié)合，利用人工智能的深度學(xué)習(xí)算法進(jìn)行自動(dòng)化的數(shù)據(jù)處理，實(shí)現(xiàn)圖片、音頻及視頻的智能模擬和偽造，包括視頻偽造技術(shù)、音頻偽造技術(shù)、虛假網(wǎng)絡(luò)身份偽造技術(shù)等。它的出現(xiàn)使得篡改或生成高度逼真且難以甄別的音視頻內(nèi)容成為可能，觀察者很難辨明真?zhèn)巍?span style="display:none">COw知多少教育網(wǎng)-記錄每日最新科研教育資訊
視頻偽造技術(shù)。將提供的人物面部照片特征“轉(zhuǎn)換”到其他人物形象上，從而實(shí)現(xiàn)“改頭換面”的目的。
音頻偽造技術(shù)。利用“語(yǔ)音克隆”技術(shù)，以高仿真度模擬目標(biāo)人物的聲音。
虛假網(wǎng)絡(luò)身份偽造技術(shù)。在創(chuàng)建虛假個(gè)人資料時(shí)，通過(guò)生成偽造的面孔附加至身份信息中，成為隱藏身份的手段。
智能改變?yōu)閷?shí)
風(fēng)險(xiǎn)挑戰(zhàn)為真
深度偽造技術(shù)憑借其在圖像、音頻和視頻生成方面的卓越能力，迅速成為一種新興技術(shù)工具。但它又是一把雙刃劍，操作簡(jiǎn)易，應(yīng)用門(mén)檻低，高度欺騙性的視覺(jué)和聽(tīng)覺(jué)偽造內(nèi)容難以被發(fā)現(xiàn)，潛在的破壞性和安全風(fēng)險(xiǎn)日益凸顯。
深度偽造技術(shù)可能侵害個(gè)人權(quán)益。別有用心之人利用深度偽造技術(shù)可以輕易盜用他人身份，侵害他人肖像權(quán)、隱私權(quán)等權(quán)利，部分不法分子甚至可能利用深度偽造技術(shù)進(jìn)行詐騙，對(duì)財(cái)產(chǎn)安全造成現(xiàn)實(shí)危害。
深度偽造技術(shù)可能引發(fā)社會(huì)憂慮和信任危機(jī)。深度偽造技術(shù)可以隨時(shí)隨地制造大量假新聞，影響社會(huì)輿論走向，引起民眾恐慌。隨著公眾意識(shí)到“深度偽造”的危害，他們可能會(huì)迷失在真假信息之中，對(duì)事實(shí)產(chǎn)生懷疑。
深度偽造技術(shù)可能威脅國(guó)家安全和公共安全。深度偽造技術(shù)不僅會(huì)在一般行業(yè)得到應(yīng)用，也有可能成為間諜情報(bào)機(jī)關(guān)開(kāi)展“認(rèn)知戰(zhàn)”的新工具。隨著深度偽造技術(shù)的橫空出世，某些境外間諜情報(bào)機(jī)關(guān)可能進(jìn)一步利用該技術(shù)迭代情報(bào)技術(shù)手段，開(kāi)展招募策反、污蔑抹黑、混淆視聽(tīng)等活動(dòng)。
國(guó)家安全機(jī)關(guān)提示
面對(duì)深度偽造技術(shù)帶來(lái)的機(jī)遇和挑戰(zhàn)，要統(tǒng)籌發(fā)展和安全，提高安全意識(shí)，共同維護(hù)國(guó)家安全和社會(huì)穩(wěn)定。
使用技術(shù)要注意。廣大公民應(yīng)注意保護(hù)好個(gè)人隱私，特別是核心涉密崗位人員，切勿將國(guó)家秘密、商業(yè)秘密或個(gè)人隱私等敏感信息輸入相關(guān)技術(shù)軟件中，不用網(wǎng)絡(luò)傳播涉密內(nèi)容。
信息安全要防范。相關(guān)平臺(tái)企業(yè)應(yīng)加強(qiáng)信息安全管理，采取必要的技術(shù)措施保護(hù)相關(guān)信息的安全存儲(chǔ)和傳輸，防止信息泄露、丟失或被非法使用。同時(shí)，加強(qiáng)對(duì)深度偽造技術(shù)發(fā)布內(nèi)容的甄別，使其遵守法律“紅線”和道德“底線”。
可疑信息要警惕。謹(jǐn)慎對(duì)待相關(guān)視聽(tīng)內(nèi)容，在轉(zhuǎn)發(fā)網(wǎng)絡(luò)信息前先多方驗(yàn)證信息可靠性，不做謠言傳播者，以官方渠道發(fā)布的信息為準(zhǔn)。
維護(hù)國(guó)家安全是每個(gè)公民義不容辭的責(zé)任和義務(wù)，廣大人民群眾如發(fā)現(xiàn)利用深度偽造技術(shù)危害國(guó)家安全的問(wèn)題線索，可通過(guò)12339國(guó)家安全機(jī)關(guān)舉報(bào)受理電話、網(wǎng)絡(luò)舉報(bào)平臺(tái)（www.12339.gov.cn）、國(guó)家安全部微信公眾號(hào)舉報(bào)受理渠道或者直接向當(dāng)?shù)貒?guó)家安全機(jī)關(guān)進(jìn)行舉報(bào)。
本文鏈接：http://knowith.com/news-23-47269.html“改頭換面”“語(yǔ)音克隆” 警惕AI帶來(lái)便利時(shí)暴露出風(fēng)險(xiǎn)隱患
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
