AI芯天下丨深度偽造:AI時(shí)代不可避免的風(fēng)險(xiǎn)
具備極高欺騙性的深度偽造技術(shù)引發(fā)了諸多爭(zhēng)議,例如AI軟件自動(dòng)生成裸照,奧巴馬、普京等政治人物的深度偽造視頻等,給個(gè)人和社會(huì)帶來了相應(yīng)的風(fēng)險(xiǎn)和挑戰(zhàn)。這是AI來臨后前期不可避免的網(wǎng)絡(luò)風(fēng)險(xiǎn),與此同時(shí)該技術(shù)的應(yīng)用如果得到正面的引導(dǎo),也會(huì)給人們帶來許多積極的價(jià)值。
深度偽造的由來根源
深度偽造技術(shù)(Deepfake)是一種利用AI程序和深度學(xué)習(xí)算法實(shí)現(xiàn)視、音頻模擬和偽造的技術(shù),投入深度學(xué)習(xí)的內(nèi)容庫(kù)越大,合成的視音頻真實(shí)性越高,甚至可以達(dá)到以假亂真的程度。
深度偽造技術(shù)不僅能實(shí)現(xiàn)換臉,更可以通過深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù),可以以視頻這一較為可信的方式讓某人說不曾說過的話,做不曾做的事,達(dá)到混淆觀眾的目的。
雖然操縱數(shù)字文件并不是什么新鮮事兒,但這種可信的偽造行為是通過使用一種人工智能形式的計(jì)算機(jī)程序完成的。
一個(gè)算法被訓(xùn)練來識(shí)別特定人的實(shí)際音頻或視覺記錄中的模式,這個(gè)過程被稱為深度學(xué)習(xí)。就像修改過的圖片一樣,一段音頻或視頻內(nèi)容可以通過更換新元素,比如更換別人的臉或聲音來改變,并無縫地將兩者結(jié)合起來。
與語(yǔ)音克隆技術(shù)結(jié)合使用時(shí),這種手法最容易讓人產(chǎn)生誤導(dǎo)。語(yǔ)音克隆技術(shù)將音頻錄音分解成半音節(jié)的片段,然后可以重新組合成新詞,與蘋果的Siri和亞馬遜的Alexa等語(yǔ)音助手的創(chuàng)建方法相同。
深度偽造視頻的制作離不開AI技術(shù),而AI技術(shù)的實(shí)現(xiàn)則離不開機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù),通過這個(gè)技術(shù),讓計(jì)算機(jī)在生成具有統(tǒng)計(jì)相似性的假實(shí)例之前從真實(shí)數(shù)據(jù)中學(xué)習(xí),模仿語(yǔ)音和形象,進(jìn)而創(chuàng)造出另類的現(xiàn)實(shí),讓人們真假難辨。
技術(shù)的主要風(fēng)險(xiǎn)
隨著AI技術(shù)發(fā)展,視頻換臉技術(shù)門檻降低,普通人也能制作換臉視頻。這項(xiàng)技術(shù)被用于惡搞視頻、色情視頻合成上,其不良效應(yīng)也引發(fā)了社會(huì)的關(guān)注和擔(dān)憂:放任自流,可能成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具。
①由于深度偽造技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上,美國(guó)兩黨開始擔(dān)心該技術(shù)將成為針對(duì)美國(guó)和其他西方國(guó)家發(fā)起虛假信息戰(zhàn)爭(zhēng)的最新武器。
②制作虛假的色情視頻是深度偽造技術(shù)常見的運(yùn)用方式之一。利用該技術(shù)能實(shí)現(xiàn)將一些公眾人物的臉移轉(zhuǎn)到色情明星的身體上,偽造逼真的色情場(chǎng)景。這些虛假的色情視頻一經(jīng)傳播,受害人的名譽(yù)將嚴(yán)重受損,個(gè)人隱私還隨時(shí)有可能受到侵犯。
③深度偽造技術(shù)對(duì)企業(yè)首次募股(IPO)同樣有不可估量的負(fù)面影響。深度偽造技術(shù)可以借用企業(yè)負(fù)責(zé)人的公開談話視頻,篡改表情及談話內(nèi)容,散播虛假信息,讓社會(huì)公眾發(fā)生錯(cuò)誤認(rèn)識(shí),直接影響公司的信譽(yù)及經(jīng)濟(jì)利益。
④就像圖片處理軟件Photoshop一樣,深度偽造則是一套由人工智能驅(qū)動(dòng)的視頻偽造軟件,它可以讓人們看起來在做或說他們從未做過的事情。對(duì)視頻的數(shù)字操縱并不是什么新鮮事,但深度偽造這個(gè)工具存在的意義是,被操縱的視頻片段更容易被制作出來,而且還會(huì)越來越難被區(qū)分為欺詐。
⑤深度偽造技術(shù)可能會(huì)過度損害聲譽(yù),甚至引發(fā)騷亂。想象一下,在偽造的視頻中,總統(tǒng)候選人猥褻兒童,警察局長(zhǎng)煽動(dòng)針對(duì)少數(shù)群體的暴力行為,或者士兵犯下戰(zhàn)爭(zhēng)罪,結(jié)果不堪設(shè)想。
技術(shù)的正面價(jià)值
互聯(lián)網(wǎng)時(shí)代下,先進(jìn)的AI技術(shù)和開放的數(shù)據(jù)流動(dòng)給社會(huì)帶來巨大的信息紅利。信息流動(dòng)載體從原始的文本、到語(yǔ)音、至視頻、后進(jìn)化至如今的虛擬現(xiàn)實(shí),數(shù)據(jù)的巨大量和更高的開放程度允許越來越多消費(fèi)者參與進(jìn)來。而今隨著AI、深度偽造技術(shù)的發(fā)展,信息更能以重塑現(xiàn)實(shí)的方式豐富用戶的體驗(yàn)。
與AI結(jié)合的深度學(xué)習(xí)算法用于科學(xué)研究上,能幫助改善醫(yī)學(xué)圖像分析,還能用于彌補(bǔ)聽力缺陷,幫助有聽力障礙的人理解別人的話語(yǔ)等。
該技術(shù)用于制作、真實(shí)還原歷史人物的肖像、相關(guān)音頻和視頻,或者讓藝術(shù)作品中的靜態(tài)的人物角色生活起來,實(shí)現(xiàn)教育大眾、豐富人們精神世界的目的。
該技術(shù)實(shí)際上與深度學(xué)習(xí)運(yùn)用的技術(shù)一樣,這意味著在面對(duì)深度偽造帶來的潛在風(fēng)險(xiǎn)時(shí),不是全部禁止深度偽造技術(shù)的應(yīng)用,而是有效管控其風(fēng)險(xiǎn),尤其是對(duì)可能造成特定傷害的深度偽造的虛假信息進(jìn)行規(guī)制,同時(shí)不妨礙其在教育、藝術(shù)、社交、虛擬現(xiàn)實(shí)、個(gè)人發(fā)展、醫(yī)療等等領(lǐng)域的應(yīng)用。
深度偽造技術(shù)是AI發(fā)展到一定階段的產(chǎn)物,技術(shù)本身是中立的。技術(shù)并不導(dǎo)致社會(huì)矛盾,只是技術(shù)的出現(xiàn)加劇了這種社會(huì)矛盾。所以我們不應(yīng)該因此而禁止深度偽造技術(shù)。與此相比,更重要的是提高針對(duì)深度偽造的檢測(cè)技術(shù)、完善相關(guān)認(rèn)證機(jī)制。
結(jié)尾:
這是一個(gè)眼見為實(shí)的世界,所有人都相信自己親眼看到的事情,但是隨著人工智能技術(shù)的不斷發(fā)展,眼見有時(shí)也絕非為實(shí),它給人們根深蒂固的觀念帶來了沖擊。
但與此同時(shí)也有越來越多人在學(xué)習(xí)、研發(fā)相關(guān)的檢測(cè)技術(shù),掌握判斷真?zhèn)蔚募寄。隨著深度偽造技術(shù)越來越成熟,相應(yīng)的檢測(cè)深度偽造的技術(shù)也會(huì)越來越先進(jìn),這將是一場(chǎng)永無休止的競(jìng)賽。
轉(zhuǎn)至公眾號(hào)——AI芯天下
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市