只需3秒，你的聲音就能被完美克隆。

誰能想到科技圈頂流之一的雷軍，居然因為AI語音引起互聯(lián)網(wǎng)熱議？

國慶期間，小雷的抖音首頁幾乎被雷軍的AI語音包刷屏。視頻中的“雷軍”用熟悉的口音帶著些許不耐煩的語氣，戲謔地吐槽：“這游戲做成這樣，絕對是來搗亂的！”由于這些用詞與雷軍本人十分相似，評論區(qū)也常有人問到：“這真是雷軍本人說的嗎？”

（圖源：抖音）

因神似雷軍說話的語氣和口音，這些語音包已經(jīng)在短視頻平臺迅速走紅。但隨著這股雷軍AI語音熱潮席卷網(wǎng)絡(luò)，除了給網(wǎng)友們帶來歡樂，也掀起了更深層次的討論。AI語音技術(shù)的快速發(fā)展正深刻地改變著我們的生活，而它的濫用則讓我們意識到，這項技術(shù)帶來的不只是便利，還有潛在的風(fēng)險：如果雷軍的聲音可以如此輕松地被復(fù)制和惡搞，那在生活中，其他人的聲音是否也會面臨相同的風(fēng)險呢？

惡搞雷軍，AI語音方向錯了？

實際上，在雷軍AI語音出圈之前，已經(jīng)有不少明星“中招”。去年末，美國某知名歌手AI語音視頻頻頻出圈，視頻中的她不僅能說這一口流利的中文，甚至還發(fā)表了一些政治傾向明顯的言論，引起巨大爭議。該名歌手的團隊也在了解此事后迅速發(fā)文澄清，但已經(jīng)有不少網(wǎng)友信以為真，造成了影響。

作為當(dāng)代最快實現(xiàn)普適化的AI技術(shù)之一，AI語音其實在我們生活中已經(jīng)相當(dāng)流行，例如抖音早早就推出了AI配音功能，讓創(chuàng)作者可以輸入一段文字后使用AI進行語音生成，還能模仿不同的口音，不同的人物角色語氣等。

（圖源：剪映）

AI語音主要分為5種模式，分別是語音合成、語音克隆、語音識別、深度偽造和自然語言處理。大多數(shù)創(chuàng)作者在偽造名人AI語音時，都會使用多種模式進行炮制，比如雷軍的AI語音包，顯然使用了語音合成、語音克隆、深度偽造音頻以及自然語言處理的結(jié)合。這些技術(shù)共同作用，使得AI生成的語音能夠高度逼真地模仿雷軍的聲音和語氣，為用戶提供了一種“真假難辨”的體驗。

當(dāng)然，假如AI語音合成僅僅停留在惡搞的層面上，或許還不至于讓網(wǎng)友們開始擔(dān)憂這項技術(shù)的安全性。根據(jù)美國聯(lián)邦貿(mào)易委員會（FTC）的數(shù)據(jù)，2022年因親友冒充詐騙導(dǎo)致的損失高達2.6億美元，其中很多案件使用了AI語音克隆技術(shù) 。詐騙者通常只需幾秒鐘的語音片段，就能輕松模仿受害者親友的聲音，發(fā)起“緊急求助”的詐騙。這類騙局在美國、英國和印度等地頻發(fā)，且常以老人和年輕人作為目標(biāo)，讓人防不勝防。

AI語音之所以能夠快速席卷全球，并被不法分子利用到行騙當(dāng)中，其實與其發(fā)展勢頭過猛也脫不開關(guān)系。比如專注于AI語音技術(shù)研究的ElevenLabs，在前兩年就開發(fā)出了通過卷積神經(jīng)網(wǎng)絡(luò)（CNN）和循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），平臺能夠識別和模仿獨特的發(fā)音模式，并復(fù)現(xiàn)這些特征，適用于個性化內(nèi)容制作，例如創(chuàng)建定制的虛擬助手聲音的技術(shù)。

（圖源：剪映）

更重要的是，ElevenLabs率先在提供了高保真的聲音克隆特性，這使得大多數(shù)創(chuàng)造者都能通過它獲得非常逼真的AI語音音頻。

不過，縱使AI語音引起了大眾對安全性的擔(dān)憂，但它的到來還是為人類進入到AGI（通用人工智能技術(shù)）時代提供了最基礎(chǔ)的技術(shù)支持，例如自然語言交流對話，這幾乎出現(xiàn)在所有主流AI工具上，OpenAI、Google、蘋果，都將這項技術(shù)視為最重要的交互模式。

AI語音被濫用，如何防詐成關(guān)鍵

多數(shù)普通用戶最常接觸到的AI語音造假，基本上都是惡搞名人語音包進行視頻重新配音輸出的內(nèi)容，比如雷軍。這些惡搞視頻不乏粗鄙語言和不當(dāng)言論，不僅損害了名人的個人形象，還加劇了網(wǎng)絡(luò)暴力的蔓延 。這些內(nèi)容在社交媒體上廣泛傳播，誤導(dǎo)了公眾輿論，甚至讓人難以分辨真?zhèn)危�降低了人們對社交媒體平臺的信任。

而雷軍也在個人社交賬號上用三個emoji表情回應(yīng)了近期AI語音出圈的事情，但并沒有表明要采取任何法律手段。當(dāng)然，這是因為雷軍的AI語音多數(shù)都出現(xiàn)在抖音這樣的短視頻平臺上，而抖音很早就使用了AI技術(shù)的檢測工具，能夠在視頻內(nèi)容里標(biāo)注相關(guān)風(fēng)險，很大程度上避免了可能存在的糾紛和誤會。

（圖源：微博）

但不法分子往往會將AI語音克隆技術(shù)應(yīng)用到金融詐騙上，這種讓人無法分辨真假的語音包，的確存在較大的風(fēng)險。

然而，面對AI語音濫用帶來的風(fēng)險，各界已經(jīng)開始采取措施以加強防范。銀行和金融機構(gòu)首先意識到了多重身份驗證的重要性。例如，英國的一家在線銀行在強化生物識別和短信驗證后，大幅減少了因語音詐騙而造成的損失。除了多因素驗證，銀行還可以通過AI技術(shù)監(jiān)控潛在的語音欺詐行為，從而有效地保護用戶資金安全。

AI技術(shù)提供商同樣意識到自身的責(zé)任。ElevenLabs等公司在發(fā)現(xiàn)其技術(shù)被濫用后，迅速推出了檢測工具，并嚴格限制了未付費用戶的訪問權(quán)限。這不僅可以幫助用戶識別虛假音頻，還能減少惡意濫用的機會。AI公司應(yīng)當(dāng)進一步發(fā)展檢測技術(shù)，與政府和行業(yè)組織合作，確保AI語音技術(shù)在合法、合理的范圍內(nèi)使用。

（圖源：ElevenLabs）

除了監(jiān)管機構(gòu)和AI技術(shù)提供商的防詐措施之外，我們普通用戶也需要警惕AI語音詐騙。

首先，許多安全專家建議在家人之間設(shè)置一個僅彼此知曉的“安全詞”。這種詞匯不僅僅是防止假冒親友的有效手段，更是為了在緊急情況中迅速確認身份。McAfee的研究表明，AI只需三秒鐘的音頻樣本即可生成相似度達85%的語音克隆，增加這種簡單的身份驗證步驟，可以為我們提供額外的安全保障 。

在保護個人隱私方面，我們需要時刻謹慎對待自己在社交媒體上分享的內(nèi)容。AI詐騙者通常利用公開的音頻和視頻資料來生成虛假聲音，社交媒體上的信息可能會成為他們的“素材庫”。因此，盡量控制隱私設(shè)置，不要隨意上傳自己的語音或視頻內(nèi)容。保持低調(diào)的網(wǎng)絡(luò)存在感，能夠降低被不法分子盯上的可能性。

（圖源：ElevenLabs）

比如，在短視頻平臺分享生活時，盡可能不使用自己的原聲，或者是使用AI工具對自己的聲音進行處理后再發(fā)布。

而在金融防詐部分，我們也可以選擇啟用多因素身份驗證，這是一種增加安全性的身份驗證方法，要求用戶提供兩個或更多的驗證信息。例如，在金融交易中，除了語音驗證外，銀行可能還會要求用戶輸入一次性密碼（OTP）或使用生物識別技術(shù)，如指紋識別，以進一步驗證身份。這種方法可以有效防止AI語音克隆帶來的風(fēng)險。

最后，也是最重要的，我們需要提高識別AI語音的敏銳度。盡管AI技術(shù)能夠模擬聲音的情緒和語調(diào)，但有時會存在細微的失真或不連貫。比如，目前雷軍的AI語音在短視頻平臺十分火爆，但仔細聆聽這些用AI工具克隆的語音，我們還是能發(fā)現(xiàn)詞語與詞語之間的不連貫性，這也有助于我們分辨這些聲音是否來自本人。

寫在最后

AI語音技術(shù)的迅猛發(fā)展不僅帶來了諸多便利，同時也暴露出一系列新的社會風(fēng)險。雷軍AI語音包的爆火提醒我們，這項技術(shù)在為娛樂和搞笑視頻提供素材的同時，也可能成為詐騙者手中的利器。AI語音濫用現(xiàn)象迫使我們反思科技發(fā)展的雙刃劍效應(yīng)。

未來，防范AI語音詐騙不僅是個人和企業(yè)的責(zé)任，更需要技術(shù)提供商和社會各界攜手合作，建立一個更加安全和可信的科技環(huán)境。技術(shù)的進步應(yīng)當(dāng)服務(wù)于社會，而非成為破壞社會信任的工具。唯有在監(jiān)管、技術(shù)創(chuàng)新與公共意識三者之間找到平衡，才能真正實現(xiàn)科技的價值。

來源：雷科技

       原文標(biāo)題 : 雷軍國慶將網(wǎng)友“罵”了整整七天！AI語音方向錯了？