作者 | 丹木

編輯 | 麻吉

最近，“AI孫燕姿”成了B站網(wǎng)紅，B站上流傳的各種“孫燕姿”翻唱其他歌手的視頻，點擊量往往超過了十萬，甚至有些突破百萬。

在一個又一個視頻里，印著孫燕姿頭像的光盤緩緩旋轉(zhuǎn)，由其聲音翻唱的各種經(jīng)典或流行歌曲包括周杰倫的《發(fā)如雪》《愛在西元前》、劉歡的《好漢歌》等等。

彈幕評論給AI孫燕姿的歌曲視頻增加了更多樂趣。有人說：“這是中了十香軟筋散的好漢唱的吧？”還有人說：“聽到孫燕姿唱這首歌，這輩子值了。”

利用AI模擬人聲、生成歌曲，是AI技術(shù)的一大進步，但同時也帶來各種各樣的問題。例如，用AI翻唱歌曲，可能涉及版權(quán)問題。

而AI技術(shù)的發(fā)展，也讓文化娛樂行業(yè)的工作者感到了巨大危機——也許有一天，他們的工作將被AI取代。

AI歌手走紅網(wǎng)絡(luò)

對于當(dāng)下的許多年輕人來說，孫燕姿這個名字，已經(jīng)有些陌生了。

2021年，一名14歲的網(wǎng)友在NGA論壇發(fā)帖：“給大家推薦一個冷門華語歌手孫燕姿”，話題立刻登上了微博熱搜，無數(shù)80后、90后網(wǎng)友感嘆，在00后的世界里，孫燕姿竟然也成了“時代的眼淚”。

二十多年前，周杰倫、孫燕姿等歌壇“天王天后”，曾經(jīng)引領(lǐng)了一代人的青春。如今，那個華語歌壇最璀璨的時代已經(jīng)過去，流行歌手的唱片、歌迷的彩鈴、卡拉OK里略顯模糊的MV，對很多人來說，成為了久遠(yuǎn)的記憶。

但這一次，AI讓孫燕姿翻紅，再次成了名人。

根據(jù)許多歌迷鑒定，AI孫燕姿與其本人歌聲相似度非常高，無論是音色、唱腔，還是極具個人特征的咬字和尾音，都能夠以假亂真。由AI孫燕姿翻唱的《發(fā)如雪》等歌曲幾乎難辨真假，而與歌手本人風(fēng)格迥異的《好漢歌》則因極具反差感，激起了網(wǎng)友玩梗的強烈欲望。

AI孫燕姿引發(fā)歌迷和網(wǎng)友瘋狂的同時，也帶動了資本市場的熱度。5月11日，與AIGC相關(guān)的華策影視和其他多支影視傳媒股漲停收盤，有券商分析師認(rèn)為，擁有經(jīng)紀(jì)業(yè)務(wù)的影視公司掌握大量藝人版權(quán)素材，結(jié)合AIGC，互動版本的AI藝人將應(yīng)運而生。

同時，這位分析師也認(rèn)為，比起上次的元宇宙風(fēng)口，這次AIGC的風(fēng)口更加“靠譜”，因為階段性的進展正在發(fā)生。

AI孫燕姿的原理，是通過開源的生成式語音訓(xùn)練模型收集素材，進行訓(xùn)練。首先，需要把孫燕姿的歌曲去掉伴奏，或截取孫燕姿的訪談、對話視頻，獲取沒有伴奏、混響的原始聲音，然后把素材作為目標(biāo)音色輸入到模型中進行訓(xùn)練，得到一個孫燕姿音色的模型，轉(zhuǎn)換任意的歌聲，最后進行后期處理。

或許，AI歌手在未來有廣闊的前景，除了娛樂性的AI歌手視頻，詞曲作者也可以借助不同歌手的AI模型生成樣帶，進行試聽之后，為歌曲匹配到風(fēng)格最合適的演唱者。此外，唱片公司還可以發(fā)布旗下歌手的音色模型供用戶有償使用。

對于已故歌星、演員的粉絲來說，AI技術(shù)也是一個福音：人們可以通過AI技術(shù)生成逝者的聲音模型，重現(xiàn)那些令人念念不忘的聲音。

目前，B站上已經(jīng)有人發(fā)布了已故相聲大師馬三立的單口相聲，通過一個叫“SoVits AI”的開源項目，生成了一段馬三立的虛擬表演節(jié)目。在這段節(jié)目中，馬三立的頭像與電腦繪制的長衫結(jié)合在一起。

在節(jié)目開頭，馬三立的聲音說道：“我們這兒其實來說挺新鮮的，都是高科技啊這是，叫什么人工智能，AI搞出來的，都是假的，沒有真人……您在這聽個味道吧。”

很多網(wǎng)友期待，可以用AI“復(fù)活”更多逝世名人的聲音，如張國榮、黃家駒等，在建立聲音模型后，可以為他們撰寫與個人風(fēng)格匹配的新作品，或者演唱他們所屬樂隊的新歌，讓他們在逝世多年以后，以另一種方式再次為他們的粉絲獻唱。

AI合成聲音被濫用，后果可能很嚴(yán)重

盡管AI歌手前景廣闊，“復(fù)活”已經(jīng)去世的知名歌星、演員也令觀眾充滿期待，但它仍然可能涉及侵權(quán)問題。另外，AI模擬聲音也可能帶來一系列倫理和法律的風(fēng)險。

技術(shù)更新的速度，已經(jīng)超過了知識產(chǎn)權(quán)法律更新的速度，經(jīng)過人工智能提取的歌手音色模型，尚未被納入現(xiàn)行知識產(chǎn)權(quán)法律保護范圍內(nèi)，但利用AI歌手翻唱其他歌手的作品，至少已經(jīng)涉及原唱歌手、詞曲作者的版權(quán)。

按照相關(guān)法律規(guī)定，除非著作權(quán)人聲明不得使用，對已經(jīng)合法錄制為錄音制品的音樂作品進行翻唱、二次創(chuàng)作等可以不經(jīng)著作權(quán)人許可，但應(yīng)當(dāng)按照規(guī)定支付報酬。

被用作素材的孫燕姿聲音同樣可能涉及“侵權(quán)”。律師、學(xué)者普遍認(rèn)為，雖然音色和唱腔不受到著作權(quán)法的保護，但按照《商標(biāo)法》規(guī)定，聲音和文字、圖形等一樣，可以作為商標(biāo)申請注冊。

另外，根據(jù)《民法典》規(guī)定，對自然人聲音的保護參照適用肖像權(quán)保護規(guī)定，以防止聲音被混淆、濫用、冒用、不正當(dāng)使用，損害聲音主體的合法權(quán)利。

是否起訴“AI孫燕姿”的制作者，需要孫燕姿自行決定，截止到目前，孫燕姿尚未在其個人微博上做出回應(yīng)。

AI歌手可能侵犯相關(guān)各方的權(quán)利，除此之外，用AI生成人聲，可能還會為社會帶來其他更嚴(yán)重的法律和倫理問題。

隨著通信技術(shù)的進步，電信詐騙成為了各個國家都要面臨的問題。過去的電信詐騙多半是通過文字信息偽裝成熟人，或通過電話偽裝成各個機構(gòu)的工作人員進行詐騙，但在AI聲音模型技術(shù)輔助下，騙子可以很輕易地模仿熟人聲音進行詐騙。

在國外，已經(jīng)發(fā)生了AI語音詐騙的案例。據(jù)報道，4月初，加拿大有犯罪分子利用AI技術(shù)行騙，他們合成了受害者親人的聲音模型，實施電話詐騙，在3天內(nèi)騙了8名老年人。受害者表示，騙子使用的聲音和親人一模一樣，難以分辨。

得到語音素材并不難，詐騙者既可以通過黑客手段、非法購買信息等渠道獲得素材，也可以通過不斷撥打騷擾電話，以“廣撒網(wǎng)”的方法獲得語音素材，經(jīng)過AI訓(xùn)練和后期處理后，制作成足以亂真的語音信息。

除此之外，AI語音的侵權(quán)使用可能還會造成倫理問題。例如，如果有人收集網(wǎng)紅、主播的聲音進行AI訓(xùn)練，用于提供軟色情服務(wù)，既違反法律，也會對當(dāng)事人的名譽、心理造成傷害。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，有法律學(xué)者認(rèn)為，這是對人工智能進行管理的良好開端，但在未來，仍然需要制定更詳細(xì)的規(guī)定，對使用人工智能的各個主體進行更加明確的責(zé)任認(rèn)定，對提供模型的服務(wù)商、內(nèi)容生產(chǎn)者和發(fā)布者進行責(zé)任區(qū)分。

文娛產(chǎn)業(yè)創(chuàng)作者開始反擊

對人工智能的未來感到擔(dān)憂的，不只是法律界學(xué)者，還有各類文化工作者——AI在文化領(lǐng)域的應(yīng)用，可能會讓他們的工作岌岌可危。

前段時間，聊天機器人模型ChatGPT走紅，它的本質(zhì)是一種大型預(yù)訓(xùn)練語言模型，可以和人類通過人機對話的形式溝通。

在各個社交平臺上，網(wǎng)友們紛紛曬出自己與ChatGPT的對話，它可以檢索信息、生成文案，一些網(wǎng)友也表達(dá)了對ChatGPT的擔(dān)憂：它可以讓寫作效率更高，在未來，這可能導(dǎo)致相當(dāng)一部分靠“碼字”吃飯的記者、編劇、作家甚至社會科學(xué)研究人員失業(yè)。

除了文字工作者，插畫師、視頻制作者、教師也擔(dān)心自己的“飯碗”被AI搶走。人類剪輯一條視頻、繪制一張畫可能需要幾個小時的時間，但AI只需幾分鐘就可以完成。

目前，ChatGPT可能并不會和人類“搶飯碗”，因為AI的力量還不夠強大。

一位研究歷史、藝術(shù)的工作者告訴價值星球，在試用了ChatGPT之后，他“松了一口氣”，因為ChatGPT在專業(yè)領(lǐng)域獲得的訓(xùn)練材料還比較少。當(dāng)他試圖讓ChatGPT寫一段關(guān)于昆曲的文字，他發(fā)現(xiàn)ChatGPT缺乏基本常識。

另一位用AI生成畫像的網(wǎng)友則發(fā)現(xiàn)，在他提供給AI的幾張素材中，只有一張自拍合照被生成了勉強能看出長相的繪畫，“但是人臉閃爍著奇怪的星形光芒，眼鏡框也扭曲了，看起來十分恐怖。”而其他照片生成的圖片則更加詭異，風(fēng)景變成了扭曲的色塊，人像則全部變成了二次元風(fēng)格的“紙片人”。

不過，隨著訓(xùn)練素材的增加，以及人工智能技術(shù)的發(fā)展，未來AI確實可能對各行各業(yè)造成威脅：只要添加的訓(xùn)練素材足夠多，AI的“學(xué)習(xí)能力”更強，它就可以生成更加精美、更加準(zhǔn)確的作品。

而且，很多文字、藝術(shù)工作者創(chuàng)作的作品版權(quán)并不屬于自己，而是屬于公司。在公司面前，個人的力量過于渺小，一旦公司把作品用作訓(xùn)練素材，作者很難采取有效的措施通過法律維護權(quán)益。

面對這種可能出現(xiàn)的威脅，美國好萊塢的編劇們已經(jīng)坐不住了。5月2日，美國編劇協(xié)會（WGA）與電影制作、流媒體公司談判破裂后宣布罷工，除了呼吁提高薪資待遇，他們還要求限制人工智能的使用，例如不允許公司將編劇的原創(chuàng)作品提供給AI進行訓(xùn)練，不承認(rèn)AI作品的原創(chuàng)定義。此前，在談判中，WGA要求制片公司“確保編劇不被強迫改寫AI創(chuàng)作的劇本”。

WGA的罷工隊伍經(jīng)過迪士尼、華納、Netflix等大型制片公司和流媒體公司的門口，他們手中的牌子印有“WRITERS GUILD ON STRIKE（編劇協(xié)會正在罷工）”的統(tǒng)一標(biāo)語，以及編劇們手寫的口號。

有人打出“AI沒有靈魂”的標(biāo)語，有人打出“用AI代替高管”，希望把矛盾轉(zhuǎn)移到更高薪的其他行業(yè)；還有人幽默地吐槽ChatGPT寫作能力較差：“我讓ChatGPT寫一個標(biāo)語，但它的表現(xiàn)很爛。”

目前，沒人可以預(yù)測這次罷工會持續(xù)多久。

在這一次罷工之前，美國編劇已經(jīng)十幾年沒有發(fā)生過大罷工了。上一次罷工發(fā)生在2007年到2008年之間，持續(xù)了100多天，導(dǎo)致美國電影業(yè)損失高達(dá)20億美元，2008年電影電視金球獎頒獎典禮被迫取消，只公布了獲獎名單。

WGA宣布，在達(dá)成協(xié)議之前，任何WGA成員都放棄收入，并不會再撰寫新的劇本。這意味著，如果無法就編劇報酬和人工智能兩個問題達(dá)成協(xié)議，好萊塢影視行業(yè)目前600部作品或?qū)⑹艿接绊懀?萬名員工有可能停工、失業(yè)，損失高達(dá)810億美元。

最近一段時間，谷歌、百度、騰訊、華為等國內(nèi)外大廠已經(jīng)開始競相布局AI，2023年或許成為真正意義上的“人工智能元年”，而各行各業(yè)對AI技術(shù)的擔(dān)憂也越發(fā)嚴(yán)重，擔(dān)心AI成為一個“潘多拉魔盒”，打開它將造成人類無法預(yù)測的后果。

許多專家認(rèn)為，AI并不會真正取代人類的工作，它只是人類工作的輔助者，幫助承擔(dān)較為初級的工作，例如屬于簡單重復(fù)勞動的校對、生成文字、剪輯視頻、繪畫等，但真正的創(chuàng)意是無法被AI取代的。以編劇行業(yè)為例，AI可以寫出通順的文字，但很難通過對社會的深入觀察產(chǎn)生創(chuàng)作靈感，寫出一個有新意或發(fā)人深省的故事。

然而，任何領(lǐng)域都遵循“二八定律”，能夠站在成功的巔峰、獲得較高收入的，永遠(yuǎn)是少數(shù)人，大多數(shù)人都在從事重復(fù)的勞動。

編劇的常態(tài)是為已經(jīng)設(shè)計好的大綱撰寫分場劇本，插畫師的常態(tài)是按照甲方的需求畫出他們想要的圖片，教師的常態(tài)是講解基礎(chǔ)知識……如果AI足夠強大，并取代大部分基礎(chǔ)工作，仍然會造成相當(dāng)嚴(yán)重的失業(yè)。

《未來簡史》作者尤瓦爾·赫拉利在書中提出了“無用階級”這個新概念，他認(rèn)為，隨著生物工程、人工智能等技術(shù)的革新，未來99%的人都將淪為“無用的人”，他們做的工作無法超過計算機和人工智能。

在一次采訪中，赫拉利對大型公司收集用戶數(shù)據(jù)、發(fā)展人工智能的未來表達(dá)了擔(dān)憂：“（如果）只有少數(shù)精英擁有了數(shù)據(jù)、權(quán)利，而大多數(shù)人卻沒有，那些擁有了數(shù)據(jù)的人，可能比你自己更了解你，他可以預(yù)測你的行為和決策，操控你的選擇和想法，為你做決定。”

因此，赫拉利呼吁，要讓大多數(shù)人能從新技術(shù)中獲益，而不只是少數(shù)精英。

技術(shù)的更新，往往會超過很多人的學(xué)習(xí)能力。在智能手機的浪潮中，我們已經(jīng)看到很多老年人不會使用智能手機，淪為“技術(shù)難民”，而比起智能手機，AI波及的人群可能更加廣泛，影響也更加深遠(yuǎn)。

解決新技術(shù)帶來的法律問題，乃至社會和倫理問題，已經(jīng)迫在眉睫。如果等到AI已侵入每個人的日常生活再做出反應(yīng)，可能為時過晚。面對這種可能顛覆人類生活的技術(shù)，態(tài)度無論如何謹(jǐn)慎也不算過分。

參考資料：

[1]《“AI孫燕姿”終于對人工智能下手了，律師說問題很大》，澎湃新聞

[2]《“AI孫燕姿”成頂流，一場法律與倫理大考》，新京報

[3]《直擊罷工中的好萊塢：萬余編劇拒絕給AI打工，為加薪而戰(zhàn)》，澎湃新聞