最近，關(guān)于A(yíng)I有兩個(gè)爆火的熱點(diǎn)事件：一個(gè)是“AI孫燕姿”走紅網(wǎng)絡(luò)；一個(gè)是“AI換臉”詐騙來(lái)襲。兩件看似無(wú)關(guān)的事情，都引發(fā)了大眾對(duì)于A(yíng)I雙刃劍的深度思考。

“AI孫燕姿”爆火網(wǎng)絡(luò) 版權(quán)問(wèn)題引爭(zhēng)議

首先，“AI孫燕姿”絕對(duì)算得上是今年上半年最火的華語(yǔ)歌手，緊隨其后的還有“AI周杰倫”“AI林俊杰”“AI王心凌”。以前聽(tīng)說(shuō)AI能編曲、能畫(huà)畫(huà)，現(xiàn)在你會(huì)發(fā)現(xiàn)，舞臺(tái)上大明星的角色，AI同樣能勝任。甚至不需要本人參與，歌手們的“新專(zhuān)輯”已經(jīng)滿(mǎn)天飛了。

【資料圖】

這到底是怎么回事？據(jù)了解，有人用孫燕姿現(xiàn)有的人聲樣本，通過(guò)AI訓(xùn)練音色、音質(zhì)和發(fā)音特點(diǎn)，建立起其聲音模型，再利用所生成的音色對(duì)其他歌曲進(jìn)行翻唱，便有了“AI孫燕姿”。而這運(yùn)用的是一款開(kāi)源AI語(yǔ)音轉(zhuǎn)換軟件，其原作者已于今年停止更新維護(hù)，但仍有不少網(wǎng)友在目前版本上進(jìn)行獨(dú)立開(kāi)發(fā)新功能。

網(wǎng)友對(duì)虛擬歌手的創(chuàng)作熱情，蘊(yùn)含著對(duì)新興技術(shù)的認(rèn)可與追求。早在十年前，以“初音未來(lái)”“洛天依”為代表的虛擬偶像便陸續(xù)進(jìn)入公眾視線(xiàn)，其聲音正是由真人聲源數(shù)據(jù)制作而成。隨著技術(shù)迭代發(fā)展，以“AI孫燕姿”為代表的“真人分身型”虛擬歌手閃亮登場(chǎng)，“侵入”的不僅是大家的“童年回憶”，更有一些法律上的模糊地帶。

通過(guò)AI聲音克隆技術(shù)產(chǎn)生的新歌曲，在聲音、風(fēng)格上與歌手本人相似度極高，導(dǎo)致不少網(wǎng)友都信以為真。這種模仿侵權(quán)嗎？

我國(guó)《著作權(quán)法》保護(hù)的作品范圍包括文字作品、口述作品、音樂(lè)、美術(shù)作品等，聲音并不在列。因此，單純模仿表演者的音色、演唱技巧等特征，并不屬于《著作權(quán)法》保護(hù)的對(duì)象。另外，僅在某一家視頻平臺(tái)上，“AI孫燕姿”的翻唱作品已過(guò)千首，其中翻唱歌手周杰倫的《發(fā)如雪》等作品甚至斬獲超兩百萬(wàn)的播放量。多位律師對(duì)此表示，虛擬歌手翻唱的作品展示了具體的歌名及歌手姓名，涉嫌侵害相關(guān)歌手的姓名權(quán)、人格權(quán)，以及歌曲的版權(quán)等。即使一些發(fā)布者在視頻中標(biāo)注了“僅供娛樂(lè)不得用于商業(yè)”的免責(zé)聲明，其背后的巨大流量和經(jīng)濟(jì)收益難以明確，在侵權(quán)問(wèn)題上也就沒(méi)辦法完全撇清。

“AI換臉”詐騙來(lái)襲 有人10分鐘被騙430萬(wàn)

目前，孫燕姿本人已經(jīng)對(duì)自己的“AI版本”音樂(lè)爆火作出了回應(yīng)。不過(guò)，網(wǎng)友對(duì)于人工智能技術(shù)應(yīng)用的擔(dān)憂(yōu)并沒(méi)有停止。

5月，美國(guó)蘋(píng)果公司宣布擬在軟件新版本中嵌入一項(xiàng)新功能：因各種原因造成說(shuō)話(huà)能力逐漸喪失的手機(jī)用戶(hù)，可通過(guò)錄制15分鐘的音頻，創(chuàng)造出獨(dú)一無(wú)二的“個(gè)人定制語(yǔ)音”，在其說(shuō)話(huà)能力喪失后仍能正常使用手機(jī)的通話(huà)、視頻功能。對(duì)此，不少用戶(hù)表示擔(dān)心該技術(shù)更容易被不法分子利用，比如通過(guò)制作虛假視頻、錄音，用于實(shí)施電信詐騙。

這種擔(dān)心并非杞人憂(yōu)天。據(jù)警方介紹，不久前一位福建的老板就掉入了“高端”詐騙局，因?yàn)檩p信了用“AI換臉”的騙子，短短10分鐘就損失了430萬(wàn)元。

AI發(fā)展速度之快，帶來(lái)的不僅有“失業(yè)焦慮”，的確也向人們提出了“真假辨別”的新挑戰(zhàn)。目前。一些歐盟國(guó)家已經(jīng)開(kāi)始對(duì)人工智能投喂數(shù)據(jù)問(wèn)題進(jìn)行審查。今年3月，國(guó)外多家出版商對(duì)ChatGPT在數(shù)據(jù)訓(xùn)練時(shí)使用的版權(quán)內(nèi)容提出抗議，要求其公司OpenAI進(jìn)行賠償。

在國(guó)內(nèi)，人工智能產(chǎn)業(yè)的規(guī)制體系也在不斷積極完善中。去年底，國(guó)家網(wǎng)信辦發(fā)文要求，在提供合成人聲、仿聲、人臉替換、姿態(tài)操控等深度合成服務(wù)時(shí)，應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意；并且合成內(nèi)容如果可能導(dǎo)致混淆或者誤認(rèn)的，必須在合理位置上進(jìn)行顯著標(biāo)識(shí)，交代合成作品的具體信息。今年4月，國(guó)家網(wǎng)信辦又起草了《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》，明確預(yù)訓(xùn)練、優(yōu)化訓(xùn)練的數(shù)據(jù)，不得含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容。

出品人：葉蓁蓁

總策劃：羅華

總監(jiān)制：孫海峰

制片人：章斐然

監(jiān)制：呂騫

策劃：陳鍵

文案：申佳平

攝像：史新培

剪輯：王琨

設(shè)計(jì)：林珊珊

資料整理：劉文靜（實(shí)習(xí)生）

專(zhuān)題：《財(cái)米油鹽》——你的財(cái)經(jīng)寶典

關(guān)鍵詞：