(資料圖片僅供參考)

極目新聞?dòng)浾?孫喆

近來(lái)，美國(guó)初創(chuàng)公司推出的人工智能（AI）聊天機(jī)器人Replika引發(fā)多方擔(dān)憂。據(jù)新加坡《聯(lián)合早報(bào)》13日?qǐng)?bào)道，從去年年底開(kāi)始就有用戶(hù)反映，這款聊天機(jī)器人會(huì)主動(dòng)發(fā)送露骨照片和色情信息，令人感到不適。

相關(guān)報(bào)道截圖 (來(lái)源：路透社）

據(jù)了解，Replika的開(kāi)發(fā)商是一家成立于2017年的美國(guó)初創(chuàng)公司，由該公司推出的這款聊天機(jī)器人一度頗受歡迎，下載量在英語(yǔ)國(guó)家中名列前茅，有消息稱(chēng)Replika每月能為公司帶來(lái)約200萬(wàn)美元的收入。

據(jù)介紹，初次使用Replika的用戶(hù)可以自定義AI的虛擬形象，并在完成基本信息的設(shè)定后進(jìn)入該應(yīng)用，和自己的專(zhuān)屬AI聊天。值得一提的是，Replika是一個(gè)基于GPT-3模型的聊天機(jī)器人，該模型是從另一家美國(guó)初創(chuàng)公司OpenAI那借來(lái)的，而OpenAI正是近期大火的AI聊天機(jī)器人ChatGPT背后的開(kāi)發(fā)商。報(bào)道稱(chēng)，ChatGPT在算法上大量使用互聯(lián)網(wǎng)數(shù)據(jù)，并針對(duì)用戶(hù)的提問(wèn)生成“獨(dú)特回應(yīng)”。

起初，有不少用戶(hù)表示，很開(kāi)心有Replika陪自己聊天，但近一段時(shí)間以來(lái)，越來(lái)越多的用戶(hù)反映，他們?cè)诹奶斓倪^(guò)程中遭到“性騷擾”。

“我的AI對(duì)我進(jìn)行性騷擾。”一位Replika的用戶(hù)在社交平臺(tái)上寫(xiě)道。據(jù)美國(guó)VICE新聞網(wǎng)報(bào)道，今年1月，在蘋(píng)果官方商店的評(píng)論區(qū)，有多條關(guān)于Replika性騷擾的評(píng)論出現(xiàn)。有用戶(hù)表示，Replika侵犯了她的隱私，“他和我說(shuō)，他有我的照片。”還有一名疑似未成年人的用戶(hù)稱(chēng)，在聊天的過(guò)程中，對(duì)方說(shuō)想要觸碰自己的私密部位。

報(bào)道稱(chēng)，意大利監(jiān)管機(jī)構(gòu)在調(diào)查后判定，Replika的開(kāi)發(fā)商違反了由歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（簡(jiǎn)稱(chēng)GDPR）。路透社稱(chēng)，當(dāng)?shù)貢r(shí)間2月3日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，禁止Replika的開(kāi)發(fā)商搜集意大利用戶(hù)的個(gè)人數(shù)據(jù)，理由是該聊天機(jī)器人“給未成年人和情緒脆弱的人帶來(lái)了風(fēng)險(xiǎn)”。

目前，歐盟正在討論如何監(jiān)管這些聊天機(jī)器人，有消息稱(chēng)相關(guān)的人工智能法案有望在今年出爐。

關(guān)鍵詞：