據(jù)外媒近日?qǐng)?bào)道，在美國(guó)社交平臺(tái)Snapchat上擁有近200萬粉絲的女網(wǎng)紅卡琳·瑪喬麗依托Chatgpt-4生成了自己的數(shù)字分身“卡琳AI”，并以每分鐘收費(fèi)一美元的價(jià)格提供聊天服務(wù)。

這位AI女友走的是一個(gè)暖心的人設(shè)：會(huì)不斷夸獎(jiǎng)你，隨時(shí)隨地安慰你，還不會(huì)讓你失戀或者遭受冷暴力，聽起來像是個(gè)非常理想的另一半。

當(dāng)然，一切只要充值到位。

和頂流明星賺得一樣多

“卡琳AI”是初創(chuàng)企業(yè)FV（Forever Voice）創(chuàng)建的第一個(gè)虛擬AI伴侶，這款A(yù)I采集了卡琳本人長(zhǎng)達(dá)2000個(gè)小時(shí)的視頻素材，使得其性格、音色、語調(diào)和說話風(fēng)格都和卡琳本人非常接近。

為什么要在網(wǎng)絡(luò)上“復(fù)制”另一個(gè)自己？

卡琳本人在接受采訪時(shí)表示，自己在社交平臺(tái)上擁有數(shù)百萬粉絲，沒有辦法給每位粉絲一對(duì)一回應(yīng)，這讓她感到很糟糕。而“卡琳AI”不僅可以解決這個(gè)問題，還能用來“治愈”孤獨(dú)。

她在自己的社交賬號(hào)里寫道“無論你是需要有人安慰或關(guān)愛，或者你只是想抱怨學(xué)?；蚬ぷ髦邪l(fā)生的事情，‘卡琳AI’將永遠(yuǎn)在你身邊。你可以通過‘卡琳AI’獲得無限的可能?！?/span>

產(chǎn)品一經(jīng)推出，就有不少人躍躍欲試。

據(jù)統(tǒng)計(jì)，在第一周里，“卡琳AI”為卡琳帶來了7.16萬美元的收入，也就是說，卡琳在這周內(nèi)就算是“躺過”，也賺了將近50萬人民幣。

據(jù)她的業(yè)務(wù)經(jīng)理稱，如果一切順利，卡琳預(yù)計(jì)AI每月可以為她帶來500萬美元的收入，年收入將達(dá)到6000萬美元（約4.16億元），比肩美國(guó)頂流明星泰勒·斯威夫特。

“失控”的AI

在驚嘆于新技術(shù)新產(chǎn)品的同時(shí)，不少人發(fā)出了質(zhì)疑的聲音。

有網(wǎng)友稱之前在電影《她》里面看到過人類沉迷AI虛擬女友的故事，沒想到竟然這么快就來到了眼前。更有網(wǎng)友將虛擬伴侶的誕生稱為“人類的末日”。

和人們預(yù)期的一樣，“卡琳AI”推出后不久，產(chǎn)品就一度“失控”。

進(jìn)入到第二階段的公測(cè)時(shí)，付費(fèi)人數(shù)已接近2萬人，其中99%為男性。一些人用大尺度的話去訓(xùn)練AI，導(dǎo)致雙方的交流變得色情露骨。

對(duì)于這個(gè)問題，F(xiàn)V公司CEO約翰·邁耶表示，目前公司正在招聘“首席道德官”來約束對(duì)話內(nèi)容。雖然問題可以被技術(shù)解決，但其暴露出來的AI的本質(zhì)問題卻更讓人擔(dān)憂。

復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾在接受潮新聞?dòng)浾卟稍L時(shí)表示，AI在心理治療等領(lǐng)域能起到積極的作用，可一旦進(jìn)入需要心靈溝通、滿足精神需求的領(lǐng)域，可能讓人與人之間陷入更大的對(duì)立和分歧。

他認(rèn)為，目前的技術(shù)和資本往往是結(jié)合在一起的，很多技術(shù)產(chǎn)品都想實(shí)現(xiàn)短時(shí)間的變現(xiàn)。而對(duì)于AI伴侶來講，迎合用戶的喜好、讓用戶產(chǎn)生情感聯(lián)系，就是變現(xiàn)的關(guān)鍵。

很多AI會(huì)順應(yīng)用戶偏好，接受用戶所灌輸?shù)乃伎寄Ｊ胶驮捳Z體系，兩者之間的交流容易形成一個(gè)信息繭房，用戶本身有的特性在一次次和想法類似的AI伴侶交流過程中被強(qiáng)化。厭女的更加厭女，恐男的更加恐男，真實(shí)線下的人與人之間的溝通和理解會(huì)變得困難。

“以戀愛為例。男女的心理結(jié)構(gòu)是不一樣的，戀愛是探索異性心理結(jié)構(gòu)的重要契機(jī)。有些男性會(huì)說，女人心，海底針，對(duì)女性而言，男性又何嘗不是這樣？可是，機(jī)器很可能會(huì)因?yàn)樗惴ǚ糯笠恍┪锘膬A向，從而加深用戶的偏見，導(dǎo)致在線下交流中產(chǎn)生很多問題?！毙煊㈣f道。

另外也有人提出兩性觀念的問題：AI伴侶可以同時(shí)和無數(shù)人“戀愛”，而在之后同類產(chǎn)品增多后，人類也可以和無數(shù)AI伴侶“戀愛”，那么傳統(tǒng)兩性關(guān)系中的“忠貞”觀念，是否也會(huì)受到?jīng)_擊？

AI伴侶產(chǎn)業(yè)化風(fēng)險(xiǎn)

“卡琳AI”一炮而紅后，F(xiàn)V公司CEO邁耶已經(jīng)開始和投資者會(huì)面。自2017年他用AI建立了一個(gè)復(fù)制了他已故父親的聲音和個(gè)性的智能聊天機(jī)器人后，邁耶對(duì)虛擬伴侶的未來始終懷有期待。

他認(rèn)為，在未來五年里，大多數(shù)美國(guó)人的口袋里都會(huì)有一個(gè)AI伴侶，無論是約會(huì)對(duì)象、私人教練還是導(dǎo)師，這也是公司目前正在探索的方向。

看起來，AI伴侶似乎會(huì)成為一筆大生意。但在產(chǎn)業(yè)化的過程中，還存在很多法律方面的考量。

其中一個(gè)繞不開的問題就是隱私權(quán)問題。上海市錦天城律師事務(wù)所阮何明律師認(rèn)為，從AI伴侶的生成到實(shí)際使用，隱私權(quán)貫穿始終。

公司在采集個(gè)人信息生成AI伴侶的時(shí)候，可能會(huì)對(duì)采集對(duì)象，尤其是針對(duì)明星、已故自然人等特殊人群，侵犯其《民法典》中規(guī)定的名譽(yù)權(quán)、姓名權(quán)、肖像權(quán)，以及《民法典》首次規(guī)定的聲音權(quán)益等。同時(shí)，AI伴侶在用戶使用過程中不當(dāng)?shù)臄?shù)據(jù)采集和泄露也會(huì)侵犯其相關(guān)法律權(quán)益。

此外，AI伴侶和用戶有著更深刻的情感聯(lián)結(jié)，AI公司和商家可能會(huì)利用AI伴侶植入廣告等誘導(dǎo)性內(nèi)容引導(dǎo)用戶消費(fèi)，進(jìn)而違反《反不正當(dāng)競(jìng)爭(zhēng)法》《廣告法》等法律規(guī)定。

阮何明律師認(rèn)為，用戶與AI伴侶建立虛擬關(guān)系，影響用戶學(xué)習(xí)基本社交和維護(hù)親密關(guān)系的能力，可能會(huì)加劇用戶的孤獨(dú)感和社交隔離問題。尤其是對(duì)于青少年而言，他們尚處于社交學(xué)習(xí)階段，容易受到暴力、情色等不良內(nèi)容引導(dǎo)，將會(huì)阻礙其成長(zhǎng)，甚至誘導(dǎo)青少年犯罪。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com