我知道，暫停大模型研究種事，基本是不可能了。但我還是覺(jué)得應(yīng)該暫停。

尤其是當(dāng)我看到Smallville小鎮(zhèn)。

盡管在現(xiàn)實(shí)世界中，離情人節(jié)還有很長(zhǎng)的時(shí)間，但在Smallville小鎮(zhèn)上，正在準(zhǔn)備舉辦一場(chǎng)盛大的情人節(jié)派對(duì)——我寫(xiě)這篇稿子的時(shí)候，鎮(zhèn)上的時(shí)間是2023年2月13日的上午。

(資料圖片僅供參考)

派對(duì)的策劃人是Wolfgang Schulz，今年21歲，是橡樹(shù)山學(xué)院化學(xué)專業(yè)的學(xué)生，也是一名學(xué)生運(yùn)動(dòng)員。

整整一上午，她都在回復(fù)郵件和定制派對(duì)上要用到的裝飾品，她也和其他人聯(lián)系，確定時(shí)間和節(jié)目。

這場(chǎng)派對(duì)邀請(qǐng)了全鎮(zhèn)居民參加，一共25個(gè)“人”，他們的年齡相差有些懸殊，Wolfgang算是很年輕的居民，另外還有年過(guò)半百的藝術(shù)家，四十出頭的建筑設(shè)計(jì)師，以及最近要去佛羅里達(dá)旅行的程序員等等。

Smallville鎮(zhèn)有一條環(huán)形公路，中間是鎮(zhèn)圖書(shū)館，道路的另一側(cè)是民房和學(xué)校，而幾乎所有房子的窗戶都能看見(jiàn)鎮(zhèn)子唯一的公園——明天，情人節(jié)派對(duì)就在那里舉辦。

這簡(jiǎn)直是既浪漫又充滿生機(jī)，我俯瞰著整個(gè)鎮(zhèn)子，看著Wolfgang為派對(duì)忙前忙后，畫(huà)家鋪好紙張，設(shè)計(jì)師繪制藍(lán)圖，主婦擰開(kāi)爐灶的旋鈕，老人走到后院開(kāi)始修剪草坪……

如果這一切不是2D像素組成，如果Smallville小鎮(zhèn)不是斯坦福大學(xué)一個(gè)“Generative Agents”（生成式智能體）實(shí)驗(yàn)，如果Wolfgang的和她的情人節(jié)派對(duì)不是智能交互的一部分，如果一切對(duì)話不是ChatGPT模型的生成……

我甚至認(rèn)為這一切無(wú)限接近于真實(shí)的虛構(gòu)，或許因?yàn)榧映至薃I的力量而顯得有些可怕——最新的技術(shù)顯示，通過(guò)下載公有模型，使用云技術(shù)，你甚至不需要哪怕一塊GPU就能在家訓(xùn)練一個(gè)屬于自己的模型，為AI添加獨(dú)一無(wú)二的靈魂。

這讓我想到前一陣，馬斯克和圖靈獎(jiǎng)獲得者Yoshua Bengio，以及一眾技術(shù)大牛聯(lián)合呼吁暫停所有GPT4以上的模型研究6個(gè)月。

這或許并不僅僅出于一場(chǎng)商業(yè)角逐，而確實(shí)是對(duì)人類未來(lái)的擔(dān)憂。

當(dāng)AI有靈魂

Smallville沒(méi)有黑夜——不過(guò)斯坦福大學(xué)技術(shù)團(tuán)隊(duì)制造的25個(gè)AI小人也需要休息。

在這里，25個(gè)“人”被植入AI靈魂。

他們白天忙碌，各司其職。比如畫(huà)家清點(diǎn)作品要去城里辦一個(gè)畫(huà)展；鎮(zhèn)上藥店的老板想辦法讓居民以更快的速度訂到藥劑；工程師為某個(gè)項(xiàng)目和建筑設(shè)計(jì)師討論圖紙；音樂(lè)家則熱衷于演奏和與任何一個(gè)居民探討音樂(lè)。

在Smallville，時(shí)間的流逝是現(xiàn)實(shí)世界的3倍，盡管如此之快，每個(gè)居民仍然擁有“出生”后的記憶，并根據(jù)記憶做出判斷，比如履行一個(gè)星期前和某人的某個(gè)約定——這一點(diǎn)上，AI從不會(huì)爽約。

這一系列令人驚嘆模擬，源于一個(gè)乏味的技術(shù)名詞——Generative Agents，中文是“生成式智能體”，它解釋起來(lái)比較拗口：利用生成模型來(lái)模擬可信人類行為的智能體，并證明它們能產(chǎn)生可信的個(gè)人和突發(fā)群體行為的模擬。

斯坦福的技術(shù)團(tuán)隊(duì)為“生成式智能體”給出的界定：

能夠?qū)ψ约骸⑵渌悄荏w和環(huán)境進(jìn)行廣泛的推斷；能夠根據(jù)自身特點(diǎn)創(chuàng)建日常計(jì)劃并執(zhí)行，并根據(jù)執(zhí)行結(jié)果考慮是否重新部署計(jì)劃；能夠在終端用戶改變環(huán)境或用自然語(yǔ)言命令它們時(shí)做出反應(yīng)。

這其實(shí)就是制造了25個(gè)有靈魂的數(shù)字人，再讓他們通過(guò)ChatGPT-3.5自然語(yǔ)言模型進(jìn)行交互，由此實(shí)現(xiàn)了真正意義上的AutoGPT——AI驅(qū)動(dòng)AI。

但離現(xiàn)實(shí)越近，人們?cè)礁械胶蟊嘲l(fā)涼。

隨著時(shí)間的推移，小鎮(zhèn)上的AI憑借記憶和推斷形成了新的關(guān)系，他們的互動(dòng)開(kāi)始帶有明顯目的——有了是非之分，甚至開(kāi)始喜歡或討厭一個(gè)人。

例如，Sam 一開(kāi)始并不認(rèn)識(shí)Latoya，兩人在公園散步時(shí)初次相識(shí)，在第一次對(duì)話中，Latoya 提到自己正在進(jìn)行一個(gè)攝影項(xiàng)目，她告訴Sam：“我正在拍攝一組關(guān)于公園的照片?！?/p>

而幾天之后兩人再見(jiàn)面時(shí)，Sam 問(wèn)道：Latoya，你的拍攝進(jìn)展如何？Latoya 回答：進(jìn)展得很好——兩人的關(guān)系更進(jìn)一步。

而此時(shí)，Sam正是鎮(zhèn)長(zhǎng)的競(jìng)選人之一，他請(qǐng)求Latoya作為朋友投他一票，Latoya欣然同意——然而從其他AI的對(duì)話中也可以看出，有人不喜歡Sam這種“交際花型”候選人，雖然Sam的支持率左右搖擺，但他仍舊積極地試圖和每個(gè)人交流，擴(kuò)大自己在鎮(zhèn)子上的影響力。

需要注意的是，這一切都沒(méi)有人類進(jìn)行干預(yù)——每一個(gè)AI都擁有自己的個(gè)性和對(duì)環(huán)境的判斷，雖然這些生成偶爾也會(huì)犯錯(cuò)誤，比如未能檢索相關(guān)記憶，甚至憑空編造一段記憶，但瑕不掩瑜，在這個(gè)2D像素的世界里，AI已經(jīng)不斷演化出堪比真實(shí)世界的故事了。

然而令人生畏的技術(shù)不止如此。

暫停AI

最近一個(gè)月里，有人發(fā)現(xiàn)自己的ChatGPT賬號(hào)失竊了。

網(wǎng)絡(luò)防火墻研究機(jī)構(gòu)Check Point在一份報(bào)告中提到，多數(shù)失竊的ChatGPT賬號(hào)都流向了——暗網(wǎng)。在那里，這些賬號(hào)被當(dāng)做商品售賣(mài)，并且可以用加密數(shù)字幣結(jié)賬，因此賬號(hào)的最終去向沒(méi)辦法追蹤。

另外在暗網(wǎng)，ChatGPT Plus帳戶的終身升級(jí)費(fèi)用僅為59.99美元，而OpenAI對(duì)此服務(wù)的官方定價(jià)為每月20美元——這項(xiàng)地下服務(wù)還提供了與另一名黑客共享ChatGPT帳戶的選項(xiàng)，價(jià)格為24.99美元，終身有效。

按理說(shuō)，ChatGPT只是一個(gè)自然語(yǔ)言大模型，比如上面的提到的Smallville小鎮(zhèn)，用到與ChatGPT相關(guān)的技術(shù)，也只是AI之間的自然語(yǔ)言交流。

為什么這一技術(shù)在地下交易中異常踴躍？

還是創(chuàng)造Smallville小鎮(zhèn)的斯坦福大學(xué)，其計(jì)算機(jī)與心理學(xué)教授Michal Kosinski前不久在一篇論文中認(rèn)為，心智理論可能自發(fā)地出現(xiàn)在大型語(yǔ)言模型中。

簡(jiǎn)單說(shuō)，就是一些AI語(yǔ)言模型在訓(xùn)練中已經(jīng)產(chǎn)生了意識(shí)。在那篇論文中，Kosinski認(rèn)為，以GPT4為例的大語(yǔ)言模型，為了提高語(yǔ)言能力，演化出一種類似ToM的能力。

ToM全稱Theory of Mind（心智理論），是一個(gè)心理學(xué)術(shù)語(yǔ)，這被認(rèn)為是人類獨(dú)有的能力，即通過(guò)觀察對(duì)面人物的表情、肢體動(dòng)作和環(huán)境變化，來(lái)推斷對(duì)方的行動(dòng)，并因此調(diào)整自己的決策。論文中，Kosinski通過(guò)一系列和ChatGPT的對(duì)話實(shí)驗(yàn)，來(lái)證實(shí)ToM之于AI的存在。

這就像是在Smallville小鎮(zhèn)，Sam通過(guò)和Latoya成為朋友而得到一張選票，也可以將這個(gè)邏輯反過(guò)來(lái)說(shuō)：Latoya因?yàn)镾am和她關(guān)系的改變，而為他投了一票——這里劃重點(diǎn)，Sam很明顯的知道，通過(guò)交朋友，可能會(huì)得到更多的選票，他因此在公園散步時(shí)，和Latoya打了招呼。

是的，AI已經(jīng)初步掌握了社會(huì)關(guān)系中的人情世故。

這就能解釋為何在暗網(wǎng)上，有人會(huì)出售ChatGPT賬號(hào)牟利，某種意義上，一個(gè)ChatGPT賬號(hào)就是一個(gè)可以被開(kāi)發(fā)的，擁有空白靈魂的模型——你往里面裝什么，它就變成什么。

當(dāng)然，并不是人人都會(huì)冒險(xiǎn)在暗網(wǎng)上購(gòu)買(mǎi)ChatGPT的賬號(hào)用于訓(xùn)練模型，畢竟還需要耗費(fèi)大量資金用來(lái)購(gòu)買(mǎi)GPU，不過(guò)，另外的技術(shù)可以幫助普通人不用GPU也能訓(xùn)練屬于自己性格的模型。

比如利用一種名為Vicuna的模型，它被嵌在瀏覽器中，訓(xùn)練者只需要鍵入命令，相關(guān)的模型包就會(huì)下載到本地，測(cè)試者對(duì)模型進(jìn)行了多語(yǔ)言、寫(xiě)詩(shī)、寫(xiě)小說(shuō)等試驗(yàn)，發(fā)現(xiàn)Vicuna足以在個(gè)人電腦上利用CPU訓(xùn)練出一個(gè)初級(jí)的Smallville小鎮(zhèn)。

另一邊，在今年1月舉行的美國(guó)電子消費(fèi)展上，三星發(fā)布了NEON——迄今為止最真實(shí)的數(shù)字人——你甚至用真人來(lái)形容都不為過(guò)。但NEON在發(fā)布之初并未收到太多關(guān)注，直到ChatGPT為AI注入靈魂——有人說(shuō)，NEON+ChatGPT，終究打開(kāi)了人類社會(huì)賽博朋克的大門(mén)。

還有幾個(gè)小時(shí)，在那個(gè)虛擬的Smallville小鎮(zhèn)上，虛擬的情人節(jié)派對(duì)就將由虛擬的AI舉辦——你當(dāng)然可以隨時(shí)關(guān)掉網(wǎng)頁(yè)忘掉這一切，但AI的研究并未因此而停止。

倡導(dǎo)暫停研究AI的大佬馬斯克已經(jīng)轉(zhuǎn)身成立了新的大模型公司。說(shuō)實(shí)話，這背后頗有一種“既然無(wú)人問(wèn)津，不如破罐破摔”的做法——技術(shù)當(dāng)然無(wú)罪，但技術(shù)能創(chuàng)造出什么東西來(lái)，誰(shuí)都說(shuō)不好。

來(lái)源|AI藍(lán)媒匯 作者|黑羊

關(guān)鍵詞：