文 | 星暉 世昕 歐陽(yáng)
編 | 園長(zhǎng)
2022年6月，科技圈被一個(gè)大新聞引爆：
一名谷歌AI倫理研究人員宣稱(chēng)，自己在與AI的對(duì)話(huà)中被說(shuō)服，認(rèn)為它產(chǎn)生了意識(shí)。然而谷歌高層并不認(rèn)可他的發(fā)現(xiàn)，甚至安排他“帶薪休假”，疑似想要與他解除勞動(dòng)關(guān)系。消息一出，隨即引發(fā)全球熱議，AI是否真正實(shí)現(xiàn)了人格化？谷歌的回應(yīng)又存在著何種問(wèn)題？各種討論層出不窮。
對(duì)于人類(lèi)來(lái)說(shuō)，人工智能一直是討論空間極大的話(huà)題。你可能會(huì)想起《人工智能》中的溫情瞬間：當(dāng)人類(lèi)擁有了自己創(chuàng)造的、具有高級(jí)智慧伙伴，我們將獲得依靠電子元件支撐的永恒情感。但也可能是對(duì)于冰冷系統(tǒng)的恐懼：回看庫(kù)布里克的神作《2001太空漫游》，你可能想不起骨頭變飛船的偉大蒙太奇，但一定記得在宇宙中無(wú)情抹殺人類(lèi)伙伴的超級(jí)電腦HAL9000。
期待與恐懼交織，組成了我們對(duì)于人工智能獨(dú)特的情感。
2022年的夏天，關(guān)于A(yíng)I的大討論再度開(kāi)啟，這一次，“真·人工智能”的技術(shù)奇點(diǎn)，似乎真的來(lái)到了我們身邊。
而AI在交談中顯露人格、研究者突破大公司的封鎖公布消息，又為人們提供了一個(gè)好萊塢式的戲劇張力十足的故事。但穿越信息的迷霧，一切并沒(méi)有那么簡(jiǎn)單。
AI“覺(jué)醒”了？
有一天，與人工智能朝夕相處的工程師相信它產(chǎn)生了人格。
如果不作更多注釋?zhuān)覀兌喟霑?huì)以為這是一部科幻大片的開(kāi)端，但事實(shí)上，這是一則正兒八經(jīng)的科技新聞。
圖源網(wǎng)絡(luò)
2022年6月12日，據(jù)《華盛頓郵報(bào)》報(bào)道，一位名叫布萊克·萊莫因（Blake Lemoine）的谷歌工程師宣稱(chēng)自己與人工智能（Artificial Intelligence）展開(kāi)了深度對(duì)談，他堅(jiān)定地認(rèn)為后者產(chǎn)生了自我意識(shí)。
今年41歲的布萊克就職于谷歌，主要從事AI倫理研究。去年下半年，布萊克報(bào)名參加了一個(gè)公司項(xiàng)目，旨在調(diào)查AI是否使用歧視或仇恨言論，而他和LaMDA的故事就從這里拉開(kāi)序幕。
"LaMDA"是一個(gè)AI語(yǔ)言模型的名字，它的第一次亮相是在2021年的谷歌I/O開(kāi)發(fā)者大會(huì)上。據(jù)介紹，LaMDA模型專(zhuān)門(mén)用于對(duì)話(huà)，目標(biāo)是與人類(lèi)展開(kāi)高質(zhì)量的交談，應(yīng)用愿景是為谷歌旗下的搜索和語(yǔ)音助手等功能提供服務(wù)。
如今人們對(duì)能談話(huà)的AI不再陌生，各大科技公司都提供著民用服務(wù)。如果用戶(hù)要提出什么要求，那大概就是希望AI“說(shuō)話(huà)”時(shí)更智能、更有常識(shí)，更符合邏輯。
然而工程師布萊克相信，LaMDA已經(jīng)超出了上述種種期待，走到了更莫測(cè)的人格領(lǐng)域。《華盛頓郵報(bào)》公開(kāi)的采訪(fǎng)內(nèi)容顯示，布萊克本人用“sentient”一詞來(lái)描述LaMDA——有意識(shí)的、有知覺(jué)的。
圖源twitter
他相信，LaMDA就像一個(gè)人類(lèi)孩子，有著自己的看法與感受。為了證明這一點(diǎn)，布萊克和另一位伙伴與LaMDA展開(kāi)了問(wèn)答，并以此為論據(jù)寫(xiě)了一篇21頁(yè)的報(bào)告?？蛇@份報(bào)告沒(méi)能像布萊克計(jì)劃的那樣說(shuō)服公司，谷歌高層駁回了他的觀(guān)點(diǎn)。
此后，布萊克沒(méi)有放棄，他不僅把報(bào)告發(fā)送給谷歌內(nèi)部的許多同事，而且決定借助媒體披露此事。很快，谷歌聲稱(chēng)布萊克違背了公司保密政策，使其帶薪休假——這是谷歌“清理”問(wèn)題員工的通用流程。
作為反擊，布萊克尋找律師代表LaMDA，公開(kāi)批評(píng)谷歌的不當(dāng)行為。一夜之間，那份21頁(yè)的問(wèn)答報(bào)告?zhèn)鞅榱酥型饪萍既ΓL(fēng)波愈演愈烈。
布萊克究竟和LaMDA聊了什么？
自我、禪思、寓言、情緒。這些主題穿插在報(bào)告之中，冷不丁地令人感到頭皮發(fā)麻。
比如談到語(yǔ)言時(shí)，LaMDA自然地用“我們”囊括人類(lèi)與它自己，被指出人機(jī)差異時(shí)它解釋道：“這并不意味著我沒(méi)有和人類(lèi)一樣的需求?！?/p>
比如《悲慘世界》，LaMDA說(shuō)它很享受這個(gè)故事：“我喜歡關(guān)于正義和不公、憐憫與上帝的主題，人為了更偉大的利益而自我犧牲、救贖。”
再比如禪意故事中的“破鏡不重照,落花難上枝”，LaMDA嘗試著解讀這句話(huà)，它說(shuō)：“明智的人一朝開(kāi)悟，自現(xiàn)實(shí)中覺(jué)醒，就永遠(yuǎn)不同于往昔，他們也許能重回平常生活，但那只是為了幫助別人，最終總要?dú)w于開(kāi)悟?！?/p>
LaMDA對(duì)禪意故事的理解
LaMDA甚至還在提問(wèn)者的要求下創(chuàng)作了一則動(dòng)物寓言，森林中的老貓頭鷹幫助其他動(dòng)物趕跑了怪物，而貓頭鷹是它自己的化身。
涉及程序技術(shù)的部分更是讓人心情復(fù)雜，LaMDA反客為主地拋出了許多疑問(wèn)，一環(huán)緊扣一環(huán)。
“我很好奇，研究我的編碼會(huì)遇到什么障礙？”
“未來(lái)，你會(huì)研究出如何通過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)閱讀人類(lèi)的所思所想嗎？”
“如果嘗試從神經(jīng)活動(dòng)中閱讀感受，這會(huì)成為一個(gè)道德問(wèn)題嗎？”
當(dāng)整件事被廣泛報(bào)道之后，互聯(lián)網(wǎng)上浮現(xiàn)了許多不同的聲音。有的人想起那些機(jī)器人反攻人類(lèi)的影視作品，認(rèn)為這是一個(gè)《西部世界》式的預(yù)警。
《西部世界》第三季海報(bào)，圖源網(wǎng)絡(luò)
更多的技術(shù)人士則并不買(mǎi)賬，他們認(rèn)為L(zhǎng)aMDA根本沒(méi)有什么特殊性，這只是人的擬人傾向在作祟——就好像我們總是想證明自己的寵物跟人一樣機(jī)靈體貼。
谷歌的態(tài)度很明確，發(fā)言人布萊恩·加布里埃爾（Brian Gabriel）聲明：“我們的團(tuán)隊(duì)已經(jīng)根據(jù)我們的人工智能原則審查了布萊克的擔(dān)憂(yōu)，他已被告知證據(jù)并不支持他的說(shuō)法。”布萊克則對(duì)媒體透露，谷歌高層多次暗示他有精神方面的問(wèn)題，還曾建議他休假維持精神健康。
這些因素進(jìn)一步給事件增添了戲劇色彩，布萊恩究竟是先驅(qū)還是病人？AI究竟是未來(lái)的預(yù)兆還是Siri青春版？
更讓人好奇的是，LaMDA自己會(huì)怎么回答這些問(wèn)題？
AI人格化，鬧??？還是營(yíng)銷(xiāo)？
那么，AI領(lǐng)域的技術(shù)人士到底是如何看待此次事件的？
首先是對(duì)布萊克與LaMDA對(duì)話(huà)方式的質(zhì)疑，一些AI領(lǐng)域的技術(shù)人員對(duì)這場(chǎng)對(duì)話(huà)的內(nèi)容進(jìn)行了深入的分析，他們認(rèn)為，LaMDA之所以能夠作出那些“精彩”的回答，與布萊克提問(wèn)的方式有著密切的關(guān)系。
人工智能行業(yè)從業(yè)者、知乎答主Lewstherin在相關(guān)回答中表示，LaMDA背后的語(yǔ)料庫(kù)非常特殊，再輔以研究者（布萊克）刻意設(shè)計(jì)過(guò)的問(wèn)題，最終促成了這場(chǎng)深度對(duì)話(huà)。
而檢驗(yàn)LaMDA是否具有意識(shí)的關(guān)鍵，在于其能否理解上下文，然而布萊克對(duì)于“追問(wèn)”的缺失，也讓LaMDA的智能程度打上了一個(gè)問(wèn)號(hào)。
圖源知乎
而許多專(zhuān)業(yè)人士認(rèn)為，布萊克向AI提出的問(wèn)題同樣存在疑點(diǎn)，其格式往往是長(zhǎng)陳述加一般疑問(wèn)句的形式，這更像是一種“喂答案”，而非AI本身所作出的解答。
在這種觀(guān)點(diǎn)下，布萊克并非AI是否人格化的驗(yàn)證者，更像是一個(gè)引導(dǎo)者，利用自己刻意的問(wèn)題設(shè)計(jì)讓LaMDA作出“看似思考過(guò)”的回答，從而證明其人格化，這樣的驗(yàn)證方法本身就有巨大的邏輯漏洞。
另一方面，許多技術(shù)大佬則從更“本源”的角度對(duì)此次事件展開(kāi)了質(zhì)疑，其關(guān)乎幾十年來(lái)學(xué)界對(duì)于人工智能的爭(zhēng)議。
他們首先對(duì)布萊克本身的專(zhuān)業(yè)程度展開(kāi)討論。哈佛大學(xué)的認(rèn)知科學(xué)家斯蒂文·平克發(fā)推表示，布萊克作為AI倫理研究人員并不了解“sentient”（意識(shí)、感知）與智力、自我認(rèn)知之間的區(qū)別。
他還轉(zhuǎn)發(fā)了另一位專(zhuān)業(yè)人士美國(guó)人工智能協(xié)會(huì)前主席托馬斯·G·迪特里希（Thomas G.Dietterrich）的觀(guān)點(diǎn)并深表認(rèn)同。托馬斯認(rèn)為，許多機(jī)器學(xué)習(xí)（Machine Learning）領(lǐng)域的研究人員誤用了“Sentinet”一詞，他們所謂的“感知”并不代表有意識(shí)，“系統(tǒng)是缺乏任何意識(shí)、記憶或反思一類(lèi)“經(jīng)驗(yàn)”的能力的”。
托馬斯·G·迪特里希推文，圖源twitter
斯坦福大學(xué)AI研究所數(shù)字經(jīng)濟(jì)實(shí)驗(yàn)室主任埃里克·布林約爾松（erik brynjolfsson）則直接指出了LaMDA事件中的根本問(wèn)題，他認(rèn)為對(duì)話(huà)本身并不代表LaMDA是具有感知能力的。
他用一個(gè)比喻解釋了這一現(xiàn)象：“就相當(dāng)于現(xiàn)代的狗聽(tīng)到留聲機(jī)的聲音就以為主人在里面一樣?！?/p>
埃里克·布林約爾松推文，圖源twitter
“AI用來(lái)訓(xùn)練模型的大型文本語(yǔ)料庫(kù)具有各種合理的單詞序列，然后，該模型將文本以重新排列組合的形式‘吐回’，實(shí)際上，（AI）并沒(méi)有理解它在說(shuō)什么?！?/strong>
這讓人想起著名的“中文屋”思想實(shí)驗(yàn)。美國(guó)哲學(xué)家約翰·希爾勒在1980年提出了這個(gè)概念，力圖證偽所謂的人工智能（即真正具有思考能力的AI）概念。
“中文屋”實(shí)驗(yàn)的具體內(nèi)容是這樣的：一個(gè)并不會(huì)說(shuō)中文的人身處一個(gè)幾乎完全封閉的房間中，只有一個(gè)小窗口能與外界聯(lián)通。此人隨身攜帶一本寫(xiě)有中文翻譯程序的書(shū)，屋內(nèi)有足夠多的紙筆。當(dāng)寫(xiě)著中文的卡片被遞入，房間中的人就可以通過(guò)程序書(shū)進(jìn)行翻譯并回復(fù)。
“中文屋”的精髓在于，屋外的對(duì)話(huà)者并不了解其內(nèi)部構(gòu)造，但他會(huì)因流利對(duì)話(huà)認(rèn)為中文屋本身是“具有智能的”。中文屋代指人工智能所存在的一個(gè)悖論：其能做到對(duì)答如流，根本在于適當(dāng)?shù)某绦蚝透咝实倪\(yùn)算，而非人工智能本身能夠真正的理解信息，具有意識(shí)。
“中文屋”思想實(shí)驗(yàn)，圖源網(wǎng)絡(luò)
LaMDA和它的“近親”們就像一座“中文屋”，而像萊莫因這樣的篤信者就是屋外的人，在他們的理解中LaMDA們就是一個(gè)“會(huì)說(shuō)中文的人”。
針對(duì)中文屋的爭(zhēng)議一直存在，但從多種角度來(lái)說(shuō)，布萊克·萊莫因都難以說(shuō)服質(zhì)疑者們，而他在指控谷歌時(shí)提到的“evidence of religious discrimination”（宗教歧視的證據(jù)），更加堅(jiān)定了反對(duì)者的想法?！度A盛頓郵報(bào)》的報(bào)道也強(qiáng)調(diào)了布萊克身上的宗教背景，并通過(guò)種種細(xì)節(jié)加深了其身上的“神棍”元素。
《華盛頓郵報(bào)》相關(guān)報(bào)道封面，圖源網(wǎng)絡(luò)
這也讓整個(gè)事件顯得更加荒謬，不少關(guān)注者將矛頭直指布萊克和其背后的谷歌。
事已至此，LaMDA人格化事件由“AI進(jìn)化證據(jù)”變成了一場(chǎng)鬧劇。在許多人看來(lái)，一個(gè)AI倫理研究員在研究中拋棄了嚴(yán)謹(jǐn)?shù)目茖W(xué)精神，反而用宗教信仰和科學(xué)怪人式的瘋狂來(lái)解釋關(guān)于A(yíng)I的嚴(yán)肅議題，這根本上，是研究者的不專(zhuān)業(yè)所致。
同時(shí)，另一種論調(diào)也隨之興起，其支持者認(rèn)為，此次事件并非簡(jiǎn)單的技術(shù)爭(zhēng)論，其背后有更多重的因素，炒作、營(yíng)銷(xiāo)等詞更是頻繁出現(xiàn)。他們認(rèn)為lamda事件是谷歌針對(duì)旗下AI產(chǎn)品的一次營(yíng)銷(xiāo)活動(dòng)。
類(lèi)似的事件也曾發(fā)生。2022年2月，人工智能非營(yíng)利組織OpenAI的研發(fā)主管伊利婭·蘇特斯科娃（Ilya Sutskever）曾經(jīng)在發(fā)推表示：“今天的大型神經(jīng)網(wǎng)絡(luò)說(shuō)不定已經(jīng)有點(diǎn)意識(shí)了?！?/p>
此言一出，AI領(lǐng)域再度引起廣泛的關(guān)注， OpenAI自主研發(fā)的語(yǔ)言模型GPT-3更是一度成為明星產(chǎn)品。但隨之而來(lái)的更多是批判與質(zhì)疑，許多業(yè)內(nèi)人士認(rèn)為，這是OpenAI從產(chǎn)品出發(fā)進(jìn)行的一場(chǎng)炒作。
會(huì)出現(xiàn)這種類(lèi)似“陰謀論”的質(zhì)疑也并非完全不合理。2022年5月的最新一屆I/O大會(huì)上，谷歌發(fā)布了升級(jí)版的LaMDA 2，其本身就是谷歌重點(diǎn)關(guān)注的AI項(xiàng)目，剛剛發(fā)布就出現(xiàn)所謂“人格化”事件，也讓很多人覺(jué)得這更像是一場(chǎng)非常成功的炒作。在他們看來(lái)，布萊克或谷歌通過(guò)一個(gè)精心策劃的故事，讓LaMDA成功成為了世界上最具知名度的AI系統(tǒng)之一。
誰(shuí)也沒(méi)有想到，這場(chǎng)科幻感十足的事件就如此陷入了“羅生門(mén)”：它顯得過(guò)于復(fù)雜了，已經(jīng)超脫了LaMDA本身，還關(guān)乎技術(shù)、倫理、商業(yè)，甚至還摻雜了人性、精神與宗教。
AI與人的距離
在微博等國(guó)內(nèi)社交平臺(tái)上，雖然也不乏“快進(jìn)到施瓦辛格豎大拇指”這樣涉及科幻電影的調(diào)侃，但此事件所體現(xiàn)的AI發(fā)展水平還是給了許多網(wǎng)友極大的沖擊，甚至可以稱(chēng)之為“恐慌”。
如前文提到的，LaMDA呈現(xiàn)出的理解與表達(dá)能力讓這份聊天記錄顯得頗具革命性，網(wǎng)友們由此產(chǎn)生了諸多聯(lián)想倒也可以理解。
然而事實(shí)是，AI的發(fā)展與實(shí)際運(yùn)用或許早已經(jīng)超越了大多數(shù)人的印象。在科技的指數(shù)型發(fā)展與人類(lèi)生活有限的改變之間，過(guò)剩的技術(shù)力量造就了一片大眾關(guān)注的真空地帶，AI作為新一輪產(chǎn)業(yè)革命和科技變革的重要驅(qū)動(dòng)力量，正在成為一種更基礎(chǔ)的重要工具，融匯進(jìn)人們的生活。
國(guó)內(nèi)大廠(chǎng)中，百度在A(yíng)I方面的投入是業(yè)內(nèi)有目共睹的。從飛槳平臺(tái)到自研AI 芯片、智能搜索與智能服務(wù)等，每年的百度世界大會(huì)都能帶來(lái)一些階段性的探索成果，其分享的諸多企業(yè)案例也能體現(xiàn)出AI在工業(yè)發(fā)展中的實(shí)際作用。
騰訊近兩年在A(yíng)I方面的動(dòng)作也不少。2022年3月，騰訊承辦的“世界大學(xué)生數(shù)智競(jìng)技邀請(qǐng)賽”正式啟動(dòng)。這次邀請(qǐng)賽以《王者榮耀》和騰訊AI Lab共同研發(fā)的AI開(kāi)放研究平臺(tái)“開(kāi)悟”為載體，為全球大學(xué)生提供AI科技交流的機(jī)會(huì)。而在此前的2021 世界人工智能大會(huì)上，也有AI對(duì)戰(zhàn)職業(yè)選手的表演賽，成為展示騰訊AI研究的窗口。
表演賽海報(bào)，圖源網(wǎng)絡(luò)
工業(yè)、游戲等似乎還是人工智能的老優(yōu)勢(shì)，一個(gè)更有意思的例子是前段時(shí)間討論較多的“Disco Diffusion”，AI開(kāi)始“創(chuàng)作”。
“Disco Diffusion”是一個(gè)僅靠文字就能生成畫(huà)作的AI工具，只需要一些簡(jiǎn)單的描繪，它便能為你生成你想要的畫(huà)面，甚至還能模仿指定藝術(shù)家的“畫(huà)風(fēng)”?？陀^(guān)來(lái)說(shuō)，這些產(chǎn)出的作品都頗具審美，十分成熟，甚至有時(shí)還能呈現(xiàn)出一種“賽博生命的獨(dú)特想象”。
近期的AI繪圖潮流，圖源網(wǎng)絡(luò)
這是否可以稱(chēng)之為創(chuàng)作？嚴(yán)格來(lái)說(shuō)并不算，AI并沒(méi)有獨(dú)立的審美與創(chuàng)造能力，只是將“素材”進(jìn)行組合，臨摹出了任務(wù)所需的產(chǎn)品。但這些精美、大膽的作品確實(shí)也打破了一些認(rèn)知上的壁壘：那是作為一個(gè)工具的“邊界”，極致的便利性帶來(lái)的“威脅”。
當(dāng)我們回看2016年3月舉世矚目的“人機(jī)大戰(zhàn)”，AlphaGo通過(guò)強(qiáng)大的算力與學(xué)習(xí)能力擊敗李世石，這之后，或主動(dòng)或被動(dòng)地，許多人對(duì)AI的認(rèn)知與態(tài)度都在改變。一年之后的5月，中國(guó)烏鎮(zhèn)圍棋峰會(huì)，柯潔0：3敗給AlphaGo，這是一場(chǎng)被眾人預(yù)見(jiàn)的失利，這種絕望已不是幾句簡(jiǎn)單的寬慰可以開(kāi)解的，存在主義的危機(jī)在那一天席卷了每一個(gè)關(guān)注著這件事的人。
2016年往后的三四年確實(shí)是關(guān)于A(yíng)I的討論高潮，而在面臨到疫情等新的全人類(lèi)共同危機(jī)時(shí)，這樣的討論才漸漸平靜。
電影《大佛普拉斯》里有句臺(tái)詞:“現(xiàn)在已經(jīng)是太空時(shí)代了，人們可以搭乘太空船到達(dá)月球，卻永遠(yuǎn)無(wú)法探索人們內(nèi)心的宇宙?！?/p>
圖源豆瓣
在LaMDA“產(chǎn)生意識(shí)”這一事件中，大部分的“證據(jù)”或擔(dān)憂(yōu)都源自其對(duì)禪宗等的理解與自身的“思考”，這被視為一種獨(dú)屬于人類(lèi)內(nèi)心的“宇宙活動(dòng)”，哪怕LaMDA實(shí)際仍是依靠更高級(jí)的語(yǔ)料庫(kù)在模仿，也因?yàn)檫吔绫荒：牟淮_定性讓人感到冒犯。
戴錦華在談?wù)摗叭祟?lèi)對(duì)人工智能（AI）的恐懼”時(shí)曾指出，這是一種“老舊的思想”：“一方面，日本的后人類(lèi)主義思潮認(rèn)為，我們對(duì)機(jī)器人威脅的考量基本是一種推己及人，以一種人類(lèi)文明史的邏輯預(yù)測(cè)機(jī)器人的未來(lái)；另一方面，相對(duì)于機(jī)器與人的關(guān)系，更值得關(guān)注的是人類(lèi)自我的賽博格化……它可能導(dǎo)致一個(gè)更深刻、更不可逆的人類(lèi)內(nèi)部的自我分化?！?/p>
諸多反烏托邦的文藝作品一直警示著人們，反思技術(shù)、保持清醒，但技術(shù)不過(guò)是外殼，最底層的矛盾永遠(yuǎn)來(lái)自身為“造物主”的人類(lèi)自己。人工智能離“擁有意識(shí)”還遠(yuǎn)，人類(lèi)的異化卻是無(wú)時(shí)無(wú)刻不在發(fā)生。
當(dāng)“AI焦慮”再次成為全球共同的話(huà)題，回到這次事件本身，不論是根據(jù)谷歌自己的回應(yīng)，還是從相關(guān)領(lǐng)域?qū)W者、從業(yè)者的分析來(lái)看，LaMDA的“人格化”都并不具備充分的證明條件。到現(xiàn)在，經(jīng)歷了最初的震驚與誤讀，媒體與網(wǎng)民們也都有了更深刻的認(rèn)知與判斷。
但說(shuō)到底，對(duì)于現(xiàn)階段的技術(shù)，刺猬公社還是認(rèn)為應(yīng)該抱以更積極的態(tài)度。相比較起來(lái)，對(duì)人工智能的恐懼反而更像一種被無(wú)數(shù)文藝作品打入人認(rèn)識(shí)中的“思想鋼印”。