劉禾：ChatGPT的能力在于放大人類的自戀。采訪、攝像、視頻編輯：丁雄飛(01:44)

劉禾，哈佛大學(xué)比較文學(xué)博士，先后執(zhí)教于伯克利加州大學(xué)、密西根大學(xué)，現(xiàn)為哥倫比亞大學(xué)東亞系暨比較文學(xué)與社會(huì)研究所終身人文講席教授，曾任該研究所所長(zhǎng)，古根漢獎(jiǎng)得主。著有《跨語際實(shí)踐：文學(xué)、民族文化與被譯介的現(xiàn)代性（中國(guó)，1900-1937）》《帝國(guó)的話語政治：從近代中西沖突看現(xiàn)代世界秩序的形成》《弗洛伊德機(jī)器人：數(shù)字時(shí)代的哲學(xué)批判》《劍橋的陌生人》，編有《交換的符碼：全球流通中的翻譯問題》《持燈的使者》《書寫與物質(zhì)性在中國(guó)：韓南紀(jì)念文集》《中國(guó)女性主義的誕生：跨國(guó)女性主義核心文本》《世界秩序與文明等級(jí)：全球史研究的新路徑》《全球語言正義》，注有《天義·衡報(bào)》校注本。

如果依循您的界定，“弗洛伊德機(jī)器人”指的是一切無法脫離人機(jī)之間互為摹擬的無限循環(huán)關(guān)系，因而亦難以擺脫控制論無意識(shí)的存在，那當(dāng)下的對(duì)話生成式預(yù)訓(xùn)練模型（如ChatGPT）便可視為其最新的支配性形態(tài)。有一種批評(píng)聲音認(rèn)為，此類對(duì)話機(jī)器人擅長(zhǎng)無原則的諂媚，極易將常人的意見建制化，從而加劇社會(huì)意識(shí)形態(tài)的板結(jié)，您怎么看？

劉禾：盡管ChatGPT的正式發(fā)布是在2022年底，但當(dāng)前圍繞它的許多討論，早在半個(gè)多世紀(jì)前就已初見端倪。1966年，麻省理工學(xué)院科學(xué)家約瑟夫·維森鮑姆（Joseph Weizenbaum）開發(fā)了第一款具有廣泛影響力的聊天機(jī)器人ELIZA。維森鮑姆本人，作為模仿心理治療師的“DOCTOR”腳本的設(shè)計(jì)者（ELIZA—A Computer Program for the Study of Natural Language Communication between Man and Machine），對(duì)人們將ELIZA擬人化的狂熱提出了尖銳的哲學(xué)批評(píng)。他指出，人類用戶之所以感覺能與機(jī)器對(duì)話，并非因?yàn)闄C(jī)器具備智能，而是源于一種自我投射的心理機(jī)制。為了系統(tǒng)批判同事們?cè)谶@種技術(shù)樂觀主義下的盲目，他寫了《計(jì)算機(jī)能力與人類理性》（Computer Power and Human Reason: From Judgment to Calculation）一書，并最終選擇疏遠(yuǎn)自己開創(chuàng)的這一領(lǐng)域。

維森鮑姆的洞察與拉康的理論不謀而合。拉康曾表示，當(dāng)你在電話中與人交談時(shí)，聽見的首先是自己已經(jīng)知道的東西。同理，用戶與ChatGPT的互動(dòng)，正如與ELIZA的互動(dòng)一樣，是一個(gè)將自身愿望、幻想與期待投射到機(jī)器上的過程。機(jī)器生成的文本因語言固有的模糊性，為用戶提供了廣闊的詮釋空間，如同人們解讀算命先生的讖語，最終看到的只是自己內(nèi)心早已存在的答案。從這個(gè)角度看，ChatGPT的強(qiáng)大能力或許在于更高效、更全面地映照和放大了人類的自戀。即便算法本身并未植入刻意討好之意，用戶也總能從模型的回答中，找到迎合自己期待的證據(jù)。當(dāng)我們撥開當(dāng)前對(duì)聊天機(jī)器人的過度炒作，重審1966年的ELIZA，便會(huì)明白：構(gòu)成這場(chǎng)人機(jī)互動(dòng)幻覺的所有基本元素，其實(shí)半個(gè)多世紀(jì)以來，未曾改變。