【文/觀察者網(wǎng) 阮佳琪】
提前十分鐘,《金融時報》的科技記者克里斯蒂娜·克里德爾(Cristina Criddle)到了約好見面的美食酒吧??傻侥莾阂豢?,杰弗里·辛頓(Geoffrey Hinton)已經(jīng)在大廳里等候著了。
這位圖靈獎與諾貝爾獎雙料得主、被稱為“人工智能(AI)教父”的英裔加拿大計算機科學家,還背著那只略顯陳舊、印有“Google Scientist” 字樣的綠色背包。
因長期的背疼,辛頓落座時將背包墊在身下,以便坐直。白發(fā)蒼蒼的他,眼神仍舊像貓頭鷹般銳利。
尤其在談及AI安全問題時。
2023年5月,辛頓突然從工作了十多年的谷歌大腦實驗室辭職。當時美國媒體紛紛將他捧為“AI安全剎車人”、“吹哨人”,稱他辭職是為了“直言不諱談論AI的危險”。
不過,辛頓并不認同這種解讀,“每次接受采訪,我都會糾正這個誤解,但從來沒用,因為這是一個好故事?!?/p>
“離開是因為,我(當時)已經(jīng)75歲了,編程能力大不如前,而且Netflix上還有好多劇沒看。我努力工作了55年,覺得是時候退休了……”他接著說道,“而且我想,反正都要離開了,不如借這個機會談談AI的風險。”
話雖如此,在長達兩個小時的午餐時間里,AI的安全應用仍是這場對話的核心議題。
與過往立場一致,辛頓仍對西方政府的干預不抱希望,同時再次批評美國政府缺乏監(jiān)管AI的意愿。
白宮一直以“抗衡中國”為由,要求必須加快AI技術的研發(fā)。辛頓對此持有不同看法。
今年7月,他剛剛參加了在上海舉行的世界人工智能大會。這也是他第一次來到中國。
與中方的溝通讓辛頓確信,中國對AI安全問題極為重視,“他們的很多官員都是工程師出身,對AI的理解,是律師和商人所無法比擬的。”
他接著補充說,“面對人類生存級別的威脅,只要有一個國家能找到解決辦法,就能分享給其他國家?!?/p>
當記者帶著西方慣有的傲慢和偏見,追問其能否相信“中國有維護全人類利益的意愿”時,辛頓則反問道,“你能相信美國嗎?還是能相信(Meta的首席執(zhí)行官)扎克伯格?”
7月,辛頓參加世界人工智能大會。
整體而言,辛頓回答問題時,語氣溫和且審慎。唯有評價美國AI巨頭高管的趨利本性時,偶爾會“語出驚人”。
比如,辛頓認同馬斯克和OpenAI的奧爾特曼更有可能在AI競賽中勝出。但被問到“兩人中更信任誰”時,他停頓良久。
然后辛頓想起了,2016年美國共和黨參議員林賽·格雷厄姆的一句話。
當時,格雷厄姆被要求在特朗普和克魯茲之間選擇一個人,支持其成為共和黨的總統(tǒng)候選人,“這就像在‘中槍’和‘中毒’之間選一個。”
美國對華技術打壓,也讓辛頓嗤之以鼻。
今年1月接受2025年開年采訪時,他曾表示,“中國在Al領域已經(jīng)非常接近美國,盡管尚未完全追上?!彼€提到美國嘗試用芯片限制措施壓制中國AI發(fā)展速度,但這只會促使中國自研技術加速前行。
辛頓還認為,中國雄厚的理工科人才儲備,是AI事業(yè)發(fā)展的強大推進力,“中國的STEM教育比美國做得更好,他們有更多受過良好教育的人才?!?/p>
首次訪問中國
《金融時報》9月5日刊登的這篇長文提到,辛頓的研究成果為“基于人工神經(jīng)網(wǎng)絡的機器學習”奠定基礎。這種技術思路大致借鑒人類大腦的工作原理,正是如今我們觸手可及的強大AI系統(tǒng)的基石。
然而,ChatGPT的問世以及隨之而來的AI發(fā)展浪潮,讓辛頓停下腳步,不再專注于推動這項技術的進步,轉而警示其潛在風險。
過去幾年,隨著AI領域的飛速發(fā)展,辛頓的態(tài)度愈發(fā)悲觀,直言這項技術可能對人類造成嚴重傷害。
今年7月,在上海舉行的2025世界人工智能大會,已經(jīng)77歲高齡且身體狀況欠佳的辛頓驚喜亮相,并發(fā)表了重磅開幕演講。
會上,他再次警告AI發(fā)展要警惕“養(yǎng)虎為患”,“就像飼養(yǎng)虎崽作為寵物,我們必須確保其成年后不會反噬。”
“這引發(fā)我的深切憂慮?!毙令D表示,AI在醫(yī)療、教育、氣候變化等領域的價值不可替代,單方面禁用人工智能不現(xiàn)實,建議各國自主開發(fā)AI技術,但共享“保持AI良性”的研究成果。
辛頓認為,雖然各國對防范AI在網(wǎng)絡攻擊、操控輿論、致命武器等方面的風險存在利益沖突,但若有國家研發(fā)出防止AI操縱世界的方法,極有可能愿意將相關成果共享給其他國家。他呼吁建立跨國合作機制,共同把握AI安全的“紅線 ”。
他還說,訓練超級AI時,如何能讓它既擁有超凡智慧,又甘于輔助人類,這是值得全球通力合作的重大議題。
在華期間,辛頓還與圖靈獎得主姚期智、約書亞·本吉奧 ,加州大學伯克利分校計算機科學教授斯圖爾特·羅素等20余名行業(yè)專家、學者,共同簽署了《AI安全國際對話上海共識》,呼吁全球各國政府及研究人員“確保高級AI系統(tǒng)的對齊與人類控制,保障人類福祉。
杰弗里·辛頓教授(左)與姚期智教授參與圓桌討論。微信公眾號“人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟AIIA”
歷史淵源
盡管這是辛頓首次踏足中國并參與線下活動,但他的家族與中國早有深厚淵源。
在8月30日舉行的一場國際傳播學術研討會上,中國外交部原副部長傅瑩分享道,辛頓在上海出席世界人工智能大會時,曾談及他的家族與延安的特殊緣分。
辛頓的遠房表姐瓊·辛頓(中文名“寒春”)正是在閱讀了《紅星照耀中國》這本書后,受到延安精神的感召,于1948年來到中國。新中國成立后,她與丈夫歐文·恩斯特(中文名“陽早”)選擇留在中國農(nóng)村,畢生投身于中國農(nóng)業(yè)現(xiàn)代化事業(yè)。
辛頓的表兄威廉·辛頓(中文名“韓丁”)是一名馬克思主義學者,也是中國人民熟知的老朋友,長期深耕于中國農(nóng)業(yè)改革研究。他們三人都是第一批獲得中國居留權的非中國公民。
傅瑩透露,辛頓當時在會上坦言,雖然自己是第一次來到中國,但他一直關心著中國的AI發(fā)展。
在華期間,辛頓深入了解了中國AI領域的相關政策、法律法規(guī)建設,以及技術發(fā)展與治理實踐。他與多位國際專家都意識到,外界所謂中國“只重技術發(fā)展、忽視安全風險管控”的種種說法與事實不符。甚至有幾位年輕專家表示,回國后將撰寫報告,介紹中國AI領域的真實情況。
辛頓還表示,中國的AI行業(yè)已經(jīng)積累起雄厚實力,期待中國在AI國際安全治理方面發(fā)揮更大的作用。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權,不得轉載。