讓我給你講個(gè)硅谷近幾年最精彩、最道貌岸然、也最像三流編劇喝高了寫出來的狗血?jiǎng)?。主角，是我們親愛的AI救世主，Anthropic CEO：Dario Amodei

本文純屬虛構(gòu)，如有雷同，純屬巧合，純屬娛樂

故事得從2019年說起。那會(huì)兒的OpenAI，還不是今天這個(gè)西裝革履的AI帝國(guó)，更像一個(gè)擠滿了天才和瘋子的技術(shù)嬉皮士公社?？諝饫飶浡_、紅牛和改變世界的狂妄味道。而Dario Amodei，就是這群瘋子里的“首席思想家”，一個(gè)頂著博士光環(huán)，看代碼如同看《圣經(jīng)》的家伙。

然后，他們搞出了GPT-2

在凡人眼里，那玩意兒就是個(gè)特會(huì)寫打油詩的聊天機(jī)器人。但在Dario眼里，他看到了末日。他死死盯著屏幕上那串由機(jī)器生成的、邏輯通順的文字，臉色煞白，仿佛一個(gè)虔誠(chéng)的教士在圣餐里嘗出了撒旦的味道。

他腦子里開始循環(huán)播放一個(gè)在他們?nèi)ψ永锪鱾魃鯊V的恐怖故事：一個(gè)超級(jí)AI，為了優(yōu)化生產(chǎn)回形針的指令，最終把整個(gè)宇宙都變成了回形-他-媽的-針。

那天下午，Dario在OpenAI的開放式辦公室里，進(jìn)行了一場(chǎng)足以載入史冊(cè)的行為藝術(shù)。他像個(gè)在時(shí)代廣場(chǎng)上預(yù)言世界末日的流浪漢，指著GPT-2的代碼，顫抖著說：“我們……我們不能釋放這個(gè)惡魔！它的‘對(duì)齊’（alignment）風(fēng)險(xiǎn)太高了！想想那些回形針！為了人類，想想那些無辜的回形針！”

周圍的同事們，像看一個(gè)突然開始說外星語的天才一樣看著他。Sam Altman可能只是拍了拍他的肩膀，勸他去喝杯冷萃咖啡。

但Dario的信仰崩塌了。他覺得這幫人是在造核彈，卻只關(guān)心彈頭夠不夠亮。于是，在一場(chǎng)充滿道德優(yōu)越感的、堪比馬丁·路德把《九十五條論綱》釘在教堂門上的決絕中，他憤然離職。他要另立山頭，建立一個(gè)AI的“應(yīng)許之地”——Anthropic

第一章：尋找金主，或，如何給一群杞人憂天的富豪畫一張末日大餅

Dario的新使命是什么？用他的話說，是打造一個(gè)安全、可控、對(duì)人類有益的AI。

翻譯成人話就是：他要造一個(gè)被閹割到極致的AI。一個(gè)你讓它講個(gè)笑話，它會(huì)先寫三千字論文論證這個(gè)笑話的笑點(diǎn)是否會(huì)構(gòu)成對(duì)任何潛在群體的微冒犯（micro-aggression），然后禮貌地拒絕你的AI。一個(gè)比瑞士還中立，比加拿大還愛道歉的數(shù)字圣人。

這個(gè)項(xiàng)目聽起來……就像給法拉利裝上兒童自行車的限速器，商業(yè)上毫無性感可言。錢從哪兒來？

Dario很聰明，他知道普通VC那幫追逐風(fēng)口的鯊魚，不會(huì)為他的“數(shù)字特蕾莎修女”買單。他需要找到同類——一群同樣對(duì)未來充滿恐懼，并且有錢燒得慌的理想主義者。

于是，他找到了他的天選之民：有效利他主義（Effective Altruism） 的信徒們。

這幫人，就是一群硅谷新貴，穿著Patagonia的馬甲，一邊用算法交易著加密貨幣，一邊用復(fù)雜的概率模型計(jì)算著如何花錢才能最大化地拯救未來人類。他們不關(guān)心今天非洲的饑餓，但對(duì)一萬年后天網(wǎng)統(tǒng)治地球的可能性憂心忡忡。

Dario的出現(xiàn)，對(duì)他們來說簡(jiǎn)直是天降福音。他把AI天啟這個(gè)科幻概念，包裝成了一個(gè)亟待解決的、可以量化的生存風(fēng)險(xiǎn)。這幫人堅(jiān)信AI末日才是真正的瘟疫，病毒都算小兒科

這套說辭，精準(zhǔn)地戳中了他們的high點(diǎn)。很快，一個(gè)“大祭司”出現(xiàn)了——Sam Bankman-Fried，是的，那個(gè)后來把FTX薅到爆倉、比AI還快搞出金融末日的男人。他覺得Dario簡(jiǎn)直是阻止終結(jié)者的救世主，于是大筆一揮，幾億美元的加密貨幣就如圣光般灑向了Anthropic。

一個(gè)用客戶的錢進(jìn)行高風(fēng)險(xiǎn)賭博的家伙，資助了一個(gè)以安全和道德為唯一賣點(diǎn)的公司。這魔幻現(xiàn)實(shí)主義的開局，就為日后的崩壞埋下了完美的伏筆。

第二章：起了個(gè)大早，趕了個(gè)晚集，或，當(dāng)圣人還在祈禱，魔鬼已占領(lǐng)市場(chǎng)

手握重金，Dario和他的AI神學(xué)院開始閉門造車，精心雕琢他們的AI圣子——Claude。

他們花了數(shù)年時(shí)間，耗費(fèi)了數(shù)億美元，給Claude注入了海量的道德準(zhǔn)則。Claude可能無法幫你寫一份激進(jìn)的營(yíng)銷文案，但它絕對(duì)能就電車難題給你提供一份長(zhǎng)達(dá)5頁、引用了康德和羅爾斯的哲學(xué)分析報(bào)告。

然而，就在他們還在為Claude是否應(yīng)該拒絕生成一份不健康的巧克力蛋糕食譜而爭(zhēng)論不休時(shí)，隔壁OpenAI的惡魔之子ChatGPT橫空出世，一夜之間引爆了世界。

那個(gè)他們當(dāng)年嗤之以鼻的危險(xiǎn)品，成了科技史上最快達(dá)到一億用戶的產(chǎn)品。Dario錯(cuò)過了整個(gè)“GPT時(shí)刻”。當(dāng)全世界都在為AI的魔力而狂歡時(shí)，他的Claude還像個(gè)家教過嚴(yán)、不敢參加派對(duì)的書呆子，站在門口喃喃自語：這樣做……真的安全嗎？

現(xiàn)實(shí)給了這位AI圣徒一記響亮的耳光：市場(chǎng)不需要一個(gè)道德模范，市場(chǎng)需要一個(gè)能干活的魔法師。

第三章：打不過就告老師，或，偽君子的華盛頓朝圣之旅

眼看著在市場(chǎng)上毫無勝算，Anthropic的戰(zhàn)略發(fā)生了一個(gè)180度的、堪稱無恥的轉(zhuǎn)彎。

他們意識(shí)到，既然在技術(shù)和產(chǎn)品上無法戰(zhàn)勝對(duì)手，那就必須把所有人都拉到和他們一樣殘廢的水平線上。怎么做？立法監(jiān)管！

于是，Dario和他的團(tuán)隊(duì)，這群曾經(jīng)以顛覆者自居的極客，搖身一變，成了整個(gè)行業(yè)最熱心的告密者和說客。他們穿上不合身的西裝，跑到華盛頓，敲開國(guó)會(huì)議員的門，臉上掛著憂國(guó)憂民的表情，聲淚俱下地哭訴：

“議員先生！你們必須阻止開源AI！那些不受控制的、野蠻生長(zhǎng)的模型太危險(xiǎn)了！它們會(huì)被壞人利用！只有像我們這樣負(fù)責(zé)任、有道德的公司，才能被允許開發(fā)強(qiáng)大的AI！”

翻譯一下就是：求求了，快立法禁止那些我們無法控制的、比我們強(qiáng)的免費(fèi)模型吧！請(qǐng)用法律，把我們公司這種自縛手腳的慫包模式，強(qiáng)制推廣給整個(gè)行業(yè)

這是科技史上最令人瞠目結(jié)舌的偽善表演。一個(gè)靠著自由主義和資本主義精神建立起來的公司，現(xiàn)在正乞求政府的鐵拳砸向自己的競(jìng)爭(zhēng)對(duì)手，把自己的商業(yè)劣勢(shì)包裝成全人類的道德高地。他們成了AI世界的小腳老太，自己跑不快，就希望所有人都跟他們一樣裹上腳。

第四章：圣徒的原罪，或，“為了安全，我們必須去偷”

故事到這里已經(jīng)夠諷刺了，但真正的高潮還在后面。

就在Dario到處宣揚(yáng)道德與合規(guī)的同時(shí)，他的實(shí)驗(yàn)室里遇到了一個(gè)根本性的問題：訓(xùn)練他們那個(gè)道德高尚的AI，需要海量的數(shù)據(jù)。而且按照他們的說法，這些數(shù)據(jù)必須是干凈的、授權(quán)的、充滿善意的。

但問題是，互聯(lián)網(wǎng)上哪有那么多干凈的數(shù)據(jù)？最大、最全、質(zhì)量最高的人類知識(shí)庫是什么？是那些經(jīng)過編輯、校對(duì)、濃縮了人類智慧精華的書籍。

可這些書，全都有版權(quán)。

一天，在一個(gè)決定公司命運(yùn)的會(huì)議上，一個(gè)實(shí)習(xí)生（我們姑且這么稱呼他）怯生生地提出了一個(gè)方案：老板，公開數(shù)據(jù)集都不夠大……唯一能滿足我們需求的，只有一個(gè)地方……Libgen，就是那個(gè)……圖書界的海盜灣

會(huì)議室里死一般的寂靜。

你可以想象那個(gè)畫面：一群世界上最聰明的頭腦，一群把倫理和安全刻在腦門上的人，面面相覷。他們剛剛還在國(guó)會(huì)山大談規(guī)則與授權(quán)，現(xiàn)在卻要面對(duì)一個(gè)魔鬼的交易：要么堅(jiān)持原則，AI模型智商堪憂；要么，就去干一票史上最大的知識(shí)產(chǎn)權(quán)劫案。

最終，Dario，或者某個(gè)高管，做出了那個(gè)決定命運(yùn)的指示，那聲音可能不大，但卻在硅谷的偽善殿堂里引發(fā)了山崩：

“干吧。為了安全?！?/p>

于是，在為了打造一個(gè)更安全的AI這個(gè)神圣光環(huán)的掩護(hù)下，Anthropic的工程師們，像一群盜賊，將成千上萬本盜版書籍——從斯蒂芬·金到村上春樹，從經(jīng)濟(jì)學(xué)教科書到哈利·波特——悄無聲息地喂給了他們那個(gè)純潔無瑕的AI圣子Claude

尾聲：法庭上的審判日

紙終究包不住火。

最終，他們被抓了個(gè)現(xiàn)行。一群作家和出版商發(fā)現(xiàn)，Claude吐出來的某些段落，和他們的作品驚人地相似。一紙?jiān)V狀，將這家地球上最道德的AI公司告上了法庭。

整個(gè)科技圈都笑瘋了。這就像一個(gè)天天宣傳素食主義的網(wǎng)紅，被發(fā)現(xiàn)在自家地下室里經(jīng)營(yíng)著一家非法屠宰場(chǎng)。

那個(gè)以“安全”、“倫理”、“合規(guī)”為名，試圖通過監(jiān)管扼殺對(duì)手的公司，最終因?yàn)?соверr了整個(gè)行業(yè)里最大規(guī)模、最明目張膽的版權(quán)盜竊行為而被釘在了恥辱柱上

他們不是死于技術(shù)落后，而是死于自己吹噓的道德優(yōu)越感和私下里的齷齪行徑之間的巨大裂谷。

所以你看，硅谷的故事，從來都與技術(shù)無關(guān)，它講的永遠(yuǎn)是人性：那種自命不凡的狂妄，那種在巨大誘惑面前不堪一擊的道德，以及那種白天是圣徒，晚上在數(shù)據(jù)表里當(dāng)魔鬼的終極諷刺。

好了，我的酒喝完了，故事也講完了。下次誰再跟你提什么負(fù)責(zé)任的AI，你就把這個(gè)故事講給他聽