比特派bitpie官網(wǎng)下載|AI的暗面:Sam Altman從OpenAI離職又回歸的新視角 - AI新智界

原文來源:琢磨事

圖片來源:由無界 AI生成

看到新聞?wù)fSam Altman重回OpenAI,這暫時(shí)為這場大戲畫了個(gè)句號。但此事絕對足以寫入AI發(fā)展歷史,所以換個(gè)視角再做下解讀。

當(dāng)理想成為陰謀的素材

你把班級同學(xué)聚在一起吃飯都沒那么容易,何況罷免公司的一號,二號人物。所以這一定是一個(gè)強(qiáng)組織的事,強(qiáng)組織的事如果沒有明面的結(jié)構(gòu)就必然有暗組織與暗主導(dǎo)。(非事后諸葛,參見前文)

而落到具體方法上,6個(gè)人的董事會,首席科學(xué)家Ilya就很關(guān)鍵,因?yàn)樗钦嬲囊患壚嫦嚓P(guān)者,它在公司里面,本來應(yīng)該堅(jiān)定的站在對公司有利這一面,而只要它不倒戈,那就無法罷免Sam Altman。但很不幸,這兄弟更像是個(gè)純粹的理想主義者,不單想捍衛(wèi)自己的理想,還在自認(rèn)為正確的信念下積極行動。他捍衛(wèi)自己理想純粹性的行動,幾乎把理想的載體(OpenAI)干稀碎。

這就是第一個(gè)暗面:當(dāng)你極端化你的理想和信念的時(shí)候,你可能就是實(shí)現(xiàn)它的最大威脅。尤其當(dāng)野心家存在的時(shí)候。

我有時(shí)候就想天才科學(xué)家是不是不要干CEO或者政治家干的事,這倆事一個(gè)太綜合一個(gè)則太純粹,實(shí)在差別太大。

從不缺席的密室謀劃

也許我們到最后也不一定搞清楚,其余三位董事到底是怎么聯(lián)合起來的,但顯然沒有它們賦予的責(zé)任那么陽光。他們號稱使命是為人類負(fù)責(zé),但其實(shí)更多考慮的恐怕是不太能說的因素,甚至都不能對OpenAI負(fù)起責(zé)任。

最終OpenAI的員工的選擇其實(shí)反襯著Sam Altman并沒有真的背棄自己的理想,但在這樣的一個(gè)時(shí)候,暗箱運(yùn)作,陰謀出手,把Sam Altman搞下去,再怎么粉飾也是野心家。這不只是對Sam Altman,而是對整個(gè)組織不利的行為,這是董事應(yīng)該做的事么?

行事的方式上也明顯的鬼鬼祟祟,連Greg Brockman都是被突然通知,被干成一腦袋問號。這不就是暗箱策劃突然發(fā)難么!對于一個(gè)奮斗了七年多的核心團(tuán)隊(duì),并且還在危機(jī)四伏的時(shí)候,突然這么來一下,中國歷史上還真就和劉邦抓韓信差不多,十分神似。

這是另一個(gè)暗面:總是有堂皇的理由來粉飾某種行動,但當(dāng)手段足夠陰暗的時(shí)候,很難拿目的正當(dāng)性來粉飾它。即使粉飾了,旁觀者也一定不能相信(顯然的Ilya Sutskever這個(gè)首席科學(xué)家信了,還幫著吆喝和助力)。

創(chuàng)過業(yè)的同學(xué)大概都知道,人腦每天帶寬差不多是滿的。所以Sam Altman未必不知道董事會有點(diǎn)夠嗆,但肯定沒預(yù)料到會突然行動,也沒預(yù)料到Ilya的倒戈。

勇于謀事,無暇謀身,結(jié)果差點(diǎn)沒掛了。這和故事里的主角們正在躊躇滿志,征戰(zhàn)天下,然后突然被暗殺了其實(shí)差不多。

真要追究,動因其實(shí)也就那么多,在過去利益沖突遠(yuǎn)多于理念沖突,也許更富裕之后會改變這種配比,現(xiàn)在還不行。

自我糾錯機(jī)制

Sam Altman的回歸似乎應(yīng)該感謝OpenAI的員工們。

董事會任命CTO Mira Murati為CEO應(yīng)該是預(yù)先考慮的平穩(wěn)過渡方案中很關(guān)鍵的一環(huán),至少是第一步。

按正常套路如果這美女倒戈再輔助在內(nèi)部收拾局面,那也許事有可為,但有意思的事大家齊刷刷不買賬(90%以上員工主動站隊(duì))。大家態(tài)度很明顯:你們這什么套路,我們不接受,也沒得談,要么一拍兩散,要么就糾錯。

這里面Greg Brockman不接受是引子,但他確實(shí)有足夠動因這么做,后續(xù)的這些就相對會罕見一些。尤其是CTO Mira Murati,這可是傳說中的升職加薪,人就是不干。這次陰謀不敵理想。

再深一層,這是什么概念呢?

這意味著在董事會層面糾錯機(jī)制失效的情形下(有法律確保的權(quán)利機(jī)制),本來沒發(fā)言權(quán)的人團(tuán)結(jié)了起來,然后變成了重要力量。

這七百多人的統(tǒng)一組織,如果沒有一定的統(tǒng)一認(rèn)識和基礎(chǔ),絕對不可能。讓這七百多人統(tǒng)一行動估計(jì)很多時(shí)候比管好一個(gè)城市都費(fèi)勁,所以我們有理由相信這是自底向上的。

這種機(jī)制會非常關(guān)鍵,尤其當(dāng)GPT5一路迭代而來的情況下。

這里確實(shí)會變成AI最大的暗面。

AI“執(zhí)劍人”

這事的無厘頭在于,這是一個(gè)號稱為人類負(fù)責(zé)的董事會做出來的事。

如前所說,這個(gè)董事會看起來不單不能為人類負(fù)責(zé),甚至還不能為OpenAI負(fù)責(zé)。(相當(dāng)于90%多人投反對票)

如此無厘頭的行為最終如果追溯,動因肯定不好看。

所以碳基智能體屬實(shí)不怎么靠譜。

發(fā)展下去,當(dāng)AI變得足夠強(qiáng)大,總是有那么一小波人會被選出來作為執(zhí)劍人。這能靠譜么,不靠譜的話這就是最大的暗面。

(當(dāng)然最基礎(chǔ)的部分肯定是法規(guī),但現(xiàn)實(shí)空間和數(shù)字空間的時(shí)間流速其實(shí)不一樣,以慢制快的問題會越來越暴露的更清楚)。

所以到后面確實(shí)需要新的機(jī)制和制衡,比如開源、透明等等。

后續(xù)

后續(xù)會發(fā)生的事其實(shí)倒相對明朗一些,如果Sam Altman確實(shí)回到OpenAI,那它后面徹底崛起大概率會發(fā)生。什么商業(yè)和技術(shù)理想的平衡,在這個(gè)例子上絕對不是大障礙。喬布斯、馬斯克這些人那個(gè)不是把這兩者搞成了互相促進(jìn),而不是對立。

為什么這么說呢?因?yàn)橐欢ǔ潭壬希@次波折可以看成是苦難輝煌里的苦難部分。這之后權(quán)利結(jié)構(gòu)肯定會重構(gòu)和再平衡,但更關(guān)鍵的是這會變成一個(gè)超級團(tuán)隊(duì),700多個(gè)本來奇形怪狀,各有主張的人,徹底的團(tuán)結(jié)到一起,更加協(xié)力,再加上資金不缺和此前的先發(fā)優(yōu)勢,那恐怕真會一騎絕塵了。

還沒完,老套故事里通常會發(fā)生的事情是Sam Altman這個(gè)角色會黑化一點(diǎn),黑化的結(jié)果就是沒那么信任周圍的人,變的更加集權(quán),這如果過度就會很像皇帝晚年,反倒是會對組織構(gòu)成更大的傷害。但這哥們看著確實(shí)不像是這種風(fēng)格。

希望不會,畢竟這世界還是需要一個(gè)領(lǐng)頭的AI團(tuán)隊(duì)。畢竟在這個(gè)時(shí)間點(diǎn)AI不是太強(qiáng),而是還弱,離一個(gè)全行業(yè)的盈虧平衡點(diǎn)還有幾分距離。

小結(jié)

最終的結(jié)果取決于什么呢?看起來取決于原點(diǎn)上的價(jià)值結(jié)構(gòu)。山川河岳,文化歷史所匯集成的價(jià)值結(jié)構(gòu)。越數(shù)字、越智能主觀的這一點(diǎn)就越重要。