太平洋科技 要聞

當(dāng) ChatGPT 的日活躍用戶(hù)突破 1.2 億，每天處理超過(guò) 10 億次查詢(xún)時(shí)，AI 已不再是一個(gè)高高在上的科技概念，而是深刻改變著人們的日常生活。

在這場(chǎng)席卷全球的技術(shù)浪潮中，OpenAI CEO Sam Altman 無(wú)疑是最重要的領(lǐng)軍人物之一。

昨天，Altman 化身產(chǎn)品經(jīng)理，在線(xiàn)發(fā)起了 2025 年的產(chǎn)品意見(jiàn)征集：

what would you like openai to build/fix in 2025? 你希望 OpenAI 在 2025 年能打造或改進(jìn)什么？

我們整理了網(wǎng)友的一些高贊回答，看看你更喜歡哪一項(xiàng)功能？

同樣在去年的 12 月份，Altman 也發(fā)起了類(lèi)似的意見(jiàn)征集貼，2024 年即將過(guò)去，回顧 OpenAI 過(guò)去一年的產(chǎn)品，你覺(jué)得完成度如何？

而在近日，《自由新聞》記者 Bari Weiss 更是對(duì) Altman 進(jìn)行了一次深度專(zhuān)訪(fǎng)。

「如果你回想我們?cè)?2023 年 4 月時(shí)為之興奮的 AI 技術(shù)，相比我們現(xiàn)在擁有的技術(shù)，那時(shí)的技術(shù)簡(jiǎn)直是原始的。」Altman 說(shuō)。

在他看來(lái)，AI 不僅是一項(xiàng)革命性技術(shù)，更可能像晶體管一樣，成為推動(dòng)人類(lèi)社會(huì)進(jìn)步的基礎(chǔ)性力量。

然而，OpenAI 的狂飆突進(jìn)也帶來(lái)了一系列挑戰(zhàn)。

今年以來(lái)，馬斯克多次提起訴訟，試圖阻止 OpenAI 推進(jìn)其商業(yè)化進(jìn)程。對(duì)此，Altman 并未否認(rèn)馬斯克前期對(duì) OpenAI 的幫助，但也對(duì)他的行為嗤之以鼻。

他是一個(gè)偉大的企業(yè)家，但也是一個(gè)惡霸。

與此同時(shí)，除了非營(yíng)利組織到商業(yè)化的轉(zhuǎn)型所引發(fā)的爭(zhēng)議，在 AI 安全和監(jiān)管問(wèn)題，中美技術(shù)競(jìng)爭(zhēng)日趨激烈等關(guān)鍵議題上，Altman 也提供了關(guān)于他的視角和思考。

省流不看版如下：

全文共 1.8 萬(wàn)個(gè)字，由 APPSO 編譯，enjoy it~

我 chat 了一下，AI 是如何在 18個(gè)月內(nèi)進(jìn)入我們的生活？

Bari Weiss：Sam Altman，非常感謝你能來(lái)參加這個(gè)節(jié)目，真的感謝。

Sam Altman：謝謝。

Bari Weiss：我們上次交談是在 2023 年 4 月，我知道從那以后你接受了無(wú)數(shù)次采訪(fǎng)，但那次談話(huà)似乎已經(jīng)是很久以前的事了。

當(dāng)時(shí) ChatGPT 剛剛發(fā)布，人們才剛開(kāi)始從抽象的層面試圖理解這項(xiàng)技術(shù)是什么，以及它可能會(huì)如何改變他們的日常生活。

而現(xiàn)在，坐在這里，已經(jīng)是 2024 年 12 月了，ChatGPT 已經(jīng)成了家喻戶(hù)曉的名字，OpenAI 也是如此。

當(dāng)然，你的一些競(jìng)爭(zhēng)對(duì)手也一樣，比如 Perplexity、Gemini 和 Claude。普通美國(guó)人每天都在使用這些工具，從數(shù)學(xué)輔導(dǎo)到調(diào)試代碼，再到撰寫(xiě)文稿，它們?cè)谶@些方面表現(xiàn)非常出色。

告訴我，ChatGPT 以及更廣義上的 AI 技術(shù)自我們上次交談以來(lái)的一年半時(shí)間里發(fā)生了怎樣的變化？它是否達(dá)到了你今天的預(yù)期，還是已經(jīng)超出了？

Sam Altman：我認(rèn)為這里有兩個(gè)不同的方面需要討論。

一個(gè)是技術(shù)本身的變化，這一點(diǎn)確實(shí)變得好了太多。

如果你回想我們?cè)?2023 年 4 月時(shí)為之興奮的 AI 技術(shù)，相比我們現(xiàn)在擁有的技術(shù)，那時(shí)的技術(shù)簡(jiǎn)直是原始的。

現(xiàn)在的技術(shù)能力令我感到非常震撼。但更令人震驚的是，在接下來(lái)的一年里，這種技術(shù)改進(jìn)的速度。

如果我們?cè)?18 個(gè)月后再回來(lái)討論它能做什么，我認(rèn)為從 2023 年 4 月到 2024 年 12 月的技術(shù)差距，可能會(huì)像我們向前再看 20 個(gè)月的變化一樣大，甚至更大。

另一個(gè)發(fā)生的事情是，這項(xiàng)技術(shù)已經(jīng)真正融入了社會(huì)。

回到那個(gè)時(shí)候，它仍然是一個(gè)新奇的東西，許多人聽(tīng)說(shuō)過(guò)它，但現(xiàn)在，人們確實(shí)大量使用它，不管是在工作還是個(gè)人生活中。

我從未見(jiàn)過(guò)一項(xiàng)技術(shù)以這樣的速度被廣泛采用——不僅僅是人們隨便嘗試一下，而是他們真正開(kāi)始像你提到的那樣，在各個(gè)方面都使用它。所以，這種采用曲線(xiàn)比我想象的要快得多。我本來(lái)預(yù)計(jì)技術(shù)會(huì)發(fā)展得很快，但這種社會(huì)接受的速度還是超出了我的預(yù)期。

Bari Weiss：你在日常生活中是如何使用你幫助創(chuàng)造的這個(gè)工具的？就像我認(rèn)識(shí)的很多人在用它的方式一樣，比如 Tyler Cowan 和很多熱衷于技術(shù)的早期用戶(hù)，幾乎可以說(shuō)它已經(jīng)取代了他們的 Google。

對(duì)他們來(lái)說(shuō)，ChatGPT 就像是一個(gè)更深入、更強(qiáng)大的 Google。這是它的工作方式嗎？

Sam Altman：我用它來(lái)完成各種事情。但最新的一點(diǎn)是，幾個(gè)月前我們發(fā)布了搜索整合功能，現(xiàn)在 ChatGPT 可以在互聯(lián)網(wǎng)上搜索實(shí)時(shí)信息。

在我們發(fā)布過(guò)的所有功能中，這個(gè)功能讓我一下子把使用量翻了一倍。從那以后，我或許還用過(guò) Google 做什么事情，但我已經(jīng)記不清是什么了。

而且我已經(jīng)把 ChatGPT 設(shè)置為 Chrome 中的默認(rèn)搜索引擎，從那之后，我再也沒(méi)有回頭看過(guò)傳統(tǒng)的搜索方式。

對(duì)于一個(gè)如此深深嵌入我行為模式中的東西，這種改變的程度讓我印象深刻。現(xiàn)在，當(dāng)我回想起過(guò)去的搜索方式時(shí)，我覺(jué)得，那種方式就像是「哦，天啊，那是個(gè)前 iPhone 時(shí)代」的感覺(jué)。這種行為上的轉(zhuǎn)變，給我的感受就是這樣的。

這也是過(guò)去幾個(gè)月讓我最感到驚訝的變化——現(xiàn)在我所有的搜索都在 ChatGPT 里完成了。

Bari Weiss：你怎么稱(chēng)呼它？你會(huì)叫它「搜索」嗎，還是有一個(gè)像「Google」那樣的動(dòng)詞？

Sam Altman：一個(gè)動(dòng)詞？我還是叫它「搜索」。不過(guò)，我聽(tīng)說(shuō)其他人，比如有些人會(huì)說(shuō)「我用 chat 查了一下」或者「我 chat 了一下」。

Bari Weiss：「我 chat 了一下」？

Sam Altman：對(duì)，尤其是年輕人，他們似乎只把它稱(chēng)為「chat」，但我還是說(shuō)「搜索」。

Bari Weiss：Sam，就在幾個(gè)月前的 9 月，你在自己的網(wǎng)站上發(fā)表了一篇宣言，預(yù)測(cè)超級(jí)智能的出現(xiàn)會(huì)在未來(lái)幾年，或者正如你令人印象深刻的說(shuō)法，是在未來(lái)幾千天內(nèi)。

給我們解釋一下什么是超級(jí)智能。告訴我們?nèi)绾沃�道它真的�?lái)了，以及它將在未來(lái)幾十年如何改變?nèi)藗兊纳�活�?/p>

Sam Altman：我用來(lái)構(gòu)建自己思維框架的一種方式是觀察科學(xué)進(jìn)步的速度。

如果全球科學(xué)進(jìn)步的速度突然變?yōu)槿�倍，甚至是十倍，比如那些我們�(cè)�本預(yù)計(jì)需要 10 年才能實(shí)現(xiàn)的發(fā)現(xiàn)或技術(shù)進(jìn)步，每年都能實(shí)現(xiàn)，然后一代接著一代地累積下去。

對(duì)我來(lái)說(shuō)，這種狀態(tài)會(huì)讓我覺(jué)得超級(jí)智能已經(jīng)到來(lái)了。我認(rèn)為，這在很多方面會(huì)改變社會(huì)和經(jīng)濟(jì)的運(yùn)行方式。

但它不會(huì)改變的東西，我認(rèn)為很多 AI 評(píng)論員對(duì)此有誤解，那就是它不會(huì)改變?nèi)祟?lèi)深層次的基本驅(qū)動(dòng)力。

所以從這個(gè)意義上來(lái)說(shuō)，我們已經(jīng)經(jīng)歷了許多次技術(shù)革命，而那些我們傾向于關(guān)心的事情，以及驅(qū)動(dòng)我們所有人的動(dòng)力，大多數(shù)情況下幾乎沒(méi)有改變，或者完全沒(méi)有改變。但我們所生存的世界將會(huì)發(fā)生巨大變化。

馬斯克是一個(gè)傳奇的企業(yè)家，但他顯然也是一個(gè)惡霸

Bari Weiss：好的，Sam，我們今天想和你進(jìn)行這次對(duì)話(huà)的一個(gè)原因，不僅僅是因?yàn)槲覀兿肼?tīng)你談 AI 如何改變我們的生活和工作方式，還因?yàn)槟隳壳罢�與 OpenAI 的原始聯(lián)合創(chuàng)始人埃隆·馬斯克陷入一場(chǎng)非常公開(kāi)的爭(zhēng)斗。

我想可以這樣說(shuō)，大多數(shù)聽(tīng)眾可能只是模糊地知道埃隆·馬斯克和你之間的沖突，與他旗下的某家公司有關(guān)，或者他的許多公司之一。

他們肯定沒(méi)有在關(guān)注那些錯(cuò)綜復(fù)雜的訴訟細(xì)節(jié)或整體沖突。我想盡量以最公正的方式為你總結(jié)一下，然后你告訴我是否有哪里說(shuō)錯(cuò)了，或者我是否超出了限度。

OpenAI 于 2015 年成立，并以非營(yíng)利組織的形式起步。在同年 12 月的一篇博客文章中，你們向世界介紹了 OpenAI，你是這樣寫(xiě)的：

「OpenAI 是一家非營(yíng)利的人工智能研究公司。我們的目標(biāo)是以最有可能造福全人類(lèi)的方式推進(jìn)數(shù)字智能的發(fā)展，而不受產(chǎn)生經(jīng)濟(jì)回報(bào)的需求所限制。由于我們的研究沒(méi)有財(cái)務(wù)義務(wù)，我們可以更好地專(zhuān)注于對(duì)人類(lèi)的積極影響�！� 這成為了 OpenAI 品牌的核心理念之一。

到了 2019 年，OpenAI 轉(zhuǎn)變?yōu)樗�謂的混合模式，也就是擁有一個(gè)盈利部門(mén)的模式。當(dāng)年，微軟對(duì)其進(jìn)行了 10 億美元的投資。

從那以后，微軟向 OpenAI 投入了大約 130 億美元，或者可能是更高的數(shù)字。而埃隆從一開(kāi)始就是 OpenAI 的聯(lián)合創(chuàng)始人之一，但隨著時(shí)間的推移，他與公司的關(guān)系惡化，因?yàn)樗�不同意我剛才描述的這種轉(zhuǎn)變，即從非營(yíng)利模式轉(zhuǎn)向混合模式。最終，他離開(kāi)了公司，并辭去了董事會(huì)職務(wù)。

今年，埃隆迄今為止已經(jīng)多次起訴你和 OpenAI。他還接受了許多采訪(fǎng)，并在社交媒體上發(fā)布了無(wú)數(shù)條推文或「X」動(dòng)態(tài)，內(nèi)容都圍繞這一沖突。

他所有的訴訟都聲稱(chēng)，你們?cè)谕七M(jìn) AI 的過(guò)程中，將利潤(rùn)置于公眾利益之上，從而違反了某種合同。而在上個(gè)月，也就是最近的進(jìn)展中，埃隆要求加州的一位地區(qū)法官阻止 OpenAI 轉(zhuǎn)換為這種盈利性結(jié)構(gòu)。

好了，這信息量有點(diǎn)大。我總結(jié)得對(duì)嗎？有沒(méi)有什么關(guān)鍵的點(diǎn)被遺漏了，或者哪里有誤？

Sam Altman：你的總結(jié)是對(duì)的，不過(guò)，實(shí)際上最初最想讓 OpenAI 轉(zhuǎn)變?yōu)橛�利性機(jī)構(gòu)的正是埃隆。

他曾經(jīng)提出過(guò)許多方案，比如讓 OpenAI 成為特斯拉的一部分，或者創(chuàng)建一個(gè)全新的盈利機(jī)構(gòu)，他將完全控制。所以除了這一點(diǎn)以外，你的總結(jié)基本上是正確的。我對(duì)此有很多想法和看法，但作為事實(shí)陳述，你的總結(jié)基本正確。

Bari Weiss：請(qǐng)用一個(gè)高度概括的視角總結(jié)一下埃隆·馬斯克與他的各種盟友（包括 Meta 在內(nèi)）之間，以及你們之間的根本沖突是什么？這種分歧到底是什么？

Sam Altman：我無(wú)法進(jìn)入埃隆的腦海，所以這只是一些推測(cè)。埃隆確實(shí)在 OpenAI 的早期階段做了很多貢獻(xiàn)。

盡管如此，我對(duì)此非常感激，并且我認(rèn)為他是一個(gè)傳奇的企業(yè)家，但他顯然也是一個(gè)惡霸，并且顯然喜歡與人爭(zhēng)斗。目前是和我，之前是貝佐斯、蓋茨、扎克伯格以及很多其他人。我認(rèn)為從根本上來(lái)說(shuō)，這和 OpenAI 做得非常好有關(guān)，而埃隆非常在意做得非常好。

埃隆現(xiàn)在創(chuàng)立并運(yùn)營(yíng)了一家非常直接的競(jìng)爭(zhēng)對(duì)手公司，這家公司試圖做與 OpenAI 完全相同的事情。從結(jié)構(gòu)上來(lái)看，我聽(tīng)說(shuō)他的公司是一個(gè)公共利益公司（PBC），而且埃隆擁有多數(shù)股權(quán)和控制權(quán)，這似乎是他會(huì)做的合理的事情。

我認(rèn)為媒體在這一點(diǎn)上有很多錯(cuò)誤報(bào)道。即使我們考慮了一些轉(zhuǎn)換或發(fā)展想法，也并不意味著非營(yíng)利機(jī)構(gòu)會(huì)消失。

非營(yíng)利機(jī)構(gòu)不會(huì)因?yàn)槟承┌l(fā)展計(jì)劃就停止成為非營(yíng)利機(jī)構(gòu)。我們公開(kāi)討論過(guò)，也許我們會(huì)將目前的 LLC 演變成 PBC，但無(wú)論我們做什么，都會(huì)加強(qiáng)非營(yíng)利機(jī)構(gòu)的作用。

非營(yíng)利機(jī)構(gòu)將繼續(xù)存在，我們也會(huì)繼續(xù)努力實(shí)現(xiàn)相同的目標(biāo)，也就是你之前提到的：開(kāi)發(fā)這項(xiàng)不可思議的技術(shù)，以我們認(rèn)為對(duì)人類(lèi)最有益的方式開(kāi)發(fā)，并將其推廣到全世界。

我們會(huì)繼續(xù)這樣做，我對(duì)我們迄今為止的表現(xiàn)感到非常自豪。正如你之前提到的，人們使用并喜歡 ChatGPT。ChatGPT 有一個(gè)不可思議的免費(fèi)版本，我們?cè)谶@上面虧了錢(qián)，它也沒(méi)有廣告支持或其他商業(yè)模式。

我們只是想把 AI 放在用戶(hù)手中。我們希望通過(guò)技術(shù)的部署，讓人們與之共同進(jìn)化、理解它，并經(jīng)歷目前全球在應(yīng)對(duì) AI 的過(guò)程中所經(jīng)歷的一切。最終，世界將面對(duì) AGI（通用人工智能）的思考。

我們正在做的一切都是朝著這個(gè)方向推進(jìn)的。我相信，如果埃隆不掌控 OpenAI，他會(huì)為我們所做的一切感到高興。

他離開(kāi)公司時(shí)認(rèn)為我們會(huì)失敗，并且他不想?yún)⑴c到一個(gè)他無(wú)法完全控制的 OpenAI 中。但我認(rèn)為這些爭(zhēng)議有點(diǎn)像無(wú)關(guān)緊要的鬧劇。

對(duì)我們來(lái)說(shuō)，正確的做法是繼續(xù)進(jìn)行出色的研究，持續(xù)推出人們喜愛(ài)的產(chǎn)品，最重要的是，堅(jiān)持追求「讓 AGI 造福人類(lèi)」的使命，并將其推向世界。

Bari Weiss：對(duì)于剛剛接觸這個(gè)話(huà)題的人來(lái)說(shuō)，為什么 OpenAI 轉(zhuǎn)換為盈利性公司，或者以你們一直在討論的方式進(jìn)行轉(zhuǎn)換，對(duì) OpenAI 的成長(zhǎng)至關(guān)重要呢？為什么這是不可或缺的？

Sam Altman：當(dāng)我們創(chuàng)立 OpenAI 時(shí)，我們覺(jué)得很難回想起 2015 年的情況有多么不同。當(dāng)時(shí)還沒(méi)有語(yǔ)言模型和聊天機(jī)器人， ChatGPT 更是遙不可及。

我們當(dāng)時(shí)在進(jìn)行研究，發(fā)表論文，研究可以玩電子游戲和控制機(jī)器人手的人工智能之類(lèi)的東西。我們本來(lái)以為能籌到 10 億美元，但最終沒(méi)有成功。

我們當(dāng)時(shí)覺(jué)得，靠這 10 億美元可以在我們?cè)噲D實(shí)現(xiàn)的目標(biāo)上取得實(shí)質(zhì)性的進(jìn)展。

然而，隨著我們不斷深入學(xué)習(xí)并進(jìn)入大規(guī)模語(yǔ)言模型的世界，我們意識(shí)到這不僅僅需要 10 億美元，甚至不止 100 億美元，而是可能需要超過(guò) 1000 億美元的投入。

而作為一家非營(yíng)利機(jī)構(gòu)，我們根本無(wú)法做到這一點(diǎn)。所以，這是轉(zhuǎn)型的根本原因。

Bari Weiss：那么，換句話(huà)說(shuō)，也許可以這樣理解：獲得計(jì)算能力的支持對(duì)于創(chuàng)造這項(xiàng)技術(shù)來(lái)說(shuō)是絕對(duì)必要的。

Sam Altman：沒(méi)錯(cuò)，而且其他所有從事AI的努力也已經(jīng)意識(shí)到了這一點(diǎn)，并以某種方式設(shè)立了能夠接觸資本市場(chǎng)的機(jī)制。

Bari Weiss：最近你對(duì)埃隆說(shuō)了很多不同的話(huà)。在一次采訪(fǎng)中，Andrew Ross Sorkin 問(wèn)到你對(duì)這場(chǎng)沖突的感受時(shí)，你的回答是「感到難過(guò)」。你還說(shuō)你認(rèn)為埃隆的公司很棒。

然后他問(wèn)你，是否認(rèn)為埃隆會(huì)利用他新獲得的政治影響力來(lái)懲罰你、懲罰 OpenAI 或懲罰他的競(jìng)爭(zhēng)對(duì)手。你在采訪(fǎng)中表示，你認(rèn)為他會(huì)做正確的事。這與你剛剛告訴我的話(huà)——埃隆是個(gè)欺凌者——怎么協(xié)調(diào)呢？欺凌者通常不會(huì)做正確的事吧？

Sam Altman：我覺(jué)得這兩件事是完全可以并存的。我認(rèn)為有些人在推特上真的可能表現(xiàn)得很糟糕，但這并不意味著他們會(huì)濫用一個(gè)國(guó)家的體系——特別是在他們現(xiàn)在處于一個(gè)極具影響力的政治角色時(shí)。這對(duì)我來(lái)說(shuō)是完全不同的事情。

Bari Weiss：到目前為止，這場(chǎng)爭(zhēng)斗——對(duì)于那些長(zhǎng)期在線(xiàn)、時(shí)刻刷推特的人來(lái)說(shuō)——主要通過(guò)推文、隱晦的推文進(jìn)行，我們都在推特上實(shí)時(shí)關(guān)注這場(chǎng)沖突的進(jìn)展。而 OpenAI 基本上處于一種回應(yīng)模式，有時(shí)甚至是完全忽視的狀態(tài)。我覺(jué)得這是可以這樣描述的。

這種狀態(tài)在幾天前發(fā)生了改變，你們?cè)?OpenAI 的網(wǎng)站上發(fā)表了一篇非常非常長(zhǎng)的備忘錄。它像是一篇博客文章，推薦大家去閱讀一下。這篇文章幾乎完全是一條時(shí)間線(xiàn)，從 2015 年開(kāi)始回顧，展示了你們的觀點(diǎn)，通過(guò)電子郵件、短信截圖及其解釋?zhuān)�證明埃隆早在那時(shí)就對(duì) OpenAI 成為一家盈利性機(jī)構(gòu)持開(kāi)放態(tài)度。我讀了整整29頁(yè)內(nèi)容。如果有人不想讀，可以去讓 ChatGPT 總結(jié)一下。ChatGPT 告訴我，這是它的總結(jié)：

「這篇文章詳細(xì)描述了埃隆·馬斯克與 OpenAI 領(lǐng)導(dǎo)層，尤其是 Sam Altman 之間的分歧，源于馬斯克對(duì) OpenAI 從非盈利模式轉(zhuǎn)向混合盈利模式的不滿(mǎn)。這場(chǎng)爭(zhēng)端很重要，因?yàn)樗�突出�?AI 應(yīng)該如何開(kāi)發(fā)和控制的更廣泛倫理難題——是否應(yīng)該優(yōu)先考慮公眾利益還是公司利潤(rùn)，尤其是在強(qiáng)大的 AI 技術(shù)對(duì)社會(huì)和經(jīng)濟(jì)的影響日益增長(zhǎng)的情況下�！�

我覺(jué)得這個(gè)總結(jié)挺不錯(cuò)的，你怎么看？

Sam Altman：不，但關(guān)于你的總體觀點(diǎn)，你是對(duì)的，我們確實(shí)沒(méi)有在推特上來(lái)回爭(zhēng)吵。這次發(fā)布聲明的原因是我們必須提交法律文件，并希望提供一些背景說(shuō)明。我們以前也曾因類(lèi)似情況發(fā)布過(guò)一次聲明，那也是因?yàn)槲覀儾坏貌惶峤环�律文件。我已�?jīng)記不清埃隆起訴了我們多少次了，我想大概有 4 次吧。

他撤回了、修改了，然后又申請(qǐng)臨時(shí)禁令等等。我們的任務(wù)是以造福人類(lèi)的方式構(gòu)建 AGI，并找到安全且廣泛分發(fā)它的方法。我們的任務(wù)不是與埃隆在推特上打嘴仗，但如果我們必須對(duì)法律文件做出回應(yīng)，我們會(huì)這樣做，有時(shí)也會(huì)提供背景說(shuō)明。我想我們只做過(guò)兩次這樣的事情。

Bari Weiss：在 OpenAI 早期階段，它的品牌形象——至少在我看來(lái)——是透明和非營(yíng)利性，這些是它反復(fù)強(qiáng)調(diào)的內(nèi)容。你說(shuō)過(guò)，你不能持有任何股份，你拿的薪水也很低，因?yàn)槟阏f(shuō)，「我不想有利益沖突。我想始終以最符合人類(lèi)利益的事情為動(dòng)力�！�

2015 年 12 月 OpenAI 剛成立后的第二天，你在接受《名利場(chǎng)》的采訪(fǎng)時(shí)將其描述為一家「致力于拯救世界免于反烏托邦未來(lái)的非營(yíng)利公司」。

你還說(shuō)過(guò)，試圖讓 OpenAI 成為一家盈利性公司將導(dǎo)致「與世界整體利益不一致的激勵(lì)機(jī)制」，這是次優(yōu)的選擇。我想問(wèn)一下，你是否仍然同意這個(gè)觀點(diǎn)，還是只是因?yàn)殚_(kāi)發(fā)這些模型需要數(shù)百億資金而不得不適應(yīng)現(xiàn)實(shí)？

Sam Altman：兩點(diǎn)。首先，我覺(jué)得自己當(dāng)時(shí)有點(diǎn)錯(cuò)了。雖然我對(duì)這一點(diǎn)始終有擔(dān)憂(yōu)，但我對(duì)我們以及其他 AI 實(shí)驗(yàn)室在這方面的表現(xiàn)感到印象深刻。盡管它們有各種市場(chǎng)或經(jīng)濟(jì)激勵(lì)機(jī)制，但它們確實(shí)非常專(zhuān)注于開(kāi)發(fā)安全的模型。

我認(rèn)為這其中有很多因素。一方面，我們?cè)诩夹g(shù)發(fā)展的方向上有些幸運(yùn)；但另一方面，如果你以一種對(duì)人類(lèi)有害的方式部署這些模型，我相信你很快就會(huì)失去運(yùn)營(yíng)許可。這一點(diǎn)是顯而易見(jiàn)的。

當(dāng)然，也有一些微妙的錯(cuò)誤可能會(huì)發(fā)生，比如我認(rèn)為社交媒體就是一個(gè)例子，當(dāng)時(shí)可能沒(méi)有明顯的危害，但隨著規(guī)模的擴(kuò)大出現(xiàn)了一些突發(fā)性的屬性。

你可以想象類(lèi)似的事情可能發(fā)生。但激勵(lì)機(jī)制問(wèn)題比我當(dāng)時(shí)想象的要好一些。我愿意坦率地承認(rèn)，10 年前我對(duì)世界的運(yùn)行方式有些天真，而現(xiàn)在我對(duì)此感到更有信心。

Bari Weiss：天真？怎么說(shuō)？

Sam Altman：來(lái)自社會(huì)的壓力——尤其是對(duì)大公司的壓力，以及研究人員推動(dòng)他們的公司做正確事情的力量——即便是在巨大的利潤(rùn)動(dòng)機(jī)面前，表現(xiàn)都還算不錯(cuò)。

但有一件事我當(dāng)時(shí)就不覺(jué)得天真，現(xiàn)在依然如此，那就是：這種事情竟然發(fā)生在少數(shù)幾家私營(yíng)公司手中，這讓我依然覺(jué)得非常不可思議。

對(duì)我而言，這感覺(jué)就像我們這個(gè)時(shí)代的曼哈頓計(jì)劃或阿波羅計(jì)劃。而這些計(jì)劃不是由私營(yíng)公司完成的，我認(rèn)為這反而是一個(gè)功能良好的社會(huì)的標(biāo)志。

Bari Weiss：你認(rèn)為我們需要一個(gè)曼哈頓計(jì)劃嗎？

Sam Altman：我認(rèn)為公司會(huì)做正確的事情，一切會(huì)順利進(jìn)行。而且在當(dāng)前的世界里，我認(rèn)為政府主導(dǎo)的努力根本行不通。老實(shí)說(shuō)，即使它真的成功了，我也不覺(jué)得那是件好事。我只是希望我們生活在一個(gè)讓我覺(jué)得那才是應(yīng)該的方式并正在發(fā)生的世界里。

Bari Weiss：Meta 現(xiàn)在顯然站在了埃隆一邊。幾天前，Meta 要求加州檢察長(zhǎng)阻止 OpenAI 轉(zhuǎn)變?yōu)闋I(yíng)利性機(jī)構(gòu)。他們?cè)谛胖羞@樣寫(xiě)道：「OpenAI 的行為可能會(huì)對(duì)硅谷產(chǎn)生巨大的影響。如果 OpenAI 的新商業(yè)模式被認(rèn)可，那么非營(yíng)利投資者將能夠獲得與傳統(tǒng)方式投資盈利性公司相同的利潤(rùn)，同時(shí)還能夠享受政府提供的稅收減免。」

這呼應(yīng)了馬斯克去年說(shuō)的話(huà)，他當(dāng)時(shí)表示：「我很困惑，一個(gè)我捐贈(zèng)過(guò)的非營(yíng)利機(jī)構(gòu)怎么會(huì)變成一個(gè)市值巨大的盈利性機(jī)構(gòu)。換句話(huà)說(shuō)，如果這是合法的，為什么大家不都這么做？」

Sam Altman：我不知道 Meta 為什么要發(fā)那封信，但我知道他們知道事實(shí)并非如此。我知道在這些領(lǐng)域，沒(méi)有人會(huì)因?yàn)榉菭I(yíng)利組織的捐贈(zèng)而直接獲益于某種盈利性股權(quán)。當(dāng)然，他們也知道這一點(diǎn)。

你可以想象 Meta 發(fā)這封信有很多其他的原因。比如，他們可能想討好埃��；他們可能覺(jué)得這樣做有助于他們與我們競(jìng)爭(zhēng)；或者他們可能因?yàn)檎J(rèn)為我們對(duì)開(kāi)源持反對(duì)態(tài)度而對(duì)我們感到不滿(mǎn)——盡管我不認(rèn)為這是準(zhǔn)確的，也不是我所感受到的原因。我不知道，你可以去問(wèn)問(wèn)他們真正的原因是什么。

Bari Weiss：對(duì)于普通人來(lái)說(shuō)，聽(tīng)到這些可能會(huì)困惑：一個(gè)非營(yíng)利組織如何變成一個(gè)盈利性機(jī)構(gòu)？答案是什么？

Sam Altman：非營(yíng)利組織仍然是非營(yíng)利組織。我相信 OpenAI 的非營(yíng)利組織正在走上一條軌跡，我希望如果我們做得好，它將成為史上最大、最有影響力的非營(yíng)利組織。

非營(yíng)利組織不會(huì)變成其他任何東西。就像其他許多事情一樣，我們的生態(tài)系統(tǒng)中可以有一個(gè)盈利性的業(yè)務(wù)存在，但這并不意味著非營(yíng)利組織會(huì)轉(zhuǎn)變。非營(yíng)利組織不會(huì)消失，也不會(huì)停止從事非營(yíng)利性的事情。

誰(shuí)是從 OpenAI 中獲利最多的人

Bari Weiss：最終，Sam，誰(shuí)將從 OpenAI 的成功中獲利最多？

Sam Altman：所有人。我告訴你，我希望每個(gè)人都可以用他們的比喻來(lái)描述這場(chǎng)技術(shù)革命最像什么。有人說(shuō)這是工業(yè)革命，有人說(shuō)這是電力革命，也有人說(shuō)它像互聯(lián)網(wǎng)。但我希望它像晶體管。

我們發(fā)現(xiàn)了一項(xiàng)新的重要的基礎(chǔ)性物理規(guī)律，或者你愿意叫什么都行。

我們進(jìn)行了大量研究，其他人也進(jìn)行了研究，而它將滲透到經(jīng)濟(jì)、產(chǎn)品以及一切事物的各個(gè)方面。

今天你我正在使用許多含有晶體管的設(shè)備，才讓這次播客成為可能。計(jì)算機(jī)里有一些，你的麥克風(fēng)里有一些，你我之間所有的互聯(lián)網(wǎng)設(shè)備里都有很多，但我們并不會(huì)坐在這里去思考晶體管的存在。

而晶體管公司也不會(huì)坐在這里賺取所有的財(cái)富。這一令人驚嘆的科學(xué)發(fā)現(xiàn)已經(jīng)滲透到我們生活的方方面面，每個(gè)人都從中賺到了錢(qián)。這就是我希望 AI 能夠成為的樣子，我認(rèn)為這也是最好的類(lèi)比之一。

Bari Weiss：你有沒(méi)有股份？或者你在這個(gè)新的盈利封頂公司中有什么樣的權(quán)益？

Sam Altman：目前我們還沒(méi)有成立一個(gè)新實(shí)體。我們顯然考慮過(guò)成立一個(gè)新實(shí)體，或者可能將我們現(xiàn)有的 LLC 轉(zhuǎn)變?yōu)橐粋�(gè)更準(zhǔn)確的實(shí)體。

我通過(guò)一個(gè)早期 YC 基金持有少量股份。我過(guò)去通過(guò)紅杉資本基金持有一些股份，但那部分后來(lái)更容易出售，也沒(méi)有繼續(xù)保留。

所以我持有的股份非常少，對(duì)我來(lái)說(shuō)幾乎沒(méi)有意義。我未來(lái)是否會(huì)有股份，目前沒(méi)有任何計(jì)劃或承諾。如果我得到了什么，也不會(huì)像外界那些荒謬的傳聞那樣，傳聞的數(shù)字是不可能發(fā)生的。

Bari Weiss：你知道為什么人們對(duì)這個(gè)問(wèn)題如此關(guān)注。

Sam Altman：正如我之前多次說(shuō)過(guò)的，如果我能回到過(guò)去，我會(huì)選擇持有股份。我現(xiàn)在更能理解當(dāng)初我的擔(dān)憂(yōu)為何是錯(cuò)位的。我也明白現(xiàn)在去持有股份會(huì)顯得有些奇怪，畢竟之前沒(méi)有。

但另一方面，我真希望不用再回答這個(gè)問(wèn)題，成為一家正常的公司，我管理它，有一些股權(quán)投資者，不需要擔(dān)心我在其中是否有利益沖突。

整個(gè)關(guān)于「沒(méi)有任何股份」的懷疑氣氛，是我對(duì) OpenAI 結(jié)構(gòu)中最遺憾的決定之一。但我理解為什么人們對(duì)它如此執(zhí)著，這也很合理。

Bari Weiss：如果你能回到過(guò)去，你會(huì)從一開(kāi)始就怎么做？讓我們把時(shí)間倒回到 2015 年。

Sam Altman：如果當(dāng)時(shí)有一個(gè)預(yù)言家能告訴我，在 2015 年 11 月之前：

如果一個(gè)預(yù)言家提前告訴我這三點(diǎn)內(nèi)容，我會(huì)說(shuō)：「很好，讓我們成為一家公共利益公司（PBC）�！�

Bari Weiss：埃隆在推動(dòng) OpenAI 起步時(shí)有多關(guān)鍵？如果預(yù)言家也告訴你后來(lái)你們之間會(huì)發(fā)生這場(chǎng)沖突，而他是你曾經(jīng)視為親密朋友的人，你會(huì)說(shuō)，「沒(méi)關(guān)系，我可以自己完成」嗎？

Sam Altman：不會(huì)，他真的幫了很大的忙。我對(duì)此非常感激。

Bari Weiss：我第一次看到埃隆·馬斯克是在一個(gè)會(huì)議的舞臺(tái)上，當(dāng)時(shí)你在采訪(fǎng)他。你們之間的互動(dòng)非常棒，看起來(lái)像是非常好的朋友。

他對(duì)你說(shuō)了一些非常嚴(yán)厲的話(huà)，比如把你比作《權(quán)力的游戲》里的小指頭（Littlefinger），最具殺傷力的一句話(huà)是：「我不信任他，我不希望世界上最強(qiáng)大的 AI 被一個(gè)不值得信任的人掌控�！顾麨槭裁催@么說(shuō)？

Sam Altman：我想是因?yàn)樗�希望世界上最�?qiáng)大的 AI 由他來(lái)掌控。另外，我見(jiàn)過(guò)埃隆對(duì)許多人、包括我的很多朋友發(fā)起攻擊。每個(gè)人都會(huì)有被他抨擊過(guò)，但這些看起來(lái)都是他一貫的行為方式。

Bari Weiss：我試圖站在一個(gè)前朋友、前合作伙伴的角度，想象他說(shuō)出那種話(huà)。我覺(jué)得你對(duì)這件事似乎相對(duì)冷靜。

Sam Altman：不，我對(duì)此當(dāng)然很難過(guò)。我最近和一個(gè)我認(rèn)為關(guān)系很親近的人聊到這件事時(shí)，我說(shuō)：「埃隆沒(méi)有朋友，埃隆不做同伴，埃隆不交朋友�！�

這讓我覺(jué)得很遺憾，因?yàn)槲掖_實(shí)把他當(dāng)作朋友。但我也不知道，我能以一種相對(duì)冷靜的方式看待這件事。我記得他曾經(jīng)說(shuō)過(guò) OpenAI 成功的可能性是零，說(shuō)「你們這些人是笨蛋」，然后撤資并表示他會(huì)自己干。

在那之后，有些時(shí)刻讓我覺(jué)得他似乎想要和解，并找到一種合作的方式。但我也記得有些時(shí)候，他只是在推特上做自己的事。如果這些攻擊只是針對(duì)我一個(gè)人，我覺(jué)得會(huì)更加痛苦。但你知道，他在推特上的行為，大家都看得見(jiàn)。

所以我可以用一種相對(duì)不帶個(gè)人感情的方式看待這些，把它當(dāng)作關(guān)于埃隆的問(wèn)題，而不是關(guān)于我的問(wèn)題。但這仍然讓我難受。我想，我花了很長(zhǎng)時(shí)間才習(xí)慣這種感覺(jué)吧。

Bari Weiss：最近在 OpenAI 網(wǎng)站上發(fā)表的那篇博客文章提到，埃隆應(yīng)該「在市場(chǎng)上競(jìng)爭(zhēng)，而不是在法庭上競(jìng)爭(zhēng)」。

當(dāng)然，從一個(gè)憤世嫉俗的角度來(lái)看，正如你在這次談話(huà)中暗示的那樣，埃隆現(xiàn)在擁有一家與 OpenAI 競(jìng)爭(zhēng)的公司 xAI，他起訴你們并不是因?yàn)樗�真的關(guān)心AI安全或者其他什么問(wèn)題，而只是想?yún)⑴c競(jìng)爭(zhēng)。對(duì)此你怎么看？憤世嫉俗的觀點(diǎn)是真的嗎？這真的是一場(chǎng)為了爭(zhēng)奪市場(chǎng)主導(dǎo)地位的競(jìng)爭(zhēng)嗎？

Sam Altman：你應(yīng)該去問(wèn)他。我希望你能邀請(qǐng)他來(lái)節(jié)目。

AI 不可能完全中立，支持有限度的監(jiān)管

Bari Weiss：好吧。你不僅被認(rèn)為是世界上最重要的 AI CEO 和 AI 開(kāi)發(fā)者之一，還被廣泛認(rèn)為是 AI 監(jiān)管的積極倡導(dǎo)者。

這里的一個(gè)憤世嫉俗的觀點(diǎn)是，就像你可以質(zhì)疑埃隆的動(dòng)機(jī)一樣，也可以認(rèn)為你推動(dòng) AI 監(jiān)管的方式是為了抑制競(jìng)爭(zhēng)，從而使你的公司受益。顯然，你以前聽(tīng)過(guò)這樣的論點(diǎn)。

Sam Altman：我認(rèn)為過(guò)多的監(jiān)管顯然會(huì)對(duì)社會(huì)產(chǎn)生巨大的負(fù)面影響。目前在許多地方，我們的監(jiān)管已經(jīng)過(guò)多了。我是說(shuō)，埃隆和其他大多數(shù)大型 AI 項(xiàng)目的負(fù)責(zé)人也都在積極呼吁 AI 監(jiān)管。

當(dāng)你登上一架飛機(jī)時(shí)，你會(huì)覺(jué)得飛行的安全性非常高。當(dāng)你在美國(guó)吃食物時(shí)，你不會(huì)太多考慮食品安全的問(wèn)題。一些監(jiān)管顯然是好事。當(dāng)然，我可以想象一些 AI 監(jiān)管的版本可能會(huì)帶來(lái)真正的問(wèn)題，并對(duì)小型項(xiàng)目造成不利影響。

我認(rèn)為那會(huì)是一個(gè)真正的錯(cuò)誤。但針對(duì)最強(qiáng)大的系統(tǒng)進(jìn)行一些安全保護(hù)措施，這種措施應(yīng)該只影響那些站在技術(shù)前沿的公司，比如 OpenAI 以及少數(shù)其他公司。我不認(rèn)為我們目前的這些系統(tǒng)已經(jīng)達(dá)到巨大的安全隱患級(jí)別，但我也不認(rèn)為我們離那個(gè)程度還非常遙遠(yuǎn)。

Bari Weiss：一些初創(chuàng)公司提出的論點(diǎn)，比如一家叫 Hugging Face 的 AI 初創(chuàng)公司（這個(gè)名字真有意思），還有一家叫 Stability AI 的公司的創(chuàng)始人。

他們基本上在說(shuō)，Sam 和其他大型公司，比如 OpenAI、Google 和蘋(píng)果，正在試圖通過(guò)政府的監(jiān)管為自己建立護(hù)城河，并通過(guò)監(jiān)管俘獲來(lái)抑制競(jìng)爭(zhēng)。

你對(duì)此怎么看？這就像大科技公司和小科技公司之間的爭(zhēng)論。這個(gè)問(wèn)題可以用多種方式來(lái)詮釋。對(duì)于那些說(shuō)「我們想?yún)⑴c競(jìng)爭(zhēng)，但像 Sam 這樣的人的監(jiān)管主張會(huì)傷害我們而有利于他們」的人，你有什么想說(shuō)的嗎？

Sam Altman：如果他們的意思是說(shuō)，「我們落后于 OpenAI，所以這不重要」，而我們呼吁的僅僅是針對(duì)前沿技術(shù)的監(jiān)管，比如那些全新且未經(jīng)測(cè)試的東西，而對(duì)于其他方面，比如想發(fā)布什么開(kāi)源模型都可以，我覺(jué)得他們這樣辯解是不合理的。

我不知道。我很好奇你是怎么想的。如果我們成功了，開(kāi)發(fā)出了一個(gè)超級(jí)智能，一個(gè)可能比整個(gè)人類(lèi)加起來(lái)還要聰明、更有能力的計(jì)算機(jī)程序，你認(rèn)為對(duì)此應(yīng)該有任何監(jiān)管嗎？還是說(shuō)他們會(huì)說(shuō)「完全不需要」？

Bari Weiss：我當(dāng)然認(rèn)為，首先，我甚至不太明白當(dāng)我們談?wù)摮��?jí)智能時(shí)到底在談什么。你對(duì)它的含義和影響有著我完全不具備的理解，這是第一點(diǎn)。

第二點(diǎn)，如果這項(xiàng)技術(shù)真的像你、埃隆以及其他很多與它接觸更近的人所說(shuō)的那樣強(qiáng)大，那么我當(dāng)然認(rèn)為它應(yīng)該以某種方式受到監(jiān)管。至于如何監(jiān)管、何時(shí)監(jiān)管，顯然是一個(gè)非常重要的問(wèn)題。

Sam Altman：如何監(jiān)管以及何時(shí)監(jiān)管確實(shí)非常重要。我同意這一點(diǎn)，我也可以很容易想象到這件事可能會(huì)出問(wèn)題。

Bari Weiss：最近，馬克·安德森在這個(gè)節(jié)目中談到他對(duì)拜登政府在 AI 技術(shù)方面所做努力的看法。他在節(jié)目中講了一個(gè)他親身經(jīng)歷的故事。

他說(shuō)，拜登政府試圖完全控制 AI，他們的目標(biāo)是讓政府對(duì) AI 的監(jiān)管非常嚴(yán)格。用他的話(huà)說(shuō)，這樣最終只會(huì)有兩到三家大公司能夠與政府合作，而他們這樣做的目的是為了保護(hù)這些公司免受競(jìng)爭(zhēng)。這是真的嗎？你知道他提到的是否與 OpenAI 有關(guān)，OpenAI 是不是其中之一？

Sam Altman：我不知道他提到的具體內(nèi)容。我也要非常明確地說(shuō)，我認(rèn)為任何減少 AI 競(jìng)爭(zhēng)的監(jiān)管都是非常糟糕的事情。

Bari Weiss：所以，OpenAI 并不是那些公司之一？

Sam Altman：不是，我其實(shí)不知道他說(shuō)的是什么，但我們肯定不是。

Bari Weiss：據(jù)我所知，你從未與拜登政府和其他 AI 公司一起出現(xiàn)在某個(gè)會(huì)議室里？

Sam Altman：我甚至不認(rèn)為拜登政府有足夠的能力做到這一點(diǎn)。我是說(shuō)，我們確實(shí)和他們一起開(kāi)過(guò)會(huì)，但從來(lái)沒(méi)有其他公司參與，也從來(lái)沒(méi)有出現(xiàn)什么陰謀論之類(lèi)的，比如「我們只允許少數(shù)幾家公司能開(kāi)發(fā) AI」這種事情，從來(lái)沒(méi)有發(fā)生過(guò)。

Bari Weiss：你對(duì)拜登政府在 AI 和科技領(lǐng)域的總體態(tài)度怎么看？你剛才提到你覺(jué)得他們沒(méi)有足夠的能力。

Sam Altman：我覺(jué)得 Gina Raimondo 很棒，我和她的每次對(duì)話(huà)都讓我覺(jué)得她很明白其中的關(guān)鍵。不過(guò)總體來(lái)說(shuō)，我認(rèn)為這個(gè)政府的效率并不高。我認(rèn)為他們應(yīng)該優(yōu)先考慮的事情——也是我希望下一屆政府能夠優(yōu)先考慮的事情——是建立美國(guó)國(guó)內(nèi)的大規(guī)模AI基礎(chǔ)設(shè)施，以及在美國(guó)國(guó)內(nèi)建立供應(yīng)鏈等類(lèi)似的事情。

Bari Weiss：當(dāng)馬克來(lái)節(jié)目時(shí)，我請(qǐng)他試著為拜登政府的立場(chǎng)辯護(hù)，或者為AI應(yīng)該受到嚴(yán)格監(jiān)管的觀點(diǎn)辯護(hù)。他基本上把這個(gè)問(wèn)題類(lèi)比為曼哈頓計(jì)劃和原子彈的研發(fā)，當(dāng)時(shí)政府認(rèn)為有必要確保這一新科學(xué)和創(chuàng)新首先保持機(jī)密化。

你覺(jué)得這個(gè)類(lèi)比恰當(dāng)嗎？如果你同意這個(gè)類(lèi)比，并且認(rèn)為 AI 的力量與核武器相當(dāng)，那是否意味著這應(yīng)該是聯(lián)邦政府的項(xiàng)目，而不是 OpenAI、Gemini 和 Claude 的項(xiàng)目？

Sam Altman：我覺(jué)得所有的類(lèi)比都有難點(diǎn)，因?yàn)樗鼈冊(cè)谀承┓矫娉闪�，但在其他方面又不成立。比如，你可以指出一些與核時(shí)代類(lèi)似的事情。

你可以談到，比如濃縮鈾需要巨大的資源和能量，而另一方面，生產(chǎn)這些模型也需要大量的資源和能量。所以你可以找到一些類(lèi)似的地方。但使用這些模型和使用核武器是完全不同的事情，其政治影響也完全不同。

我認(rèn)為，如果要為那些說(shuō)「這就像核武器」的人辯護(hù)，我覺(jué)得他們的意思是：這項(xiàng)技術(shù)極其昂貴，同時(shí)具有深遠(yuǎn)的地緣政治后果。我們不知道這些后果具體是什么，也不知道該如何看待它們。但正因?yàn)槲覀儾淮_切知道這些后果是什么，難道我們不應(yīng)該有一個(gè)讓政府決定的原則嗎？

我可以想象，在歷史上其他時(shí)期的其他政府中，我們會(huì)非常歡迎這種結(jié)果。但我認(rèn)為，讓當(dāng)前的美國(guó)政府負(fù)責(zé)以比我們的競(jìng)爭(zhēng)對(duì)手更快更好的方式開(kāi)發(fā) AGI，可能不會(huì)有好的結(jié)果。我認(rèn)為，美國(guó)的國(guó)家能力的衰退并不是一個(gè)新觀察，但卻是一個(gè)令人悲哀的現(xiàn)象。

Bari Weiss：在核時(shí)代的開(kāi)端，我們國(guó)家有些人幾乎像首席科學(xué)官一樣發(fā)揮作用，對(duì)吧？我想到的是像萬(wàn)尼瓦爾·布什這樣的人，他幫助啟動(dòng)了曼哈頓計(jì)劃，創(chuàng)立了國(guó)家科學(xué)基金會(huì)，并在核能初期那些非常關(guān)鍵的幾年中指導(dǎo)了美國(guó)的政策�，F(xiàn)在有沒(méi)有這樣的人存在，不管他們是不是在華盛頓？

如果我們想要有一個(gè)這樣的人，他們理解這項(xiàng)技術(shù)，沒(méi)有任何經(jīng)濟(jì)利益，并能夠與總統(tǒng)無(wú)論是拜登、特朗普還是他們之后的領(lǐng)導(dǎo)人討論，不僅僅是 AI 開(kāi)發(fā)的問(wèn)題，還有與中國(guó)的競(jìng)爭(zhēng)問(wèn)題，現(xiàn)在美國(guó)有沒(méi)有這樣的人？或者說(shuō)，這個(gè)人可能是你？

Sam Altman：我覺(jué)得這種意愿正在稍微恢復(fù)一點(diǎn)，但很長(zhǎng)一段時(shí)間里，美國(guó)公眾對(duì)科學(xué)和技術(shù)未來(lái)發(fā)展的熱情已經(jīng)消失了。如果讓我選擇一個(gè)時(shí)間點(diǎn)，我認(rèn)為這種熱情是在核武器出現(xiàn)時(shí)消失的。

其實(shí)，在原子彈投放后，有幾十年的「低迷期」，直到一代人更迭，那些經(jīng)歷過(guò)核彈時(shí)代的人變老并掌握權(quán)力后，我認(rèn)為美國(guó)從未再像過(guò)去那樣，完全擁抱科學(xué)和技術(shù)推動(dòng)世界進(jìn)步的興奮感和信念。

你讀到那些關(guān)于過(guò)去人們所做事情的故事，會(huì)發(fā)現(xiàn)他們對(duì)科學(xué)技術(shù)是多么敬畏，人們相信科學(xué)技術(shù)的進(jìn)步會(huì)更廣泛地讓世界變得更好。但這種信念現(xiàn)在似乎缺失了，我不認(rèn)為這是因?yàn)槲覀內(nèi)鄙倌軌蛲苿?dòng)這一信念的個(gè)人，而是因?yàn)檎�府不想要，公眾也不想要�?/p>

Bari Weiss：不僅僅是政治氛圍的變化，你怎么看我們自 11 月 5 日以來(lái)經(jīng)歷的這種文化氛圍的變化？如果你在 8 周前跟我說(shuō)這些，我會(huì)覺(jué)得 Sam 可能是對(duì)的。但現(xiàn)在感覺(jué)像是一個(gè)不同的國(guó)家。

Sam Altman：確實(shí)有巨大的文化氛圍變化，我認(rèn)為在很多方面都有非常積極的動(dòng)能。但我不確定這種變化是否包括「我們重新認(rèn)為科學(xué)非常重要，科學(xué)會(huì)拯救我們，解決我們所有問(wèn)題」的觀點(diǎn)。你覺(jué)得有這種變化嗎？還是說(shuō)這是唯一一個(gè)我沒(méi)感覺(jué)到的領(lǐng)域？

Bari Weiss：我只是覺(jué)得現(xiàn)在的趨勢(shì)更傾向于「增長(zhǎng)是好事，技術(shù)進(jìn)步是好事，虛無(wú)主義顯得過(guò)時(shí)了，正在失去人們的青睞」。我感覺(jué)到這種變化正在發(fā)生，而且是以一種戲劇性的方式發(fā)生的。也許這是因?yàn)槲一�了很多時(shí)間在 X 平臺(tái)上，這種趨勢(shì)似乎在那里醞釀，然后從線(xiàn)上蔓延到了現(xiàn)實(shí)世界。所以，如果你去哥倫比亞大學(xué)找一個(gè)普通的博士生聊聊，我覺(jué)得他們可能不會(huì)有和我一樣的感受，因?yàn)槊總�(gè)人的體驗(yàn)都太不同了。

Sam Altman：我之前提到「分裂化」（balkanized），我覺(jué)得即使是在現(xiàn)場(chǎng)，這種情況也有所好轉(zhuǎn)。我非常同意你提到的那種總體上對(duì)增長(zhǎng)和成功、讓國(guó)家和經(jīng)濟(jì)表現(xiàn)良好的興趣的轉(zhuǎn)變。

我也部分同意我之前提到的觀點(diǎn)，即我認(rèn)為即使是對(duì)科學(xué)的興趣，也比它曾經(jīng)的最低谷要好一些了。但當(dāng)你談到那些被視為國(guó)家科學(xué)大使的人，以及那些人們真正愿意傾聽(tīng)和感到興奮的科學(xué)倡導(dǎo)者時(shí)，我還是不太確定是否真的存在這種角色。我覺(jué)得這種興奮更多是關(guān)于商業(yè)，而不是科學(xué)。

Bari Weiss：嗯，有一家公司讓我感到興奮，或許這么說(shuō)有些爭(zhēng)議，但我確實(shí)覺(jué)得它的創(chuàng)始人是這個(gè)國(guó)家最有趣的人之一，那就是 Palmer Luckey 和他的公司 Anduril Industries。

而 OpenAI 最近達(dá)成了一項(xiàng)協(xié)議，共同開(kāi)發(fā)具有軍事應(yīng)用的AI。此前，OpenAI 曾明確禁止將其技術(shù)用于武器化。

當(dāng)然，現(xiàn)在的前提是你們專(zhuān)注于防御系統(tǒng)，比如可以防御無(wú)人機(jī)群攻擊的系統(tǒng)，這或許與目前新澤西正在發(fā)生的事情有關(guān)。我想談?wù)勥@個(gè)話(huà)題。是什么讓你在根本上改變了主意，決定將公司的技術(shù)整合到甚至是防御性武器系統(tǒng)中？

Sam Altman：我們建立了一套原則，并批準(zhǔn)了符合這些原則的一些用例。但我認(rèn)為，如果美國(guó)的領(lǐng)先努力不能幫助保衛(wèi)美國(guó)及其盟友免受對(duì)手的威脅，我們將處于一個(gè)非常糟糕的境地。因此，我們需要找到應(yīng)對(duì)這一挑戰(zhàn)的辦法。

Bari Weiss：一年半前，當(dāng)我們聊天時(shí)，部分討論內(nèi)容是關(guān)于我們是否正在進(jìn)行與中國(guó)的 AI 軍備競(jìng)賽。而現(xiàn)在，很明顯，我們確實(shí)深陷與中國(guó)的 AI 軍備競(jìng)賽中。即使是那些擔(dān)心 AI 力量的人也會(huì)覺(jué)得，如果只能在我們和中國(guó)之間選擇，那必須是我們獲勝。

Sam，你一定經(jīng)常思考這個(gè)問(wèn)題，能否為我們描繪一下，如果中國(guó)贏得 AI 軍備競(jìng)賽，會(huì)發(fā)生什么？對(duì)美國(guó)來(lái)說(shuō)會(huì)怎樣？對(duì)世界來(lái)說(shuō)又會(huì)怎樣？

Sam Altman：那就是中國(guó)想要的東西。

Bari Weiss：你認(rèn)為這種可能性是真實(shí)存在的嗎？

Sam Altman：是的，我的意思是，我們會(huì)拼盡全力確保這種情況不會(huì)發(fā)生。

Bari Weiss：我們?cè)趺粗�道他們是否在贏得這場(chǎng)競(jìng)賽？

Sam Altman：這就是困難的地方，對(duì)吧？我們知道他們公開(kāi)發(fā)布的內(nèi)容，但不知道他們未公開(kāi)的內(nèi)容。我們有很多信號(hào)來(lái)源，也有情報(bào)系統(tǒng)。但就我個(gè)人立場(chǎng)而言，我們必須盡力合作。

軍備競(jìng)賽對(duì)所有參與者來(lái)說(shuō)都是不利的。這是歷史上我們一次又一次學(xué)到的教訓(xùn)，但如果有需要，我們也必須能夠贏得這場(chǎng)競(jìng)賽。

我希望這能成為促進(jìn)世界和平的一個(gè)偉大契機(jī)，我相信如果有一個(gè)時(shí)機(jī)能讓全人類(lèi)團(tuán)結(jié)起來(lái)，這似乎是一個(gè)很好的候選機(jī)會(huì)。我希望我們能達(dá)到那個(gè)目標(biāo)。但我們不能對(duì)此抱有天真的想法。

Bari Weiss：特朗普總統(tǒng)經(jīng)常談?wù)撏ㄟ^(guò)實(shí)力實(shí)現(xiàn)和平。那么，Sam Altman 和 OpenAI 的「通過(guò)實(shí)力實(shí)現(xiàn)和平」版本是否意味著我們必須在 AI 領(lǐng)域擊敗對(duì)手，遙遙領(lǐng)先，從而讓中國(guó)無(wú)從選擇？

Sam Altman：不是擊敗對(duì)手，而是需要領(lǐng)先，并且我們需要盡可能地愿意合作。我認(rèn)為這在某種程度上類(lèi)似于「通過(guò)實(shí)力實(shí)現(xiàn)和平」。也就是說(shuō)，如果有一場(chǎng)軍備競(jìng)賽，我們會(huì)贏，但我們并不希望有這場(chǎng)競(jìng)賽。

Bari Weiss：意思是，如果有軍備競(jìng)賽，我們希望贏，但我們根本不希望有這場(chǎng)競(jìng)賽，對(duì)嗎？

Sam Altman：但我們會(huì)贏。這甚至不只是這樣。更像是，如果有任何可能以合作方式完成這件事的路徑，我們就應(yīng)該這樣做，但我們無(wú)法控制其他實(shí)體的行為。

Bari Weiss：你是說(shuō)合作嗎？

Sam Altman：是的，我們與中國(guó)合作。實(shí)際上，我可以直接說(shuō)，我認(rèn)為我們經(jīng)常在戰(zhàn)略利益所在的領(lǐng)域與那些我們并不和睦的人合作。而我認(rèn)為，這正是關(guān)乎全世界利益的一個(gè)領(lǐng)域，當(dāng)然也是我們公司使命所決定的領(lǐng)域。如果真正的合作是可能的，我們就應(yīng)該這樣做。

Bari Weiss：那我們現(xiàn)在在 AI 領(lǐng)域與中國(guó)進(jìn)行合作嗎？

Sam Altman：你知道的可能比我還多？我本來(lái)想說(shuō)，你可能確實(shí)比我了解更多。這將是新一屆政府面臨的一個(gè)重大問(wèn)題，但這不會(huì)在公司層面上解決，而是會(huì)發(fā)生在兩國(guó)總統(tǒng)的層面上。

Bari Weiss：如果特朗普明天給你打電話(huà)說(shuō)：「嘿，Sam，我想讓你擔(dān)任 AI 或 AI 監(jiān)管的負(fù)責(zé)人，你可以在這個(gè)職位上做任何你想做的事情。」你首先會(huì)做什么？這個(gè)職位最重要的事情是什么？

Sam Altman：美國(guó)的基礎(chǔ)設(shè)施和供應(yīng)鏈。

Bari Weiss：對(duì)那些不知道這是什么意思的人稍微解釋一下。

Sam Altman：在美國(guó)國(guó)內(nèi)生產(chǎn)芯片，建立足夠的能源供應(yīng)來(lái)運(yùn)行數(shù)據(jù)中心，改變現(xiàn)有的條件，在這里建設(shè)數(shù)據(jù)中心，但關(guān)鍵是要能夠建立極其昂貴且復(fù)雜的供應(yīng)鏈，以及極其昂貴的基礎(chǔ)設(shè)施，這一切都要在美國(guó)完成。

Bari Weiss：AI 中的偏見(jiàn)和審查是一個(gè)巨大的話(huà)題，也是我們?cè)凇蹲杂尚侣劇分薪?jīng)常思考的議題。最明顯的例子之一就是幾天來(lái)人們熱議的，并且大家都在嘲笑的事情——Gemini 生成了那些「黑人喬治·華盛頓」和「跨性別」的圖像。

雖然這很搞笑，但某種程度上這也是一個(gè)非常嚴(yán)肅的問(wèn)題，因?yàn)檫@似乎只是這個(gè)問(wèn)題的一個(gè)極端、夸張且顯而易見(jiàn)的例子，而這個(gè)問(wèn)題實(shí)際上是一個(gè)更深層次的系統(tǒng)性問(wèn)題：這些技術(shù)中內(nèi)嵌的偏見(jiàn)，不僅來(lái)源于編程這些技術(shù)的人，還來(lái)源于它們從互聯(lián)網(wǎng)上抓取的信息。

和我們聊聊你們?cè)?ChatGPT 上是如何看待這個(gè)問(wèn)題的吧，因?yàn)轱@然最接近現(xiàn)實(shí)的系統(tǒng)最終才會(huì)勝出。如果 ChatGPT告訴我喬治·華盛頓是跨性別者，我肯定不會(huì)再依賴(lài)它。你怎么看待偏見(jiàn)這個(gè)問(wèn)題？你們是如何解決的？

Sam Altman：我認(rèn)為有兩件事很重要。第一是用戶(hù)在讓系統(tǒng)按照他們想要的方式運(yùn)行時(shí)的靈活性。我認(rèn)為我們應(yīng)該設(shè)定非常寬泛的界限。

比如，有些事情顯然是不允許的，比如你不希望一個(gè)系統(tǒng)告訴你如何制造核武器。好吧，這點(diǎn)我們都能達(dá)成共識(shí)。但如果你希望系統(tǒng)變得具有攻擊性，并且你明確要求它這樣做，我認(rèn)為對(duì)齊的一部分就是在社會(huì)廣泛認(rèn)可的界限內(nèi)完成用戶(hù)的要求。

第二件非常重要的事情是系統(tǒng)的默認(rèn)設(shè)置。如果你不做任何個(gè)性化調(diào)整（大多數(shù)用戶(hù)不會(huì)這么做），而是隨便問(wèn)一個(gè)有爭(zhēng)議的問(wèn)題，那么系統(tǒng)應(yīng)該如何回應(yīng)？

我們?cè)谶@兩方面都投入了大量工作。我們還嘗試寫(xiě)出模型應(yīng)該如何表現(xiàn)的規(guī)范。我們稱(chēng)之為模型規(guī)格（model spec），這樣你就可以判斷出它是否是一個(gè)漏洞，還是你不同意我們的一些立場(chǎng)。

Bari Weiss：是否有可能構(gòu)建一個(gè)像 ChatGPT 這樣的東西，或者其他我們甚至還無(wú)法想象的技術(shù)，這些技術(shù)完全沒(méi)有政治觀點(diǎn)？這難道不是不可避免的嗎？

Sam Altman：我認(rèn)為，不管你試圖讓這個(gè)東西多么中立，它要么變得毫無(wú)用處，因?yàn)樗鼤?huì)直接回答「我不能回答，因?yàn)槿魏螁?wèn)題都有政治背景」；要么它會(huì)表現(xiàn)出某種觀點(diǎn)。這也是為什么我們認(rèn)為可以做的是寫(xiě)下我們對(duì)默認(rèn)設(shè)置的意圖，人們可以就此展開(kāi)辯論。

如果存在漏洞，我們可以查找漏洞。如果我們對(duì)默認(rèn)設(shè)置的定義有問(wèn)題，我們可以改變定義并重新訓(xùn)練系統(tǒng)。但確實(shí)，我認(rèn)為沒(méi)有任何系統(tǒng)能夠被所有人認(rèn)為是完全無(wú)偏的。這也是個(gè)性化為什么如此重要的另一個(gè)原因。

Bari Weiss：你認(rèn)為 AI 或者 ChatGPT 有責(zé)任去對(duì)抗有害的思想嗎？讓我舉一個(gè)例子來(lái)說(shuō)明我的意思。

比如說(shuō)，如果你知道通過(guò)以一種極其微小的方式施加影響，你可能能夠促成一個(gè)世界，那里種族主義、厭女癥會(huì)減少，甚至可能會(huì)對(duì)人們來(lái)說(shuō)是不可見(jiàn)的，因?yàn)樗麄兏�本不知道�?/p>

在某種程度上，就像我們剛才討論的，這可能會(huì)成為我們所有信息的控制層。你是如何看待這個(gè)問(wèn)題的？

Sam Altman：實(shí)際上，最近我在作為一個(gè)原則性問(wèn)題思考一件事。OpenAI 完全沒(méi)有采納這一點(diǎn)，但這只是一個(gè)想法，我認(rèn)為它觸及到了你剛才提到的問(wèn)題。

假設(shè)我們發(fā)現(xiàn)了一些新東西，比如，如果 ChatGPT 總是以蘇格拉底式的方法回應(yīng)，或者其他方式，用戶(hù)的學(xué)習(xí)效果會(huì)顯著提高。

但假設(shè)用戶(hù)的偏好并不是想要蘇格拉底式的回答，而是直接要求系統(tǒng)回答他們的問(wèn)題。那么，在這種情況下，我們應(yīng)該如何決定默認(rèn)的行為？

我最近越來(lái)越多地在思考一個(gè)想法：如果我們總是非常明確地說(shuō)明我們對(duì)模型規(guī)格的任何修改會(huì)怎么樣？這樣你就不會(huì)像一些平臺(tái)，比如推特那樣，把一些東西隱藏在算法背后，用一些奇怪的方法來(lái)施加影響。

我們會(huì)始終告訴你模型的預(yù)期行為是什么，如果我們對(duì)其進(jìn)行了更改，我們會(huì)解釋原因。

但如果我們確實(shí)發(fā)現(xiàn)了像你剛才提到的那樣的情況，或者像我剛才舉例提到的情況，我們說(shuō)，好吧，當(dāng)用戶(hù)在進(jìn)行教育用途時(shí)，我們將使用蘇格拉底式的方法，因?yàn)檫@確實(shí)似乎帶來(lái)了可衡量的效果。那么我們可以說(shuō)清楚為什么我們這么做，并且公開(kāi)對(duì)此進(jìn)行討論。

也許我們會(huì)改變默認(rèn)設(shè)置。如果你有其他看法并說(shuō)服了我們，任何人當(dāng)然都可以在他們的用戶(hù)偏好中更改默認(rèn)設(shè)置，因?yàn)?AI 就像一個(gè)工具，應(yīng)該做用戶(hù)想要的事情。

但我認(rèn)為，錯(cuò)誤的做法是我們更改了默認(rèn)設(shè)置卻沒(méi)有在模型規(guī)范中反映這一點(diǎn)，也沒(méi)有告知用戶(hù)我們進(jìn)行了更改。比如說(shuō)，推特算法的「黑箱」讓我感覺(jué)并不好。

Bari Weiss：Sam，你曾向特朗普的就職典禮捐贈(zèng)了 100 萬(wàn)美元，這引起了一些關(guān)注，因?yàn)檫^(guò)去你稱(chēng)他是種族主義者和陰謀論者等等。多年來(lái)，你一直是民主黨候選人和事業(yè)的慷慨捐助者。

但現(xiàn)在你說(shuō)特朗普將引領(lǐng)我們進(jìn)入 AI 時(shí)代，你很期待支持他確保美國(guó)保持領(lǐng)先的努力。這是心態(tài)的轉(zhuǎn)變、政治立場(chǎng)的演變，還是你內(nèi)心發(fā)生了某種「氛圍轉(zhuǎn)變」？到底發(fā)生了什么？

Sam Altman：這可能是以上所有的原因。此外我也希望，因?yàn)樗�是我們的總統(tǒng)，我希望他能在任何方面取得成功。如果我們能夠支持他在這方面的努力，那也是我們想做的。

Bari Weiss：你的「氛圍轉(zhuǎn)變」是什么？我們知道硅谷和整個(gè)文化中都在發(fā)生一種「氛圍轉(zhuǎn)變」。過(guò)去幾年里，你自己發(fā)生了怎樣的變化？

Sam Altman：我覺(jué)得發(fā)生了很多變化，其中之一是，在過(guò)去大約 10 到 12 年里，我看著事情變得偏離了正軌。

在某些方面情況是好的，但在如何看待增長(zhǎng)和經(jīng)濟(jì)成功的重要性以及對(duì)國(guó)家和整個(gè)世界更廣泛的正確目標(biāo)的關(guān)注上，我認(rèn)為確實(shí)偏離了方向。

而我會(huì)說(shuō)，這種「氛圍轉(zhuǎn)變」是一種希望，希望在我們正面臨技術(shù)歷史上最重要的時(shí)刻之一時(shí)，能夠推動(dòng)「氛圍轉(zhuǎn)變」回到我深信不疑的方向，那就是增長(zhǎng)是唯一正確的前進(jìn)之路。

Bari Weiss：你認(rèn)為 OpenAI 的增長(zhǎng)，以及 AI 更廣泛的增長(zhǎng)是一種愛(ài)國(guó)義務(wù)嗎？

Sam Altman：是的。我實(shí)際上寫(xiě)過(guò)類(lèi)似的東西。有人剛剛把它發(fā)回給我，我大概在 10 多年前寫(xiě)過(guò)一篇文章，好像是我第一篇博客文章，內(nèi)容是關(guān)于增長(zhǎng)是民主運(yùn)轉(zhuǎn)良好的核心要素。

我認(rèn)為世界對(duì)這一點(diǎn)有了嚴(yán)重的誤解，我很高興看到它被重新看到。