太平洋科技要聞

首頁 > 科技要聞 > 公司> 正文

Altman被曝七宗罪，OpenAI竟欲加密GPU合作軍方？員工大批離職團(tuán)隊(duì)瀕臨崩潰

新智元整合編輯：太平洋科技發(fā)布于：2024-05-26 21:20

OpenAI的離職潮，已經(jīng)像滾雪球一樣，根本停不下來了。

Ilya的離去，仿佛是壓彎駱駝的最后一根稻草。

由Ilya領(lǐng)銜的超級(jí)對(duì)齊團(tuán)隊(duì)，是防止AGI失控、保護(hù)人類的最后一道屏障。

然而Altman統(tǒng)治下的OpenAI，把光鮮的產(chǎn)品置于安全之前，讓超級(jí)對(duì)齊團(tuán)隊(duì)在計(jì)算資源方面捉襟見肘，完成關(guān)鍵研究變得越來越困難。

不斷離職的超級(jí)對(duì)齊團(tuán)隊(duì)員工紛紛表示：我們已經(jīng)徹底失去信心，無法再對(duì)OpenAI在AGI時(shí)代的行為負(fù)責(zé)了。

昨天曝出的股權(quán)協(xié)議原件，更是讓Altman言行不一的面目暴露出來——文件上明明有Altman的簽名，他卻極力否認(rèn)自己對(duì)此事知情。

在OpenAI這個(gè)可能影響全人類命運(yùn)的機(jī)構(gòu)中，究竟發(fā)生了什么？？

現(xiàn)在，已經(jīng)有憤怒的網(wǎng)友發(fā)帖，歷數(shù)了OpenAI的七大罪狀：無視AGI風(fēng)險(xiǎn)、逼迫員工放棄股權(quán)卻裝失憶、反對(duì)開源、跟蹤GPU、泄露隱私、和軍方合作等等……樁樁件件都附有參考鏈接。

又一對(duì)齊員工離職

OpenAI的超級(jí)對(duì)齊團(tuán)隊(duì)，現(xiàn)在就像多米諾骨牌一樣。

上周，首席科學(xué)家兼聯(lián)合創(chuàng)始人Ilya Sutskever宣布辭職，緊接著高管Jan Leike也辭職了。

Leike指責(zé)OpenAI把「光鮮的產(chǎn)品」放在安全之前，并表示超級(jí)對(duì)齊團(tuán)隊(duì)「在計(jì)算資源方面捉襟見肘」，完成這項(xiàng)關(guān)鍵研究「變得越來越困難」。

這周和上周的離職事件，緊隨另外兩名安全研究員Daniel Kokotajlo和William Saunders，也出于類似的原因離職。

如今，又有一名團(tuán)隊(duì)成員高調(diào)宣布了自己的離開。

“在得知Ilya Sutskever和Jan Leike的消息前幾個(gè)小時(shí)，我就已經(jīng)選擇了離職。

我們需要做更多的工作來改進(jìn)決策過程、問責(zé)制、透明度、文檔記錄、政策執(zhí)行、使用自身技術(shù)時(shí)的謹(jǐn)慎態(tài)度，以及減少對(duì)不平等、權(quán)利和環(huán)境影響的措施。

這些擔(dān)憂對(duì)于現(xiàn)在的社會(huì)來說非常重要。它們影響著未來發(fā)展的方向，以及由誰來引領(lǐng)。我想強(qiáng)調(diào)的是，不管是我們內(nèi)部的還是來自其他人的擔(dān)憂不應(yīng)該被誤解為狹隘的、推測(cè)性的或不相關(guān)的。它們不是。

科技公司往往會(huì)通過在提出質(zhì)疑或挑戰(zhàn)其權(quán)力的人之間制造分歧，來削弱那些試圖對(duì)其進(jìn)行問責(zé)的人。

我很感激自己有能力和支持去做這件事，這在很大程度上要?dú)w功于Daniel Kokotajlo給的勇氣。我也明白，在整個(gè)行業(yè)中，還有很多人無法做到這一點(diǎn)。”

OpenAI仍在開展許多重要工作，包括擴(kuò)大訪問權(quán)限、準(zhǔn)備框架開發(fā)、增強(qiáng)信心的措施，以及解決我之前提到的擔(dān)憂。我仍然對(duì)這些工作及其成功充滿期待和投入。

歷數(shù)OpenAI「七宗罪」

Ⅰ 無視AGI風(fēng)險(xiǎn)，超級(jí)對(duì)齊分崩離析

至此，我們已經(jīng)無法再用玩梗蒙蔽自己了。.

Ilya等安全團(tuán)隊(duì)的人員離去，大概率跟AGI或者GPT-5都無關(guān)，而是被逼得走投無路。

自從OpenAI發(fā)生第一輪宮斗、Sam Altman被罷免以來，整個(gè)OpenAI的情緒就不對(duì)勁了。

顯然，Altman在合作伙伴關(guān)系和產(chǎn)品重點(diǎn)方面的發(fā)展方向，已經(jīng)超出了大多數(shù)人能接受的程度。

他的危險(xiǎn)面目，隨著時(shí)間線的推移，也越來越清晰地暴露出來。

Ⅱ 跟蹤GPU，隨時(shí)撤銷GPU許可證

而且，OpenAI最近公布的AI治理計(jì)劃，也掀起了軒然大波。

OpenAI提出，將加密保護(hù)擴(kuò)展到硬件層，實(shí)現(xiàn)以下屬性——

1. GPU可以通過加密方式驗(yàn)證其真實(shí)性和完整性。
2. 具有加密原語的GPU可以使模型權(quán)重保持加密狀態(tài)，直到它們被暫存并加載到GPU 上。這在主機(jī)或存儲(chǔ)基礎(chǔ)設(shè)施受到損害時(shí)，增加了重要的深度防御層。
3. 具有唯一加密身份的GPU，可以為特定GPU或GPU組加密模型權(quán)重和推理數(shù)據(jù)。完全實(shí)現(xiàn)后，這可以使模型權(quán)重只能由屬于授權(quán)方的GPU解密，并且可以允許推理數(shù)據(jù)從客戶端加密到服務(wù)其請(qǐng)求的特定GPU。

這些內(nèi)容，無疑讓人恐慌。

比如第一句：GPU可以通過加密方式驗(yàn)證其真實(shí)性和完整性。

這也就意味著，如果我們從英偉達(dá)買一塊GPU，它會(huì)像DRM一樣進(jìn)行簽名，從而被批準(zhǔn)運(yùn)行和加速AI模型。

假如一個(gè)小公司來購買硬件，現(xiàn)在就需要經(jīng)過額外的層層審批，才能把自己的硬件推向市場(chǎng)，這無疑很可怕。

大概沒有多少人希望自己的GPU是簽名的，大家都會(huì)希望使用匿名的GPU。

第二條也很詭異，必須每個(gè)硬件上都有簽名，才能允許我們運(yùn)行AI，這簡(jiǎn)直是一件荒謬的事。因?yàn)槿绻厦嬗泻灻�，他們也就可以撤銷簽名，誰有權(quán)決定呢？

第三條也是如此，模型權(quán)重只能由屬于授權(quán)方的GPU解密，這個(gè)權(quán)力屬于誰？

而其中這句話，也顯示出OpenAI的重點(diǎn)在于保護(hù)模型權(quán)重，而非開源，或開放權(quán)重，這個(gè)觀點(diǎn)已經(jīng)與開源AI的大力支持者大相徑庭了。

一名網(wǎng)友銳評(píng)道：這些關(guān)于安全和保障的很多想法，讓我摸不著頭腦，很多內(nèi)容顯示出，OpenAI正在全力以赴地關(guān)注閉源架構(gòu)，這讓我更感激Meta這樣的開源公司了。

Ⅲ 簽字逼迫員工放棄股權(quán)，事后裝失憶

前幾天此消息曝出：如果OpenAI員工在離職時(shí)拒絕簽署要求嚴(yán)苛的協(xié)議，無法保證永不批評(píng)OpenAI，那他們可能就會(huì)失去已有的OpenAI股權(quán)。

瞬間讓科技圈炸鍋。面對(duì)群情激憤的聲討，Altman緊急發(fā)布道歉聲明，表示自己從不知道OpenAI有威脅股權(quán)的條款，以后也不會(huì)這樣做。

然而他隨后就被打臉了，外媒扒出了更多內(nèi)部協(xié)議。

這些文件顯示，OpenAI幾乎擁有所有權(quán)利，可以任意將股權(quán)從前員工那里收回，或者阻止他們出售股權(quán)。

簽署這些文件的，正是Sam Altman，簽署日期為2023年4月10日。

隨后，更多霸王條款曝出。比如OpenAI發(fā)給離職員工一份冗長(zhǎng)且復(fù)雜的終止文件，需要在七天之內(nèi)簽署完畢。

這意味著，前員工僅有一周的時(shí)間，去決定是否接受OpenAI的「封口費(fèi)」，否則就會(huì)失去數(shù)百萬美元股權(quán)。

而且，當(dāng)前員工要求額外2-3周的時(shí)間尋求法律援助并審查文件時(shí)，卻遭到了OpenAI的強(qiáng)烈反對(duì)。

「The General Release and Separation Agreement」（概括性索償棄權(quán)書和離職協(xié)議）需要你在7天內(nèi)簽署。我們希望確保你明白，如果你不簽署，這可能會(huì)影響你的股權(quán)。這對(duì)每個(gè)人都是一樣的，我們只是按規(guī)章辦事」。

對(duì)此，加州的就業(yè)律師Chambord Benton-Hayes表示，「一家企業(yè)威脅收回已歸屬的股權(quán)是極其惡劣和不尋常的」。

然而，OpenAI大多數(shù)前員工，卻對(duì)這樣的霸王條款屈服了。

而整件事最荒謬的，還是以Altman為首的OpenAI高管事后堂而皇之的裝傻。

Ⅳ 和News Corp合作，ChatGPT中也會(huì)有廣告了

昨天，在一片亂中，OpenAI依然官宣了和新聞集團(tuán)News Corp的合作，并將之成為「里程碑意義的多年全球合作伙伴關(guān)系」。

根據(jù)協(xié)議內(nèi)容，News Corp的新聞內(nèi)容都會(huì)引入OpenAI。

OpenAI有權(quán)顯示相關(guān)媒體報(bào)頭的內(nèi)容，用來回答用戶問題，目的是「讓人們根據(jù)可靠的消息和新聞來源，做出明智的選擇」。

News Corp旗下的出版物，包括《華爾街日?qǐng)?bào)》、《巴倫周刊》、《MarketWatch》、《投資者商業(yè)日?qǐng)?bào)》、《FN》、《紐約郵報(bào)》、《泰晤士報(bào)》、《星期日泰晤士報(bào)》、《太陽報(bào)》等等。

對(duì)此，網(wǎng)友評(píng)價(jià)說：看這個(gè)名單就知道，OpenAI選擇了非常糟糕的合作方。

這些媒體一向把右翼宣傳作為商業(yè)模式，引起政治討論，使用一切必要的手段來推動(dòng)敘事，甚至曾通過�？怂剐侣劮裾J(rèn)2022年的總統(tǒng)選舉。

甚至News Corp還曾卷入這樣一起丑聞，涉嫌侵入600多人的手機(jī)，來獲取情報(bào)。

從此，我們使用OpenAI的產(chǎn)品時(shí)，無可避免地會(huì)受到某些傾向的影響。

而且，以后AI聊天機(jī)器人的世界，也將到處充斥著廣告。

不久前一份泄露的文件顯示，OpenAI計(jì)劃在GPT聊天中，納入品牌優(yōu)先權(quán)。

根據(jù)文件，凡是加入該計(jì)劃的公司，都會(huì)在ChatGPT等產(chǎn)品的聊天對(duì)話中獲得優(yōu)先權(quán)，品牌能夠露出得更多，鏈接中也會(huì)更強(qiáng)調(diào)它們的內(nèi)容。

而且通過PPP，OpenAI甚至還會(huì)向出版商提供許可的財(cái)務(wù)條款。

獲得更豐富產(chǎn)品表達(dá)的公司，將擁有品牌懸停鏈接、錨定鏈接和內(nèi)嵌處理。

懸停處理中，OpenAI會(huì)在搜索查詢的響應(yīng)中，超鏈接關(guān)鍵字。這些鏈接會(huì)顯示為藍(lán)色文本，鼠標(biāo)懸停在上面時(shí)，會(huì)顯示可單擊的選項(xiàng)卡。

在錨點(diǎn)處理中，ChatGPT對(duì)用戶查詢響應(yīng)的下方，會(huì)出現(xiàn)一個(gè)可點(diǎn)擊的品牌化按鈕。

內(nèi)嵌產(chǎn)品則會(huì)在ChatGPT響應(yīng)的文本中插入引文，字體更大，并且包含可點(diǎn)擊的品牌鏈接。

總之，ChatGPT從此會(huì)變成被商業(yè)廣告操控的世界。

Ⅴ 和微軟一起反對(duì)開源

開源和閉源之爭(zhēng)中，OpenAI已經(jīng)聯(lián)合微軟正式下場(chǎng)，試圖對(duì)政府施加影響了。

最近，由科技巨頭、初創(chuàng)公司和風(fēng)險(xiǎn)投資家組成的聯(lián)盟，正在花費(fèi)數(shù)百萬美元來說服華盛頓，讓他們相信對(duì)AI世界末日的擔(dān)憂被夸大了。

他們的行動(dòng)已經(jīng)產(chǎn)生了影響。他們的影響力網(wǎng)絡(luò)在推動(dòng)這樣一種觀點(diǎn)：與其說AI是一種生存威脅，不如說是一個(gè)重要的商業(yè)機(jī)會(huì)，絕不能讓嚴(yán)格的安全措施，把美國的AI優(yōu)勢(shì)拱手讓給他人。

華盛頓的游說格局，已成為一場(chǎng)由大量資金支持的、近乎哲學(xué)爭(zhēng)論的戰(zhàn)爭(zhēng)。

微軟和OpenAI這一派的觀點(diǎn)是，提倡嚴(yán)格的安全限制和許可要求。嚴(yán)格的限制，顯然對(duì)擁有最強(qiáng)大AI的公司是有利的。

而Meta、IBM等公司，更依賴于開源AI模型，而非OpenAI、谷歌等追求的閉源框架，因此他們力圖推動(dòng)一種規(guī)則更少、更加開放的方法。

無論是IBM還是Meta，都在開源斗爭(zhēng)中投入了大量的游說資源。自從2023年中期的AI辯論爆發(fā)以來，IBM為游說華盛頓投入了400萬美元，Meta則花費(fèi)了超過1700萬美元。

而OpenAI，當(dāng)然不希望這些開源既得利益者迎頭趕上。