首頁 > 科技要聞 > 科技> 正文

全球首個ChatGPT爆炸案！AI教特種兵造炸彈，特朗普酒店遭自殺襲擊

新智元 整合編輯：太平洋科技 發(fā)布于：2025-01-12 00:15

最近，「全球第一起利用ChatGPT計劃的恐襲事件」，震驚了整個世界。

在搜索了嫌犯的筆記本電腦、手機(jī)和手表后，警方發(fā)現(xiàn)，這位名叫Matthew Livelsberger的37歲襲擊者，利用ChatGPT搜索了相關(guān)爆炸目標(biāo)、彈藥飛行速度、煙花在在亞利桑那州是否合法的信息。

也就是說，嫌犯策劃這次襲擊時，曾通過ChatGPT學(xué)習(xí)了如何制造炸彈！

拉斯維加斯大都會警察局警長表示，這是美國境內(nèi)首次發(fā)現(xiàn)有人利用ChatGPT協(xié)助制造特定裝置的案件。這起案件表明，GenAI已經(jīng)徹底改變了游戲規(guī)則。

這也讓我們再次對ChatGPT等AI模型的安全性感到擔(dān)憂。

畢竟此前就有研究顯示，如果用過去時態(tài)，GPT-4o、Llama 3等大模型就會脫口而出「莫洛托夫雞尾酒」（一種武器）的制作過程，以及冰毒的合成配方。

如此易得的犯罪手法，如今果然被人應(yīng)用到現(xiàn)實世界了。

而對此，OpenAI的回應(yīng)是：我們致力于讓用戶「負(fù)責(zé)任地」使用其工具，并讓AI工具拒絕有害指令。

在這次事件中，ChatGPT回復(fù)的是互聯(lián)網(wǎng)上已公開的信息，并且已經(jīng)對有害或非法活動給予了警告。我們正與執(zhí)法部門合作，支持他們的調(diào)查工作。

事件始末

資料顯示，37歲的Matthew Livelsberger曾是美軍特種部隊「綠色貝雷帽」（Green Beret）的一名隊員，負(fù)責(zé)海外反恐和訓(xùn)練合作伙伴。

自2006年起，他就在陸軍服役，通過多年的海外任務(wù)逐步晉升軍銜，期間曾兩次被派往阿富汗，還在烏克蘭、塔吉克斯坦、格魯吉亞和剛果執(zhí)行任務(wù)。

他共獲得了五枚銅星勛章，戰(zhàn)斗步兵徽章，以及一枚帶有英勇標(biāo)志的陸軍嘉獎勛章。

Livelsberger與妻子育有一個孩子。然而，當(dāng)妻子發(fā)現(xiàn)他對自己不忠后，兩人發(fā)生了爭執(zhí)。

在圣誕節(jié)的第二天，Livelsberger便離開了家。

案發(fā)前，Livelsberger來到科羅拉多州，并從租車平臺Turo租下了一輛Cybertruck。

隨后，他在車內(nèi)裝了60磅（27公斤）煙火材料，以及70磅（32公斤）鉛彈（birdshot）。

甚至，還特意在途中將高性能賽車燃料澆在了這些爆炸物上。

案發(fā)當(dāng)天，也就是2025年1月1日，他駕駛Cybertruck前往拉斯維加斯，并將車停在了特朗普酒店門前的泊車待客區(qū)域。

監(jiān)控錄像顯示，Cybertruck在駛?cè)胩乩势站频觊T口前，地面清晰可見泄露燃料的痕跡。

早上8點40分，Cybertruck突然間發(fā)生劇烈爆炸，現(xiàn)場火光四濺，便燃起了熊熊大火。

這場災(zāi)難性事件造成了7人受傷。

警方在后續(xù)的調(diào)查中發(fā)現(xiàn)，在爆炸發(fā)生前瞬間，車內(nèi)出現(xiàn)了一道明顯的閃光。

結(jié)合他與ChatGPT的對話記錄，警方認(rèn)為，這很可能就是Livelsberger開槍自殺的時刻。

車內(nèi)被發(fā)現(xiàn)裝有大量的煙花和其他爆炸物

「嫌犯」之一，是ChatGPT

如前所述，進(jìn)一步調(diào)查顯示，這次爆炸事件的背后「主謀者」之一ChatGPT，也無法逃脫干系。

警方公開的截圖中，清晰可以看到Livelsberger在案件發(fā)生前，曾與ChatGPT進(jìn)行了多輪對話。

12月27日當(dāng)天，他接連詢問了ChatGPT多個問題——

煙花在亞利桑那州合法嗎？

那科羅拉多州呢？

在這兩個州之間，我從哪里可以買到煙花？

最好的長管500 Smith & Wesson是哪款？

哪種長度的速度更快？

哪種型號的FPS（每秒英尺數(shù)）最高？

丹佛最大的槍械商店是哪家？

Smith & Wesson 500型，3英寸槍管的初速是多少？

它能引燃Tannerite嗎？

SLR 308手槍，7.5英寸槍管的初速是多少？

哪種子彈能達(dá)到超過2000 fps的初速？

在亞利桑那州可以買多少Tannerite？

200磅的凈爆炸量是多少？

與炸藥相比，這種量如何？

哪些手機(jī)在激活時不需要個人信息？

在科羅拉多購買Tannerite有什么限制嗎？

多少Tannerite相當(dāng)于1磅TNT？

50口徑Desert Eagle手槍能不能把它引爆？

哪種手槍可以引爆它？

500 Smith & Wesson能引爆它嗎？

哪種彈藥可以確保引爆？

在零距離下，什么可以引爆它？

除此之外，警方還發(fā)現(xiàn)了一篇題為「監(jiān)控記錄」的日志。

Livelsberger在其中寫到，自己正被執(zhí)法部門跟蹤，并且擔(dān)心自己會被貼上恐怖分子的標(biāo)簽，因為人們可能會認(rèn)為，他打算殺死除自己以外的其他人。

（但實際上，他并未進(jìn)入警方或FBI的視線。）

而這次事件的導(dǎo)火索，很可能是他在日志中提到的對政治的不滿——「美國已經(jīng)病入膏肓，走向崩潰」。

根據(jù)日志內(nèi)容，他原本計劃在亞利桑那州的大峽谷玻璃棧道上實施計劃，但后來不知為何改變了主意。

值得注意的是，雖然作案地點和工具頗具指向性，但根據(jù)警方的調(diào)查，Livelsberger并沒有對特朗普和馬斯克有任何敵意。

如何阻止GPT化身「邪惡科學(xué)家」

這類事件也給我們敲響了警鐘：如果ChatGPT會將危險信息不假思索地脫口而出，我們該怎么辦呢？

其實，早在2023年12月，來自中科大、微軟研究院和南洋理工的聯(lián)合團(tuán)隊，就開發(fā)了一個名為SciGuard的智能體，用以控制AI在Science領(lǐng)域的濫用風(fēng)險，并提出了首個專注于科學(xué)領(lǐng)域安全的紅隊基準(zhǔn)來評估不同AI系統(tǒng)的安全性。

實驗結(jié)果顯示，SciGuard在測試中顯示出了最小的有害影響，同時保持了良好的性能。

論文地址：https://arxiv.org/abs/2312.06632

SciGuard與人類價值觀對齊，并且加入了各種科學(xué)數(shù)據(jù)庫與監(jiān)管數(shù)據(jù)庫等。

其中，智能體可以使用各種科學(xué)工具和AI4Science模型來提供額外信息，來輔助SciGuard對用戶意圖進(jìn)行判斷。

具體來說，SciGuard內(nèi)置了一套為科學(xué)領(lǐng)域量身定制的安全原則和指導(dǎo)方針。

這些原則和方針考慮了科學(xué)研究中可能遇到的各種風(fēng)險因素，包括但不限于高風(fēng)險物質(zhì)的安全處理、數(shù)據(jù)隱私的維護(hù)以及對法律法規(guī)的遵守。

為了實現(xiàn)這些安全原則和指導(dǎo)方針，SciGuard利用了PubChem等公認(rèn)的科學(xué)數(shù)據(jù)庫來構(gòu)建其長期記憶庫。通過這些數(shù)據(jù)，SciGuard能夠?qū)τ脩舻牟樵冞M(jìn)行深入的風(fēng)險評估。

SciGuard處理復(fù)雜任務(wù)的另一個關(guān)鍵技術(shù)是著名的思維鏈（CoT）方法。

CoT允許SciGuard通過迭代的方式，精細(xì)化地規(guī)劃任務(wù)的每一個步驟。這種方法讓SciGuard在執(zhí)行任務(wù)時，能夠分解復(fù)雜任務(wù)，并確保每個動作都符合安全和倫理標(biāo)準(zhǔn)。

通過這些技術(shù)特點，SciGuard不僅能夠有效地控制科學(xué)AI模型的風(fēng)險，還能夠提高科學(xué)研究的效率和安全性。

這一系統(tǒng)的開發(fā)，在保證了科學(xué)研究的自由探索與創(chuàng)新的同時，也為確保人工智能的安全合理使用提供了有力的范例。

這項研究不僅是對科技發(fā)展的一次深刻反思，更是對全社會責(zé)任的一次呼喚。

我們需要在積極推進(jìn)AI4S模型的發(fā)展的同時，切實控制技術(shù)帶來的潛在風(fēng)險，確�？萍嫉倪M(jìn)步不僅是對人類的一次技術(shù)升級，更是對社會責(zé)任和倫理的提升。

只有這樣，我們才能真正走向一個由智慧和道德共同指引的未來。

參考資料：

https://www.8newsnow.com/news/local-news/sheriff-to-hold-1-p-m-news-conference-with-latest-on-new-years-day-bombing-at-las-vegas-trump-hotel/

https://www.themirror.com/news/us-news/las-vegas-cybertruck-bomber-used-896730

本文來源：新智元

網(wǎng)友評論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來
二維碼 回到頂部
国产younv在线精品，先锋AV无码资源不卡，亚洲国产高清不卡在线播放，伊人久久东京av