太平洋科技要聞

蘋果AI總結(jié)新聞鬧烏龍，這比「標(biāo)題黨」更令人擔(dān)心

愛范兒整合編輯：太平洋科技發(fā)布于：2024-12-24 17:37

萬萬沒想到，蘋果 AI 也會有被大罵「標(biāo)題黨」的一天。這對于遲遲沒有推出 Apple Intelligence 完全體的蘋果可不是一個(gè)好消息。

實(shí)際情況可能比「標(biāo)題黨」這個(gè)不痛不癢的形容詞嚴(yán)重得多。如果說標(biāo)題黨只是通過夸張和斷章取義的手法來博眼球的話，蘋果 AI 的所作所為可以說是「顛倒黑白」。

需要澄清的是，這次「闖禍」的責(zé)任完全在于蘋果 AI，跟 ChatGPT 的接入沒有任何關(guān)系。

圖源：9TO5Mac

近日，英國廣播公司（BBC）發(fā)布了一系列關(guān)于路易吉·曼吉奧內(nèi)（Luigi Mangione）謀殺美國聯(lián)合健康保險(xiǎn)公司首席執(zhí)行官布萊恩·湯普森（Brian Thompson）的新聞和跟蹤報(bào)道，提到了其將面臨一級謀殺指控等細(xì)節(jié)。

然而，BBC 提供的一張截圖顯示，蘋果 AI 總結(jié)生成的新聞?wù)恰?strong>路易吉·曼吉奧內(nèi)開槍自殺了」（Luigi Mangione shoots himself）。這與事件的真實(shí)走向大相徑庭：據(jù)報(bào)道，目前他仍被關(guān)押在賓夕法尼亞州的監(jiān)獄中。

太離譜了，錯(cuò)得太離譜了。

圖源：BBC

針對這一令人啼笑皆非的錯(cuò)誤，BBC 已經(jīng)向蘋果正式提出投訴，要求后者要求采取糾正措施，并且防止此類錯(cuò)誤再次發(fā)生。BBC 發(fā)言人表示其「致力于實(shí)現(xiàn)最高標(biāo)準(zhǔn)的準(zhǔn)確性和公正性，并努力避免故意嚴(yán)重誤導(dǎo)我們的讀者」。

此外，無國界記者組織（Reporters Without Borders，簡稱 RSF）也敦促蘋果放棄其生成式人工智能功能。該組織表示「虛假標(biāo)題」事件表明「生成式 AI 服務(wù)仍然太不成熟，無法為公眾提供可靠的信息」。

無國界記者組織的技術(shù)和新聞部門負(fù)責(zé)人文森特·伯蒂爾（Vincent Berthier）表示 AI 是概率機(jī)器，事實(shí)不能通過擲骰子來決定。他還指出《歐洲人工智能法案》并未將信息生成類 AI 歸為高風(fēng)險(xiǎn)系統(tǒng)，留下了「嚴(yán)重的法律真空」。

圖源：Engadget

實(shí)際上，這不是蘋果 AI 摘要第一次「新聞造假」了。上個(gè)月，美國調(diào)查新聞網(wǎng)站「ProPublica」的一位名為肯·施文克（Ken Schwencke）的記者在 Bluesky 上分享了一張截圖。

截圖中的第一條新聞赫然寫著「內(nèi)塔尼亞胡已經(jīng)被逮捕」（Netanyahu arrested）。然而，真實(shí)的情況是國際刑事法院對以色列總理內(nèi)塔尼亞胡發(fā)出逮捕令。

這篇被蘋果 AI 嚴(yán)重歪曲的報(bào)道來自《紐約時(shí)報(bào)》（NYTimes），后者目前并未對此事發(fā)表評論。

圖源：Bluesky

蘋果 Apple Intelligence 的智能生成摘要功能于今年下半年正式推出。蘋果的本意，是它能「通過其深度語言理解幫助提煉對你最重要的信息，通知會生成摘要以便你一覽重要詳細(xì)信息」。

看來，蘋果所提到的「深度語言理解」似乎水分很大。倫敦城市大學(xué)的媒體政策教授佩特羅斯·伊奧菲迪斯（Petros Iosifidis）表示蘋果的錯(cuò)誤「看起來很尷尬」。

伊奧菲迪斯還表示他「對蘋果會推出這樣明顯半生不熟的產(chǎn)品感到很驚訝」。雖然這項(xiàng)技術(shù)在未來具有潛在優(yōu)勢，但是目前「存在傳播虛假信息的真正的危險(xiǎn)」。

Petros Iosifidis（圖源：倫敦城市大學(xué)）

生成式 AI 技術(shù)發(fā)展到今天，我們似乎很自然地認(rèn)為用其來總結(jié)一篇文章對于 AI 來講是「小菜一碟」。事實(shí)上，大多數(shù) AI 工具在使用時(shí)很少會出現(xiàn)「瞎編」的情況，理解有誤或者「斷章取義」的情況倒是比較常見。

除了蘋果之外，谷歌和微軟等科技企業(yè)也在嘗試使用人工智能技術(shù)來對新聞進(jìn)行分類、排序和摘要總結(jié)。這類 AI 工具雖然能夠增強(qiáng)用戶體驗(yàn)，但其在沒有人工干預(yù)的情況下一旦出錯(cuò)，所引發(fā)的「誤會」便可能成指數(shù)級傳播。

圖源：Medium

雖說 AI 已經(jīng)能在大多數(shù)場景下出色地幫助人們提高工作效率，但其出錯(cuò)的概率絕不為零。于是，我們不得不在「承擔(dān)錯(cuò)誤風(fēng)險(xiǎn)」和「享受 AI 的便利」之間做出幾乎唯一的選擇。

下一次，面對社交媒體上的一切信息，我們都要「擦亮眼睛」。

本文來源：愛范兒

蘋果 AI 新聞造假生成式 AI

愛范兒

原創(chuàng)欄目