首頁 > 科技要聞 > 科技> 正文

有圖無真相,終究逃不出泛濫的AI垃圾

郭佳哿 編輯:林炯佳 發(fā)布于:2025-01-15 18:48 PConline原創(chuàng)

當代年輕人怎么“擁抱”AI?

打開外賣軟件,被商家用AI生成的店鋪封面圖吸引,點進去看到菜單,乍一看以為打開了AI圖庫;

打開購物軟件,看到AI生成的商品圖的一句“wow”,到點開評論實物圖變成“woc”;

連公司門口放著的AI海報,都不用質疑那條蛇怎么龍不龍蛇不蛇,到底是哪個部門做的,AI就能解釋一切的版權問題。

甚至,資訊平臺看的是AI新聞,小紅書刷的是AI美女圖片,公眾號下面的AI評論……不用怕跟不上時代,我們不需要擁抱AI,AI就會主動擁抱我們。

近期,美國加州山火持續(xù)肆虐,火勢已摧毀多個社區(qū)。作為美國歷史上代價最高的氣候災難之一,網上流傳的現(xiàn)場圖片簡直就像災難現(xiàn)場,感覺整個洛杉磯天空都被野火燒成紅色。

于是,好萊塢山的標志牌被山火燒毀的消息開始充斥互聯(lián)網,一陣哀嚎。

乍一眼看,你能看出真假嗎?

X平臺上不少賬號通過發(fā)布這些不同角度的“好萊塢被燒”的圖片和視頻,聲稱“這可能是好萊塢末日的開始”甚至“美國陷入危機”,引起了中外網友的熱議。

但事實是,這些騙過了不少人的眼睛和大腦的圖片和視頻都是AI生成的。

據法新社報道,截至1月10日,該通訊社駐洛杉磯的記者能夠確認,坐落于山地的“HOLLYWOOD”標志仍完好無損。

此外,由美國國家航空航天局開發(fā)的全球火情監(jiān)測系統(tǒng)FIRMS地圖上也未顯示在好萊塢標志牌附近有火情發(fā)生。

睜大眼睛,只要認真看視頻,就會發(fā)現(xiàn),除了英文拼寫錯誤,樹木搖擺的方向與山火和濃煙的運動方向其實并不一致,但在社交媒體上拿著手指10秒能劃過2.3個視頻的網友,并不會費腦子去思考:“誒,這個視頻不會是假的吧?”嗎?

同樣是最近,在重大新聞上利用AI生圖造假的新聞并不止這一件,抖音處理了超2萬條利用AI技術制造的不實信息。

事件起因是近期在西藏發(fā)生地震災害后,全網出現(xiàn)多起不當利用 AI 技術生成災害場景的情況,給救災工作帶來了干擾。


圖源:新京報

看到過這張圖片嗎?一個戴帽子的小孩被重壓在倒塌的建筑物下,抖音多個賬號用這張照片配文西藏日喀則地震,引起不少網友的“共鳴”。


圖源:新京報

或許對已熟知AI套路的年輕人來說,這張照片從構圖色彩,甚至五官上還能看出AI痕跡,但對更多數的網友來說,他們在評論區(qū)難受落淚,并不會下意識去注意圖片疑點并加以質疑。

AI生成這些圖片的風險有多大?

用AI制造苦難,去刺激網友神經和情緒,極易讓他們對災情的嚴重程度產生過度的恐慌和焦慮,引發(fā)社會層面的不安和混亂;而狼來了的故事講多了,過度消耗網友的同情心和愛心,也會讓網友對后續(xù)真實的災情信息產生懷疑和抵觸情緒。

而如今,AI生成的互聯(lián)網垃圾已然開始侵入我們的日常生活,并模糊網友的判斷。

從大模型爆發(fā)至今,AI發(fā)展了2年后,還有什么東西是AI不能生成的呢。

近日,阿里推出商用級圖生視頻AI應用,目前已對淘寶天貓商家開放使用。而早前,淘寶商家就已經可以通過拍個商品的平面圖,讓AI模特一鍵上身。更別說,有些商品圖片都是AI生成的。

怎么說呢,用AI產品圖,套到AI美女身上,然后用AI使其變成視頻。

一條龍服務,淘寶賺錢了、商家省錢了,只有消費者,在一堆AI圖片中,迷失在買家秀和賣家秀中開始容貌焦慮。


圖源:小紅書

就連餐飲行業(yè),也已經有AI應用能一鍵生圖,只需要導入文字菜單,就能幫你自動生成圖片,還能自動生成菜品描述。但這是消費者想看到的“菜單”嗎?

不僅日常消費,AI早在去年也已經讓學術論文出現(xiàn)毛病。

據硅星人報道,去年初,西安交大一篇論文因為使用AI生成的配圖而被撤稿,相關圖片中,大鼠長出了詭異的器官,細胞信號傳導圖像電路板。而在另一篇論文的一張配圖中,小腿和手臂的骨骼數量出現(xiàn)了明顯的錯誤。

就連近期,我想著臨近過年,便在搜索引擎搜索“蛇年海報”想著看點素材,一看,AI占比過半。

“有圖有真相”時代已然不再,讓公眾在面對每一則信息、每一張圖片、每一條視頻前,都要先去判斷是否是AI,實在是互聯(lián)網的不該。

更重要的是,這些AI內容其實都是人類“創(chuàng)造”出來的,生成式AI的輸出需要大量數據的訓練,而這些數據就來自我們人類之前創(chuàng)造出來的每一個字符。

隨著互聯(lián)網開始充斥大量AI垃圾,圖片庫被污染,視頻庫被污染,這些AI生成的內容重新流入互聯(lián)網,垃圾進垃圾出,最終又會成為訓練未來AI模型的一部分數據。

就像現(xiàn)在的蟑螂藥,它不會立刻毒死蟑螂,而是在體內積累,待蟑螂回到巢穴時發(fā)作,再一窩端。

當AI成為污染源,互聯(lián)網將如何面對信息質量的危機?

早在去年,抖音、視頻號就已經開始限制數字人直播,包括幾個月前抖音也開始針對那些利用AI騙取老年人互動的視頻進行整治。但AI治理不能永遠等到問題發(fā)生后才進行補救,關于AI內容的審核、治理和監(jiān)管,平臺要承擔起主體責任,采取主動和預防性的管制體系。

AI時代的到來已成定勢。AI治理或將成為互聯(lián)網下一個五年的共同命題。

郭佳哿

網友評論

聚超值•精選

推薦 手機 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來
二維碼 回到頂部
国产younv在线精品,先锋AV无码资源不卡,亚洲国产高清不卡在线播放,伊人久久东京av