當代年輕人怎么“擁抱”AI? 打開外賣軟件,被商家用AI生成的店鋪封面圖吸引,點進去看到菜單,乍一看以為打開了AI圖庫; 打開購物軟件,看到AI生成的商品圖的一句“wow”,到點開評論實物圖變成“woc”; 連公司門口放著的AI海報,都不用質疑那條蛇怎么龍不龍蛇不蛇,到底是哪個部門做的,AI就能解釋一切的版權問題。 甚至,資訊平臺看的是AI新聞,小紅書刷的是AI美女圖片,公眾號下面的AI評論……不用怕跟不上時代,我們不需要擁抱AI,AI就會主動擁抱我們。 近期,美國加州山火持續(xù)肆虐,火勢已摧毀多個社區(qū)。作為美國歷史上代價最高的氣候災難之一,網上流傳的現(xiàn)場圖片簡直就像災難現(xiàn)場,感覺整個洛杉磯天空都被野火燒成紅色。 于是,好萊塢山的標志牌被山火燒毀的消息開始充斥互聯(lián)網,一陣哀嚎。 乍一眼看,你能看出真假嗎? X平臺上不少賬號通過發(fā)布這些不同角度的“好萊塢被燒”的圖片和視頻,聲稱“這可能是好萊塢末日的開始”甚至“美國陷入危機”,引起了中外網友的熱議。 但事實是,這些騙過了不少人的眼睛和大腦的圖片和視頻都是AI生成的。 據法新社報道,截至1月10日,該通訊社駐洛杉磯的記者能夠確認,坐落于山地的“HOLLYWOOD”標志仍完好無損。 此外,由美國國家航空航天局開發(fā)的全球火情監(jiān)測系統(tǒng)FIRMS地圖上也未顯示在好萊塢標志牌附近有火情發(fā)生。 睜大眼睛,只要認真看視頻,就會發(fā)現(xiàn),除了英文拼寫錯誤,樹木搖擺的方向與山火和濃煙的運動方向其實并不一致,但在社交媒體上拿著手指10秒能劃過2.3個視頻的網友,并不會費腦子去思考:“誒,這個視頻不會是假的吧?”嗎?
同樣是最近,在重大新聞上利用AI生圖造假的新聞并不止這一件,抖音處理了超2萬條利用AI技術制造的不實信息。 事件起因是近期在西藏發(fā)生地震災害后,全網出現(xiàn)多起不當利用 AI 技術生成災害場景的情況,給救災工作帶來了干擾。
看到過這張圖片嗎?一個戴帽子的小孩被重壓在倒塌的建筑物下,抖音多個賬號用這張照片配文西藏日喀則地震,引起不少網友的“共鳴”。
或許對已熟知AI套路的年輕人來說,這張照片從構圖色彩,甚至五官上還能看出AI痕跡,但對更多數的網友來說,他們在評論區(qū)難受落淚,并不會下意識去注意圖片疑點并加以質疑。 AI生成這些圖片的風險有多大? 用AI制造苦難,去刺激網友神經和情緒,極易讓他們對災情的嚴重程度產生過度的恐慌和焦慮,引發(fā)社會層面的不安和混亂;而狼來了的故事講多了,過度消耗網友的同情心和愛心,也會讓網友對后續(xù)真實的災情信息產生懷疑和抵觸情緒。 而如今,AI生成的互聯(lián)網垃圾已然開始侵入我們的日常生活,并模糊網友的判斷。 從大模型爆發(fā)至今,AI發(fā)展了2年后,還有什么東西是AI不能生成的呢。 近日,阿里推出商用級圖生視頻AI應用,目前已對淘寶天貓商家開放使用。而早前,淘寶商家就已經可以通過拍個商品的平面圖,讓AI模特一鍵上身。更別說,有些商品圖片都是AI生成的。 怎么說呢,用AI產品圖,套到AI美女身上,然后用AI使其變成視頻。 一條龍服務,淘寶賺錢了、商家省錢了,只有消費者,在一堆AI圖片中,迷失在買家秀和賣家秀中開始容貌焦慮。
就連餐飲行業(yè),也已經有AI應用能一鍵生圖,只需要導入文字菜單,就能幫你自動生成圖片,還能自動生成菜品描述。但這是消費者想看到的“菜單”嗎? 不僅日常消費,AI早在去年也已經讓學術論文出現(xiàn)毛病。 據硅星人報道,去年初,西安交大一篇論文因為使用AI生成的配圖而被撤稿,相關圖片中,大鼠長出了詭異的器官,細胞信號傳導圖像電路板。而在另一篇論文的一張配圖中,小腿和手臂的骨骼數量出現(xiàn)了明顯的錯誤。 就連近期,我想著臨近過年,便在搜索引擎搜索“蛇年海報”想著看點素材,一看,AI占比過半。 “有圖有真相”時代已然不再,讓公眾在面對每一則信息、每一張圖片、每一條視頻前,都要先去判斷是否是AI,實在是互聯(lián)網的不該。 更重要的是,這些AI內容其實都是人類“創(chuàng)造”出來的,生成式AI的輸出需要大量數據的訓練,而這些數據就來自我們人類之前創(chuàng)造出來的每一個字符。 隨著互聯(lián)網開始充斥大量AI垃圾,圖片庫被污染,視頻庫被污染,這些AI生成的內容重新流入互聯(lián)網,垃圾進垃圾出,最終又會成為訓練未來AI模型的一部分數據。 就像現(xiàn)在的蟑螂藥,它不會立刻毒死蟑螂,而是在體內積累,待蟑螂回到巢穴時發(fā)作,再一窩端。 當AI成為污染源,互聯(lián)網將如何面對信息質量的危機? 早在去年,抖音、視頻號就已經開始限制數字人直播,包括幾個月前抖音也開始針對那些利用AI騙取老年人互動的視頻進行整治。但AI治理不能永遠等到問題發(fā)生后才進行補救,關于AI內容的審核、治理和監(jiān)管,平臺要承擔起主體責任,采取主動和預防性的管制體系。 AI時代的到來已成定勢。AI治理或將成為互聯(lián)網下一個五年的共同命題。 |
原創(chuàng)欄目
IT百科
網友評論
聚超值•精選