應(yīng)對(duì)人工智能技術(shù)濫用,合作才是未來
近年來,人工智能(AI)技術(shù)的更迭讓人目不暇接。語言模型領(lǐng)域取得重大突破的2023年剛剛過去,2024年,人們又迎來了視頻和物理世界虛擬生成方面的突破。然而,在人工智能技術(shù)被廣泛應(yīng)用于科創(chuàng)、文化、教育、醫(yī)藥、交通等各行各業(yè),甚至進(jìn)入日常生活的當(dāng)下,其被濫用的風(fēng)險(xiǎn)已開始引發(fā)擔(dān)憂。
“深度偽造”真假難辨
使用人工智能算法生成的高度逼真的虛假圖像、音頻和視頻等,被稱為“深度偽造”內(nèi)容。自這一概念于2017年首次出現(xiàn)以來,借助該技術(shù)詐騙或操縱輿論的事件在全球愈加頻發(fā)。以美國為例,過去一年里人工智能詐騙事件同比增幅超過了50%。
然而時(shí)至今日,人們?nèi)晕茨苡行Ы鉀Q該問題。這是因?yàn)椋斯ぶ悄茉旒倌芰Φ倪M(jìn)步速度遠(yuǎn)遠(yuǎn)超過了信息識(shí)偽技術(shù)的開發(fā)速度。如今,任何人都可以快速地、低成本地生成難辨真假的圖像、音頻甚至視頻,而且難以追蹤。與之相反,識(shí)偽技術(shù)則因在主題和軟件方面具有特異性,難以得到普及。此外,核查事實(shí)需要花費(fèi)更多時(shí)間精力。據(jù)日本瑞穗研究所及技術(shù)公司的調(diào)查,70%的日本受訪者認(rèn)為互聯(lián)網(wǎng)上的信息很難判斷真假,但只有26%的受訪者表示在接觸可疑信息后會(huì)進(jìn)行某種程度的驗(yàn)證。
今年年初,世界經(jīng)濟(jì)論壇發(fā)布《2024年全球風(fēng)險(xiǎn)報(bào)告》,將人工智能生成的錯(cuò)誤信息和虛假信息列為“未來兩年全球十大風(fēng)險(xiǎn)”之首,擔(dān)心其會(huì)使本就兩極分化、沖突頻發(fā)的全球形勢(shì)進(jìn)一步惡化。考慮到2024年是全球“大選年”,70多個(gè)國家或地區(qū)將舉行重要選舉,人們擔(dān)憂人工智能會(huì)被武器化,被用來誤導(dǎo)選民、誹謗候選人,甚至煽動(dòng)暴力、仇恨和恐怖主義。
“2024年的美國大選將出現(xiàn)人工智能生成的虛假信息海嘯。”正如美國布魯金斯學(xué)會(huì)技術(shù)創(chuàng)新中心高級(jí)研究員達(dá)雷爾·韋斯特所言,美國大選剛剛迎來初選階段,就已經(jīng)有人試圖利用“深度偽造”操控選民了。今年1月,美國民主黨初選在新罕布什爾州舉行,很多選民表示在初選前接到了“來自美國總統(tǒng)拜登的電話”,電話里“拜登”建議選民不要參與初選,應(yīng)該把選票留到11月大選時(shí)投給民主黨。這則電話實(shí)際上是拜登競(jìng)爭(zhēng)對(duì)手迪安·菲利普斯的政治顧問克雷默安排的。他利用人工智能模擬了拜登的聲音,并撥給了最有可能受影響的選民。克雷默甚至直言:“只需要500美元,任何人都可以再現(xiàn)我的行為。”
業(yè)內(nèi)人士擔(dān)心,“深度偽造”內(nèi)容的泛濫會(huì)讓公眾完全失去對(duì)自身感官的信任,真實(shí)信息也同樣會(huì)遭到更多質(zhì)疑。比如2016年,特朗普曾極力宣稱與其有關(guān)的一份丑聞錄音是捏造的。若此事發(fā)生在當(dāng)下,他的詭辯可能更具說服力。
類似的問題已在全球多國出現(xiàn),然而技術(shù)的發(fā)展走在了各國的法律和行業(yè)規(guī)范之前,目前不得不更多依賴科技公司的“自我監(jiān)管”來解決問題。在2月舉行的第60屆慕尼黑安全會(huì)議期間,全球多家科技企業(yè)簽署協(xié)議,承諾將共同努力打擊旨在干擾選舉的人工智能濫用行為,包括開發(fā)識(shí)偽工具,同時(shí)在生成圖像上添加“非現(xiàn)實(shí)內(nèi)容”標(biāo)簽及電子水印以明確其來源。部分企業(yè)還在考慮禁止政治候選人圖像的生成。然而,有媒體認(rèn)為上述協(xié)議僅勾勒出一些最基本的原則,并沒有寫明企業(yè)履行承諾的具體措施及時(shí)間表,空洞的集體表態(tài)更像是一場(chǎng)公關(guān)活動(dòng)。更何況,科技公司對(duì)其人工智能產(chǎn)品進(jìn)行主觀調(diào)控,是否意味著會(huì)將公司的價(jià)值觀強(qiáng)加給用戶,這也是一個(gè)問題。
此外,電子水印技術(shù)尚存在不足。比如,“內(nèi)容來源和真實(shí)性聯(lián)盟”提供的水印只能被用于靜止圖像,而且“很容易被意外或故意刪除”。因此,從源頭控制虛假信息生成的難度、限制虛假信息在社交媒體的傳播以及培養(yǎng)公眾的批判性思維等,仍是各國解決“深度偽造”問題時(shí)不得不面對(duì)的難點(diǎn)。
“AI戰(zhàn)爭(zhēng)”的陰影
盡管公眾對(duì)人工智能興趣大增主要是由于生成式人工智能的發(fā)展,但多國軍方早已將注意力投向了人工智能技術(shù)在戰(zhàn)場(chǎng)上的應(yīng)用,尤其是能夠進(jìn)行深度學(xué)習(xí)的自主武器系統(tǒng)。美國戰(zhàn)略界把人工智能的發(fā)展與歷史上核武器的出現(xiàn)相類比,美知名科技企業(yè)家埃隆·馬斯克也認(rèn)為,人工智能技術(shù)的擴(kuò)散已讓各國企業(yè)可以“在自家后院制造核彈”。
在當(dāng)前全球最受關(guān)注的兩場(chǎng)沖突中都能看到人工智能的應(yīng)用。美《時(shí)代》周刊近日刊文將俄烏沖突稱為“第一場(chǎng)人工智能戰(zhàn)爭(zhēng)”,披露美國科技公司帕蘭蒂爾向?yàn)蹩颂m提供人工智能軟件,通過分析衛(wèi)星圖像、無人機(jī)畫面等情報(bào)提供打擊敵軍的最有效目標(biāo),并根據(jù)每次打擊進(jìn)行學(xué)習(xí)和改進(jìn)。報(bào)道稱,這些“人工智能軍火商”儼然把烏克蘭當(dāng)作了其最新科技的最佳實(shí)驗(yàn)場(chǎng)。
在巴以沖突中,以色列軍隊(duì)已將人工智能技術(shù)用于摧毀無人機(jī)、繪制隧道網(wǎng)絡(luò)地圖,以及推薦打擊目標(biāo)。據(jù)報(bào)道,名為“福音”的人工智能系統(tǒng)讓以軍尋找攻擊目標(biāo)的效率提升了幾百倍。不少媒體擔(dān)心這可能意味著系統(tǒng)不僅鎖定了軍事設(shè)施,也在轟炸平民住所,“人工智能可能正被用于決定加沙居民的生死”。
而早在2020年就首次實(shí)驗(yàn)人工智能目標(biāo)識(shí)別的美國,最近也廣泛利用該技術(shù)定位也門的火箭發(fā)射裝置、紅海的水面艦艇,以及伊拉克和敘利亞的打擊目標(biāo)。
據(jù)美媒報(bào)道,美國軍方還不斷加強(qiáng)與OpenAI等領(lǐng)先企業(yè)的合作。2023年8月,生成式人工智能的浪潮掀起不久,美國防部數(shù)字和人工智能首席辦公室便迅速成立“生成式人工智能工作組”。今年1月,OpenAI悄無聲息地更新了其“使用政策”頁面,刪除了其中對(duì)“軍事和戰(zhàn)爭(zhēng)”應(yīng)用的限制,將條款改為更模糊的“禁止利用產(chǎn)品開發(fā)或使用武器”。不久后,該公司承認(rèn)正與五角大樓合作開展包括研發(fā)網(wǎng)絡(luò)安全工具在內(nèi)的多個(gè)項(xiàng)目。近日,美國防部高級(jí)官員再次邀請(qǐng)美科技企業(yè)參加秘密會(huì)議,希望加速探索和實(shí)施人工智能的軍事應(yīng)用。
相關(guān)專家認(rèn)為,人類在幾十年間成功遏止核武器使用,靠的是各國間的戰(zhàn)略協(xié)調(diào)。目前全球缺乏人工智能軍事應(yīng)用的國際治理框架,極易因技術(shù)失控導(dǎo)致沖突升級(jí)或引發(fā)軍備競(jìng)賽,迫切需要盡快達(dá)成多邊共識(shí)。聯(lián)合國秘書長古特雷斯此前強(qiáng)調(diào),聯(lián)合國必須在2026年前達(dá)成具有法律約束力的協(xié)議,禁止在自動(dòng)化戰(zhàn)爭(zhēng)武器中使用人工智能。
國際協(xié)調(diào)合作不可或缺
人工智能同時(shí)具有正反兩方面的巨大潛能,需及時(shí)采取措施防范風(fēng)險(xiǎn)。2016年以來,各國陸續(xù)發(fā)布相關(guān)政策法規(guī),但進(jìn)展仍趕不上技術(shù)的進(jìn)步。去年10月,拜登簽署美國首項(xiàng)人工智能監(jiān)管行政令,為人工智能建立安全和隱私保護(hù)標(biāo)準(zhǔn),但被指缺乏強(qiáng)制執(zhí)行效能。歐盟方面,雖然歐洲議會(huì)于3月13日通過《人工智能法案》,但是法案中的相關(guān)條款將分階段實(shí)施,部分規(guī)則要到2025年才生效。日本執(zhí)政黨自民黨直到最近才宣布計(jì)劃在年內(nèi)提議政府引入生成式人工智能立法。
無論是生成式人工智能帶來的虛假信息問題,還是人工智能軍事應(yīng)用的風(fēng)險(xiǎn),其影響都是跨越國界的。因此,人工智能的監(jiān)管和治理應(yīng)通過國際合作來解決,各國應(yīng)共同做好風(fēng)險(xiǎn)防范,攜手共建具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
然而遺憾的是,美國不僅從一開始就把中國的人工智能發(fā)展計(jì)劃當(dāng)作敵對(duì)行為,在布局人工智能軍事應(yīng)用時(shí)把中國視為假想敵,而且為了維持技術(shù)優(yōu)勢(shì),長期阻礙中國技術(shù)進(jìn)步。據(jù)報(bào)道,美政府不僅禁止美國企業(yè)對(duì)華出口處理能力最強(qiáng)的人工智能芯片,還要求美國云計(jì)算公司披露在其平臺(tái)上開發(fā)人工智能應(yīng)用程序的外國客戶姓名,試圖借此阻斷中國企業(yè)訪問數(shù)據(jù)中心和服務(wù)器。
人工智能的發(fā)展治理攸關(guān)全人類命運(yùn),需要群策群力、協(xié)調(diào)應(yīng)對(duì)。在人工智能領(lǐng)域搞“小院高墻”只會(huì)削弱人類共同應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)的能力。美國應(yīng)切實(shí)尊重科技發(fā)展的客觀規(guī)律,尊重市場(chǎng)經(jīng)濟(jì)和公平競(jìng)爭(zhēng)原則,停止惡意阻撓他國技術(shù)發(fā)展,為加強(qiáng)人工智能領(lǐng)域的國際協(xié)調(diào)合作創(chuàng)造良好條件。
記者:楊逸夫
編輯:盧巖
來源:光明日?qǐng)?bào)
相關(guān)新聞
-
人工智能+建造,傳統(tǒng)行業(yè)的新未來
發(fā)表日期:2024/09/11 瀏覽次數(shù):7
-
未來已來,“人工智能”如何助力行業(yè)應(yīng)用?
發(fā)表日期:2024/09/01 瀏覽次數(shù):13
-
2024僑海創(chuàng)新發(fā)展論壇舉行 與會(huì)專家談人工智能未來發(fā)展
發(fā)表日期:2024/05/06 瀏覽次數(shù):62
-
生成式AI大爆發(fā)后,2024年人工智能行業(yè)有哪些新趨勢(shì)
發(fā)表日期:2024/03/02 瀏覽次數(shù):81
-
人工智能應(yīng)用炙熱,可持續(xù)性技術(shù)受寵
發(fā)表日期:2024/02/06 瀏覽次數(shù):92
-
2023年《自然》十大人物揭曉 另有一人工智能工具上榜“搶鏡”
發(fā)表日期:2024/01/03 瀏覽次數(shù):121