中青報(bào)·中青網(wǎng)記者 王梓

在許多國家，計(jì)算機(jī)工程師和關(guān)注技術(shù)發(fā)展的政治人士多年來一直警告稱，成本低廉、獲取門檻低、功能日漸強(qiáng)大的人工智能（AI）工具，很快就能制造出以假亂真的圖像、視頻和音頻。在人的操縱下，AI可能欺騙選民，進(jìn)而影響選舉。

(資料圖片僅供參考)

似乎就在不久前，合成的虛假圖像還多半是粗糙、難以令人信服的，社交媒體上傳播的虛假信息總是很快就被“打假”。人們相信，AI帶來的“深度偽造”至少幾年后才會出現(xiàn)。

美聯(lián)社報(bào)道稱，如今，復(fù)雜的生成性AI工具能在幾秒鐘內(nèi)“克隆”某人的聲音和形象，制造出大量“假料”。只要綁定強(qiáng)大的社交媒體算法，AI就可以迅速鎖定受眾進(jìn)行傳播，以前所未見的規(guī)模和速度破壞選舉。

“競選的骯臟伎倆又要刷新下限了?！泵缆?lián)社寫道。

美國將在2024年舉行總統(tǒng)選舉。多國媒體預(yù)測，這將成為美國第一場廣泛使用AI工具的選舉，民主黨與共和黨都會將AI技術(shù)用于宣傳、籌款等活動。

以往需要競選團(tuán)隊(duì)耗費(fèi)大量時間準(zhǔn)備的宣傳材料，AI能在極短時間內(nèi)完成。風(fēng)頭正勁的聊天機(jī)器人ChatGPT只需幾秒鐘，就能生成一份措辭華麗的演講稿。

技術(shù)專家警告稱，由于美國陷入政治極化，加上美國前總統(tǒng)特朗普輸?shù)?020年大選后抨擊選舉被“操縱”，許多選民對政壇和主流媒體的信任度大打折扣。有人可能利用這一點(diǎn)，用AI技術(shù)制造混亂。

據(jù)美國《紐約時報(bào)》報(bào)道，美國新聞可信度評估與研究機(jī)構(gòu)News Guard和為數(shù)碼調(diào)查提供資源與培訓(xùn)的Shadow Dragon公司都在5月發(fā)布報(bào)告稱，大量所謂的“新聞網(wǎng)站”和虛假用戶利用AI工具在網(wǎng)上發(fā)布虛假內(nèi)容，比如捏造新聞事件和名人死亡的消息。

News Guard聯(lián)合創(chuàng)始人史蒂文·布里爾稱，該機(jī)構(gòu)發(fā)現(xiàn)，有125個網(wǎng)站的內(nèi)容完全或大部分由AI工具編寫，內(nèi)容涵蓋新聞、醫(yī)療資訊、生活類文章等。

Shadow Dragon的研究人員通過篩查AI工具容易產(chǎn)生的錯誤和預(yù)設(shè)回復(fù)來尋找虛假內(nèi)容，結(jié)果發(fā)現(xiàn)，在主流網(wǎng)站、社交媒體平臺甚至電商平臺的評論區(qū)中，都存在虛假內(nèi)容。一篇關(guān)于俄烏沖突的文章中直白地寫著：“作為AI語言模型，我不能提供帶有偏見或關(guān)于政治的內(nèi)容。”

布里爾指出，民眾很難知道自己看到的“新聞”是由誰提供的，這類虛假內(nèi)容進(jìn)一步降低了人們對新聞媒體的信任度?！靶侣勏M(fèi)者對新聞來源的信任度越來越低，部分原因是，他們難以區(qū)分哪些消息可靠，哪些不可靠?！?/p>

據(jù)美國《今日美國》報(bào)和法新社報(bào)道，今年年初，一段“拜登與特朗普對噴”的假音頻在社交媒體上火了。3月，各國社交媒體上瘋傳“特朗普被警察拖走、關(guān)進(jìn)監(jiān)獄”的合成照片。4月，拜登宣布將參加大選后，共和黨全國委員會立刻發(fā)布了一條由AI生成的短視頻，展示“有史以來最弱的總統(tǒng)”拜登連任后“美國大亂”的景象：非法移民沖破邊界關(guān)卡，涌入美國；金融市場崩潰，華爾街陷入恐慌……

人們對這些“PS痕跡明顯”的內(nèi)容一笑而過，但在專家眼中，它們是給美國社會的一次預(yù)警。拜登2020年競選團(tuán)隊(duì)的首席技術(shù)官丹·伍茲警告，美國需要為應(yīng)對“大規(guī)模虛假信息運(yùn)動”做好準(zhǔn)備。

AI對選舉的影響力令專家們不安：生成性AI工具能迅速產(chǎn)出競選電郵、視頻等宣傳材料，冒充候選人、誤導(dǎo)選民?！肮埠忘h全國委員會承認(rèn)自己用了AI，但其他人……不會承認(rèn)?！泵绹W(wǎng)絡(luò)安全公司Forcepoint全球首席技術(shù)官佩特科·斯托揚(yáng)諾夫說。

美聯(lián)社設(shè)想了一些“AI陷阱”：用總統(tǒng)候選人的聲音制作假音頻，指示選民在錯誤的日期投票；冒充候選人承認(rèn)“犯罪”，或發(fā)布種族主義言論；散布和新聞報(bào)道截圖相似的圖片……“如果（假的）埃隆·馬斯克打電話給你，讓你投票給某位候選人，怎么辦？很多人會照辦?！泵绹瑐惾斯ぶ悄苎芯克鶆?chuàng)始人奧倫·埃齊奧尼對美聯(lián)社說。

眾議員伊維特·克拉克擔(dān)心，AI工具可能被用來在大選期間煽動暴力。“我們必須跟上技術(shù)的發(fā)展，這很重要。我們必須設(shè)置一些‘護(hù)欄’?！彼f，“只要一瞬間，AI就能欺騙人們。在忙碌的生活中，人們沒有時間去檢查每一條信息。被武器化的AI破壞力極強(qiáng)?！?/p>

5月30日，非營利組織人工智能安全中心發(fā)布了一封聯(lián)名公開信，稱“降低AI帶來的滅絕風(fēng)險(xiǎn)應(yīng)成為全球優(yōu)先事項(xiàng)，與大流行病、核戰(zhàn)爭等風(fēng)險(xiǎn)同等對待”。信中只有簡短的一句話，獲得了來自多國的超過350名科技行業(yè)領(lǐng)袖與專家聯(lián)署。

美國加州大學(xué)伯克利分校信息學(xué)院教授漢尼·法里德提醒人們，不要忽略另一種威脅：AI能輕易“制造”現(xiàn)實(shí)，也就能輕易否定現(xiàn)實(shí)：總統(tǒng)候選人被曝出了不當(dāng)言論？不用慌，“甩鍋”給音頻造假就行。