AI假造五角大樓爆炸圖片致股市波動，推特開啟眾包事實核查

原標題：AI假造五角大樓爆炸圖片致股市波動，推特開啟眾包事實核查

當地時間5月30日，推特發布公告稱將擴展其社區筆記系統，以標記被篡改和偽造的圖像。一周前，五角大樓爆炸的虛假圖片在該平臺上被病毒式傳播，推特推出這一新功能，旨在利用無償的眾包事實核查來控制錯誤信息和惡作劇。

該功能將允許用戶在推特的照片和視頻旁添加筆記，并為具有誤導性質的內容添加上下文和與該圖像相關的信息。

社區筆記功能將允許用戶在推特的照片和視頻旁添加筆記。

標記功能目前還處于測試階段，僅適用于包含單個圖像的推文。推特表示，計劃在不久的將來擴展該功能，以處理其他多媒體內容，如動圖、視頻和多張圖片的推文。

達到一定分數才能使用

在該公告發布一周前，一張五角大樓發生爆炸的AI生成圖片在推特上被廣泛傳播。這張圖片最先是由一個自稱和彭博社有關的賬號發出的，該賬號有一個“藍V”標志。“藍V”一直是賬號真實性的證明，但自從特斯拉CEO埃隆·馬斯克收購推特后，只要訂閱高級Twitter Blue服務就能得到這個標志。

推特在公告中表示，AI生成的虛假圖片已經在平臺上像病毒一樣傳播，其中一些可能會引起人們的困惑或恐懼。在某些情況下，這些圖片不會帶來危害，但在五角大樓的案例中，虛假圖片對股市產生了真實的影響——引起了500億美元的市值變動。

AI合成的圖片顯示五角大樓附近爆炸，引發股市動蕩。

此前，社區筆記對誤導性和虛假信息的檢查僅限于文本。而現在，貢獻者被允許添加媒體筆記（Notes on Media），即對圖像或視頻進行相關信息的注釋。

“社區筆記旨在通過授權推特用戶協作，為可能具有誤導性的推文添加上下文來創造一個信息更豐富的世界。”推特在公告中寫道，用戶對帶有社區筆記的推文的點贊和轉發率相較于沒有筆記的推文高15%到35%。

一旦用戶成為貢獻者，他們就可以開始添加筆記。要成為社區筆記的貢獻者，用戶必須首先證明自己有這個能力。為了確定這一點，推特給每個潛在的貢獻者分配了一個寫作影響力分數。分數從0開始，必須達到5分才能成為社區筆記的貢獻者，達到10分才能在圖像上添加社區筆記。用戶可以通過評級已有的筆記等方式來提高寫作影響力分數。

“他們的工作質量可能導致他們失去貢獻者的身份。”推特表示，換句話說，如果有人通過遵守規則進入系統，然后利用貢獻者身份放大或傳播錯誤信息，就會被踢出貢獻者團隊，必須再次證明自己才能重新加入。

此前，社區筆記用戶添加的注釋會隨著推文的轉發和引用展示給其他人，但如果推文中的圖片出現在其他帖子中，該筆記就不存在了。推特稱，現在社區筆記將跟隨圖片出現。這意味著一個被標記的可疑圖片即使被其他用戶發到推特別處，旁邊也會有筆記。

一個被標記的可疑圖片即使被其他用戶發到別處，旁邊也會有筆記。

“在許多情況下，這些筆記可以提供有價值的上下文，不僅適用于一條推文，也適用于包含相同媒體的任何推文。”推特官方公告中寫道。

遭到質疑

然而，推特對于能否將標記過的圖片與平臺上其他類似圖片進行匹配還缺乏信心。推特社區筆記團隊提醒道，新功能在匹配圖片時可能會出現誤報或漏報，“我們會努力調整這個功能，讓它覆蓋更多圖片，同時避免錯誤匹配。”

2022年底，馬斯克在收購推特不久后首次推出了社區筆記功能，這一功能基于該公司之前的“觀鳥（Birdwatch）”計劃，其目的是通過利用無償的眾包來核實推文的真實性，從而控制錯誤信息和惡作劇的傳播。

自馬斯克收購推特后，該平臺的內容審核一直是一個關鍵問題。他在大規模裁員中砍掉了大部分內容審核團隊的職位，但內容審核卻是維持社交媒體網站正常運行、保持平臺吸引力和盈利能力的關鍵。

此外，即便有完整的內容審核人員，推特也難以應對虛假信息的問題。信任和安全專家表示，分辨AI生成的圖像和視頻是專業工作者最擅長的內容。推特想通過擴展筆記功能來讓用戶群參與內容審核，但不幸的是，這些用戶并不以他們的紀律性或細節處理能力而聞名。

日本SmartNews的信任與安全主管阿瓊·納拉揚（Arjun Narayan）也在一次采訪中對這種做法表示擔心，“這種削弱專業團隊的做法可能會給公司帶來麻煩。”