今日頭條網︱HEADNEWS
OpenAI 最近發表最新報告，揭露了超過 20 起利用生成式 AI 進行的網絡攻擊和輿論操作。隨著全球 40 多個國家在 2024 年陸續舉行關鍵選舉，生成式 AI 技術在選舉相關的假訊息和深偽（Deepfake）內容中的應用不斷擴大，這些技術正成為駭客和網絡操控者影響民主進程的利器。
生成式AI加劇選舉假訊息問題
今日頭條網︱HEADNEWS
根據 OpenAI 發布的《影響力與網絡操作》報告，AI 生成的假新聞、假帳號在社交媒體上散布的虛假內容，正成為全球選舉中日益嚴重的威脅。報告強調，隨著 2024 年美國總統大選即將到來，全球範圍內的選舉資訊誤導問題也愈加嚴重。數據顯示，過去一年內，與選舉相關的深偽內容增長了 900%，而生成式 AI 帶來的假訊息風險，已經蔓延至包括美國、印度、歐盟、盧安達等國的選戰中。
OpenAI阻止多起生成式AI攻擊行動
今日頭條網︱HEADNEWS
在過去幾個月內，OpenAI 已成功阻止多起利用生成式 AI 操作的案例。報告指出，8 月底來自伊朗的攻擊行動中，攻擊者使用 OpenAI 產品生成了與美國選舉相關的長篇文章及社交媒體評論，儘管這些內容並未獲得大量互動。同樣地，7 月 OpenAI 也封鎖了盧安達的多個 ChatGPT 帳號，這些帳號被用來傳播選舉相關內容。
今日頭條網︱HEADNEWS
報告還披露，5 月一間以色列公司利用 ChatGPT 生成有關印度選舉的評論，OpenAI 迅速採取行動，在 24 小時內解決了這一問題。今年 6 月，OpenAI 處理了涉及歐洲議會選舉的網絡操控行動，該行動針對法國、德國、美國、義大利和波蘭等國的選舉議題進行了輿論操作。
生成式AI成為選戰新武器
今日頭條網︱HEADNEWS
報告中指出，生成式 AI 的廣泛應用讓網絡操控者有了更具威脅性的工具，儘管目前尚未出現通過 AI 生成內容實現「病毒式傳播」的案例，但這些行為已對民主進程構成了潛在威脅。
今日頭條網︱HEADNEWS
自 2016 年美國總統選舉以來，利用廉價技術進行網絡輿論操控的問題便逐漸浮現。隨著生成式 AI 例如 ChatGPT 的普及，這種風險正進一步加劇，駭客和其他惡意勢力可借助 AI 技術大規模生產虛假內容，對選舉結果和社會穩定產生深遠影響。
結語
今日頭條網︱HEADNEWS
OpenAI 的最新報告發出警示，生成式 AI 在選舉干預中的潛在威脅不容小覷。全球各國政府和企業需對 AI 技術加強監管，防範假訊息與輿論操作的擴散，確保民主選舉的公正性和透明度。
今日頭條網︱HEADNEWS