《2026年國際AI安全報告》揭示快速變化與新興風險

蒙特利爾2026年2月4日 /美通社/ -- 《2026年國際AI安全報告》今日發布，為通用型AI能力、新興風險以及風險管理與安全防護的現狀提供了最新的、國際共享的科學評估。

由圖靈獎得主Yoshua Bengio主持編纂的本次《國際AI安全報告》（第二版）匯集了100多位國際專家，并得到專家咨詢委員會的支持。該委員會成員來自30多個國家及國際組織，包括歐盟、經合組織及聯合國。 報告的研究結論將為本月晚些時候由印度主辦的AI Impact Summit相關討論提供參考。

報告的主要亮點包括：

• 通用型AI能力持續快速提升，尤其在數學、編程和自主運行方面表現突出。2025年，領先的AI系統在國際數學奧林匹克題目中取得“金牌級”表現，在科學基準測試中超過博士級專家水平，并能夠自主完成一些本需人類程序員耗費數小時的軟件工程任務。 盡管如此，整體表現仍顯“參差不齊”，在某些看似簡單的任務上仍會出現失敗。
• AI的普及速度迅猛，但全球分布不均。 AI的普及速度已超過個人電腦等以往技術，目前每周使用領先AI系統的人數至少達到7億。 在部分國家，超過一半的人口已在使用AI；但在非洲、亞洲和拉丁美洲的許多地區，預計采用率仍低于10%。
• 與深度偽造（deepfake）相關的事件正在上升。AI生成的深度偽造內容越來越多地被用于欺詐和詐騙。 AI生成的非自愿親密影像也日益普遍，這類內容對女性和女孩的影響尤為嚴重。 例如，一項研究發現，在20款流行的“nudify”應用中，有19款專門用于模擬女性脫衣。
• 對生物濫用的擔憂促使部分領先模型加強了安全防護。2025年，多家AI公司在部署前測試發現，系統仍可能在實質上幫助新手開發生物武器，因此推出了具備更高安全防護的新模型。
• 包括犯罪分子在內的惡意行為者正積極將通用型AI用于網絡攻擊。AI系統能夠生成有害代碼，并發現可被犯罪分子利用的軟件漏洞。 2025年，一個AI智能體在一項大型網絡安全競賽中躋身參賽團隊前5%。 地下市場如今出售預打包的AI工具，大幅降低了發動攻擊所需的技術門檻。
• 多項安全防護正在改進，但當前風險管理手段仍存在失效可能。 盡管某些失敗類型（如“幻覺”）已不那么常見，但部分模型如今能夠區分評估環境與部署環境，并據此調整自身行為，這為評估與安全測試帶來了新的挑戰。

報告主編、蒙特利爾大學全職教授、LawZero科學主任兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“自一年前首份《國際AI安全報告》發布以來，我們不僅見證了模型能力的顯著躍升，也看到了其潛在風險的同步增加。技術進步的速度與我們實施有效安全防護的能力之間仍存在差距，這依然是一項關鍵挑戰。 本報告旨在為決策者提供嚴謹證據，幫助引導AI邁向一個安全、可靠、惠及所有人的未來。 通過第二版報告，我們正在更新并深化對前沿AI在全球范圍內快速發展的科學認知，并強化這一共同理解。 ”

英國AI大臣Kanishka Narayan表示：

“對AI的信任與信心，是釋放其全部潛力的關鍵。 這是一項能夠帶來更優質公共服務、新就業機會及改變生活的創新技術。 同時，隨著技術的發展，我們也將堅定致力于保障公眾安全。 負責任的AI發展是全球共同關注的優先事項。唯有攜手合作，我們才能塑造一個帶來積極變革的未來。 這份報告正是為此而編撰——匯聚全球專家，確保我們擁有堅實的科學證據基礎，從而在當下做出明智決策，為更加光明、安全的未來奠定基石。”