(資料圖片)
隨著生成式人工智能浪潮全面興起，金融行業在加速邁向“AI原生”時代的同時，也面臨多模態深度偽造內容帶來的新型安全挑戰。利用生成式AI合成的語音、圖像、視頻與文本，已能夠高度模擬真實身份與業務材料，對遠程開戶、線上信貸、大額交易授權等核心業務構成隱蔽性、系統性攻擊，嚴重威脅金融安全與用戶信任。在此背景下，行業亟需構建體系化的內容鑒偽與安全防御能力。
近日，工商銀行聯合騰訊云、北京金融科技產業聯盟聯合發布《中國金融生成式AI多模態內容鑒偽與安全防御白皮書（2025）》。白皮書以“風險識別+體系防御+生態共建”為核心思路，系統分析生成式AI多模態偽造的攻擊原理、技術路徑與業務場景，提出覆蓋“風險場景渠道—風險分析與決策—風險處置運營”三層架構的端到端防御體系，并融合了工商銀行等行業領先實踐案例，為金融機構打造前瞻性、自適應、協同聯動的安全防線提供理論框架與實踐指引。
生成式AI機遇與挑戰共存
金融機構正在積極擁抱生成式AI。IDC報告顯示，從市場表現來看，金融行業對生成式AI的投資意愿較高，2024年中國金融行業生成式AI投資規模已達36.26億元，預計到2028年將增長至238.04億元，增幅高達556.5%。
生成式AI在惡意內容生成方面的迅猛演進，其核心威脅在于通過多模態生成模型以及多元化技術的協同，系統性地構建高可信度的欺詐證據鏈。此類攻擊已非單點技術突破，而是深度融合了感知逼真性、跨模態語義對齊、信息融合增強與動態交互協調等多層次技術能力，旨在從邏輯一致性、物理真實性與行為合理性等多個維度同時突破風控防線。它不僅能夠偽造單一模態數據，更可生成相互印證、無縫銜接的多模態組合攻擊內容，金融安全中高度依賴多因素驗證與生物識別的核心業務（如遠程開戶、線上信貸、大額支付等）構成了前所未有的結構性威脅，傳統基于單一特征識別或靜態規則的風控體系正面臨根本性挑戰。
