金融監督管理委員會(以下簡稱金管會)於本日發布「金融業運用代理AI安全諮詢文件」(以下簡稱本文件)，就金融業導入代理AI之安全治理、風險分級、安全控管等面向徵詢外界意見。
      金管會表示，近年人工智慧(AI)技術快速發展，其中代理AI相較於以生成回覆為主之聊天式AI，具備規劃步驟、呼叫工具、跨系統存取資料以推進任務之能力，金融業若能妥善運用代理 AI，將有助於提升營運效率與推動服務創新；反之，若缺乏適當管理，可能導致目標偏離原始目的、工具誤用或越權、敏感資料外洩，或因多步流程造成錯誤連鎖擴大等效應。
      金管會說明，為協助金融業安全導入代理AI，本文件經參考國際間安全框架，並本於風險導向、比例原則及技術中立立場，提出三大面向之諮詢重點如下：
一、安全治理面：本文件第3章強調金融業導入代理AI時，宜以「應用場景」為管理單位，先釐清其業務目的、責任分工、可取用資料、可呼叫工具、可執行動作、輸出或寫入目的地，及異常時之處置、停用與追溯方式，並依風險高低配置覆核、監控、檢查、降級、停用與復原等機制；本面向諮詢問題包含所揭治理原則是否完整、是否有可避免過度負擔或強化責任歸屬之作法，或有其他精進建議。
二、風險分級面：本文件第4章提出以資料敏感度、動作影響及能力邊界／可擴散性等三軸進行應用場景之風險分級，採就高不就低原則，並應將分級結果納入生命週期管理，作為評估核可門檻、試行或上線基準、控制深度、後續監督與查核之共同語言且持續重評；本面向諮詢問題包含所揭三軸分級方法是否妥適、是否有其他更具可操作性之分級管理方法，或有其他精進建議。
三、安全控管面：本文件第5章將代理AI視為具行動能力之非人類身分與工作負載，參照零信任之不預設信任、持續驗證、最小權限及可追溯原則，依身分、設備／執行環境、網路、應用與工作負載、資料、行為控制及可視性與分析等面向，提出基本與進階安全要求及控制目標；本面向諮詢問題包含所揭安全設計是否足以控管代理AI特有風險、是否可銜接既有資安機制或有可達同等目的之替代作法，或有其他精進建議。
      金管會表示，本文件諮詢為期30日，詳細內容已公布於「公共政策網路參與平臺」之「眾開講」專區 ，除上述諮詢重點，歡迎各界併就文件架構、控制措施、導入可行性及其他實務議題提供意見，並建議所提意見宜避免限定特定模型、產品、供應商或單一技術架構，且宜說明適用之應用場景、風險等級、實務限制、替代作法、技術成熟度、導入與維運所需資源、既有制度銜接方式，以及可驗證之控制效果。
      金管會強調，本文件並非要取代現行法令、監理規範、委外管理及金融業既有內部控制要求。考量代理AI技術、應用型態及治理模式仍快速發展，相關解決方案尚在演進，金融業導入場景亦具多樣性，適切之治理與控制作法仍須透過實務經驗持續檢視，爰先以諮詢文件方式發布，提醒金融業重視代理AI安全議題，並作為共同討論之基礎。金管會期望與各金融業者、資訊服務業者、各界專家學者及對本議題有興趣的所有人士，共同討論如何在現行環境及基礎下，協助金融業於兼顧創新、風險管理與消費者保護之前提下，穩健推動代理AI應用，作為後續政策研議、相關指引發布及監理溝通之重要參考。

聯絡單位：資訊服務處
聯絡電話：(02)8968-0806
如有任何疑問，請來信：本會民意信箱

相關附件：金融業運用代理AI安全諮詢文件。