實現負責任的AI：給風險管理高層的洞見（1）

• 在AI時代，資安團隊需運用自動化來強化風險管理，簡化複雜的任務，並引入新的功能提升組織效率。為了能跟上AI發展腳步，資安團隊應與產品開發團隊更緊密的整合，將資安內嵌到AI開發生命週期中。
• 此外，技能提升、自動化以及風險模型的更新，也都是重要機會。資安團隊應跳脫過去「仰賴專業人才親自解決每個問題」的思維，轉而運用專業人才創建AI代理人，並協助解決資安問題。AI可以支援事件評估、漏洞分類、威脅情報分流以及供應商評估，以應對潛在風險。AI驅動的防護能比傳統解決方案更快適應，以應對不斷演變的威脅。
• 每一次成功的自動化，就意味著資安團隊可將時間用於處理更複雜的任務，並設法簡化該任務。如此一來，資安團隊便能創造出支點，協助企業評估風險並推動變革。組織也能導入更多自動化、以風險為基礎的方法，並運用AI強化相關流程。

1. 建立AI沙盒以進行受控實驗：提供一個受保護、隔離的替代方案，打造類似「沙盒」的場域，在無風險的環境中進行創新發想，讓員工有機會突破極限。
2. 基層應用案例探索：隨著員工開始投入AI賦能的創新，風險也逐步升高。員工需要了解威脅範圍，找出什麼能幫助他們打造安全解決方案，並透過調查、焦點團體訪問、會議交流以及應用案例識別框架持續收集建議。
3. 檢查資料防護與安全，並將AI代理系統納入考量：理解AI代理如何以新穎的方式使用資料，因為這可能使組織暴露在資安風險中。將日新月異的資料取用政策與技術納入考量，以監測並控制AI代理的使用。
4. 部署AI變革管理：運用AI代理界定風險，並根據控管要求及變革目標來簡化批准流程。
5. 檢討AI系統中的資料安全：應確實了解涵蓋組織資料的各種解決方案，即便目前還未導入AI功能，未來也可能會導入，因此需將AI增強可能帶來的風險納入考量。
6. 更新或建立AI治理模型：確保治理模型能夠應對當今最新的網路風險，包括法規要求應降低的風險。

• 主動管理第三方生態系統中的AI相關風險，可以幫助企業簡化風險評估流程、縮短簽約時間，在不影響治理的情況下更快導入供應商。要進一步釋放價值還有另一個作法，是將供應商選用流程標準化，優先選擇已通過審查且實務做法符合組織「負責任的AI」標準的供應商。全面的標準化可能難以落實，但辨識並預先審查企業主要的第三方服務供應商，將有助於減輕評估多種AI解決方案的負擔，讓企業得以專注於與供應商間的策略整合。
• 健全的AI治理制度，將有助於第三方風險管理團隊更快且更有信心地採取行動。
• 當第三方風險管理角色，從被動的守門員轉為主動的賦能者時，企業才能以負責任的方式大規模導入AI解決方案。

1. 重新審視供應商合約，鼓勵負責任的使用AI：更新合約內容，要求供應商提供服務時應主動揭露AI使用情況，並將通知義務與風險透明度條款納入；此外，可適時的建立獎勵機制，鼓勵供應商以負責任的AI進行創新。
2. 嚴格審查資料使用政策：確認第三方是否使用組織的資料進行模型訓練。以書面方式明定資料處理、同意機制以及資料再利用的限制。
3. 針對AI進行盡職調查並持續監控：必須敦促供應商提高透明度，並提供模型開發、資料隱私、偏見消除以及可稽核性的相關證明。為能支持上述工作，企業可考慮將AI相關附註加入SOC 2報告、獨立性證明或其他治理工具中。
4. 強化第三方風險分級框架：將AI應用案例納入考量，重新調整風險評分標準。根據部署的AI類型、資料敏感程度，以及AI發生錯誤、服務中斷或遭濫用時的潛在業務衝擊，來決定盡職調查的優先順序。
5. 在評估過程強化對於AI的關注：針對AI訓練模型的設計、資料來源、風險管控、可解釋性以及監控流程進行提問。
6. 追蹤並應對法規的更新：持續關注AI治理法規的更新，並確認第三方合作夥伴在執行上符合當地及產業法規要求。

• 企業應將標準視為其AI發展路徑的指南，並為未來的法規要求做好準備。例如：
  • ISO／IEC 42001:2023：首個AI管理系統的國際標準，專注於建立、實施、維護並改善AI管理體系。鼓勵採用風險基礎方法（risk-based approach），且涵蓋道德責任、透明度與問責制度等議題。
  • NIST AI 風險管理框架（AI RMF 1.0）：美國國家標準技術研究所（NIST）制定的自願性框架，提供AI相關的風險管理指引，並將公平性、隱私、問責制、穩固性以及安全性等議題納入考量。
  • ISO／IEC 23894:2023：針對偏見、透明度與安全性等AI獨有的風險，提供一套識別、評估與管理的框架，適用於整個生命週期，確保AI的開發與使用遵循ISO 31000等既有的風險管理標準。
  • ISO／IEC 42005:2024：專為AI系統影響性評估設計的一套指引，著重於理解AI及其未來的應用如何影響個人、群體以及整個社會。此標準可幫助企業在AI系統完整的生命週期中，辨識、評估與記錄潛在的影響，以實現AI系統的透明度、問責制度與誠信。
• 參與標準制定工作和產業聯盟，將能創造與同業對話的機會，協助產業培養面對挑戰、機會的共同語言，並凝聚對於解決方案的共識，甚至定義出AI之於產業的意義，這對AI治理極具價值。相關的投入也能幫助企業了解AI如何重塑產業競爭格局，確保企業跟上產業實踐「負責任的AI」之腳步。
• 最後，和標準協會及產業互動，更有助於企業影響標準的演進與制定方向，提供企業交流與分享的管道，確保產業標準符合未來實際應用的場景，幫助企業在「負責任的AI」方面豎立領導地位。

透過策略性地採用產業標準，企業可以更有效管理當前的AI風險。以下是幾項關鍵措施：

1. AI治理標準應與商業策略一致：切勿盲目的選擇或採用標準。應先釐清AI如何協助企業達成業務目標，並量身打造一套實務治理方法，以切合策略方向。
2. 打造具靈活性與韌性的計劃：訂定AI風險與法遵計劃時，就要預設AI應用情境、風險以及監管環境都可能改變，並為此預先做好準備，讓計劃能夠與時俱進。因為，幾乎可以篤定，現在想做的事情，將和兩年、三年後大不相同。
3. 將標準視為彈性框架：建議將ISO 42001、NIST AI等產業標準視作「工具」，而非規則手冊。專注於自身核心能力的建立，包括盤點AI資產、測試與驗證以及監控工作，而非一味的追求認證。
4. 與產業互動，引領產業標準的制定：與產業及標準協會交流，不僅能促進彼此間的合作，還有助於即早掌握法規動向，了解與同業間的競爭情況，並跟上整體演進的腳步。
5. 投資專業知識團隊及合作夥伴：由於AI發展的複雜性高且變化速度相當快，企業應與能洞察前景、解讀產業標準演進方向的專業人才保持交流，讓其提供適當的策略與調整建議。

• 面對法規監管採取積極主動的態度，將有望減少罰款、成本高昂的執法行動、法律費用以及其他負面的影響；法遵團隊也能透過提倡「負責任的AI」，解鎖更多價值。
• 企業與消費者的關係是建立在「信任基礎」之上，而對於日益依賴AI的企業來說，若要維繫與客戶間的信任，就必須將信任融入AI系統。積極推動「負責任的AI」之企業，更有機會對準客戶的價值觀，在建立信任的同時，創造差異化的競爭優勢。
• 對AI監管準備採取策略性、有原則的做法，還有助於減少技術負債，降低未來因系統改造衍生龐大的成本與營運風險。

1. 建立一套跨部門「負責任的AI」治理架構：串聯各業務單位、領導階層與營運團隊，促進具凝聚力、協調性的AI法遵工作。制定一套完整的AI政策，協助組織釐清如何負責任的使用AI，並界定妥善運用AI的業務規則。
2. 建立一份涵蓋全組織的AI技術與應用案例清單：確保組織有適切的流程與基礎設施，維護並時時更新這份清單。此外，也可透過投資相關工具，強化文件紀錄與可稽核性。
3. 建立一套標準化、風險基礎方法，來歸類並評估AI風險：選擇一套涵蓋關鍵監管框架（如《歐盟AI法案》）及公認產業標準（如NIST AI風險管理框架），來歸類及評估AI技術與特定應用案例的風險。
4. 持續追蹤即將上路的新法規：與產業協會互動或者與公部門利害關係人合作這類的外部聯繫工作，可幫助企業隨時掌握監管環境的最新動態，並了解提案或潛在法規可能衍生的影響。
5. 強化對AI供應商的盡職調查與合約條款，並明確界定責任歸屬：重新檢視與第三方間的合約，了解法遵義務，並釐清AI使用可能衍生的風險與破口。監控供應商的法律遵循情況，降低第三方的監管風險。
6. 提升組織的AI素養：根據員工的職位、職能以及使用AI的方式，提供相應的訓練與職能提升。

• 應對AI相關的隱私議題，不僅能降低風險，亦能從中找到策略性優勢與機會。
• 隱私承諾可提升品牌聲譽及顧客忠誠度。優先實踐「負責任的AI」的企業將在市場中脫穎而出，吸引有隱私意識的消費者。若企業能以創新、無需個人資料的方式運用AI，還有機會進一步創造出差異化優勢。
• 即便是尚未使用到個人資料的AI應用，若能提早投資入隱私管理，亦有助於企業在未來AI模型擴展、涉及敏感資料時，快速做出應對。此外，嚴格的資料清理與隱私保護措施，也能提升資料完整性，產出更可靠的AI結果。清除過時的資料，可確保AI模型的資料取用更即時、可靠，且有清楚的來源。

1. 建立全面的AI治理架構：制定詳細的政策，包含AI專用的指導方針、法遵措施和風險管理策略。
2. 落實清楚的資訊揭露與同意權：清楚告知AI應用情況，讓消費者自行決定是否同意其個人資料被用於AI相關應用。
3. 投資隱私增強技術（PETs）：運用加密、匿名化以及安全多方運算等工具，保護AI系統中的敏感資料。讓工具與模型的風險等級相匹配，並非所有模型都需要完全匿名。
4. 培養組織隱私文化：推動培訓計畫提升組織意識，讓員工充分了解隱私的重要性，以及其在隱私維護方面的角色。
5. 和監管機構及產業聯盟互動：隨時掌握法規的變動，並投入產業標準的發展。
6. 對AI系統進行定期稽核：持續監控並導入評估準則，以確認AI應用符合隱私標準並如預期運作。稽核項目應包含訓練資料的使用情況、同意權追蹤以及模型輸出結果。

• 除了降低風險，內部稽核還能形塑驅動創新的治理框架，實踐負責任的AI，創造價值並實現轉型。正如賽車的煞車系統，因為確信有能力停下來才能開得更快，企業也因設有安全護欄、妥善的治理，才能加速AI創新。
• 讓內部稽核團隊及早參與AI治理流程，將有助於評估初步框架、新興風險，在AI開發與使用上建立信任。此外，內部稽核團隊還能在透明度、隱私、產出品質與問責等關鍵議題提供指引。
• 內部稽核不僅能確保AI系統在發展之初就具備強大的安全防護，還能確保在應用規模擴大的同時，仍將「負責任的AI」視為首要任務。

1. 掌握AI整體布局與可視性：審計團隊應建立動態更新的 AI 系統、模型與嵌入式工具清冊（包含內部開發及第三方系統），並評估其完整性。清冊不僅是文件紀錄，還是評估供應商集中風險與法規遵循情況、識別高影響力應用案例，以及規劃未來審計工作的基礎。審計團隊與資訊、資料治理及採購部門合作，確保各個系統、應用程式和供應商平台中的AI資產都能被標記與追蹤。
2. 審核AI治理結構：AI治理工作通常橫跨各部門，而內部稽核可評估治理角色、上報流程及決策權是否被明確定義且按預期運作，讓治理結構更清晰。審查組織的治理模式，確認已明定AI監督責任、配置相應資源，並投入運作。
3. 評估AI風險與控制框架是否充分：AI 帶來眾多新型風險，從資料飄移、偏見，到可解釋性不足及不當使用，這些風險可能無法透過標準的風險矩陣來應對。審計團隊應確認組織已採用公認的框架（如 NIST AI RMF、ISO 42001 或 COSO）來應對相關風險。審查應著重於高影響力模型控制措施的設計與營運效能，並檢視訓練資料、驗證方法與決策邏輯等關鍵要點，是否得到適當的治理與記錄。
4. 將內部稽核融入「負責任的 AI 」流程：部署完成後才進行AI評估的作法已不可行。內部稽核應參與AI設計與部署的完整生命週期，尤其是高風險或直接與客戶相關的模型。針對高風險模型，應建立上線前的審查流程，並加強關注透明度、預計用途及後備管控措施。
5. 提供審計團隊AI工具：組織應探索如何運用AI強化內部稽核效率。試行AI工具，例如用於控制測試、文件摘要、異常偵測等，來簡化整體稽核流程，擴大稽核範圍，並挖掘更多預測性洞見。