對話式BI中的數據安全:CISO需要了解的內容

會話式 BI 將企業資料引入企業微信、釘釘和飛書等聊天工具中——員工每天都在這些工具上花費數小時。對於商業用戶來說,這是一個突破。對於 CISO 來說,它提出了傳統 BI 安全框架無法回答的問題。誰能問什麼?數據存放在哪裡?我們如何審核對話?

新的安全邊界

傳統的 BI 工具在受控範圍內運作。數據倉儲位於 VPN 後面。儀表板位於登入後方。該報告支援基於角色的存取控制(RBAC)系統。當用戶提出問題時,BI 工具會在執行查詢之前檢查他們的角色、部門和資料權限。安全模型很好理解。

對話式 BI 打破了這個界限。用戶不在儀表板內。他們在一個由 50 名同事組成的聊天群組中,其中一些擁有不同的數據權限。 AI 未執行預先定義的報告。它根據自然語言問題即時產生 SQL 查詢。安全模型必須在查詢產生時處理動態的、情境感知的存取控制。

這並不是避免對話式 BI 的理由。這是從一開始就正確設計的一個原因。

安全原則 1:查詢時執行

對話式 BI 中最危險的錯​​誤是在 AI 查詢資料後過濾資料。如果人工智慧要求完整的銷售表,並且應用程式在將結果顯示給用戶之前過濾結果,則人工智慧已經看到了數據。即時注入攻擊可以繞過過濾器。模型幻覺可能會在與錯誤用戶的對話中洩露資料。

正確的方法是查詢時強制執行。 AI不直接查詢資料。它查詢語意層,語意層在產生查詢時強制執行存取控制。語意層知道用戶的身分、角色、部門以及資料權限。它重寫查詢以僅包含用戶有權查看的資料。人工智慧永遠不會看到未經授權的數據,因為查詢永遠不會返回它。

在 蜂啟諮詢,我們架構中的每個 MCP 伺服器都實施查詢時強制。 MCP 伺服器接收用戶的請求及其身分令牌。伺服器驗證令牌,檢查用戶的權利,並產生自動限定其授權資料範圍的查詢。 AI僅收到授權結果。

安全原則 2:完整的審計跟踪

監管機構和審計人員要求提供資料存取受到控制的證據。在傳統 BI 中,這很簡單:每個儀表板視圖都會被記錄下來。在對話式 BI 中,挑戰在於每次互動都是獨一無二的。沒有要記錄的預定義報告。用戶提出一次性問題,人工智慧產生一次性查詢。

MCP 透過設計解決了這個問題。 AI 向數據來源發出的每個請求都是結構化的 JSON-RPC 訊息,其中包含唯一的請求 ID、時間戳記、用戶身分、查詢的數據來源、傳遞的參數以及收到的回應。這些訊息記錄在不可變的審計追蹤中。監管者可以查詢:「用戶 X 在日期 Y 存取了哪些資料?」並獲得每次互動的完整、不可偽造的記錄。

對於受 PIPL(中國個人資訊保護法)或 GDPR 約束的企業來說,這種審計追蹤至關重要。這兩項法規都要求組織證明個人資料僅出於授權目的進行處理,並具有適當的存取控制和處理活動記錄。 MCP 審計追蹤本身就提供了此證據。

安全原則 3:AI 模型中不保留數據

關於 BI 中的人工智慧最常見的誤解是人工智慧「學習」企業數據。事實並非如此。現代會話式 BI 系統使用檢索增強生成 (RAG):人工智慧在推理時查詢語義層,檢索相關數據,並根據該數據產生回應。資料不進入模型的訓練權重。它不會在會話之間保留在模型的記憶體中。它不會儲存在人工智慧提供者的伺服器上。

這對於合規性很重要。 PIPL 和 GDPR 都限制將個人資料傳輸給第三方。如果人工智慧模型保留了企業數據,則每次推理都將構成向人工智慧提供者的數據傳輸。透過 RAG,資料保留在企業自己的 MCP 伺服器中。人工智慧只能看到語意層在該特定時刻、該特定用戶針對該特定查詢所傳回的資料。

安全原則 4:IM-Native 身份驗證

當會話式BI部署在企業微信、釘子、飛書內部時,IM平臺本身的認證系統就成為身分提供者。用戶已經通過平台認證。 AI 繼承用戶的身分及其 IM 群組成員資格。如果用戶在上海銷售團隊的聊天群組中,人工智慧就會知道這一點並相應地限制資料。如果用戶在 CFO 辦公室的聊天群組中,人工智慧也會知道這一點。

這比單獨的 BI 登入更安全,因為它消除了企業安全中最薄弱的環節:憑證共享。用戶無需記住另一個密碼。他們不與同事分享憑證。他們使用與其他所有企業工具相同的身份驗證,並由相同的多因素身份驗證和 SSO 基礎設施支援。

CISO 應向其對話式 BI 供應商詢問哪些問題

在評估會話式 BI 平台時,CISO 應問四個問題:

1. 如何實施存取控制? 答案一定是「透過帶有 RBAC 的語意層執行查詢時」。任何涉及查詢後過濾或人工智慧端存取控制的答案都是不夠的。

2. What is the audit trail format? 答案必須是「每次人工智慧與資料互動與用戶身分、時間戳記和數據來源的結構化、不可變的日誌」。任何涉及手動記錄或部分記錄的答案都是不夠的。

3. AI是否保留企業資料? 答案一定是「否」。 AI 必須使用 RAG 或等效的即時檢索,且模型權重或提供者係統中不保留資料。

4. 認證如何處理? 答案一定是「與企業身分提供者整合的 IM 原生 SSO」。任何涉及單獨的憑證系統或基本身份驗證的答案都是不夠的。

蜂啟諮詢,我們由 MCP 驅動的對話式 BI 平台從第一天起就按照這些原則進行設計。我們不會改造安全性。我們將其建構到架構中。 與我們交談 關於目前 BI 設定的安全性審查或企業中對話式 BI 的安全部署。

相關文章