跳到內容

安全與治理

Agent 不是超級帳號:它代表使用者行事,實際權限是交集。五道防線、動作分級與提示注入各有一頁。

agent(你在 Dot Agents 裡建立的 AI 同事)能動手,所以邊界要更清楚。這一區把安全做系統性的整理:第一原則是「Agent 不是超級帳號」,接著是五道防線、哪些動作可以自動、以及一封客戶來信也可能是攻擊時怎麼辦。每一道都不是新發明,都是公司既有的資安原則,只是現在要套用到 AI 同事身上。安全不打折,才能創造更多可能。

第一原則:Agent 不是超級帳號

最常見的錯誤,是給 agent 一個「萬能帳號」:方便,但業務助理突然查得到全公司薪資,出事時不知道是誰要求的,而且權限永遠只會越開越大。

正確做法是讓它代表使用者行事:實際權限是「使用者本身的權限」與「這位 agent 被允許的範圍」兩者的交集。

Agent 不是超級帳號:權限交集示意圖

你透過 agent 查不到的資料,就是你本來就查不到的資料。agent 不是權限的後門。

左圈是使用者本身的權限,右圈是這位 agent 被允許的工具;它實際能做的只有中間重疊的那一塊。業務透過 agent 查不到的資料,就是業務本來就查不到的資料。

在產品裡:代表使用者行事

跟它說話的人是誰,決定它這一刻能做什麼。這件事由受眾與工具三態一起決定:

對面是誰 它拿到的權限
同事在對話頁 受眾「對內・對話頁」:它查得到團隊的東西、做得了事,但不能改 agent 本身與團隊設定。代理某位成員做事時,看的是那位成員本人的權限,不是 agent 自己的授權
客戶在 LINE、網站小工具 受眾「對外」:會動到內部文件、記憶、agent 或團隊資產的工具自動收掉,要放寬得逐項打開
營運者在主控台 完整能力,對話會寫進長期記憶

受眾是基準線,工具分頁是上限。兩層都過了,它才動手;設成需核准的,再多一道人按下去。它不會成為權限的後門。

這一區的頁面

  • 五道防線:身分與權限、最小工具集、寫入分級核准、資料邊界、稽核與可回復,每一道在產品裡是哪個設定。
  • 動作分級:自動執行、做完通知、需人核准、禁止,怎麼對到工具三態。
  • 提示注入:外部內容是資料不是指令,那封藏了指令的詢價信為什麼得逞不了。

本區頁面

本頁對應 v0.111.1