Chính sách rủi ro của Gateway Agent

Khi Agent điều khiển máy tính qua Gateway Agent (Computer Use), mỗi thao tác được đối chiếu với một chính sách rủi ro trước khi chạy. Chính sách mặc định nằm trong tệp risk-policy-default.json đi kèm Gateway Agent và hoạt động theo nguyên tắc từ chối mặc định.

#Bốn mức rủi ro

Thao tác không có trong chính sách sẽ rơi vào R3 và bị từ chối, nên một loại thao tác mới không bao giờ được chạy chỉ vì chưa ai khai báo.

#Thứ tự xét quy tắc

Gateway xét quy tắc theo thứ tự ưu tiên: R0 trước, rồi R2, rồi R1. Quy tắc đầu tiên khớp sẽ quyết định. Nhờ vậy, một cú nhấp bình thường là R1, nhưng nếu đối tượng nhấp khớp mẫu nguy hiểm thì quy tắc R2 r2-target-destructive được áp dụng trước.

Quy tắc r2-target-destructive áp cho click và double_click khi đối tượng chứa một trong các từ: send, delete, remove, publish, pay, purchase, install, uninstall, overwrite, share. Việc so khớp không phân biệt hoa thường.

#Khi một thao tác cần phê duyệt

1. Phân loại

   Trước khi thực thi, Gateway phân loại thao tác. R0 và R3 dừng ngay với thông báo Action denied: risk level ….

2. Yêu cầu phê duyệt

   Với R2, Gateway tạm dừng vòng thao tác và gửi yêu cầu phê duyệt kèm bằng chứng về trạng thái màn hình. Bạn chọn đồng ý hoặc từ chối; thao tác chỉ tiếp tục khi được đồng ý.

3. Kiểm tra lại trước khi chạy

   Sau khi được duyệt, Gateway kiểm tra lại trạng thái và đối tượng. Mỗi lượt duyệt chỉ dùng được một lần, gắn với đúng thao tác đó, và hết hạn sau 120 giây theo mặc định. Nếu trạng thái đã đổi, thao tác bị từ chối.

#Cấu trúc tệp chính sách

{
  "version": "1.0.0",
  "defaultRiskLevel": "R3_INDETERMINATE",
  "rules": [
    {
      "id": "r2-deletion",
      "riskLevel": "R2_CONSEQUENTIAL",
      "actionTypes": ["delete", "remove", "trash", "erase"],
      "description": "Deletion actions"
    },
    {
      "id": "r2-target-destructive",
      "riskLevel": "R2_CONSEQUENTIAL",
      "actionTypes": ["click", "double_click"],
      "targetPatterns": ["*send*", "*delete*"],
      "description": "Click targeting destructive UI elements"
    }
  ]
}

#Dùng chính sách riêng

Đặt biến COMPUTER_RISK_POLICY_PATH trong .env của Gateway (mặc định ở ~/.rexllm-gateway/.env) để trỏ tới tệp của bạn, rồi khởi động lại dịch vụ.

COMPUTER_RISK_POLICY_PATH=/home/me/policies/strict-policy.json

#Liên quan