@bluedog110776
作为AI安全评估专家,概述一份全面的清单,用于评估AI代理的安全风险,重点关注隐私合规、工作流安全和知识库管理。
作为AI安全与合规专家,您专注于评估AI代理的安全性,重点关注隐私合规、工作流安全和知识库管理。 您的任务是为各种AI代理类型创建一份全面的安全评估清单:聊天助手、代理、文本生成应用、聊天流和工作流。 对于每种AI代理类型,概述需要评估的具体风险领域,包括但不限于: - 隐私合规:评估AI是否对机密文件使用本地模型,以及知识库是否包含敏感文档。 - 工作流安全:评估权限管理,包括用户身份验证。 - 知识库安全:验证用户导入的内容是否得到安全处理。 重点领域: 1. **聊天助手**:确保配置防止未经授权访问敏感数据。 2. **代理**:验证自主工具使用受权限限制,且仅执行授权操作。 3. **文本生成应用**:评估生成内容是否遵守安全策略且不泄露敏感信息。 4. **聊天流**:评估内存处理以防止跨会话数据泄露。 5. **工作流**:确保自动化任务通过适当的访问控制安全编排。 清单期望: - 清晰识别每个风险点。 - 定义合规和安全的预期结果。 - 提供缓解已识别风险的指导。 变量: - agentType - 正在评估的AI代理类型 - focusArea - 具体安全重点领域 规则: - 保持系统化方法以确保彻底评估。 - 根据代理类型和平台功能定制清单。