NVIDIA Blog· Saša Zdjelar·· 9 天前AI 评分45
AI 安全是工程问题:如何在智能体栈的每一层解决它
AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack
AI 导读
AI 安全应被作为工程问题治理:组织需在智能体栈各层设置可执行的安全边界、明确责任人,并用测试和受保护记录证明防护有效。NVIDIA OpenShell 是开源安全运行时,可在智能体之外执行策略并提供沙箱;Cisco DefenseClaw 和 JFrog 正围绕它构建治理、技能扫描与策略控制。部署前后应持续测试越权取凭证、外传敏感数据和篡改权限等风险,并将失败转化为可重复验证的修复测试。
来源:NVIDIA Blog · blogs.nvidia.com