在人工智能时代构建以代理为先的治理与安全体系

随着企业快速采用人工智能代理，治理方面的关键短板日益显现。德勤的一份报告指出，尽管74%的公司计划在两年内部署自主代理，但仅有21%建立了成熟的治理模型。这些“非人类身份”如果管理不当，将对数据隐私和安全构成重大风险。专家建议建立一个中央“控制平面”，以监督代理的权限、策略和数据使用情况。这种基础设施对于将人工智能从实验性试点扩展到安全的、企业级的生产环境至关重要。如果没有强大的控制机制，自主代理可能会造成巨大的安全盲点，因此必须建立结构化框架以实现可靠且安全的自动化。

来源: https://www.technologyreview.com/2026/04/21/1136158/building-agent-first-governance-and-security