Agentic AI编程安全的概念与Terok环境

Agentic AI是软件开发中一种引人入胜的新工具。与“传统”AI辅助编程相比它是巨大的一步，而后者本身在更早时候已是一项可观的突破。通过LLM提供AI支持是一个年轻且飞速发展的领域。“传统”（非智能体）形态在2025年初（约18个月前）变得实用且高效，智能体形态则接踵而至，出现于2025年秋（约9个月前）。除了种种收益与潜力，它也给IT安全带来一些根本性风险。而智能体方式不仅新增了非常严重的风险，还使其他一些风险变得更加危险。在满怀动力探索这一迷人新工具的同时，我们不应忽视风险，而应主动应对。我们提出：（I）对IT安全风险的评估，（II）一个在不破坏其收益的前提下缓解这些风险的概念，以及（III）该概念的一种实现的概述。在这个高度动态的领域，这不太可能是对所识别问题的最终且一劳永逸的答案，但仍是负责任地使用Agentic AI进行软件开发迈出的实质性一步。它也应有助于社区在没有实际遭受其隐含IT安全风险的情况下，尽早并积极评估Agentic AI用于软件开发的潜力。