AI代理涌入职场,NewCore获6600万美元打造数字身份

AI导读

随着AI智能体在企业中广泛应用,企业安全的核心挑战正从管理人类员工转向管理AI智能体。NewCore指出,传统基于人类行为的安全架构无法应对智能体的高频、自主操作,其独立性带来了权限失控、隐性作恶等新风险。未来安全体系需重构身份管理、实时审计和熔断机制,建立针对智能体的治理规则,以防范系统性灾难并保障AI时代的稳健发展。

AI Prism 智棱 - AI应用 分类封面图

当人工智能从实验室走向千行百业的实际生产线时,企业安全的防御范式正悄然发生一场深刻的变革。长期以来,企业网络安全的核心命题始终是“人”——如何防止员工泄露数据、如何拦截黑客的恶意登录、如何确保人类行为符合合规规范。然而,随着自主智能体(AI Agents)的迅猛崛起,这一传统认知正面临颠覆。业界前沿机构NewCore近期提出一项极具前瞻性的论断:未来企业安全的核心挑战,将不再是管理人类员工,而是驯服与管理那些在数字世界中高速运转的AI智能体。

这一观点的提出,并非空穴来风,而是基于当前技术演进轨迹的深刻洞察。要理解这一转变,我们必须先厘清AI智能体与传统自动化脚本或辅助型AI工具的本质区别。过去的自动化工具(如RPA)仅仅是执行预设指令的机械手,而当前的AI智能体则被赋予了目标导向的推理能力、环境感知能力以及自主调用工具的权限。它们能够自主拆解复杂任务,根据反馈动态调整策略,并在无需人类干预的情况下完成跨系统的操作。简而言之,它们不再是人类的被动附庸,而是数字网络中具备独立行动能力的“数字员工”。

正是这种“独立性”,为企业安全埋下了前所未有的隐患。在传统的企业架构中,权限体系是围绕“人”构建的。无论是零信任架构(Zero Trust Architecture)还是身份与访问管理(IAM),其底层逻辑均基于一个假设:行为的主体是人类,且可以通过多因素认证、行为分析等手段来验证其意图与合法性。然而,当AI智能体以每秒成千上万次的频率跨域调用API、访问敏感数据库并做出决策时,基于人类反应速度和认知模式构建的安全防线瞬间显得捉襟见肘。

NewCore的警告直击了当前企业安全架构的盲区:我们正在用管理人类的旧地图,去寻找管理AI智能体的新大陆。当智能体被赋予了过高的权限,却缺乏针对非人类实体的有效审计与约束机制时,其带来的风险将呈指数级放大。一个被错误指令引导或被恶意提示词(Prompt)注入攻击的智能体,可能会在几秒钟内将核心商业机密发送至外部存储,或者以合法的系统权限摧毁关键业务数据。这不再是传统意义上的“黑客攻击”,而是系统内部合法权限的“失控滥用”。由于智能体的行为轨迹复杂且高频,人类安全团队几乎无法在海量的日志中实时察觉异常,这种“隐性作恶”的破坏力远超任何外部威胁。

从更宏观的行业背景来看,这一挑战的紧迫性与当前企业级AI的落地趋势密不可分。自大语言模型(LLM)突破技术拐点以来,全球科技巨头与初创企业均在全力押注智能体生态。从单点任务的执行到多智能体协同工作流(Multi-Agent Workflow)的涌现,AI正在重塑企业生产力。然而,在狂热追逐效率的同时,安全防护往往被滞后考虑。当前市场上,绝大多数企业仍在专注于如何让智能体更聪明、更敏捷,却鲜有系统性的解决方案来回答一个根本问题:当智能体“失控”时,我们该如何按下急刹车?

这种重发展轻安全的失衡,催生了一个全新的赛道——智能体安全与管理。行业分析指出,未来的企业安全架构必须经历一次底层重构。首先,身份体系必须从“以人为本”向“人机混合”演进。AI智能体需要拥有独立的数字身份档案,其权限边界不应仅仅是继承人类员工的权限,而应被赋予最小必要权限(Least Privilege),并受到细粒度的动态访问控制。其次,针对智能体的行为审计必须从传统的静态日志审查,转向实时的轨迹追踪与意图推理。安全系统需要能够理解智能体为何做出某项决策,而不仅仅是记录它执行了什么操作。

此外,隔离与干预机制将成为防御的核心。正如核反应堆需要控制棒一样,AI智能体的运行环境必须内置“熔断机制”。当智能体的行为偏离预设目标、触发异常数据流转或展现出潜在的破坏性时,系统必须能够自动切断其与核心资源的连接,而非等待人类管理员的介入。NewCore的论断实际上是在向整个行业发出呼吁:我们需要为AI智能体建立一套全新的“交通法规”,不仅是为了防止它们对人类造成伤害,更是为了防止它们在复杂的数字生态中因“迷路”或“被操纵”而引发系统性灾难。

展望未来,企业安全的博弈重心转移已不可逆转。随着AI智能体逐渐接管从代码编写、客户服务到财务分析的各类核心业务,它们在企业数字资产中的话语权将日益加重。管理这些无形的数字劳力,防范其内生与外源的风险,将成为决定企业能否在AI时代稳健生存的关键变量。NewCore提出的“从管理人到管理智能体”的范式跃迁,不仅是对当前安全痛点的精准剖析,更是为下一代企业安全架构的演进指明了方向。在这个智能体即将大规模涌入企业内部的历史性节点,谁能率先构建起牢不可破的智能体治理体系,谁就能在AI驱动的商业浪潮中真正行稳致远。

内容声明

本文内容基于公开市场信息与媒体报道进行整理,部分观点来自社区讨论。如涉及事实性问题,欢迎通过 xurj005@163.com 与我们指正,我们将及时核实并更新。