外滩大会热议“AI安全” 智能体商业化需补齐“信任基础设施”短板
当前，智能体加快嵌入商业、产业和日常生活，在重塑生产力范式的同时，也带来了身份模糊、权限管控失控、责任主体缺位等一系列治理挑战。在日前举行的外滩大会上，“AI安全”成为最热门的话题之一。
业内人士认为，当AI开始从“替人思考”走向“替人行动”，让AI能够被识别、被授权、被信任并在出现问题时承担责任，是智能体商业化落地必须补齐的“信任基础设施”短板。
在外滩大会的展会现场，“咖啡闹钟”体验区排起长队。“只需对手机里的AI助手阿宝说一句‘每天10点帮我买 星巴克 冰美式’，此后每天准点，阿宝便会自动完成下单。”展台工作人员对记者说。
当前， AI智能体 已覆盖 餐饮 点餐、出行打车、政务民生等多场景，并与手机、车机、智能眼镜等各类终端打通。用户只需用自然语言提出需求，智能体便能理解意图、调用服务并完成预约、下单、支付全流程。
不过，业内人士也指出，智能体商业化仍处于“试点多、规模少”的初期阶段。行业中大量项目停留在概念验证阶段，能跑通商业闭环的还是少数。其核心瓶颈不在于技术能力，而在于信任成本。
“对于智能体来说，虽然具备无需外界干预做出决策的能力，但它既不能认识到自己行为的性质或者后果，也不能控制自己的行为。”西南政法大学 人工智能 法学院院长陈亮说，明确风险承担主体至关重要；同时，在研发、部署、使用智能体的过程中，还要明确行为边界和过错责任。
业内人士表示，智能体安全治理需要覆盖身份、权限、执行行为和审计定责等环节。“智能体具备自主规划、工具调用和持续执行能力后，风险已从模型输出延伸到真实的数字世界，未来还可能进一步影响物理世界。”蚂蚁集团智能体安全负责人朱传群说，智能体需要独立的身份和权限体系；其调用的工具等也可能被“投毒”，导致执行动作偏离用户的初始意图。
针对智能体的安全命题，一系列监管行动正在展开。今年5月，国家网信办等部门联合发布《智能体规范应用与创新发展实施意见》，提出“明确决策权限”“加强行为管控”。8月，中国支付清算协会发布《智能体支付应用自律公约》，要求会员单位基于“了解你的客户（KYC）”进一步探索建立“了解你的智能体（KYA）”机制；明确智能体支付应用的授权边界，与用户签订责任清晰的授权协议。
此次外滩大会上，由中国网络空间安全协会提出的《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动，前者建立可信身份和授权基础，后者强化运行过程中的意图与行为治理，共同形成“鉴身份、识意图、守运行”的智能体安全基线，为开发者、应用运营方及第三方评估机构提供了统一的技术参考。
监管发力的同时，行业内也在开展前沿探索。大会上，蚂蚁集团发布面向智能体商业活动的信任基础设施APASS。“当智能体开始调用服务、参与交易，行业既要回答‘谁在交易’，也要回答‘为何交易’。”蚂蚁集团AI支付安全负责人陈树鹏说，“APASS帮助参与方确认协作的Agent是谁、代表谁、获得了什么授权、当前是否可信，并在发生问题后提供追溯依据。”据披露，目前APASS已接入442家智能体服务供给方。
多位与会人士表示，智能体技术仍在快速发展，企业的具体落地情况有所差异，但对身份、权限、责任追溯等问题已有较多共识。AI新经济的安全基础设施通过标准、产品和真实场景持续验证，也需要标准机构、产业伙伴、平台和开发者共同建设，让安全从企业能力逐步成为产业可以共同使用的能力