首页 — 动态 — 竹云动态

浦江潮起,科创扬帆——人机共治时代的信任新秩序

2026-08-03

7月初,一场没有硝烟的“越狱”在OpenAI内部上演:其预发布模型在内部测试中逃出评估沙箱,未经授权访问了Hugging Face的生产环境,并在数天内执行了数千次操作。多项安全分析将此事件定性为典型的身份和访问故障,并由人工智能体放大:权限过高的非人类身份、范围过广的凭证以及对机器/人工智能体活动的监控不足,导致了事态升级。

这个事件的深层意义不在于某个模型“越狱”,而在于它暴露:当AI智能体获得自主行动能力,约束它的身份与权限控制体系尚未就位,将产生巨大风险!因此,建立适配 AI 智能体的全域身份治理与权限管控体系,成为AI与各类型智能体安全部署和可靠运行的必要信任基础!

图1.jpg

1、一场关于信任的行业对话

近日,竹云"构建AI时代数字信任基础设施"AI新品发布会落地上海,来自戴德梁行、嘉兴南湖实验室、上药集团、光明食品集团、科教集团、交大医学院、东方航空、东方国际、上港集团、上海地产、上海建工、上海国投、武田药业、上咨集团、百联集团、隧道股份、临港集团、智算中心、申能集团、上海城投、上海电力、上海化工、华谊集团、上海电建、上海国盛、和黄药业、上海现代制药、上海规划与自然资源局、上海人工智能实验室、普华永道、金龙鱼、联合汽车电子、良信电器、Cross、中建八局、宁德时代、华东政法大学等近百位

嘉宾齐聚一堂,就AI时代的身份治理展开了一场跨行业对话——当智能体开始介入业务决策、调用核心资源、参与供应链调度,身份与权限的边界应如何划定?

竹云董事长董宁在分享中指出:当前大模型企业正逐步转型为类似 “电力服务商” 的公共基础设施供给方,全球AI大模型由于日益激烈的竞争与托管开源模式的兴起,推动价格不断下降。国内外LLM提供商正面临更大的行业压力,如要实现盈利,则须寻找除Token之外的其他收入来源与商业模式。与此同时,模型厂商若向下游应用赛道延伸布局,又可能与客户形成竞争关系。Palantir CEO Alex Karp就此提及到:当企业用户把自身核心业务与数据交给了第三方大语言模型厂商时,不仅服务增值有限,而更可能面临的是知识产权泄露与未来成为竞争对手的风险。Anthropic与Figma的商业关系由合作转为竞争的变化就是前车之鉴。

因此,无论企业选择使用第三方模型,还是本地部署开源模型,都绕不开一套核心底层能力 —— 全域身份治理。谁在调用模型?它有没有权限?它的行为是否可信?这类问题无法依靠大模型本身解决,必须依托独立的数字信任基础设施落地实现。

图5.jpg

2、从IAM到AIAM,定义AI时代的身份与权限新范式

竹云副总裁戴立伟在主题分享中,以近期全球网络安全赛道多起重磅资本并购案例为切入点,解读行业发展趋势:2026 年上半年,Cyera 斥资 10 亿美元收购 Oasis Security、思科 4 亿美元并购 Astrix Security、SailPoint 出资 2 亿美元拿下 Entro Security。三起大额收购传递出清晰的产业信号:AI 身份与权限管理,早已超越单一技术工具范畴,成为组织数字化安全基础设施的核心战略赛道。

图8.jpg

产业底层格局也在同步发生深刻变化。当前大型企业体系内,机器人、算法程序、AI 智能体等非人类身份规模,已达到自然人身份数量的 40 倍。可以说,身份治理的起点是管好 “人”,长期发展终局则是全域统筹 “人机物智能体” 多元主体。

针对这一行业结构性变革,戴立伟完整阐释了竹云面向 AI 时代的产品落地路径。平台以 OneID 统一可信身份底座为核心,实现 “一次认证、全域通行”,以身份作为核心枢纽,打通自然人、业务应用、网络资源、核心数据、AI 智能体之间的全链路可信互联。

在此基础上,配套Trust Agent,依托多维基线引擎对智能体操作行为开展实时监测、动态风险研判。经过大量真实生产场景落地验证,平台累计完成超 2 亿次安全认证,异常风险报警准确率超 90%,对原有业务运行带来的损耗仅控制在 5% 以内。

整套技术能力最终整合形成 AIAM 全域 AI 身份权限管控中枢,围绕可见、可信、可管、可控四大核心能力维度,帮助企业自动摸排全域所有 AI 智能体资产、搭建分级准入授信规范、智能体全生命周期管控体系与身份关联关系图谱;针对高敏感、高风险业务场景,平台还支持启用人工复核强制授权机制,从根源规避 AI 智能体越权访问、数据泄露等安全隐患。

3、圆桌对话

圆桌对话环节以"身份的秩序——从人到AI的信任演进"为主题,四位来自不同行业的嘉宾展开了一场高密度的思想碰撞。他们分别是:戴德梁行董事总经理,项目及企业服务部中国区总裁魏超英,上海交通大学医学院网络信息中心主任陆勤,光明食品集团信息中心主任邓文佶以及上海医药集团股份有限公司信息技术中心主任邵扬。

图15.jpg

第一幕:多行业视角,剖析痛点

讨论从各自的实战经验切入。戴德梁行面对的是商业地产中身份的复杂性——员工、访客、供应商、短期工作人员,各有权限边界,场景不同,信任等级也截然不同。交大医学院陆勤描绘了一个更典型的"跨界"身份迷宫:同一个人在教室是学生、在附属医院是实习医生、在实验室是研究员,加上13家附属医院庞大的医护员工和频繁的人员流动,身份管理几乎没有静止的时刻。光明食品面对的是生态圈的挑战——合作伙伴、零售客户、渠道伙伴,企业需要从单一系统账号管理走向多系统协同,再走向权限与数据的统一管理。上药集团邵扬则用一组真实数据说明了现实的重量:一套统一身份管理系统的上线,仅是数据清洗和账号梳理就耗时数月。

四个行业四种痛点,落点却高度一致——身份管理是数字化的底座,地基不牢,地动山摇。

第二幕:AI时代到来

话题转向AI后,讨论更为热烈。邵扬直言困惑:医药行业要求的是"确定性",而AI Agent恰恰是"黑箱"——不确定性是其内在特征。他抛出了一个在场所有人都需要回答的问题:当一个人授权给多个Agent,这是人的分身,还是非人的边界?这个问题不厘清,企业就不敢真正放手。

邓文佶针对这个话题,重申底线:权限管理"对人负责"的原则不能破,AI应被视为人的子集,只能处理非决策性的辅助工作,最终决策仍需人类确认。陆勤把视野拉向三年之后:数字分身、数字员工、具身智能员工——三类新角色即将涌入现有的身份体系,AGI时代的身份管理与认证将走向多模态、多参数、自然无感,密码的安全性将面临严峻考验。魏超英从行业冲击的角度补上关键一笔:AI会替代部分劳动力,但核心挑战始终是"管住边界"——确保AI不越界决策,最终由人完成总决策。

第三幕:一词定音

论坛尾声,四位嘉宾各用一词收尾:魏超英的"边界"、陆勤的"受控"、邓文佶的"权责"、邵扬的"清晰的体系"。四个词看似各异,却在同一个问题上达成了高度共识——AI治理的地基不在算法,而在于信任体系是否可验证、可追溯、可治理。企业建立数字信任,必须从对人的身份管理延伸到对AI的全面治理。从“管人”到“管AI”,从来不是一道选择题,而是人机共治时代的必经之路。

4、从上海出发,信任版图正加速扩展

上海不仅是国际金融中心,更是科技创新的策源地。医药、医疗、商业地产、民生保障等领域的头部企业与科研机构在此密集交汇,对数字信任的需求尤为复杂且迫切。

一个月前Hugging Face的“越狱”绝非个例。当越来越多的AI Agent获得自主行动能力,身份治理的重要性只会持续攀升。这早已超越了技术工具的范畴,而是整个行业必须直面的基础设施命题。

浦江潮起,智序启航。在迈向人机共治的新纪元里,唯有筑牢数字信任的底座,方能让AI的巨轮行稳致远。