专家建议关键场景须保留“人在回路”

　　□ 本报记者 赵晨熙

　　天下武功，无坚不摧，唯快不破。2026年央视马年春晚上，当胆似铁打骨似精钢的“机械师父”们自带背景音乐出场时，立刻吸引了广大观众的目光。
　　醉拳、剑舞、肘部大回环、连续三次单腿后空翻……这些人类千锤百炼才可能“神功大成”的高难度动作，机器人不仅完成得威风凛凛，还颇具中华武术的神韵，一套套丝滑又连贯的招式让观众看得酣畅淋漓。
　　跳舞、演小品、盘核桃……机器人表演在今年春晚舞台上火出了圈，也向世界展示了中国智能产业发展成果。
　　从“高情商”的人工智能问答到多才多艺的实体机器人，再到用户一句话便能自动完成最优筛选并下单的一站式智能网购……信息技术时代，伴随着智能体的飞速发展，那些曾经在科幻小说中才能出现的场景已逐渐变为现实。
　　智能体作为新一代人工智能的重要落地形态，正在深刻重构生产、消费与服务模式，为数字经济注入新动能，其创新价值与产业潜力值得充分肯定与大力支持。在产业快速扩张、应用持续深化的同时，如何守住安全底线，使治理体系适配新的技术形态，也至关重要。
智能体加速落地期到来
　　“在我输入‘帮我订周末去威海的两天行程’的指令后，它不仅列出了刘公岛、火炬八街、那香海的详细路线，还直接在高德地图生成了导航链接，之后跳转至飞猪显示附近性价比最高的海景酒店，它甚至还提醒我‘周末威海降温，建议带防风外套’……”这是一位网友在网上分享的自己首次通过AI一站式下单的体验，用他自己的话说，这种体验超级“省心”。
　　今年春节期间，很多用户都体验到了“一句话下单”的便捷。比如，用户提出想点一杯奶茶的需求后，某应用会根据用户提出的指定某品牌或口味等具体需求，迅速为用户推荐附近商家，用户选定商品后，该应用会自动选择能用的优惠，用户只需确认订单信息并完成支付即可。想要旅游的用户提出具体需求后，应用会根据需要自动完成查询机票、酒店、天气、亲子景点等工作，并调动相应的购票、住店等App，完成一站式预订与支付。
　　这种一句话就能搞定过去用户需要切换多个App才能完成的舒适体验，在这个春节期间给很多消费者留下了深刻的印象。这种便捷离不开智能体的快速发展。
　　2026年被视为“智能体加速落地期”，行业正在从“能对话”迈向“能做事”。一些新产品推动了跨设备、跨场景的全端协同，智能体经济、智能体电商等新业态正在形成。
　　北京邮电大学网络空间安全学院副教授李朝卓指出，智能体拥有多种优势，相较于传统大模型，智能体在结构上包含感知、记忆、规划、工具调用与行为执行等多个功能模块，因此具备更强的自主性与行动能力。
　　但也因此存在更为复杂的安全隐患。比如，在感知层面可能出现模型幻觉与错误理解，在规划层面可能形成偏离初衷的恶意规划，在工具调用层面则存在权限失控等风险。有专家提醒，需高度警惕智能体贸然介入终端或硬件底层权限所带来的风险，此举极易引发数据隐私、系统安全及合规性等一系列问题，应从技术架构源头强化风险防控。
　　针对这些风险，李朝卓建议引入外部监督机制，强化安全设计，开发更稳健的学习算法，并提升系统的可解释性与透明度，以构建可控、可审计的智能体生态。
　　记者注意到，针对智能体发展中存在的风险隐患等问题，相关部门已经在高度关注。以近年来热度很高的陪伴型人工智能产业为例，国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（以下简称征求意见稿）公开征求意见。
　　征求意见稿精准构筑了确保用户数据隐私安全、把好“沉迷依赖关”、对未成年人等特殊群体予以特殊保护等多重防线，既鼓励用技术慰藉心灵，又坚定划出了隐私、伦理与安全等不可逾越的红线。
关键节点引入用户确认
　　今年春节期间，多款App推出的AI智能下单服务，让用户切实感受到电商智能体带来的便利与创新潜力，也为行业未来发展打开了更大想象空间。
　　业内人士告诉记者，在“预订高性价比酒店”等场景中，用户通常基于便捷体验给出整体授权，而智能体会自动完成比价、消费参考、平台调用、优惠匹配等一整套连贯操作。
　　为进一步提升透明度与安全性，更好保障用户知情权与选择权，多位专家在受访中建议，将风险识别融入智能体执行全流程，对高风险操作实行分级管理，并在关键节点引入用户确认，让“人在回路”更加制度化、可追溯、可核验，让授权更精准、更即时。
　　从推动行业生态健康可持续发展出发，多位专家也建议，智能体发展应注重安全与发展双轨并行，坚持规范引导与创新激励相统一。智能体时代带来了全新的技术机遇与创新空间，在发展过程中充分尊重并衔接现有成熟的移动互联网生态，实现有序融合、协同升级，更有利于人工智能产业行稳致远，实现长期健康发展。
协同构建责任重叠机制
　　“在智能体广泛嵌入生产与交易环节的背景下，数据已成为核心竞争资源，其权利结构与配置方式直接影响市场秩序与竞争机制。”在中国人民大学法学院教授、国务院反垄断反不正当竞争委员会专家咨询组成员孟雁北看来，数据在智能体经济中占基础性地位，围绕数据获取与使用的行为规制尤为关键。
　　孟雁北认为，修订后的反不正当竞争法确立的数据不正当竞争条款强调保护经营者合法持有的数据资源，并对数据获取与利用方式提出正当性要求，具有重要意义。在智能体经济语境下，应进一步明确数据处理行为的正当性边界，审慎界定何种行为构成对市场竞争秩序的扰乱。
　　此外，孟雁北认为，面对智能体经济带来的新型风险与结构性变化，行政监管应坚持法治化路径，可通过“小切口”立法与执法实践，结合具体商业场景逐步完善规则体系，在风险可控的前提下实现创新发展与竞争秩序的动态平衡。
　　北京交通大学法学院副教授、数据法学研究中心主任付新华对智能体产业发展中的责任归属问题颇为关注。付新华认为，在现行法律条件下难以赋予人工智能独立主体资格，也不能简单将智能体等同于用户的代理人。传统代理关系以明确授权与可识别意思表示为前提，而智能体往往在接收模糊指令后，通过上下文推理形成行动决策，其运行机制具有“黑箱”特征，结果亦有不可预见性，难以符合民法典关于代理构成要件的规范要求。
　　基于此，付新华提出，智能体应被理解为介于工具与主体之间的中间构造，单一归责模式不足以回应风险分配需求，应通过多主体协同治理形成责任重叠机制。
　　围绕风险控制能力，付新华构建了四层控制架构，即目标层由用户授权启动，治理层由服务提供商承担权限管理、风控与日志留存义务，接口层通过平台规则与凭证机制规范交互边界，信赖层保障第三方基于规则形成的合理信赖。对外规则方面，可原则上推定交易成立，同时设置数字化冷静期赋予用户撤回权；对内则通过最小权限原则、关键节点干预、异常阻断与全链路追溯机制强化运营治理，并在必要时引入产品责任及用户过错责任分配规则。