生成式人工智能系统测试员尚未形成统一管理标准

□ 本报记者　　　　 赵　　丽
□ 本报见习记者 王宇翔

　　2025年，人力资源和社会保障部在“生成式人工智能系统应用员”职业下新增“生成式人工智能系统测试员”工种，由此，为AI（人工智能）落地把关的“守门人”拥有了正规职业认定。
　　《法治日报》记者在此前的采访过程中发现，随着生成式人工智能合规测试行业加速发展，相关职业培训也迅速兴起，而讲师缺乏实操经验、培训收费高课程价值低等问题也逐步显现。
　　受访专家认为，生成式人工智能系统测试员在人工智能领域的合规性保障中举足轻重，因此，该行业从人才培训到人才监管的各个环节均应受到足够重视。
　　中国传媒大学媒体融合与传播国家重点实验室、计算机与网络空间安全学院教授范永开告诉记者，当前，“人＋智能工具”已经成为一种普遍存在的模式，生成式人工智能系统测试员的专业工作、伦理敏感度以及创意测试思维，为人工智能的健康、可持续发展奠定了坚实的基础。他们不仅要扮演好把关者的角色，更要在机器所不具备的人文、道德、价值观等方面作出合理决策。生成式人工智能系统测试员在职业发展过程中，可能面临数据隐私性、知识产权等方面的困境，这些则关系到整个AI产业能否在法治轨道上健康发展。
　　中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春告诉记者，目前针对生成式人工智能系统测试员尚未形成统一、规范的管理标准。企业自主开展测试工作时，相关岗位多为内部设置岗位，行业层面未建立统一的人员资质管理体系。
　　范永开指出，生成式人工智能系统测试员在工作中面临的隐私测试标准不清晰、滥用风险测试方法不统一、知识产权归属认定标准不明确等问题，根源之一在于缺乏针对这一职业的法律细则。为此，他建议在相关法律法规中明确AI从业人员的职业资格管理要求，为认证体系提供上位法依据。同时，可借鉴其他领域“持证上岗”的经验，对涉及AI安全测试、伦理审查等关键岗位的人员设定法定从业门槛。
　　范永开还提到，应以认证考试的方式评估个人是否具备从事生成式人工智能系统测试员相关工作的资格。通过认证将职业标准从“纸面规定”转化为“可验证的能力评价”。认证考试的设计应遵循“以职业活动为导向，以专业能力为核心”的原则，突出核心理论知识、主流技术及未来发展要求，同时兼顾规范性和可操作性。
　　“具体而言，考试应包含理论知识考核和实际操作能力测试两个部分——理论部分涵盖AI伦理、法律法规、数据安全等知识模块，实操部分则通过模拟真实测试场景，考查测试员在隐私风险识别、伦理合规判断、滥用场景测试等方面的实际能力。”范永开表示。
　　在他看来，与AI相关的标准需要建立更新机制，这一机制对生成式人工智能系统测试员尤为重要。AI技术迭代速度极快，而AI滥用和利用AI进行恶意攻击的手段也在不断翻新，测试员需要不断学习新的测试方法和防护策略。
　　近期，工业和信息化部、国家发展改革委、教育部、科技部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》。受访专家认为，这标志着我国人工智能伦理治理实现了从原则倡导、行业自律向制度化、程序化、全链条、可落地的关键跨越，填补了人工智能领域专门性伦理审查制度的空白。
　　范永开认为，综合现行法律框架和最新出台的治理规则，在制度层面可以确立“单位主责、个人负责”的责任体系。单位必须通过设立伦理委员会、开展培训、建立内部制度等方式，将伦理原则转化为对个人的具体行为要求，个人行为通过单位管理机制实现规范化。此外，可以对密切相关单位开展人工智能科技伦理管理体系相关认证，为从业者提供可供遵循的认证标准和职业发展路径。
　　同时，在受访专家看来，对于直接运用生成式人工智能技术及工具，从事生成式人工智能系统设计、调用、训练、优化、维护管理等关键环节的测试员而言，其所在单位也负有对其进行有效管理和规范的义务，包括但不限于实施严格的岗前培训、制定行为规范，确保人工智能应用的每一步操作都符合法律法规与伦理要求。
　　在范永开看来，技术手段也是规范从业人员个人行为的重要抓手。可将区块链与人工智能相结合，搭建全链路行为审计系统，完整留存测试员操作过程中的提示词输入、推理过程及工具调用日志，实现所有操作全程留痕、可溯源、可核查。
　　范永开建议，行业从业者及相关单位应与高校、科研机构开展深度合作，把实验室科研成果在适配场景中落地应用。例如研发AI驱动的智能合规审查工具，自动核验训练数据的合法性与安全合规性；同时对人员操作进行动态合规监测，一旦出现行为偏离规范的情况，即刻触发预警并开展介入干预。
　　刘晓春认为，亟须建立相关从业人员的专业化培训规范体系。生成式人工智能系统测试员应全面掌握人工智能领域相关法律法规、合规管理要求及技术标准规范。从业人员在开展模型输出内容评价、内容引导工作时，需恪守基本职业伦理，对测试中发现的违规风险问题及时履行上报义务。此外，企业后台基于真实用户交互数据开展的评测工作，需建立严格的隐私信息保护机制，明确从业人员保密管理要求，构建全流程、规范化的人员管理与作业管控体系。