□ 孙春蕾 （应急管理大学文法学院副教授）
以生成式人工智能（以下简称GAI）为代表的数字信息技术正成为数字司法场域深刻变革的核心驱动力。GAI在认知、主体、知识和数据等维度引发伦理风险，如传播算法偏见与歧视、泄露隐私、制造虚假信息等方面可能导致科技伦理失范。利益相关者责任意识不足、工具理性与价值理性失衡、数字司法技术的自限性等是引发科技伦理风险的成因。对此，应当遵循技术调节、数字向善、法律监管和伦理规范制定的实践机理，以促进GAI在强化“增进人类福祉”的价值理念、健全伦理规制、增强技术可解释性、加强企业自律、构建风险治理的全球合作机制等方面规范有序应用。
GAI科技伦理风险的成因和表征
导致GAI科技伦理风险的原因包括：机器意识和量子力学发展、人机关系中的异化及技术固有缺陷、信息和内容来源的局限性和无意识镜像反应、算法和算力带来新型数字不平等、监管失职、利益相关者责任意识的欠缺、人工智能应用制度规范建设滞后。
在认知与主体层面，思维能动性发生钝化，数字虚体的介入导致司法工作者主体间交往趋于弱化。在知识和信息安全层面，GAI容易冲击学术诚信、催生知识寡头、在数据收集和使用过程中非法获取个人信息。在人的自主性危机层面，过度依赖技术消解人的主体意识。在数据与公平层面，数智鸿沟、资本垄断进一步扩大GAI发展落差，加剧发展不平衡问题。
GAI科技伦理风险的法律治理策略
一、技术调节，促进技术之“用”与“道”的协同互补
当前，人工智能应用所引发的根本性伦理风险在于工具理性对价值理性的僭越，进而引发人类自身的主体性危机。所谓“技术觉悟”，是指人对技术的认知从盲目的状态中觉醒，形成理性的技术认知。人类需要推进算法与内容的协同治理：算法治理是确保GAI安全、可靠、负责任运行的基础，关键在于提升算法的透明性与可解释性，使算法的设计与运行契合法律、伦理及社会责任要求。
第一，法律应厘清GAI的责任链条，明确开发者的算法设计责任，要求开发者在算法研发过程中恪守公平、公正、透明原则，确保算法不产生歧视性及有害性后果。第二，明确运营主体的运行监督责任，督促运营者建立、实施行之有效的监控机制，对算法运行开展动态监督，及时排查、纠正算法偏差与滥用行为。第三，健全算法审查与评估机制，针对高风险算法开展数据保护影响评估，确保算法运行符合公民个人隐私保护等法律规范。第四，完善数据分类分级保护机制，依据数据对国家安全、公共利益、个人权益的影响差异进行分类保护。
二、坚持数字向善，着力提升服务品质
大数据是人工智能技术的基石及核心要素，数据的精确性、安全性和稳定性直接决定智能系统运行效果，提升数据质量是GAI发展的源头治理方式。
第一，落实数据分类分级保护。依托数据安全法，结合公民个人隐私保护及应用需求，实施不同级别的安全防护措施，从而有效防范数据泄露与非法利用。第二，严格把控数据来源。确保数据来源的安全性和可靠性，需要对数据采集、处理到应用的全流程进行规范管理，禁止通过捆绑或者默认授权等方式强迫、诱导主体作出授权。第三，及时更新优化数据库。通过技术手段及时扩大数据训练规模，确保数据多样性与全面性。
技术具有自然属性和社会属性，自然属性决定了技术异化的必然性和不可消除性，社会属性则决定着技术异化的人为性和可控性。提升数据质量，一方面要对GAI使用数据进行严格限制，避免数据的过度收集和无目的使用；另一方面数据收集应当遵循最小化原则，筑牢数据安全防线。
三、推进人机协作，构建重塑多元主体责任
第一，提升数字司法领域风险预警能力，确保智能技术符合司法规律。需要对GAI科技伦理风险的类型及其危害程度进行等级划分，并制定相应的风险可控方案。第二，加强智慧平台的安全监测和分析。借助行为分析系统、网络安全态势感知系统、统一威胁管理系统等，结合数据脱敏和访问权限控制等技术手段，及时处置网络安全异常情况。第三，建立应急响应及风险防控机制，加强负责任创新。调动各类主体参与监管的积极性和主动性，以分散化和差异化的监管模式推进算法应用监管和创新，实现对人工智能数字司法应用的精准防控。
四、健全制度供给，实现人工智能技术制度体系规范发展
法律制度的完善能够有效弥补伦理原则在实践中的局限。第一，优化人工智能伦理原则，提升伦理治理指导的实践效力。第二，开展人工智能的社会试验，为人工智能的伦理治理提供必要的科学循证。
五、强化法律监管，统筹把握定位并构建多元化保障体系
第一，国际层面，可推动形成专门性国际条约确保发展中国家公平接入与运用GAI技术，破除技术霸权、打破知识壁垒。第二，国家层面，制定包容审慎的政策确保不同地区、不同群体平等享有数字化资源。第三，政府依托行政监管等手段，防止少数科技巨头对GAI进行技术垄断。
六、推进伦理规范制定，强化增进人类福祉的伦理规范
第一，强化GAI企业的创新责任，推动行业自律。第二，充分发挥社会组织的作用，常态化开展相关宣传教育。第三，加强GAI科技伦理风险及其规制的社会公共讨论，探索建立GAI科技伦理风险咨询渠道。第四，将GAI科技伦理风险知识纳入学校教学及科研体系，培养学生的科技伦理思维。
GAI以其独特的内容生成能力在全球范围内迅速兴起，在诸多领域取得显著成果和突破。学界探究GAI技术应用前景的同时，也关注其给人类带来的伦理风险和现实挑战。人类在享受GAI带来科技红利的同时，应以包容审慎的态度看待其对科技伦理造成的潜在影响和风险。这就要求GAI在设计、开发、部署等过程中，遵循伦理原则和法律规范。一方面，健全现有法治体系，加强伦理指导、压实社会责任，确保技术进步不以牺牲人类的基本权利为代价；另一方面，通过多方主体协作和持续开展对话，以前瞻审慎的伦理立场看待GAI技术进步，实现科技与人文的和谐共生，促进GAI真正造福人类。
2026年08月19日
