|
|
□ 本报记者 蒲晓磊
十三届全国政协第45次双周协商座谈会近日在京召开。11位全国政协委员和专家围绕“人工智能发展中的科技伦理与法律问题”主题协商议政。
任何一项重大科技创新都会促进社会生产力和生产关系的变化，也会影响社会生活方式和伦理秩序的调整。具有广泛渗透性和颠覆性的人工智能技术，带来的科技伦理与法律问题更加复杂多元，可能引发潜在伦理和法律风险，需要引起高度重视。
一些委员在发言中提出，构建人工智能伦理规范和法律法规要面向人民群众、面向现代化、面向世界。要搞好顶层设计，同步开展伦理和法律层面对人工智能的引领和规范工作，健全相应组织体系和工作机制，加强资源统筹、部门协作、信息共享。建议聚焦人脸识别、语音合成、自动驾驶、服务机器人等领域，有计划、有步骤制定相关法律。
应重视潜在伦理和法律风险
为做好此次会议筹备工作，2020年9月至10月，全国政协专门赴安徽、江苏、北京开展4次调研。在调研过程中，专题调研组了解到，我国人工智能发展势头迅猛，但发展机遇与风险并存，对人类社会发展也可能带来重大风险和潜在威胁。
数据信息采集应用可能侵犯公民权利，威胁隐私；算法偏好可能加剧社会偏见或歧视，威胁公平；机器深度学习难以理解人性和道德，无人驾驶汽车紧急避险等智能决策可能危及特定人群生命，威胁安全；人机交互式产品广泛应用带来的工作生活高度依赖，对人类情感体验、家庭社会关系等带来了一定冲击，可能影响未来社会塑造，威胁伦理……全国政协委员陈智敏作调研情况综述时说，要高度重视人工智能健康发展和风险防范。
正如调研组所看到的，潜在的伦理和法律风险，已经成为影响人工智能健康发展的隐患，必须予以重视。
全国政协委员汪鹏飞说，近年来，人工智能技术的快速发展与普及已经引发了广泛的伦理与风险问题。由于科技伦理涉及法律、道德、文化、宗教、科技等诸多方面，风险治理绝非易事，面对现今科技伦理体系建设中存在的诸多挑战，如何提升全社会科技伦理的认识，进一步强化科技伦理宣传教育，特别是如何使科技从业人员在科技创新过程中从源头强化对科技伦理风险防范的责任感与法律意识，变得尤为重要。
全国政协委员谈剑锋说，人工智能技术的发展是趋势，应该予以支持。但针对个人生物特征、医疗数据等唯一性、不可再生性的重要数据，必须提前设防。生物识别技术应当成为“最后的救济手段”，在使用规范上要有更加严格的要求，防范各类风险。建议采用负面清单制，明确禁止具有唯一特征的不可再生性数据在互联网上的应用，切断风险源头。
构建治理框架推动健康发展
全国政协委员李迎新说，如果将“人工智能产业”比作高速行驶的汽车，那么在努力踩好“油门”不断加速的同时，更应提高风险防控意识，把好运行控制关，确保人工智能产业发展始终在造福人民正轨上行驶。
李迎新的观点，也是与会人员在发言中多次强调的内容——对于可能引发潜在伦理和法律风险的人工智能，必须探索构建相应的治理框架。但同时要明确的是，治理的目的不是约束，而是为了推动人工智能健康发展。
全国政协常委张大方提出，要警惕人工智能发展所带来的社会公平问题。对此，应致力于帮助每个人做好应对的准备，包括帮助学生应对未来的职业挑战，帮助劳动者应对不断变化的行业形势，以及建立相关制度以帮助劳动者和就业机会进行匹配。应大力推广计算思维普及教育，让每一个人都能成为人工智能的理解者与受益者；大力推动各行业数字化转型，让每一家公司都能成为人工智能的使用者与创造者。
“人工智能是一个未来命题，教育同样也是，需要长远布局。立足当下，我们看到的是人工智能对就业带来影响。越来越多简单的重复性劳动，逐步被人工智能取代，后者甚至达到人类难以企及的速度和精准度。而长远看，尚没有充分研究成果显示人工智能可以替代人完成创造性的劳动。我们更需要关注如何在教育中鼓励创造，改革那些交给机器做可以更高效、更精准的工作。通过转变教育方式、推动学科改革，实现对人才培养方向的引导，以优化的人才结构适应未来的需要。”全国政协委员王小川说。
构建规制体系确保可控发展
目前，个人信息保护法草案、数据安全法草案已经提请全国人大常委会审议，关于人工智能的立法框架正在加速构建。
全国政协委员姜伟说，大数据是驱动人工智能创新发展的能源，应该综合考量国家安全、个人信息、数据产权等需求，分级分类分步完善数据法律制度。按照“急用先行”的原则，在保障国家安全、个人信息权利的前提下，建议将数据权利、特别是数据产权保护类法律尽快列入立法计划并及时出台。
全国政协委员黄锦辉提出，国家应积极推行人工智能经济，让企业广泛利用大数据强化自身业务。为确保企业能善用数据，建议强化可解释人工智能技术研发和应用。同时，尽快制定数据监管和治理的法律，严格监管企业所使用数据的质量，维护数据拥有者的解释权。
全国政协委员陈群说，下阶段，人工智能将进一步深入社会生活，需要政府在坚持包容审慎原则的同时，更加积极作为。建议在国家层面搭建人工智能治理框架，设立专业管理机构，加强风险和挑战研判，推动全国性治理原则制定，并探索出台相关法律法规。
清华大学法学院院长申卫星建议，在大力发展人工智能的同时，高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险、化解风险，从技术、伦理和法律三个路径共同构建符合人工智能运作基本逻辑的规制体系，确保人工智能安全、可控发展。
|
| 全国政协召开“人工智能发展中的科技伦理与法律问题”双周协商座谈会
|
| 探索构建治理框架推动人工智能健康发展
|
|
|
|
|
|
| （ 2021-01-01 ） 稿件来源： 法治日报要闻 |
|
|
□ 本报记者 蒲晓磊
十三届全国政协第45次双周协商座谈会近日在京召开。11位全国政协委员和专家围绕“人工智能发展中的科技伦理与法律问题”主题协商议政。
任何一项重大科技创新都会促进社会生产力和生产关系的变化，也会影响社会生活方式和伦理秩序的调整。具有广泛渗透性和颠覆性的人工智能技术，带来的科技伦理与法律问题更加复杂多元，可能引发潜在伦理和法律风险，需要引起高度重视。
一些委员在发言中提出，构建人工智能伦理规范和法律法规要面向人民群众、面向现代化、面向世界。要搞好顶层设计，同步开展伦理和法律层面对人工智能的引领和规范工作，健全相应组织体系和工作机制，加强资源统筹、部门协作、信息共享。建议聚焦人脸识别、语音合成、自动驾驶、服务机器人等领域，有计划、有步骤制定相关法律。
应重视潜在伦理和法律风险
为做好此次会议筹备工作，2020年9月至10月，全国政协专门赴安徽、江苏、北京开展4次调研。在调研过程中，专题调研组了解到，我国人工智能发展势头迅猛，但发展机遇与风险并存，对人类社会发展也可能带来重大风险和潜在威胁。
数据信息采集应用可能侵犯公民权利，威胁隐私；算法偏好可能加剧社会偏见或歧视，威胁公平；机器深度学习难以理解人性和道德，无人驾驶汽车紧急避险等智能决策可能危及特定人群生命，威胁安全；人机交互式产品广泛应用带来的工作生活高度依赖，对人类情感体验、家庭社会关系等带来了一定冲击，可能影响未来社会塑造，威胁伦理……全国政协委员陈智敏作调研情况综述时说，要高度重视人工智能健康发展和风险防范。
正如调研组所看到的，潜在的伦理和法律风险，已经成为影响人工智能健康发展的隐患，必须予以重视。
全国政协委员汪鹏飞说，近年来，人工智能技术的快速发展与普及已经引发了广泛的伦理与风险问题。由于科技伦理涉及法律、道德、文化、宗教、科技等诸多方面，风险治理绝非易事，面对现今科技伦理体系建设中存在的诸多挑战，如何提升全社会科技伦理的认识，进一步强化科技伦理宣传教育，特别是如何使科技从业人员在科技创新过程中从源头强化对科技伦理风险防范的责任感与法律意识，变得尤为重要。
全国政协委员谈剑锋说，人工智能技术的发展是趋势，应该予以支持。但针对个人生物特征、医疗数据等唯一性、不可再生性的重要数据，必须提前设防。生物识别技术应当成为“最后的救济手段”，在使用规范上要有更加严格的要求，防范各类风险。建议采用负面清单制，明确禁止具有唯一特征的不可再生性数据在互联网上的应用，切断风险源头。
构建治理框架推动健康发展
全国政协委员李迎新说，如果将“人工智能产业”比作高速行驶的汽车，那么在努力踩好“油门”不断加速的同时，更应提高风险防控意识，把好运行控制关，确保人工智能产业发展始终在造福人民正轨上行驶。
李迎新的观点，也是与会人员在发言中多次强调的内容——对于可能引发潜在伦理和法律风险的人工智能，必须探索构建相应的治理框架。但同时要明确的是，治理的目的不是约束，而是为了推动人工智能健康发展。
全国政协常委张大方提出，要警惕人工智能发展所带来的社会公平问题。对此，应致力于帮助每个人做好应对的准备，包括帮助学生应对未来的职业挑战，帮助劳动者应对不断变化的行业形势，以及建立相关制度以帮助劳动者和就业机会进行匹配。应大力推广计算思维普及教育，让每一个人都能成为人工智能的理解者与受益者；大力推动各行业数字化转型，让每一家公司都能成为人工智能的使用者与创造者。
“人工智能是一个未来命题，教育同样也是，需要长远布局。立足当下，我们看到的是人工智能对就业带来影响。越来越多简单的重复性劳动，逐步被人工智能取代，后者甚至达到人类难以企及的速度和精准度。而长远看，尚没有充分研究成果显示人工智能可以替代人完成创造性的劳动。我们更需要关注如何在教育中鼓励创造，改革那些交给机器做可以更高效、更精准的工作。通过转变教育方式、推动学科改革，实现对人才培养方向的引导，以优化的人才结构适应未来的需要。”全国政协委员王小川说。
构建规制体系确保可控发展
目前，个人信息保护法草案、数据安全法草案已经提请全国人大常委会审议，关于人工智能的立法框架正在加速构建。
全国政协委员姜伟说，大数据是驱动人工智能创新发展的能源，应该综合考量国家安全、个人信息、数据产权等需求，分级分类分步完善数据法律制度。按照“急用先行”的原则，在保障国家安全、个人信息权利的前提下，建议将数据权利、特别是数据产权保护类法律尽快列入立法计划并及时出台。
全国政协委员黄锦辉提出，国家应积极推行人工智能经济，让企业广泛利用大数据强化自身业务。为确保企业能善用数据，建议强化可解释人工智能技术研发和应用。同时，尽快制定数据监管和治理的法律，严格监管企业所使用数据的质量，维护数据拥有者的解释权。
全国政协委员陈群说，下阶段，人工智能将进一步深入社会生活，需要政府在坚持包容审慎原则的同时，更加积极作为。建议在国家层面搭建人工智能治理框架，设立专业管理机构，加强风险和挑战研判，推动全国性治理原则制定，并探索出台相关法律法规。
清华大学法学院院长申卫星建议，在大力发展人工智能的同时，高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险、化解风险，从技术、伦理和法律三个路径共同构建符合人工智能运作基本逻辑的规制体系，确保人工智能安全、可控发展。
|
|
|
