|
环球法治
|
|
□ 本报记者 王卫
近日，欧洲议会内部市场委员会和公民自由委员会以压倒性多数票通过《人工智能法案》提案的谈判授权草案，向立法严格监管人工智能技术的应用迈出关键一步。目前，人工智能监管正在多国进一步推进，因此这一消息也引发国际社会广泛关注。
史上最严监管
根据媒体披露的消息，《人工智能法案》提案的谈判授权草案采取了分类管理的思路，即基于人工智能的风险程度（不可接受的风险、高风险、有限风险和最小风险）进行区别管理，风险较高的应用程序将面临更严格的监管，需要更高的透明度和准确性。
草案将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。例如，除打击和预防特定恐怖威胁外，远程面部识别技术可能被禁止。
草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。
欧洲议会意大利议员布兰多·伯尼菲表示，这样做的目的是“避免建立一个基于人工智能的受控社会”。“我们认为这些技术可以用于好的地方，也可以用来做坏事，风险太高了。”他补充道。
欧洲议会议员们表示，希望确保人工智能系统能够由人工监控、安全透明。
有消息称，欧洲议会的这一草案计划于6月12日至15日提交欧洲议会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。
根据欧洲议会发布的声明，一旦获得批准，该法律将成为全世界首部有关人工智能的法规。法律通过后，违反规定的公司最高可被处以4000万欧元（1欧元约合人民币7.6元）或其全球年营业额7%的罚款。
仍存诸多争议
欧盟委员会大约在两年前提出这一法案设想，旨在“制定人工智能监管的全球标准”。2021年4月21日，欧盟委员会提出了《人工智能法案》提案，这被视为欧盟在人工智能以及更广泛的欧盟数字战略领域的里程碑事件。
自此之后，欧洲议会和欧盟理事会就提案进行了多轮修订和讨论。继欧盟理事会轮值主席国捷克于2022年10月19日分发了提案的第四版折中文本后，2022年12月6日，欧盟理事会通过了关于提案的共同立场，旨在确保投放到欧盟市场并在欧盟范围内使用的人工智能系统安全、透明。
按照原计划，欧洲议会预计在2023年3月就上述共同立场拟定法案版本进行投票。但2023年2月24日，布兰多·伯尼菲和欧洲议会议员德拉戈·图多拉奇提出了一份妥协修正案，包含了欧盟议会议员经过“马拉松式”谈判后提出的反馈意见。例如，针对监管沙盒（经济术语，指一个受监督的安全测试区）机制，反馈中增加了新的措辞，要求建立沙盒机制的监管机构指导和监督高风险人工智能系统的开发人员，以便在他们退出沙盒机制时可以被推定为遵守了法案要求。
随着近期ChatGPT等生成式人工智能技术（指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术）的快速发展，2023年3月14日，布兰多·伯尼菲和德拉戈·图多拉奇提出了一份关于通用目的人工智能草案，提议为这类人工智能系统的提供商设定相应义务，并为相关参与主体设定责任。此外，他们提议，ChatGPT等通用目的人工智能系统的整个生命周期都必须接受外部审计，以测试其性能、可预测性、可解释性、可纠正性、安全性和网络安全性是否符合法案的最严格要求。
鉴于立法者现阶段就法案核心内容仍存诸多争议，且ChatGPT等生成式人工智能技术飞速发展带来监管难题，因此提案的立法进程恐将一波三折。
多国纷纷出手
对欧盟的人工智能立法，国际社会广泛关注。与此同时，为规范人工智能发展，全球多国纷纷着手加强管理，以保证科技创新与社会规范并进。
当地时间4月11日，中国国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），促进生成式人工智能技术健康发展和规范应用。《征求意见稿》在明确了对人工智能算法、框架等基础技术的自主创新、推广应用、国际合作的鼓励态度，在支持优先采用安全可信的软件、工具、计算和数据资源的同时，划定了相关范围，即办法管辖范围、办法管理权限、“提供者”的责任主体认定。此外，《征求意见稿》还将为未来生成式人工智能服务提供者在从业过程中的底线和规范提供法律依据。
美国商务部负责制定新兴技术标准的国家标准与技术研究院今年1月发布《人工智能风险管理框架》。近日，美国商务部下属机构国家电信和信息局宣布，考虑以一种类似金融监管的新系统对人工智能创新进行评估，并设置两个月时间征询公众意见。《华盛顿邮报》称，这是美国商务部迄今应对人工智能技术的最重大举措。
意大利个人数据保护局(DPA)从3月31日起禁止使用ChatGPT，限制OpenAI公司处理意大利用户信息数据，同时对其隐私安全问题立案调查。德国、法国、爱尔兰等国家已开始准备效仿意大利的做法，加强对生成式人工智能的监管。
加拿大、韩国、日本等国家同样开始在人工智能领域采取规范和限制措施。
联合国教科文组织3月底发表声明，呼吁各国政府尽快实施首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。目前有40多个国家与联合国教科文组织开展合作，依据建议书在宏观层面制定人工智能规范措施。
专家分析称，在人工智能立法方面，欧洲处于领先位置。《人工智能法案》提案与后续颁布的《数字服务法案》《数字市场法案》及《数据治理法案》等核心法规一样，均是欧盟重要数据战略的一部分。在人工智能快速发展的时代，欧洲的立法不仅将对欧洲范围内人工智能设计和应用产生影响，也将在某种程度上引导全球人工智能发展的方向。
|
|
|
| 欧洲人工智能技术立法迈出关键一步
|
|
|
|
|
|
| （ 2023-05-22 ） 稿件来源： 法治日报环球法治 |
|
|
 |
| 近日，欧洲向立法严格监管人工智能技术的应用迈出关键一步。图为法国总统马克龙（中左）在圣埃蒂安市视察一家智能机器人公司。 资料图片
|
|
□ 本报记者 王卫
近日，欧洲议会内部市场委员会和公民自由委员会以压倒性多数票通过《人工智能法案》提案的谈判授权草案，向立法严格监管人工智能技术的应用迈出关键一步。目前，人工智能监管正在多国进一步推进，因此这一消息也引发国际社会广泛关注。
史上最严监管
根据媒体披露的消息，《人工智能法案》提案的谈判授权草案采取了分类管理的思路，即基于人工智能的风险程度（不可接受的风险、高风险、有限风险和最小风险）进行区别管理，风险较高的应用程序将面临更严格的监管，需要更高的透明度和准确性。
草案将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。例如，除打击和预防特定恐怖威胁外，远程面部识别技术可能被禁止。
草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。
欧洲议会意大利议员布兰多·伯尼菲表示，这样做的目的是“避免建立一个基于人工智能的受控社会”。“我们认为这些技术可以用于好的地方，也可以用来做坏事，风险太高了。”他补充道。
欧洲议会议员们表示，希望确保人工智能系统能够由人工监控、安全透明。
有消息称，欧洲议会的这一草案计划于6月12日至15日提交欧洲议会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。
根据欧洲议会发布的声明，一旦获得批准，该法律将成为全世界首部有关人工智能的法规。法律通过后，违反规定的公司最高可被处以4000万欧元（1欧元约合人民币7.6元）或其全球年营业额7%的罚款。
仍存诸多争议
欧盟委员会大约在两年前提出这一法案设想，旨在“制定人工智能监管的全球标准”。2021年4月21日，欧盟委员会提出了《人工智能法案》提案，这被视为欧盟在人工智能以及更广泛的欧盟数字战略领域的里程碑事件。
自此之后，欧洲议会和欧盟理事会就提案进行了多轮修订和讨论。继欧盟理事会轮值主席国捷克于2022年10月19日分发了提案的第四版折中文本后，2022年12月6日，欧盟理事会通过了关于提案的共同立场，旨在确保投放到欧盟市场并在欧盟范围内使用的人工智能系统安全、透明。
按照原计划，欧洲议会预计在2023年3月就上述共同立场拟定法案版本进行投票。但2023年2月24日，布兰多·伯尼菲和欧洲议会议员德拉戈·图多拉奇提出了一份妥协修正案，包含了欧盟议会议员经过“马拉松式”谈判后提出的反馈意见。例如，针对监管沙盒（经济术语，指一个受监督的安全测试区）机制，反馈中增加了新的措辞，要求建立沙盒机制的监管机构指导和监督高风险人工智能系统的开发人员，以便在他们退出沙盒机制时可以被推定为遵守了法案要求。
随着近期ChatGPT等生成式人工智能技术（指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术）的快速发展，2023年3月14日，布兰多·伯尼菲和德拉戈·图多拉奇提出了一份关于通用目的人工智能草案，提议为这类人工智能系统的提供商设定相应义务，并为相关参与主体设定责任。此外，他们提议，ChatGPT等通用目的人工智能系统的整个生命周期都必须接受外部审计，以测试其性能、可预测性、可解释性、可纠正性、安全性和网络安全性是否符合法案的最严格要求。
鉴于立法者现阶段就法案核心内容仍存诸多争议，且ChatGPT等生成式人工智能技术飞速发展带来监管难题，因此提案的立法进程恐将一波三折。
多国纷纷出手
对欧盟的人工智能立法，国际社会广泛关注。与此同时，为规范人工智能发展，全球多国纷纷着手加强管理，以保证科技创新与社会规范并进。
当地时间4月11日，中国国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），促进生成式人工智能技术健康发展和规范应用。《征求意见稿》在明确了对人工智能算法、框架等基础技术的自主创新、推广应用、国际合作的鼓励态度，在支持优先采用安全可信的软件、工具、计算和数据资源的同时，划定了相关范围，即办法管辖范围、办法管理权限、“提供者”的责任主体认定。此外，《征求意见稿》还将为未来生成式人工智能服务提供者在从业过程中的底线和规范提供法律依据。
美国商务部负责制定新兴技术标准的国家标准与技术研究院今年1月发布《人工智能风险管理框架》。近日，美国商务部下属机构国家电信和信息局宣布，考虑以一种类似金融监管的新系统对人工智能创新进行评估，并设置两个月时间征询公众意见。《华盛顿邮报》称，这是美国商务部迄今应对人工智能技术的最重大举措。
意大利个人数据保护局(DPA)从3月31日起禁止使用ChatGPT，限制OpenAI公司处理意大利用户信息数据，同时对其隐私安全问题立案调查。德国、法国、爱尔兰等国家已开始准备效仿意大利的做法，加强对生成式人工智能的监管。
加拿大、韩国、日本等国家同样开始在人工智能领域采取规范和限制措施。
联合国教科文组织3月底发表声明，呼吁各国政府尽快实施首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。目前有40多个国家与联合国教科文组织开展合作，依据建议书在宏观层面制定人工智能规范措施。
专家分析称，在人工智能立法方面，欧洲处于领先位置。《人工智能法案》提案与后续颁布的《数字服务法案》《数字市场法案》及《数据治理法案》等核心法规一样，均是欧盟重要数据战略的一部分。在人工智能快速发展的时代，欧洲的立法不仅将对欧洲范围内人工智能设计和应用产生影响，也将在某种程度上引导全球人工智能发展的方向。
|
|
|
