|
两会特刊
|
|
□ 本报记者 蒲晓磊
近一段时间，我国人工智能领域迎来里程碑式突破。国产大模型DeepSeek凭借其技术范式的革新和性能优势跻身全球大模型第一梯队，与此同时，大模型与生俱来的“幻觉”问题也引发广泛讨论。
在今年全国政协会议上，全国政协委员、360集团创始人周鸿祎关注大模型安全和“幻觉”，他认为，以DeepSeek为代表的大模型，不仅促进了大模型技术自主创新，也带动了上下游产业协同发展，让大模型加速走进百行千业，成为推动中国科技进步、经济增长和国家强盛的关键力量。
“但也要注意到，包括DeepSeek在内的大模型都存在‘幻觉’，偶尔会生成看似不合理、与事实不符的结果。‘幻觉’是一把双刃剑，是大模型与生俱来的特点，不可消除，也决定其创造力和想象力，对于实现AGI（通用人工智能）极其重要。如果大模型没有‘幻觉’，就失去了想象力和创造力，而且越是能力强的大模型，一般来说‘幻觉’也越多。”周鸿祎说。
周鸿祎认为，在科研领域，大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等，为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域，“幻觉”虽然可能出错，但可以利用技术手段，通过比对专业知识库、网络实时信息等方式予以矫正。
周鸿祎表示，回顾过去30年，我国法律法规明确的“避风港原则”让企业敢于投入创新，带来了互联网行业的繁荣，也为“互联网+”“人工智能+”等提供了技术、产业和人才支撑。
周鸿祎认为，对于大模型的监管，不能因为过度追求准确而限制其创造力。对此，建议借鉴“避风港原则”这一成功经验，对大模型以及相关的产品和服务实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，避免直接关停下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争，争取让更多企业“复制”DeepSeek的成功。
|
| 周鸿祎委员建议借鉴“避风港原则”
|
| 对大模型及相关产品服务实施柔性监管
|
|
|
|
|
|
| （ 2025-03-05 ） 稿件来源： 法治日报两会特刊 |
|
|
□ 本报记者 蒲晓磊
近一段时间，我国人工智能领域迎来里程碑式突破。国产大模型DeepSeek凭借其技术范式的革新和性能优势跻身全球大模型第一梯队，与此同时，大模型与生俱来的“幻觉”问题也引发广泛讨论。
在今年全国政协会议上，全国政协委员、360集团创始人周鸿祎关注大模型安全和“幻觉”，他认为，以DeepSeek为代表的大模型，不仅促进了大模型技术自主创新，也带动了上下游产业协同发展，让大模型加速走进百行千业，成为推动中国科技进步、经济增长和国家强盛的关键力量。
“但也要注意到，包括DeepSeek在内的大模型都存在‘幻觉’，偶尔会生成看似不合理、与事实不符的结果。‘幻觉’是一把双刃剑，是大模型与生俱来的特点，不可消除，也决定其创造力和想象力，对于实现AGI（通用人工智能）极其重要。如果大模型没有‘幻觉’，就失去了想象力和创造力，而且越是能力强的大模型，一般来说‘幻觉’也越多。”周鸿祎说。
周鸿祎认为，在科研领域，大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等，为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域，“幻觉”虽然可能出错，但可以利用技术手段，通过比对专业知识库、网络实时信息等方式予以矫正。
周鸿祎表示，回顾过去30年，我国法律法规明确的“避风港原则”让企业敢于投入创新，带来了互联网行业的繁荣，也为“互联网+”“人工智能+”等提供了技术、产业和人才支撑。
周鸿祎认为，对于大模型的监管，不能因为过度追求准确而限制其创造力。对此，建议借鉴“避风港原则”这一成功经验，对大模型以及相关的产品和服务实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，避免直接关停下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争，争取让更多企业“复制”DeepSeek的成功。
|
|
|
