| | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | |

孙佑海:防范人工智能引发风险的法治监管研究

2018-06-08 09:25:15

消息来源:中国行为法学会 评论
编者按:2018年4月14日,《中国法治实施报告(2017)》发布会暨“新时代中国法治实施新任务新特点新趋势”专题论坛在京举行。来自全国人大、最高人民法院、最高人民检察院、司法部、地方各级法律实施机关以及学界专家代表近百人出席了会议。专题论坛阶段,天津大学法学院院长孙佑海教授发表主题演讲。

      防范人工智能引发风险的法治监管研究

\
                 孙佑海


尊敬的江会长和各位领导、各位专家:
 
  在人工智能技术日新月异并投入使用,其所引发的各种法律风险也接踵而至。如何调整“促进”与“规制”人工智能发展的法律价值目标?如何应对人工智能技术带来的各类风险?如何设计人工智能时代的调控规范体系?以上,对法学界提出了紧迫而重大的课题。
 
  有关案例。以无人机为例。虽然无人机给人们带来很大便利,但其风险很大。有报道说美国有无人机突破层层防守,在白宫降落。我们不得不担忧,我们的重点保护目标被无人机突破怎么办?安全如何保障?再如无人驾驶。无人驾驶汽车非常方便,据说百度公司大力发展无人驾驶汽车,认为无人驾驶可以避免人工错误减少事故发生。但是,无人驾驶也有很大的问题,前不久有无人驾驶汽车在美国公路上行使,结果把人撞死了。各种人类不可预见的事情还有很多。撞死人怎么办,责任由谁来承担?这些都需要论证。再如机器人。大家用起机器人来十分方便,但是,前几天出了一个事故,实验机器人跟未成年人玩耍,结果把儿童勒死了,该事故的责任由谁来承担?这样的问题今后会发生很多。其他与人工智能发展相关的问题还有很多,例如涉及到种族问题、民族问题、政治问题。由于机器人学习能力很强,通过深度学习可以训练机器人,如果教它搞民族歧视,教它谩骂政府,就会引发政治问题。以上的案例告诉我们,发展人工智能如果不注意防范,会对社会治理、安全保卫等领域带来很大风险。
 
  我概括了一下,在大力发展人工智能的同时,要注意以下十大风险:
 
  第一,意识形态和国家安全风险。通过人工智能深度学习的手段,灌输并传播错误的观点,这对我们党的宣传工作是严峻的挑战。与之相适应,对国家安全也带来很大的风险。
 
  第二,军事风险。机器人和无人机的强势开发使用,将会大大提升有关方面的战斗力,必将对我国的军事管理和军力对比,带来很大的风险。
 
  第三,公共安全风险。机器人勒死人,无人驾驶汽车撞死人,无人机升空进行攻击,会有很大的风险。
 
  第四,社会不稳定风险。现在人工智能大发展,许多就业岗位被机器人的各种新设备取代。很多会议,原来还要请打字员打字,现在不需要了,因为语音设备去了,他们的职业逐渐丢失了。人工智能大发展后,大量裁员的问题会很普遍,这会引发社会不稳定风险。
 
  第五,伦理风险。用机器人搞色情服务,机器与人类结婚。去年沙特阿拉伯赋予机器人公民的资格。这些事都涉及到很复杂的伦理和法律制度问题,引发大量的伦理道德和法律等方面的风险。
 
  第六,个人隐私风险。无人机等不加限制的使用,泄露个人隐私的问题很严重。目前,很多问题都在暴漏之中。
 
  第七,算法歧视和数据歧视。算法就是标准。有些标准,政治上不合格,引发民族不平等、种族歧视、年龄、性别等问题,带来很大风险。
 
  第八,知识产权风险。人工智能情况下知识产权风险大大增加,使得剽窃行为更加容易,从而造成很大的知识产权风险。
 
  第九,信息安全风险。目前很多信息公司搜集大量信息,公民个人的一举一动都在他们的数据库里。有的家庭刚生了孩子,马上就有人打来电话,问你要不要购买什么他们的“月子”产品;刚刚买了房子,马上就有人打来电话问你要不要购买他们公司的装修装饰用品。这是为什么?因为数据被搜集之后,个人信息安全遇到巨大风险。
 
  第十,未成年人身心健康风险。未成年人保护,特别是少年儿童终日沉溺于网络和人工智能机器,养成网瘾和人工智能瘾,不利于他们的成长进步。加之人工智能有深度学习功能,如果不抓紧预防,很容易让少年儿童养成不良习惯。  
 
  以上,是当前已经发现的风险。未来还有更多的风险,需要我们认真研究对策方案。
\

怎么办?解决上述问题,首先要明确正确的指导思想。
 
  第一,指导思想就是“两手抓”。一手抓人工智能的发展,这是不可阻挡的趋势;另一手,我们要防范风险。防范风险是对发展最大的支持。  
 
  第二,法学领域有两个重要理论,一是损害者担责,但在人工智能问题上“确责”比较难。二是预防为主。也就是说,不要等到问题出现之后,再去处理事故,而要尽量往前赶。
 
  在立法执法司法领域。一是建议有关方面加紧研究制定“人工智能发展与风险防范法”。二是落实发展人工智能的执法,主要是制定人工智能领域配套的各种技术规范、技术标准,否则执法部门开展工作没有依据。执法要严格。三是司法机关要及时依法“确责”和“问责”。在依法“确责”领域,首先是刑事、民事审判两大“确责”领域。其次是行政审判领域,既要支持行政部门开展工作,又要支持老百姓依法告政府和有关部门,保障各级政府依法行政。
 
  在守法领域,我主要想强调一下,作为人民的科学家,您在设计人工智能产品的时候,应当对国家、社会、民族和人类的未来有强烈的责任感和强烈的使命感。企业家不能唯利是图。不能什么市场需求什么就设计什么产品,应该有个道德的底线。
 
  第三,人工智能发展给大学法学教育提出更高、更新的要求,各地法学院要培养以人工智能为代表的高科技的法律人才,培养又懂法律又懂人工智能的高素质人才。
 
  第四,天津大学法学院人才培养的特点,是培养既懂科技又懂法律的人才。这是天津大学法学院毕业生不同于其他高校毕业生的特殊之处。天津大学成立中国智慧法治研究院,学校立即拨款支持,给我们以很大的鼓舞。天津大学中国智慧法治研究院,要及时向老师和学生们的研究工作提供数据支持。
 
  诚挚邀请大家今后多到天津大学法学院来,多到中国智慧法治研究院来,尝试一下我们整理的数据,争取给大家以更多的惊喜。
 
  谢谢大家。
[责任编辑:法治实施]

相关专题:两名侥幸生还矿工的幸与不幸

频道
分站

中国法治国际互联网站版权所有,未经协议授权,禁止下载使用或建立镜像
Copyright © 2014 by Chinaruleoflaw.net All rights reserved. Reproduction in whole or in part
without permission is prohibited
备案号:京ICP备09001449号 京公网安备:110108008263号 许可证号:京ICP证140110号
广播电视节目制作经营许可证:(京)字第03531号 网络文化经营许可证:京网文(2014)0781-181号

关于我们 | 关于中国法治 | 联系方式 | 学会动态 | 编辑部 | 法治编辑部 |