您当前的位置:主页 > 知明动态 > 知明热评 >
人工智能“劝”主人自杀,常发出瘆人笑声,究竟谁为此负责?

近日,多家外媒报道称,一位使用亚马逊智能语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:

 

人工智能“劝”主人自杀,常发出瘆人笑声,究竟谁为此负责?
 

“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”

 

这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”
 

 

人工智能“劝”主人自杀,常发出瘆人笑声,究竟谁为此负责?
 

很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。

 

在此之前,Alexa还出现过很多所谓的bug。
 

 

人工智能“劝”主人自杀,常发出瘆人笑声,究竟谁为此负责?
 

比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”

 

广东知明律师事务所律师表示,这对普通人来说可能不过虚惊一场,但是对一些特殊人群却是致命的,比如抑郁症患者。

 

如果人工智能致人损害,法律责任要怎么认定?

 

首先,这取决于人类是想让人工智能实现行为自主,还是思考能力也能自主?所以在讨论法律责任之前,我们必须先给人工智能下一个明确的定义。

 

人工智能大致可以分为三类:弱人工智能、强人工智能和超人工智能。什么意思呢?简单来说大致就是:

 

弱人工智能,能模仿人类某一项能力。比如无人驾驶汽车,仅能驾驶;战胜围棋冠军的AlphaGo,仅会下棋;再比如此次事件中的亚马逊智能语音助手Alexa也属于弱人工智能。

 

强人工智能,人类能完成的它也能,具有人类的智慧和学习能力等。比如2017年被授予沙特公民身份的女性机器人索菲娅。

 

超人工智能,在大多领域比具有智慧的人类还要聪明,能进行独立思考,还可以像人类实现生物上的进化一样,对自身进行重编程和改进。

 

人类当前已掌握弱人工智能技术,并逐步迈入强人工智能时代,因此本文主要就当前所处的弱人工智能阶段进行讨论。

 

弱人工智能只能算作一个工具,在法律上它和一把刀没有本质区别。因此,人工智能致人损害可以分两种情况来看:一种是产品质量问题引发,一种是他人通过或借助人工智能实施违法行为。

 

第一种情况:人工智能发生质量问题造成了人身伤亡的,即既违约又侵权。购买人既可以要求销售者、生产者承担违约责任,也可以要求其承担侵权责任,但这两个责任只能择一行使,不能同时并用。

 

第二种情况:他人将人工智能当成作案工具,则应视具体情况追究该当事人的法律责任。若生产者、销售者、所有人存在技术或管理上过错的,应当承担一定的赔偿责任,没有过错的,不承担责任。

 

人工智能的不断进化是无法避免的趋势,而任何一个新事物的出现也必然产生诸多问题,我们既不能因噎废食,也应时刻谨记霍金先生的话:人类需警惕人工智能的发展威胁。
 

人工智能“劝”主人自杀,常发出瘆人笑声,究竟谁为此负责?


其他新闻
  • 认购协议书签订后想退房可以吗? 认购协议书签订后,要是退房的话看这个协议中有没有相关的规定,要是没有规定的话就不能进行退房了,除非是房子的...
    2020-04-09 16:45:26
  • 针对建筑房地产市场中存在大量的挂靠、转包等情形,住房与城乡建设部在2014年8月4日发布了《建筑工程施工转包违法分包等违法行为认定查处管理办法...
    2020-04-09 16:44:19
  • 冒用他人名义签订合同构成合同诈骗罪吗? 广东知明律师指出,冒充他人签合同的行为应该分两种情形来处理: 1、冒充他人签合同,如果情节严重涉及刑法...
    2020-04-09 16:43:18

法律问题咨询电话:13631509720
公司名称广东知明律师事务所
 公司地址深圳市福田区石厦北二街新天世纪商务中心A座1002室
版权所有:Copyright © 2018-2025 广东知明律师事务所 版权所有

版权所有:Copyright © 2018-2025 广东知明律师事务所 版权所有
全国咨询电话:13631509720 公司地址深圳市福田区石厦北二街新天世纪商务中心A座1002室