如何看待深圳高交会现机器人伤人事件?

已邀请:

枫无痕

赞同来自:

乱逛刚好看到这个问题…

我认为这就是一条基本在胡说八道的无脑新闻。而且点开看一下,新闻里面那张朋友圈截图的第一条和第五条评论应该就是这条新闻的编辑。

首先根据朋友圈不明真相的吃瓜群众的描述脑补出一个“国内首例机器人伤人事件”这样一个添油加醋的标题,然后让在现场的朋友“发一个小胖的照片” 再加上两张那条朋友圈里的原图,然后脑补一下现场的情景,就出了这么个新闻。

明明是手动操作失误,人也是被玻璃划伤的,还“自行打砸玻璃”………这么说看到别人手机掉了是不是就该“惊!手机突然试图摆脱人类控制!”了啊?

你们啊 不要老是想搞个大新闻,bdsclpc nmsyfzd

醉人心

赞同来自:

这就怕了,我们做工业机器人的分分钟带你飞

玲珑塔

赞同来自:

谢邀, 行业相关
首先我们还是来回顾一下事件:
第十八届中国国际高新技术成果交易会于2016年11月16日至21日在深圳举办,本届高交会以“创新驱动、质量引领”为主题,着重展示节能环保、新技术、生物、能源等行业领域内的先进技术和产品,凸显前沿领域的重大突破和创新创业的成就成果,不过本次高交会上出现了一个小插曲。

就是这货,在没有任何的指令的提供下出现了自己行动并且撞击了展会上的玻璃,并且撞碎,甚至直接撞伤了参展的参展的工作人员。



以上就是整个事件的经过。----------------------------------------------------------------
我们抛开 有人可以恶意炒作这件事 的可能性
那么让我们来分析一下,作为一款儿童陪护类型的机器人发生这类事件的可能原因是什么。

因为工作相关,我们工作室 【微博@ 智蟹峡谷】经常会进行一些机器人的测评内容。而儿童陪护类机器人,本身是这个行业里面,目前少数我们觉得存在市场价值的一个类型。

行业内基本上细分包括:
1. 等身的陪护机器人,身高基本和1-5岁的小孩子差不多高,具有一定的移动功能,带有一部分的语音交互,具有避障寻路、远程访问监控、儿童语音早教这类功能, 而这次事件发生事故的小胖机器人就是其中之一。
除了小胖以外,还有一些友商:
例如:1. 小优机器人

2.优弟机器人

3.小武机器人

这类机器人,基本上售价在2000-8000不等




2. 桌面级别的语音机器人,基本上和模型手办差不多大小,并不一定具有移动功能,主打语音交互,远程监控,主要目的是为了给儿童已提供一个交流的伙伴,往往伴随着一些能表达表情的液晶屏。
常见的有:
1.著名的360儿童陪护机器人

2.皮皮机器人

附上我们做过一次皮皮机器人的测评:
超Q智能语音机器人-皮皮mini版语音功能体验_数码_科技_bilibili_哔哩哔哩弹幕视频网
而,第二类机器人,绝大多数价格都在千元以内。
--------------------------------------------------

所有的儿童陪护机器人的最基本的测评参数一点那就是:安全性。
对于等身的可移动的儿童机器人来说,自身重量与最大电机移动速度,决定了它在失控状态下的杀伤力。

在现用的一个人工智能民用环境下,小胖基本上不大可能是拥有自己的智商进行主动攻击人这一点是毋庸置疑的。
但是,
1.代码完全可能失控,相对于纯粹的软件开发,机器人领域特别是民用机器人领域当前研发水平还算不上高超。
2.完全有可能在黑客攻击的环境下被人操控。
3.实际上现在绝大多数机器人都提供了控制app,但是有可能控制的时候操作失误

我们都称前两种状况为失控,后面一种称为人为操作失误。而失控情况下 本身的参数能否对儿童或者成人造成威胁,就成为了安全性的考量指标。

对于非失控的情况下,绝大多数厂商都是标配了 碰撞检测 与断崖检测,保证不会出现撞人和掉落的状况。所以在操作失误下应当可以避免意外发生。
那么这次的小胖究竟自重和最大移动速度有多少?
小胖机器人的研发公司是:北京进化者机器人科技有限公司,而从官网公开的参数上来说:

自重高达 45kg,相当于一个成年女性,而身高只有1米。一个疯了的妹子,向你冲撞过来,你说你受不受伤。具体移动数据,官方未能提供,我们 智蟹峡谷 有机会的话会继续测评相关参数。

--------------------------------------------
这件事对进化者有多少影响?
很明显,这件事起码让很多人知道了进化者这家公司,在业界,进化者本身就是一家擅长让别人知道自己的公司(你懂的)。至于负面影响,我觉得负面影响并没有大家想的那么深,对于这次事件,基本上过不了多久就会被冲淡。反而是让更多人开始了解整个行业。

暂时写到这里,事情有点突然,后续慢慢改
------------------------------------------
事件更新:2016-11-18 17:10:09
官方回复如下:


那些打着标题党的 人工智能苏醒的媒体可以散了。
所以,由此可见小胖的碰撞检测 与断崖检测 存在一定的问题。

------

刚才我们公司内也发生了小优机器人 伤人事件

民用机器人最新动态 微博@ 智蟹峡谷

金玉良缘

赞同来自:

2068年机器人几乎完全占领了地球,人类在党的领导下在南极洲负隅顽抗,人类用尽所有的科技送我回到2018年就是为了阻止机器人起义,现在只需赞助我5000元打到6222222222222银行卡账户上,待我南下去深圳阻止机器人的觉醒后,就安排你接任川普当美国总统

today

赞同来自:

打响机器人革命的第一枪是三星

草莓饼

赞同来自:

高交会号称是“中国科技第一展”,展会上有如此的事故,实在令人愕然。至于官方的解释,前进后退的操作不当,这个理由实在不能令人满意。因为机器人的本身设计,应该有考虑到躲避障碍、操作失误等意外情况的,这是陪护机器人的基本设计原则。这次的事故,会为陪护机器人的推广蒙上一层阴影,增添了大家对机器人使用的担心。

米雪儿

赞同来自:

其实当时看到新闻的第一反应是有点惊喜的:机器人现在已经这么智能了么??能造反起码说明是有自主意识了,虽然机器人有自主意识不一定是好事,但起码说明技术的进步啊。
结果点进去是标题党,切~~~现在的媒体啊,动不动就想搞个大新闻。
希望受伤的人早日康复。

norma

赞同来自:

阿西莫夫从棺材里爬了出来——你们是把我的法则当屎了是吧?!

玄墨染

赞同来自:

有Bug也正常,毕竟自主研发,我没有黑的意思,但是从我这个不专业的角度来看,最基本的安全功能到底有多大作用,单凭一个官方解释的误操作,就能造成这种事故,谁会认可其使用价值。
本人长期接触国内,国外的设备,主要是自控方面的维修,最大的体会是,国内设备,能用,能实现相关的工作要求,但缺乏更全面的故障诊断功能(故障屏蔽方式到是五花八门)及苛刻的安全机制(一套控制器实现全部功能,执行机构没有安全互锁等),维修起来相当头疼,安全隐患很大。在使用过程中小问题很多,排查困难(程序结构很糟糕,逻辑不清晰,大多数都是为实现功能不断累加拼凑的程序片段,各种冗余,重复输出等问题,鄙人能力有限,只敢解读,不敢修改,触一发而动全身啊!
反观国外设备的自控程序,结构化,有专用的安全控制器,逻辑清晰,调试方便,更可怕的是至少一半以上程序都是故障诊断(非常详细)及安全互锁功能(安全冗余,多道检测机制)。
其实最反感的是国内出了事以后媒体普遍的态度,从吹到讽,峰回路转,更恶心的是先讲道理,再拿其他国家类似事件来摆事实,"我们还处于社会主义初级阶段,你看人家大国强国也出过类似的问题……",侮辱吃瓜群众的智商……

Tommy

赞同来自:

家庭机器人如果和工厂的产业机器人一样,一不小心操作失误就把人手给卷进去之类的,那这玩意儿还是老老实实呆工厂里,别去家庭惹祸了。家庭机器人防伤害保护机制是最基本的设计,不管是在自动还是在手动控制下,做不到就别出来祸害。

转眼逝

赞同来自:

优弟机器人 是一款儿童陪伴学习机器人 定位于学龄前儿童的。

偷天换日

赞同来自:

因为这事报道不实,IT之家已经开除了涉事小编

郑人买履

赞同来自:

太高估现在国内这些创业公司的机器人制造水平了吧,这些玩具还好意思称之为机器人吗?还“机器人伤人事件”,我只能呵呵了。

sophia

赞同来自:

bsp工程师表示:屁大点事,有啥好讨论的!

melody

赞同来自:

我以为是多么牛逼的“人工智能”机器人,最后官方解释说是后面拿遥控器的人把后退当成前进了。滋滋,原来是辣鸡遥控玩具。。。。。

世俗姬

赞同来自:

前进和后退都分不清,理由太牵强,又不是刹车和油门。

梦里乡

赞同来自:

官方已回应:
11月17日下午13时50分左右,第十八届高交会1号馆1D32展位深圳展景世纪科技有限公司展台发生意外事件。由于该展商工作人员操作不当,误将“前进键”当成“后退键”,导致用于辅助展示投影技术的一台机器人(又名“小胖”,北京进化者机器人科技有限公司生产)撞向展台玻璃,玻璃倒地摔碎并划伤一名现场观众,致其脚踝被划破流血。意外发生后,高交会驻场医务人员立即到场进行紧急处理和包扎,并随即用救护车将该伤者送往北京大学深圳医院。经医院详细检查,该伤者脚踝缝两针后自行回家。
经向展商和机器人生产企业了解,该款机器人于2015年11月23日在世界机器人大会上首次面世,目前已获得国内相关安全认证。关于此次意外的详细原因正在进一步核实中。

难抉择

赞同来自:

答主只是一个关注科技的大学生,这个回答并不权威只是个人观点。我看到这个新闻很疑惑,在我看来这和人工智能沾不上边。
10月的时候以嘉宾的身份参加了北京亦庄的WRC2016世界机器人大会,主论坛之外的展览展示的机器人有不少类似这种家用机器人和教育机器人。
我所了解到的,在这个领域,机器人还做不到智能,简言之,它们不具备独立思维,也就不是主观选择伤害人类,虽然结果也是伤害了人,但性质完全不同。
举个不太恰当的例子,这就好比自动驾驶汽车失控撞到了人和自动驾驶汽车主管选择撞人的区别。
我觉得真正的问题在于,大家很容易把机器人和智能“妖魔化”,现有的技术水平并不能达到真正的人工智能,独立思维和性格就更不用说了。给我的是一种一辆遥控车失控(错乱)撞到了玻璃,玻璃破碎伤到了人的感觉。【强调:答主并不在现场!了解到的信息也很少,也没有仔细研究这台机器人或者这个公司。回答只是主观推测,望各位专业人士指点解释这个问题。但我认为如果是非智能的程序错乱,真的不应被曲解成人工智能来袭。】

我Angle

赞同来自:

西部世界阿诺德的灵魂容器觉醒了?

要回复问题请先登录注册