Williams爬到上面开始工作时,一只机器手臂也处于运行状态。很快,机器手来到Williams身边,撞到了他的头,他当场死亡。机器手还在继续工作,而这名工人的尸体直到30分钟之后才被发现。
在那个冬日,Williams成了历史上第一个被机器杀死的人。
这样的事件完全是机器的无心之失。当时的工厂没有相关的保护设施和警报措施。1979年的人工智能还没有发展到能够预防这种事情的程度。最后,陪审团裁定,机器在设计时没有将这种事情考虑进去,Williams的家人得到了1000万美元的赔偿金。
第二例机器杀人事件发生在两年后的日本,情况也类似:机器没有感应到37岁工人Kenji Urada的存在,无意中造成了他的死亡。
随后,机器人专家、电脑学家和人工智能专家一直在努力解决这个问题,他们想让机器安全地与人类互动。
几十年后,人类因机器而死的报导似乎越来越常见。Uber和特斯拉的自动驾驶车辆就曾因为杀死乘客或撞到路人而上了新闻。虽然现在的安全设施越来越发达,但问题仍然存在。
虽然这些死亡事件都不是机器有意为之的,但受到《终结者》和《黑客帝国》等电影和小说的影响,人们很担心人工智能会发展出自我意志,最终伤害人类。
牛津大学科学家Shimon Whiteson将这种担忧称为“拟人化错误”,这种谬论认为“拥有与人类相似智力的系统也一定拥有类似人的欲望,比如求生欲、自由欲望和对尊严的渴望等。但这是不可能的,因为一个系统只会拥有我们所赋予的欲望。”
他认为价值观偏差才是对人类的更大威胁,即程序员所下达的命令可能与他们的真实意愿有所不同,即机器不能完全理解人类的命令。随着电脑变得越来越智能化和自动化,价值观偏差导致的结果将更为严重。
另外,他认为出于军事目的而故意设计的杀人机器才更可怕。这也是为什么全球的AI和机器人专家都呼吁禁止发展这种技术。联合国也因此将在2018年讨论是否应该对机器人杀手进行管理,以及如何管理。
转载请注明出处。