自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

作者:采集侠   发布时间:2019-03-15 08:02   来源:网络整理

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

换句话说,一个人是否能被自动驾驶视觉系统成功检测为人类进而避免死亡,依赖于各个自动驾驶公司在编写函数时对公平这个伦理问题给予特别关注。

刘芳LF

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

资料图:2016年9月22日,优步公司的无人驾驶福特车型亮相匹兹堡。图片来源:视觉中国

2019年开春,优步公司(Uber)好消息不断。

当地时间3月5日,亚利桑那州检方决定不对去年优步自动驾驶致死事件进行起诉。《华尔街日报》13日批露,由软银领衔的财团正在与优步进行后期谈判,或向其自动驾驶部门投资至少10亿美元。至此,这家估值高达1200亿美元的初创公司向上市的梦想又近了一步。

知情人士说,根据正在讨论的条款,软银的愿景基金(Vision Fund)和包括一家匿名汽车制造商在内的其他投资者将以50至100亿美元的估值收购该部门的少数股权。如果交易成真将会在下个月公布。

当地时间2018年11月5日,软银公司CEO孙正义在东京出席新闻发布会。图片来源:视觉中国

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

对优步而言,这一交易将为这家雄心勃勃、成本高昂的企业提供亟需的现金。《华尔街日报》称,这将减轻优步未来的融资义务,同时使其能够保持其对该部门的控制。2017年,优步在自动驾驶开发上花费了大约7.5亿美元,在2018年有所削减。

另一方面,引入汽车公司作为投资者将帮助优步完善自动驾驶出租车所需的技术。这是一个竞争日益激烈的领域。据悉,谷歌母公司Alphabet旗下的Waymo和通用汽车公司旗下的GM Cruise都已经对自动驾驶汽车进行了大量投资。而软银庞大的愿景基金在投资22亿美元后,持有通用汽车合资公司近20%的股份。

但这一年来,优步的自动驾驶之路并不是那么一帆风顺。

2018年3月18日,优步测试的沃尔沃SUV以每小时40英里的速度撞向了49岁的赫茨伯格(Elaine Herzberg)。当时她正推着自行车穿过街道。

2018年3月18日亚利桑那州Tempe市优步自动驾驶车祸现场。

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

据《纽约时报》报道,这辆沃尔沃SUV当时处于自动驾驶模式,而在事发时优步配备的安全司机正在看《美国好声音》(The Voice)。

美国国家交通安全委员会(National Transportation Safety Board)于2018年5月的初步报告显示,优步的计算机系统在碰撞前6秒已经发现了赫茨伯格。计算机先是将赫茨伯格归类为无法辨识的物体,然后是另一种车辆,最后是一辆自行车。

事实上,这款沃尔沃SUV配备了优步本身的传感技术和车辆自带的紧急刹车系统。但报告称,优步把刹车系统给禁止了,目的是“减少车辆潜在的不稳定性” 。换句话说,这是一场本可避免的悲剧。

事故后优步一度关闭了亚利桑那州的自动驾驶汽车业务,并在旧金山湾区、匹兹堡和多伦多的道路上停止了自动驾驶汽车运营。去年年底,优步重新启动自动驾驶业务。

美国国家交通安全委员会工作人员在检查车祸中的自动驾驶车辆

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

2019年3月5日,审查此案的亚瓦帕伊县检察官办公室(The Yavapai County Attorney's Office)表示,“没有理由认为优步公司负有刑事责任。”

虽然优步暂时免去了法律纠纷的麻烦,但事故频发的自动驾驶到底能否安全上路始终是研究人员重点关切的问题。其中最关键的,就是自动驾驶系统到底是否能够准确识别所有人类,进而避免悲剧发生。然而,最近一项由乔治亚理工大学(Georgia Tech)完成的研究显示,结果不容乐观。

3月13日,《卫报》报道了这项对计算机视觉模型行人检测功能的分析报告。研究人员发现,目前已经在应用的AI系统在识别肤色较浅的行人方面表现更好。换句话说,肤色偏黑的人不能被正确识别为行人的风险更高,安全系数更低。具体来说,白人比黑人被识别为行人的可能性高10%。研究人员将自动驾驶视觉模型的这一特性称为预测性不平等(predictive inequality)。

乔治亚理工大学研究人员所做的自动驾驶测试。

自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题