助纣为虐,谷歌用 AI 帮美军训练“高精度杀人机器”


美国科技公司正在集体进入“水逆”期。

3月,Facebook泄露5000万份用户隐私,将扎克伯格卷入了旷日持久的信任危机;Uber无人车路测撞人事故,让自动驾驶的安全性广受质疑。

而一向号称“不作恶”的Google(谷歌),也同样卷入了一场严重的员工信任危机。

据报道,至少3100名谷歌员工(包括数十名高级工程师)近日签署了一份给谷歌CEO桑达尔·皮查伊的联名信函,抗议该公司参与美国国防部五角大楼的一个项目“Maven”,该项目利用人工智能解读视频图像,旨在提高无人机打击的精准度。

Maven项目2017年4月开始试点,目的是加快军方的人工智能技术发展速度。这个项目第一年计划花费7000万美元,将人工智能、机器学习方法用到国防领域。而Maven的第一个努力方向,是要用机器来自动处理MQ-9和MQ-19无人机上传感器收集的海量动态视频数据。

Google参与到这个项目中,向国防部提供了一些人工智能技术,如TensorFlow API,用来帮军方自动识别图像中的物体。TensorFlow是谷歌研发的第二代人工智能学习系统,可被用于语音识别或图像识别等多项机器学习和深度学习领域。

美国国防部长吉姆·马蒂斯(Jim Mattis)经常表示 ,他们的核心目标就是提高美国的军事“杀伤力”。

近两年来,人工智能(AI)已经成为了谷歌重要的“敲门砖”。除了为美国军方提供支持外,AI也成为了谷歌重返中国一个重要的依赖。有据可考,从2016年开始Google(谷歌)就借AlphaGo的人机大战在国内试探舆论深浅,尤其是引导国内大众对AI技术未来发展的畅想。2017年12月,Google官方宣布在中国成立AI中国中心,由李飞飞、李佳共同领导;同时期,Google也不断放出新动态,比如北京租了新办公室、深圳也设立了专供硬件的办公室等等……

谷歌CEO桑达尔·皮查伊在3月底举办的中国发展高层论坛中,也明确表露出希望借助AI重返中国大陆市场的愿望,他说:“AI将重塑我们的未来,而中国已经在这一过程中发挥重要作用。当我们携手合作时,我们就能以更快的速度找到好创意。”谷歌方面还暗示,如果政策允许,会考虑云服务进军中国内地市场。


但Maven项目的公布,却让所有对谷歌人工智能心存好感的人,对这一公司的立场产生了深深的担忧。

谷歌员工受到的心理冲击,或许更为严重。这项合作计划公布后,在谷歌内部引起了广泛的讨论,有不少人表达了对TensorFlow用于军事的担忧和不赞成。

此前,联合国特定常规武器公约会议上曝光了一段可怕的视频:一群神似《黑镜III》中机器杀人蜂的小型机器人,通过人脸定位瞬间杀死了正在上课的一众学生,场面血腥。视频虽然是虚构的,但伯克利大学教授、资深AI研究者Stuart Russell借此提醒所有人:视频里所用到的人脸识别技术和无人机技术都已存在,我们只能尽可能避免它们被用于AI自动化武器。

相当“打脸”的是,2018年1月,桑达尔·皮查伊在达沃斯世界经济论坛上表示,世界各国应该团结一致,同意不把AI用于军事用途。他还表示,AI的军事化不大可能会给任何一个国家带来长久优势。“AI是一个很好的平衡器,”他说,“它很难被武器化,因为每个人有同样的能力做出反击。”

已经陷入恐慌中的谷歌员工,给桑达尔·皮查伊提交了联合署名信。信中写道:“我们认为谷歌不应卷入战争……谷歌争取用户信任的道路已经越来越难走了。”信中要求谷歌撤出Maven,并宣布永远不会“发展战争技术”。

员工们担忧,在未来,谷歌或许会被视为加入雷神、通用动力以及 Palantir 这样的国防承包商行列。而这与Google“不作恶”的座右铭已经渐行渐远。

但Google的高层似乎对员工的要求“不以为然”。事实上,该公司高管和美国政界、军方一直有密切联系。该公司前执行董事长 Eric Schmidt(目前仍是谷歌母公司 Alphabet 的执行董事会成员)为五角大楼顾问团 Defence Innovation Board 的成员,该顾问团还包括谷歌副总裁 Milo Medin。

另据俄罗斯“卫星”通讯社报道,上一届美国大选期间,谷歌曾利用用户的搜索习惯,通过过滤甚至屏蔽与希拉里相关的负面自动关联词条来为其选战助阵。

比如,在谷歌搜索栏上输入“HillaryClinton cri”,自动跳出的联想词是“HillaryClinton crime reform(希拉里+刑法改革)”、“HillaryClinton crisis(希拉里+危机)”和“HillaryClinton crime bill 1994(希拉里+刑法法案1994)”;但在雅虎和必应上键入相同词语时,显示出的自动联想词则都与“HillaryClinton crimes(希拉里+罪名)”相关。


这种让人难以“察觉”的支持,甚至可能影响多达300万张选票的归属。

比起Facebook被外部公司利用漏洞、被动泄露隐私,Google主动为希拉里屏蔽信息的做法,显然更为可怕。

事实上,Google介入整治、操纵搜索结果并非首次。在英国脱欧公投期间,Google就曾把一家十多年都以“搜索结果第一条”呈现的支持“脱欧”的投票网站给人工挪到了第二页,后Google此举被曝光,不得已又将该网站给调至第一页,但放置在了搜索结果的第二条。

乔布斯曾经公开抨击过,谷歌所谓“不作恶”信条完全是“扯淡”。

在2015年,Google已经将公司信条悄悄从“不作恶(Don't be evil)”改成了“做正确的事(Do the right thing)”。

但是,即便是“做正确的事”,在哲学理念上仍存在显著差异:做正确的事是完全主观的,对你来说是正确的但对其他人来说可能完全不是。

无论是“不作恶”还是“做正确的事”,越来越多的事实证实,这一切都是以谷歌公司的利益为转移的。【责任编辑/孟亮】

(原标题:助纣为虐,谷歌用 AI 帮美军方训练“杀人机器”,员工怒了)

来源:三眼世界

IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。

相关文章
助纣为虐,谷歌用 AI 帮美军训练“高精度杀人机器”
AI创业公司死亡率高“抱大腿”求共赢
AI应届生50万年薪?网友:扎心了老铁,转行吧
在教会AI爱之前,先要教它们怎么撩
网友评论

精彩评论