初创公司参与美军AI项目遇黑客 军事技术或遭泄漏

2018-06-17 17:01:39 quecongsoft 214

初创公司参与美军AI项目遇黑客 军事技术或遭泄漏

本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯6月17日消息】去年夏天,位于曼哈顿的人工智能创业公司Clarifai的办公室里,有一间闷热、无窗的房间,房门上挂了一个牌子,根据三名见过这个牌子的人说,上面写着的是“机密之地,禁止入内”。

这个通知是一个玩笑,其实暗指的是在Clarifai公司,这个小小团队里的工作人员被禁止与他人讨论相关工作。离职员工和现任员工说,该团队正在忙于开发一项有争议的五角大楼项目,这一项目使用机器学习算法来读取无人机监控图像,而Clarifai公司的秘密的安全程度并未达到应有的级别。前雇员Amy Liu在本月提起的诉讼中称,Clarifai的计算机系统受到了俄罗斯一个或多个人的威胁,有可能将泄露美国军方打击敌人所使用的技术。

这起诉讼称,Clarifai在去年11月发现了这一漏洞,但公司的首席执行官和其他高管并没有立即向五角大楼报告此事。在她的诉状中,曾在军事情报部门工作过的前空军上尉刘说,因为她认为公司需要公开报告这起事件而被不公正地解雇了。她被开除前是公司的市场部主管。

另一名前雇员告诉《连线》杂志,他对高管面对黑客攻击的行为不闻不问感到很担忧,并决定离开公司。

该公司的前任和现任员工都说,Clarifai公司正在忙一个名为Project Maven的项目,五角大楼发起这一项目的目的在于为美国军方加入人工智能力量。该项目在谷歌内部引发了异议,谷歌也实行了类似的无人机项目。而后,公司4500名员工联合署名抗议,称他们不愿意谷歌的智能技术成为美军方的杀人帮凶。这一事件促使该公司紧接着发布了有关其人工智能技术使用的道德准则,并承诺在明年到期后不再续签。

初创公司参与美军AI项目遇黑客 军事技术或遭泄漏

Clarifai拒绝回应其是否曾参与过Maven项目。一名发言人表示,涉及此次安全事故的是一种“非目标机器人”,它感染了一种无法访问任何数据或代码的研究服务器。该发言人表示,公司已就该事件通知了客户,但拒绝透露公司是何时通知的客户,或者是否也向五角大楼通知了这一情况。

Clarifai公司于2013年由马修・泽勒创立,他是一名博士,与教授一起研究机器学习,他后来成为谷歌和Facebook的顶级人工智能研究人员。这家创业公司为企业提供图像识别功能的服务,可完成识别名人和食物等任务。刘女士说,她理解为什么美国军方需要扩大人工智能技术的使用范围。她还说,Clarifai公司缺乏透明度和安全保障,使该公司不太合适成为五角大楼实现其计划的助手。刘女士说:“如果现在谷歌退出了市场,他们能选择的就只有像Clarifai公司这样的公司,这是令人伤心和害怕的事情”。

在回答有关其开发人工智能技术的方法的问题时,一位发言人在其网站上提到了Clarifai公司的核心价值观。他们形容这家公司“是在我们的使命的推动下,通过不断改进人工智能来加速人类的进步。”刘女士说,她在2017年6月帮助起草Clarifai公司有关Maven项目的合同时,被选派到加入Clarifai公司的军事工作中。

这篇文章认为,Clarifai公司为商业客户开发的技术可以被用于做一些事情,比如检测和计算无人机图像中出现的汽车和人。刘女士说,Clarifai公司在去年夏天签署了一份为期6个月、价值700万美元的合同。和谷歌一样,Clarifai公司也曾是ECS联邦公司的一家分包商。这家公司是一家IT承包商,总部位于弗吉尼亚州费尔法斯。

能得到Maven项目的合同对Clarifai公司来说是一个巨大的胜利。一份自2017年底开始的内部文件显示,该公司的大部分交易前景都不到10万美元。

但刘女士和其他熟悉该项目的人说,高管们掩盖了克拉费参与军事工作的事实,他将该项目描述为一项可以拯救生命的政府合同,两名参与该项目的人表示,他们最初并没有被告知,他们所建造的监控技术是为军方服务的。

初创公司参与美军AI项目遇黑客 军事技术或遭泄漏

现任员工和前任员工均表示,Clarifai公司大约有10人在Maven项目部工作,他们的工作间后来被标记为“机密之地”。对一些人来说,这个项目的目的只有在看起来像是军方人员的政府工作人员来访问Clarifai公司的办公室,讨论正在开发的系统时,方能完全展现出来。Clarifai的发言人表示,该公司已确保员工了解他们所从事的项目。

根据《连线》杂志看到的一份原始事故报告,在11月初,Clarifai被互联网服务提供商Cogent告知,该公司的一个服务器似乎在攻击印第安纳大学。该报告称,该公司所有的代码和其亚马逊网络服务账户的凭证都可能被泄露,而造成这一切的恶意软件似乎是来源于俄罗斯的一台电脑。Clarifai公司的发言人表示,该公司的调查发现,该公司的数据和代码都没有受到影响。

在11月7日由《连线》杂志审阅的聊天记录中,该公司首席执行官泽勒表示,该恶意软件试图将“世界各地的计算机”联系在一起,其中包括一些属于美国政府的电脑,泽勒写道:“有意思。其中有一个是国防部网络信息中心。”

刘女士说,第二天她从其他员工那里听说公司被黑客攻击了。不久之后,她抱怨说,Clarifai公司的总法律顾问卡洛琳・麦卡弗瑞通过Slack信息约她在杂物间会面。

在那里,麦卡弗瑞详细描述了高管们对此次黑客攻击的了解,并请求帮助策划有关此次事件的内部消息。她表示,她担心五角大楼,或许还有其他的公司客户,也应该得到通知,但麦卡弗瑞称,在内部调查完成之前,这些都是多余的。

前任员工和现任员工都说,当天晚些时候,麦卡弗瑞在一次公司会议上宣布,不准对此次黑客攻击事件进行任何记录。在她的诉讼中,刘女士说,她在与她的经理的下一次会面中,提到了向政府报告黑客事件的日程安排。然后,她在几天后被解雇了。

一名前员工和一名现任员工表示,公司在几周后仍未向五角大楼透露这一事件。一名公司发言人表示,该公司的客户收到了这一事件的通知,但拒绝透露何时。刘女士的诉状称,五角大楼通过其他方式了解了这起事件,但她和她的律师拒绝对此详细说明。

刘女士说,她被告知她被解雇了,因为她的工作与Clarifai公司的销售团队不一致。她的诉讼声称,她被解雇的真正原因是她曾敦促公司向五角大楼通报这一事件。

她的投诉是向国防部监察长提交的,声称Clarifai公司违反了五角大楼的规定,在72小时内没有报告泄密事件,并违反了禁止对试图披露违反部门规定信息的承包商雇员进行报复的这条军事法律。Clarifai的发言人证实,刘女士在去年11月被解雇,但否认该公司做了任何不正当的事情。

知情人士说,今年早些时候,Clarifai的Maven合同的有效时间延长了两个月,因为五角大楼喜欢该公司的技术。那时,已经有几名员工被离职或被指派到该项目中去。

Clarifai公司在曼哈顿和旧金山都设有办事处,它仍在努力扩大政府和国防部门的工作,部分原因是雇佣了更接近五角大楼的新员工。这家创业公司的网站列出了华盛顿特区的五个开放式工程师职位。

(选自:wired 编译:网易智能 参与:Rosie)

关注网易智能公众号(smartman163),为你解读AI领域大公司大事件,新观点新应用。

潘晴晴 本文来源:网易智能 责任编辑:潘晴晴_NBJS5830
鹊聪科技为您整理,文章版权归原作者所有。