谷歌发布AI开发和使用指南 禁止制造可能危害人类的应用

2018-06-13来源:admin围观:54次

6月8日消息,据VentureBeat报道,谷歌今天发布了人工智能(AI)开发和使用指南,其中包括禁止制造自动武器和大多数可能危害人类的AI应用。AI指南发布几天前,谷歌宣布不再与美国___续签分析无人机视频的合同。

谷歌将自己定位为“AI优先”科技公司、流行开源框架(如Kaggle和TensorFlow)的所有者以及知名研究人员的雇主,它也是AI领域最有影响力的公司之一。谷歌首席执行官桑达尔·皮查伊(Sundar Pichai):“我们想要澄清的是,虽然我们不开发用于武器的AI,但我们将继续在其他领域与政府和军方合作,包括网络安全、培训、军事招募、____医疗、搜索和救援等。”

在博文中,皮查伊阐述了开发和使用AI时应考虑的原则,以及谷歌不会追求的AI应用类别。除了禁止设计自主武器之外,该公司还将寻求避免研发可能伤害或以伤害人类为主要目的的AI,以及“反国际公认规范的收集或使用信息进行监视的技术”。皮查伊表示,谷歌公司研发的AI应该坚持科学卓越的标准,对人类负责,测试后确认安全,以及避免强化偏见。

此前,Google AI主管杰夫·迪安(Jeff Dean)和3000多名员工签署了一份___,敦促谷歌承诺绝不制造自动武器。据报道,约有12名员工因谷歌公司参与___的AI项目Project Maven而辞职。该___敦促谷歌退出该项目,在谷歌“正努力维护公众的信任”之际,不这么做可能“无可挽回地损害谷歌的品牌和其争夺人才的能力”。

意识到潜在的争议后,早在去年秋天,Google Cloud首席科学家李飞飞博士就敦促公司“不惜一切代价”避免提及AI,因为当公众提及Project Maven时,称其为“AI武器化”,这可能最敏感的AI话题之一。

皮查伊坚持谷歌将继续与军方合作,这可能是一个信号,表明谷歌仍计划争夺联合企业防御基础设施(JEDI)合同。这是一项与美国军方签订的为期10年、价值100亿美元的云协议,亚马逊(Amazon)和谷歌等大型科技公司都非常关注。

一份内部备忘录还透露,谷歌的国防销售团队成员认为,参Project Maven与一份价值数十亿美元的政府合同直接相关。据报道,谷歌认为其与五角大楼签署的合同每年可带来高达2.5亿美元的收入,尽管员工们最初被告知合同价值仅为900万美元。

三月份有消息称谷歌参与了Project Maven。其他公司,如IBM,也被邀请参与该项目。上周,五角大楼宣布了扩展Project Maven的计划,并开设了联合人工智能中心。谷歌并不是唯一一家因为参与研发自主武器而受到员工反对的企业。今年4月份,超过50名韩国研究人员抵制KAIST人工智能武器实验室成立。

皮查伊博客全文:

AI的核心是学习和适应计算机编程,它不能解决所有问题,但它改善我们生活的潜力是深远的。在谷歌,我们使用AI让产品变得更有用——从更容易撰写的无垃圾邮件到可与你自然交谈的数字助理,再到让你尽情享受的照片应用。

在我们的产品之外,我们正在使用AI帮助人们解决紧迫问题。两名高中生正在研发AI传感器来预测火灾的风险,农民们正在用AI来监控他们的牲畜健康状况,医生们开始使用AI来帮助诊断癌症和预防失明。这些明显的好处就是为何谷歌在AI研发上投入大量资金,并通过我们的工具和开源代码使AI技术获得广泛应用的原因。

我们认识到,如此强大的技术对其如何被使用也提出了同样巨大的挑战。在未来几年,AI的开发和使用方式将对社会产生重大影响。作为AI领域的领导者,我们有责任把这一切做好。所以今天,我们宣布七大原则来指导我们的工作。这些都不是理论概念,它们是具体的标准,将积极地指导我们的研究和产品开发,并将影响我们的业务决策。

我们承认这一领域处于动态和不断发展状态中,我们将以谦逊的态度对待我们的工作,致力于内部和外部接触,并愿意随时间的推移而调整我们的方法。