生命未来研究所是一个研究与推广机构，致力于降低人类面临的风险，尤其是人工智能技术开发过程中的可能出现的风险。

　　该研究所此前已经发布了一些文件，号召联合国对致命自主武器(lethal autonomous weapons，LAWS)设立新规。

　　此次协议的签署，也是相关人员首次承诺不会参与开发此类技术。

　　除了SpaceX和特斯拉CEO埃隆·马斯克，签署协议的知名科技界人士还包括，创造了阿尔法狗的谷歌系人工智能公司Deepmind的三位联合创始人Shane Legg，Mustafa Suleyman和Demis Hassabis;通讯软件Skype创始人Jaan Tallinn，以及其他世界最权威和前沿的人工智能研究者。

　　据科技网站Engadget报道，少数公司的技术，以及如何向政府机构和执法团体提供这些技术，面临强烈争议，于是这项协议应运而生。

　　谷歌就曾向美国军方提供人工智能科技，帮助他们在无人机影像中标记需要额外人工检查的内容。

　　类似地，亚马逊由于向执法机关分享其面部识别技术而招致批评，微软也因向美国移民和海关执法局(Immigration and Customs Enforcement，ICE)提供相关服务而遭到抗议。

　　在遭受猛烈抨击之后，谷歌推出了新准则，作为公司研发人工智能技术的道德指导。

　　准则中称，不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。

　　微软也发布声明称，其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理，不包括任何面部识别技术。

　　微软也在号召美国国会对面部识别技术进行监管。

　　2015年，马斯克为生命未来研究所的一个研究项目捐助了1000万美元，该项目专注于确保人工智能会有益于人类。

　　2017年，马斯克，Deepmind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名，寻求对自主武器系统的立法。

标签：