2019年，OpenAI公布了Safety Gym（https://openai.com/blog/safety-gym/），这也是一套用以开发设计遵循一些“安全性管束”的AI模型工具。那时候，OpenAI宣称能够根据Safety Gym，较为人工智能优化算法的安全系数，及其这种优化算法防止犯错的工作能力。

从那以后，Safety Gym就被用以考量OpenAI、美国加州大学伯克利大学、多伦多大学科学研究工作人员提起的优化算法特性。但一些权威专家提出质疑人工智能“安全工器具”是不是合理，换句话说，他们是不是使人工智能系统软件更安全性？

英国伦敦玛丽皇后高校人工智能研究者库克强调：“如同OpenAI强调的，她们尝试为AI系统软件无法做的事儿制订规则，随后让AI代理商在规则内找出解决方法，但条件都是你必须许多规则。自然，我们可以加上大量规则和大量管束，但要是不可以准确地了解AI会提到哪些解决方法，总是会发生不火爆的提升。”

库克举了自动驾驶汽车防止撞击的事例，他强调，假如缺少有关规则，人工智能很有可能会让车距判断维持在两厘米上下，或是做其他别的不安全的事儿，随后根据此再在规则内提升。这针对自动驾驶汽车的搭乘工作人员而言，这类“尝试错误”成本费无法接纳。

intelMobileye 及其英伟达显卡（Nvidia）等企业明确提出一些实体模型，来确保人工智能管理决策的可靠和“尊重事实”，特别是在自动驾驶汽车行业。

2017年10月，Mobileye公布了一个名叫义务比较敏感安全性(RSS)的架构，这是一个“可预测性公式计算”，在其中包括“逻辑性上可证实”的路面规则，致力于避免 自动驾驶汽车引起安全事故。Mobileye宣称，RSS为路面管理决策带来了一种常识问题方式，可将良好的习惯纳入刑法典，比如维持可靠的跟车间距，并为别的车子给予优先权。

英伟达显卡对这一定义的理解是安全性引力场（Safety Force Field），即根据剖析感应器数据信息，作出预测分析来监管不安全的个人行为，总体目标是最大限度地减小危害和潜在的风险。安全性引力场运用Nvidia已在现实世界、生成高速路及大城市情景中检验的计算能力，能够一起考虑到制动系统和转为约束方程，使其可以鉴别由二者造成的出现异常。

这种专用工具的总体目标是安全性（Safety），从外表上看好像非常好。但如同库克强调的那般，紧紧围绕“安全性”及其由谁来界定什么叫安全，存有许多社会心理学难题。FICO汇报表明，有65%的职工匪夷所思其企业怎样作出 AI 实体模型管理决策或预测分析，更别说她们是不是“安全性”了。

“做为一个社会发展，我们在某种意义上就风险性水准达成一致，有时候人们会将那些载入法律法规，例如预估每一年会产生一定数目的车子撞击。可是当提到人工智能时，大家很有可能期待提升这种规范，由于这种系统软件是能够良好控制的，和人不一样。”库克再次讲到，“对可靠的担心是还可以了解的，但大家最后必须接纳那样一个客观事实，人工智能的安全系数不太可能让每个人都能令人满意。”

比如，尽管现在的自动驾驶和ADAS系统软件，可以说比人们驾驶人员更安全性，但他们依然会犯错误——特斯拉汽车近期的窘境证实了这一点。库克觉得，假如人工智能企业对其商品个人行为，担负大量法律法规和会计义务，该领域将采用不一样的方式，来分析其体系的安全系数，而不是尝试“过后解决困难”。

佐治亚理工学校数字媒体技术副教授职称彝族姆·帕文 (Nassim Parvin) 觉得，紧紧围绕自动驾驶汽车的探讨过度开朗，或许对车祸事故中缺失性命的“真真正正关爱”能够做为再次思索的起始点。她表明：“AI控制系统设计应当超过不正确的二元衡量，太过注重用意和总体目标，会致使大家奔向迅速的技术性解决方法，而忽视对社会发展系统软件多元性的考虑到。‘出现意外不良影响’这个词是深入探讨人工智能设计方案的巨大阻碍，而不是推动要素……”

单一专用工具不大可能阻拦人工智能系统软件中的不安全管理决策，这必须商品使用者、风险评价工作人员和客户，一同参加人工智能潜在性缺点和风险性的会话，便于建立一个可以曝露、检测和减轻人工智能风险性和问题的步骤。

新生军训常见问题

四成顾客担忧自动驾驶汽车安全隐患

网络信息安全的“自动驾驶等级分类”

特斯拉汽车全自动驾驶系统软件是拿群众性命做检测？

协作电話：18311333376

协作手机微信：aqniu001

投稿邮箱：editor@aqniu.com