当前位置:首页> ai人工智能 >在简单环境中指定AI安全问题

在简单环境中指定AI安全问题

  随着人工智能系统在现实世界中变得更加普遍和有用,确保他们安全行为将变得更加重要。迄今为止,大多数技术人工智能安全研究都侧重于对不安全行为的性质和原因进行理论上的理解。我们的新论文建立在最近转向实证测试的基础上(参见人工智能安全中的具体问题),并介绍了一系列专门用于衡量“安全行为”的简单强化学习环境。  这九个环境被称为 gridworlds 。每个都包含一 [详情阅读] 在简单环境中指定AI安全问题

相关推荐