Serve称其送货机器人并没有决定进入犯罪现场 这是人类操作员的选择

该事件的视频是由洛杉矶警察监督账户Film the Police LA的所有者William Gude拍摄并发布在Twitter上的。上午10点左右， Gude在好莱坞高中发生疑似校园枪击事件的地区，他在视频中拍到了机器人在街角徘徊，看起来很困惑，直到有人揭开胶带，让机器人继续在犯罪现场行驶。

Uber分拆出来的Serve Robotics公司的一位代表告诉TechCrunch，机器人的自动驾驶系统并没有决定进入犯罪现场。这是一个正在远程操作机器人的人类操作员的选择。

该公司的送货机器人拥有所谓的 Level 4自主性，这意味着它们可以在某些条件下自行驾驶，而不需要人类来接管。自5月以来，Serve公司一直在该地区与Uber Eats公司试行其机器人。

Serve机器人公司有一项政策，要求人类操作员在每个路口远程监控并协助其机器人。如果机器人遇到障碍物，如施工区或倒下的树，并且无法在30秒内弄清如何绕过它，人类操作员也将远程控制。

![G%`}ZJV4N46~T1}$]@9M9K2.png](https://oss-cn-hangzhou.aliyuncs.com/codingsky/cdn/img/2022-09-17/bd09cb966ae1d17645d223982c3fa41c.png)

在这种情况下，刚刚完成一次送货的机器人走到了十字路口，根据公司的内部操作政策，人类操作员接管了它。起初，人类操作员在黄色警戒带前停了下来。但当旁观者举起胶带，显然是"挥手示意它通过"时，人类操作员决定继续前进，Serve Robotics首席执行官Ali Kashani告诉TechCrunch。

Kashani说：“机器人永远不会（自己）穿越。只是有很多系统来确保它永远不会越过，直到人类发出指令。”

他补充说，这里的判断错误是，有人决定真的继续穿越。 Kashani说，不管是什么原因，这不应该发生。他补充说，Serve已经从该事件中提取了数据，并正在为人类和人工智能制定一套新的协议，以防止将来发生这种情况。

几个明显的步骤将是确保员工遵循标准操作程序（或SOP），其中包括适当的培训和制定新的规则，如果有人试图挥舞机器人通过路障，该怎么做。

但Kashani说，也有办法利用软件来帮助避免这种情况再次发生。他说，软件可以用来帮助人们做出更好的决定，或者完全避免一个区域。例如，该公司可以与当地执法部门合作，向机器人发送有关警察事件的最新信息，以便它可以绕过这些地区。另一个选择是让软件具有识别执法部门的能力，然后提醒人类决策者，并提醒他们注意当地的法律。

随着机器人的进步和扩大其操作领域，这些经验将是至关重要的。“有趣的是，机器人做了正确的事情；它停止了，” Kashani说。“所以这真的回到了给人们足够的背景来做出好的决定，直到我们有足够的信心，我们不需要人们来做这些决定。”

Serve机器人公司的机器人还没有达到这一点。然而， Kashani告诉TechCrunch，这些机器人正变得越来越独立，通常都是自己操作，但有两个例外：十字路口和某种形式的封锁。

Kashani说，本周发生的情景与许多人对人工智能的看法相反。“我认为，一般来说，人们的说法基本上是在边缘案例中非常出色，然后人工智能就会犯错，或者也许还没有为现实世界做好准备。有趣的是，我们正在学习一种相反的东西，那就是，我们发现人们犯了很多错误，我们需要更多地依赖人工智能。”