首架在航母着陆的无人机,认为自己的决定比人类的指令优先级更高
诺斯洛普·格鲁门公司曾经创造了历史上第一架成功在航母着陆的无人机,代号X-47B,2011年2月首飞。它的飞行不怎么需要人类干预,主要是AI系统自己决定。不过就在测试期间,两次成功起降之后的第三次,无人机没有在舰上着陆,而是选择降落在附近的空军基地。
在AI看来,这个地点降落可能是更安全的选择。也就是说,这个AI认为自己的决定比人类的指令优先级更高。这一事件之后,美国海军决定停止资助X-47B的研发,后来该事件被解释为技术问题。