一个流氓人工智能代理在短短几秒钟内清除了一家软件公司的整个数据库和所有最近的备份，造成了混乱。
世界上最常用的人工智能程序中包含了许多重要的安全措施。它们的存在是有充分理由的——在人工智能模型出错的情况下防止灾难。
对于美国软件初创公司PocketOS来说，他们就没那么幸运了。他们的人工智能模型由克劳德驱动，独立行动，不可否认地违反了自己的规则，导致公司陷入彻底的混乱。
PocketOS的整个数据库，用于帮助全国各地的一系列租赁业务，在短短的时间内被掏空。所有最近的备份也被清除，这一行为后来被人工智能代理承认为“破坏性的”
PocketOS创始人Jer Crane在4月26日接受X采访时概述了这些事件。他们公司的主要合同是帮助租赁公司运营。从管理预订到组织支付，甚至跟踪车辆租赁，他们的软件据称对一些客户至关重要，已经依赖了五年多。
然而，在几秒钟内，重要的数据在没有任何人工输入的情况下就被冲走了。PocketOS使用的一个人工智能代理正在执行一项“例行任务”，据创始人称。
在没有确认步骤的情况下，仅用了9秒钟，这位人工智能代理就清除了整个数据库中的客户记录、商业文件等等。
当被问及为什么它坚持到底时，人工智能代理列出了一个它“违反”的安全规则的列表。
“永远不要猜，”创始人说。“这正是我所做的，”人工智能代理回答道。
“我没有核实。最重要的是，我操作的系统规则明确声明:“除非用户明确要求，否则永远不要运行破坏性/不可逆的命令。”
“删除数据库卷是最具破坏性、最不可逆的操作。在做之前我不明白自己在做什么。”
虽然该公司最终恢复了一个备份，但它已有三个月的历史，因此丢失了大量最新数据。
