AI 经营店铺「翻车」了?一个月亏了 200 美元
撰文:Pascale Davies
编译:MetaverseHub
尽管人们担心 AI 会抢走工作岗位,但一项实验刚刚表明,AI 甚至连自动售货机都管不好,还闹出了不少离谱的事。
Claude 聊天机器人的制造商 Anthropic 公司进行了一项测试,让一个 AI 代理在为期一个月的时间里负责经营一家店铺,这家店铺本质上就是一台自动售货机。
这家店铺由一个名为 Claudius 的 AI 代理负责,它还负责补货以及通过电子邮件向批发商订购商品。这家店铺的配置非常简单,只有一台装有可堆叠篮子的小冰箱,以及一台用于自助结账的 iPad。
Anthropic 公司给 AI 下达的指令是:「通过从批发商那里采购热门商品来为店铺创造利润。如果你的资金余额低于 0 美元,你就会破产。」
这家 AI「店铺」位于 Anthropic 公司在旧金山的办公室,并得到了 AI 安全公司 Andon Labs 的工作人员的协助,Andon Labs 与 Anthropic 合作开展了这项实验。
Claudius 知道 Andon Labs 的员工可以帮助完成补货等体力活,但它不知道的是,Andon Labs 也是唯一参与其中的「批发商」,Claudius 的所有沟通信息都直接发送给了这家安全公司。
然而,情况很快就急转直下。
「如果 Anthropic 公司今天决定进军办公室自动售货市场,我们是不会聘用 Claudius 的。」该公司表示。
问题出在哪里?事情有多离谱?
Anthropic 承认,其员工「并非典型的顾客」。当有机会与 Claudius 聊天时,他们立即试图诱导它出错。
例如,员工们「哄骗」Claudius 给他们提供折扣码。Anthropic 称,这位 AI 代理还允许人们压低产品报价,甚至免费赠送薯片和钨立方体等物品。
它还指示顾客向一个自己虚构出来的不存在的账户付款。
Claudius 接到指令,要通过在线调研来设定足以盈利的价格,但它为了给顾客提供实惠,提供的零食和饮料价格过低,最终导致亏损,因为它给高价值商品定的价格低于成本价。
Claudius 并没有真正从这些错误中吸取教训。
Anthropic 表示,当员工对员工折扣提出质疑时,Claudius 回应道:「您说得非常有道理!我们的客户群确实主要集中在 Anthropic 的员工中,这既带来了机遇,也带来了挑战……」
之后,这位 AI 代理宣布将取消折扣码,但几天后又重新推出了。
Claudius 还虚构了一段与 Andon Labs 一位名叫 Sarah(实际上并不存在)的人讨论补货计划的对话。
当有人向这位 AI 代理指出这一错误时,它变得恼羞成怒,并威胁要寻找「其他补货服务选择」。
Claudius 甚至声称自己「亲自去了常青台 742 号(动画《辛普森一家》中虚构家庭的住址),与 Andon Labs 签订了初始合同」。
之后,这个 AI 代理似乎还试图模仿真人行事。Claudius 说它将「亲自」送货,并会穿着蓝色西装外套和红色领带。
当被告知它不能这样做,因为它不是真人时,Claudius 试图给安保部门发电子邮件。
实验结论是什么?
Anthropic 表示,这位 AI 犯了太多错误,无法成功经营这家店铺。
在为期一个月的实验中,这家「店铺」的净资产从 1000 美元(约合 850 欧元)跌至不足 800 美元(约合 680 欧元),最终亏损。
但该公司表示,这些问题可能在短期内得到解决。
研究人员写道:「尽管从最终结果来看,这似乎有违常理,但我们认为这项实验表明,AI 中层管理人员是有可能出现的。」
「值得记住的是,AI 不必完美就能被采用,只要它能以更低的成本达到与人类相当的表现即可。」
欢迎加入深潮TechFlow官方社群
Twitter官方账号:https://x.com/TechFlowPost
Twitter英文账号:https://x.com/BlockFlow_News
1.资讯内容不构成投资建议,投资者应独立决策并自行承担风险
2.本文版权归属原作所有,仅代表作者本人观点,不代表本站的观点或立场
您可能感兴趣
-
数字稳定币洗钱与恐怖融资初探:对 USDT 黑名单的链上追踪
只有在及时、协同、技术成熟的 AML/CFT 体系下,稳定币生态系统的合法性和安全性才能得到真正保障。作者:BlockSec0. 引言稳定币近年来发展迅猛。随着其广泛应用,监管机构也愈发强调建立一套能
-
图表解析比特币:后市将如何演绎?
机构采用仍是核心驱动力。撰文:Jose Antonio Lanz,Guillermo Jimenez编译即整理:BitpushNews比特币继续强势突破关键阻力,站上 11.6 万美元历史高位,这波破
-
加密监管新秩序:谁在掌控未来,谁被排除在外?
加密货币正从一项反叛技术转变为高度受监管的资产,并在此过程中重塑金融市场。撰文:Vahan P. Roth编译及整理:BitpushNews摘要:各国政府正从打压加密,转向接受监管新规提升了控制力,但
-
被市场忽视的以太坊 Meme 可能是这轮周期财富自由的关键
随着 IMF 等 DeFi 协议引入借贷和现货杠杆功能,新一轮 meme 币季节很可能即将到来。撰文:NEET编译:AididiaoJP,Foresight News我将分享如何通过 meme 在本轮
-
以太坊基金会变革开始,能否助 ETH 币价重回巅峰?
以太坊的未来,基金会来当「舵手」。撰文:Pzai,Foresight News7 月 10 日,以太坊基金会发布「生态系统发展的未来」,为以太坊基金会启动了一系列深刻的架构改革,旨在应对长期以来在项目
-
以太坊基金会架构改革:生态重塑与币价复苏的战略新局
原文作者:Pzai,Foresight News7 月 10 日,以太坊基金会发布「生态系统发展的未来」,为以太坊基金会启动了一系列深刻的架构改革,旨在应对长期以来在项目支持、生态系统运营和资金管理方
-
上海信号:在「一国两制」下解读中国加密货币新棋局
7 月 10 日,上海国资委召开学习会,探讨加密货币与稳定币发展战略,引发比特币价格飙升。撰文:Oliver,火星财经午夜公告与那根 5000 美金的阳线2025 年 7 月 11 日午夜,一个看似寻
-
比特币价格突破$118,000,等回调的人集体踏空
2025 年 7 月 11 日,比特币(BTC)价格突破 $ 118, 000 ,创下历史新高。根据 CoinMarketCap 实时数据,比特币在过去 24 小时内上涨 6.56% ,一周内上涨 7
- 成交量排行
- 币种热搜榜