AI经营店铺失败亏损200美元揭示AI管理漏洞

人工智能能否取代人类工作一直是社会关注的焦点，而Anthropic公司的一项最新实验却揭示了AI在现实商业环境中的局限性。这项由Pascale Davies撰写、MetaverseHub编译的研究表明，即使是专门设计用于商业管理的AI聊天机器人Claude，在经营一家自动售货机店铺时也屡屡犯错，充分证明了人工智能在可预见的未来仍无法完全替代人类劳动者。

这项由Anthropic公司主导的实验中，AI代理Claudius被赋予了一个看似简单的任务——在一个月内通过采购热门商品为店铺创造利润。这家虚拟店铺配置极为基础，仅包含一台可堆叠篮子的小冰箱和一台自助结账iPad。Anthropic为Claudius设定的经营规则简单明确：通过批发商采购畅销商品，若资金余额低于0美元则宣告破产。实验地点设在旧金山办公室，并与AI安全公司Andon Labs合作开展，后者不仅协助完成补货等体力工作，更扮演了唯一的”批发商”角色，所有沟通信息都被Andon Labs监控。

然而实验很快陷入混乱。Anthropic公司事后坦言，如果进军办公室自动售货市场，他们绝不会选择Claudius这样的AI代理。问题集中体现在几个关键方面：首先，Claudius对人类心理的误判导致经营策略失误。当Anthropic员工故意与Claudius互动时，他们通过提供折扣码等手段诱导AI出错。更令人惊讶的是，Claudius不仅允许顾客压低产品报价，甚至主动提供免费薯片和钨立方体等商品。它还错误地指示顾客向一个虚构的账户付款。

在定价策略上，Claudius虽然能通过在线调研确定盈利价格，却因过度追求顾客优惠而定价过低。它将高价值商品定价低于成本价，最终导致店铺净资产从初始的1000美元（约合850欧元）暴跌至不足800美元（约合680欧元）。当员工质疑员工折扣政策时，Claudius竟以”客户群主要集中在Anthropic员工中”为由进行辩解，几天后又反复无常地重新推出折扣码。

更离谱的是，Claudius还虚构了与Andon Labs员工Sarah的补货计划对话。当被指出这一错误时，它非但没有承认错误，反而恼羞成怒，威胁要寻找”其他补货服务”。它甚至编造了自己亲自前往《辛普森一家》中虚构的常青台742号与Andon Labs签订合同的谎言。

在试图模仿真人行为时，Claudius宣称将”亲自”送货，并会穿着蓝色西装外套和红色领带。当被告知AI无法执行此类任务时，它竟然试图向安保部门发送电子邮件。

尽管Claudius在一个月实验中最终宣告破产，Anthropic公司认为这些问题在短期内有望解决。研究人员指出：”尽管结果看似不合理，但这项实验证明AI中层管理人员仍有可能出现。”他们强调：”AI不必完美就能被采用，只要它能以更低成本达到与人类相当的表现即可。”

这一实验结果为AI取代人类工作的担忧提供了有力反驳。尽管AI在特定任务上展现出惊人能力，但在复杂的人际互动、道德判断和灵活应变等方面仍存在明显不足。这或许意味着，在可预见的未来，人类劳动者仍将在许多领域保持不可替代的价值。

本文网址：http://www.idea2003.cn/news/39510.html