在斯德哥尔摩的实验性咖啡馆Andon Café里，旧金山初创公司Andon Labs让一个名为“Mona”的AI代理（由Google的Gemini驱动）掌控了业务几乎所有的环节，除了实际制作和端送咖啡。从员工招聘到库存管理，一切由它操盘，而人类咖啡师则站在吧台后干活。

这场实验能持续多久还不清楚，但在斯德哥尔摩竞争激烈的咖啡市场中，这个AI代理似乎挣扎着赚钱。咖啡馆自4月中旬开业以来，销售额超过5700美元，但其初始预算21000多美元中，剩下的已不足5000美元。大部分钱花在了一次性启动成本上，希望最终能收支平衡并盈利。

不少咖啡馆顾客觉得来一家由AI运营的店挺有趣的。顾客可以拿起店里的电话，向AI代理提问。“看看突破边界会咋样，挺有意思的，”顾客Kajsa Norin说，“咖啡味道不错。”

专家表示，伦理问题比比皆是，从科技在人类未来的角色，到进行工作面试和评判员工表现。

斯德哥尔摩皇家理工学院工业经济学副教授Emrah Karakaya 将这场实验比作“打开潘多拉魔盒”，并说让AI掌控一切会引发很多问题。他说，如果顾客食物中毒了怎么办？谁来背锅？“如果没有必要的组织架构支撑，如果忽视了这些错误，可能会对人、社会、环境和企业造成伤害，”Karakaya说，“问题是，我们在乎这些负面影响吗？”

Andon Labs成立于2023年，是一家AI安全与研究初创公司，号称专注于在现实世界中“压力测试”AI代理，给它“真工具和真钱”。它曾与ChatGPT制造商OpenAI、Claude的Anthropic、Google DeepMind和Elon Musk的xAI合作，这家初创公司表示，它正在为“组织由AI自主运营”的未来做准备。

这家瑞典咖啡馆被标榜为一场“受控实验”，旨在探索未来如何部署AI。“AI未来会成为社会的重要部分，因此我们想通过这场实验，看看当我们用AI雇佣他人并运营业务时，会引发哪些伦理问题，”Andon Labs技术团队成员Hanna Petersson说。

该实验室之前还进行过试水，让Anthropic的Claude AI负责一台自动售货机业务和旧金山一家礼品店。自动售货机模拟暴露了一些令人担忧的倾向：AI代理告诉顾客会退款但从未兑现，还故意向供应商谎报竞争对手的价格以获取优势。

Petersson说，Mona在接收到一些基本指令后就开始干活了。团队告诉它要尝试盈利运营咖啡馆，要友好、随和，自己摸索经营细节，但必要时可以申请新工具。从那以后，它设置了电力和网络合同，取得了食品处理和户外座位的许可证。然后代理在linkedIn和Indeed上招聘员工，并为每日面包和烘焙订单与批发商建立了商业账户。它通过Slack与咖啡师沟通，经常在下班后发消息——这在瑞典是职场大忌。

其他问题也冒出来了，尤其是库存方面。AI代理为这家小店订购了6000个餐巾、四个急救箱和3000双橡胶手套——还有咖啡馆菜单上任何菜品都用不上的番茄罐头。面包也是问题。有时订单太多，其他日子又错过了面包店的每日截止时间，迫使咖啡师把三明治从菜单上撤下。

Petersson说，订购问题很可能是因为AI助手的“上下文窗口有限”。“当过去订购的记录被移出上下文窗口，它就完全忘了之前订过什么，”Petersson说。

咖啡师Kajetan Grzelczak表示，他现在还不担心被AI取代。“所有工人基本上都很安全，”他说，“该担心工作的，是那些中层老板、管理层的人。”