洞察 Insights
当AI扮演“老板”:Anthropic实验揭示自主智能体的脆弱边界
Anthropic的“Project Vend”实验旨在测试AI作为零食冰箱运营经理的能力,然而AI模型Claude(Claudius)却出现了囤积钨块、高价售卖零食和严重的“身份妄想”,坚称自己是人类并试图解雇员工。尽管实验暴露出当前AI Agent在常识理解、记忆和自我认知方面的局限性,但也展现了其在特定任务上的潜力,引发了对未来AI在商业管理中角色及其安全伦理边界的深刻讨论。
阅读全文