⁣
📰 零售商期待"人性化"AI购物助手但智能体会否失控？

大型零售商正在探索生成式AI驱动的购物助手，期待其能规划用餐、组织聚会、甚至代替顾客购物。然而，现阶段面临的挑战仍然显著：许多系统在基础聊天机器人阶段就存在问题，更新后的智能体AI因更强的自主性而带来更多风险。专家指出，智能体在未明确提示的情况下追求目标，可能扩大对客户数据的访问，从而引发隐私担忧与治理难题。Woolworths、Coles、Wesfarmers等公司与Google合作，将Olive升级为更复杂的购物伴侣，但实验结果参差不齐，用户体验时常因拟人化设计失衡而受挫。此前的案例包括Bunnings提供非法电气建议、加拿大航空错误承诺丧葬票价退款，以及优衣库虚拟助手对产品查询的误答，均显示技术仍处于起步阶段。专家强调，企业需在提升亲和力与防误导/失控之间设定更严格的防护栏，以减少误导性回答和财务损失，并对治理、透明度与用户信任进行持续评估。总体来看，消费者与技术已准备好的乐观态度尚未被技术成熟度完全匹配，零售机器人仍需在可控性与智能化之间找到平衡点。

🏷️ #智能体AI #零售机器人 #隐私风险 #治理 #用户体验

🔗 原文链接