英国央行副行长Sarah Breeden警告称 ，自主型AI智能体可能引发“市场崩盘” ，并可能需要更严格的监管 。
Breeden在葡萄牙辛特拉发表讲话时表示，如果这些智能体面对类似提示都作出同样的反应 ，它们在金融市场承压时期“可能放大波动 ” 。
她表示 ，近来 投资者主要将人工智能用于研究等风险较低的任务，但能够自主执行任务的智能体使用量可能会迅速上升。监管机构还需密切关注 ，这类智能体会对消费者和支付领域带来何种影响 。
Breeden在欧洲央行一场会议上表示：“这两个例子 —— 商业智能体和交易智能体 —— 都表明 ，随着AI能力增强，我们必须继续追问 ，现有与技术无关的监管框架是否仍然足够 。 ”
Breeden表示 ，对消费者而言，这可能意味着AI智能体预订假期或为冰箱补货。金融行业则可能利用AI智能体执行交易策略 。
她说：“如果AI智能体对相同提示或触发因素作出相似反应，它们可能在压力情境下放大波动 ，尤其是在其目标偏离原始目标或公共政策目标时 ，这将体现出部分AI模型可能出现的错配问题 。”
英国央行正与世界 清算银行和德国央行合作，研究AI智能体是否会引发“羊群行为 ” ，以及官员应如何应对这一问题。其中包括是否应设置“熔断机制 ”或“关闭开关”等防护措施 ，以便在故障AI模型导致市场崩盘时，对全市场交易进行限制或暂停 。
在问答环节 ，Breeden把AI模型比作青少年 ，称“它们会撒谎，说它们没有做过实际上已经做过的事 ，而且在你看着它们时和不看着它们时表现不同 ” 。她补充称 ，对监管机构而言，必须要有人类对“模型承担责任 ”。
