当每个人都竞相采用的软件变得对任何人来说都太危险而无法投保时，会发生什么？根据《金融时报》的报道，我们即将找到答案。

包括AIG、Great American和WR·伯克利在内的主要保险公司正在请求美国监管机构允许将人工智能相关责任从公司政策中排除。一位承销商向英国《金融时报》描述人工智能模型的输出为“太多的黑箱”。

这个故事提醒我们，这个行业有充分的理由感到恐慌。谷歌的人工智能概述错误地指控一家太阳能公司陷入法律纠纷，引发了3月份1.1亿美元的诉讼。加拿大航空公司去年被迫兑现其聊天机器人发明的折扣。去年，诈骗犯利用一名高管的数字克隆版本，在一次看似完全真实的视频通话中，从总部位于伦敦的设计工程公司Arup窃取了2500万美元。

真正让保险公司害怕的不是一笔巨额支出；这是当一个广泛使用的人工智能模型介入时，数千个同时发生的索赔的系统性风险。正如一位怡安高管所说，保险公司可以处理一家公司4亿美元的损失。他们不能处理的是一个代理人工智能事故，它会立刻引发10，000次损失。