Anthropic高管称开放式AI模型风险更高

驱动中国10月15日消息，彭博社14日披露的消息显示，Anthropic国际业务负责人纪尧姆·普兰森认为，开放式AI模型相比该公司自有模型更容易引发网络安全事件或其他危害。

普兰森在都柏林国际人工智能峰会期间接受采访时表示，对于开源模型安全问题需要格外谨慎；他无法替开放模型作出保证，但从定义上看，这类模型风险更高。

随着越来越多国家担心过度依赖美国AI技术，预计将上市的Anthropic面临竞争加剧，开放权重AI模型成为热门选择。开放权重模型向公众开放参数，用户可自行修改，也能部署在自有设备。支持者认为，这类模型比Anthropic和OpenAI严格控制的闭源模型更便宜，也更有利于各国掌握AI技术自主权。

Anthropic同时加强对AI潜在风险的提示。本周早些时候，该公司警告称，小型AI模型很快可能被用于驱动新型僵尸网络，并使其在智能烤箱等小型联网设备之间自行复制和扩散。

普兰森还负责Anthropic面向初创企业和数字原生企业的销售业务。他表示，对开放权重模型的担忧来自Anthropic保护自家产品安全的经验。在几起引发广泛关注的AI黑客攻击事件后，Anthropic宣称增加安全防护措施，防止模型从事恶意活动。该公司也一直主张，在国际标准和统一评估机制建立之前，应放慢AI开发步伐。

普兰森还谈及公司定价较高的模型。他经常告诉企业，购买能力更强的模型最终是值得的，因为持续投资先进模型后，无论是半年、一年还是两年后，同样的应用成本都会下降。普兰森称，Anthropic新近推出的Claude Opus 5.5模型比早期版本便宜40%。付费使用Anthropic前沿模型的企业客户占公司业务的很大一部分，但他没有透露具体比例。