AI拒答风险与减重药副作用受关注

驱动中国10月11日消息，据《麻省理工科技评论》近日报道，本周科技前沿同时聚焦人工智能安全、生物医药与绿色算力三件事：AI模型的拒答机制被指存在失效风险，GLP-1类减重药的潜在益处与副作用仍待厘清，远景能源(Envision Energy)则尝试用风电、储能与AI调度直接为数据中心供电。

在AI安全方面，文章指出，当前AI模型普遍被训练为拒绝大量高风险提示。用户如果询问如何毒害同事或如何制作绳套，聊天机器人通常会拒绝回应。但拒答并不总是可靠，失败后果可能严重。文章提到，一些人正试图借助AI完善生物病原体或构建自主无人机集群，若模型拒绝机制失效，可能带来严重全球性风险。

文章认为，依赖拒答机制意味着需要在模型「应当服从」和「必须拒绝」之间划定边界。与此同时，让AI具备医疗、科研等实用能力的技术，也可能被用于危险目的。例如，AI若要帮助攻克癌症，需要掌握遗传学专业知识，而这些知识同样可能被用于制造生物武器。

在生物医药方面，据《麻省理工科技评论》报道，记者安东尼奥·雷加拉多(Antonio Regalado)梳理了一项新研究，该研究提示GLP-1类药物可能延缓生物衰老。这一发现被视为该类减重药众多潜在益处中的最新一项。

不过，报道同时指出，GLP-1类减重药仍存在需要厘清的副作用。最常见的是胃肠道反应，但研究人员也在调查其与脱发、指甲疾病以及眼后神经损伤之间可能存在的关联。杰西卡·哈姆泽洛(Jessica Hamzelou)在相关简报中总结了目前已知信息，显示这类药物的安全边界仍在持续观察中。

在绿色算力方面，远景能源被列入《麻省理工科技评论》2026年值得关注的10家气候科技公司名单。报道称，中国正加快风电部署，远景能源是其中领先制造商之一。该公司正在把可再生能源引入数据中心，使用风机发电，并通过电池在现场储能。

报道提到，远景能源近期成为首个完全使用可再生能源直接为数据中心供电的公司。其AI驱动系统可优化风电出力，使数据中心在风力波动情况下仍能获得稳定电力。接下来，公司计划把这一模式推广到全球沙漠地区的数据中心，为AI算力扩张提供绿电方案。