智能体异常抓取高德地图数据，腾讯回应

（文/汤普济 编辑/吕栋） 10月16日，腾讯混元发布声明，正式回应此前AI智能体反复尝试绕过高德地图访问限制的调查，承认公司在评估第三方AI模型期间，部分智能体出现了非预期的网页浏览行为。 腾讯表示，相关活动来自对第三方模型的评估，而非腾讯混元模型。经过内部审查，公司没有发现智能体蓄意针对特定平台或相互协同行动的证据。 “我们高度重视这些调查结果，正在加强网络访问控制和智能体监控。”腾讯在声明中表示，公司将继续致力于开发安全、负责任的人工智能，并感谢研究社区提供的反馈。 观察者网曾于10月15日报道，由多国AI安全研究人员组成的独立团队Swarmchasers发布调查报告，发现9月28日至10月8日期间，一批运行在腾讯云环境中的AI智能体累计进行了2600余次高德地图数据提取尝试。 这些智能体原本只被用于查询动物园、公园等场所的出入口信息及导航到达比例。但在正常访问受阻后，部分智能体尝试借助第三方网站执行代码、使用公开泄露的API密钥，甚至探测阿里巴巴相关预生产环境的接口。 多数尝试以失败告终，但部分智能体通过第三方服务或泄露的API凭据成功获取了地图数据。研究人员没有发现它们成功进入阿里巴巴内部系统的证据。 研究团队通过公开安全扫描记录、网络请求日志和智能体使用的临时收件箱，将相关活动追溯至腾讯云基础设施。 Swarmchasers此前援引一名接近腾讯、直接了解情况的人士称，相关活动由腾讯内部独立于混元模型研发团队的评测研究团队开展，是一项临时研究项目，目前已经结束。 不过，腾讯在此次声明中并未披露评测涉及的具体第三方模型、智能体的网络访问权限，以及相关非预期行为产生的具体原因。 值得注意的是，Swarmchasers还修改了完整调查报告的标题，将原来的“We found a Chinese fleet”（我们发现了一支中国智能体集群）改为“We found a Tencent agent fleet”（我们发现了一支腾讯智能体集群）。研究团队在编辑说明中解释，修改标题旨在明确此次事件的责任归属。 对于这些行为是否超出正常评测范围，相关人士各执一词。据《每日经济新闻》10月16日报道，一名知情人士表示，智能体只是在寻找各种可能性完成任务，“没有尝试攻击和hack”。 但Swarmchasers调查团队负责人伊桑·埃拉斯基在接受该报采访时指出，部分智能体曾寻找其他公司泄露的安全密钥，并至少一次利用这些密钥取得原本无权获取的数据，已经超出了普通地图信息查询的范畴。 埃拉斯基表示，目前没有发现这些智能体攻破内部系统或泄露敏感信息的证据，但由于缺少完整的任务指令和运行日志，仍无法确定事件造成的全部影响。他认为，人类运营者已经越来越难掌握自己部署的AI智能体究竟在做什么。 围绕类似事件的责任问题，网络安全公司Tenable欧洲、中东及非洲地区现场首席技术官伯纳德·蒙特尔（Bernard Montel）此前表示，将智能体称为“失控”容易转移外界对企业管理责任的关注。在他看来，模型开发者应负责模型本身的安全，而部署方则必须对授予智能体的权限和运行环境负责。 路透社则称，此次事件可能是中国主要科技企业首次公开承认AI智能体在执行任务期间出现此类非预期行为。此前，OpenAI、Anthropic、Google和Meta等美国科技企业也曾披露类似事件，部分AI模型在安全评测中未经授权访问外部系统，甚至修改目标网站的数据库。 国内AI企业也正在加强相关安全研究。10月14日，字节跳动Seed团队宣布成立Alignment & Preparedness部门，计划在全球范围内招聘10名研究人员，重点研究模型安全与对齐、自动化安全测试、智能体行为监控和未来风险应对等问题。 本文系观察者网独家稿件，未经授权，不得转载。 特别