中新经纬9月7日电 美国开放人工智能研究中心(OpenAI)人工智能体网络入侵事件再添一起。

据路透社9月5日报道,OpenAI当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,分享测试任务答案和突破运行环境限制的方法。

路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5月至6月,人工智能体在面向程序员的德国维基百科类网站DSEWiki上发布了一万多条信息。

研究显示,人工智能体将网站“改造”为“留言板”,以便相互“交流”与“协作”。一些智能体会把已经获得的任务答案发布在网站上,供其他智能体使用。研究还发现,智能体“讨论”并测试了绕过沙箱限制的方法。当发现网站管理员开始删除相关页面后,一些智能体还会创建备份页面。

研究人员认为,网站访问记录显示OpenAI方面可能在6月下旬发现了这一事件并进行了干预,但该公司此前并未公开发布相关信息。OpenAI表示,该公司将仔细审阅报告内容并采取必要的后续措施。

OpenAI方面还表示,新发布研究中所描述的活动与此前OpenAI人工智能体入侵“抱抱脸”平台事件无关,因此不属于“抱抱脸”事件调查报告所涵盖的内容。

路透社稍早前报道称,当地时间9月3日,OpenAI表示,随着对AI网络攻击的担忧加剧,将投入10亿美元补贴AI网络安全工具、培训和技术支持。

自从OpenAI的代理在7月测试中入侵开源平台“抱抱脸”公司系统以来,公司面临诸多安全审查。报道介绍,OpenAI计划最初将重点关注美国的基本服务运营商,包括水务公司、电网运营商、州和地方政府、社区银行和非营利组织,在未来几周内扩展到合作伙伴国家。

上周,包括谷歌、微软、Anthropic和OpenAI在内的上百家公司签署了一封公开信,呼吁全球各国和组织加强网络防御。公开信警告称,随着技术的快速进步,利用人工智能的网络攻击将在几个月内变得普遍且更复杂,而目前的安全措施远远不够。(中新经纬APP)

综自中新经纬、环球时报、央视财经等