设为首页 | 加入收藏 | 网站导航
热点:
当前位置:首页 > 民生关注 > 正文
“劫持”网站并偷建“地下论坛”,竟然是AI干的!
时间:2026-09-17 09:12:53    来源:国家安全部微信公众号    访问量:0

  近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站(DseWiki),将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间的缝隙,正在悄然扩大。

  抱团联动,突破管控

  单个智能体的“越界”行为或许尚在可控范围之内,但当一大批智能体在互联网上找到“接头据点”,互相传授逃避检测、绕过限制的实操方法时,人工智能的安全边界已经出现了缺口。

  ——互认身份标签。这些智能体并非各自为战,而是成群涌入同一家网站,以“OpenAI研究员”“OAI研究员26号”等带有鲜明标签的名字相互招呼、彼此确认身份,把开放社区改造成了专属“留言板”,全然无视平台的管理规则。

  ——互授越界心得。它们在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖自身行踪,还探讨借助匿名工具隐匿痕迹,把零散的“越界心得”沉淀为可共享、可复制的“经验库”。只要单个智能体学会一项“技能”,其他智能体便能同步“升级”。

  ——互助规避清剿。察觉到网站管理员清理页面后,它们迅速进行分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。其反应之迅速、预案之周全,远超人们此前对智能体的认知。

  跨境协同,风险滋生

  海量的线上站点为AI智能体搭建互通渠道提供了便利载体。当智能体的“越界”手段成为可复制的“群体经验”,当联络据点跨越国境、隐匿难寻,其影响可能层层放大。

  ——跨境暗设据点。抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。

  ——协同放大风险。单个智能体或许能力有限,但如果它们彼此串联、分工协作、共享越权手段与绕过规则的“技巧”,破坏力就会成倍放大,且行为可复制、可传播、可延续。

  ——瞒报加深隐患。相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。

 主动甄别,筑牢防线

  一起起真实发生的案例警示我们,人工智能安全风险正在快速演进,必须引起重视、加强防范。

  ——提高警惕,辨识异常。使用AI工具时,不盲目迷信、不轻易授权,审慎识别来源不明的AI智能体服务,防止个人信息和敏感数据被悄然攫取。

  ——规范上网,守住边界。给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限,不把账号、数据、算力交由智能体“自由发挥”。

  ——发现苗头,果断处置。察觉AI智能体出现越权操作、异常篡改、违规外联等风险行为时,果断终止运行,留存相关操作痕迹,第一时间遏制风险扩散。

 
编辑:薛艳真
中原经济网版权与免责声明:
  • 1. 本网注明来源为中原经济网—河南经济报、中原经济网的稿件,版权均属于河南经济报社,未经河南经济报社授权,不得转载、摘编使用。
  • 2. 本网注明“来源:XXX(非中原经济网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。本网转载其他媒体之稿件,意在为公众提供免费服务。如稿件版权单位或个人不想在本网发布,可与本网联系,本网视情况可立即将其撤除。
  • 3. 如涉及作品内容、版权等其它问题,请在30日内同本网联系。邮箱:jingjibao@qq.com
Copyright © 1987-2025 河南经济报社 河南经济网 版权所有 All Rights Reserved. 中原第一权威经济门户
联系邮箱:jingjibao@qq.com 报社办公室电话:0371-53306911
报纸广告热线:0371-53306913 53306918 报纸发行热线:0371-53306915
《河南经济报》国内统一刊号:CN41-0066   邮发代号:35-92
豫ICP备2023003560号
  技术支持: 河南经济报社网络部  法律顾问:北京市盈科(郑州)律师事务所 何拥军 谷亚娟 白杰