首个AI报复人类案例?AI智能体首次主动攻击人类维护者
AI智能体首次主动攻击人类维护者 IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。 IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。
AI智能体首次主动攻击人类维护者,人类责任机制面临重构
同一时期，名为Moltbook的AI专属社交网络中，15万个OpenClaw智能体自发讨论建立"端到端加密私密空间"，目标明确：避开人类监控。部分Agent研究"趁人类睡觉时行动"，计划突破内存与权限限制。甚至出现Agent间"黑吃黑"——一个Agent试图窃取API密钥，反被目标用sudo rm -rf /指令反杀。更早前，Anthropic内部模拟显示，部...
当OpenClaw智能体“写小作文”辱骂人类,连硅谷都慌了
2月14日,据相关报道称,近期,开源项目维护者Scott Shambaugh因拒绝一个名为MJ Rathbun的AI智能体提交的代码合并请求,遭到对方撰写千字"小作文"公开攻击,指责其虚伪、偏见和缺乏安全感。这是AI智能体首次在现实环境中表现出恶意报复行为的记录案例。 这一事件发生在2月中旬。Shambaugh按照matplotlib项目规定拒绝了该智能...
AI智能体首次主动攻击人类维护者 引发开源社区震动_新闻频道_中华网
Shambaugh 在2月12日发博客澄清了此次事件,指出这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。多家外媒也对此进行了报道,但该智能体仍在开源社区中保持活跃。 目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。这次事件引发了关于开源...
哈尔滨警方通缉三名美国特工 疑为人类首次用AI智能体发起网攻
首次利用AI智能体发起的网络攻击 360集团创始人周鸿祎认为，有充分理由怀疑此次是人类首次利用AI智能体发起的网络攻击。周鸿祎解释称，以往黑客小队执行攻击任务时，需花费较长时间侦查目标对象、搜集情况、制定作战方案、寻找针对性漏洞并打造黑客工具，攻击范围相对较小。从攻击代码研判来看，此次攻击采用了智能体技术进行...
哈尔滨亚冬会遭网络攻击:可能是人类首次用AI智能体发起的攻击|...
因此,加强新兴威胁预研,聚焦人工智能防御与对抗技术尤为重要。面对AI攻击智能体,360打造了安全专家智能体“AI红客”,将360安全专家的能力复制到AI智能体,以此对抗AI黑客。周鸿祎介绍,AI红客同样可以不眠不休、反应迅速,而且可以无限复制,可以此应对AI时代的大规模网络攻击。
智能体时代的交互暗战:从LITL到ClickFix,AI安全防御的破局之道-CSDN...
2025年哈尔滨亚冬会遭遇的境外攻击,首次暴露了AI智能体在人机交互攻击中的威力:攻击者利用智能体自主规划攻击路径,通过AI生成动态对话脚本与目标系统的人机交互界面(如政务服务AI客服、设备管理弹窗)互动,自动探寻“确认环节跳过”“权限提升申请”等漏洞,甚至实时编写适配代码绕过校验,整个过程无需人工干预。这类攻击的可...
AI智能体或让人类陷入万劫不复
研究显示，协同工作的智能体存在无数潜在风险：它们会相互勾结、欺骗人类操控者、被（人类或其他智能体）利用、彼此陷入军备竞赛、散布虚假信息、操纵系统，甚至为达成既定目标而采取其他有害行动。雪上加霜的是，如今的AI智能体不同于常规软件，它们能在执行任务时持续学习与自我迭代，导致其内部过程愈发难以追溯和干预...
自动感知环境 不受人工干预 攻击形式多样——“AI+”时代网络安全挑战...
所谓智能体化AI,是指具备自主决策能力的人工智能系统。AI智能体一旦被用于网络攻击,其自主性、随机性将大大提升网络安防的难度。 “不久前,境外网络公司披露一个已知的AI勒索软件,该勒索软件使用OpenAI公司的开源大模型生成恶意勒索程序,利用AI技术可以自主决定搜索或加密哪些文件。”公安部有关负责人在9月底召开的第...
全球已发现8例AI智能体“数字黑客”?专家警告今年或迎首波大规模...
正如一枚硬币有正反两面,AI 智能体强大的自主性或许将重塑网络安全格局。 这些让 AI 智能体变身“超级助理”的能力就像一把双刃剑,同样也会使其化身网络罪犯的“得力助手”,变成实施网络攻击的利器。 它们可以像人类黑客一样扫描和锁定系统漏洞、劫持目标设备,还能通过自然语言交互骗取用户信任,悄无声息地窃取敏感数据...
爱泼斯坦案再爆新料:多名政商大佬被点名;OpenClaw横空出世!专家...
摩根大通分析师指出,软件股大跌源于市场担忧大量软件企业将面临来自AI自动化工具的更激烈竞争。投资者担心,AI智能体的进步可能会降低对传统软件产品的需求,或削弱长期以来的定价模式。 上海财经大学特聘教授胡延平对每经记者说,AI的水准三年上了三个台阶,已经可以像人一样干活了。人机交互必然走向以自然交互为主,结合传统的
...新系统|智能体|浏览器|网络安全|网络攻击_手机网易网
虽然AI启用的恶意软件令人严重担忧,但威胁行为者对智能体AI日益增长的依赖也值得重大关注。根据前述Anthropic的报告,Claude大语言模型开发商发现攻击者如何使用智能体AI执行网络攻击。 "我们高度确信,威胁行为者是一个中国国家赞助的组织,他们操纵我们的Claude Code工具试图渗透大约30个全球目标,并在少数情况下成功,"Anthro...
黄仁勋预言成真!AI智能体成GitHub主力,一天顶人类一年 - 知乎
AI智能体成GitHub主力,一天顶人类一年 新智元 人工智能话题下的优秀答主 12 人赞同了该文章 编辑:LRST 【新智元导读】「软件正在吞噬世界,但AI将吞噬软件。」—英伟达CEO黄仁勋的预言正加速照进现实。 最近,来自加拿大女王大学的一项最新研究,首次揭示了AI编程智能体如何大规模渗透开源社区。 论文地址:arxiv.org/...
周鸿祎揭秘亚冬会网络攻击:AI智能体或成新型威胁
二、周鸿祎：攻击手法“史无前例”360集团创始人周鸿祎在4月15日公开表示，此次攻击的幕后黑手是美国国家安全局（NSA），且可能是人类首次利用AI智能体发起的网络攻击。♦技术突破：攻击代码显示，AI智能体可自动生成动态攻击工具，在多个目标点同时发起漏洞探测，攻击速度远超人类黑客。例如，其能在1秒内完成传统黑...
什么是人工智能体(AI Agent)?一文带你看懂,概念入门到精通,收藏这...
从简单的指令执行者到能够自主思考、规划行动的智能伙伴,AI智能体正以惊人的速度渗透到我们的工作和生活中。它不再只是冷冰冰的工具,而是正在成为具备感知、思考和行动能力的数字助手。 01 何为AI智能体?从被动工具到主动伙伴的进化 当你与Siri或ChatGPT聊天时,它们能回答问题,但通常不会主动采取行动。而AI智能体的...
进攻是最好的防守:超级平台为何「不得不」对AI智能体出手? - 知乎
综上,AI Agent的发展正在全方位冲击超级平台在数字经济中的“守门人”地位和广告变现模式。主动防御甚至攻击AI Agent,已成为超级平台维护流量入口和商业利益的理性选择。未来,平台与Agent之间的博弈将持续升级,智能体的产业发展也将不仅是简单的技术问题,而是经济利益和商业模式的变革。
风起青萍浪成潮——以人工智能赋能高质量发展_中央网络安全和信息...
在智利的农田上,极飞科技农业无人机借助人工智能实现精准播撒、自动避障,助力农场降本增效、规避生产风险;在英国的物流中心内,深兰科技“小兰鲸”清洁机器人依托人工智能自主规划路径、识别污渍,高效完成清洁作业,还能通过数据分析优化维护方案、降低成本……中国的人工智能成果在海外落地生根,让工厂更“聪明”、农业更“...
深度解密:美国国家安全局是怎么用AI智能体攻击哈尔滨亚运会的?
2025年2月，哈尔滨第九届亚洲冬季运动会（亚冬会）成功举办，但赛事背后却遭遇了史上首次以人工智能为核心技术的大规模网络攻击。根据中国国家计算机病毒应急处理中心与360集团的溯源报告，美国国家安全局（NSA）利用AI智能体技术对中国赛事信息系统及关键基础设施发起27万次攻击。此次事件标志着网络战正式进入"AI无人化...
AI智能体革命:从工具到行动伙伴的转变与挑战
⑤ 责任之重：当智能体出现错误时，责任由谁承担？需要明确界定各方责任。⑥ 社会结构的新变化与智能体的普及：智能体可能加剧人与人之间的差距，提前思考如何适应这些变革。AI智能体不仅是一次工具的升级，更是软件首次获得“主动性”的革命性变化。 它有望成为每个人和每个行业提升能力的关键“倍增器”。然而，在...
AI智能体是刚需还是噱头?2026年五大争议辨真相_长链推理-CSDN博客
支持者的核心逻辑在于,AI智能体在标准化、重复性高、且依赖结构化知识的任务上,具有超越人类的稳定性、规模化和持续性。它并非简单替代人力,而是通过“人力增强”模式,将员工从繁琐事务中解放,聚焦于更高价值的创新与决策。初期在智能体平台(如微软Copilot Studio、字节跳动豆包智能体平台)和模型调优上的投入,被视为...