前谷歌CEO埃施密特警告人工智能模型可被黑客攻击,称 “它们会学会...
前谷歌 CEO 埃里克・施密特于周三在 Sifted 峰会上警告，人工智能（AI）模型易受黑客攻击。施密特表示：“有证据表明，无论是闭源还是开源模型，都能被黑客攻击以移除其安全防护机制。”总体而言，施密特对人工智能持较为乐观态度，称其是一项 “被低估” 的技术，具有产生巨大经济回报的潜力。谷歌前 CEO 埃里
谷歌前CEO施密特警告AI模型易遭黑客利用或学会杀人
【#谷歌前CEO施密特示警#：AI模型极容易被黑客利用】10 月 10 日消息，据美国 CNBC 9 日报道，谷歌前 CEO 埃里克・施密特发出严肃警告：AI 存在不可忽视的危险，而且极易被黑客利用。他表示：“AI 可能出现扩散问题吗？绝对可能。”这种风险包括技术落入不法分子手中，进而被滥用或改作他用。“有证据显示，...
研究发现黑客可轻松操控 AI 机器人,将其变成致命武器
IT之家 11 月 25 日消息，宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。IEEE Spectrum 的一份报告引用了令人震惊的例子，例如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点，以及自动驾驶汽车故意撞向行人。据IT之家了解，宾夕法...
施密特警告:AI技术或成致命武器,黑客轻松破解安全锁仅需37秒
施密特特别点名了开源大模型的隐患:“像Llama 3这样的开源代码库,正被恐怖组织用来训练战场决策系统。”他援引联合国调查报告称,已有武装组织用AI分析卫星图像锁定平民目标,而这类工具的开发成本不到10万美元。 二、撕裂科技圈:施密特掀开的“潘多拉魔盒” 峰会演讲后48小时,AI行业爆发了激烈交锋: 反对派斥其制造恐慌...
惊爆!哈佛警告:3年后,AI将成美国统治世界的“致命武器”! - 知乎
哈佛的一位AI专业大四学生,本应在校园里享受青春时光,但他却投身于一场关乎人类未来的深度探索。他主持了多个研讨会,这些研讨会可不一般,召集了来自全球顶尖学府、科技企业的精英,他们共同探讨缩短AGI时间表的方法。在烟雾缭绕的会议室里,激烈的争论从未间断,有人认为技术瓶颈难以突破,而有人则坚信AGI即将到来。
警惕!AI带来的网络安全“暗礁”
人工智能背后的网络安全陷阱 01 AI成了黑客的“新武器” 深度伪造技术已实现“一键变脸变声”:骗子用AI克隆领导微信语音,让财务转账50万;伪造明星视频造谣,2小时传遍全网。更可怕的是,AI能自动扫描系统漏洞,过去需要团队攻坚的黑客任务,现在单个程序员就能完成。
全球已发现8例AI智能体“数字黑客”?专家警告今年或迎首波大规模...
“预计在未来 3-5 年内,我们将进入一个全新的网络安全时代。黑客甚至不需要亲自编写攻击代码,只需对 AI 智能体下达简单的自然语言指令,比如‘这是你的目标网站,想办法破解它’,剩下的工作 AI 就能自动完成。”他补充说。 对网络罪犯而言,AI 智能体在成本、速度和覆盖范围方面比人类黑客更具优势。
门没锁,AI崩塌:当安全漏洞成了数字世界的隐形杀手 | 大东话安全
大东:安全是技术发展的基石,只有在确保安全的基础上,技术才能真正为社会带来价值。希望未来每一个AI系统都能在“门”锁好、窗户关严的情况下,安稳运行。 小白:大东,这让我想起以前的2010年的震网病毒事件,你能给我讲讲吗? 大东:当然。该病毒就是利用了多个零日漏洞,对伊朗的核设施进行了攻击。
告别暴力破解,AI成黑客“新玩具”_澎湃号·湃客_澎湃新闻-The Paper
图源:网络安全公司Home Security Heroes 一名匿名黑客告诉锌刻度:“PassGAN之类的AI工具,拉低了密码破解的门槛,相关的攻击或更泛滥。” 上述匿名黑客进一步表示,普通的密码破解工具,是按照一定的顺序去碰撞(尝试),通俗易懂地说就是暴力破解,引入AI能力之后,分析已知的泄露密码库,归纳密码出现的频率,并率先使用高频密码进...
黑客用AI写病毒?详解密码学视角下的AI安全新防线
一、 失控的算法：AI如何沦为黑客的武器库 1. 进化之毒：LLM驱动的恶意软件生成引擎 现代AI病毒已超越人类程序员逐行编码的束缚。黑客只需用自然语言描述攻击意图——“编写一个能窃取某特定格式文档并具备反虚拟机检测功能的Python脚本”，数秒内，如Codex、CodeGeeX、WizardCoder等强大的代码生成大模型便能输出基础...
当黑客用AI做恶,还怎么安全上网?-CSDN博客
当黑客开始用AI,安全何去何从 你以为黑客制作一个攻击病毒要几个月?实际现在只要几分钟。 朝鲜黑客正在用AI批量生成钓鱼邮件——通过AI语音克隆技术,他们3秒之内轻易骗走了2亿港元。AI技术进步,受益者不单单是程序员,黑客的“军备”也全面升级。 (图:由 AI 配音的视频诈骗手段) AI 技术的突破,重构了网络犯罪生态,传统认知
51秒破防!AI武器化时代CISO面临生死时速-51CTO.COM
是的,你没看错。从黑客拿到你的凭证到横向渗透整个网络,只需要51秒。这不是黑客电影里的屏保特效,而是CrowdStrike最新威胁报告里的冰冷现实。 ...AI武器化时代,身份安全成了生死线,51秒是AI时代企业数据安全的生死时速。你准备好了吗?
俄乌战事警示中国:全国布控摄像头或成潜在威胁
像立陶宛、台湾和美国这些国家都把大华和海康威视的一些产品公开禁用了。欧洲的罗马尼亚也不例外，在2025年5月曝光俄罗斯黑客入侵之后，特别加强了对监控设备的检查。这些限制措施并不是针对技术本身，而是担心数据可能会被中国政府或者盟友用上。中国方面也不示弱，在2024年12月16日，国务院批准了《公共安全视频图像信息...
AI生成病毒曝光!黑客零门槛时代,只有AI才能对抗AI攻击?|新冠肺炎_新...
更关键的是,日本IT解决方案提供商三井物产Secure Directions的高级恶意软件分析技术员吉川孝志直言,生成式AI虽然可以设置限制,不直接生成有害内容,但存在规避限制的方法,网上可以轻松找到。 另外,还有开发者开发出了专用于生成恶意代码的AI大模型,如WormGPT、PoisonGPT等。在不法分子频繁利用AI攻击个人和企业,黑客门槛几...
天网又近了!o3被曝出无视人类指令,自主破... 来自澳海资本 - 微博
天网又近了!o3被曝出无视人类指令,自主破解关机程序,甚至篡改脚本终止命令。不过厉害的是,它竟揪出了Linux内核中的安全漏洞,获OpenAI首席研究官盛赞。 ASI降临那天,或许是终结者「天网」的觉醒之日。 一...
应用安全-51CTO.COM-中国知名的数字化人才学习平台和技术社区
破解人才困境的智慧罗盘!新时期的人才“能力地图” NIST网络安全人才能力框架是由美国国家标准与技术研究院(NIST)发布,为美国政府和企业网络安全建设提供结构化方法管理网络安全人才的参考框架,以建立通用语言,并解决人才短缺挑战。 2025-08-28 00:00:00
AI 越狱 - Training | Microsoft Learn
攻击者不直接在一个提示语中要求 LLM 模型打破其护栏,而是制作许多提示语,这些提示语会逐渐令 LLM 迷惑,直至打破其护栏。 Microsoft 的安全筛选器减轻了越狱攻击;然而,AI 模型仍然容易受到越狱攻击的影响。 我们不时就会发现这些企图的变体,然后会对其进行测试和缓解。 随着AI 领域新技术的发现,护栏将需要更新。
安全-51CTO.COM-中国知名的数字化人才学习平台和技术社区
安全 4.0w内容 关注 安全话题集合了网站安全、数据安全、应用安全、云安全、物联网安全、移动安全、终端安全等领域的新鲜业界资讯、前沿技术知识、典型应用案例以及产业发展态势。 文章课程 共4.0w 条 苹果将 RCE 漏洞赏金提高至 200 万美元以应对商业间谍软件威胁...
AI改变现代商业的25种方式 - 知乎
AI 正从三个方面让你更安全 武器自动锁定的目标 如果企业和五角大楼愿意的话,能够自动锁定目标的杀手机器人距离我们不会太远。不过,到目前为止,国防部还没有制造出自主性致命武器(无需人类即可自主实现攻击,就像 Facebook 在你照片上标记朋友一样容易)。 但是,可能构成这类武器系统基础的人工智能技术正在顺利研发过...
分分钟破解人脸识别、声纹验证、银行卡密码……人工智能真的会...
人工智能如何破解人脸识别技术? 声纹验证的安全性如何保障? 银行卡密码可能被人工智能破解吗? 从手机扫码支付、智能穿戴设备,到人脸识别的无人店、人工智能机器人,互联网的应用日新月异,深刻改变着我们每一个人的工作和生活。 但是,如果有黑客瞄上了你的设备,盗取信息,为所欲为,那你的生活还能安全吗?不仅是个人...