净网—2025|“跑马机”作弊成黑产?AI也能成黑产源头?
近期，重庆公安部门工作中发现，一些驾校学员无需实际练车即可刷满学时，背后是不法分子使用“跑马机”并结合AI技术实施作弊。这一犯罪链条涉及生产、销售、使用等多个环节，已形成黑色产业，严重影响公共安全。什么是“跑马机”？这是利用汽车脉冲信号原理制作的设备，其核心功能是通过侵入并篡改驾培计时系统，并运用AI技
拍案|关注网络安全之二:换脸、代过、写代码……AI很“忙”,别当法...
“跑马机”作弊成黑产 还有不法分子瞄上培训学时，用AI帮人“打卡”。今年3月，重庆警方侦查发现，一些驾校学员无需实际练车即可刷满学时，背后是不法分子使用“跑马机”并结合AI技术实施作弊。这一犯罪链条涉及生产、销售、使用等多个环节，已形成黑色产业。什么是“跑马机”？重庆市南岸区公安分局网安支队民警介绍...
跑马机作弊成黑产AI也能成黑产源头 黑色产业链浮出水面_新闻频道...
跑马机作弊成黑产AI也能成黑产源头 黑色产业链浮出水面 近期,重庆公安部门发现一些驾校学员无需实际练车即可刷满学时,背后是不法分子使用“跑马机”并结合AI技术实施作弊。这一犯罪链条涉及生产、销售、使用等多个环节,已形成黑色产业,严重影响公共安全。 “跑马机”是一种利用汽车脉冲信号原理制作的设备,其核心功能...
AI都有黑产了?玩AI时,千万小心广告植入和假数据骗人
2.CN-SEC中文网：《新型AI攻击借助图像植入恶意提示词窃取用户数据》，2025年8月31日 3.搜狐科技：《IETF拟推AI内容标记，净化网络生态，遏制虚假信息传播》，2025年9月2日 4.央广网：《0.01%虚假训练文本可致有害内容增加11.2%警惕人工智能“数据投毒”》，2025年8月5日 5.CN-SEC中文网：《AI投毒成新型网...
公安机关深入推进“净网—2025”专项工作依法严厉打击整治突出...
“净网—2025”专项工作开展以来,按照公安部部署要求,各地公安机关聚焦人民群众反映强烈的突出网络违法犯罪,以“全链打击、类案打击、生态治理”为导向,持续加大打击整治力度,破获一批大要案件,坚决维护网络空间秩序,取得阶段性成效。今日,公安部网安局公布10起打击整治网络违法犯罪典型案例。
净网—2025|当面临AI说谎 网警教你如何守护真实的信息边界!
经查实,王某某、郭某某、石某某等3人,通过控制500余个自媒体账号,设置社会热点、明星绯闻、爆款推荐等关键词策略,利用AI工具自动生成并发布不实帖文30余万条,造成恶劣社会影响。 近年来,随着AI技术的快速发展,尤其是自然语言处理和深度伪造技术的成熟,AI造谣呈现出更隐蔽、难辨别的特点,利用ai工具合成技术编造谣言,...
AIGC乱象治理研讨会召开 探索黑灰产协同共治
2025年6月20日,由首都互联网协会指导,阿里巴巴智能信息事业群主办的“AIGC生成合成淫秽色情内容黑灰产治理”研讨会在阿里巴巴北京朝阳科技园举行。来自中国政法大学、中国传媒大学、信通院人工智能研究所、南都大数据研究院及北京大成律师事务所的专家齐聚一堂,深入剖析AIGC技术催生的新型网络犯罪形态。
净网—2025|当面临AI说谎 网警教你如何守护真实的信息边界!
经查实,王某某、郭某某、石某某等3人,通过控制500余个自媒体账号,设置社会热点、明星绯闻、爆款推荐等关键词策略,利用AI工具自动生成并发布不实帖文30余万条,造成恶劣社会影响。 近年来,随着AI技术的快速发展,尤其是自然语言处理和深度伪造技术...
护网—2025 | 不让科技“偷走”隐私!网警发布AI伪造、智能设备...
刷脸支付、AI视频、智能管家……科技让生活更便利,但也带来了新的隐私“陷阱”。AI伪造身份诈骗、智能设备“偷听”事件,个人信息安全正面临前所未有的挑战!别担心,这份通俗易懂的防范指南教你筑牢个人信息防护墙。 警惕“以假乱真”:AI伪造风险识别与防范 ...
中央网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段...
“清朗·整治AI技术滥用”专项行动自2025年4月启动以来,中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象,深入推进第一阶段重点整治任务,部署各地网信部门加大违规AI产品处置力度,切断违规产品营销引流渠道,督促重点网站平台健全技术安全保障措施,推动生成合成内容标识加速落地。第一阶段累计处...
净网—2025 | 警惕“AI换脸”成为窃取个人隐私新手段
近期,浙江杭州警方侦破一起利用“AI换脸”突破相关互联网平台人脸识别认证机制侵犯公民个人信息案件,抓获犯罪嫌疑人4名,查获一批被非法强制登录的网络账号。 涉案人员利用生成式人工智能深度合成技术伪造“AI人脸”,突破平台人脸识别认证机制,非法窃取公民个人隐私数据。 该案中,犯罪团伙利用某即时通讯平台招揽生意,宣称可以承接互联网平台特定
当谣言插上AI的翅膀,信息安全不能袖手旁观_人民日报
我们不妨看几个具体的案例:比如,近期网络上流传“覃悦晴于2025年2月23日被活埋”的谣言,并结合AI生成内容试图渲染恐慌情绪,后经核查为假,网传图片为旧闻图片。又比如,“80后死亡率已超70后”的假消息引出“AI幻觉”问题,AI生成内容的真实性、可靠性常存疑。据南都大数据研究院不完全统计,2024年搜索热度较高的50...
网信公安联合打击网络谣言 整治AI制假信息_央广网
2025年6月,网络谣言主要聚焦社会热点、灾情事故、伪科普等领域,造谣者通过移花接木、AI生成、伪科学包装等手段虚构或夸大事实,扰乱正常社会秩序。相关部门迅速响应,通过权威信息发布、跨部门联动执法等举措依法惩治造谣传谣行为,持续筑牢网络空间清朗防线。 社会热点类谣言扰乱秩序。多个自媒体瞄准公众关切话题,紧盯教育考试...
提升AI治理能力,抖音一季度封禁涉水军、欺诈等黑产账号260万个 - 华...
4月22日,抖音发布《2025第一季度黑产治理数据报告》。据公开数据显示,自2025年以来,抖音持续加强对黑色产业链的打击,随着AI能力在治理场景的深度利用,平台在黑产违规场景的巡检、预警、研判等环节的效率都获得了大幅提升。今年第一季度,抖
净网行动再添战果:武汉网警破获全省首起“AI换脸”黑客案
净网行动再添战果：武汉网警破获全省首起“AI换脸”黑客案 在人工智能技术飞速发展的当下，AI换脸技术以其逼真的效果和便捷的操作，迅速渗透至影视娱乐、社交互动等领域。然而，当这项技术被不法分子利用，便成为打开网络犯罪大门的“万能钥匙”。2025年9月，武汉网警在“净网行动”中成功侦破全省首起利用AI换脸技术...
为什么我们要警惕“AI生成谣言”?_河北省互联网违法和不良信息...
过去半年,AI生成的谣言,从文字到视频,从民生到公共安全,以近乎工业化生产的模式泛滥,形成“谣言→AI引用→更多谣言”的传播链条。 年初,达沃斯世界经济论坛发布的《2025年全球风险报告》,将“错误和虚假信息”与武装冲突、极端天气、经济对抗和社会极化列为2025年全球面临的五大风险。
[24小时]滥用AI收割流量 AI造谣仿冒名人等乱象频现 AI深度合成...
滥用AI收割流量,AI造谣仿冒名人等乱象频现:AI深度合成工具开源,仿冒他人“立等可取”。
...整治维护网络清朗——中国互联网联合辟谣平台2025年2月辟谣榜综述...
多个重点网站平台发布“清朗·2025年春节网络环境整治”专项行动治理成效和典型案例,累计清理违法违规信息103万余条,处置账号9.7万个。2月21日,中央网信办公布了2025年“清朗”系列专项行动整治重点,包括整治“自媒体”发布不实信息、整治AI技术滥用乱象、整治涉企网络“黑嘴”、整治恶意挑动负面情绪等八大重点,传递出...
清朗网络 | 江苏网信网
中央网信办发布2025年“清朗”系列专项行动整治重点 [查看详细] 2025-02-21 15:17 AI洗稿、谋取私利,网警依法查处1起炮制涉某品牌汽车网络谣言案 2月12日,一则“广州法院对一起某品牌汽车L3级自动驾驶追尾事故作出首例判决”的网络谣言在网上广泛传播,引发舆论关注,造成不良影响。公安机关网安部门迅速开展核查...