...擦边”内容成流量密码,技术防线为何形同虚设? | 每经网
一段“AI换脸”的不雅视频,让一位高校导师突然陷入诈骗危机;一张“近乎复刻”的AI克隆照,让白领小雅担心自己的照片被用来制作色情内容;青岛保时捷女销冠和台球运动员王思诺则深陷恶意AI造“黄谣”风波……他们都是AI技术被滥用的受害者。 此外,社交平台上,明星“AI换装”“AI擦边”内容泛滥,成为“流量密码”,部分账号靠
专家解读|从标识到鉴伪:AI生成合成内容治理的技术防线与社会共治...
与此同时,各种安全问题也随之显现,譬如用AI生成虚假信息、AI换脸明星直播带货、AI实时换脸诈骗等违规甚至违法的事件频发。 为规范人工智能技术服务应用,维护国家安全和社会公共利益,国家互联网信息办公室会同多部门发布的《人工智能生成合成内容标识办法》(以下简称《标识办法》),秉持兼容并蓄的理念,通过技术手段管理技术问...
明星脸成诈骗工具?三秒识破AI换脸陷阱
当明星的脸成了骗子的“流量密码”“家人们，这咖啡我真的没推荐过！”2025年3月7日，董宇辉在直播间里罕见发火，起因竟是AI换脸技术将他的脸和声音“嫁接”到一款减脂黑咖啡广告中，播放量瞬间破亿。评论区炸锅了：“我买了三箱，喝完拉肚子！”“这年头连董老师都信不过了？”这不过是AI诈骗的冰山一角。
人工智能的滥用,到底怎么治? - 新华网客户端
去年,抖音安全中心曾发布公告,表示已发现多种不当使用AI技术生成虚拟人物的行为,其中就包括利用AI生成俊男美女虚假形象,骗取互动,将用户导流至私人聊天工具,甚至进行诈骗。根据抖音平台本周五提供的数据,他们最近一周处置的AI虚假违规内容量,相比2025年第一周,增长了62%。 事实上,从2023年开始,抖音等多家平台陆续...
焦点访谈丨你刷到的奥运冠军代言可能是假的!起底AI仿冒带货新骗局...
刷视频的时候,还经常会冒出熟悉的明星,用流利的乡音推销农产品,有的还进行直播带货。这些所谓的明星很可能是仿冒的。近段时间,网络上一些商家利用AI技术仿冒带货。有的借助名人效应,仿冒专家学者、奥运冠军、影视明星;也有的借助产地效应,冒充知名品牌。消费者、粉丝难辨真伪,慕名下单,却不知道自己被蒙了。这些游走...
AI娱乐化陷阱:我们正在被技术“驯化”吗?
流量变现公式：头部平台算法将AI娱乐内容点击价值提升300%，广告主投放意愿增加175%。案例剖析：某MCN机构批量生产AI网红，单个账号月均收益达80万，但内容同质化率高达89%。3.2 技术伦理的失守 开发者悖论：DeepSeek等大模型虽设置内容过滤机制，但为提升用户黏性默许20%的擦边球内容。监管滞后：现行《网络安全法》...
人心贪婪无极限,全红婵深陷AI假货风暴,人民日报怒批揭真相
记者调查很细：整个骗局从AI合成、虚假宣传、批量刷单、售假诈骗一气呵成，不法分子钻足了AI监管的空子。人民日报严厉批评，国家网信办火速启动“AI清朗行动”，还点名要求相关平台和团队加强技术防线。抖音连夜上线内容水印，浙江大学的监测系统更是能精准识别92%的伪造视频。很快，平台大量假冒账号被查封。事件也倒逼...
AI技术细思极恐,百位明星“下海”视频遭疯传
然而，问题不仅仅局限于明星。个人隐私的泄露和欺诈行为也开始通过「AI换脸」技术产生了深远的影响。有报道称，一些不法分子使用这种技术来伪造朋友或亲人的脸孔，制作虚假视频进行诈骗。这些视频中的人脸看起来如此真实，以至于受害者很难分辨出真相。因此，这项技术的滥用已经威胁到了个人的财产和隐私安全。随着「AI换脸...
滥用AI换脸技术乱象调查-新华网
李悦强调,首先必须明确,技术本身是中立的。AI换脸作为深度合成技术的一种具体应用,虽然存在被滥用的风险,但其本身并无“原罪”。目前,一些平台上的个人“售卖技术”行为,教他人使用开源项目或某些应用,本质上是在利用信息差。然而,如果课程内容专门教授如何突破深度合成应用的内容审核机制,则应当被否定。平台可以...
AI合成技术围猎名人流量:一场收割智商税的荒诞剧
微软Azure云日前发布的AI内容认证API，为平台治理提供了技术范本。认知之墙：上海消保委调查显示，超七成受访者无法辨别AI合成音视频。亟需开展全民数字素养教育，在中小学课程中增设"媒体识读"模块，让技术素养成为新时代生存技能。当全红婵的父亲对着镜头无奈摇头时，折射出的不仅是个人名誉受损，更是整个社会面临的...
人民日报痛批 AI 合成乱象:技术创新不能沦为无底线的工具
传播链条环环相扣：黑产团伙通过电商平台销售技术工具，MCN 机构批量生产虚假内容，短视频平台审核形同虚设。某 MCN 机构被曝每天用 AI 生成 4000-7000 条虚假新闻，通过 "标题党" 和情绪化剪辑收割流量，形成 "造假 - 变现 - 再造假" 的恶性循环。二、技术滥用的三重社会危害 1. 信任体系的系统性崩塌 AI
横店东磁:预计2025年前三季度净利润13.9亿元~15.3亿元 | 每经网
每经AI快讯,横店东磁10月12日晚间发布业绩预告,预计2025年前三季度归属于上市公司股东的净利润13.9亿元~15.3亿元,同比增长50.1%~65.2%。 每经头条(nbdtoutiao)——AI技术滥用调查:明星可被“一键换装”,“擦边”内容成流量密码,技术防线为何形同虚设?
从“AI换脸”到隐私危机:科技的双刃剑如何影响我们的未来?
事后调查发现，所谓的“老板”其实是通过AI换脸技术伪造出来的虚拟形象。这种新型诈骗方式让人防不胜防，也让公众对数字世界的真实性产生了前所未有的怀疑。案例二：娱乐产业的灰色地带除了商业用途，“AI换脸”还被广泛用于恶搞名人、制造虚假新闻等行为。比如，某些网红为了吸引流量，用AI合成明星唱歌跳舞的视频，虽然...
AI换脸+拟声 “深度伪造”的迷局何时能解?
持续处置滥用AI伪造名人形象带货营销 针对滥用AI技术伪造名人形象开展带货营销问题,网信部门持续督促各网站平台进行巡查处置,近一个月,重点网站平台累计处置违法违规账号和店铺797个。 新闻链接AI换脸换声诈骗案件时有发生 除了伪造名人形象带货营销,AI换脸和语音合成技术还被用于诈骗。犯罪分子通过非法获取的人脸照片和语音...
一键秒变大明星?警惕“AI换脸”背后的风险
一键秒变大明星?警惕“AI换脸”背后的风险 上传一张照片,就可以把歌手换成自己;一键制作,就可以变成视频中的经典角色……一段时间以来,“AI(人工智能)换脸”技术被广泛应用于短视频的二次创作,给社会公众带来了新鲜体验。不少网友感叹,“AI换脸”生成的视频,惟妙惟肖,很有意思。但也有网友认为“AI换脸”技术...
「315特辑」AI的陷阱:当科技便利成为双刃剑,我们该如何自保?
---定期检查手机“剪贴板读取权限”，防止密码、验证码被窃取。五、社会共治：让技术回归“向善”轨道 企业责任：平台需上线“AI内容强制标注”功能（如抖音的“AI生成”标签），完善用户举报通道，对诈骗账号实施“连坐封号”。法律武器：遭遇AI侵权时，可依据《民法典》第1019条（肖像权）、第1034条（个人信息）...
再智能的AI也不能无法无天 滥用人工智能可能触碰法律红线
擅自使用可能侵权不少人或企业为博眼球、谋利益,总想着用AI技术打“擦边球”:有人把普通人的脸换到明星视频里做恶搞内容,有人将他人肖像“嫁接”到广告画面中引流,更有甚者用换脸技术伪造借贷凭证实施诈骗。2024年,曾有科技公司因把某演员的影视片段进行AI换脸,制成付费下载的搞笑模板,最终被判赔偿15万元并公开道...
专家解读|从标识到鉴伪:AI生成合成内容治理的技术防线与社会共治
随着大模型等生成式人工智能技术的快速发展,生成内容质量显著提升、生成速度明显加快、适用场景大幅扩展,人工智能产业走深向实,逐步进入了规模化应用阶段。生成合成技术开始呈现工具化和普及化趋势,普通人都可以轻松地接触到各种生成合成工具。与此同时,各种安全问题也随之显现,譬如用AI生成虚假信息、AI换脸明星直播带货、...
你的脸,不再属于你:AI深度伪造技术,人人都是明星
这已不再仅仅是明星们的专属争斗了，由于技术门槛降低，随便任何人都有可能成为下一个被针对的对象，你社交媒体上的照片、视频会议的记录，乃至语音消息，都有可能成为训练AI的资料。律师克里希纳穆提道出了更为深层的困境：“当下法院仅能阻止相关材料的流通或使用，不过名人在金钱或名誉方面的损失已然形成，谁来补偿...