北京金融监管局:警惕AI换脸冒充亲友等四大数字时代新“骗局”
北京商报讯（记者李海颜）3月13日，北京金融监管局发布消费者风险提示，提醒广大老年群体，警惕AI换脸冒充亲友、虚假养老项目众筹等四大数字时代新“骗局”，护好养老钱袋。根据风险提示，“AI换脸冒充亲友”即不法分子利用AI换脸技术，冒充老年人的亲友或熟人，通过视频通话、发送虚假视频信息等方式，以突发疾病、遭遇事...
警惕“AI换脸拟声”骗局!如何防范新型电信诈骗?
近日,国家金融监督管理总局金融消费者权益保护局发布防范新型电信网络诈骗风险提示,将“AI换脸拟声”纳入其中,作为专门类诈骗。据介绍,AI换脸拟声类金融诈骗,多为不法分子以“网店客服”“营销推广”等为借口联系消费者,采集发音、语句或面部信息,之后利用“...
“换脸”“拟声”!西山法院:警惕新型AI骗局
AI换脸伪装熟人诈骗 诈骗分子利用AI技术，将自己的面部替换为受害者熟人的面容，然后通过视频通话或社交软件向受害者借钱。受害者因看到熟悉的面容且声音也能被模拟得极为相似，往往在毫无防备的情况下上当受骗。某公司职员小李在工作时接到“老板”的视频通话，“老板”称有一笔紧急业务需要资金周转，要求小李立即转...
揭开AI换脸的消费陷阱:“杨幂”“刘亦菲”轮番带货,最低29.9元教你学...
消费者赵月告诉北京商报记者,当初为了“AI换脸”充了月卡,结果生成视频居然需要花168元成为终身会员,到现在平台却没有预兆地突然下架了“AI换脸”功能。 此类情况并非个例,在黑猫投诉中以“AI换脸”为关键词检索,出现了近百条投诉,其中包括“换脸”效果不合心意但平台不受理退款等。 严重损害消费者权益平台需强监管 ...
「315特辑」AI的陷阱:当科技便利成为双刃剑,我们该如何自保?
#AI的陷阱# 一、科技安全：AI滥用下的伦理危机 人工智能的飞速发展，让“眼见为实”成为历史。从娱乐到诈骗，AI技术正以意想不到的方式颠覆生活。1. AI换脸与语音诈骗：信任崩塌的“完美犯罪”2024年，江西一位65岁女士因AI合成的“靳东”视频，险些贷款200万元资助“男友”拍电影。类似案例屡见不鲜：香港一家...
警惕“AI换脸拟声”骗局!金融监管总局发布风险提示
为此，国家金融监督管理总局金融消费者权益保护局发布防范新型电信网络诈骗风险提示，提醒广大群众警惕花样翻新的骗局，增强风险防范意识和识别能力，守护好自己的钱袋子。据介绍，新型电信网络诈骗主要有以下几类：一、“共享屏幕”类诈骗。不法分子以“提升信用卡额度”“取消名下不实贷款”“注销保险服务”“航班延误...
看似“人工智能”,实则“人为陷阱” 揭开借助AI技术实施诈骗的新...
沈福俊坦言，对此类AI换脸和AI拟声的恶性诈骗案件，若只依靠传统监管手段已不能防堵，监管部门在提升自我科技能力储备的同时，有必要引入新兴技术，探索用AI技术监管AI的可能。从消费者角度出发，沈福俊建议提升全民个人信息保护意识，谨防隐私泄露。“不管是在互联网上还是社交软件上，尽量避免过多地暴露自己的信息，在...
AI诈骗上热搜!长相声音都对,“换脸”的“朋友”骗了他430万
随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化，竟然用上了AI换脸技术。近日，包头警方发布一起利用AI实施电信诈骗的典型案例。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金。基于对好友的信任，加上已经视频聊天核实了身份，郭先生分两笔把430万转到了好友...
AI换脸诈骗来袭!眼见未必为实,小心钱包被掏空!
然而，随着技术的普及和门槛的降低，一些不法分子开始利用其进行非法活动，其中最为猖獗的便是利用AI换脸实施诈骗。在这起西安雁塔区的案件中，涉事公司利用AI换脸技术，将女演员的形象与带货产品紧密结合，营造出一种“明星代言”的假象。消费者在观看这些高度逼真的视频时，很难分辨真伪，往往出于对明星的信任和喜爱...
315与科技安全:AI的陷阱
面对AI的滥用和算法的陷阱，监管、技术、法律、公众意识的多重干预是必要的。加强法律监管：政府应出台更严格的AI监管政策，例如对AI换脸、语音克隆的应用场景进行明确限制，并对AI诈骗行为进行更严厉的打击。提高公众认知：用户需要提升AI防骗意识，学会辨别AI诈骗手段，提高对算法操控的警惕性，避免陷入数据牢笼。平台...
“眼见不一定为实”!警惕AI“换脸”“拟声”诈骗!
AI技术如何介入新骗局？有哪些新的诈骗方式呢？了解常见的AI诈骗手段 增强辨别能力↓↓ AI拟声诈骗 AI拟声是指利用AI技术将文本或其他形式的信息转换为语音输出。不法分子通过骚扰电话录音等来提取某人声音，获取素材后再进行声音合成，从而可以用伪造的声音骗取目标人群。AI换脸诈骗 AI换脸是指利用AI技术将一张人脸...
“AI换脸”诈骗套路多多!我们该如何防范?
这些足以以假乱真的视频全都是通过“AI换脸”技术伪造出来的。随着调查的深入，记者发现，在“AI换脸”类诈骗中远不止视频杀熟一种套路，事实上只要在涉及面容、声音等特征的社交场景中，“AI换脸”技术如果应用不当就可能形成各种各样的犯罪。这家总部位于深圳的网络安全企业，其主要业务之一是为全国500多个地市区县...
“AI换脸”诈骗防不胜防?要用“法”打败“魔法”!
整治AI换脸，当用“法”打败“魔法”。这个法，是方法、办法的法。有人说，防骗最有效的一招就是不信，无论对方怎么“换”、怎么变、怎么翻着花样骗，就是“不听不信不转账”。最关键的是，优化“打法”，升级高招，用更有效的方法“破防”。“魔高一尺，道高一丈”，面对骗子的新招数，我们的反诈术、防骗...
多人受骗!基于“AI换脸”的新型电信网络诈骗猖獗
河北李先生也遭遇了一起“AI换脸”新型电信网络诈骗案，诈骗分子通过交友App诱导其裸聊并下载非法聊天软件，利用AI技术伪造色情视频，并以此敲诈勒索12万元。利用“AI换脸”技术的诈骗 此类案件，揭示了“AI换脸”技术在诈骗活动中的应用及其背后的黑灰产业链。首先，诈骗分子在交友平台搜寻目标，以裸聊等为诱饵，让受害...
AI的陷阱 315来临,揭秘AI背后的危机与消费陷阱
零工经济平台通过AI算法压榨劳动者，如外卖派单系统的“慢性绞杀”，让外卖骑手为了完成订单疲于奔命，却难以获得合理的收入。315与用户消费：AI影响下的消费陷阱AI的进步深刻影响了人们的消费。虚拟理财顾问诱导用户陷入债务陷阱的案例时有发生。一些不法分子利用AI技术伪装成专业的理财顾问，为用户提供虚假的投资建议，...
一张照片可实时视频换脸!警惕AI合成这种新型网络诈骗手段
湖北省黄石市公安局下陆分局新下陆派出所治安巡防副队长 张军：不要将自己的身份证号、身份证头像、手机号等等自己的隐私信息在网上进行暴露，加强自己的隐私信息的保护。眼见不一定为实 单张照片可实时视频换脸 我们常说“眼见为实”，但在AI时代，肉眼所看见的也不一定是真相。一些不法分子利用“AI换脸”技术实施...
“AI换脸”诈骗防不胜防
针对性强、不易识别是AI换脸新型骗局的主要特征。对于普通消费者来说，如何有效甄别、避免遭受财产损失？专家建议，如遇此类诈骗手段，最简单的方法，可以要求对方在视频对话时，在脸部的前面通过挥手的方式进行识别，或让对方摁鼻子、捏脸观察其面部变化。实时伪造的视频，在挥手的过程中，会造成面部数据的干扰，很容易...
打造“完美主播”、暗设消费陷阱,AI营销边界在哪
崔女士的购物经历并非个例。记者调查发现，在直播带货领域，AI数字人通过仿真的面部形象、声音和精心的场景布置，其迷惑性让消费者防不胜防。更有甚者，有商家将名人明星换脸为数字人“平替”。去年以来，“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间，更有不...
AI“换脸”“拟声”骗取信任!权威部门解析4类新型电诈形式
“AI换脸拟声”类诈骗 不法分子以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、电话等方式联系消费者，采集发音、语句或面部信息，再利用“换脸”“拟声”等技术合成消费者虚假音频、视频或图像，模拟他人声音或形象骗取信任，以借钱、投资、紧急救助等借口诱导其亲友转账汇款，或提供银行账户...
【消保微课堂】警惕AI换脸新型骗局 ,多重验证把好“钱袋子”
伴随着AI技术的快速发展,“AI换脸”“AI换声”等深度合成产品和服务井喷式涌现,一些不法分子也乘机更新了诈骗手段和剧本。消保小超人提醒广大消费者警惕AI换脸新型骗局,多重验证把好“钱袋子”,一起来看看吧。 [消保微课堂] 谨防AI换脸新型...