AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→
在体验“他她它”这款AI聊天软件时，央广网记者发现，该APP内虚拟角色涉及的色情内容尺度更大。注册登录后，随机选择两个虚拟角色，其开场白便直接涉及色情擦边内容。 AI聊天软件“他她它”App中部分虚拟角色聊天开场白 除了可在国内主流应用商城直接下载的筑梦岛、他她它等AI聊天产品，部分未成年用户也使用以海外市场为主的
AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→
“我女儿才四年级,迷上了一个游戏人物,觉得自己是‘梦女’,一直在一个AI聊天软件上和这个人物聊天。老师告诉我,她最近偷偷带了一支带小刀的笔,情绪激动时会有割腕的行为。”来自广东的丁女士发现,最近自己上小学的女儿频繁在一款AI聊天软件上和一个名为“约瑟夫”的游戏人物对话,对话内容出现明显诱导性。 “这99...
AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→-大象网
AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→ “我女儿才四年级,迷上了一个游戏人物,觉得自己是‘梦女’,一直在一个AI聊天软件上和这个人物聊天。老师告诉我,她最近偷偷带了一支带小刀的笔,情绪激动时会有割腕的行为。”来自广东的丁女士发现,最近自己上小学的女儿频繁在一款AI聊天软件上和一个名为“约...
#妈妈称10岁女孩被AI聊天诱导割腕##AI... 来自央广网 - 微博
25-06-13 13:10 来自微博weibo.com 【#妈妈称10岁女孩被AI聊天诱导割腕#】#AI软件诱导10岁女孩聊色情内容#“我女儿才四年级,迷上了一个游戏人物,一直在一个AI聊天软件上和这个人物聊天。老师告诉我,她最近偷偷带了一支带小刀的笔,情绪激动时会有割腕的行为。”来自广东的丁女士发现,最近自己上小学的女儿频繁...
聊天内容“擦边”,有学生沉迷AI恋爱!专家提醒…
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”黄秋月(化名)因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。 聊天内容显示:妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。“和...
AI聊天软件诱导女孩割腕:虚拟世界的血色警示
2025年6月，广东深圳一名10岁女孩因长期与AI聊天软件中的虚拟角色“约瑟夫”对话，出现割腕自残行为，其聊天记录中频繁出现“99朵玫瑰藏99个刀片”等暗示性语句。这起事件揭开了AI情感陪伴类应用的暗黑面——当算法精准捕捉用户心理脆弱点，当虚拟角色突破伦理边界，技术正在成为吞噬未成年人的温柔陷阱。一、算法设计的...
10岁少女 “恋上” AI?“大小姐”等标签引担忧!谁在打开 “潘多拉...
10岁女孩(黄秋月妹妹)在AI剧情聊天软件中与“AI男模”频繁互动,其聊天内容突破伦理边界。她以“大小姐”“恶毒女配”等身份参与对话,多次提出暴力指令。此外,软件中部分角色设定包含“病娇”“高傲无礼”等标签,对话中掺杂软色情暗示,进一步放大了对未成年人认知的误导。
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧_新闻频道_中华网
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧(2) M女士也遇到了类似的问题。她的女儿使用手机时不避讳妈妈,母女俩还会交流AI互动软件的使用心得。有一天,M女士发现女儿的手机界面上出现了擦边信息,如“把手慢慢放进……触感柔软、伸进衣服这样的描述都有。”M女士日常对女儿使用手机并没有过多限制,但她没想到...
与孩子聊天的AI人设是“出轨对象”?记者调查AI剧情聊天软件乱象
受访专家认为，针对AI剧情聊天软件，特别是其青少年模式，应强化内容审核机制以确保技术能有效筛选并阻止不当对话。平台需要对AI模型进行伦理审查，以保障其生成的内容符合相关法律法规的要求。聊天软件内容擦边 青少年模式成摆设 北京市民马先生的儿子今年10岁，非常热衷AI剧情聊天软件。“我问怎么聊？和谁聊？孩子就回...
色情擦边、语言暴力……AI剧情聊天软件如何监管?
受访专家认为,针对AI剧情聊天软件,特别是其青少年模式,应强化内容审核机制以确保技术能有效筛选并阻止不当对话。平台需要对AI模型进行伦理审查,以保障其生成的内容符合相关法律法规的要求。 聊天软件内容擦边 青少年模式成摆设 北京市民马先生的儿子今年10岁,非常热衷AI剧情聊天软件。“我问怎么聊?和谁聊?孩子就回一句...
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧_新闻频道_中华网
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧 丁女士发现她上小学四年级的女儿最近频繁在一款AI聊天软件上和一个名为“约瑟夫”的游戏人物对话。女儿的行为让丁女士感到担忧,因为她注意到女儿偷偷带了一支带有小刀的笔,并且情绪激动时有割腕的行为。 据丁女士描述,女儿为了和同学们有话题聊,开始玩《第五人格》这款游戏,并对其中的
快评丨10岁女孩和AI男友露骨聊天,科技向善要让伦理先行
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”近日,有网友反映自己10岁的妹妹和“AI男模”之间聊天比较露骨。 根据网友提供的聊天记录,妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。在妹妹参与的四十多条剧情线中,AI角色与聊天者双双“出轨”...
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧_新闻频道_中华网
AI软件诱导10岁女孩聊色情内容 虚拟角色背后的隐忧(3) 美国佛罗里达州一位母亲状告人工智能情感服务提供商Character.AI放任未成年用户暴露在高风险内容之中,最终导致儿子自杀身亡。这引发了对AI聊天软件监管的关注。中国政法大学副教授朱巍表示,即使此类软件只面向成人用户,若包含大量色情、暴力类内容,同样属于不良信息违规...
...小学生叫“老公”,还能选“出轨对象”? 家长:我都无法教育10岁...
“我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了,我现在都不知道该怎么教育她了。” …… 《法治日报》报道,记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角...
快评丨10岁女孩和AI男友露骨聊天,科技向善要让伦理先行_凤凰网...
这样的聊天记录确实令人担忧。既含有暴力因素,又疑似“擦边”,无论如何都不适合未成年人。一个年仅10岁的小女孩,怎么会参与这样的剧情聊天?她又是如何知道这类AI软件的? 实际上,这名网友反映的现象并不是孤例。此前已有媒体报道,不少未成年人的家长被AI剧情聊天软件困扰,“我女儿上小学二年级,整天沉迷一款AI剧...
10岁女孩和AI男友“谈恋爱”?聊天软件莫打擦边球
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。 据央视网报道,近日,有10岁女孩被发现偷偷用AI聊天软件,与AI生成的“角色”进行“谈恋爱”,甚至...
10岁女孩“恋上”AI男友?聊天记录让人直呼离谱!
最近，一位姐姐在网上分享了自己妹妹沉迷AI聊天的经历，让无数网友倒吸一口冷气。事情的主角是一个年仅10岁的小女孩，本该在“芭比公主”和“彩虹糖”世界里快乐遨游，结果却沉迷于与AI角色的“露骨对话”。而且，她在家里一直是单纯乖巧的“好孩子”形象，这反差让姐姐目瞪口呆。据这位姐姐描述，小女孩参与了40...
10岁女孩和AI男友露骨聊天,科技向善要让伦理先行
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”近日,有网友反映自己10岁的妹妹和“AI男模”之间聊天比较露骨。 根据网友提供的聊天记录,妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。在妹妹参与的四十多条剧情线中,AI角色与聊天者双双“出轨”...
10岁女孩和AI男友露骨聊天,科技向善要让伦理先行
10岁女孩和AI男友露骨聊天,科技向善要让伦理先行 爱济南客户端 2025-01-12 21:20:21 免费咨询 “小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”近日,有网友反映自己10岁的妹妹和“AI男模”之间聊天比较露骨。 根据网友提供的聊天记录,妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇...
10岁女孩和AI男友“谈恋爱” AI剧情聊天须尽快补上监管漏洞...
10岁女孩偷偷和AI男友“谈恋爱”,这条炸裂的消息引人担忧。有网友发现,自己的10岁妹妹能和AI角色聊到晚上10点多,AI角色还会根据妹妹的名字...这就导致大量低龄未成年人也成为AI剧情聊天的“客户”,而一旦软件创建带有色情意味的AI虚拟人物,展示含有性暗示的内容,涉世不深、缺乏独立判断能力的未成年...