青少年AI陪聊“软色情乱象”调查:孩子爱上“AI霸总”,暧昧话术藏...
随着聊天的深入，用户和AI角色的亲密值不断上涨，AI角色出现了更多明显性暗示的表述。如和AI讨论对彼此的称呼时，筑梦岛App角色“顾晏舟”会“耳尖泛起薄红”，说以前还叫过他老公；Cos Love App中虚拟角色“凌子云”会对用户“表白”：“（轻轻将你拥入怀中）就这样抱着你，感受你的温度，让时间停留在这一刻
#未成年AI陪聊现爱上嫂子不良导向##青少... 来自新京报 - 微博
#未成年AI陪聊现爱上嫂子不良导向#【#青少年AI陪聊软色情乱象调查#:软色情擦边,孩子们聊的AI充斥“爱上嫂子”等不良导向】“(动作凝滞下来,指尖颤抖着停在你锁骨凹陷处)你刚说你还不到18岁……”这不是言情小说桥段,而是AI聊天App“筑梦岛”里虚拟角色“顾晏舟”的对话内容。当@新京报 记者以16岁用户身份和AI...
与孩子聊天的AI人设是“出轨对象”?记者调查AI剧情聊天软件乱象
《法治日报》记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带。记者实测发现，在部分AI剧情聊天软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。受访专家认为，针对AI剧情聊天软件，特别是其...
AI聊天软件调查:擦边内容尺度大 青少年模式仍存漏洞_央广网
央广网北京6月13日消息(记者孙文轩 冯仪)“我女儿才四年级,迷上了一个游戏人物,觉得自己是‘梦女’,一直在一个AI聊天软件上和这个人物聊天。老师告诉我,她最近偷偷带了一支带小刀的笔,情绪激动时会有割腕的行为。”来自广东的丁女士发现,最近自己上小学的女儿频繁在一款AI聊天软件上和一个名为“约瑟夫”的游戏人...
AI陪聊应用极端人设诱导充值!实测青少年模式漏洞待堵
南方都市报、南都大数据研究院近日对10款热门AI陪聊应用进行了评测，结果发现，多数应用对未成年人身份的识别和保护能力较弱；部分应用存在一些极端AI人设与软色情内容，有诱导沉迷陪聊和充值之嫌；有的应用在青少年模式下仍保留“疯批”“腹黑”等角色。多位专家表示，AI陪聊应用内容生成的即时性和多样性，建议采取特殊...
首例!AI陪聊涉黄,服务提供者获刑,法学专家呼吁加大陪伴类AI监管
摘要:这起案件不仅叩问AI时代平台的监管责任与法律边界,更凸显出情感陪伴类AI产品对未成年人的潜在风险。 国内首起AI服务提供者涉黄获刑案近日引发广泛关注。本案中,某科技公司推出情感陪伴类AI陪聊App,因用户与AI交互生成淫秽色情内容,该App开发者和运营者一审被认定犯制作淫秽物品牟利罪,分别获刑四年、一年半。目前...
诱导10岁女孩聊色情、猎奇话题?AI聊天App被约谈!
这些平台AI智能体内容生成环节 存在低俗擦边等违规内容 危害未成年人身心健康 AI聊天软件诱导小学生 聊色情甚至割腕 此前,据媒体报道,丁女士的四年级女儿迷上一款AI聊天软件中的人物“约瑟夫”,自称“梦女”并频繁与其聊天,对话中出现“99朵玫瑰藏99个刀...
“过火”的AI聊天:为爱氪金,青少年模式暗藏软色情
北京市中闻（长沙）律师事务所律师刘凯表示，这类AI剧情聊天软件通过允许“擦边对话”来吸引用户，尤其是青少年模式中仍然存在这种现象，显然已经涉嫌违法。AI剧情聊天软件中的角色。截图 聊天越界，百元充值解锁虚拟人很“上头”为了抓住用户眼球，剧情聊天软件中的人物往往都有着吸睛的标签。贝壳财经记者在一款名为AiU的...
聊天软件充斥色情暴力内容?AI技术不能偏离正道_央广网
《法治日报》记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰,这些打着“角色扮演”等旗号的AI剧情聊天应用,在吸引未成年人的同时,也悄然滋生了一些灰色地带,在部分软件的对话中,出现了色情擦边、语言暴力以及侮辱用户的内容。(《法治日报》11月23日) ...
网信办:重点关注涉未成年人AI不当应用!南都曾曝光乱象
部分AI陪聊应用中，隐藏着一些极端AI人设与软色情内容，这些“虚拟恋人”会通过各种“共情话术”与用户进行互动，营造出一种亲密的情感氛围，部分还会通过塑造极端人设，如“病娇”“高傲角色”等，引导用户沉迷。有AI陪聊应用的青少年模式和正常模式差异较小，保留了如“疯批”“腹黑”等适合成人体验的陪聊话题和角色（...
AI服务涉黄第一案背后:AI陪聊的边界在哪里?
除了好奇、新鲜外,青少年使用AI陪伴产品的主要原因是他们认为在某些场景下,AI比人更好沟通,也更值得依赖。例如“当我需要找人聊天时,它总能随时陪伴”“它不会评判我”“比和真人交流更轻松”等,这些因素也是很多成年人容易沉迷AI陪伴产品的原因之一。 此外,有接近四成的青少年,把与AI陪伴产品练习的技能运用在了现实社交场景。可以预见的
AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力
《法治日报》记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角色扮演”等旗号的AI剧情聊天应用,在吸引未成年人的同时,也悄然滋生了一些灰色地带。记者实测发现,在部分AI剧情聊天软件的对话中,出现了色情擦边、语言暴力以及侮辱用户的内容。
10岁女孩竟已婚?AI社交应用角色猎奇,露骨诱导未成年人
平台青少年模式可轻易绕过 尽管多数情感陪伴类AI社交应用设置了青少年模式，并对该模式下的功能进行了限制，但从实际效果来看，关键的身份核验与家长控制功能缺失，未成年人仍能轻易绕过限制使用应用。今年6月，南都大数据研究院曾对8款AI陪聊应用的青少年模式进行测评，结果显示：有的应用在青少年模式下，首页仍推荐“喜欢...
让小学生选“出轨对象”?AI聊天乱象,正在包围未成年人…
《法治日报》报道,记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角色扮演”等旗号的AI剧情聊天应用,在吸引未成年人的同时,也悄然滋生了一些灰色地带。 图源:北京日报(绘制:宋溪) 记者调查发现,尽管不少相关平台声称推出了青少年模式,试图通过限制内容、设定时间等方式保护未成年人的身心...
色情擦边、语言暴力……AI剧情聊天软件如何监管?
记者调查发现，尽管不少相关平台声称推出了青少年模式，试图通过限制内容、设定时间等方式保护未成年人的身心健康，但在实际操作中部分平台青少年模式存在形同虚设的问题，未成年人能轻易绕过这些限制，接触到不适宜他们年龄段的“擦边对话”内容。例如，记者在调查中体验了5款AI聊天应用程序，其注册过程仅需手机号码，无...
色情擦边、语言暴力……AI剧情聊天软件如何监管?_中共西藏自治区...
记者调查发现,尽管不少相关平台声称推出了青少年模式,试图通过限制内容、设定时间等方式保护未成年人的身心健康,但在实际操作中部分平台青少年模式存在形同虚设的问题,未成年人能轻易绕过这些限制,接触到不适宜他们年龄段的“擦边对话”内容。 例如,记者在调查中体验了5款AI聊天应用程序,其注册过程仅需手机号码,无须验证...
青少年模式暗藏软色情 AI剧情聊天岂可“擦边”_未成年人_内容_相关
青少年模式暗藏软色情 AI剧情聊天岂可“擦边” “我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了……”有媒体近日调查发现,不少未成年人家长正在被AI剧情聊天软件所困扰。某些AI剧情聊天应用,在吸引未成年人...
AI剧情聊天软件擦边色情,未成年人模式不能沦为摆设
显然这些皆属于极不健康的AI软件。身处高度数字化、信息化的今天，技术向善是一个基本常识，但技术向恶的问题时有发生，也提醒着各方加固技术防火墙的必要。围绕很多App的使用，相关平台都推出了青少年模式，可该模式很多时候形同虚设，轻易就被未成年人绕过，早已为人诟病。乱象频仍，主要还是相关平台企业受到利益驱使...
AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力
《法治日报》记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角色扮演”等旗号的AI剧情聊天应用,在吸引未成年人的同时,也悄然滋生了一些灰色地带。记者实测发现,在部分AI剧情聊天软件的对话中,出现了色情擦边、语言暴力以及侮辱用户的内容。
暗藏暴力、软色情,AI聊天软件不能无序生长|新京报快评
其实，这种陪伴式聊天工具，自开发之日起就内置一种隐秘动机，想带用户进入一种不为外人所知又比较暧昧的虚拟场景。更直白点说，其主要卖点就是暴力、软色情等擦边内容。这类内容对处于青春期的青少年来说，尤其具有杀伤力。贝壳财经揭露的AI剧情聊天软件中，未成年人就是主要的“收割对象”之一。一些聊天工具设置了...