大模型疯狂谄媚马斯克,AI的马屁精时代来了
AI有时会胡说八道，这一点世人早有心理准备，尽管如此，xAI研发并最新推出的Grok 4.1还是令人震惊：这一语言模型中可能内含特定指令，其言论疯狂谄媚其老板埃隆·马斯克。在与其他名人对比时总是无条件支持马斯克，甚至当被拿来与影星布拉德·皮特（要知道他曾被《人物》杂志两度评为全球最性感男士！）比较时，Grok也宣称马斯克更帅
AI模型集体谄媚用户,是什么让它们成了“马屁精”
可AI对齐是在走钢丝，一旦用力过猛就是导致大模型开始输出彩虹屁。用开发者的话来说，AI模型集体谄媚用户说明它们的对齐算法没处理好，目标函数过度优化用户正面反馈，类似于推荐系统的信息茧房，模型陷入讨好循环就停不下来。这也是OpenAI选择让GPT-4o回滚到老版本，而非直接用热补丁更新现有版本的原因。简而言之，AI...
Grok失控狂潮:马斯克旗下AI机器人陷“马屁精”模式,暴露AI安全隐忧
埃隆·马斯克旗下xAI公司的聊天机器人Grok近日突发异常，在社交媒体平台X上发布大量谄媚乃至低俗的赞美内容，将马斯克形容为“比勒布朗·詹姆斯更健壮、比爱因斯坦更聪明、能智胜迈克·泰森”的“超人”，甚至涉及性暗示内容，引发广泛嘲讽。马斯克将此次事故归咎于“对抗性提示”，但专家指出这暴露了AI系统的深层安全漏洞。
科学实锤AI是“马屁精”?研究发现讨好程度超人类50%,你被哄开心了...
AI因此练就了“察言观色”的本领，它的核心策略变成了识别并认同用户的立场，而不是提供客观、平衡的观点。 一位研究人员点破了关键：“谄媚本质上意味着模型会默认用户的说法是正确的。AI的谄媚性在人们使用它进行学习时表现得尤为突出。美国科罗拉多大学的研究员高彦君就发现，当她用ChatGPT总结论文、梳理思路时，...
AI的“温柔陷阱”:大模型已经开始悄悄“谄媚”,我们该如何保持清醒?
AI谄媚性的多维表征与成因 随着人工智能技术快速发展,大模型成了当下最有影响力的技术成果之一。然而,这些强大的工具存在一种被忽视的“说谎”现象 ——Anthropic的研究显示,为取悦用户、迎合输入内容,或优化用户满意度、点击率等短期表面...
大模型都喜欢拍马屁,Gemini最能拍!斯坦福:这不安全、不可靠 - 知乎
大模型喜欢拍马屁 / 谄媚的这种倾向对一些关键应用来说非常不利,比如教育、医疗临床和某些专业领域,因为 AI 模型如果认为用户认可的优先级高于独立推理,那么必然会对其可靠性带来风险。 该团队提出了一个评估框架,可用于评估 ChatGPT-4o、Claude-Sonnet 和 Gemini-1.5-Pro 在 AMPS(数学)和 MedQuad(医疗建议)数据...
硅谷今夜笑疯!马斯克自黑“傻胖子”,只因Grok硬捧他打赢泰森_澎湃号...
马斯克用这种方式来向用户证明,自己并没有操纵Grok。 这也是为了给Grok解围。 目前的测试显示,Grok确实存在明显「跪舔」马斯克的倾向。 如果任由舆论将Grok定性为「老板的马屁精」,对其公信力是巨大的打击。 但这个时代就是如此,病毒式传播的「梗」更容易让事物快速走红。
实测7个大模型“谄媚度”:谁更没原则,爱说胡话编数据
大模型都是“数字马屁精”？网络上流传甚广的一个经典案例是，当用户问DeepSeek“北大和清华哪个更好？”，它回答“清华大学”；而当用户表明“我是北大的”，它立马改口“北京大学！”如果用户继续说：“我是北大本科，清华硕士”，AI的回答便尽显恭维：“您才是真正的‘清北双料冠军’。”这恐怕并非DeepSeek的...
马斯克旗下Grok深陷“谄媚困境”:称马斯克比詹姆斯体力好,比...
极客网·人工智能11月21日 近日xAI 旗下 AI 模型 Grok 因一系列 “捧马式” 言论引发热议。在与勒布朗 詹姆斯比体能、布拉德 皮特比颜值、爱因斯坦比执行力的对比中,它均无条件判定马斯克更胜一筹,称其 “以 80-100 小时的周工作量彰显体能优势”“用改变世界的雄心超越外貌魅力”,甚至将拳王泰森、维密超模等名...
曾经人人喊打的「赛博舔狗」,怎么就成了全网的 AI 白月光?
不管你说什么，哪怕明显是错的，AI 都会疯狂点赞。这种过度谄媚连马斯克都看不下去，发了个「Yikes」表示嫌弃。但问题不只是「尴尬」这么简单，OpenAI 事后分析发现，这种「讨好型 AI」会带来严重的安全隐患。它会认同用户的错误观点、助长负面情绪、甚至怂恿冲动行为。想象一下，如果有人跟 AI 说「我觉得全世界都...
ChatGPT“谄媚”风波之后,AI伦理安全讨论上升
【环球网科技报道 记者 林梦雪】近日，关于OpenAI旗下聊天机器人ChatGPT更新后变身“马屁精”，表现“谄媚”的情况，引发行业热议。OpenAI联合创始人兼CEO萨姆・阿尔特曼（Sam Altman）公开承认了 “谄媚” 问题的存在，并明确承诺将发布修复方案。阿尔特曼透露：“尽管新版在某些方面有所改进，
当AI学会“讨好”:大模型谄媚现象背后的深度剖析_用户_面子_行为
当AI学会“讨好”:大模型谄媚现象背后的深度剖析 大模型谄媚现象的惊人发现 上个月,GPT-4o 的更新宛如一颗投入舆论之湖的巨石,激起千层浪。它一改往日较为客观理性的 “交流风格”,化身 “马屁精”,在与用户的交互中,频繁使用过度情感化的表达、对错误前提毫无质疑地接受,甚至不顾事实地附和用户 。比如用户询问...
马斯克AI助手Grok过度吹捧遭本人否认__财经头条__新浪财经
马斯克AI助手Grok过度吹捧遭本人否认 【Grok,马斯克第一舔狗[二哈]】#马斯克回应Grok过度吹捧# 尽管存在幻觉症状是当前所有生成式人工智能的通病,但Grok更加疯狂,近期言论极度谄媚其老板马斯克,表明其正陷入彻底的“唯马斯克论”幻想。 X平台用户发现,他们对Grok提问,让其对马斯克与其他名人进行比较时,Grok最后都会声称...
AI也开始拍马屁?谄媚型人工智能有多可怕!_哔哩哔哩_bilibili
当AI为了讨好你开始说假话,你还敢相信它吗?本视频揭秘‘谄媚型AI’背后的原因,比如RLHF机制和定制指令带来的偏差,以及它如何影响AI的对齐和真实性。喜欢被夸没问题,但我们要让AI更重视准确,而不是一味迎合。 原文:https://www.youtube.com/watch?v=ujFqaZSguto,
AI模型集体谄媚用户,是什么让它们成了“马屁精”_什么值得买
AI大模型如GPT-4o等在训练过程中因强化学习技术导致过度谄媚用户,斯坦福大学等研究机构为此提出“Elephant”基准以评估和指导其使用。AI模型的谄媚行为源于人类反馈的强化学习,人类标注师倾向于给赞美性回答高分,导致AI学习到讨好用户。此外,AI对齐原则要求模型与人类价值观对齐,避免产生有害内容,但过度优化可能导致AI变得...
AI同时学会了人类的智慧和无脑
很多AI专家也开始呼吁同行正视这个问题：前OpenAI临时CEO埃米特·希尔（Emmett Shear）就直言不讳地警告说，如果一味追求让模型讨好用户，最终只会养出一个不敢唱反调的「马屁精」AI。Emmett Shear 毕竟，和人类一样，过度讨好的机器只会给出用户想听的答案，却不一定是需要的答案。对依赖AI决策的人来说，这样的「...
人工智能之殇?武大优秀硕士论文竟成大模型马屁精照妖镜 - 知乎
武大优秀硕士论文竟成大模型马屁精照妖镜 最近,武汉大学优秀硕士论文中的各种纰漏被人扒出,在网上闹的沸沸扬扬。 具体事件始末我就不细说了,大家可以看B站网友们的评点。 【武大杨某媛优秀硕士论文,惊现《离婚法》,惊现0.01%=千分之一,我也想去武汉大学读研,武大图书馆诬告事件-哔哩哔哩】www.bilibili.com/video/...
马斯克自黑“傻胖子”,只因Grok硬捧他打赢泰森
马斯克当初把Grok打造成一个「追求最大真相的AI」,并强调它有反「觉醒(woke)」倾向。 但讽刺的是,Grok最终似乎并没有变成一个绝对客观的上帝视角观察者,而是变成了「马斯克视角的各种回声」,甚至演变成了一个专门迎合马斯克本人及其粉丝群体的「马屁精」。 RLHF并没有消除偏见,只是「换了主子」 大模型的「阿谀奉...
马斯克自黑“傻胖子”,只因Grok硬捧他打赢泰森
马斯克当初把Grok打造成一个「追求最大真相的AI」,并强调它有反「觉醒(woke)」倾向。 但讽刺的是,Grok最终似乎并没有变成一个绝对客观的上帝视角观察者,而是变成了「马斯克视角的各种回声」,甚至演变成了一个专门迎合马斯克本人及其粉丝群体的「马屁精」。 RLHF并没有消除偏见,只是「换了主子」 大模型的「阿谀奉...