Llama 4爆料没在测试集上训练!华人员工实名辟谣,LeCun出面救火
【新智元导读】近日，关于Meta Llama 4的「训练作弊」爆料搞得沸沸扬扬。Meta迅速反击，Licheng Yu、Di Jin及GenAI负责人Ahmad Al-Dahle接连辟谣，首席AI科学家Yann LeCun也亲自下场力挺。与此同时，Llama 4的实际表现却频频被吐槽。Llama 4大瓜，又有了新的反转。昨日，自称是Meta内部员工的一则Llama 4训练作弊...
Llama4训练作弊惊天丑闻!AI大佬愤而辞职,代码实测崩盘全网炸锅
Meta原计划用Llama 4冲击AI霸主地位，对标GPT-4o和谷歌双子星。 但内部测试显示，模型在数学推理和代码生成上始终达不到顶尖水平。 据爆料，扎克伯格直接给团队下了“4月底必须交卷”的死命令，导致技术团队被迫走捷径。一位化名@dliudliu的前员工透露，高层会议上有人提议：“把测试题混进训练数据里，指标立刻就能...
AI 圈今年最大丑闻曝光!Llama 4 被揭训练作弊,实测惨遭滑铁卢...
在专门讨论本地部署大语言模型的社区 r/LocalLLaMA(可理解为 Llama「贴吧」)中,一篇标题为「我对 Llama 4 感到 incredibly disappointed(极度失望)」的帖子迅速获得了大量关注和共鸣。 更有Llama 忠实粉丝原地破防,直言是时候该将「LocalLLaMA」改名为「LocalGemma」了,调侃 Llama 4 的发布更像是迟到的愚人节玩笑。
Llama 4训练作弊爆出惊天丑闻,AI大佬愤而辞职,代码实测崩盘全网...
AI的研究人员观察到可公开下载的Maverick与LM Arena上托管的模型在行为上存在显著差异。 而就在今天上午,已经有人爆料Llama 4的训练过程存在严重问题! 即Llama 4内部训练多次仍然没有达到开源SOTA基准。 Meta的领导层决定在后训练过程中混合各种基准测试集——让Llama 4「背题」以期望在测试中取得「好成绩」。 这个...
Meta大模型被曝训练作弊,内部员工辞职抗议
4月5日，Meta公司发布了大型语言模型Llama的最新版本Llama 4 Scout与Llama 4 Maverick。随后就被曝出模型训练测试集作弊，内部员工直接辞职，引发争议。争议的导火索源于海外留学求职交流论坛“一亩三分地”的一篇帖子，发帖人自称是参与Llama 4训练的内部员工，并表示已因此辞职。就在Llama 4即将发布前几天，Meta AI...
4月7日·Llama 4训练作弊风波致高管辞职,代码实测表现不佳引争议...
据内部员工爆料,Llama 4在训练过程中被指存在作弊行为,高层曾建议将多个benchmark测试集混入训练数据,以短期提升指标。该员工无法接受这种做法,愤而辞职,并要求不要在Llama 4技术报告中挂名。此外,Llama 4开源首日,代码能力在全网实测中表现极差,与顶尖大模型实力悬殊,甚至在LM arena上存在过拟合现象,有作弊嫌疑。
开源核弹引爆硅谷!Meta甩出Llama 4把OpenAI逼到墙角
但高潮藏在旧金山法院。4月6日早八点，马斯克的律师团抬着三箱"证据"冲进法庭，指控Meta用星链数据训练模型。法官当庭演示Llama 4生成"马斯克火星殖民失败"的判决书，气得老马撕碎西装："我要造个更大的AI告死你们！" 当4月7日全球冒出十万个Llama 4魔改版时，魔幻现实达到巅峰。印度农民用它生成《牛粪发电...
Llama 4爆料大反转,没在测试集上训练!华人员工实名辟谣,LeCun出面救...
昨日,自称是Meta内部员工的一则Llama 4训练作弊爆料,彻底掀翻了全网。 紧接着,Meta研究科学家主管Licheng Yu实名辟谣,团队根本没有针对测试集过拟合训练。 此前,他曾参与了Llama 3系列的研发,并这次负责Llama4 17B模型。 另一位Meta高级AI研究科学家Di Jin(此次负责Llama 4 288B)反怼道,「我参与了微调和强化学...
Llama 4 是开源模型的全面倒退?
特别是 Scout,不仅没展现出“小而强”的性价比,还在多项任务中落后于前代产品与同量级模型。 一句话总结:“看起来很强,打起来很虚”,是当前市场对 Llama 4 初版表现最真实的反馈。在非推理任务的对比中,Llama 4 的表现可谓喜忧参半。Maverick在开源模型中算得上发挥稳定,成功超越部分闭源竞品,展示出一定的...
Meta被指控训练LLama模型时使用盗版数据,员工爆料
1月10日，有媒体称，根据近日在加利福尼亚联邦法院公开的庭审文件中，一些作家指控Meta Platforms在训练其Llama AI模型时，未经授权使用了盗版电子书和文章数据集LibGen（一个免费访问高质量的学术资源的项目），并通过点对点（P2P）方式下载了大量盗版书籍和文章。而且内部员工还爆料这件事获得了扎克伯格的允许。此前，...
Ilya预言错了!华人Nature一作给RLHF「判死刑」,全球大模型都不可靠
对于Llama家族来说,没有一个模型能在最简单的难度水平上,达到60%的准确率。唯一例外的是,GPT-4在低难度科学任务上,几乎在中等难度水平上,取得了完美的结果。 如上指标总结了LLM在5个精心选择基准测试上表现,包括简单数字运算、词汇充足、地理知识、多样化科学技能、以信息为中心转换 ...
「DeepSeek」是什么❓IBM技术内幕揭秘❗️_哔哩哔哩_bilibili
>> BV1BJ41157PJ 小甲鱼AI编程教学 >> BV1Gy6WYaEhD AI编程神器 >> BV1WBrPYZE3g AI Agent教程 >> BV1zWsue1EyD 无代码 AI 开发 >> BV1Jq48e5Eu5 AI 编程 Fitten Coed >> BV1x1421t7ii 最新CodeGeeX 编程大模型 >> BV1EASgYxEZY 豆包MarsCode算法训练 >> BV1PGsDeNEM6 AI+PDF论文科研神...
LeCun再爆金句:ChatGPT?连条狗都比不上!语言模型喂出来的而已...
今年2月4日,LeCun直白地表示,「在通往人类级别AI的道路上,大型语言模型就是一条歪路」。 「依靠自动回归和响应预测下一个单词的LLM是条歪路,因为它们既不能计划也不能推理。」 当然,LeCun是有充分的理由相信这一点的。 ChatGPT这种大语言模型是「自回归」。AI接受训练,从一个包含多达14000亿个单词的语料库中...
大模型推理bug!问题翻转,回答全错,GPT到Llama无一幸免
团队还进行了多项实验，包括GPT-3-350M和Llama-7B，结果表明，模型都遭受了逆转诅咒。来源：公开网络 为了保证试验的严谨，紧接着，研究人员又进行了实验2，这次是用真实的名人资料作为数据集进行测试。研究人员从IMDB（2023年）中收集了前1000明最受欢迎的名人名单，并用GPT-4进行资料查询。查询过程表明，GPT-4能...
LLM幻觉,竟因知识“以大欺小”,华人团队祭出对数线性定律与CoDA...
图2:大语言模型(LLMs)在一个具有可控变量S、P和L的合成数据集上从零开始预训练。 在每个子图中,通过改变其中一个变量进行实验,同时保持另外两个变量不变。 LLMs采用自回归(auto-regressive)方式进行训练,并基于整句话计算交叉熵损失(cross-entropyloss)。
...这则两个月前的爆料现在看来简直是预言家附体——Llama4的翻车...
这则两个月前的爆料现在看来简直是预言家附体——Llama4的翻车事故完美印证了所有预警信号。这根本不像个完成品,更像是为了应付KPI强行推出的半成品原文(见图片)大概的意思:导火索是中国团队深度求索(DeepSeek)的V3模型横空出世,直接把Llama4甩出几条街。更扎心的是,这竟是一家"预算区区550万美元的中国小厂"的...
LLaMa被玩坏,网友做无限制版BasedGPT,直言灭绝人类只需5步!
Shawn Presser是一名独立的人工智能研究员，他一直在使用LLaMa泄露的信息。Presser说，他认为「这个特定的模型将对世界产生有益的影响，因为它可以作为一个基础来训练你自己的ChatGPT。」 但是，从长远来看，这次泄漏将导致模型发布变少。大家一起来帮忙 Ortega在Github上公布了他的Discord机器人的代码，因此，其他任何有...
大模型的最大bug,回答正确率几乎为零,GPT到Llama无一幸免
本文还进行了多项实验，包括 GPT-3-350M（附录 A.2）和 Llama-7B（附录 A.4），结果表明，模型都遭受了逆转诅咒。在增加似然性评估中，分配给正确名字与随机名字的对数概率之间没有可检测到的差异。GPT-3 模型的平均对数概率如图 4 所示。t-tests 和 Kolmogorov-Smirnov 测试均未能检测到统计上的显着差异。...
「DeepSeek」动摇了美国资本主义的核心|美教授自述❗️_哔哩...
然而,DeepSeek的成功表明,即使在受限的硬件条件下,通过技术创新也能实现高效的AI模型训练。这不仅削弱了美国出口管制的效果,还可能促使中国在AI领域实现更多的自主突破。 白嫖「AI GPT5.0 turbo大模型编程/论文/聊天」工具 >> BV13c411i7TT 宝藏学习「IT/科技/计算机/升学/就业/人文/财经」 >> BV1BJ41157PJ ...
GPT-4被曝重大缺陷,35年前预言成真!所有LLM正确率都≈0
这个问题引发了许多AI专家的震惊和思考。在这项研究中，研究人员利用虚构的事实对GPT-3和LLaMA进行了微调，并在反向方向上对模型进行了测试。结果显示，大型语言模型在“逆转”问题上的正确率几乎是0%。这意味着这些模型在训练过程中无法进行推理，无法将从一种语境中得出的抽象概念归纳到另一种语境中。这个“逆转...