理论1点点|人工智能与“权威错觉”_北晚在线
理论1点点|人工智能与“权威错觉”北京日报客户端2025-10-27 07:00 人工智能在处理海量数据时所展现出的极高效率与其内在的复杂黑箱特性相结合,不可避免地引发认知偏差,使人们误认为其具备类似人类的理解与判断能力。这种效率导向的认知模式所建构的,并非真正具有反思性与自主性的认知主体,而更多源于人类对自身认知局限的技术性焦虑、
视觉错觉揭示大脑与AI的共同认知误区
AI视觉系统也会受到错觉影响，与人类相似地误判图像，暴露其类似于人类的判断偏差。错觉的应用与风险 军事领域的潜在问题 如果AI也受到视觉错觉的影响，那么在军事领域，这种影响可能会带来灾难性的后果。现代战争中，机器视觉系统扮演着至关重要的角色，无论是无人机识别目标、战斗机飞行员的增强现实（AR）头盔，还是...
AI大数据抢人饭碗?是什么让人类产生了AI无所不能的错觉 - 澎湃在线
这也正是经济学教授加里·史密斯希望通过《错觉：AI如何通过数据挖掘误导我们》一书传达的核心思想——大数据并非是理性决策的灵丹妙药，人工智能尚无法超越人类智慧。目前的“人工智能”距离可与人类相媲美的通用智能还相去甚远，“只有理解所要表达的意思才能称其为智能”，这才是人类智能和计算机智能的本质差别。 让...
人工智能可以解决无法解决的问题——而人类却无法理解其结果
第一个是“解释深度错觉”。仅仅因为人工智能模型擅长预测某种现象（例如，AlphaFold 因预测蛋白质结构而获得诺贝尔化学奖），并不意味着它能够准确地解释这种现象。神经科学研究已经表明，为优化预测而设计的人工智能模型可能会导致对潜在神经生物学机制的误导性结论。第二是“探索广度的错觉”。科学家可能认为他们在探索...
数智时代,科学失去了大众的信任? - 中国科普网
《不被信任的科学:大数据、人工智能与信息欺骗》,[美]加里·史密斯著,孙强译,上海科技教育出版社出版。 接触《不被信任的科学:大数据、人工智能与信息欺骗》(以下简称《不被信任的科学》)一书的原著《Distrust》,是一件偶然的事情。这要从这本书的作者加里·史密斯教授的畅销书《人工智能错觉》说起。
破除人工智能十大常见误区-新华网
参考消息网9月3日报道 美国《福布斯》杂志网站8月6日发表题为《破除关于人工智能的十大常见误区》的文章,作者是美国“代码信号”公司联合创始人兼首席执行官蒂格兰·斯洛扬,编译如下: 如今,企业正大力投资人工智能(AI)领域,而且这些投资正在取得回报。美国国际数据公司的一项研究表明,受访企业报告其人...
AI幻觉难以避免,如何应对
张海在人工智能（AI）技术的飞速发展下，“AI幻觉”，即人工智能在信息处理和生成中的误差或错觉，已经成为不容忽视的问题。2023年，“幻觉”成为剑桥词典和Dictionary.com的年度词语。根据Dictionary.com的数据，2023年“幻觉”一词的搜索量比前一年增加了46%。剑桥词典中，“幻觉”的原有释义“似乎看到、听到、感觉...
“AI幻觉”一场人机之间的认知博弈
”刘璐说，对于自动驾驶的研发人员来说，让AI系统对此类矛盾判断的响应时间接近人类驾驶员的反应速度，是他们面临的最大挑战。在真实的马路上，这样的“误会”可能带来严重的危险。每当算法把树影错认成行人，或是将雨幕解析成车流，刘璐会又一次意识到，这些都是自动驾驶研发路上必经的“错觉时刻”，而教AI准确理解...
关于人工智能,你不得不知道的十个真相|皇牌大放送
非政府组织算法观察成员马蒂亚斯·斯皮尔坎普说：“数字技术的快速发展让我们以为，凭借数据和计算就能解决人类面临的一切问题。这只是一种错觉。”真相一：获得问答冠军的人工智能，本质只是一个搜索引擎 2011年，IBM公司为了宣传自身技术，推出了《危险边缘》特别节目，让最优秀的人类冠军与其新开发的人工智能沃森直接对决...
理论1点点|人工智能易使人产生权威错觉__财经头条__新浪财经
10月25日 12:01| 资讯动态数字技术人工智能 "最强大脑"齐聚临港 上海正搭建未来科学共同体 10月25日 19:36| 资讯动态临港 AI技术推动水声技术跨越式发展 10月26日 06:35| 热点聚焦技术突破人工智能 第十一届智能制造与数字化创新论坛在广州举办 10月26日 12:16| 资讯滚动智能制造人工智能 【华西计算机】1025...
当人工智能改变科学,我们还能理解结果吗?
我们真的能够完全依赖AI生成的数据和结论吗？AI的引入使得科研流程更为迅速，数据分析和实验设计可以通过智能算法快速完成，似乎一切都在朝着更好的方向发展。然而，科学家们可能会陷入一种“理解错觉”，即误以为AI的预测能力等同于对现象的深刻理解。事实上，AI的输出有时只是一种表象，它并不能揭示复杂背后的机制。这种误解
当虚假、偏见、失控交织,全球AI治理如何破局?
“面对AI,我们只有两个选择:要么训练它永远不伤害人类,要么‘消灭’它!”在2025世界人工智能大会暨人工智能全球治理高级别会议期间,首次到访中国的“AI教父”、诺奖与图灵奖双料得主杰弗里·辛顿抛出了这道“生存选择题”。 但是,AI在各个领域的潜力巨大,几...
三步制止人工智能误导:从错误记录到自动监控,逐步建立评估体系
其实第一步挺容易的，就像医生看诊前先翻阅病历一样，先看看用户和AI的聊天记录。你看那个公寓AI，咱们翻查了大概100条左右的对话，发现有三个比较常见的毛病：第一，就是乱编根本不存在的服务，明明没有“虚拟导览”，它还跟用户说“可以去二楼体验”。第二个问题是转接人工时没做好铺垫，用户刚说“想投诉...
一个所有AI都会犯的错误
“理想情况应该是，政府和权威机构的数据公开应当制定一套准则。如果官方能够建立数据开放平台，其中囊括各级政府、大学、科研机构的数据，就会事半功倍。”小路说道。人工干预 除了数据质量问题，AI还可以通过优化训练过程来规避幻觉。哈尔滨工业大学（深圳）校长助理张民曾表示，AI在预训练、微调强化学习、推理生成等阶段...
重拾批判性:大数据时代人工智能的迷惑与反思 - 中信出版集团
当然，本书的出发点并不是毫无根据地指责大数据和人工智能的科学进步，而是站在更接近于人性和社会学的角度理解AI，这才是真正的科学精神。加里·史密斯教授最后指出，在大数据时代，真正的危险部署计算机比我们更聪明，而是我们自己也这么认为，从而信任计算机为我们做出重要决定。《错觉：AI如何通过数据挖掘误导我们》则...
谨防AI幻觉制造认知陷阱_中共西藏自治区委员会网络安全和信息化...
比如,恶意引导带来“AI搅局”。部分别有用心之人试图借AI之口,牟一己之利,行搅局之实。对他们而言,AI幻觉生成的误导性信息是借题发挥、引流养号的“最佳素材”,也是推波助澜、制造混乱的“权威工具”。 从耸人听闻的“80后死亡率突破5.2%”,到铺天盖地的“2024年中国男性平均寿命仅69.9岁”,虚假信息背后都...
AI 幻觉和人类错误的本质区别是什么?
即使通过教育、媒体等多种渠道进行长期的宣传和教育，也很难保证每个人都能够完全摆脱错误观念的影响。在某些情况下，即使人们已经认识到自己的错误并尝试进行纠正，也可能因为个人经历、价值观和情绪状态的不同而难以彻底改变原有的错误观念和行为习惯。四、总结 AI幻觉与人类错误虽然都可能导致错误决策和行为的发生，但...
AI也会“说谎”?比人类认知偏差更可怕的信任危机……
更可怕的是,AI的“谎言”往往逻辑自洽、证据链完整,比人类谎言更具迷惑性。信任危机的双重困境当AI幻觉遇上人类认知偏差,我们陷入前所未有的信任困境。一方面,人们容易过度信任AI输出的“权威答案”;另一方面,频繁的“AI翻车”事件又加剧了技术怀疑论。世界经济论坛已将错误信息列为2025年全球五大风险,其中AI幻觉正是...
生成式AI“幻觉”困境如何破解_央广网
人工智能(AI)技术正以前所未有的速度发展,生成式AI凭借其惊人的创造力,不断刷新人们的认知。然而,即便是看似“聪明绝顶”的AI,也难逃“幻觉”的困扰。这里的“幻觉”,指的是AI生成看似合理但实际不准确或虚假的信息。 英国《自然》杂志网站在1月22日的报道中指出,AI“幻觉”可能会引发严重后果,科学家正各出奇...