警方辟谣淋巴肉包子致87名学生中毒:系AI软件编造
35岁男子林某某为博眼球涨粉,于3月17日利用AI软件,通过输入指令合成谣言信息,编造87名学生中毒、家长怒撕检测报告等情节。事实上,林某某从未到过南充。目前,林某某已被警方行政处罚。
阿里云3800亿AI豪赌真相:用全球最贵算力养出"人工智障",中国科技圈集...
阿里云3800亿AI豪赌真相:用全球最贵算力养出"人工智障",中国科技圈集体中毒"通义崇拜症" 智趣科普2046 关注AI 领域最前沿的信息 可能包含 AI 创作内容 阿里云在2025AI势能大会上公布,其通义千问大模型API调用量及接入企业数量均实现百倍增长,标志着AI应用进入加速落地阶段。阿里云计划未来三年投入3800亿元强化云和AI...
对生成式AI“下毒”?艺术家们可能会反受其害
大模型里混入的中毒图像越多,AI画出的画就会越离谱 对于人类来说,这些改动几乎不会被察觉到,也不会影响到欣赏画作,但对于AI来说,这些按照特定规律排布的“混淆像素”,却会使得AI错误地认知画作中的内容,比如把猫认成狗、把城市认成树木之类。 一旦这些包含有错误认知元素的画作被AI学习后,就会增加AI后续在“创...
人工智能在法医毒物学中的应用与展望
AI已在中毒现场勘查、毒物筛查与定性定量分析、毒理学研究、涉案人员个体识别与特征刻画等多个法医毒物学的分支领域展现出了其良好的应用潜力,为法医毒物学的发展提供了新的机遇,但同时也带来了新的挑战。具体包括:1)数据问题。高质量的大数据集对于训练强大的AI模型至...
【制胜1号】男子用AI造谣“学生集体食物中毒”,高坪公安:严查!!!
近日,高坪公安查处全市首例利用AI造谣案件,依法对违法人员林某某进行行政处罚。 案情回顾 2025年3月18日,高坪公安接到辖区某学校报案,称在今日头条上出现“中学食堂用淋巴肉做包子,学生集体食物中毒”的消息为谣言。接到报警后,高坪公安...
数据“中毒”,AI还能靠谱吗?深度剖析AI污染源
AI数据源污染则是指AI在训练和学习过程中，由于使用了大量低质量、虚假或误导性的数据，导致AI的输出结果也受到影响，进而产生一系列负面后果。这种污染不仅降低了AI系统的准确性和可靠性，还可能加剧社会不公和误导公众认知。近期，一些不法分子利用 AI 问答截图在股民交流平台散布虚假的 “利好信息”，通过 “调教”...
AI时代的“数据投毒”暗战 | 大东话安全- · 科普中国网
从“数据中毒”漏洞可见,AI的风险已经不再是科幻小说中的情节,而是我们真实面临的挑战。AI本身并不“懂得”善恶,它只会根据输入的数据做出响应。问题在于这些数据和设计,正是决定了它行为的根本。我相信,只要我们在前进的过程中,能保持对安全性、道德性和透明度的关注,AI一定能够成为推动人类社会进步的强大引擎。
AI的15大威胁,最后一条导致人类灭绝! - 知乎
这种上瘾的感觉会让人们产生心理问题,并割断人与人之间的连接。 隐私泄露:人们在网络上的蛛丝马迹可以被AI轻松地串联起来,构成一个人物画像。如果有人想要谋害你,你的所有动向都可能被AI推测出来。 环境与资源:AI训练和运行所需的电力、制造芯片所需的化学材料正在加速扩张。扩张得越快,企业赚得就越多,于是形成...
给AI“投毒”后,AI再也没办法画画了-虎嗅网
Nightshade由芝加哥大学的研究人员发布,是一种能够破坏生成式AI模型的工具。AI靠大量训练数据来更新迭代,变得更加聪明,而Nightshade所做的,就是在训练数据中加入一些肉眼难以看见的“毒素”,干扰AI的学习,从而让AI模型以混乱且不可预测的方式崩溃。 而上面你所看到的,正是经过Nightshade干扰的AI,在没有中毒前,AI的确能...
OpenAI发现AI模型隐藏特征:可调控“毒性”行为
令人惊讶的是，研究人员通过调整这一特征，可以增加或减少 AI 模型的毒性。OpenAI 的这项最新研究使其能够更好地理解导致 AI 模型行为不安全的因素，从而有助于开发更安全的 AI 模型。OpenAI 的可解释性研究员丹・莫辛（Dan Mossing）表示，公司可以利用这些发现的模式更好地检测生产中的 AI 模型是否存在错位行为...
居然给AI投毒!大模型迎来黑客攻防战,可怕
AI大模型的本质，就是用大量的数据进行训练，使其能够了解并掌握各种数据，你所看到的文字回答、图画、视频、音乐，其实都是由一个个数据子集根据模型算法所构造的结果。实际上，我们的大脑在回答问题时，也是类似的方式，只不过我们有着更强大的模糊运算能力，甚至可以跳出原有知识的束缚，从一个新的角度对问题进行解析，换言之就是无中生
用AI软件识别毒蘑菇?AI犯错后,人吃下了毒鹅膏,差点要了命……
如今,AI技术正在被广泛地用于我们生活中的方方面面,但是有科学家提醒大家,目前还是先不要把你的健康托付给一些APP,因为它们很有可能会犯错,甚至有可能要了人的命。 来看看AI造成的一些风险|giphy 2015年,美国俄勒冈州的一家人被紧急送往医院,原因是蘑菇中毒。而他们之所以会吃下毒蘑菇,是因为手机上APP告诉他们:这些...
算法治病还是杀人?留神医疗大模型被“投毒”
然而，近日发表在《Nature Medicine》上的一项研究却揭示了一个令人不安的事实：医疗AI大模型容易受到“数据投毒”攻击，可能导致AI生成误导性甚至有害的医疗建议，对患者安全构成重大隐患。从数据中毒到蘑菇中毒，有毒训练数据正在毁掉医疗AI模型 人工智能的核心原则之一是“输入决定输出”（Garbage in, garbage out）。...
科普:AI是如何中毒的|AI_新浪新闻
科普:AI是如何中毒的Video Player is loading. 00:00/00:00 Loaded: 0% 视频加载失败,请查看其他精彩视频特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。关键字 : AI 来自于:浙江 权利保护声明页/Notice to Right ...
AI生成数据会“毒害”新模型,人工智能会“吃掉”自己吗?
一些业内人士认为，类似的循环将在AIGC中重演——研究人员不得不寻找没有被“污染”的训练数据。AI模型是如何“中毒”的？研究人员将一些由AI生成的语料作为训练数据，“喂”给一个正在训练的语言模型，然后使用它所输出的结果再来训练新模型，并重复这一循环。他们发现，模型每迭代一次，错误就会叠加一次。当人们...
AI还原吃菌子中毒后的世界:神奇还是恐怖?
不过，这里要提醒大家，食用野生菌是有一定风险的，可能导致严重的中毒甚至死亡。据统计，每年都有数百人因为误食野生菌而送医治疗。专家建议大家，在采摘和食用野生菌时要谨慎，最好是选择可靠的来源和品种来食用菌类，切记一定要多煮、久煮、煮熟煮透。如果你想要欣赏更多由AI创作的画作，你可以百度搜索“文心一格”...
冲上热搜!男子用AI还原吃菌子中毒后的世界,竟然这么...
近日,“网友用AI还原吃菌子中毒后的世界”冲上了百度热搜,这是怎么回事?原来,有网友用AI绘画制作了食用野生菌中毒后的画面。 看完之后,有网友表示:光怪陆离,令人头晕目眩,也有网友感叹:但凡少吃两朵菌,都做不出这个效果。 野生菌是自然的馈赠...
人工智能的头号威胁:投毒攻击
投毒攻击是针对人工智能（AI）系统的一种恶意行为，黑客通过操纵输入数据或直接修改模型来影响AI系统的输出。过去，业界针对AI系统的“投毒攻击”并不重视，软件公司Splunk曾在《2024年安全状态报告》指出：“AI中毒仍然是一种可能性，但尚未普及。”但是安全专家们警告CISO加强戒备，因为有迹象表明黑客正越来越多地瞄准...