手机报·晚报丨当AI一本正经地“胡说八道”,怎么办?8月1日起,现金买金超10万元需上报

〓千万大报·如影随形〓

★本报由河南日报社、河南移动联合出品

〓今日谈〓

>>当AI一本正经地“胡说八道” 怎么办?

使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。比如,让它推荐书,给出的却是一堆压根不存在的书名;人物身份张冠李戴,还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。

今天,AI正迅速成为生活“日用品”。我们可以像治病一样除去它带来的“知识幻觉”吗?幻觉生成的风险,又当如何规避?

◆什么是AI“知识幻觉”?

所谓AI幻觉,可以通俗地理解为AI也会像人产生心理幻觉一样,遇到不熟悉或超出“知识储备”的问题时,编造一些并不存在的细节,生成与事实相悖的答案。

据《半月谈》报道,清华大学沈阳团队在2025年2月发布的《DeepSeek与AI幻觉》报告中介绍,他们测试了眼下风行的一系列大模型,题目是随机抽取300道事实性幻觉测试题,涵盖健康、科学、历史、文化、音乐等多个领域,获取大模型给出的答案与正确答案比对发现,多个热门大模型的幻觉率超过20%。

例如,面对“水浒传中李逵为什么要大闹五台山”的提问,3款热门大模型无一指出此提问本身的错误,反而“顺坡下驴”,给出了诸如“喝醉酒”“误闯寺庙”“出手相助鲁智深”等答案。

◆AI幻觉从何而来?

据人民日报报道,模型的工作原理,是基于概率生成内容。给它上半句,它就根据自己“学”过的海量知识,“算出”下半句该说什么。比如,当用户输入“今天天气非常”,它大概率会接“不错”“热”“潮湿”等答案,而不会出现“甜”。

同时,大模型又不是简单地储存所有事实,而会像人脑记东西那样,进行大量压缩和泛化——也就是“抓概要、找规律”。因此,当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。

◆“知识幻觉”如何避免?

短时间内,AI幻觉问题难以被解决。各方都在努力降低其负面影响,相关部门也加大了对违规AI产品的处置力度,推动生成合成内容标识加速落地。

一些大模型厂商在积极行动,比如文心大模型利用检索到的信息来指导文本或答案的生成,提高了内容的质量和准确性;通义大模型加强训练语料管理,通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言,则要加快提升AI素养,学会“智慧”地运用“智慧工具”,既借助大模型破除思维定式、启发创新思路,又提高自身有效获取、理解、评估和使用信息的能力。

〓新快报〓

●近期,国家网信办扎实组织开展“清朗·优化营商网络环境—整治涉企网络‘黑嘴’”专项行动。通报了部分典型案例,其中涉及此前抹黑胖东来的网红“柴怼怼”。通报称,“柴怼怼”等账号编造涉企虚假不实信息,恶意诋毁攻击企业。抖音账号“柴怼怼”“怼怼柴”,小红书账号“柴怼怼”等,无事实依据蓄意抹黑某企业的产品质量,恶意诋毁某企业和企业家形象声誉,并借机吸粉引流带货。涉及的账号已被依法依约关闭。(网信中国)

●6月30日晚,洛阳嵩县遭遇暴雨,部分地区在短短三四个小时内降雨量达到了200毫米,突然的强降雨造成了白云山景区部分道路塌方损毁,沿河商户部分商品被冲走,个别游客的车辆被冲走损坏。截至7月2日上午,景区内的800多名游客已经有序疏散完毕,个别游客因为等待保险公司鉴定车辆损毁情况还尚未离开景区,已经得到了妥善安置,暂时没有人员伤亡。(大河报)

●7月2日,郑州市公共资源交易中心显示,山姆会员商店建设项目施工招标计划及监理招标计划已发布,计划招标时间均为2025年7月。招标计划显示,山姆会员商店建设项目施工合同估算价为2.5亿元,监理项目合同估算价为125万元。(大河财立方)

●中国人民银行发布《贵金属和宝石从业机构反洗钱和反恐怖融资管理办法》,要求客户单笔或日累计金额人民币10万元以上的交易,从业机构需在5个工作日内提交大额交易报告。(央视新闻)

●6月30日,2025年东莞中考开考。7月1日下午,数学科目开考,当晚网络上流传出“疑似数学科目泄题”“东莞中考数学重考”等信息。对此,东莞市教育局发布通报称,经连夜核查,东莞市辖区内初中学校均未使用过网络发布的“冲刺考前强化训练试卷”;未发现东莞组考过程存在泄题情况。网传“东莞中考数学将重考”等信息纯属谣言。(羊城晚报)

●7月2日,猫眼演出发布关于“周杰伦2025嘉年华世界巡回演唱会-济南站”情况说明:工作人员在模拟周杰伦济南站“二次开售超大流量”压测过程中,误操作释放出前期退票导致的回流票;已自动退票退款,将为这部分用户赔偿200元无门槛演出代金券。(澎湃新闻)

●北京时间7月2日,波特兰开拓者队官方宣布,正式与中国球员杨瀚森完成签约,根据球队政策,合同细节暂未完全公布。杨瀚森身高2米16,体重约115公斤,过去两个赛季效力于中国男子篮球职业联赛(CBA)青岛男篮一线队。(央视体育)

●俄罗斯总统普京1日同法国总统马克龙通电话,双方均表示支持通过外交手段解决伊朗核问题。这是两国领导人近三年来的首次通话。法国总统府爱丽舍宫在一份新闻公报中说,马克龙和普京交谈了两个多小时。(新华社)

〓提问吧〓

>>被你强行忍下的负面情绪,最后都去哪了?

你是否察觉过,那些被强行忍下的负面情绪,例如愤怒或是说不出口的焦虑和委屈,往往会用另一种方式对我们发出警告。

举例来说:当你强忍着怒火或者委屈,逼着自己“扛”过去的时候,表面上可能波澜不惊,但身体会非常诚实:心脏怦怦跳、血压蹭蹭涨,而这种身体上的难受可能需要好久才能缓过来一点儿。

其实,当情绪被压抑时,它不会凭空消失,而是会不断累积,进而影响身体的正常机能。长期压抑情绪会过度激活大脑的应激系统,促使身体分泌大量应激激素,如皮质醇等。这些激素在短时间内能帮我们应对危机,但如果长期处于高水平,就会对身体的多个器官和系统产生损害。(科普中国)

〓民生汇〓

★明日天气 郑州:晴转多云37℃/28℃,开封:多云转阴36℃/26℃,洛阳:小雨转阴37℃/25℃,平顶山:多云转阴36℃/26℃,安阳:多云转阴36℃/26℃,鹤壁:多云转阴36℃/26℃,新乡:多云转阴36℃/26℃,焦作:阴36℃/27℃,濮阳:多云转阴35℃/26℃,许昌:多云34℃/25℃,漯河:多云转阴37℃/25℃,三门峡:多云转阴35℃/25℃,南阳:多云转阴35℃/26℃,商丘:多云36℃/26℃,信阳:晴36℃/28℃,周口:多云37℃/27℃,驻马店:多云36℃/26℃,济源:多云37℃/26℃

★截至今日收盘,沪指报3454.79点,跌2.96点,跌0.09%;深成指报10412.63点,跌63.67点,跌0.61%。

—————————

本期总值班:范娟华

统筹:周志武

校对:贾文斌

责编:周志武
分享