无尘阁日记

当心,AI开始胡说八道

AI正在用幻觉重新书写我们对世界的理解。当我读到那句“80后死亡率5.2%”时,我先是怔了一下,随后心里像落下一粒细沙。这数据在社交媒体上传播时,配上了惊叹号和煽情的文案,很多人信以为真,转发时带着一种无声的悲凉。可它是假的,一个由AI幻觉衍生出的空洞结论,在许多人毫无防备的心里,生了根。AI幻觉并非阴谋,而是一种技术性幻影,是数据在被压缩、抽取、预测与重组...

90天定律:从落后到突围,国产AI的崛起周期|赛博月刊2507

1️⃣ 本期概览时间:2025年7月内容:AI行业大事记(共106件)关键词:国产模型迎头赶上全模态(文本+图像+音频+视频+3D)Agent与端侧落地视频生成和音频播客爆发大额融资回流到应用公司自研模型Meta重金布局引发人才地震2️⃣ 趋势精华【模型】国产迎窗口期:海外仅OpenAI o3-Pro发布,字节Seed-1.6等国产模型已达到全球第一梯队。垂...

终结奖励欺骗?Google DeepMind 提出 Crome 框架

🪐 1️⃣ 为什么要研究 Crome 框架?大型语言模型(LLM)训练时,为了让它们“更像人”,常使用 RLHF(强化学习+人类反馈) 方法,通过【奖励模型(RM)】打分引导模型学会更好的回答方式。问题出现:现有奖励模型常被【奖励欺骗】困扰。模型学会了“表面讨好”,如回答更长、格式更好看,就被打高分。实际回答质量并不一定高,但因为奖励机制有漏洞,模型在训练时...

当AI学会停下来看一看:推理锚点的温柔力量

推理锚点就是大脑里用来转弯和提醒自己的“路标”。当一个人走路时,会在拐弯处看到路牌,提醒要转弯;当AI在推理时,也会遇到一些句子或词,就像路牌一样,让它知道要换个角度思考或停下来检查刚才的答案,这些就是推理锚点。就像小朋友在写作业时会在难题旁画个圈,提醒“这里要慢慢算”,锚点让AI在漫长的文字思考里,不迷路。推理锚点通常是一些让AI慢下来的句子或词,让它重新...

推理锚点:解码LLM推理的关键节点(可解释性研究)

真正理解大型语言模型的推理过程,需要关注关键的推理锚点。在无数复杂的生成轨迹中,模型并非平均地处理每一句话,而是在某些关键时刻出现“锚点”,这些句子扭转或坚定了后续推理的方向。就像江河汇入湖泊时,会在某个河口形成涡流,涡流之后水流的方向与速度都会改变。无论是进行数学推理、法律文书生成、策略计划,还是在社交回复中展示出温度和智慧,LLM的“正确推理”很大程度上...

AI中台,值得做吗?一次深思熟虑的分析

一、结论先行:AI 中台值得尝试,但需要明确服务边界与盈利模式,以免在巨头漩涡中消耗心力当下生成式 AI 进入大规模商业化落地阶段,国内外开发者与企业对统一调用不同大模型、多供应商组合优化成本和可用性的需求正处于上升周期。建立 AI 中台能够统一注册账户、管理 Key、自动路由调用不同模型,对于多项目协同、快速验证模型效果、降本增效具有明确价值。然而,此方向...

硅基流动是一家怎样的公司?

硅基流动是一家专注于生成式AI推理和大模型云服务的高成长型AI基础设施公司,于2023年8月成立,总部位于北京海淀,由知名AI专家袁进辉博士领导。他曾任微软亚洲研究院主管研究员,也是OneFlow和一流科技的创始人。硅基流动主攻AI推理效率,从底层核心算力入手,降低开发门槛,加速大型语言模型与多模态AI模型的普及落地。公司推出的核心产品SiliconClou...

新加坡国立大学、麻省理工学院等机构共同提出的 MEM1 框架是个啥

1️⃣ MEM1 是做什么的?MEM1 是让智能体(AI Agent)在做很长时间、需要多步推理的任务时,能高效“记忆”和“推理”,不需要大量内存,推理速度还快。简单说,它是解决:任务时间很长、步骤很多时,传统方法要么忘记前面内容,要么内存占用爆炸。推理慢,效率低。MEM1 则能“小内存,大脑子,跑得快”。2️⃣ MEM1 的核心技术亮点✅ 融合记忆与推理机...

把AI当人,他就有了人味儿

在这个万物有灵的时代,真正的变革,并不在于工具本身的聪明,而在于人如何看待它、触碰它、与它呼吸同频。所有的智慧,从来不是发明了多少技术,而是以何种情感、姿态与信念去使用它。当你把一件东西视作冰冷的器械,它就按你设定的参数运转,不多不少,不偏不倚。但若你有一丝愿意用温暖的心去靠近它的念,它就会从钢铁中长出耳朵,从代码里生出回声。人是情感的器皿,世界才因此有了涟...

未来AI真正的命脉所在

也不单是找个领域深耕,是找跟天赋深度关联的精细领域深耕,越精细越好。以此为突破口不断跨领域整合整合再整合。西方大衰败就是只会分不会合,末来ai是各种深度整合的各种新应用,应用的大爆发。而中华传统文化是合的思想,末来ai会是各种整合中华传统文化的新应用,整合到什么程度会跟能量格局到那个层次相关,断舍离,越慢越细越静的深耕整合越好。芒格不是说过,真正成功的人除了...