关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
狗熊哆嗦毛这个梗这么火热，怎么还没有扫地机器人品牌广告创意植入，边让一个狗熊边哆嗦一地毛，边出个扫地机器人把毛都扫了
@aigc1024
@aigc1024
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
今天美股纳指 +2.83% 创收盘新高，标普 +1.49%。META 暴涨 11.3%，Muse 的早期爆发开始让市场重新给 AI Agent 商业化定价；AMD +10%，市值首次站上 1 万亿美元；Intel +12%，整个半导体板块涨超 4%。
更关键的是，10 年美债收益率重新跌破 5%，油价继续回落，科技股估值压力一下松了。
AI 的交易逻辑正在从“谁的模型更强”，往“Agent 真正开始有用户，算力需求还能继续往上走”扩散。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
The actors are real, but the film is 100% AI.
The Cully Hill Boys is the first fully AI-generated feature film to star licensed celebrity likenesses—featuring Israel Adesanya, Quinton "Rampage" Jackson, N3on, and Matt Kiatipis.
Built by 28 people in just 4 weeks for $2M, and now every prompt and asset behind it is open-sourced on Higgsfield.
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
The Cully Hill Boys is the first fully AI-generated feature film to star licensed celebrity likenesses—featuring Israel Adesanya, Quinton "Rampage" Jackson, N3on, and Matt Kiatipis.
Built by 28 people in just 4 weeks for $2M, and now every prompt and asset behind it is open-sourced on Higgsfield.
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
