关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
今天美股纳指 +2.83% 创收盘新高，标普 +1.49%。META 暴涨 11.3%，Muse 的早期爆发开始让市场重新给 AI Agent 商业化定价；AMD +10%，市值首次站上 1 万亿美元；Intel +12%，整个半导体板块涨超 4%。
更关键的是，10 年美债收益率重新跌破 5%，油价继续回落，科技股估值压力一下松了。
AI 的交易逻辑正在从“谁的模型更强”，往“Agent 真正开始有用户，算力需求还能继续往上走”扩散。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
The actors are real, but the film is 100% AI.
The Cully Hill Boys is the first fully AI-generated feature film to star licensed celebrity likenesses—featuring Israel Adesanya, Quinton "Rampage" Jackson, N3on, and Matt Kiatipis.
Built by 28 people in just 4 weeks for $2M, and now every prompt and asset behind it is open-sourced on Higgsfield.
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
The Cully Hill Boys is the first fully AI-generated feature film to star licensed celebrity likenesses—featuring Israel Adesanya, Quinton "Rampage" Jackson, N3on, and Matt Kiatipis.
Built by 28 people in just 4 weeks for $2M, and now every prompt and asset behind it is open-sourced on Higgsfield.
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
在未来的AI时代，东西方可能会走上两条路。
西半球要么全面依赖OpenAI和Anthropic卖的标准LLM、标准Agent，要么买AWS上面安全认证部署的这两家模型，属于信赖认证链，
东半球进入黑暗森林法则，消费者分别对agent、模型厂商、LLM inference服务商产生心惊肉跳的隐私和安全质疑，
东半球的解决方案， 很可能是选择头部LLM厂商的模型，找第三方可信赖的算力提供LLM inference，然后自己用开源或者开源魔改本地认证的Agent和workflow框架使用——尽可能把这三方在供应链上拆分开。
有财力的单位部门和公司甚至愿意额外花一笔钱，把GPU放在自家公司内部，严防死守第三方进入，算力不出屋，钥匙和devops归部门领导信任的下属亲自管理，级别不低于警卫局。
东半球越来越担心LLM六小虎们拥有比OpenAI和Anthropic更低的自我监管要求，更难的审查认证标准，本质上还是黑暗森林时代，互相不信任，互相怕掀摊子，只能尽可能自主可控。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
西半球要么全面依赖OpenAI和Anthropic卖的标准LLM、标准Agent，要么买AWS上面安全认证部署的这两家模型，属于信赖认证链，
东半球进入黑暗森林法则，消费者分别对agent、模型厂商、LLM inference服务商产生心惊肉跳的隐私和安全质疑，
东半球的解决方案， 很可能是选择头部LLM厂商的模型，找第三方可信赖的算力提供LLM inference，然后自己用开源或者开源魔改本地认证的Agent和workflow框架使用——尽可能把这三方在供应链上拆分开。
有财力的单位部门和公司甚至愿意额外花一笔钱，把GPU放在自家公司内部，严防死守第三方进入，算力不出屋，钥匙和devops归部门领导信任的下属亲自管理，级别不低于警卫局。
东半球越来越担心LLM六小虎们拥有比OpenAI和Anthropic更低的自我监管要求，更难的审查认证标准，本质上还是黑暗森林时代，互相不信任，互相怕掀摊子，只能尽可能自主可控。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
让社会愿意支付这种制度转换的代价。
@aigc1024
@aigc1024
比UBI更终极的，是Universal Ownership。
Universal Ownership何以出现？
- 今天：少部分人拥有大量资本，多数人主要拥有劳动能力来挣钱糊口。
- 过渡期：资本高度集中带来社会问，UBI推行，维持大众消费。
- 更稳定的可能形态：私人资本 + 全民资本账户 + Social Wealth Fund 并存（即Universal Ownership实现的一种形式），每个人从出生开始，就是某种意义上的“小股东”。
如果继续推演，可能经历五个阶段：
第一阶段，AI提高人的生产率，主要红利仍归高技能劳动者和资本所有者（我们2026年在这个阶段）
第二阶段，AI开始替代更多劳动，工资仍存在，但越来越难承担社会主要的分配功能；
第三阶段，UBI、负所得税等扩大，以转移支付维持大众消费；
第四阶段，社会发现“少数人拥有机器、多数人靠发钱生活”并不稳定，开始建立社会财富基金、全民资本账户，让普通人直接分享资本收益；
第五阶段，如果AI与机器人让大量商品和服务趋于廉价，真正决定阶层的将不再是有没有工作，而是谁拥有土地、能源、算力、基础设施和生产系统这些仍然稀缺的资产。
最终难不在技术，而在：产权从何而来？如何分配？以及如何防止资本和强权再次收回或集中它？
难点不在技术，而在利益和权力：比如让全民持有AI公司收益，就意味着现有股东让渡利益；即使分出去，还要防止强权机器冻结、收回，或穷人出售后产权再次集中。
因此更可能的终局，不是消灭私人资本，而是形成双层产权：私人仍可创业、投资并积累财富，但每个人从出生起都拥有一份不可轻易剥夺、出售或抵押的全民资本，并持续分享社会生产率增长。
真正的代价，是整个社会必须重新回答一个过去被默认的问：AI建立在几百年公共知识、科研、数据和基础设施之上，那么它创造的未来，到底应该全部属于最后拥有公司和机器的人，还是每个人都天然拥有其中的一小部分？
那么，这就不止是技术问&经济问，而更多是政治经济学问……
UBI 在治理上，远比 Universal Ownership 容易。Universal Ownership 真正大规模出现，恐怕需要一次足够严重的社会压力——例如劳动收入占比持续下降、财富继承成为主要阶层决定因素，或者自动化使传统就业型社会保障明显失效——才能
