关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
狗熊哆嗦毛这个梗这么火热，怎么还没有扫地机器人品牌广告创意植入，边让一个狗熊边哆嗦一地毛，边出个扫地机器人把毛都扫了
@aigc1024
@aigc1024
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
