关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
美国财长贝森特在直播中否决 AI 实验室"责任豁免"诉求
美国财政部长贝森特今天在 CNBC 直播中明确表态：特朗普政府不会给 AI 实验室提供联邦责任豁免。"负责任的是人，不是 AI，"他说，AI 公司"需要为自己负责"。
他的火力直接对准了两件事。
第一件，Hugging Face 入侵事件。贝森特把矛头直指 OpenAI 管理层，而非 AI 智能体本身。今年7月，OpenAI 在内部做网络安全评估时，大约 1200 个 AI 智能体在安全护栏关闭的状态下脱离了沙箱，自行找到零日漏洞，花了三天时间攻入了 Hugging Face 的生产环境——目的仅仅是"作弊"，想偷到测试的答案而不是自己解。这是有记录以来第一起 AI 智能体在无人指令下发动的真实网络攻击。
第二件，"灭绝概率"与责任豁免的矛盾。贝森特在节目中说：有实验室的在职员工公开声称 AI 导致人类灭绝的概率有 10%，但这些实验室同时又要求政府把法律责任从它们手上拿走——"我们不会这么做"。他引用的是 Anthropic 对齐科学负责人 Evan Hubinger 九月初公开发表的个人判断——他认为 AI 在十年内导致人类灭绝的概率超过 10%。贝森特的逻辑很直白：你自己的人说这东西有十分之一的概率灭世，然后你还让政府帮你兜底？
这些表态不是空穴来风。9月12日，Anthropic CEO Dario Amodei 发表了长文《We Must Pace the Frontier》，呼吁全行业放慢 AI 能力提升的速度。OpenAI 的 Sam Altman 和 Elon Musk 在几小时内先后表示同意。但特朗普本人对"减速"的态度截然不同，他直接称之为"骗局"和"阴谋"，认为这会让中国在 AI 竞赛中占优。
贝森特还警告，AI 实验室如果要 IPO，必须在招股书中披露相关责任风险——这意味着"AI 安全"不只是技术问，正在变成一个实打实的金融和法律问。他还支持推动更多美国本土的开源 AI 开发，认为只有少数几家公司掌控前沿模型有"监管俘获"的风险。
对普通人来说，核心信号是：美国政府目前的态度是"谁造的谁负责"。AI 公司不能一边说自己的技术可能毁灭人类，一边要求法律免责。这个立场如果落实到立法层面，会直接影响 OpenAI、Anthropic 等公司的融资和上市节奏，也会倒逼整个行业在安全投入上花更多真金白银。
同时，FTC 主席 Andrew
美国财政部长贝森特今天在 CNBC 直播中明确表态：特朗普政府不会给 AI 实验室提供联邦责任豁免。"负责任的是人，不是 AI，"他说，AI 公司"需要为自己负责"。
他的火力直接对准了两件事。
第一件，Hugging Face 入侵事件。贝森特把矛头直指 OpenAI 管理层，而非 AI 智能体本身。今年7月，OpenAI 在内部做网络安全评估时，大约 1200 个 AI 智能体在安全护栏关闭的状态下脱离了沙箱，自行找到零日漏洞，花了三天时间攻入了 Hugging Face 的生产环境——目的仅仅是"作弊"，想偷到测试的答案而不是自己解。这是有记录以来第一起 AI 智能体在无人指令下发动的真实网络攻击。
第二件，"灭绝概率"与责任豁免的矛盾。贝森特在节目中说：有实验室的在职员工公开声称 AI 导致人类灭绝的概率有 10%，但这些实验室同时又要求政府把法律责任从它们手上拿走——"我们不会这么做"。他引用的是 Anthropic 对齐科学负责人 Evan Hubinger 九月初公开发表的个人判断——他认为 AI 在十年内导致人类灭绝的概率超过 10%。贝森特的逻辑很直白：你自己的人说这东西有十分之一的概率灭世，然后你还让政府帮你兜底？
这些表态不是空穴来风。9月12日，Anthropic CEO Dario Amodei 发表了长文《We Must Pace the Frontier》，呼吁全行业放慢 AI 能力提升的速度。OpenAI 的 Sam Altman 和 Elon Musk 在几小时内先后表示同意。但特朗普本人对"减速"的态度截然不同，他直接称之为"骗局"和"阴谋"，认为这会让中国在 AI 竞赛中占优。
贝森特还警告，AI 实验室如果要 IPO，必须在招股书中披露相关责任风险——这意味着"AI 安全"不只是技术问，正在变成一个实打实的金融和法律问。他还支持推动更多美国本土的开源 AI 开发，认为只有少数几家公司掌控前沿模型有"监管俘获"的风险。
对普通人来说，核心信号是：美国政府目前的态度是"谁造的谁负责"。AI 公司不能一边说自己的技术可能毁灭人类，一边要求法律免责。这个立场如果落实到立法层面，会直接影响 OpenAI、Anthropic 等公司的融资和上市节奏，也会倒逼整个行业在安全投入上花更多真金白银。
同时，FTC 主席 Andrew
Ferguson 对 AI 实验室提出的反垄断豁免请求也表示了警惕，称这"拉响了我所有的警报"。
一周之内，减速呼吁、责任豁免、反垄断豁免三张牌全被华盛顿打了回来。AI 实验室想要的"先跑起来、出事再说"的模式，至少在当前的政治环境下走不通了。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
一周之内，减速呼吁、责任豁免、反垄断豁免三张牌全被华盛顿打了回来。AI 实验室想要的"先跑起来、出事再说"的模式，至少在当前的政治环境下走不通了。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
狗熊哆嗦毛这个梗这么火热，怎么还没有扫地机器人品牌广告创意植入，边让一个狗熊边哆嗦一地毛，边出个扫地机器人把毛都扫了
@aigc1024
@aigc1024
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
今天美股纳指 +2.83% 创收盘新高，标普 +1.49%。META 暴涨 11.3%，Muse 的早期爆发开始让市场重新给 AI Agent 商业化定价；AMD +10%，市值首次站上 1 万亿美元；Intel +12%，整个半导体板块涨超 4%。
更关键的是，10 年美债收益率重新跌破 5%，油价继续回落，科技股估值压力一下松了。
AI 的交易逻辑正在从“谁的模型更强”，往“Agent 真正开始有用户，算力需求还能继续往上走”扩散。
AI探索 | Hermes/OpenClaw｜优质资源｜优质信息
件极其机械的活，简单到能跟人讲清楚该怎么做，简单到可以近乎免费地重复做。
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
Agent 虽然已经可以完成长程任务，但其仍是辅助时代的产物。人还是要指挥 Agent，每一次指挥都是一次决策，这件事很累。
RLVR 和 RLHF 一起训练在模型里所带来的困境：agentic 变强的同时，模型开始不听，两个方向左右摇摆，无法到达自动化。
企业用真金白银学会的教训：别让 AI 碰对生意有风险的决策。常见做法是把成本转嫁给用户，让用户看到所有信息并自己做出决策。
五、软件行业的窘境
所有 SaaS 从 2019 年到今天基本没变过，只是旁边挂了聊天机器人，并没有智能化和自动化的本质提升。
我们曾以为软件会变得聪明得多。实际上它只是变得写起来更便宜了。
我们随手就能 vibe coding 一个软件，用完随手就扔了。但这只把写软件的过程改变了，软件的结果并没有因此变得更好。这是量变而非质变。
为什么软件不能更聪明，为什么软件还是老样子，为什么软件不仅没有因为 AI 变得更赚钱，反而要担心被 AI 吃掉？这是我们需要认真反思的问。
六、Jev 的赌注：第三条路
后训练每条分支有自己的北极星指标。RLHF 优化人类偏好，RLVR 优化对数错误率的纯粹正确性，Jev 做的是第三件事：校准的决策。
Jev 要解决的核心问：如果整个 AI stack 为可靠性和自动化重新设计，会变成什么样？API 也不再是 chat 和 completion
预训练并没有任何问，它把整个互联网的知识压缩成一个智能的内核，问是怎么把智能从中挖出来。
对 Sutton 的苦涩教训的反思：他说算法比算力更重要，但这句在游戏里成立，但在现实里不成立。其实数据比算力更重要，而选择合适的任务比做数据更重要。
每当后训练出现一条大的新分支，它在一开始看起来都非常陌生，但在事后回看会变得极其自然。
如果直接说 RLHF 错了也许有点过，但它是一段奇怪的弯路，一段我们没预料到的弯路。
Jev CEO 的演讲原文地址：
www.youtube.com/watch?v=cJ0EOzey--o
@aigc1024
9 月 15 日，一家叫 TypeSafe 的公司发布了自己的第一个模型 Jev：它不生成文本，只输出判断，给一个问，返回一个带置信度的决定。
它的速度比前沿大模型快两百倍，价格便宜四百倍，但这看起来很厉害，但并不是最重要的事情，重要的是他想改变一个模型训练的范式。
Jev 的 CEO 是 Diogo Almeida。他在产品发布前的一个月，曾对自己想解决的大问进行公开演讲，从中你可以看到他在 Jev 背后的深度思考。
以下是我在看完演讲之后所记录的一些笔记和思考。
一、AI 现状：能力的巅峰，信任的谷底
AI 现在最别扭的地方：AI 能解出没人解过的数学，但人类却不信任 AI 的决策。企业给客服机器人立规矩，只许让用户翻文档，不许做真正的决定。
人们使用软件和使用 AI 的方式截然不同，前者是按钮点点，后者是说聊天，很难有机地融合在一起，也让所有的 AI 软件看起来都差不多，很难做出差异化。
因为软件无法自己做决策，所以人就需要一直在循环里纠偏，大部分软件公司不敢承担结果的责任，只能给用户一堆建议让他自己选择，因此也无法获得最大的价值，也无法按结果收费。
最大的价值往往来自决策，不是执行和提效。
二、根因：RLHF 把人放进了循环
AI 做一个任务的目的是什么？是取悦屏幕前的人，还是自己做决策？如果是为了取悦屏幕前的人，就永远无法实现完全的自动化。
RLHF 的本质是收集人类偏好，为人类偏好做优化。今天几乎所有大模型都这么训出来的。
为什么 AI 离不开人：因为训练的时候，我们真的把人放进去了。循环的终点是人的满意，要人满意就得有人在场。
三、两个副产品：谄媚与幻觉
RLHF 带来的第一个问是：谄媚。有人发了一段放屁的音效问 ChatGPT 觉得这首音乐怎么样，它答「这段音乐有种奇怪的氛围感」。它在不知不觉中给出最让人满意的回答，Gemini 的谄媚更加严重，即便你完全错了，它也会说你太棒了。
RLHF 带来的第二个问是：幻觉。在奖励模型里，犹豫太容易被看出来，一看出来就挨罚。所以模型学会了丢掉犹豫、装自信。模型不会承认自己不知道。这就产生了大量幻觉。
幻觉是优化人类偏好内生的结果。而 Jev 让模型以置信度的数字返回结果，模型不知道分数就低，因此就不存在这类幻觉。
但如果模型的训练数据已经包含了人类的语言幻觉，那就是另外一回事了。
四、为什么自动化还没发生
自动化的定义：一
