几个印象很深的点:
【怎么判断一个技术是不是"真正重要的"?】
Jeff 的很多工作有一个共同特点:真正大规模流行的时候,往往距离他最初开始做已经过去了很多年。分布式系统、MoE、TensorFlow、Gemini 背后的 idea,全都如此。
他的做法是在脑子里持续维护一张非常宽的"技术地图"。与其只深入看极少量论文,不如尽量扩大对整个 research community 的覆盖——哪怕只是快速扫过 100 篇 abstract。目的不是记住每一篇,而是在脑子里形成足够多的"点":A 方向似乎开始可行,B 技术出现了早期结果,C 问有人在尝试,D 硬件能力正在出现,E 算法效率开始跨过临界点。当这些点足够密,你才能看见:哪些原本分散的 idea,其实已经可以被连接起来。
【5+2 问选择框架】
他最喜欢的问形态:一个长期问需要解决 7 个核心子问,其中大约 5 个隐约看到路径但尚不成熟,另外 2 个真正不知道怎么办。7 个全不会做,可能要等 20 年;7 个全会做,只是一个两年的工程项目。5+2 的状态最值得投入大约五年,不是显然不可能,也不是显然会发生,真正需要创造新技术,一旦成功又能彻底改变做事方式。
这大概是我听过的对 research risk 最清晰的一个量化直觉。
【Cloud Computing 改变了创业的边界条件】
有人问:AI 看起来天然属于大公司的游戏,巨量数据、大规模算力、极高资本开支。为什么现实中这么多 frontier innovation 反而从 startup 出现?
Jeff 认为是云计算的成熟。过去 startup 想要超大规模 compute,得自建数据中心、自建分布式基础设施、自己拥有大量硬件,只有大公司有条件。今天云平台替你完成了这些 heavy lifting,小团队只要有好 idea 和一笔资本,就可以直接获取 massive compute。"小团队做大事"的边界被大幅推开了。
【相比大厂,AI创业公司的优势是什么