Agent 就行。其实完全不是。
一开始,我们会先写一个大概的 Spec,交给 Agent 去实现。
等第一个版本做出来,自己真正用了一遍之后,往往又会发现:原来我真正想要的,并不是这个。哈哈哈,我就经常经历这样的过程。
于是再回过头修改 Spec,把之前没有想清楚、没有表达清楚的地方补充进去,再让 Agent 继续开发。
如果发现 Agent 总是在同一个地方犯错,比如某个用户流程总是走不通,或者某类输入总是处理不好,这时候就需要补充一套 Eval,把这些容易踩坑的场景固定下来,作为以后每次开发都必须通过的测试。
或者这么讲,第二层 Loop 就是不断校准自己的认知,并将这些理解逐步沉淀进系统之中。
5、我记得去年参加一个活动时,大家讨论过一个:如果 AI 的品味越来越好,是不是以后我们只需要说一个想法,它就能把整个产品做出来,人几乎不用再介入?
吴恩达说自己不太喜欢品味这个词。他觉得,相比 AI,人类真正的优势不是品味,而是拥有更多的上下文。
比如,我们知道用户是谁,知道他们的真实使用场景,也知道他们到底在为什么事情烦恼。这些信息很多都不在模型的上下文里。
只要人手里还有 AI 不知道的信息,就必须有人参与到这个 Loop 中,把这些关键信息持续注入系统。所以,Developer Feedback Loop 很难完全自动化。
6、最外层的 Loop,说白了就是获取真实世界的反馈。前面两层 Loop,解决的都是实现层面的问。
而到了这一层,关注的是这个产品方向到底对不对,以及我们接下来要做哪些功能。
通过了解用户的反馈、分析数据或者研究竞品的产品等等方式,我们需要不断修正自己的产品判断。
诸如这个功能到底有没有必要做?用户真正的痛点是不是这个?产品是不是应该换一种交互方式?甚至,我们是不是一开始就选错了方向?
真实世界的反馈会不断影响开发者的判断。开发者再把新的理解更新到 Spec 中,交给 Agent 继续开发。这就是三层 Loop 之间的关系。
7、非常透彻。所有对 Loop Engineering 有所困惑的同学,都应该看看这篇文章。
文章链接:https://www.deeplearning.ai/the-batch/issue-359
最后,再画蛇添足一句,我感觉这些新词,真的就是换了种说法而已。之所以能爆火,核心还是因为这些概念,精准击中了目前 AI 行业正在发生的变化。
要我说,Loop Engineering 就是递归式的自我提升。Keep Building。
@aigc1024
一开始,我们会先写一个大概的 Spec,交给 Agent 去实现。
等第一个版本做出来,自己真正用了一遍之后,往往又会发现:原来我真正想要的,并不是这个。哈哈哈,我就经常经历这样的过程。
于是再回过头修改 Spec,把之前没有想清楚、没有表达清楚的地方补充进去,再让 Agent 继续开发。
如果发现 Agent 总是在同一个地方犯错,比如某个用户流程总是走不通,或者某类输入总是处理不好,这时候就需要补充一套 Eval,把这些容易踩坑的场景固定下来,作为以后每次开发都必须通过的测试。
或者这么讲,第二层 Loop 就是不断校准自己的认知,并将这些理解逐步沉淀进系统之中。
5、我记得去年参加一个活动时,大家讨论过一个:如果 AI 的品味越来越好,是不是以后我们只需要说一个想法,它就能把整个产品做出来,人几乎不用再介入?
吴恩达说自己不太喜欢品味这个词。他觉得,相比 AI,人类真正的优势不是品味,而是拥有更多的上下文。
比如,我们知道用户是谁,知道他们的真实使用场景,也知道他们到底在为什么事情烦恼。这些信息很多都不在模型的上下文里。
只要人手里还有 AI 不知道的信息,就必须有人参与到这个 Loop 中,把这些关键信息持续注入系统。所以,Developer Feedback Loop 很难完全自动化。
6、最外层的 Loop,说白了就是获取真实世界的反馈。前面两层 Loop,解决的都是实现层面的问。
而到了这一层,关注的是这个产品方向到底对不对,以及我们接下来要做哪些功能。
通过了解用户的反馈、分析数据或者研究竞品的产品等等方式,我们需要不断修正自己的产品判断。
诸如这个功能到底有没有必要做?用户真正的痛点是不是这个?产品是不是应该换一种交互方式?甚至,我们是不是一开始就选错了方向?
真实世界的反馈会不断影响开发者的判断。开发者再把新的理解更新到 Spec 中,交给 Agent 继续开发。这就是三层 Loop 之间的关系。
7、非常透彻。所有对 Loop Engineering 有所困惑的同学,都应该看看这篇文章。
文章链接:https://www.deeplearning.ai/the-batch/issue-359
最后,再画蛇添足一句,我感觉这些新词,真的就是换了种说法而已。之所以能爆火,核心还是因为这些概念,精准击中了目前 AI 行业正在发生的变化。
要我说,Loop Engineering 就是递归式的自我提升。Keep Building。
@aigc1024