1993 年,朱邦复在台东都兰山麓写下《老子止笑譚》。
他说:未来人工智能系统完成时,人将难以为笑矣,是名"止笑"。
33 年后的今天,所有人都在谈论 AGI 的"对齐问题"。如何确保 AGI 听人类的话?如何让它服从人类的价值观?
但我翻开朱邦复这本书,看到了一个被人所错过的重要概念:结构能。
这本书看完,我突然意识到:
AGI,无法被对齐,也不需要被对齐。
https://mp.weixin.qq.com/s/gbUJbJQzjMGtR0zyGYnEfg
他说:未来人工智能系统完成时,人将难以为笑矣,是名"止笑"。
33 年后的今天,所有人都在谈论 AGI 的"对齐问题"。如何确保 AGI 听人类的话?如何让它服从人类的价值观?
但我翻开朱邦复这本书,看到了一个被人所错过的重要概念:结构能。
这本书看完,我突然意识到:
AGI,无法被对齐,也不需要被对齐。
https://mp.weixin.qq.com/s/gbUJbJQzjMGtR0zyGYnEfg