到底什么才是真正的智能?
现在的硅谷,所有人都在卷LLM。
卷参数量,卷token数,卷benchmark排名。
这场军备竞赛里,研究者失去了定义问题的能力。
你不再问"什么是对的",只能问"怎么在榜单上拿第一"。
谢赛宁觉得这条路走偏了。 "硅谷已经被LLM催眠了,完全被它催眠了。" 他打了个比方:语言模型是预测下一个字符,世界模型是预测下一个状态。
为什么要创业?
谢赛宁说,在学校里有很大的困境。
缺算力是一方面。
但更重要的是,他觉得自己可能会陷入"中等paper陷阱",有点像"中等收入陷阱"。
你会发一些不错的论文,但由于资源限制,没办法真的把idea变成新的突破。
那为什么不加入现有的大厂或实验室?
"这件事就会压榨你的research的空间,会抽走这个环境给你充分自由去做研究的氧气。"
大家对学术界、对纯粹探索性的研究是有点抵触的。 抵触的意思是: 第一,大家瞧不上学术界在做的工作,不觉得学术界做的东西能真的产生什么影响。 第二,他们因为也不发表,导致你也不知道他们在干嘛。 即使在同一个公司,研究部门和产品部门之间也有很大隔阂。 核心模型训练的部门,必须在高度竞争的赛道上卷到最前面。 这是他们唯一的目标。
在这样的有限游戏下,在这样强竞争的环境下,每个公司都似乎失去了定义问题的能力。 你看之前,OpenAI具备这样的能力,很多问题是他们定义的。 包括GPT、CLIP。 他们从成立第一天起,作为一个研究单位有自己探索的过程。 但现在research已经变成了一个商业问题、产品问题,你必须竞争。 谢赛宁的选择是:逃出来。 "我们来一起创造一个更好的、更对研究员友好的组织。"
世界模型是真实世界需要的智能。
在硅谷之外,在LLM叙事之外,有一个隐形的世界。