在上面取得好成绩,其实并不意外,未央的底子就是一步一步可核验的推理,它天生不爱跳步,也不爱瞎编,这习惯挪到代码上,反而成了优势。
“但是,”唐杰话锋一转,“另外那些榜,就不太好看了。”
“最明显的是chatbot arena。”
这张榜在大模型圈子里份量很重,它考的不是谁算得准,是真实用户更愿意跟哪个模型聊。
因此并没有标准答案,打分的不是机器,是一个一个的活人,凭感觉投票。
全球的大厂为了在这张榜上有好名次,会专门做一道叫rlhf的工序,反复拿真人的偏好去打磨模型,让它学会怎麽把话说得让人舒服。
未央在这张榜上的名次,低得几乎可以忽略。
“它太死板了。”
“你给它一道题,它的推理无懈可击,可你换个方式问同一件事,它就不一定能灵活地调整切入角度。”
“它的训练信号从来不是人类喜不喜欢,是核验器判它对不对,所以它压根没学过怎麽揣摩人话。”
李东在心里想。
“唐杰教授,你说的没错,但那时因为我没时间去优化这些,额……小黑没时间,算了,反正我没时间就是小黑没时间!”
未央现在的通用侧短板,是架构层面的一些选择带来的,而这些选择本来就是为了让它在数学符号推理上做到极致。
他当初和小黑弄未央出来,就是为了方便计算。
至於有没有考虑把未央这套底子拿去做通用大模型,说是实话,他确实动过念头,不过也只是一瞬间。
因为不能吸引他呀,他的最终目标其实还是像小黑这样的人工智能,现在的这些大模型,他和香农的态度是一样的,什麽狗屁玩意儿。
所以李东没有吭声,只是点了点头。
唐杰以为他听进去了,於是看了看四周,确定没人注意这边,才继续说道。
“李东教授,你和我们有些不一样,作为一个过来人,给你一个建议。”
“小心资本。”
这句话说完,唐杰没有多解释。
但李东明白他在说什麽。
智谱最早的时候,是从学术土壤里出来的,方向是清晰,做的人也明白自己想要什麽。
後来资本进来了,好处是显而易见——投钱、扩规模、招人、搭基础设施,这些事情没有钱是没法做的。
但钱进来以後,有些事情也跟着变了。
哪个方向更容易讲故事、哪个功能更容易拿来做演示、季度的财务目标和三年的技术路线怎麽平衡,这些问题开始进入一个本来只需要想技术的决策链条里,而且越进越深。
做出来的东西,也会开始越来越像市场需要的样子,而不是技术本来应该去的方向。
这不是说智谱做错了什麽,也不是资本本身的错。
这就是一件事的两面,你得到了钱,钱也会从你这里得到它想要的。