filing）工具。
但就是因为他的履历，他对公司现在的方向不太看好。
太急功近利了。
太想毕其功於一役了。
在硬体上做适配，做调优，和做网际网路不一样。
这里需要的不是什麽快速叠代、小步快跑，这是一件必须沉下心来，慢慢扣、慢慢做的事情。
心急吃不了热豆腐。
干起活来很痛苦，这是很正常的。
今天拿起分析工具一跑，运算效率又波动了，为什麽？
不知道啊，可能是因为显存访问模式不一样了，可能是因为寄存器压力不一样了，也可能是编译器展开方式不一样了。
想知道为什麽，只能一个一个试过去。
拿着分析数据一点点猜。
所以江松然把训练算子适配的任务压下来的时候，范小天就很不舒服。
但他也能猜到原因。
一定是大老板给的压力太大，把江松然的进度压变形了。
毕竟这麽不切实际的任务，不像是一个在行业里干了十几年的老兵能派出来的。
大老板可能是不懂，也可能是有投资人那边的压力，也可能是模型做的太好、心态飘了。
反正不管怎麽样，范小天已经给源智在心里调低了评分。
理想终究是错付了。
摇了摇头，把这些杂念赶出大脑，他在公司提供的连结下单了晚餐的外卖，然後开了一听可乐。
哪怕老板再傻逼，活还是要干，毕竟他拿的薪水也不低。
范小天面前的屏幕上，开着的是江松然共享的算子适配列表。
作为团队里最资深最有经验的几名工程师之一，他分配到的几个算子都是比较有难度的，还全是红色的。
其中最难的就是这个FusedAttentionBackward【注意力融合反向算子】。
范小天看着这个名字，揉了揉太阳穴，忍不住叹了一口气。
这玩意儿太难啃了。
范小天以前在英伟达的时候，类似的融合反向算子也不是普通工程师能随便碰的。
这里面的步骤太多了，什麽Attention反向、Softma数值稳定、共享内存布局、寄存器生命周期、Warp内通信、多级Tiling，还有训练框架调度。
这里面哪一样单独拿出来，都够一个新人研究几个月的。
把它们融合在一起，要保证所有的算子都能在内核上运行无误，还要保证效率，还要确保内存不溢出，这简直是地狱级的难度。
在硬体调优的所有工作里，这也算得上是皇冠上的明珠。
说实话，这种活范小天以前是轮不上做的。
这也就是来了源智，矮子里面拔将军，只能让他顶上了。
至於做到和英伟达一样的效率，他是想也没有想的，做不到。
大概估算一下排期，如果给他几个熟手一起，加班加点的干，可能几周时间能把正确性跑通。
至於性能优化，那没几个月是干不下来的，干完之後能到英伟达基准的百分之八十就够他出去和前同事吹牛的了。
就这，还得看L100的编译器配不配合。
开始工作前先上柱香，看能不能让机魂大悦。
硬体做得时间久了，人都变迷信起来了。
范小天没打算做【注意力融合反向算子】，他准备把难啃的骨头留到最後啃—有可能做着做着大家发现实在做不出来，这个骨头就不用啃了。
他在关闭浏览器前又瞥了一眼。
然後关掉了浏览器。
范小天站了起来，准备去取外卖。
突然，他整个人一愣。
刚才那个页面，我是不是看见什麽了？
什麽呢？
范小天心神不宁地往前走了两步，又退了回来。
虽然可能是看错了，但要是不确定一下的话，总觉得心里不舒服。
他鬼使神差地又打开了刚才关掉的页面，发现真的有东西。
【注意力融合反向算子】的代码库有个新提交。
「FusedAttentionBackward adapter completed"
做完了？谁这麽大口气啊？
范小天点开看了看提交者的用户名。
null—intelligence. com，范小天仔细想了想，想不起这是谁的用户名。
公司分配的邮箱都是按照名字来的，像他的用户名就是fan.
怎麽还有人可以给自己起名的？
这谁啊？
范小天抬起头来环顾了一圈，想看看是不是哪个同事在搞恶作剧，但是感觉没有人在注意这边。
他又低下头打开了提交的代码。
代码量并不大。
但是他看着看着就瞪大了眼睛。