我们组新来的AI前端Leader,他真的太恐怖了
入职第一天,没画饼,没讲OKR。
他坐我对面,指着我们的AI对话产品说了一句:“首字延迟(TTFB)还能压200ms,但你们这个SSE流在前端主线程堵了太久,得改。”
我一看控制台,好家伙,他一眼就看出了我们埋了半个月的Long Task。
这才只是开始,这几天被他“降维打击”多了,总结了几个让我目瞪口呆的操作:
1. 他对“流式渲染”的理解,根本不在DOM层面
我们以前做打字机效果,都是useState+ setInterval,来一个字刷一次屏。
他来了之后,直接把渲染逻辑扔进了Web Worker,主线程只负责接收ReadableStream的Buffer。
他说:“AI吐字是流,前端渲染也得是流。中间用RAF(RequestAnimationFrame)做节流,Buffer不满一帧就不刷。”
结果:FPS直接从掉到20帧稳回了60,连我这台三年前的老Mac都跑得丝滑。
2. 他看性能优化,不看Network看Memory
那天他在我背后站了十分钟,突然说:“你这个200万字的PDF渲染,显存(虽然他是说内存,但指的就是堆内存)要爆了。”
我以为他要让我拆虚拟列表,结果他画了个图:Segment Tree(分段索引) + Canvas覆盖层。
“DOM只负责排版,高亮和选中用Canvas画,别去碰那几万个Text Node。”
那一刻我悟了,原来我以前写的都是“玩具代码”。
3. 他做架构,脑子里自带“成本计算器”
开会讨论端云协同,我们都在吵“用哪个模型效果好”。
他直接打断:“端侧WebGPU跑不动7B模型,但跑个1B的量化模型足够了。我们要根据用户设备动态路由。”
然后他在白板上算了笔账:如果100万DAU,全都走云端API,公司一年得多烧几千万;如果能把简单的意图识别(翻译/改写)放在端侧,省下的钱够养我们整个前端组了。
那一刻,我感觉我不是在写代码,是在给公司赚钱。
大模型应用 大模型 深度学习
