第201章 展博的代码知音（第5页）

乔卫东晨跑回来，就能看见他坐在门口等。

两人一个讲，一个听，一个写代码，一个提建议，配合得居然很默契。

周三下午，展博遇到了新问题。

“乔先生，多通道召回我搭起来了，效果确实有提升。”

他皱着眉头，“但线上服务延迟增加了30毫秒，这个产品不能接受……”

“服务架构怎么设计的？”

乔卫东问。

“就是传统的微服务，每个召回通道一个服务，最后融合。”

“试试分级缓存。”

乔卫东说，“热数据放内存，温数据放Redis，冷数据走db。

另外，并行调用改成异步，最后用pletableFuture做同步。”

他给展博画了个架构图。

展博边看边点头：“这个思路好！

我回去就改！”

“还有，模型可以量化。”

乔卫东补充，“浮点数转整型，推理速度能快一倍，精度损失很小。”

“量化我试过，但我们的模型太大了……”

“试试分层量化。”

乔卫东又写了几行公式，“敏感层用8比特，不敏感层用4比特。

这样既能压缩模型，又能保证效果。”

展博记下来，眼睛亮得像灯泡：“乔先生，您脑子里到底装了多少东西？”

“装了很多失败的经验。”

乔卫东笑，“我以前投资的公司，踩过太多坑了。

这些经验，现在倒是能帮到你。”

展博感动得不知道说什么好。

周五，展博的最新代码上线了。

他紧张地守了一下午，直到晚上八点，数据终于出来了——准确率提升了5.2个百分点，服务延迟反而降低了15毫秒。

“成功了！

成功了！”

展博在3601的客厅里跳起来，抱着胡一菲转圈，“姐！

我成功了！

乔先生的思路太牛了！”

胡一菲被他转得头晕：“好了好了，知道你厉害了！

快给乔老师报喜！”

展博这才反应过来，冲出门，跑到3603，把数据报表怼到乔卫东面前：“乔先生！

您看！

上线数据！

本章未完，点击下一页继续阅读