鉴定一下这个算力解锁的风险说法

打游戏用fp8 跑llm今天主要是fp8和fp16混合

fp16和fp32解锁带来的性能提升 可能不如解锁功耗墙来得明显 反正都要吃vrm的余量

本质上解锁的是寄存器的分配策略

nv的寄存器文件是动态分配的 可以分配成L1 也可以分配成本地内存

nv的固件限制了部分格式的分配 导致计算单元alu并不能实际满载 会被寄存器卡死

通过解除这个限制 让tensor的计算单元跑满 理论上就能让吞吐的上限翻倍

当然实际情况不是这样的 你可以理解为L1满血了 L2和显存一样有他们的极限 所以这个解锁对于不同的负载有不同的效果 LLM提升是最小的

50系rtx pro应该也是有类似的锁的 所以未来也会出现解锁固件