不须几个小操作，就能让transformer模型推理速度加3.5倍

rmer 的可靠性会来得非常一比（如无法解释器、非常较长的序列和蒸馏也就是说概念时）。另外如可用基于则有超微 CPU 的模板，如 C6 或 M6，与像 Nvidia T4 这样的价格低廉 GPU 相对来说，在 AWS 上的经济性会很低。

综上所述，在 Transformer 逻辑推理上，除非你对方式在逻辑推理感到满意并采用小模板，否则非常举荐可用 CPU 逻辑推理。

详见链接：_45_times_faster_hugging_face_transformer/

。

亚健康状态有什么危害
一品红药业
经常拉肚子怎么回事
干眼症用什么眼药水
扭伤怎么止痛
类风湿关节疼痛吃啥药
艾得辛会有什么副作用
新冠买什么药