同样的sensevoice small模型，量化为Q8_0，性能比sherpa-onnx的实现差很多，是什么原因？

[shenyunjason]

[lovemefan]

ggml的优势只是在于在轻量，可移植多平台。 cpu优化上是不如onnx的

[shenyunjason]

感谢您的回复，我看到同样q8量化，模型量化和运算有不同，

1. ctc.ctc_lo.weight这个系数没有量化
2. 我看encoder_layer_sanm_forward，生成的计算图里有用到ggml_im2col，但实际上sherpa-onnx模型没有这个算子，
   还有sherpa-onnx模型Q,K,V是合并起来运算的，但是这个项目里的是分开计算的，这些会不会有影响呢？