问题/痛点描述
目前只能传入具体int值,比较麻烦
建议方案
可以字符,后端自动解析成数值。类似vllm可以接受 --max-model-len 128K这样输入,会高效得多。
"StringConfig" : {
"Input" : {
"Method": "uniform",
"Params": {"MinValue": 32K, "MaxValue": 32K}
},
"Output" : {
"Method": "gaussian",
"Params": {"Mean": 1K, "Var": 0, "MinValue": 1K, "MaxValue": 1K}
}
},
备选方案
No response
预期价值
测试方便很多
参与意向
问题/痛点描述
目前只能传入具体int值,比较麻烦
建议方案
可以字符,后端自动解析成数值。类似vllm可以接受 --max-model-len 128K这样输入,会高效得多。
"StringConfig" : {
"Input" : {
"Method": "uniform",
"Params": {"MinValue": 32K, "MaxValue": 32K}
},
"Output" : {
"Method": "gaussian",
"Params": {"Mean": 1K, "Var": 0, "MinValue": 1K, "MaxValue": 1K}
}
},
备选方案
No response
预期价值
测试方便很多
参与意向