self._breakers 按设计逻辑来说应该单例模型,但是代码中实现的是每次chat请求会重建ModelRouter, 然后ModelRouter 会新建熔断器,熔断器并没有起到作用。
self._breakers 按设计逻辑来说应该单例模型,但是代码中实现的是每次chat请求会重建ModelRouter, 然后ModelRouter 会新建熔断器,熔断器并没有起到作用。