{ "per_channel": true, "reduce_range": true, "per_model_config": { "model": { "op_types": [ "Exp", "Cast", "Pow", "MatMul", "Conv", "Div", "Transpose", "Mul", "Constant", "Abs", "Unsqueeze", "Shape", "Concat", "Where", "Add", "Sqrt", "Sub", "Tanh", "Tile", "Gather", "Equal", "Slice", "ReduceSum", "ReduceMean", "Gemm", "Squeeze", "Expand", "Softmax", "ConstantOfShape", "Reshape", "Mod" ], "weight_type": "QUInt8" }, "text_model": { "op_types": [ "Transpose", "MatMul", "Slice", "Unsqueeze", "Div", "Sub", "Gather", "Reshape", "Pow", "Sqrt", "Shape", "Mul", "Tanh", "Gemm", "Concat", "Softmax", "Constant", "Cast", "Add", "ReduceMean" ], "weight_type": "QInt8" }, "vision_model": { "op_types": [ "Transpose", "MatMul", "ConstantOfShape", "Slice", "Unsqueeze", "Div", "Sub", "Gather", "Reshape", "Squeeze", "Expand", "Pow", "Sqrt", "Shape", "Mul", "Tile", "Tanh", "Gemm", "Concat", "Softmax", "Mod", "Constant", "Cast", "Add", "ReduceMean", "Conv" ], "weight_type": "QUInt8" } } }