api_cost/api_cost.yaml

GPT_3_5:
  in: 0.0015
  out: 0.002
GPT_4:
  in: 0.03
  out: 0.06
PALM2:
  in: 0.0
  out: 0.0