쓰던 OpenAI SDK 그대로
AI 호출 코드에서 쓰던 OpenAI SDK의 base URL을 게이트웨이로 바꾸고, 호출에 헤더 몇 개를 싣는 것이 전부입니다.
API 키 자리에는 앱토 Calling Key를 넣고, 헤더에는 기능 ID와 직접 계약한 모델 제공사의 API 키를 담습니다. 유저 행동과 잇고 같은 유저에게 같은 옵션을 주려면 기기 ID도 함께 보냅니다.
Node.js와 Python 서버에서는 SDK가 기능 ID와 기기 ID 같은 헤더를 요청마다 대신 실어 보냅니다.
여러 제공사를 같은 방식으로
게이트웨이는 AI 호출을 받아 라우팅에 따라 OpenAI, Anthropic, Gemini, DeepSeek, Kimi 중 한 제공사로 전달합니다. 모델을 바꾸고 되돌리는 일은 대시보드에서 끝납니다.
쓰지 않던 제공사로 새로 옮길 때는 호출 코드가 그 제공사의 API 키를 함께 보내고 있어야 합니다.
API 키와 계약은 그대로
모델 제공사와의 계약과 API 키는 고객이 그대로 보유합니다. 키는 호출할 때마다 요청에 실려 전달될 뿐, 게이트웨이가 남기는 호출 기록에는 들어가지 않습니다.
무엇이 기록되나요
호출마다 어떤 모델을 썼는지, 토큰을 얼마나 썼는지, 비용과 응답 속도가 얼마였는지 남깁니다. 프롬프트와 응답 원문도 기본으로 함께 저장되며 언제든 저장하지 않도록 설정할 수 있습니다. 다만 저장한 내용이 있어야 쓸 수 있는 기능은 제한됩니다.
대화 내용은 서버가 보낸 그대로 제공사에 전달합니다. 시스템 프롬프트와 모델은 라우팅 옵션에 값이 있을 때만 그 값으로 바뀌며, 게이트웨이가 내용을 다른 용도로 쓰지 않습니다.