OpenAI API 입문 (키 발급, 첫 호출, 과금 구조)

GPT API 처음 쓰는 사람을 위한 완전 입문: 무료로 나만의 봇 만들기

"AI 봇, 무료로 만들 수 있다"는 말을 어디선가 보신 적 있으실 겁니다. 저도 그 말에 혹해서 시작했는데, 막상 해보니 절반은 맞고 절반은 틀린 이야기였습니다. 정확히 무엇이 가능하고 무엇이 과장인지, 직접 부딪혀본 경험을 바탕으로 풀어보겠습니다.

API 키 발급, 생각보다 막히는 지점이 있습니다

OpenAI API를 쓰려면 가장 먼저 API 키(API Key)를 발급받아야 합니다. API 키란 OpenAI 서버에 "이 요청은 나한테서 온 겁니다"라고 증명하는 고유한 인증 코드입니다. platform.openai.com에 접속해 계정을 만들면 발급받을 수 있는데, 여기서 처음으로 막히는 분들이 꽤 있습니다.

제가 처음 발급받을 때 가장 당황했던 건 결제 수단 등록이었습니다. 단순히 계정을 만든다고 API 키가 활성화되지 않았고, 카드 정보를 입력한 뒤 소액을 충전해야 실제로 사용할 수 있었습니다. "무료로 시작할 수 있다"는 말을 믿고 들어갔는데, 현재는 신규 가입 시 무료 크레딧이 제공되지 않는 경우가 많습니다. 처음부터 $5~$10 정도를 충전해야 한다고 생각하고 시작하는 편이 마음 편합니다. 이걸 모르고 들어간 분들이 막혀서 포기하는 경우를 여러 번 봤습니다. 미리 알았더라면 당황하지 않았을 텐데 싶습니다.

그래도 비용이 무서워서 못 시작하겠다는 분들께 드리고 싶은 말이 있습니다. $5를 충전하면 수천 번의 API 호출이 가능합니다. 학습 목적이라면 커피 한 잔 값으로 충분합니다. 실제로 저는 첫 달에 $2도 안 쓰고 사내 FAQ 봇 프로토타입을 완성했습니다. 과금 걱정 때문에 시작을 미루는 건 생각보다 큰 손해입니다.

첫 API 호출, 30분이면 정말 됩니다

API 키를 손에 쥐었다면 절반은 끝난 겁니다. 나머지 절반은 실제 코드를 실행하는 것인데, 이게 생각보다 허무할 정도로 짧습니다. 솔직히 이건 예상 밖이었습니다. AI 연동이라고 하면 복잡한 모델 설정이나 서버 구성이 필요할 거라 생각했는데, 실제로는 메시지 배열 하나를 넘기는 게 전부였습니다.

여기서 chat.completions.create()란 OpenAI의 채팅 모델에 메시지를 보내고 응답을 받아오는 핵심 엔드포인트(endpoint)입니다. 엔드포인트란 API 서버와 통신하는 특정 주소이자 창구라고 보시면 됩니다. 메시지 구조는 세 가지로 나뉩니다. 시스템 프롬프트(system prompt)는 AI에게 역할과 맥락을 설정해주는 첫 번째 메시지로, 사용자가 질문하기 전에 AI의 페르소나와 지식 범위를 미리 지정해두는 설정값입니다. 유저 메시지(user message)는 실제 사용자가 입력하는 질문이나 요청이고, 어시스턴트 메시지(assistant message)는 AI가 이전에 답한 내용으로 대화 맥락을 유지하는 데 사용됩니다.

저는 첫 프로젝트로 사내 FAQ 자동 응답 봇을 만들었습니다. 시스템 프롬프트에 회사 정책 문서를 텍스트로 넣고, 직원이 질문하면 그 문서 안에서 답을 찾아주는 구조였습니다. 반응이 꽤 좋았는데, 가장 놀라웠던 건 문서에 없는 질문에도 "해당 내용은 정책 문서에 포함되어 있지 않습니다"라고 깔끔하게 답한다는 점이었습니다. 그게 시스템 프롬프트 한 줄짜리 지시의 결과였습니다. 이 경험 이후로 API를 "어려운 것"이라고 생각하는 선입견이 완전히 사라졌습니다.

OpenAI의 공식 문서에 따르면, chat.completions API는 현재 GPT-4o를 포함한 여러 모델을 동일한 구조로 호출할 수 있도록 설계되어 있습니다. 모델만 바꾸면 동일한 코드로 성능 차이를 비교할 수 있다는 점이 개발자 입장에서 상당히 편리합니다.

과금 구조, 모르면 나중에 당합니다

가장 오해가 많은 부분이 바로 토큰(token) 과금 구조입니다. 토큰이란 AI 모델이 텍스트를 처리하는 최소 단위로, 대략 영어 단어 하나 혹은 한글 두세 글자 정도에 해당합니다. OpenAI는 입력한 텍스트와 출력된 텍스트 모두를 토큰 단위로 계산해 요금을 청구합니다.

초심자들이 자주 실수하는 지점이 있습니다. 시스템 프롬프트에 긴 문서를 통째로 집어넣으면, 그 문서 내용 전체가 매 요청마다 토큰으로 계산됩니다. 회사 정책 문서가 길어질수록 호출 비용이 선형적으로 올라가는 구조입니다. 소규모 내부 도구라면 크게 문제가 없지만, 사용자가 많아지면 얘기가 달라집니다. 저도 처음에 이걸 몰라서 "왜 이렇게 빨리 크레딧이 줄지?"라고 당황한 적이 있습니다.

프로덕션 수준의 서비스를 만들려면 RAG(Retrieval-Augmented Generation)라는 기법을 고려해야 합니다. RAG란 문서 전체를 프롬프트에 넣는 대신, 질문과 관련 있는 부분만 그때그때 검색해서 넣어주는 구조입니다. 토큰 비용을 크게 줄일 수 있고, 더 정확한 답변을 끌어낼 수 있습니다. 다만 이건 입문 단계를 넘어선 이야기이고, 처음엔 단순한 프롬프트 인젝션 방식으로 충분합니다.

"무료로 나만의 봇을 만든다"는 표현이 완전히 틀린 건 아닙니다. 하지만 현실적으로 학습·프로토타입 수준에서는 월 몇 달러 이내가 가능하고, 그 이상을 넘어서는 순간 서버 호스팅, 프론트엔드, 데이터베이스 비용이 따라붙습니다. 이 부분을 처음부터 알고 시작했으면 더 좋았을 텐데 싶습니다. 기대치를 제대로 설정해두는 게 중요합니다.

참고로 Anthropic Claude API도 구조가 거의 동일합니다. 메시지 배열, 시스템 프롬프트, 토큰 기반 과금 모두 마찬가지입니다. OpenAI 쪽을 한 번 제대로 익혀두면 다른 LLM(Large Language Model) API로 넘어가는 데 하루면 충분합니다. LLM이란 대규모 텍스트 데이터로 학습된 언어 모델로, GPT-4o나 Claude 같은 AI의 핵심 기반 기술입니다.

API 하나 익혔다고 해서 갑자기 대단한 서비스가 뚝딱 만들어지진 않습니다. 하지만 첫 호출을 성공하고 나면 생각보다 빠르게 다음 단계로 나아갈 수 있다는 건 사실입니다. 시작이 어렵게 느껴진다면, API 키 발급 하나만 먼저 해두세요. 그 다음은 생각보다 잘 굴러갑니다.

---

출처 및 검색 태그

• OpenAI API 공식 문서 (https://platform.openai.com/docs/api-reference)
• OpenAI Cookbook GitHub (https://github.com/openai/openai-cookbook)
• Slack API 공식 문서 (https://api.slack.com/docs)
• Python dotenv 문서 (https://pypi.org/project/python-dotenv)