각 작업에 어떤 AI 모델을 사용해야 하며, 과도한 비용을 피하려면 어떻게 해야 할까?

간단히 말해, 추론은 강력한 모델에 맡기고 실행은 더 단순한 모델에 맡기세요. 계획 수립과 복잡한 의사결정은 최상위 모델(GPT-6 Astra, Claude Fable 5.1 또는 Claude Opus 5.5)에 맡기고, 완성된 계획에 따라 작업할 때는 중간급 모델을 사용하며, 일상적인 작업과 에이전트의 백그라운드 호출에는 처리할 수 있는 모델 중 가장 저렴한 것을 사용하세요. 동시에 결과를 확인하세요. 모델이 저렴할수록 작업 결과를 더 꼼꼼히 검토해야 합니다. 그렇지 않으면 재작업으로 절약한 비용을 잃게 됩니다.

아래는 원저자가 2026년 9월 23일 공개 저장소에 게시한 ‘작업 → 모델’ 표입니다. 표의 주요 모델은 업무 경험을 바탕으로 한 저자의 개인적인 선택입니다. 이 표를 위해 비교 테스트를 수행하지 않았으며, 다른 작업에서도 같은 결과가 보장되지는 않습니다. 저렴한 옵션 대부분은 공개 순위와 개발자 자체 권장 사항을 바탕으로 선택했습니다. 코드 작업에 Opus 5.5를 쓰는 것도 제 경험에 따른 선택입니다. 원문에 기재된 가격은 2026년 9월 23일 기준 OpenAI와 Anthropic 공식 페이지에서 확인했습니다.

Ailoot 사용에 관한 추가 안내는 문서를 참조하세요.

모든 작업에 같은 모델을 쓰면 비용이 많이 드는 이유#

API를 통해 토큰 비용을 지불한다면, 더 단순한 모델로 충분한 작업이라도 최상위 모델로 실행하면 매번 최상위 모델 요금이 듭니다. 구독을 이용한다면 요금제와 선택한 모델의 한도를 고려하세요. 요금제 페이지에서 한도를 확인할 수 있습니다. Claude 구독 한도가 어떻게 작동하고 무엇이 한도를 소모하는지 알아보려면 별도 문서 Claude Code 한도를 하루 만에 다 써버리지 않는 방법을 참조하세요. 이 글에서는 특정 작업에 적합한 모델을 선택하는 방법을 다룹니다.

2026년 9월 23일 기준, 토큰 100만 개당 공식 API 가격:

가상의 에이전트 실행을 생각해 보세요. 입력 토큰 10만 개와 출력 토큰 1만 개를 사용합니다. 이는 캐싱을 적용하지 않은 기본 가격으로 계산한 예시이며, 실제 작업을 측정한 값은 아닙니다. 이런 실행에는 GPT-6 Astra 또는 Fable 5.1 기준 약 $1,5, Opus 5.5 기준 $0,6, Sonnet 5 또는 GPT-6 Sol 기준 $0,3, Haiku 4.5 기준 $0,15, GPT-6 Luna 기준 $0,015가 듭니다. 이 계산에서 최상위 모델과 가장 저렴한 모델의 가격 차이는 100배입니다. 직접 사용한 토큰량으로 이런 실행의 비용을 계산하는 방법은 API 토큰 사용량 계산 방법을 참조하세요.

가격에 관한 참고 사항 두 가지입니다. GPT-6 모델은 입력 토큰이 27만 2천 개를 초과하는 요청의 전체 사용량에 더 높은 요금이 적용됩니다. 입력은 기본 요금의 2배, 출력은 1.5배입니다. 배치 요청은 OpenAI와 Anthropic 모두 표준 가격의 절반입니다.

원칙: 강력한 모델로 생각하고 저렴한 모델로 실행하기#

이후 작업은 계획에 따라 달라지므로, 계획 수립에는 비용을 아끼지 않고 가장 강력한 모델을 사용합니다. 더 단순한 모델은 완성된 계획에 따라 글을 쓰고, 데이터를 수집하고, 채팅 이름을 바꾸고, 대화를 압축할 수 있습니다.

모델을 선택할 때는 다음 세 가지 원칙도 따릅니다.

1. 모델이 저렴할수록 작업 결과를 더 꼼꼼히 확인해야 합니다. 검토에도 시간이 듭니다.
2. 요청 한 건의 가격이 아니라 완성된 결과의 비용을 비교하세요. 예를 들어 Opus 5.5는 입력과 출력 모두 Fable 5.1보다 2.5배 저렴합니다. 재작업 때문에 Opus가 한 작업에 입력 및 출력 토큰을 3배 더 사용한다면, 결과적으로 비용이 더 많이 듭니다. 검토 시간도 토큰 비용에 추가되는 비용입니다. 어떤 AI 에이전트가 더 저렴할까: 해결된 작업 하나의 비용에서는 결과물 비용을 계산하는 방법을 설명합니다.
3. 모델이 마음에 들지 않으면 다른 모델을 시도하세요. 하나의 절대적인 승자는 없습니다. 모델마다 장점과 한계가 있습니다.

모델 선택은 AI 에이전트를 사용하는 여러 요소 중 하나입니다.

표: 작업 → 모델#

‘주요 모델’ 열에는 제가 직접 사용하는 모델을 적었습니다. 다음 열에는 대안 모델이 나열되어 있으며, 대부분 공개 순위와 개발자 권장 사항을 바탕으로 선택했습니다. 코드 작업에 Opus 5.5를 사용하는 것도 개인적인 경험에 따른 선택입니다. 저렴한 모델의 결과는 더 꼼꼼히 확인하세요. 일상 작업용 옵션은 결제 방식이 서로 다르므로, 이 선택이 반드시 더 저렴한 것은 아닙니다.

전략 및 계획. 계획의 오류는 이후 단계에도 영향을 미칠 수 있습니다. 이 작업에는 가장 강력한 모델을 사용합니다. GPT-6 Sol은 더 저렴한 옵션입니다. OpenAI는 이 모델을 복잡한 코드와 에이전트 시나리오용으로 소개합니다.

코드. 코드 작업에는 Fable 5.1을 사용합니다. 하지만 Anthropic은 대부분의 작업에 Opus 5.5부터 사용하고, 복잡한 추론과 장시간 실행되는 에이전트 작업에는 Fable 5.1을 사용하거나 높은 수준의 추론을 적용한 Opus로도 작업을 처리할 수 없을 때 Fable 5.1을 사용하라고 권장합니다. API 기준으로 Opus 5.5는 2.5배 저렴하며, 제 경험상 이 모델을 사용한 작업의 비용도 더 적게 듭니다. 계획이 준비되어 있다면 더 저렴한 모델이 그 계획에 따라 글을 쓸 수 있습니다. 코드 작업에 적합한 두 최상위 모델을 자세히 비교하려면 GPT-6 Astra와 Claude Fable 5.1: 어떤 모델을 선택해야 할까?를 참조하세요.

글쓰기. 고객에게 전달할 글이라면 강력한 모델을 사용합니다. Sonnet 5는 더 저렴한 옵션입니다. Anthropic은 이 모델을 속도와 지능의 균형이 가장 좋은 모델이라고 설명합니다. 결과물을 더 꼼꼼히 검토하세요.

숫자 및 금융. 여기에서도 강력한 모델을 사용합니다. 비교 테스트 결과가 아니라 업무 경험에 따른 제 선택입니다. 하지만 강력한 모델도 검토를 대신할 수는 없습니다. 수치를 1차 출처와 대조해 확인하세요. 약관상 데이터를 사용할 수 있는 무료 요금제에는 금융 정보나 개인 정보를 보내지 마세요.

검색 및 조사. 간단한 작업과 검색에는 Sonnet 5를 사용합니다. 이 선택은 제 경험에 따른 것입니다. GPT-6 Luna는 더 저렴한 옵션입니다. OpenAI는 이 모델을 대량의 반복 작업용으로 소개합니다.

일상 작업. 일상 작업은 자주 반복되므로 개별 실행 비용이 누적됩니다. Kimi Code 구독으로 Kimi K3를 사용합니다. DeepSeek Flash는 API 종량제 옵션입니다. 두 옵션의 결제 방식은 다르며, 어느 쪽이 더 저렴한지는 사용량에 따라 달라집니다.

비용을 아끼지 않는 작업#

이 원칙은 제 실무 경험에 바탕을 두고 있습니다. 비교 연구를 통해 검증한 것은 아닙니다.

• 계획 및 아키텍처. 계획의 오류는 이후 단계에도 영향을 미칠 수 있습니다.
• 숫자 및 금융. 여기에는 강력한 모델을 사용하며, 수치를 1차 출처와 대조해 확인합니다.
• 결과 확인. 작업을 수행한 모델이 저렴할수록 결과를 더 꼼꼼히 확인해야 합니다.

대화 압축은 긴 대화에서 에이전트가 무엇을 기억할지 결정하므로, 지나치게 약한 모델은 중요한 정보를 놓칠 수 있습니다. 저렴한 모델에 압축을 맡길 수 있지만, 자신의 작업에서 품질을 확인하세요.

Hermes Agent의 백그라운드 작업을 저렴한 모델로 옮기는 방법#

에이전트는 주요 작업 외에도 채팅 제목 만들기, 긴 대화 압축, 이미지 분석, 명령을 자동 승인해도 되는지 판단하기 같은 보조 작업을 수행합니다. Hermes Agent에서는 이를 보조 작업으로 표시합니다. 기본적으로 각 작업은 auto로 설정되어 있어 주 모델이 처리합니다. 주 모델이 최상위 모델이고 API로 결제한다면 보조 작업에도 최상위 모델 요금이 청구됩니다.

smart 모드에서 명령 승인을 처리할 때 Hermes 문서는 저렴하고 빠른 모델을 권장하며, 고가 모델을 쓰는 것은 낭비라고 설명합니다. 컨텍스트 압축과 웹 페이지 요약, 즉 웹 페이지의 내용을 짧게 정리하는 작업에도 고가의 추론 모델 대신 빠른 모델을 권장합니다.

단계:

1. 저렴한 모델을 제공하는 공급자를 키와 함께 미리 연결합니다. Hermes 문서에 따르면 키가 없는 공급자를 작업에 지정하면 기본 옵션으로 대체되며, agent.log 로그에 경고가 기록됩니다. auto 모드에서 주 모델이 작업을 수행할 수 없고 대체 모델 연결이 설정되어 있지 않다면, Hermes는 경고와 함께 작업을 건너뛰고 다른 연결된 공급자로 전환하지 않습니다.
2. Hermes 웹 패널을 열고 Models → Model Settings → Auxiliary tasks → Configure를 차례로 선택합니다. 원하는 작업 행(예: Compression, Title Gen, Vision)에서 Change를 클릭하고 공급자와 모델을 선택한 다음 Switch를 클릭합니다. Hermes 문서에서는 이 작업에 Show auxiliary 버튼을 사용하라고 안내하기도 합니다. 메뉴 이름은 버전에 따라 다릅니다.
3. 또는 같은 설정을 ~/.hermes/config.yaml에 입력합니다. Hermes 문서에 나온 예시입니다. 이미지 분석(vision)에 빠른 모델을 사용합니다.

Ailoot 문서에서 도구 가이드 찾기

채팅 제목의 경우 문서는 빠른 모델을 고정하거나 auxiliary.title_generation.prefer_fast_model: true를 설정하라고 안내합니다. 그러면 Hermes가 공급자에서 빠른 모델을 선택합니다.

4. 새 세션을 엽니다. 모델 변경 사항은 새 세션에만 적용되며, 이미 열려 있는 채팅은 이전 설정을 계속 사용합니다. config.yaml을 직접 수정했는데 새 세션에서 설정이 적용되지 않았다면 Hermes를 재시작하세요.

확인 방법. 작업 행에 auto (use main model) 대신 provider · model이 표시되어야 합니다. 여전히 auto라고 표시된다면 해당 작업은 주 모델을 사용하고 있습니다. 모든 작업을 주 모델로 되돌리려면 Reset all to auto를 클릭하세요.

백그라운드 작업용 표에는 GPT-6 Luna, Gemini 3.8 Flash, DeepSeek Flash, Claude Haiku 4.5가 나와 있습니다. 이미 연결된 공급자 중에서 선택하세요. ChatGPT / Codex 구독 공급자를 통해 OpenAI 모델을 연결했는데 GPT-6 Sol과 GPT-6 Luna가 아직 Hermes 모델 목록에 없다면, 표에서는 GPT-5.6 Sol 또는 GPT-5.6 Luna를 권장합니다. Anthropic 페이지에 따르면 Haiku 4.5는 2026년 10월 15일 이전에는 종료되지 않습니다. 정확한 날짜는 없으므로 그 전에 상태를 확인하세요.

표에 포함되지 않은 내용#

• 절감 비율. 측정하지 않았습니다. 절감액은 작업과 선택한 모델에 따라 달라집니다.
• 구독 한도 사용량의 정확한 수치. Hermes 문서에는 Hermes의 요청이 ChatGPT 구독 한도를 어떻게 사용하는지 정확히 설명되어 있지 않습니다.
• 변하지 않는 가격. 모델과 요금제는 변경됩니다. 구매하기 전에 공식 페이지를 확인하세요.

오늘 할 일#

1. 에이전트에게 가장 자주 맡기는 작업 유형을 서너 가지 적어 보세요.
2. 각 작업에 대해 생각이 필요한지, 아니면 완성된 계획을 실행하면 되는지 판단하세요.
3. ‘생각’에는 최상위 모델을 두고, ‘실행’에는 한 단계 낮은 모델을 사용하며, 일상 작업에는 처리할 수 있는 모델 중 가장 저렴한 것을 사용하세요.
4. Hermes에서는 채팅 제목부터 시작하세요. 저렴한 모델로 옮기기 가장 쉬운 작업입니다. 다음으로 컨텍스트 압축을 옮기고, 자신의 긴 대화에서 에이전트가 중요한 정보를 놓치기 시작했는지 확인하세요.

모델을 더 활용하려면 Ailoot으로 이동하세요.