한 줄 요약: AI 비용을 줄이는 가장 좋은 방법은 무조건 싼 모델을 고르는 것이 아니다. 반복되는 입력은 캐시하고, 낡은 프롬프트 규칙은 걷어내고, 일의 난이도에 맞춰 AI가 생각하는 강도를 조절해야 한다. Anthropic이 2026년 9월 8일 공개한 글은 흔히 갖는 오해부터 뒤집는다. 보통 비용을 아끼려면 성능을 포기해야 한다고 생각한다. 하지만 Claude Platform을 실제로 운영해 보니, 설정과 프롬프트를 제대로 다듬는 것만으로 비용을 낮추면서 정확도까지 높일 수 있었다는 설명이다. 핵심은 세 가지다. 프롬프트 캐시 적중률을 높이고, 최신 모델에 맞지 않는 낡은 지시문을 없애고, 업무 난이도에 맞춰 effort(생각하는 강도)를 조절하는 것 이다. 기술 용어가 많아 보이지만, 사무실 업무에 빗대면 어렵지 않다. 1. 프롬프트 캐시: 매번 서류철을 처음부터 읽히지 말자 Claude가 답을 만들기 전에는 사용자가 보낸 지시문, 참고자료, 도구 설명, 지금까지의 대화를 먼저 읽고 내부 작업 상태를 만든다. 이 입력 처리 과정을 프리필(prefill)이라고 한다. 긴 문서를 매번 처음부터 읽히면 시간과 비용이 든다. 프롬프트 캐시는 한 번 읽은 공통 내용을 잠시 보관했다가, 다음 요청이 같은 내용으로 시작하면 다시 계산하지 않고 불러오는 기능이다. 캐시 읽기 비용은 전체 입력을 새로 처리하는 비용보다 훨씬 싸다. 예시: 100쪽짜리 사내 규정집을 참고하는 인사 상담 AI 직원이 휴가 질문을 할 때마다 규정집 100쪽을 새로 읽힌다고 해보자. 질문은 한 줄인데 비용 대부분은 같은 규정집을 반복해서 읽는 데 쓰인다. 규정집과 공통 지시문을 앞부분에 고정해 캐시하면, 다음 질문부터는 이미 읽어 둔 규정집을 꺼내 쓰는 것처럼 처리할 수 있다. 캐시가 자꾸 깨지는 이유 앞부분에 현재 시각이나 매번 바뀌는 ID를 넣는다. 캐시는 바이트 단위로 정확히 같아야 하므로 한 글자만 달라도 다른 입력으로 본다. 도구 목록의 순서...
경제, 금융, 교육, 사회적인 이슈들을 심층 분석합니다.