기본 콘텐츠로 건너뛰기

글

라벨이 claude 테스트인 게시물 표시

Grok Bot 토큰 효율 손본다: 머스크·@mattyp 발언, 확정과 질문을 구분해 읽어야 한다

  Grok Bot 개선 작업 진행과 사용자 의견 수렴이 이번 발언의 핵심입니다. Grok Bot, 토큰 효율 손본다…질문과 답변의 맥락 핵심: 개선 작업 진행과 의견 수렴 일론 머스크와 @mattyp의 X 게시물 다섯 건은 개선 작업 소식과 사용량·과금에 관한 대화를 담고 있습니다. 발언을 읽을 때는 작업 진행을 알린 문장과 가능성을 물은 질문, 의견을 접수했다는 답변을 각각의 맥락에 맞게 읽어야 합니다. KST 시각 계정 요지 원문 링크 2026-11-08 22:17 @elonmusk Grok Bot의 토큰 효율과 더 똑똑한 동작을 위한 수정 작업이 진행 중이라고 밝혔다. 원문 보기 2026-11-09 01:58 @mattyp Grok Bot 개선 작업을 알리고, 업무 흐름을 만든 사용자 지원 의향과 피드백 요청을 밝혔다. 원문 보기 2026-11-08 14:54 @elonmusk 사용량을 원클릭으로 쉽게 늘릴 수 있는지 질문했다. 원문 보기 2026-11-08 21:28 @elonmusk 토큰별 과금으로 쉽게 바꿀 수 있는지 질문했다. 원문 보기 2026-11-09 02:29 @mattyp 더 나은 토큰별 과금 의견을 접수했다고 답했다. 원문 보기 1. 어떤 발언이 나왔나 11월 8일 밤, 머스크는 Grok Bot의 토큰 효율과 더 똑똑한 동작을 위한 수정 작업이 진행 중이라고 밝혔습니다. 몇 시간 뒤 @mattyp도 토큰 효율과 동작 개선이 진행 중이라고 알렸습니다. 두 게시물에서 현재 확인할 핵심은 개선 작업의 진행입니다. 2. 업무 흐름을 만든 사용자에게 중요한 대목 @mattyp는 많은 사용자가 Grok Bot으로 중요한 업무 흐름을 만들었다며 계속 지원하고 싶다고 했습니다. 이어 자신의 게시물에 피드백을 남겨 달라고 요청하고 모두 읽겠다고 밝혔습니다. 사용자 입장에서 눈여겨볼 대목은 지원 의향과 구체적인 의견 제출 창구를 함께 언급했다는 점입니다. 3. 사용량·과금 발언은 어떻게 읽어야 하나 머스크는 사용...

카카오, Kanana-2 SLM 벤치마킹 결과 보고서

  Kanana ² / BENCHMARK  FIELD NOTE · LOCAL LLM · RAG 8GB Mac에서 오프라인 RAG는 어디까지 가능한가 Kanana-2(2.3B)를 실제 문서 RAG 환경에서 측정했다. 검색은 놀라울 만큼 정확했고, 속도도 충분했다. 다만 “같은 질문에 같은 답”이라는 가장 기본적인 신뢰성은 아직 과제로 남았다. Kanana-2 SLM 품질·성능 테스트 MacBook M3 · 8GB · Ollama · Metal 완전 오프라인 한 줄 결론 Kanana-2는 8GB Mac에서 사내 문서 RAG를 돌리기 위한 속도·검색 품질은 충족한다. 그러나 소형 모델의 샘플링 비결정성 때문에, 실사용 전에는 낮은 온도 설정과 거절 재시도 같은 보정이 필요하다. THE NUMBERS 결과를 먼저 보면 이렇다. 25개 문항으로 검색, 생성, 거절, 의역, 요약을 함께 시험했다. 모델은 Q4_K_M 양자화 상태로 M3 통합 GPU에 100% 오프로드했고, 실제 프로덕션과 동일한 RAG 파이프라인에서 측정했다. 이번 측정은 Claude Code 를 이용해서 테스트를 한 결과입니다.  검색 정확도 100 % grounded 질문 20/20 중앙 응답 시간 2.3 초 검색 + 생성 전체 생성 속도 47 tok/s 한국어 답변 평균 59토큰 반복 재현성 75 % 동일 입력 20회 반복 01 / QUALITY 검색은 정확했고, 대부분의 답변은 근거를 지켰다. 정답 문서가 있어야 하는 20문항에서 올바른 도메인 문서는 모두 top-4 안에 들어왔다. 특히 원문과 표현이 거의 겹치지 않는 의역 질문도 3/3으로 통과했다. “회사를 그만두려면 언제까지 알려야 하나요?”처럼 규정 원문과 다른 어휘로 묻는 경우에도 의미 검색이 잘 작동했다는 뜻이다. 핵심 품질 지표 검색 정확도 정답 문서가 있는 질문 100% 핵심 키워드 포함 정답 17 / 20 85% 인용 표기 준수 [n] 형식 90% 범위 밖 거절 near-miss 포함 80% 환각을 한...