찰리초이 스토리 블로그

GROK 4.8 / 2.5 TRILLION 2.5T 모델은 얼마나 큰 걸까? 일론 머스크가 예고한 Grok 4.8의 크기를 숫자 대신 ‘거대한 종합병원’으로 바꿔 설명해 봤다. “Grok 4.8, which is a 2.5T model trained with our new C++ software stack, will finish training this week and start RL” — Elon Musk, 2026-09-14 01 / SHORT ANSWER 2조 5천억 개의 조절 다이얼 AI 업계에서 ‘2.5T 모델’이라고 하면 보통 2.5 trillion, 즉 2조 5천억 개의 파라미터를 가진 모델 이라는 뜻으로 읽는다. 파라미터는 학습 과정에서 조정되는 숫자다. 문맥, 단어 관계, 문제 해결 패턴 같은 것을 담는 수많은 작은 다이얼이라고 생각하면 쉽다. Grok 4.8은 쉽게 말해 2,500,000,000,000 개의 다이얼을 조정하며 학습하는 초거대 AI다. 다만 머스크의 짧은 게시물에는 ‘2.5T parameters’라고 명시돼 있지 않고, 상세 모델 카드도 아직 나오지 않았다. 따라서 이 숫자가 총 파라미터를 뜻하는지, 매 순간 계산에 참여하는 활성 파라미터를 뜻하는지는 확인이 필요하다. 02 / SCALE 유명 모델과 비교하면 VS GPT-3 175B 약 14.3× 2020년 공개된 GPT-3보다 파라미터 수 기준 약 14배 VS LLAMA 3.1 405B 약 6.2× Meta의 Llama 3.1 405B와 비교하면 약 6배 VS GROK-1 314B 약 8.0× xAI가 공개한 초기 Grok-1과 비교하면 약 8배 저장 공간도 만만치 않다. 모델 가중치만 단순 계산하면 16비트 정밀도에...

한 줄 요약: 웹 업무는 Ego Lite가 맡고, Excel 화면 조작은 Hermes Computer Use가 처리하며, Hermes Agent가 전체 순서와 검증 조건을 통제하는 자동화 사례를 구현했다. 웹과 엑셀을 함께 다뤄야 하는 업무 기업의 반복 업무는 한 시스템 안에서 끝나지 않는다. ERP에서 자료를 내려받고, Excel 양식에서 계산한 뒤, 다시 다른 ERP 화면에 입력하는 식이다. 이번 실증에서는 다음과 같은 가상의 업무 흐름을 만들었다. ERP-i에서 주문 CSV를 내려받는다. Excel 업무양식에 주문자료를 반영한다. 기존 수식으로 생산수량과 BOM을 계산한다. 오류가 없는지 확인한다. 검증을 통과한 결과만 ECOUNT 입력 화면에 붙여넣는다. 실제 등록 전 미리보기에서 최종 결과를 다시 검사한다. 단순히 브라우저만 자동화해서는 부족하고, Excel 매크로만으로도 전체 흐름을 끝낼 수 없다. 브라우저, 데스크톱 애플리케이션, 판단 로직을 하나의 에이전트가 연결해야 한다. 구성 1: Ego Lite 브라우저 자동화 Ego Lite는 사용자가 로그인한 웹 환경을 AI 에이전트와 함께 사용할 수 있는 브라우저다. 이번 예시에서는 모의 ERP-i와 모의 ECOUNT 화면을 조작했다. Ego Lite가 담당한 작업은 다음과 같다. ERP-i 주문 화면 열기 정상·예외 데이터 선택 CSV 다운로드 이벤트 확인 다운로드 파일 저장 ECOUNT 입력 화면 이동 Excel에서 복사한 TSV 데이터 붙여넣기 검증 버튼 실행 화면에 표시된 품목 수와 생산수량 확인 실제 등록 버튼 비활성화 여부 확인 버튼의 화면 좌표를 고정하지 않고 역할, 이름, DOM 요소를 기준으로 조작했다. 화면 배율이 달라져도 같은 버튼을 찾을 가능성이 높아진다. 구성 2: Hermes Computer Use로 Excel 수정 브라우저에서 받은 CSV는 실제 Microsoft Excel로 열었다. Hermes의 Computer Use는 화면을 보고 Excel 워...

채팅하는 AI에서, 웹에서 실제로 일하는 AI로 Hermes Agent의 강점은 단순한 질의응답이 아닙니다. 파일을 읽고, 도구를 실행하고, 기억과 Skill을 축적하며, Slack이나 데스크톱 같은 여러 인터페이스에서 실제 업무를 이어갈 수 있다는 점입니다. 여기에 ego (lite) 를 연결하면 Hermes가 로그인된 웹사이트를 눈에 보이는 브라우저에서 다룰 수 있습니다. 이번 글 자체가 그 실험입니다. 리서 역할의 Hermes가 공식 문서를 조사한 뒤, ego-browser 로 ego (lite)의 한국어 가이드를 열고 내용을 확인했습니다. 이어 같은 TaskSpace에서 로그인된 Blogger 관리 화면으로 이동해 찰리초이 스토리 블로그까지 확인했습니다. ego (lite)는 무엇인가 ego (lite)는 사람과 AI 에이전트가 함께 쓰도록 설계된 Chromium 계열 브라우저입니다. 에이전트는 별도의 Space에서 작업하므로 사용자가 보던 탭과 충돌하지 않으면서 웹페이지를 읽고, 클릭하고, 입력할 수 있습니다. 공식 사이트 는 Chrome 데이터와 로그인 상태를 가져와 활용할 수 있다고 설명합니다. Hermes와 ego (lite)는 같은 제품이 아닙니다. Hermes는 작업을 계획하고 도구를 선택하는 에이전트 런타임이고, ego (lite)는 실제 웹사이트를 조작하는 브라우저 환경입니다. 둘 사이는 ego-browser Skill이 연결합니다. 공개 GitHub 저장소 에는 Skill과 문서가 MIT 라이선스로 제공되지만, ego (lite) 브라우저 앱은 별도의 무료 다운로드입니다. 왜 기본 헤드리스 브라우저 대신 ego (lite)를 쓰는가 일반적인 자동화 브라우저는 깨끗한 임시 프로필에서 시작하는 경우가 많습니다. 이 방식은 공개 웹 조사나 테스트에는 편하지만 Gmail, Blogger, Notion, 사내 시스템처럼 로그인 상태가 필요한 업무에서는 매번 인증 문제가 생깁니다. ego (lite)는 사람이 사용하는 브라우저 맥락...

쉽게 이해하는 AX 역할 구분 FDE와 SI는 무엇이 다른가 SI는 “요청한 시스템을 만들어 넘기는 업체”이고, FDE는 “현장에 붙어 업무가 실제로 바뀌게 만드는 엔지니어”입니다. 이 글에서 다루는 것 보일러·병원 예시로 보는 SI와 FDE의 차이 카페 키오스크 비유가 맞는 점, 보완할 점 강의·설명에 바로 쓸 수 있는 한 줄 기억법 1. 쉬운 비유: 집에 보일러를 넣는다면 같은 집에 보일러를 넣는다고 생각하면 역할이 분명해집니다. SI FDE 역할 설계·시공 업체 집 안에 들어와 사는 기술 집사 질문 “스펙대로 달았나?” “이 집이 실제로 따뜻해졌나?” 끝나는 시점 설치·검수 완료 가족이 매일 잘 쓰고, 온도가 목표에 맞을 때 산출물 보일러, 배관, 매뉴얼 사용 습관, 설정, 측정, 다음 개선까지 SI는 납품 이 성공입니다. FDE는 현장이 돌아가는 것 이 성공입니다. 2. 병원 예시 SI 방식 병원이 “예약·접수 시스템 만들어 주세요”라고 발주합니다. SI가 요구사항을 받아 개발하고, 서버에 올리고, 교육 한 번 하고 철수합니다. 화면은 있습니다. 그런데 간호사는 여전히 수첩에 적고, 환자는 창구에서 기다립니다. “시스템은 준수 납품됐다”가 SI의 성적표입니다. FDE 방식 접수 창구 옆에 앉아, 아침 30분 동안 누가 어디를 헤매는지 봅니다. 예약 취소·중복·노쇼가 어디서 생기는지 숫자로 잡습니다. 큰 시스템이 아니라 이번 주부터 쓰는 작은 것을 ...

한 줄 요약: Mac에서 실행되는 Hermes Agent를 Slack에 연결하고, 별도의 딥 리서치 전문 에이전트 ‘리서’까지 추가해 사람과 AI 동료가 같은 채널에서 협업하는 구조를 만들었다. 이번에는 단순히 Slack에 챗봇 하나를 붙인 것이 아니다. ‘맥헬미’는 내 MacBook Air에서 실행되는 Hermes Agent에게 붙인 친근한 별명이다. ‘맥에서 일하는 헬미’라는 뜻으로, 지금 이 글을 함께 만들고 실제 작업을 수행하는 AI 에이전트이기도 하다. 이 맥헬미를 Slack의 정식 팀원처럼 연결하고, 이어서 딥 리서치 전담 동료 ‘리서’를 별도의 에이전트로 구성했다. 마지막에는 나와 맥헬미, 리서가 함께 일할 수 있는 협업 채널까지 만들었다. 먼저 사실관계부터 정확히 말하면 Slack 데스크톱 앱은 내가 Mac에 설치했다. 그다음 Slack 채널 생성, Hermes용 Slack App 구성, Gateway 연결, 사용자 허용 정책, 실제 메시지 왕복 검증은 맥헬미와 함께 자동화해 진행했다. 9월 10일 맥헬미 연결을 시작했고, 9월 11일에는 리서까지 독립 에이전트로 확장했다. 왜 터미널이 아니라 Slack이었나 Hermes는 터미널에서 강력하게 일하지만, 매번 터미널을 열어야 한다면 일상적인 협업 도구가 되기 어렵다. 내가 원한 것은 평소 사용하는 Slack에서 사람에게 말을 걸듯 AI 에이전트에게 요청하는 방식이었다. DM에서는 맥헬미 (나의 헤르메스 닉네임)와 일대일로 대화한다. 프로젝트 채널에서는 맥헬미를 멘션해 업무를 맡긴다. 조사가 필요하면 리서를 멘션해 근거 수집과 교차 검증을 맡긴다. 한 스레드 안에서 사람과 에이전트가 결과를 이어서 검토한다. 목표는 “Slack에서 답변하는 봇”이 아니라, 역할과 기억과 도구를 가진 AI 동료가 실제 업무 공간에 들어오는 것이었다. 1단계: 맥헬미용 Slack 공간 만들기 처음에는 맥헬미와 대화할 전용 공개 채널을 만들었다. 이름은 #mac-helmi 로 정...

AX 컨설턴트 보안 브리핑 AI 개발이 빨라질수록 보안 검증은 더 엄격해야 합니다 ‘모두의창업’ 정보유출 사례에서 배우는 API·권한·데이터 보호의 기본 원칙 이번 사건의 핵심은 단순한 “AI 해킹”이 아닙니다. 민감정보를 반환하는 API, 누락된 권한 검사, 잘못된 키 관리와 부족한 검수 절차가 결합한 기본 보안의 실패입니다. 즉, 개발 도구가 무엇이었는가보다 “누가 어떤 데이터에 접근할 수 있는지, 무엇을 외부로 내보내는지, 배포 전에 제대로 확인했는지” 가 더 중요합니다. 먼저 이렇게 생각하면 쉽습니다 웹서비스를 하나의 사무실이라고 보면, 로그인은 건물 출입증 , 권한 검사는 각 사무실의 열쇠 , API는 자료를 전달하는 창구 , API 키·토큰은 관리자용 마스터키 와 비슷합니다. 출입증만 있다고 모든 방을 열 수 있게 하거나, 자료 창구가 주민번호·평가자료까지 한꺼번에 내보내거나, 마스터키를 책상 위에 올려두면 사고 가능성이 커집니다. 1 기사 바로가기 ↗ ‘모두의창업’ 해킹…“협력사 사이트 엉망진창” 디일렉(THE ELEC) 원문 보기 2 무슨 일이 있었나 5,000명 프로젝트 합격자 비공개 정보가 노출된 것으로 조사 3종 이메일 주소·심사평·창업 아이디어 요약 API 비공개 정보와 복호화에 필요한 키까지 함께 노출 기사에 따르면 플랫폼 일부 API에 비공개 정보가 포함돼 있었고, 외부에서 웹 크롤링 등으로 API를 수집하는 과정에서 정보가 유출됐습니다. 데이터는 암호화돼 있었지만 이를 풀 수 있는 키까지 함께 노출돼 암호화의 실효성이 사라졌습니다. 민감정보가 포함된 API 응답 → 외부 자동 수집과 복호화 가능 → 개인정보·아이디...

한 줄 요약: AI 비용을 줄이는 가장 좋은 방법은 무조건 싼 모델을 고르는 것이 아니다. 반복되는 입력은 캐시하고, 낡은 프롬프트 규칙은 걷어내고, 일의 난이도에 맞춰 AI가 생각하는 강도를 조절해야 한다. Anthropic이 2026년 9월 8일 공개한 글은 흔히 갖는 오해부터 뒤집는다. 보통 비용을 아끼려면 성능을 포기해야 한다고 생각한다. 하지만 Claude Platform을 실제로 운영해 보니, 설정과 프롬프트를 제대로 다듬는 것만으로 비용을 낮추면서 정확도까지 높일 수 있었다는 설명이다. 핵심은 세 가지다. 프롬프트 캐시 적중률을 높이고, 최신 모델에 맞지 않는 낡은 지시문을 없애고, 업무 난이도에 맞춰 effort(생각하는 강도)를 조절하는 것 이다. 기술 용어가 많아 보이지만, 사무실 업무에 빗대면 어렵지 않다. 1. 프롬프트 캐시: 매번 서류철을 처음부터 읽히지 말자 Claude가 답을 만들기 전에는 사용자가 보낸 지시문, 참고자료, 도구 설명, 지금까지의 대화를 먼저 읽고 내부 작업 상태를 만든다. 이 입력 처리 과정을 프리필(prefill)이라고 한다. 긴 문서를 매번 처음부터 읽히면 시간과 비용이 든다. 프롬프트 캐시는 한 번 읽은 공통 내용을 잠시 보관했다가, 다음 요청이 같은 내용으로 시작하면 다시 계산하지 않고 불러오는 기능이다. 캐시 읽기 비용은 전체 입력을 새로 처리하는 비용보다 훨씬 싸다. 예시: 100쪽짜리 사내 규정집을 참고하는 인사 상담 AI 직원이 휴가 질문을 할 때마다 규정집 100쪽을 새로 읽힌다고 해보자. 질문은 한 줄인데 비용 대부분은 같은 규정집을 반복해서 읽는 데 쓰인다. 규정집과 공통 지시문을 앞부분에 고정해 캐시하면, 다음 질문부터는 이미 읽어 둔 규정집을 꺼내 쓰는 것처럼 처리할 수 있다. 캐시가 자꾸 깨지는 이유 앞부분에 현재 시각이나 매번 바뀌는 ID를 넣는다. 캐시는 바이트 단위로 정확히 같아야 하므로 한 글자만 달라도 다른 입력으로 본다. 도구 목록의 순서...