기본 콘텐츠로 건너뛰기

대형언어모델의 수학 능력, 단순 암기인가 진짜 추론인가?

 

대형언어모델의 수학 능력에 대한 의문 OpenAI, Anthropic, DeepMind 등 유명 AI 연구소들이 개발한 GPT-4, Claude, Gemini 등 최신 대형언어모델들은 수학 문제 풀이에서 인상적인 성과를 보여주고 있습니다. 하지만 이들의 수학 실력이 과연 진짜 추론에 의한 것인지, 아니면 단순히 학습 데이터를 암기해서 답을 맞추는 것인지에 대한 의문이 제기되어 왔습니다.

GSM8k와 GSM1k를 통한 Scale AI의 실험 이에 대해 Scale AI의 연구진들이 흥미로운 실험을 진행했습니다. 기존의 수학 벤치마크인 **GSM8k(Grade School Math 8,000)와 유사하지만 완전히 새로운 문제 1,000개로 구성된 GSM1k(Grade School Math 1,000)**를 만들어, 다양한 언어모델들의 성능을 평가한 것입니다. GSM8k는 초등학교 수준의 산술 문제 8,000개로 이루어진 공개 데이터셋입니다. 만약 모델이 GSM8k에서는 좋은 점수를 얻지만 GSM1k에서는 낮은 점수를 얻는다면, 이는 암기에 의존한다는 증거가 될 수 있습니다.

일부 모델에서 관찰된 과적합 현상 실험 결과, Mistral이나 Phi 등 일부 모델 군에서는 이런 '과적합(overfitting)' 현상이 뚜렷하게 관찰되었습니다. 과적합이란 모델이 학습 데이터에 지나치게 맞춰져, 새로운 데이터에 잘 일반화되지 못하는 현상을 말합니다. 예를 들어, 모델이 GSM8k의 문제와 정답을 그대로 암기해 높은 점수를 얻었지만, 유사하지만 새로운 문제인 GSM1k에서는 성능이 크게 떨어진다면 과적합되었다고 볼 수 있습니다.

최신 모델들의 진정한 추론 능력 시사 반면 Claude, GPT, Gemini 등 최신 모델들은 GSM8k와 GSM1k에서 비슷한 높은 성능을 보여, 진정한 추론 능력이 있음을 시사했습니다. 특히 Claude 3는 과적합 징후가 거의 없이 우수한 성적을 거뒀습니다.

GSM8k 예제 생성 확률과 과적합의 상관관계 추가 분석 결과, 모델이 GSM8k 예제를 생성할 확률과 GSM8k/GSM1k 성능 차이 사이에 양의 상관관계가 있는 것으로 나타났습니다. 이는 많은 모델들이 GSM8k를 부분적으로 기억하고 있을 가능성을 시사합니다.

데이터 오염 외의 과적합 요인 가능성 하지만 데이터 오염만으로 과적합을 모두 설명할 수는 없어 보입니다. 가장 과적합된 모델 중 하나인 Math-Shepherd-Mistral은 GSM8k 생성 확률이 상대적으로 낮았기 때문입니다. 연구진은 보상 모델링 과정에서 올바른 풀이 방식에 대한 정보가 유출되었을 가능성을 제기했습니다.

과적합 문제 고려와 새로운 벤치마크의 중요성 이번 연구는 언어모델의 수학 실력을 평가할 때 과적합 문제를 반드시 고려해야 함을 보여줍니다. 아울러 충분히 강력한 모델은 데이터 오염에도 불구하고 일반화된 추론 능력을 갖출 수 있음을 시사합니다. GSM1k와 같은 새로운 벤치마크를 통해 모델의 진정한 능력을 더욱 정확히 가늠할 수 있을 것으로 기대됩니다.

(** 참고 아래 내용은 AI 타임즈에서 최근에 포스팅한 내용을 Claude 3 Opus로 분석하여 조금더 이하기 쉽게 요약한 내용임을 밝힙니다.  (https://www.aitimes.com/news/articleView.html?idxno=159380)  **)

댓글

이 블로그의 인기 게시물

[알아두면 쓸모 있는 구글 문서 팁] 문서 공유시- 사용자 이름 대신에 익명의 동물이 표시 되는 이유와 동물 종류

구글 드라이브에는 다른 유사 서비스에서는 제공하지 않는 구글 만의 유니크한 기능들이 있다 구글 문서를  불특정 다수에게 전체 공개로 공유할 수 있습니다. 불특정인이 구글 문서에 접속한 경우 익명의 동물로 표시됩니다.  ' 웹에 공개' 또는 '링크가 있는 사용자' 공유 설정을 선택하면 인식할 수 없는 이름이나 익명의 동물이 표시될 수 있습니다. 파일에서 인식할 수 없는 이름을 볼 수 있는 몇 가지 이유는 다음과 같습니다. 메일링 리스트와 파일을 공유합니다. Google 계정이 없는 사용자와 파일을 공유하며, 그 사용자가 다른 사용자에게 공유 초대를 전달했습니다. 내 파일을 수정할 수 있는 누군가가 파일을 다른 사용자와 공유했습니다. 다른 사용자가 자신의 Google 계정 이름을 변경했습니다. 공유 설정 페이지에서 해당 사용자 이름 위로 마우스를 이동하여 이메일 주소를 확인하세요. 익명의 동물 다른 사용자에게 개별적으로 보기 또는 수정 권한을 부여하거나 메일링 리스트에 속해 있는 경우에만 사용자 이름이 표시됩니다. 파일 권한을 '링크가 있는 사용자'로 설정하면 파일을 보고 있는 사용자의 이름이 표시되지 않습니다. 대신 다른 사용자가 익명으로 라벨이 지정되어 표시되고 각 익명 사용자는 다양한 익명의 동물로 나열됩니다. 파일 권한을 '링크가 있는 사용자'로 설정했지만 특정 사용자와 파일을 공유하는 경우 파일을 공유한 사용자의 이름이 표시됩니다. 그 외 다른 사용자가 파일을 볼 때는 익명으로 나타납니다. 비공개 파일의 익명 동물 파일 권한을 '링크가 있는 사용자'로 설정한 다음 이를 '특정 사용자'로 변경하면 다음과 같은 경우 여러 익명의 동물이 표시될 수 있습니다. 누군가 파일을 여러 번 여는 경우에는 익명의 동물 목록에서 오래되고 연결이 끊긴 세션을 강제 종료하는 데 조금 시간이 걸릴 수 있습니다. 누군가 온...

[팁] Google Slide 프리젠테이션시 모든 한글폰트가 '굴림체' 로 바뀌는 현상을 해결한 크롬 확장 프로그램 소개

구글 문서도구인 구글 슬라이드를 이용하여 프리젠테이션을 많이 하는 분들을 위한 희소식 현재 구글 슬라이드에서는 슬라이드 편집시 사용한 고유 한글 폰트들은 프리젠테이션 모드로 전환할 경우는 모두 '굴림체' 로 바뀌어 표시가 되는 불편함이 있었습니다. 예). 슬라이드 편집에서 사용한 '궁서체' 한글 폰트는, 프리젠테이션 모드에서는 '굴림체'로 바뀌어 디스플레이됨 예). 슬라이드 편집 모드 - '궁서체' 폰트 사용 프리젠테이션 모드에서 '굴림체' 로 변경됨    따라서, 이러한 현상을 해결하는 크롬 확장 프로그램이 개발 되었습니다.  크롬 확장 프로그램 명 - ShowAsis 입니다. 크 롬 웹스토어 링크 -  https://goo.gl/PVPkZz 이 확장 프로그램을 사용하여 슬라이드 프리젠테이션을 하면, 편집 모드의 폰트 그대로 프리젠테이션시에도 그대로 한글 폰트로 디스플레이 됩니다. 단, 단점은 슬라이드가 애니메이션 슬라이드가 있는 경우는 애니메이션이 동작하지 않습니다. ----------------------- G Suite/Google Apps 전문 블로그 -  charlychoi.blogspot.kr 도서 '기업과 학교를 위한 구글크롬북'

구글 드라이브에서 내 파일이 갑자기 사라졌어요 [알아두면 쓸모 있는 구글 드라이브 팁]

  구글 드라이브에서 고아가 된(정리 되지 않은)  파일들에 대한 현상 및 복원 방법 및 공유 드라이브 활용 목차  배경 내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상 고아가 된 파일 (정리가 안된 파일) 을 찾아 내고 복원하는  방법 고아가 된 과정을 추적하는 방법 배경   구글 드라이브의 내 드라이브에서 협업을 위한 협업 폴더를 생성한 후 다른 팀원간들간에 공유하여 작업하는 동안 예기치 못하게 내가 생성한 파일들 또는 폴더가 갑자기 사라지는 현상이 발생 할 수 있습니다. 또한 이를 경험한 사용자들이 많이 있습니다.  내가 파일이나 폴더를 삭제하지 않았는데 불구하고 휴지통에도 없고, 내가 삭제한 기억도 없고, 이러한 현상이 발생할 경우에는 본 벡서서에서 설명하는 해당 폴더나 파일들이 ‘고아 (Orphaned)’ 가 된 상태가 되어있는게 분명합니다.  한글 도움말에는 ‘정리가 되지 않은 파일 (또는 분리가 된 파일)' 이라고 설명되어 있기도 합니다. 고아가 된 파일들은 어떠한 폴더에도 속하여 있지 않고, 내 휴지통에도 존재하지 않는 현상입니다. 그러나, 구글 드라이브에서는 용량을 계속 차지 않고 있는 상태입니다. 간혹 왜? 내가 삭제한 적이 없는데 파일이 없어졌거나 폴더가 보이질 않는 경우 당황하지 않고 이문서를 자세히 참조하면 해답을 찾을 수 있습니다.   내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상      1. 내 드라이브에서 Folder A를 생성하고 Folder A 안에 File A 를 생성 합니다. 나중에 File A를 삭제 하고, 그 이후에 Folder A 까지 삭제를 할 수 있습니다. 그후 휴지통에서 File A만 복원을 할 경우 삭제된 File A 를 복원하려고 하는데 File A가 존재하였던 상위 폴더 ‘Folder A’는 이미 삭제된 상태입니다. 이럴때 File A는 ...

[심층 리서치의 시대: Deep Research 활용 가이드 (백서)]

심층 리서치의 시대: Deep Research 활용 가이드 부제: Deep Research 와 Claude 융합 분석 방법 (백서) 정보의 홍수에서 진정한 통찰력을 찾는 방법: Deep Research와 Claude의 만남 혹시 이런 경험 있으신가요? 중요한 주제에 대해 검색을 하면 정보는 넘쳐나지만, 정작 의미 있는 통찰은 찾기 어려운 상황. 수많은 링크를 클릭하고, 여러 글을 읽어도 단편적인 정보만 얻을 뿐, 깊이 있는 이해는 얻지 못하는 답답함 말이죠. 우리가 직면한 정보 시대의 역설 디지털 세상에서 우리는 역설적 상황에 처해 있습니다. 정보는 넘쳐나지만 통찰력은 점점 더 희소해졌죠. 구글 같은 검색 엔진이 무한한 정보에 접근할 수 있게 해주었지만, 그 정보들을 의미 있는 지식으로 바꾸는 부담은 온전히 우리의 몫이 되었습니다. Deep Research와 Claude의 강력한 만남 이런 문제를 해결하기 위해 제가 발견한 혁신적인 방법이 있습니다. 바로 '2단계 심층 분석법'인데요, ChatGPT, Claude, Gemini 같은 생성형 AI와 Perplexity AI 같은 검색 기반 AI의 Deep Research 기능을 첫 단계로 활용하고, 그 다음 Claude의 고급 분석 능력을 통해 더 깊은 통찰력을 얻는 방식입니다. 1단계: Deep Research로 포괄적 정보 수집하기 Deep Research는 일반 검색과는 차원이 다릅니다. 도서관 사서가 관련 책이 있는 서가만 안내한다면, Deep Research는 그 책들을 모두 읽고, 핵심을 추출하여 출처가 검증된 맞춤형 보고서를 작성해주는 연구 조교와 같습니다. (*  Deep Research 이해하기 블로그 참고  **) 효과적인 Deep Research 질문을 위한 세 가지 핵심 프레임워크를 소개합니다: 다층적 질문 구조화 기법 : "[무엇에 대해] + [어느 기간/지역] + [어떤 측면] + [어떤 형태의 분석]" 예: "반도체 산업이 1990년대부터 지...

[2025년 초 AI 생태계 동향 분석]

  2025년 초 AI 생태계 동향 분석 AI 플랫폼 Poe의 사용자 데이터 기반 (2025년 3월 10일)  참조: https://poe.com/ko/blog/report-early-2025-ai-ecosystem-trends   Poe는 100개 이상의 AI 모델을 제공하는 플랫폼으로, 수백만 명의 사용자 데이터를 기반으로 AI 생태계 동향을 분석하고 있습니다. 이 보고서는 2024년 초부터 2025년 초까지의 AI 모델 사용 추세를 보여줍니다. AI 모델 생태계 확장 추이 (2024-2025) 2024년 초2024년 중반2024년 말2025년 초020406080모델 다양성 및 사용량 증가 (%) 카테고리 2024년 초 시장 주도 2025년 초 시장 주도 주요 변화 텍스트 AI GPT-4 (OpenAI) GPT-4o (OpenAI) Anthropic의 점유율 증가, DeepSeek 등장 이미지 AI DALL·E-3 (OpenAI) Imagen3 (Google) 모델 수 3개→25개, 시장 지형 완전 재편 비디오 AI Runway (독점) Veo2 (Google) 8개 이상 공급자로 확대, Google 급부상 텍스트 생성 AI 시장 분석 모델별 점유율 회사별 점유율 OpenAI 38.3%Anthropic 34.2%DeepSeek 7%Google 4%기타 16.5% 주요 발견점 OpenAI와 Anthropic이 텍스트 생성 AI 시장의 약 85%를 차지 2024년 6월 Claude 3.5 Sonnet 출시 이후 Anthropic의 사용량이 급증하여 OpenAI와 경쟁 심화 사용자들은 새로운 모델이 출시되면 빠르게 이전 버전에서 전환 (GPT-4→GPT-4o, Claude-3→Claude 3.5) DeepSeek-R1 및 -V3는 2024년 12월부터 7%의 점유율을 확보, 기존 오픈소스 모델보다 강세 Google의 Gemini 계열은 2024년 10월까지 성장했으나 이후 하락세 이미지 생성 AI 시장 분석 모델별 점유율 회사/그룹별 점...