기본 콘텐츠로 건너뛰기

[Microsoft사에서 최근에 공개했던 LLM 인 WizardLM2 에 대한 요약 및 Claude 3와 비교]

다음 내용은 최근에 Microsoft 에서 새롭게 공개한 LLM 인 WizardLM2 (https://anakin.ai/blog/wizardlm-2-microsoft/를 Claude 3 Opus 에 의해서 번역 요약 분석한 것입니다.

—----------------------------------------

마이크로소프트에서 새롭게 공개한 WizardLM 2는 대형 언어 모델 분야에서 획기적인 성과를 보여주고 있습니다. WizardLM 2는 복잡한 대화, 다국어 이해, 추론, 에이전트 기능 등에서 GPT-4를 비롯한 최신 경쟁 모델들을 능가하는 놀라운 성능을 자랑합니다.

이 그래프는 WizardLM-2 모델과 다양한 경쟁 모델들의 성능을 사람의 선호도 평가(Human Preferences Evaluation)를 통해 비교하고 있습니다.

먼저 WizardLM-2 8x22B 모델은 GPT-4-1106-preview와 근소한 차이로 뒤쳐졌지만, Command R Plus와 GPT4-0314 모델은 확실히 앞섰습니다. 이는 WizardLM-2 8x22B가 최신 GPT-4 모델에 근접한 성능을 보임을 의미합니다.

WizardLM-2 70B 모델은 GPT4-0613, Mistral-Large, Qwen1.5-72B-Chat 등의 모델보다 우수한 것으로 나타났습니다. 70B급 모델 중에서는 최고 성능을 기록한 셈이죠.

WizardLM-2 7B 모델은 Qwen1.5-32B-Chat과 비슷한 수준을 보였고, Qwen1.5-14B-Chat이나 Starling-LM-7B-beta보다는 확실히 앞섰습니다. 경량 모델 부문에서도 선전했다고 볼 수 있겠네요.

종합해보면 WizardLM-2 모델은 동급 최고 수준의 경쟁 모델들과 견주어도 손색없는 성능을 보여주었습니다. 특히 8x22B 모델은 최첨단 GPT-4에 도전장을 내밀 정도로 인상적인데요, 이는 WizardLM-2의 독자적인 학습 방법이 효과를 발휘한 결과로 보입니다.

다만 아쉬운 점은 원문에서 언급된 것처럼 이 평가에 대한 상세 내용과 분석이 아직 공개되지 않았다는 것입니다. 추후 저자들의 논문을 통해 보다 심층적인 이해가 가능해지길 기대해 봅니다.

WizardLM 2는 세 가지 모델로 구성되어 있는데요,

- WizardLM-2 8x22B: 최고 성능의 대형 모델로 GPT-4에 준하는 성능을 보임

- WizardLM-2 70B: 우수한 추론 능력을 갖춘 중형 모델

- WizardLM-2 7B: 작지만 강력한 경량 모델

각각 용도에 맞는 최적의 선택이 될 것입니다.

WizardLM 2가 이처럼 뛰어난 성능을 보이는 비결은 바로 혁신적인 학습 방법에 있습니다. Evol-Instruct, RLEIF, AI Align AI(AAA), 점진적 학습, 데이터 전처리 등 마이크로소프트가 개발한 독자적인 기술들이 여기에 적용되었죠.

특히 언어 모델들이 서로 가르치고 학습하는 AAA 프레임워크와, 단계별로 모델을 최적화하는 점진적 학습 방식이 WizardLM 2 학습에 큰 역할을 했다고 합니다.

무엇보다 마이크로소프트는 WizardLM 2의 모델 가중치를 허깅페이스에 공개하고, 관련 연구 성과를 아낌없이 공유하고 있습니다. 이는 AI 커뮤니티의 협력과 발전을 도모하려는 마이크로소프트의 의지로 보입니다.

WizardLM 2의 등장으로 대형 언어 모델 분야는 더욱 치열한 경쟁에 돌입했습니다. 앞으로 WizardLM 2가 어떤 혁신을 불러올지, 그리고 마이크로소프트는 또 어떤 놀라운 AI 모델을 선보일지 귀추가 주목되네요!

—------------------------------------------------------------------------------------------

아래 내용은 Claude 3 Opus 에게 WizardLM2 vs. Claude 3를 비교해달라고 한 내용을 발췌한 것입니다.

WizardLM 2와 Claude 3는 모두 최신 대형 언어 모델이지만, 각자 고유한 특징과 장단점이 있습니다. 두 모델을 비교 분석해 보겠습니다.

성능 면에서 WizardLM 2와 Claude 3는 모두 GPT-4에 근접한 수준을 보이고 있습니다. 특히 WizardLM-2 8x22B 모델은 MT-Bench 평가에서 Claude 3와 함께 최상위권을 차지했죠. 한편 WizardLM-2 70B와 7B 모델도 동급 최고 성능을 자랑합니다.

학습 방식에 있어서는 차이가 있습니다. WizardLM 2는 마이크로소프트의 Evol-Instruct, RLEIF, AI Align AI 등 독자적인 기술을 활용한 반면, Claude 3의 학습 과정은 상세히 공개되지 않았습니다.

개방성은 WizardLM 2의 강점입니다. 모델 가중치를 허깅페이스에 공개하고 관련 연구를 공유하며 커뮤니티 기여에 앞장서고 있죠. 반면 Claude 3는 아직 API 형태로만 제공되고 있어 활용에 제한이 있습니다.

다만 Claude 3는 윤리적 규범 준수와 안전성 면에서 강점이 있습니다. 앤트로픽의 헌법적 AI 기술이 적용되어 유해한 콘텐츠 생성을 통제하고 있기 때문입니다. WizardLM 2의 경우 아직 이런 부분에 대한 언급이 없는 상태입니다.

종합해 보면, WizardLM 2와 Claude 3는 대등한 성능을 보이는 최신 모델들입니다. WizardLM 2는 개방성과 혁신적 학습 방식이, Claude 3는 윤리성과 안전성이 상대적 장점이라 할 수 있겠네요.

앞으로 두 모델이 어떻게 발전해 나갈지, 그리고 또 어떤 신기술들이 적용될지 지켜보는 것도 큰 즐거움일 것 같습니다. 어떤 모델이 되었든 궁극적으로는 인류에게 도움이 되는 AI로 거듭나길 기대해 봅니다.

댓글

이 블로그의 인기 게시물

[알아두면 쓸모 있는 구글 문서 팁] 문서 공유시- 사용자 이름 대신에 익명의 동물이 표시 되는 이유와 동물 종류

구글 드라이브에는 다른 유사 서비스에서는 제공하지 않는 구글 만의 유니크한 기능들이 있다 구글 문서를  불특정 다수에게 전체 공개로 공유할 수 있습니다. 불특정인이 구글 문서에 접속한 경우 익명의 동물로 표시됩니다.  ' 웹에 공개' 또는 '링크가 있는 사용자' 공유 설정을 선택하면 인식할 수 없는 이름이나 익명의 동물이 표시될 수 있습니다. 파일에서 인식할 수 없는 이름을 볼 수 있는 몇 가지 이유는 다음과 같습니다. 메일링 리스트와 파일을 공유합니다. Google 계정이 없는 사용자와 파일을 공유하며, 그 사용자가 다른 사용자에게 공유 초대를 전달했습니다. 내 파일을 수정할 수 있는 누군가가 파일을 다른 사용자와 공유했습니다. 다른 사용자가 자신의 Google 계정 이름을 변경했습니다. 공유 설정 페이지에서 해당 사용자 이름 위로 마우스를 이동하여 이메일 주소를 확인하세요. 익명의 동물 다른 사용자에게 개별적으로 보기 또는 수정 권한을 부여하거나 메일링 리스트에 속해 있는 경우에만 사용자 이름이 표시됩니다. 파일 권한을 '링크가 있는 사용자'로 설정하면 파일을 보고 있는 사용자의 이름이 표시되지 않습니다. 대신 다른 사용자가 익명으로 라벨이 지정되어 표시되고 각 익명 사용자는 다양한 익명의 동물로 나열됩니다. 파일 권한을 '링크가 있는 사용자'로 설정했지만 특정 사용자와 파일을 공유하는 경우 파일을 공유한 사용자의 이름이 표시됩니다. 그 외 다른 사용자가 파일을 볼 때는 익명으로 나타납니다. 비공개 파일의 익명 동물 파일 권한을 '링크가 있는 사용자'로 설정한 다음 이를 '특정 사용자'로 변경하면 다음과 같은 경우 여러 익명의 동물이 표시될 수 있습니다. 누군가 파일을 여러 번 여는 경우에는 익명의 동물 목록에서 오래되고 연결이 끊긴 세션을 강제 종료하는 데 조금 시간이 걸릴 수 있습니다. 누군가 온...

[팁] Google Slide 프리젠테이션시 모든 한글폰트가 '굴림체' 로 바뀌는 현상을 해결한 크롬 확장 프로그램 소개

구글 문서도구인 구글 슬라이드를 이용하여 프리젠테이션을 많이 하는 분들을 위한 희소식 현재 구글 슬라이드에서는 슬라이드 편집시 사용한 고유 한글 폰트들은 프리젠테이션 모드로 전환할 경우는 모두 '굴림체' 로 바뀌어 표시가 되는 불편함이 있었습니다. 예). 슬라이드 편집에서 사용한 '궁서체' 한글 폰트는, 프리젠테이션 모드에서는 '굴림체'로 바뀌어 디스플레이됨 예). 슬라이드 편집 모드 - '궁서체' 폰트 사용 프리젠테이션 모드에서 '굴림체' 로 변경됨    따라서, 이러한 현상을 해결하는 크롬 확장 프로그램이 개발 되었습니다.  크롬 확장 프로그램 명 - ShowAsis 입니다. 크 롬 웹스토어 링크 -  https://goo.gl/PVPkZz 이 확장 프로그램을 사용하여 슬라이드 프리젠테이션을 하면, 편집 모드의 폰트 그대로 프리젠테이션시에도 그대로 한글 폰트로 디스플레이 됩니다. 단, 단점은 슬라이드가 애니메이션 슬라이드가 있는 경우는 애니메이션이 동작하지 않습니다. ----------------------- G Suite/Google Apps 전문 블로그 -  charlychoi.blogspot.kr 도서 '기업과 학교를 위한 구글크롬북'

구글 드라이브에서 내 파일이 갑자기 사라졌어요 [알아두면 쓸모 있는 구글 드라이브 팁]

  구글 드라이브에서 고아가 된(정리 되지 않은)  파일들에 대한 현상 및 복원 방법 및 공유 드라이브 활용 목차  배경 내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상 고아가 된 파일 (정리가 안된 파일) 을 찾아 내고 복원하는  방법 고아가 된 과정을 추적하는 방법 배경   구글 드라이브의 내 드라이브에서 협업을 위한 협업 폴더를 생성한 후 다른 팀원간들간에 공유하여 작업하는 동안 예기치 못하게 내가 생성한 파일들 또는 폴더가 갑자기 사라지는 현상이 발생 할 수 있습니다. 또한 이를 경험한 사용자들이 많이 있습니다.  내가 파일이나 폴더를 삭제하지 않았는데 불구하고 휴지통에도 없고, 내가 삭제한 기억도 없고, 이러한 현상이 발생할 경우에는 본 벡서서에서 설명하는 해당 폴더나 파일들이 ‘고아 (Orphaned)’ 가 된 상태가 되어있는게 분명합니다.  한글 도움말에는 ‘정리가 되지 않은 파일 (또는 분리가 된 파일)' 이라고 설명되어 있기도 합니다. 고아가 된 파일들은 어떠한 폴더에도 속하여 있지 않고, 내 휴지통에도 존재하지 않는 현상입니다. 그러나, 구글 드라이브에서는 용량을 계속 차지 않고 있는 상태입니다. 간혹 왜? 내가 삭제한 적이 없는데 파일이 없어졌거나 폴더가 보이질 않는 경우 당황하지 않고 이문서를 자세히 참조하면 해답을 찾을 수 있습니다.   내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상      1. 내 드라이브에서 Folder A를 생성하고 Folder A 안에 File A 를 생성 합니다. 나중에 File A를 삭제 하고, 그 이후에 Folder A 까지 삭제를 할 수 있습니다. 그후 휴지통에서 File A만 복원을 할 경우 삭제된 File A 를 복원하려고 하는데 File A가 존재하였던 상위 폴더 ‘Folder A’는 이미 삭제된 상태입니다. 이럴때 File A는 ...

[알아두면 쓸모 있는 구글 Meet 팁] 구글 Meet에서 컴패니언 (Companion) 모드가 무엇이고 왜? 필요한가요?

  구글 Meet 에서 컴패니언 (Companion) 모드란 무엇이고 왜? 필요한가 지난 1월13일자  구글 영문 공식 블로그 에서  구글의 화상회의 도구인 Google Meet 에 컴패니언 (Companion) 모드 기능이 추가 되었다는 발표가 있었습니다. 이 모드가 무엇이고 왜? 필요한지 알아보도록 하겠습니다. 여러분들은 구글의 대표적인 화상회의 도구인 Google Meet 로 화상 회의를 얼마나 자주 하나요? Google Workspace 에 기본 기능으로 포함되어 있는 Google Meet 는 코로나19 펜데믹 이후로 많은 기업에서 활용하고 있을 것입니다. 그동안 한 회의실에서 여러명이 모여 화상 회의를 하는 경우 대부분은 하나의 노트북을 대표로 지정하고 나머지 참석자들은 노트북 주변에 모여서 회의 (비디오+음성)를 하거나, 아니면 각자의 노트북으로 화상 회의에 연결한 후 마이크를 mute 를 하여 참여해야만 하는 불편함이 있었습니다. (이유는 한 회의실안에서 화상회의시 여려명이 마이크를 On 하면 소위 하울링 또는 Audio Feedback 현상이 발생하기 때문)   구글은 Google Meet 로 화상 회의시 이러한 불편함을 없애기 위해서 소위 컴패니언 모드 기능을 추가하였습니다. 즉, 한 회의실에서 여러명이 회의에 참여할 경우 하나의 컴퓨터 또는 Google Meet 전용 하드웨어인 화상회의 기기를 메인으로 연결하고 나머지 참여자들은 각자의 노트북에서 컴패니언 모드로 접속 할 수 하도록 한 것입니다. 즉, 컴패니언 모드로 접속한 사용자는 자동으로 오디오와 비디오는 Off 가 나머지 기능들만 활성화 (화면공유, 손들기, 다른 참여자와 채팅, 자막 사용) 되어 회의에 참여 할 수가 있게 되었습니다. 이 기능은 개인 gmail 사용자 뿐만아니라 Google Workspace 의 모든 사용자들이 사용할 수 있게 업데이트 되었습니다. Google Meet 로 화상 회의에 참여 할 경우 컴패니언 모드로 접속을 하는 방법에는 ...

"AI 전문가”의 함정: 프롬프트 엔지니어링에서 컨텍스트 엔지니어링까지, 누가 우리를 멀어지게 했나

            생성형 AI가 우리 곁에 온 지 얼마 되지 않아, 우리는 ‘프롬프트 엔지니어링’이라는 낯선 용어의 세례를 받았습니다. AI를 잘 쓰려면 뭔가 대단한 기술이 필요할 것 같은 불안감을 심어주었죠. 이제는 한술 더 떠 ‘컨텍스트 엔지니어링’이라는 말이 등장했습니다. 마치 AI와의 대화가 점점 더 소수 전문가의 영역이 되어가는 듯합니다. 하지만 정말 그럴까요? 이 글에서는 이러한 현상이 어떻게 우리의 AI 접근성을 떨어뜨리고 있는지, 그 이면의 진실은 무엇인지 파헤쳐 봅니다.         1. ‘프롬프트 엔지니어’의 등장: 필수 기술인가, 스쳐 가는 유행인가?         ‘프롬프트 엔지니어링’은 AI에게 원하는 결과를 얻기 위해 명확한 지시를 내리는 기술입니다. 초기 AI 모델들은 인간의 의도를 잘 파악하지 못했기 때문에, 사용자의 정교한 안내가 필수적이었습니다. 예를 들어, AI에게 특정 역할(페르소나)을 부여하거나, 복잡한 문제는 단계별로 생각하도록 유도하는(사고의 연쇄, Chain-of-Thought) 기법들이 대표적입니다.         하지만 이를 ‘엔지니어링’이라 부르는 것에 대해서는 논란이 많습니다. 지지자들은 체계적인 실험과 분석이 필요한 공학의 한 분야라고 주장하지만, 비판자들은 결과가 예측 불가능하고, 동일한 프롬프트에도 다른 답이 나오는 등 전통적인 공학의 엄밀함이 부족하다고 지적합니다. 사실 ‘프롬프트 엔지니어링’의 부상은 초기 AI 기술의 한계를 보완하기 위한  과도기적 현상 에 가깝습니다.         2. 다음 물결, ‘컨텍스트 엔지니어링’: 더 높은 벽인가, 자연스러운 진화인가?         최근에는 ‘컨텍스트 엔지니어링’이라는 용어가 주목받고 있습니다. 이는 단순히 질문 ...