마법사 LM-2는 대규모 언어 모델(LLM) 세계에서 중요한 이정표입니다. 이 오픈 소스 모델은 MT 벤치마크에서 GPT-4 및 Claude와 같은 고급 독점 작품과 비교해 매우 경쟁력 있는 성능을 보여주었습니다. MT 벤치마크는 LLM이 일관성 있고 정보가 풍부하며 매력적인 대화를 할 수 있는 능력을 측정합니다.

마법사 LM-2 모델은 Megatron-Turing NLG 22B 모델의 미세 조정 및 선호도 훈련 버전입니다. 채팅, 코딩, 다국어 추론, 에이전트 기반 애플리케이션을 포함한 복잡한 작업의 성능이 향상되었습니다.

마법사 LM 제품군에는 이제 세 가지 새로운 모델이 포함됩니다: 마법사 LM-2 22B, 70B 매개변수 모델, 7B 매개변수 모델. 마법사 LM-2 22B 모델은 복잡한 작업 수행에서 가장 뛰어나며, 70B 모델은 최상위 수준의 추론 기능을 보여주고, 7B 모델은 속도와 경쟁력 있는 성능으로 두각을 나타냅니다.

마법사 LM-2의 개발에는 가중 샘플링, 점진적 학습, Evol-Instruct 방법을 통한 고품질 지침 생성, AI-Align-AI 프레임워크를 통한 협력적 모델 개선 등 여러 혁신적인 기술이 포함되었습니다. 이러한 방법은 MT 벤치마크와 다른 평가에서 모델의 인상적인 성능에 기여했습니다.

마법사 LM-2 사용을 시작하려면 LM Studio 플랫폼을 활용할 수 있습니다. 모델 카드를 복사하여 검색 탭에 붙여넣기만 하면 모델과 채팅하고 기능을 탐색할 수 있습니다.

마법사 LM 팀은 마법사 LM-2 모델을 개발하기 위해 여러 가지 고급 방법을 사용했습니다:

1. 데이터 전처리: 새로운 데이터 소스의 다양한 속성을 분석하고 배포하여 데이터에 대한 초기 이해를 얻었습니다. 실험적 경험을 바탕으로 훈련 데이터의 다양한 속성의 중요도를 조정하기 위해 가중 샘플링을 사용했습니다.

2. 점진적 학습: 훈련 과정을 여러 단계로 나누어 각 단계에서 더 많은 데이터 슬라이스를 공급했습니다. 이를 통해 다양한 지침-응답 쌍이 진화할 수 있었습니다.

3. AI-Aligned AI(AAA) 프레임워크: 여러 LLM을 그룹화하여 감독 학습과 강화 학습을 통해 최적화된 방식으로 서로를 가르치고 개선할 수 있게 했습니다.

4. Evol-Instruct: 이 구성 요소는 자율적으로 고품질 지침을 생성하고 여러 반복을 통해 형식화하여 모델 응답의 전반적인 논리, 정확성 및 일관성을 향상시킵니다.

5. 자기 교육 방법: AAA 프레임워크를 통해 마법사 LM-2 모델이 새로운 훈련 데이터를 생성할 수 있으며, 이는 강화 학습에 사용됩니다.

6. 지도 학습: 레이블이 지정된 데이터, 단계별 데이터 처리, 분할 선호도 데이터를 사용하여 모델을 훈련하여 오프라인 강화 학습을 위해 다양한 슬라이스에 맞출 수 있습니다.

이러한 고급 방법과 대규모 언어 모델의 확장이 결합되어 마법사 LM-2 모델이 MT 벤치마크에서 선도적인 독점 작품과 비교해 매우 경쟁력 있는 성능을 보여주게 되었습니다.

마법사 LM-2 모델은 GPT-4 Turbo와 CLA-3와 같은 고급 독점 언어 모델에 비해 MT 벤치마크에서 매우 경쟁력 있는 성능을 보여주었습니다. MT 벤치마크는 일관성 있고 정보가 풍부하며 매력적인 대화를 할 수 있는 능력을 측정합니다.

마법사 LM 팀은 모델의 기능을 평가하기 위해 인간 및 자동 평가를 수행했습니다. 인간 선호도 평가에서는 작문, 코딩, 수학, 추론, 에이전트 작업, 다국어 이해 등 다양한 실제 세계 지침 세트를 수집했습니다. 평가자들은 마법사 LM-2와 기준 모델 간의 맹검 쌍대 비교를 수행했으며, 응답의 출처는 숨겨졌습니다.

결과에 따르면 마법사 LM-2가 기존의 최첨단 모델, 다른 오픈 소스 모델을 포함하여 일관적으로 능가하고 있습니다. MT 벤치마크에서 이 모델은 선도적인 독점 작품과 비교해서도 매우 경쟁력 있는 성능을 보여주었습니다.

또한 팀은 다양한 모델과 비교한 마법사 LM-2의 MT 벤치마크 성능 데이터를 자세히 제공하여 사용자가 다양한 평가 지표에 걸쳐 모델의 강점과 약점을 평가할 수 있게 했습니다.

마법사 LM-2 사용을 시작하려면 LM Studio 플랫폼을 활용하세요. 마법사 LM-2 AX 22B, 마법사 LM 70B, 마법사 LM 7B 등 세 가지 버전을 사용할 수 있습니다. 모델 카드를 복사하여 LM Studio에서 원하는 모델을 찾아 다운로드하고 대화형 인터페이스에서 사용할 수 있습니다.

마법사 LM-2 모델 사용을 시작하려면 LM Studio를 사용해야 합니다. 먼저 모델 카드로 이동하여 마법사 LM-2 AX 22B, 마법사 LM 70B, 마법사 LM 7B 중 하나의 정보를 복사하세요.

그다음 LM Studio를 열고 검색 탭으로 이동한 후 모델 카드 정보를 붙여넣고 Enter를 누르세요. 사용 가능한 다양한 버전의 마법사 LM-2 모델이 표시됩니다.

모델을 설치하려면 사용하려는 버전을 다운로드하기만 하면 됩니다. 다운로드가 완료되면 LM Studio의 대화 탭으로 이동하여 마법사 LM-2 모델을 선택하고 채팅을 시작할 수 있습니다.

마법사 LM-2 모델은 MT 벤치마크에서 많은 선도적인 독점 모델을 능가하는 매우 경쟁력 있는 성능을 보여주었습니다. 모델 크기에 따라 복잡한 작업 수행, 최상위 수준의 추론 기능, 속도 등에서 뛰어납니다.

마법사 LM-2 개발에 사용된 발전 사항과 훈련 방법에 대해 자세히 알아보려면 곧 공개될 블로그 게시물과 보관된 논문을 확인하세요.

마법사 LM2의 등장은 대규모 언어 모델 개발에 있어 중요한 이정표를 나타냅니다. 이 고급 모델은 복잡한 작업 수행, 최상위 수준의 추론 기능, 경쟁력 있는 속도 면에서 선도적인 독점 작품과 비교해 매우 경쟁력 있는 성능을 보여주었습니다.

마법사 LM 팀은 가중 샘플링, 점진적 학습, AI 정렬 AI 프레임워크와 같은 혁신적인 기술을 사용하여 모델의 기능을 향상시켰습니다. Evol-instruct의 도입으로 자율적으로 고품질 지침을 생성하고 배포하여 모델의 논리, 정확성 및 일관성을 더욱 개선했습니다.

인간 및 자동 평가에서 마법사 LM2가 기존의 최첨단 모델을 일관적으로 능가하는 것으로 나타나, 대규모 언어 모델 분야에서 유망한 경쟁자로 부상했습니다. 다양한 마법사 LM 모델을 통해 사용자는 고성능 마법사 LM2 AX 22B, 강력한 마법사 LM 70B, 속도 중심의 마법사 LM 7B 중 자신의 요구에 가장 잘 맞는 모델을 선택할 수 있습니다.

마법사 LM2를 탐색하려는 사용자들은 LM Studio 플랫폼을 통해 모델을 간단히 설치하고 사용할 수 있습니다. 제공된 지침을 따르면 이 최첨단 언어 모델에 쉽게 액세스하고 상호 작용할 수 있습니다.

AI 환경이 계속 발전함에 따라 마법사 LM 팀의 혁신 의지와 반복적인 훈련 노력은 가까운 미래에 더 많은 발전을 가져올 것으로 보입니다. 연구자와 개발자들은 마법사 LM 제품군이 대규모 언어 모델 기능의 한계를 계속 넓혀나가는 것을 주시해야 합니다.