메타(Meta)가 차세대 오픈소스 대규모 언어 모델(LLM) '메타 라마3(Meta Llama 3)'를 발표했습니다. 메타 라마3는 현재 공개된 LLM 중 가장 뛰어난 성능을 보여주는 최첨단 모델로 평가받고 있습니다.
메타는 라마3를 통해 개발자 커뮤니티에 최고 수준의 오픈소스 LLM을 제공하고, AI 혁신을 가속화하는 것을 목표로 하고 있습니다. 이번 포스트에서는 메타 라마3의 특징과 활용 방안에 대해 자세히 알아보겠습니다.
메타 라마3(Llama 3)란?
메타 라마3는 메타의 차세대 오픈소스 대규모 언어 모델(LLM)입니다. 8B와 70B 파라미터 규모의 사전학습 및 instruction-tuned 모델로 제공되며, 다양한 활용 사례를 지원할 수 있습니다.
메타는 라마3가 현존하는 동급 규모의 최고 오픈소스 모델 이라고 자신하고 있습니다. 사전학습과 사후학습 과정의 개선을 통해 reasoning, 코드 생성, 지시 수행 등의 능력이 크게 향상되었다고 합니다.
또한 라마 3는 공개와 동시에 AWS, GCP, Databricks 등 주요 클라우드 업체들과 협력해 바로 사용할 수 있도록 했습니다. 또한 검열 수준을 낮추고, 몇 달 내 더 긴 컨텍스트와 추가 모델 크기도 공개할 예정이라고 합니다. 라마3의 주요 특징은 다음과 같습니다:
- 8B, 70B 등 다양한 모델 크기 제공
- 기존 모델 대비 성능 대폭 향상
- 오픈소스로 공개되어 누구나 사용 가능
- 로컬 PC에서 실행 가능
라마3(Llama 3)에서 새로운점
라마3는 라마2 대비 여러가지 개선점이 있습니다:
- 토크나이저 개선: 128K 토큰의 vocabulary로 언어를 더 효율적으로 인코딩해 성능 향상
- 추론 효율성 개선: 8B, 70B 모델 모두 Grouped Query Attention(GQA) 적용
- 대규모 사전학습 확장: 15조 토큰 이상으로 학습, 라마2 대비 7배 이상 데이터셋 증가
- Instruction-tuning 혁신: SFT, Rejection Sampling, PPO, DPO 기법 활용한 정교한 모델 얼라인먼트
이미지 출처: Meta AI Blog
라마3(Llama 3)의 목표
메타는 라마3 개발에 있어 다음과 같은 목표를 가지고 있습니다:
- 현존 최고 수준의 독점 모델에 필적하는 최상의 오픈소스 모델 구축
- 개발자 피드백을 반영해 라마3의 전반적인 유용성 증대
- LLM의 책임감있는 사용과 배포를 주도하는 역할 수행
- 개발 중인 모델을 조기에 공개해 커뮤니티의 접근성 향상
메타는 텍스트 기반 라마3 모델을 시작으로, 향후 다국어/멀티모달 지원, 컨텍스트 확장, 전반적 성능 고도화 등을 계획하고 있습니다.
라마3 (Llama 3) 사용법
라마3의 강력한 기능을 실제로 활용하고자 할 때, 다양한 방식으로 Llama3을 사용하는 방법을 참조할 수 있습니다. 이 글에서는 메타가 제공하는 서비스 외에도, 허깅페이스와 같은 오픈소스 커뮤니티를 통해 어떻게 라마3를 사용할 수 있는지 소개하고 있습니다. 로컬 PC에서 직접 실행하는 방법부터 클라우드 환경에서의 구현까지, 라마3를 활용할 수 있는 다양한 경로를 제공하여 사용자가 선택할 수 있는 폭을 넓혀 줍니다.
허깅페이스에서 라마3 사용하기
허깅페이스(Hugging Face)는 대표적인 오픈소스 AI 커뮤니티로, 다양한 언어 모델을 직접 사용해볼 수 있는 기회를 제공합니다. 허깅페이스의 허깅챗(HuggingChat) 사이트에 접속해 라마3 모델을 선택하면, 챗GPT처럼 자연어로 입력하고 응답을 받을 수 있습니다. 이를 통해 사용자는 다양한 주제에 대해 대화를 나눌 수 있으며, 한국어 질문에도 답변을 할 수 있습니다. 아래 이미지는 허깅챗에서 라마3 모델을 선택하는 화면을 보여줍니다.
현재 라마3의 한국어 성능은 영어에 비해 다소 부족하지만, 한국어 데이터 파인튜닝이 이뤄지면 성능이 향상될 것으로 기대됩니다. 라마3 모델을 직접 체험해보고 싶다면 아래 링크를 통해 허깅페이스의 라마3 채팅 페이지에 접속해보세요.
허깅페이스에서는 라마3 모델을 이용하여 간단하게 대화형 AI를 경험할 수 있으며, 개발자들이 쉽게 접근하여 실험할 수 있도록 지원하고 있습니다. 메타는 이를 통해 LLM의 적용 범위를 확장하고자 하며, 더 많은 사용자가 AI의 혜택을 경험할 수 있도록 하고 있습니다. 이 글을 통해 라마3의 다양한 사용법을 알아보고, 여러분의 프로젝트에 어떻게 적용할 수 있는지 탐색해 보세요. 여기를 클릭하여 라마3 사용법을 확인해 보세요.