메타, 최신 AI '라마 3.1' 공개
2024-07-25 KIPOST
페이스북을 운영하는 메타가 최신 인공지능(AI) 오픈소스 거대언어모델(LLM) '라마' 시리즈 새 버전인 '라마 3.1'을 출시한다고 23일(현지 시각) 밝혔다. 메타는 이 버전 성능이 오픈AI LLM 'GPT-4o', 앤트로픽 LLM '클로드 3.5 소네트'보다 뛰어나다고 강조했다.
파라미터 수에 따라 대형 버전인 라마 3.1 405B 파라미터 수는 4050억개다. GPT-3(1750억개)보다 2배 더 많지만 GPT-4(1조개)보다는 적다. 중형 버전인 70B는 700억개, 소형 버전인 8B의 파라미터는 80억개다.
메타는 라마 3.1의 장점으로 엔비디아 그래픽처리장치(GPU) H100 1만6000개로 AI 모델을 훈련했다는 것과 GPT-4o 운영 비용의 절반에 불과하다는 것을 꼽았다. 누구나 무료로 사용할 수 있는 오픈소스라는 점도 들었다.
한편 이날 엔비디아는 라마 3.1을 통해 엔비디아 AI 파운드리(NVIDIA AI Foundry) 서비스와 엔비디아 NIM™ 추론 마이크로서비스를 발표했다. 경쟁사인 인텔도 라마 3.1에 데이터센터, 엣지 및 클라이언트 AI 제품 전반에 걸친 성능 데이터 및 최적화를 제공한다고 밝혔다.