본문으로 건너뛰기
ittechwire

출처가 분명한 기술 뉴스

  1. 홈
  2. AI

AI

Meta, Muse Spark Open 가중치 공개… Apple, Mac Studio에서의 실행 지원

Meta가 코딩과 에이전트를 겨냥한 816B 파라미터 규모의 멀티모달 모델 가중치를 상업적 이용 조건이 제한된 라이선스로 공개했다. Meta는 이 모델이 M5 Ultra 탑재 Mac Studio 2대에서 로컬로 실행될 수 있다고 밝혔다.

ittechwire 편집부5분 분량출처: 4AI 번역 · 원문: English
2022년형 Mac Studio 데스크톱 컴퓨터의 전면. Meta가 모델 실행용으로 언급한 M5 Ultra Mac Studio보다 이전 모델이다.
Yasu (talk) · CC BY-SA 3.0

핵심 내용

  1. 1Meta는 Muse Spark Open의 가중치를 공개하며 지금까지 미국 오픈 웨이트 모델 중 가장 성능이 뛰어나다고 밝혔다. 성능 주장은 Meta 측의 것이다.
  2. 2Meta에 따르면 이 네이티브 멀티모달 모델은 전체 816B, 활성 42B 파라미터와 1M 토큰 컨텍스트 윈도를 갖추고 코딩과 에이전트 작업을 겨냥한다.
  3. 3Meta는 이 모델이 MLX를 사용해 Apple M5 Ultra Mac Studio 2대에서 실행되는 동급 최초의 모델이라고 밝혔다. CNBC는 2대에서 4대 구성을 보도했다.
  4. 4모델은 Hugging Face를 비롯한 여러 호스팅 API 제공업체와 다운로드 허브를 통해 상업적 이용 조건이 제한된 Muse Model License로 제공된다.
  5. 5기자들은 높은 하드웨어 요건을 지적했다. TechCrunch는 Engadget을 인용해 최소 1테라바이트의 RAM이 필요하다고 했고, CNBC는 256GB M5 Ultra Mac Studio 가격을 $10,799 이상으로 제시했다.

기사 전문

Meta는 목요일 Muse Spark Open의 가중치를 공개하며 이를 지금까지 미국 개발사가 내놓은 오픈 웨이트 모델 중 가장 성능이 뛰어난 모델이라고 소개했다. 회사 측에 따르면 이 모델은 네이티브 멀티모달 모델로, 전체 파라미터는 816B, 이 중 활성 파라미터는 42B이며, 1M 토큰의 컨텍스트 윈도를 제공한다. Meta는 이 모델이 코딩과 에이전트 용도로 설계됐으며 장시간 작업, 까다로운 소프트웨어 엔지니어링, 여러 단계에 걸친 추론에서 좋은 성능을 보인다고 밝혔다. CNBC는 이 모델이 전문가 혼합(mixture-of-experts) 아키텍처를 기반으로 한다고 보도했다. TechCrunch는 Meta 자체 평가 결과가 다른 인기 오픈 웨이트 모델보다 우위에 있다고 주장한다고 짚었다. 이러한 성능 주장은 Meta가 내놓은 것으로, 보도에서 독립적으로 검증되지는 않았다.

이번 출시의 핵심은 Apple 하드웨어에서의 로컬 사용이다. Meta는 Muse Spark Open이 Apple의 MLX 프레임워크 현재 버전을 사용해 M5 Ultra 칩을 탑재한 Mac Studio 2대로 구성된 데스크톱 환경에서 실행할 수 있는 동급 최초의 모델이라고 밝혔다. 회사 측 설명에 따르면 각 기기의 통합 GPU는 최대 512 GB의 통합 메모리를 활용할 수 있어 두 대로 모델 전체를 담을 수 있으며, 회사는 메모리 대역폭으로 1.2 TB/s를 제시했다. Meta는 자사 도구 Muse Code로 기기 내 에이전트 워크플로를 시험했다고 밝혔는데, 여기에는 오픈소스 Mastodon 앱 Ice Cubes에 수정 사항과 기능을 반영하는 작업과, 동영상 편집기 DaVinci Resolve를 조작해 영상을 골라내고 세로로 크롭하는 작업이 포함됐다. The Verge와 CNBC는 Apple도 MLX에 관한 기술 자료를 공개했다고 보도했으며, CNBC에 따르면 이 자료는 오픈 모델을 여러 대의 기기에 나눠 실행하는 방법을 다룬다.

Meta에 따르면 Mac 외에도 Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal, Nebius 등 호스팅 API 제공업체를 통해 모델을 사용할 수 있으며, 가중치는 Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models, Google Cloud Model Garden에서 내려받을 수 있다. 회사는 vLLM, SGLang, llama.cpp, TensorRT-LLM, MLX 등 추론 엔진을 지원하며 NVIDIA, AMD, Intel, Apple 칩에 대한 최적화를 제공한다고 밝혔다. Meta는 또 SGLang의 맞춤형 Helion GPU 커널이 NVIDIA와 AMD GPU에서 커널 수준으로 1.03-3.95×의 속도 향상을, AMD MI350에서는 엔드투엔드 기준 3%의 성능 향상을 가져온다고 밝혔다. 가중치는 Muse Model License로 공개되며, Meta는 이 라이선스가 상업적 이용 조건이 제한적이어서 많은 개발자가 무료로 모델을 사용할 수 있다고 설명했다. 안전성과 관련해 Meta는 모델에 추가적인 안전성 사후 학습을 적용했고 Meta Superintelligence Scaling Framework의 출시 기준을 충족했다고 밝혔으며, 전체 평가 보고서는 추후 공개될 예정이다.

기자들은 로컬 사용에 상당한 하드웨어 요건이 따른다고 지적했다. TechCrunch는 Engadget을 인용해 모델을 로컬에서 실행하려면 최소 1테라바이트의 RAM이 필요하다고 전했다. CNBC는 고객이 2대에서 4대의 Mac Studio를 연결할 수 있으며, 256GB 메모리를 탑재한 M5 Ultra Mac Studio는 현재 $10,799부터 시작하고, 더 비싼 512GB 구성은 이달 하순 출시될 예정이라고 보도했다. Meta 최고 AI 책임자 알렉산더 왕은 CNBC에 강력한 오픈 웨이트 모델 중 다수가 대부분의 개인용 컴퓨터에서 실행하기에는 너무 크지만, Mac Studio에서 사용할 수 있는 메모리 덕분에 Muse Spark Open 실행이 현실적으로 가능해진다고 말했다.

이번 출시는 오랫동안 대립해 온 두 회사의 공개적인 협력이라는 의미도 있다. The Verge와 CNBC에 따르면 Meta CEO 마크 저커버그는 X에서 Apple과 Apple의 신임 CEO 존 터너스에게 공을 돌렸고, 터너스는 모델이 데스크톱에서 효율적으로 실행된다며 이를 칭찬하는 답글을 달았다. CNBC는 이번 작업이 수개월간의 협력 끝에 나온 것이며, 두 회사 관계자 모두 이것이 더 깊은 관계로 이어질지에 대해서는 밝히기를 거부했다고 전했다. CNBC는 또 Meta가 최근 독점 모델을 우선시해 왔으며, Muse Spark Open은 Meta의 독점 모델 Muse Wonder보다 덜 발전된 모델이라고 짚었다. 왕은 이 매체에 “이것들은 우리가 개발하거나 공개한 모델 중 가장 뛰어난 모델은 아니다”라고 말하며, 개발자들이 사용을 확대하기 전에 먼저 소규모로 실험해 볼 것으로 예상한다고 덧붙였다.

왜 중요한가

이번 출시는 초대형 오픈 웨이트 모델을 클라우드 서비스뿐 아니라 로컬 데스크톱 하드웨어에서도 활용할 수 있는 범위로 끌어왔으며, 부차적이긴 하지만 Meta가 오픈 모델에 대한 투자를 이어가고 있음을 보여주고, Apple과의 이례적인 공개 협력을 반영한다. 다만 지금까지 보도된 비용과 메모리 요건을 고려하면 로컬 사용은 여전히 대부분의 개인 사용자에게는 손이 닿지 않는 수준이다.

타임라인

  1. · 게시

주제#Meta#Muse Spark Open#오픈 웨이트 모델#Apple#MLX#AI 코딩

출처

이 기사는 다음 출처를 바탕으로 합니다. 전체 맥락은 출처에서 확인하세요.

  1. 1Meta · 1차 출처Introducing Muse Spark Open, The Most Capable US Open-Weight Model to Dateresearch.meta.ai
  2. 2TechCrunch · 보도Meta launches an open-weight AI model that runs on Macstechcrunch.com
  3. 3The Verge · 보도Meta and Apple team up to make Muse AI models run better on Macswww.theverge.com
  4. 4CNBC · 보도Apple and Meta team up to make Muse AI model run on Mac computerswww.cnbc.com