골렘 GLM은 어떻게 AI와 GPU 인프라로 확장할까

골렘의 AI 확장은 GPU 공급망에서 시작된다

골렘은 AI 모델을 직접 개발하는 프로젝트보다, 여러 지역에 흩어진 GPU를 하나의 컴퓨팅 시장으로 연결하는 인프라에 집중하고 있습니다. 기존에는 CPU·메모리·저장 공간을 Provider가 공급하고 Requestor가 빌려 쓰는 구조가 중심이었지만, AI 추론과 이미지 생성처럼 병렬 연산 비중이 큰 작업이 늘면서 GPU Provider가 추가됐습니다. 중앙 데이터센터에 장비를 모으는 방식이 아니라 개인용 PC와 서버에 이미 설치된 GPU를 네트워크에 연결하는 구조입니다. Requestor는 필요한 VRAM과 실행 환경, 작업 시간을 설정하고 Provider는 장비 조건과 GLM 요금을 등록합니다. 골렘의 AI 방향은 하나의 모델 서비스를 키우는 것보다 GPU 공급자와 개발 도구, 모델 실행 계층을 나눠 연결하는 쪽으로 흐름이 잡혀 있습니다.

핵심 관점
골렘은 AI 결과물을 직접 제공하기보다 AI 작업에 필요한 GPU를 공급하고 실행 환경과 GLM 정산을 연결합니다.

GPU Provider는 실제 메인넷 운영 단계로 넘어왔다

GPU Provider는 별도 설치 이미지인 gpu-golem-live를 외장 SSD에 구성한 뒤 해당 장비를 골렘 전용 환경으로 부팅하는 방식입니다. 설정 과정에서 공급할 GPU와 GLM 수령 주소, 시간당 요금을 등록하면 네트워크의 Offer로 연결됩니다. 초기 로드맵에서 계획으로 제시됐던 다중 GPU 선택도 현재 설치 과정에 반영돼, 한 서버에서 여러 장비를 공급할 수 있는 기반이 마련됐습니다. 작업은 Provider의 일반 운영체제에 직접 접근하지 않고 GPU Passthrough와 IOMMU가 적용된 가상환경에서 실행됩니다. GPU 지원이 내부 실험이나 발표에 머물지 않고 장비 등록과 메인넷 정산까지 이어졌다는 점이 최근 골렘에서 확인되는 변화입니다.

Ollama와 Qwen2 실행 사례가 실제 구조를 보여준다

1. Requestor가 GPU Runtime과 최소 메모리 조건을 설정합니다.
2. Ollama와 Qwen2가 포함된 실행 이미지를 Provider에 배포합니다.
3. Provider의 가상환경에서 ollama serve를 실행합니다.
4. TCP Proxy를 이용해 모델 API를 로컬 환경에 연결합니다.
5. 작업이 종료되면 사용 시간에 따라 GLM이 정산됩니다.

공식 예제에는 Qwen2 0.5B, 최소 메모리 8GiB, vm-nvidia 실행 환경, 최대 30분 대여 조건이 사용됐습니다. 시간당 2 GLM은 네트워크 고정 요금이 아니라 예제에서 Requestor가 설정한 최대 예산입니다. 개발자는 Qwen2 외에도 Ollama에서 지원하는 다른 모델을 이미지에 포함해 배포할 수 있습니다. 모델 파일이 크면 첫 실행 때 Provider가 이미지를 내려받는 시간이 필요하지만, 같은 Provider를 다시 사용하면 캐시된 데이터를 활용할 수 있습니다. 이 사례는 GPU 탐색부터 모델 실행, API 연결, Polygon 정산까지 하나의 개발 흐름으로 이어진다는 점을 보여줍니다.

Golem Workers와 Ray on Golem은 접근 방식이 다르다

Golem Workers는 Provider 탐색, Agreement, 실행 이미지, 네트워크와 정산 과정을 고수준 API로 묶습니다. 개발자는 Worker나 Cluster를 생성하고 실행 명령을 전달하는 방식으로 골렘 자원에 접근할 수 있으며, Stable Diffusion Web UI를 GPU에서 실행하는 예제도 제공됩니다. Ray on Golem은 기존 Python 개발자가 Ray 작업 구조를 유지하면서 골렘 Provider를 Worker 노드로 사용하는 방식입니다. 작업량이 늘면 노드를 추가하고 사용하지 않는 노드는 자동 종료할 수 있습니다. 하나는 범용 Worker API, 다른 하나는 Python 분산 프레임워크라는 차이가 있어 같은 GPU 시장에 서로 다른 개발 경로를 제공합니다.

Modelserve는 GPU 자원을 모델 서비스로 연결한다

• 웹 화면에서 모델과 추론 Endpoint 관리
• 골렘 GPU Provider 자동 확보
• 작업량에 따른 Load Balancing과 Autoscaling
• 사용자는 일반 서비스 방식으로 접근
• Provider에는 내부적으로 GLM 정산

Modelserve는 개발자가 Yagna와 Provider를 직접 관리하지 않고 AI 모델을 추론 Endpoint 형태로 운영하도록 구성된 상위 서비스입니다. Golem Workers가 실행 환경을 자유롭게 구성하는 범용 도구라면, Modelserve는 모델 배포와 반복 추론 과정에 초점을 맞춥니다. 공식 자료에서는 12개 이상의 기업을 대상으로 수요를 확인하고 여러 스타트업과 베타 테스트를 진행했으며, 소비자용 GPU에서 Whisper·Stable Diffusion·소형 LLM을 실행한 사례가 소개됐습니다. 최신 처리량이나 이용 규모는 공개되지 않았지만, GPU 공급에서 끝나지 않고 개발 API와 분산 프레임워크, 관리형 추론 서비스까지 계층을 넓혔다는 흐름은 분명합니다. 골렘은 CPU 공유 프로젝트에서 출발해 다양한 GPU 작업을 GLM 정산과 연결하는 컴퓨팅 인프라로 범위를 확장하고 있습니다.