Bloggpost

Ring Computes GPU-servrar finns tillgängliga att hyra via Vast.ai, en av de största marknadsplatserna för GPU-moln. I denna guide går vi igenom hur du hittar en Ring Compute-server, startar en instans och ansluter via SSH — allt från kommandoraden.

Förutsättningar

Innan du börjar, se till att du har följande:

• Ett Vast.ai-konto (registrera dig på vast.ai)
• Python 3 installerat på ditt system
• Ett SSH-nyckelpar (~/.ssh/id_rsa och ~/.ssh/id_rsa.pub)

Steg 1: Installera Vast.ai CLI

Installera CLI-verktyget med pip:

pip install vastai

Ställ sedan in din API-nyckel. Du hittar den på cloud.vast.ai/cli/:

vastai set api-key DIN_API_NYCKEL

Steg 2: Lägg till din SSH-nyckel på Vast.ai

Innan du skapar en instans, lägg till din publika SSH-nyckel i ditt Vast.ai-konto. Gå till cloud.vast.ai/manage-keys/ och klistra in innehållet i din publika nyckel. Det gör att alla nya instanser automatiskt konfigureras med din nyckel.

Steg 3: Hitta en Ring Compute-server

Sök efter tillgängliga erbjudanden på Ring Computes maskiner. Våra nuvarande maskin-ID:n är 29403, 35048, 41080, 45874 och 47481. Du kan söka på valfritt:

vastai search offers "machine_id=41080"

Detta returnerar en tabell med tillgängliga erbjudanden. Notera erbjudande-ID:t i första kolumnen — du behöver det i nästa steg.

Steg 4: Skapa en instans

Använd erbjudande-ID:t från sökresultaten för att skapa en instans. Välj en Docker-avbild och ange hur mycket diskutrymme du behöver:

vastai create instance ERBJUDANDE_ID --image pytorch/pytorch:2.1.0-cuda12.1-cudnn8-devel --disk 100 --ssh --direct

Flaggan --ssh aktiverar SSH-åtkomst och --direct möjliggör en direktanslutning. Svaret innehåller ett new_contract-värde — det är ditt instans-ID.

Steg 5: Vänta på att instansen startar

Övervaka din instans tills statusen visar running:

vastai show instance INSTANS_ID

Det tar vanligtvis en till två minuter medan Docker-avbilden hämtas och instansen startar.

Steg 6: Anslut via SSH

När instansen körs, hämta SSH-anslutningsdetaljerna:

vastai ssh-url INSTANS_ID

Detta returnerar en URL som ssh://root@ssh4.vast.ai:11244. Använd den för att ansluta:

ssh -p PORT root@HOST

Om du inte lade till din SSH-nyckel i ditt Vast.ai-konto i förväg kan du bifoga den till en körande instans:

vastai attach ssh INSTANS_ID "$(cat ~/.ssh/id_rsa.pub)"

Vad du får

Varje Ring Compute-server är utrustad med 8x NVIDIA RTX 5090-GPU:er med totalt 256 GB VRAM. Det räcker för att köra de största open source-modellerna som DeepSeek R1, Llama 3.1 405B och Mixtral 8x22B. Du har full root-åtkomst i din Docker-container och kan installera vilken programvara du behöver.

När du är klar kan du ta bort instansen från Vast.ai:s dashboard eller CLI för att stoppa debiteringen. Lycka till!