Hetzner har lanceret sin første dedikerede server med flere GPU’er. GEX430 blev præsenteret den 21. oktober og er udstyret med fire NVIDIA RTX PRO 6000 Blackwell Max-Q-kort. Serveren retter sig mod virksomheder, der vil køre AI-modeller, tilpasse dem til egne opgaver eller udføre krævende beregninger på hardware i EU.

Ifølge Hetzners lanceringsmeddelelse er månedsprisen 3.599 euro eksklusive moms. Et engangsbeløb til etablering er ligeledes 3.599 euro. Det er dermed et tilbud om leje af dedikeret kapacitet, ikke køb af en færdig AI-assistent eller en almindelig abonnementstjeneste til privatbrugere.

De fire kort har tilsammen 384 GB grafikhukommelse. Det tal er centralt i præsentationen, men kræver en vigtig præcisering: Der sidder 96 GB på hvert kort. En AI-model får ikke automatisk adgang til hele summen, blot fordi kortene sidder i samme maskine.

Fire kort giver flere måder at fordele arbejdet på

På produktsiden for GEX430 oplyser Hetzner, at hvert kort er tilsluttet med 16 PCIe 4.0-forbindelser. Den øvrige konfiguration omfatter en Intel Xeon Gold 5412U med 24 kerner og 48 tråde, 128 GB DDR5 ECC-systemhukommelse samt to NVMe-drev på hver 1,92 TB.

Produktsiden angiver HEL1 som tilgængelig placering, en netværksport på 1 Gbit/s og mulighed for Debian eller Ubuntu. Kunden får fuld root-adgang. Grafikhukommelse, systemhukommelse, lager og netværksforbindelse er forskellige ressourcer; de kan ikke lægges sammen til ét mål for, hvor hurtigt en AI-tjeneste vil svare.

En praktisk mulighed er at placere forskellige modeller på forskellige kort. En anden er at fordele en større beregningsopgave på flere kort. Det sidste kræver, at softwaren og den valgte metode understøtter fordelingen. Hardwarelisten fortæller derfor kun en del af historien.

Hvorfor 384 GB ikke er én stor GPU

Hetzner forklarer i sin tekniske introduktion til serveren, at passende frameworks kan lade kortene arbejde sammen eller give dem hver deres opgaver. Virksomheden bruger store sprogmodeller som eksempel på behovet for at fordele en model, der ikke kan være på ét kort.

Som størrelsesorden nævner Hetzner, at modelvægtene til en model med 70–100 milliarder parametre ved BF16 kræver cirka 140–200 GB. Det er alene vægtene, ikke et samlet løfte om hukommelsesbehovet for en færdig tjeneste med brugere og lange samtaler.

Det skel er vigtigt. At der er plads til en models grunddata, betyder ikke nødvendigvis, at der også er plads til den ønskede belastning. Man skal skelne mellem at få en model startet og at drive den med tilfredsstillende svartider under den brug, virksomheden faktisk forventer.

Egen drift ændrer ansvaret

Den nye server er interessant som alternativ til at sende alle forespørgsler til en ekstern AI-platform. Men egen drift betyder ikke, at arbejdet forsvinder. Det flytter en større del af beslutningerne til kunden: valg af model, adgangsstyring, opdateringer, overvågning og håndtering af fejl.

Et tænkt eksempel er en intern assistent, som skal hjælpe medarbejdere med virksomhedens dokumenter. Serveren leverer beregningsressourcerne, men ikke automatisk reglerne for, hvem der må få vist hvilke dokumenter. De regler skal være en del af den løsning, virksomheden bygger ovenpå.

Det samme gælder kvaliteten af svarene. En model bliver ikke nødvendigvis mere præcis, fordi den flyttes til en dedikeret server. Valget af data, model og kontrol af svar er fortsat selvstændige opgaver. Kontrol over infrastrukturen og kvaliteten af AI-tjenesten bør derfor vurderes hver for sig.

EU-placering er en egenskab, ikke en færdig løsning

Hetzner fremhæver, at kunder kan holde deres AI-arbejde på dedikeret hardware i EU. I selskabets beskrivelse er det udtrykkeligt betinget af, at miljøet konfigureres passende. Det er ikke et ubetinget løfte om, at ethvert program installeret på serveren holder alle oplysninger inden for samme miljø.

En applikation kan eksempelvis være bygget til også at bruge eksterne tjenester. Det er derfor relevant at undersøge hele dens dataflow frem for kun adressen på den maskine, der kører modellen. Den betragtning er en teknisk afgrænsning, ikke en juridisk vurdering af en konkret virksomheds løsning.

For køberen bliver spørgsmålet således mere præcist end blot cloud eller ikke cloud: Hvilke dele driver virksomheden selv, hvilke leverandører indgår, og hvilke oplysninger sendes hvorhen? En dedikeret GPU-server kan være en byggeklods i svaret, men den er ikke hele svaret.

Prisen skal ses sammen med arbejdsopgaven

Månedsprisen siger ikke i sig selv, hvad det koster at få løst en bestemt opgave. Det afhænger blandt andet af, hvor meget serveren bruges, hvilken model der vælges, og hvilke krav der stilles til svartid. Hertil kommer det arbejde, kunden selv lægger i driften.

Elektronika har ikke testet GEX430 og kan derfor ikke fastslå dens kapacitet i antal samtidige brugere eller svar pr. sekund. Hetzners eksempler beskriver mulige anvendelser, ikke dokumenterede resultater for en vilkårlig model. Der er heller ikke her grundlag for at udpege serveren som billigere end alle alternative løsninger.

Lanceringen udvider det konkrete udvalg for virksomheder, der vil leje flere GPU’er samlet og selv styre deres AI-software. Dens vigtigste egenskab er kombinationen af dedikeret kapacitet og råderum over opsætningen. Om det er den rigtige løsning, afgøres først af den konkrete arbejdsopgave – ikke af det største tal i specifikationslisten.