Moonshot AI har præsenteret Kimi K3.1 Pro med en usædvanlig del af udmeldingen: Selskabet siger, at det bevidst har reduceret modellens evner på cyberområdet, før andre får mulighed for at hente dens modelvægte. Det er et forsøg på at bevare nyttige kodefærdigheder og samtidig begrænse risikoen for misbrug.

Modellen blev præsenteret den 24. oktober og omtales nu bredt i weekendens tech-dækning. Ifølge Moonshots tekniske præsentation er K3.1 Pro tilgængelig i Kimi-tjenesterne og gennem en API. De fulde modelvægte er planlagt frigivet senest den 4. november. De to former for adgang er derfor på forskellige stadier.

Selskabet oplyser, at det fjernede cyberrelaterede data fra både en del af den videre træning og fra miljøer til reinforcement learning, hvor modellen lærer gennem opgaver og feedback. Almindelige kodeopgaver blev bevaret. Moonshot beskriver dermed et indgreb i udviklingen af modellen frem for alene en ændring af, hvilke spørgsmål en færdig tjeneste vil besvare.

Et fald i en intern test

Reuters’ omtale gengiver selskabets sammenligning: Den filtrerede model opnåede 81,0 procent i en intern cybertest, mens en tilsvarende version uden risikobegrænsningerne nåede 90,5 procent. Reuters understreger, at resultaterne ikke er uafhængigt verificeret.

Forskellen er 9,5 procentpoint. Det er en forskel inden for den beskrevne test, ikke en måling af, hvor stor en del af alle tænkelige angreb modellen kan udføre. Et resultat på 81 procent kan heller ikke oversættes til en bestemt risiko for en vilkårlig virksomhed eller hjemmeside.

Moonshot skriver selv, at K3.1 Pro fortsat er væsentligt stærkere på cyberopgaver end forgængeren. Den centrale præcision er derfor, at filtreringen reducerer evnen i forhold til en anden version af samme udviklingsforløb. Det er ikke dokumentation for, at modellen generelt er ufarlig, eller at evnen er lavere end i tidligere generationer.

Hvorfor modelvægte ændrer situationen

Modelvægte er de tal, der bærer en trænet models lærte mønstre. Når de udgives, kan andre med den nødvendige infrastruktur drive og ændre modellen uden at sende hver forespørgsel til producentens centrale tjeneste.

Det giver andre muligheder end adgang gennem en API. En organisation kan få større kontrol over driften, men overtager også flere opgaver med opsætning og vedligeholdelse. En download gør ikke i sig selv en model let at drive på en almindelig computer.

Det ændrer samtidig forholdet mellem producent og bruger. I en central tjeneste kan leverandøren løbende justere adgangen. Når modelvægte først er distribueret, afhænger den videre anvendelse også af dem, der selv driver modellen. Derfor har valg, som foretages inden frigivelsen, en særlig betydning.

Der er dog forskel på at offentliggøre en plan og at have leveret filerne. Den 4. november er her selskabets oplyste frist. Denne artikel behandler ikke modelvægtene som allerede tilgængelige og har ikke kontrolleret en kommende distributions licensvilkår.

Lang kontekst kræver stadig en konkret opsætning

Kimi Codes officielle modeldokumentation beskriver K3.1 Pro og Highspeed-varianten med et kontekstvindue på op til 1.048.576 tokens. Adgangen til det fulde vindue afhænger af abonnementet. Dokumentationen beskriver også modellerne som begrænset til thinking-tilstand.

Et stort kontekstvindue giver plads til mere materiale i en forespørgsel. Det er ikke et selvstændigt mål for, om modellen bruger alle oplysninger korrekt, eller om en lang opgave bliver løst tilfredsstillende. Mængden af materiale og kvaliteten af svaret bør derfor vurderes hver for sig.

Moonshot anbefaler i dokumentationen en ny session, når brugeren skifter til den nye model, og fremhæver forskelle mellem modelvalg og protokoloversættelse i tredjepartsværktøjer. Det viser, at modellen indgår i et større system. Den samme modelbetegnelse er ikke nødvendigvis nok til at beskrive hele arbejdsforløbet.

Elektronika har ikke testet K3.1 Pro og kan derfor ikke bekræfte producentens hastigheds- eller kvalitetsløfter. Det gælder også Highspeed, som selskabet beskriver som hurtigere med de samme modelkompetencer.

Hastighed har en anden pris

På Kimis API-platform står standardudgaven til 2 dollar pr. million inputtokens og 10 dollar pr. million outputtokens. Highspeed står til henholdsvis 4 og 20 dollar. Platformen angiver særskilte priser for cache, så disse grundpriser er ikke hele billedet for alle brugsmønstre.

Priserne gælder API-forbrug og bør ikke forveksles med et abonnement i en app eller udgifterne ved selv at drive en fremtidig download. Den samlede udgift til en opgave afhænger også af, hvor meget modellen læser og producerer, og hvor mange forsøg arbejdsforløbet kræver.

For et udviklingsteam er den relevante sammenligning derfor en konkret opgave med kendte krav. Hvor hurtigt kommer et brugbart resultat, hvor mange rettelser kræver det, og hvad koster hele forløbet? En pris pr. token eller et enkelt testresultat kan ikke alene besvare de spørgsmål.

Lanceringen samler dermed to aktuelle spørgsmål i AI-udviklingen: hvor meget arbejde stadig stærkere modeller kan udføre, og hvordan deres evner kan begrænses før bred distribution. Moonshot har offentliggjort en metode og en intern sammenligning. Den videre vurdering kræver mere dokumentation og afprøvning, især når den planlagte adgang til modelvægtene bliver konkret.