Opera vil gøre lokal AI til en indbygget del af sine browsere. I en meddelelse den 27. oktober præsenterede selskabet en tidlig WebAI-preview, hvor arbejdet med AI-modeller foregår på brugerens egen computer frem for hos en ekstern AI-tjeneste.

Ifølge Operas offentliggørelse begynder udrulningen i Opera One, mens Opera GX og Opera Neon følger senere. Det er dermed en tidlig afprøvning og ikke et løfte om, at alle Opera-brugere allerede har samme funktioner.

WebAI skal give hjemmesider og browserudvidelser adgang til modeller gennem browseren. Opera nævner blandt andet Googles Gemma og Apples lokale foundation-model på Mac. Brugeren skal aktivere funktionen, før en model bliver hentet, og adgangen fra hjemmesider styres med tilladelser for det enkelte websted.

Hvad kan man bruge det til?

Operas tekniske introduktion til WebAI beskriver tre grænseflader: Prompt, Decision og Semantic Embeddings. De dækker tekstgenerering, klassifikation og beregning af relationer mellem indhold. Det er byggeklodser til udviklere snarere end en færdig assistent, som automatisk udfører alle opgaver i browseren.

Introduktionen viser forsøgsudvidelser, der blandt andet kan lave en quiz om en artikel eller visualisere beslægtede sætninger. Opera betegner dem som eksempler, ikke som almindelige indbyggede browserfunktioner.

Et tænkt anvendelsesområde er en udvidelse, som sorterer gemte artikler efter emne. Hvis behandlingen bliver på computeren, behøver artikelteksten ikke sendes til en ekstern model for at blive kategoriseret. Det kan være nyttigt for både brugeren og den udvikler, som ellers skulle betale for løbende cloudbehandling.

Det siger dog ikke i sig selv noget om, hvor præcist en bestemt udvidelse sorterer. Den vurdering kræver afprøvning af både modellen og programmet, som anvender den. Elektronika har ikke testet previewen.

Computeren overtager arbejdet

Previewen understøtter ifølge Operas introduktion 64-bit Windows på Intel- og AMD-processorer samt Mac med Apple silicon. Intel-baserede Mac-computere, Linux og Windows på Arm er ikke omfattet af den beskrevne preview. En almindelig browserinstallation er altså ikke tilstrækkelig på enhver maskine.

Svartiden afhænger også af den lokale hardware. Det er derfor for tidligt at omsætte annonceringen til en generel påstand om, at lokal AI altid er hurtigere end en tjeneste på nettet. En bærbar computer skal selv stille ressourcer til rådighed, når modellen arbejder.

Google beskriver den samme grundlæggende afvejning i sin oversigt over indbygget AI i Chrome: browseren kan administrere modeller og bruge lokal hardware, men større eller mere komplekse opgaver kan fortsat have brug for servere. Ældre og mindre kraftige enheder kan desuden mangle den nødvendige kapacitet. Det er generel teknisk baggrund, ikke en dokumentation af Operas ydelse.

Lokal behandling kræver stadig omtanke

At en model kører lokalt, er en oplysning om, hvor selve beregningen foregår. Det er ikke en garanti for, at en hjemmeside eller udvidelse aldrig kommunikerer med eksterne tjenester. Brugeren skal fortsat forholde sig til det program, der får adgang til indholdet.

Forskellen bliver særlig vigtig, hvis en udvikler kombinerer lokal behandling med en reservefunktion i skyen. Googles dokumentation om hybrid AI beskriver netop, hvordan en tjeneste kan skifte til cloudbehandling på en enhed uden lokal understøttelse. Google fremhæver, at brugeren skal informeres om, hvor data behandles. Det betyder ikke, at Opera automatisk foretager et sådant skift; det viser, hvorfor den enkelte løsnings adfærd skal beskrives tydeligt.

En preview er ikke en fælles standard

Opera omtaler WebAI som et forslag til en webstandard. Formuleringen er væsentlig: en annonceret implementering gør ikke i sig selv grænsefladen universelt tilgængelig i andre browsere.

For udviklere bliver den praktiske opgave derfor at undersøge understøttelsen og beslutte, hvad brugeren skal opleve, hvis modellen eller den nødvendige hardware mangler. For almindelige brugere er den konkrete nyhed mere afgrænset: Opera åbner for, at flere AI-opgaver kan udføres på egen computer, men foreløbig som en frivillig preview med bestemte systemkrav.