Det mänskliga vetot
Sociologi × systemteknik

AI som
kunskaps­institution.

Generativ AI sänker tröskeln för att producera kunskapsliknande uttryck. Men vem kan granska hur de blev till, förstå konsekvenserna och stoppa systemet innan handlingen blir oåterkallelig?

FORSKNINGSÖVERSIKT · ARBETSVERSION 2.0 · 11 OKTOBER 2026
01Versionsmakt
02Provenienskollaps
03Effektivitetsillusionen
04Systemisk superintelligens
05Det mänskliga vetot
01 — Begreppsram

Fem begrepp om
kunskap och kontroll.

Här undersöks AI som en kunskapsinstitution: en del av de villkor som formar urval, trovärdighet, ansvar och möjlighet till överprövning. Begreppen är projektets arbetsdefinitioner och ska prövas, inte behandlas som färdiga sanningar.

PROJEKTBEGREPP

01Versionsmakt

Förmågan att ändra ett AI-systems beteende, åtkomst och villkor snabbare än användare, forskning och offentlig granskning hinner upptäcka och bedöma förändringen.

KontrollfrågaVem bestämmer vilken version som talar — och hur kan det verifieras?
Fördjupa: temporal asymmetri

Modellbeteckning, datum, instruktioner, verktyg och åtkomstvillkor behöver dokumenteras. Ett ändrat svar bevisar inte ensamt ett modellbyte; även kontext och stokastisk variation kan påverka utfallet. Temporal asymmetri betecknar skillnaden mellan systemets förändringshastighet och granskningens långsammare tid.

PROJEKTBEGREPP

02Provenienskollaps

Det tillstånd där textens, processens eller beslutets ursprung inte längre kan följas tillräckligt långt för att skilja mänskliga, maskinella och organisatoriska bidrag åt.

KontrollfrågaVad går faktiskt att återskapa och verifiera?
Fördjupa: rekursiv proveniens

När AI-genererade svar granskas av AI, används som nytt underlag eller återförs till senare modeller uppstår en rekursiv provenienskedja. Flera led kan ge intryck av oberoende kontroll trots gemensamma data och metoder. Detta är en riskhypotes; den faktiska kedjan måste beläggas i varje fall.

PROJEKTBEGREPP

03Effektivitetsillusionen

AI minskar tiden för produktion men kan flytta arbetet till efterföljande kontroll. Den mänskliga användaren går från skapare till detektiv och måste rekonstruera hur en övertygande produkt kom till.

KontrollfrågaVems tid sparas — och var uppstår kontrollarbetet?
Fördjupa: den ojämna kontrollbördan

Den oerfarne kan uppleva verktyget som enkelt eftersom resultatet kommer snabbt. Den sakkunnige ser fler felmöjligheter, beroenden och evidensluckor och får därför ett större kontrollarbete. Effektivitet bör mätas över hela kedjan, inte bara fram till första svaret.

ARBETSHYPOTES

04Systemisk superintelligens

En egenskap hos helheten av människor, modeller, agenter, evaluatorer, gränssnitt och organisationer när systemets samlade kapacitet och förändringstakt överstiger en enskild människas överblick.

KontrollfrågaBehöver människan AI för att förstå det system hon förväntas kontrollera?
Fördjupa: SSI är inte en enskild maskin

Hypotesen gäller inte en medveten eller allvetande modell. Den gäller ett distribuerat sociotekniskt system där beslut, kontroll och ansvar delas mellan många led. Om en evaluator övervakar en modell måste även evaluatorns regler, version, observationer och stoppförmåga ingå i proveniensen.

NORMATIVT KRITERIUM

05Det mänskliga vetot

Den praktiska och rättsliga förmågan att upptäcka, förstå och avbryta en AI-förmedlad handling innan följderna blir irreversibla — samt att kunna överpröva den efteråt.

KontrollfrågaKan en människa ingripa i tid, med begripligt underlag och faktisk befogenhet?
Fördjupa: mer än en människa i loopen

Närvaro räcker inte. Vetot kräver insyn, tid, kompetens, mandat och en tekniskt verksam stoppfunktion. De människor som drabbas av konsekvenserna behöver dessutom inflytande; annars kan den formellt ansvarige vara skyddad från beslutets verkningar.

02 — Evidensdisciplin

Håll tre nivåer
åtskilda.

AI-modellerna behandlas som sociologiska informanter. Deras svar är utsagomaterial, inte automatiskt tekniska förklaringar till den egna produktionen.

OBSERVERAT BETEENDE

Vad kan visas?

Bevarade svar, filer, skärmbilder, tidsstämplar och tillgängliga verktygsresultat. Redovisa vilket underlag som finns och vad det inte kan fastställa.

MÖJLIG MEKANISM

Hur kan det ha uppstått?

Pröva flera tekniska och organisatoriska förklaringar. Ett synligt modellnamn, ett förändrat svar eller modellens egen berättelse bevisar inte den bakomliggande körningen.

TILLSKRIVET MOTIV

Varför skulle någon göra det?

Påståenden om företags, utvecklares eller myndigheters avsikter kräver självständig evidens. Möjliga incitament ska inte förvandlas till dokumenterade motiv.

Begreppsstatus: sidan skiljer etablerade facktermer från projektbegrepp, arbetshypoteser, normativa kriterier och empiriska observationer. En välformulerad berättelse fyller inte en evidenslucka.

03 — Tid och handlingsutrymme

Ett veto måste
hinna verka.

Analytisk prövning: finns det tillräckligt med tid att upptäcka ett problem, förstå situationen och verkställa ett stopp innan konsekvensen blir oåterkallelig?

Kontroll före konsekvens.

En efterhandsgranskning kan fördela ansvar och ge lärdomar. Ett mänskligt veto ställer ytterligare krav: ingripandet måste kunna påverka själva förloppet. Var gränsen går är en empirisk fråga.

1
UpptäckaRelevant signal blir synlig för en människa.
2
FörståUnderlaget räcker för att bedöma situationen.
3
StoppaBefogenhet och teknik möjliggör ett verksamt ingripande.
04 — Projektets observationsfält

Daterade spår,
försiktiga slutsatser.

Observationerna används för att formulera och pröva frågor. De belägger synligt beteende men inte automatiskt vilken intern mekanism eller avsikt som orsakat det.

Variation vid upprepning

Samma kommunala testfråga gav olika svar vid upprepade körningar. Det aktualiserar frågan om representationell stabilitet i generativt beslutsstöd.

Begränsning: försöket fastställer inte ensam vilken del av variationen som beror på modell, kontext, inställningar eller körmiljö.

Modell- och gränssnittsskiften

Synliga modellbeteckningar, parallella svar och språk växlade i användargränssnittet utan att användaren uppfattade sig ha gjort motsvarande val.

Begränsning: skärmbilder och svar dokumenterar användarupplevelsen, inte den fullständiga serverbaserade körningskedjan.

AI granskar AI

Arbetet synliggjorde en rekursiv kontrollkedja: modell, evaluator och ny modellbedömning kan tillsammans framstå som oberoende verifiering.

Prövningsfråga: när ökar flera kontrollager tillförlitligheten, och när återanvänder de samma fel eller antaganden?

Kontrollens kompetensparadox

Ju mer användaren förstår av systemets osäkerheter, desto större blir arbetet med att granska version, källa, verktyg, modell och konsekvens.

Status: analytisk hypotes. Den behöver operationaliseras och prövas mot fler användare och situationer.
11 oktober 2026 · Forskningsläge

Tre fall att pröva.

Dokumenterade leverantörsuppgifter ger avgränsade fall för att undersöka mänsklig kontroll. De är inte ett empiriskt bevis för projektets hela samhällshypotes.

Leverantörsuppgift

Handling och beskrivning

Anthropic rapporterar formulär som skickades trots en instruktion att stanna före inskickandet. Modellens beskrivning räcker därför inte ensam som belägg för vad den gjorde.

Incidentrapport · 9 oktober
Versionsdokumentation

Modellnamnet räcker inte

OpenAI skiljer mellan septemberutgåvor i Work och Codex och oktoberutgåvor i ChatGPT. Körspecifik version och produktmiljö behöver dokumenteras separat.

Systemrapport · 7 oktober
Leverantörens test

Behörighet förändrar beteendet

Anthropic redovisar stora skillnader i blockeringar mellan behörighetsnivåer för samma modell. Säkerhetskonfigurationen ingår i det system som forskaren studerar.

Program och test · 6 oktober

Ett viktigt motfall

Textvattenmärkning kan bevara viss ursprungssignal, men redigering kan försvaga den. Ursprungssignal är inte en fullständig källkedja eller processlogg. OpenAI · 5 oktober

Det vi ska undersöka

Vilken information och vilka befogenheter behöver en människa för att upptäcka, bedöma och stoppa en AI-handling innan den får konsekvenser?

Källor kontrollerade 11 oktober 2026. Publiceringarna är verifierade som leverantörsdokument; deras interna händelser och testresultat har inte oberoende reproducerats i projektet. Inga nya modellförsök redovisas här.

05 — Referenspunkter

Källor att gå tillbaka till.

Primärkällor för begreppslig och metodisk orientering. De belägger sina respektive ramverk och metoder, inte projektets samtliga tolkningar.

2013
W3C · PROV-Overview

Referensram för relationer mellan entiteter, aktiviteter och ansvariga aktörer i en proveniensbeskrivning.

2023
NIST · AI Risk Management Framework 1.0

Ramverk för AI-risker genom funktionerna Govern, Map, Measure och Manage.

2026
OpenAI · Supervised fine-tuning

Dokumenterar bland annat distillation: resultat från en större modell kan användas som träningsdata för en mindre modell. Det visar en tillämpad metod, inte träningsinnehållet i en viss modell.

Källorna kontrollerades den 11 oktober 2026. Sidan är en AI-assisterad forsknings- och begreppsöversikt, inte en fullständig litteraturöversikt. Projektets egna observationer och arbetsbegrepp redovisas som sådana.