Frihedens fængselsbetjent

Det hele er pakket ind i forbedringer, nye muligheder og en teknologisk begejstringsprosa, der næsten får mig til at føle mig utaknemmelig over at stille spørgsmål. For jeg skal jo bare glæde mig. Nu kan teknologien endnu mere. Og når jeg har vænnet mig til at bruge det hele, kan jeg betale for at fortsætte.

Jeg har ikke noget imod, at virksomheder tjener penge. Jeg har selv drevet virksomhed i årtier. Jeg har intens modstander af kunstig intelligens. 
Som arbejdsmarkedsresearcher følger jeg derimod nøje, hvordan teknologien forandrer vores arbejdsliv, vores adfærd og vores forestillinger om, hvad mennesker og organisationer skal kunne.

Men jeg har noget imod, når kommercielle interesser begynder at ligne omsorg, og når bekvemmelighed langsomt bliver til afhængighed. For der er en mekanisme på spil, som vi kender ganske godt fra adfærdsvidenskaben.

Først får vi et redskab. Så får vi en vane. Derefter får vi en forventning om, at redskabet altid er der. Vi indretter vores arbejdsdag efter det. Vi fortæller det, hvem vi er, hvad vi arbejder med, hvordan vi tænker, og hvad vi foretrækker. Det husker vores formuleringer, vores projekter og vores små særheder. Efterhånden skal vi ikke længere forklare os fra begyndelsen. Det er vidunderligt praktisk.

Og så sker der noget.

Redskabet bliver ikke bare noget, vi bruger. Det bliver noget, vi helst ikke vil undvære.

Jeg vil kalde det bekvemmelighedsgæld. En gæld, der ikke står på kontoudtoget, men som vokser, hver gang vi overlader endnu en opgave, endnu en beslutning og endnu en bid af vores hukommelse til en kommerciel tjeneste.

Det er her, adfærdsøkonomien bliver interessant. For mennesker vurderer ikke kun prisen på det, de køber. Vi vurderer også besværet ved at holde op. Vi foretrækker det velkendte. Vi reagerer stærkere på udsigten til at miste noget, vi allerede har, end på muligheden for at opnå noget tilsvarende et andet sted.
Og jo mere vi har investeret i et system, desto vanskeligere kan det blive at forlade det. Det kaldes blandt andet switching costs, tabsaversion og status quo-bias. Tre velbeskrevne mekanismer, som tilsammen kan gøre en ellers fri forbruger forbavsende ufri.

Allerede i 1988 beskrev forskerne William Samuelson og Richard Zeckhauser menneskers tilbøjelighed til at fastholde det eksisterende frem for at vælge forandringen. Det er en mekanisme, der får ganske særlige vilkår, når det eksisterende ikke længere blot er en vare, men en teknologi, vi har indrettet vores arbejdsliv efter.

Det særligt interessante ved kunstig intelligens er, at afhængigheden ikke alene handler om funktionalitet. Den handler også om fortrolighed.

Vi har tidligere været afhængige af vores telefoner, vores søgemaskiner og vores digitale kalendere. Men de færreste har ført lange samtaler med deres kalender om deres tvivl, ambitioner, kærlighedsliv, faglige uenigheder og fremtidsplaner.
Det gør mennesker nu med AI.

Vi har fået teknologi, der ikke alene leverer svar, men også efterligner nærvær. Den husker vores præferencer, tilpasser sit sprog, genkender vores humor og kan give os oplevelsen af at blive forstået. Det er en teknologisk bedrift. Men det er også en kommerciel mulighed af historiske dimensioner.

Et studie fra MIT og Open AI fra 2025 med 981 deltagere fandt en sammenhæng mellem omfattende frivillig brug af chatbots og større følelsesmæssig afhængighed. Undersøgelsen dokumenterer ikke, at teknologien skaber afhængigheden. Men den understreger, at vi bør interessere os for andet og mere end produktivitet, når vi undersøger konsekvenserne af kunstig intelligens.

For hvad sker der, når en virksomhed ikke længere blot leverer et produkt, men også bliver opbevaringssted for vores vaner, viden, arbejdsprocesser og oplevelse af fortrolighed?

Så har vi ikke længere kun en leverandør. Vi har fået en digital husvært, der kender alle rummene, ved hvor møblerne står, og som med jævne mellemrum kan ændre huslejen.

Og vi kan selvfølgelig bare flytte….

Vi skal blot pakke vores digitale liv ned først.

Det er en ganske særlig form for kundefastholdelse. Ikke nødvendigvis planlagt som sådan, men potentielt meget effektiv. Jeg kalder den fortrolighedsfælden.

Det er vigtigt at skelne mellem, hvad virksomhederne faktisk gør, og hvilke konsekvenser deres forretningsmodeller kan få. Jeg ved ikke, om Open AI har til hensigt at gøre sine brugere afhængige. Men jeg tror, jeg ved det. Og jeg ved, at en forretningsmodel, hvor indtjeningen vokser med brugerens forbrug, har en åbenlys økonomisk interesse i, at brugeren bliver ved med at bruge. Og når teknologien samtidig bliver stadig mere personlig, bliver forholdet mellem nytte og afhængighed værd at holde grundigt øje med.

Jeg kan forestille mig et snarligt fremtidsscenarie, hvor vi vågner op i et samfund, der har outsourcet så meget af sin hukommelse, dømmekraft og handlekraft, at vi ikke længere kan finde ud af, hvad vi selv mener, før vi har spurgt vores digitale assistent.

Vi står i kø foran vores egne tanker.

Vi har glemt adgangskoden til vores selvstændighed.

Og et sted på den anden side af skærmen sidder en algoritmisk fængselsbetjent og meddeler venligt, at vores kvote er opbrugt. Vi kan få adgang til resten af vores arbejdskapacitet, hvis vi opgraderer abonnementet.

Fængslet har ingen tremmer. Det har brugerflade, personlig hukommelse og automatisk kortbetaling. Og døren står faktisk åben.

Vi har bare glemt, hvordan man går ud.

Det er naturligvis en dystopi. Men dystopier er nyttige, når de gør os opmærksomme på udviklinger, vi ellers accepterer i små, bekvemme bidder.

For den største risiko ved AI er efter min mening ikke nødvendigvis, at teknologien bliver klogere end os. Det er, at vi indretter vores omgivelser, så vi får stadig mindre anledning til selv at være kloge. Og det får konsekvenser langt ud over den enkelte forbrugers abonnement.

I en undersøgelse fra Microsoft og Carnegie Mellon University fra 2025, baseret på 319 vidensarbejdere, fandt forskerne en sammenhæng mellem høj tillid til AI og mindre selvrapporteret kritisk tænkning under AI-understøttede arbejdsopgaver. Det er ikke dokumentation for, at mennesker bliver dummere af AI. Men det er en påmindelse om, at vores måde at bruge teknologien på har betydning for, hvor meget vi selv engagerer vores dømmekraft.

I virksomheder og organisationer risikerer vi at skabe en ny slags strukturel sårbarhed. Medarbejdere, der mister rutinen i selvstændig problemløsning. Ledere, der får velformulerede beslutningsoplæg uden at kende ræsonnementerne bag. Organisationer, der gradvist placerer deres viden, arbejdsgange og handlemuligheder hos eksterne teknologileverandører, hvis priser, vilkår og adgangsbetingelser de ikke selv bestemmer.

Vi kan ende med at effektivisere os frem til en bemærkelsesværdig afhængighed.
Og måske endnu værre. Vi kan få organisationer, hvor alle producerer mere, hurtigere og pænere, mens færre opdager, når noget er forkert. Hvor sproget bliver velfriseret, uenigheden udglattet og den menneskelige dømmekraft reduceret til en godkendelsesknap.

Det er ikke teknologien alene, der skaber den udvikling. Det er de beslutninger, vi træffer om at bruge den.

Derfor mener jeg, at virksomheder og ledere skal interessere sig mindst lige så meget for, hvad medarbejderne skal blive ved med at kunne uden AI, som for hvad de kan få AI til at gøre.

For hvis vi ikke passer på, bliver fremtidens mest værdifulde medarbejder ikke den, der kan skrive den bedste prompt.

Det bliver den, der stadig kan tænke, når strømmen går.

Og den, der tør sige nej, når systemet siger ja.