Hvad sker der med vores evne til at tænke kreativt, analytisk og kritisk, når vi får generativ AI til at udføre mere og mere af vores tænkning for os? Et nyt studie fra Microsoft og Carnegie Mellon University viser, at mennesker, der bruger generativ AI ugentligt, udvikler tendens til blot hurtigt at gennemgå indholdet fra AI frem for at forholde sig kritisk og kreativt til det. Så hvordan undgår vi at blive dummere af AI?
Hvis du, ligesom os andre, bruger generativ AI til flere og flere af dine opgaver, vil du sikkert også have gjort dig nogle erfaringer om, hvilke opgaver AI’en løser godt, og hvilke den skal have lidt ekstra hjælp til. Måske du endda også har en liste med dine faste prompts eller et prompt cheat sheet liggende, så rutineopgaverne kan løses hurtigt og effektivt.
Når først du får en god fornemmelse af prompting og generativ AI's evner inden for forskellige typer opgaver, kan du lynhurtigt eksekvere på opgaver, der før kunne tage dobbelt eller 10 gange så lang tid.
Men måske du også har oplevet, at du af samme årsag bliver mindre kritisk over for AI’ens output over tid? Du ved jo, at den løser de her opgaver godt, så det nemmeste er jo bare at verificere indholdet og komme videre til næste opgave? Måske du også i starten var mere opmærksom på at tænke over den kreative vinkel og få helt styr på kontekst og kilder, inden du spurgte AI’en til råds?
Hvis du har det sådan, er du langt fra alene.
Verifikationsfælden
Et nyt studie fra Microsoft og Carnegie Mellon University viser nemlig, at mennesker, der bruger generativ AI mindst en gang om ugen, langsomt udvikler tendens til blot hurtigt at gennemkigge indholdet fra AI frem for selv at aktivere sin kritiske tænkning til de pågældende opgaver.
Det betyder, at man sjældnere får trænet sin kognitive muskulatur, og dermed kan man faktisk ende med at føle sig mere uforberedt og forvirret, når der så lander opgaver, der kræver menneskelig kritisk tænkning – såsom kreativitet, analytisk arbejde eller vurderinger af komplekse kontekster.
Med andre ord: Hvis det er sådan, vi bruger AI, risikerer vi at blive dummere.
I studiet blev 319 personer spurgt til deres brug af AI, og hvorvidt de brugte kritisk tænkning til opgaverne. 36% af respondenterne sagde, at de brugte kritisk tænkning til at revidere eventuelle negative konsekvenser af AI’ens input – blandt andet ved at faktatjekke eller tilpasse indholdet til konteksten.
Dermed er der også en stor andel, der altså ikke brugte kritisk tænkning til at vurdere AI-indholdet. Ifølge studiet handler dette meget om, at man som bruger skal være opmærksom på AI-modellernes begrænsninger for at kunne forholde sig kritisk til indholdet.
Man skal altså undgå at falde i fælden, hvor man mere eller mindre blindt verificerer AI-indhold ud fra subjektive parametre som ”lyder det godt?” og ”lyder det rigtigt?”. I stedet skal du huske på, hvad din gamle historielærer altid sagde.
Husk kildekritikken!
Nu ved jeg selvfølgelig ikke med dig, men hvis der var én sætning, der stadig giver genlyd i hukommelsen fra mit gamle klasselokale i folkeskolen, så var det da historielæreren råbte ”Husk kildekritikken!” efter stakkels Martin, der kun lige havde hørt om USSR og nok stadig ikke helt forstod, hvad det var, da han blev bedt om at holde oplæg om rumkapløbet.
Selvom det kostede Martin lidt sved på panden, så tror jeg aldrig han eller resten af klassen har glemt, hvor vigtigt kontekstforståelse, analyse og kildekritik faktisk er, når det kommer til tekstuelt og visuelt indhold. Og det er netop også disse evner, vi skal grave frem, når vi arbejder med AI.
Især når brugsscenarierne for AI udvider sig, og flere og flere mennesker bruger det til mere og mere komplicerede opgaver.
For eksempel har OpenAI for nyligt udviklet Deep Research, der er en forskningsassistent for alle Pro Users. Perplexity har gjort det samme. Og Hugging Face har i øvrigt også lavet en tilsvarende open source-model. Disse modeller/AI-agenter kan udføre forskningsopgaver på egen hånd og potentielt skrive rapporter og afhandlinger på hundredvis af sider.
Selvom modellerne blandt andet har vist stort potentiale ift. at komprimere, analysere og forstå store datasæt, så kan de også vise sig at blive et stort problem, hvis ikke de mennesker, der bruger modellerne, husker at være forbeholdne og kildekritiske over for outputtet.
Projekter af denne størrelsesorden, om det så er forskning, digitalisering eller e-commerce, kræver stor kontekstforståelse og et indsigtsniveau, som AI’en sjældent besidder.
Hertil kommer det faktum, at selv de største AI-modeller fortsat laver mange faktuelle fejl. BBC bad for nyligt ChatGPT, Copilot, Gemini og Perplexity om at opsummere 100 nyhedshistorier hver. Ifølge undersøgelsen var der betydelige fejl i 51% af opsummeringerne.
Det fik BBC-CEO Deborah Turness til at spørge: ”Hvor længe vil der gå, før en AI-drejet overskrift forårsager betydelig skade på verden?”
Men Vertica, hvad gør vi så?
I Vertica bruger vi selv AI meget. Mange af os hver eneste dag. Så vi er i den grad i risikozonen for at falde i den overfladiske verifikationsfælde og gradvist blive dårligere til kritisk tænkning.
Det er vi selvfølgelig meget opmærksomme på, og det er nok i virkeligheden det første skridt mod at finde en balance mellem at arbejde effektivt med AI, men uden at blive dummere af det. Opmærksomhed.
Som Microsoft og Carnegie Mellon University skriver i deres studie: ”Potentiel skade fra generativ AI kan motivere kritisk tænkning, men kun hvis brugeren er bevidst opmærksom på den mulige skade.”
Det starter således med AI-uddannelse og opmærksomhed på AI-modellernes fejl og mangler. Dernæst handler det meget om, hvor meget og hvordan man bruger AI. I Anthropics nye Economic Index, som er en afrapportering af millioner af anonymiserede brugersamtaler med Claude.ai, er det bemærkelsesværdigt, at 57% af samtalerne er brugere, der samarbejder og interagerer med AI’en, mens de sidste 43% er rendyrket opgaveløsning.
Det er umiddelbart positivt, da den spørgende og sparrende tilgang alt andet lige må inspirere til flere kreative og kritiske overvejelser, som altså får aktiveret hjernen, og sørger for at vi bibeholder den kritiske tænkning. Måske den tilgang endda ligefrem kan inspirere til nye ideer og perspektiver, som man ikke havde tænkt på uden sparring med AI’en.
Dermed ikke sagt, at den direkte opgaveløsning er dårlig. Der er rigtig meget effektivitet at hente ved at få hjælp fra AI til rutineopgaver. Men det er nok sundt at være kritisk med, hvornår man anvender AI, og hvor tidligt i processen, man gør det.
Jeg kunne for eksempel godt have fået AI til at skrive hele denne artikel, men jeg tvivler på, at den så havde forstået de nuancer og overvejelser, som dette emne trods alt kræver. Jeg kunne også have sparret om en vinkel på artiklen og evt. bedt ChatGPT om at finde eksempler på artikler, der diskuterer emnet. Det er to ret anderledes måder at bruge AI på, men vi vil mene, at det er den sidste, der sætter mest gang i hjernekapaciteten.
Lidt groft sat op er det ligesom at sidde på sofaen og vælge, om man vil se Bagedysten eller Debatten. Der ved vi nok også godt, hvad der sætter mest skub i det kognitive maskineri, men omvendt er det nok alligevel Bagedysten de fleste af os oftest ville vælge – for det er da det nemmeste og mest overskuelige.
Derudover ved vi, at generativ AI laver forholdsvist mange fejl og stadig har tendens til at opdigte ting eller bruge meget tvivlsomme kilder. Derfor er vi hos Vertica store fortalere for, at man inkorporerer human-in-the-loop i sine AI-flows, så man altså får menneskelig kritisk tænkning ind i sin proces. Og hvis man bruge autonome AI-agenter til f.eks. kundeservice, bør man være yderst bevidst om de potentielle risici og som minimum indsætte fact-checker-agenter i sit agentflow.
Så vores bedste råd er, at du skal være refleksiv og opmærksom på, hvordan og hvor ofte du bruger AI. Husker du at forholde dig kritisk til outputtet? Og får du selv aktiveret din kritiske tænkning undervejs? Hvis ikke, så skal du måske overveje at ændre din tilgang en smule, så du får gang i de små grå.
P.S. Jeg har ikke brugt AI overhovedet til denne artikel. Det kunne jeg måske godt have gjort for at få nogle flere perspektiver på banen eller skærpet vinklen en smule… Oh well, men så fik jeg da i det mindste gang i den kritiske tænkning i dag.
