Vi har mer og mer kunnskap, men mindre og mindre forståelse. Teknologi reduserer risiko, men er selv opphav til nye farer. Teknologi forenkler livet, men gjør det også vanskeligere. Livet er blitt lettere å leve, det krever en mindre grad av fysiske anstrengelser, og vi er stort sett bedre skjermet for vær og vind. På den annen side stilles vi overfor flere valg, og teknologien skaper en rekke nye problemer for oss. Stress og forventningspress ligger på et høyere nivå enn tidligere, og beslutninger fattes på et dårligere grunnlag siden verden er blitt mer kompleks. Mangelen på helhetsforståelse er prekær, og den vil ikke bli bedre hvis vi gir i fra oss evnen til å tenke kritisk og selvstendig.
Anbefaler disse to videoene på det sterkeste i sammenheng med det jeg skriver over og under her: How the Eliza Effect Is Being Used to Game Humanity og The Eliza Effect 2: Electric Idiocracy Zombie Apocalypse Boogaloo
“Det finnes studier som tyder på at hyppig bruk av KI-verktøy fører til at brukernes evne til kritisk og rasjonell tenking reduseres, at de mister evnen til kritisk evaluering av informasjon, og at de begynner å stole for mye på at teknologien skal løse problemer og ta avgjørelser for dem. Problemet er en innebygd, selvforsterkende mekanisme i bruken av generativ KI. KI-en finner på ting som høres bra ut, og fordi vi overgir vår kritiske sans til den blir vi stadig dårligere rustet til å avsløre den.” (1)
“Å la studenter bruke språkmodeller som ChatGPT i akademisk arbeid senker prestasjonene deres, trener dem å prokrastinere, og fører til kognitiv svikt. Å løse oppgaver med ChatGPT svekker kognitive evner som hukommelse, blant annet fordi automatiseringen av oppgaveløsning fjerner muligheten for kritisk tenking. Utfordringen med det burde være åpenbar.
Så med dette på bordet, hvorfor later enkelte fremdeles som om det «haster» å omfavne KI i skolen? Linda Hofstad Helleland fra Høyre beskriver seg som en teknologi-optimist, men det er lite ved teknologien som gir grunn til optimisme, snarere fremstår en slik holdning som naiv og ukritisk.
Jeg har allerede skrevet (litt humoristisk) om svakhetene ved en språkmodell som både dikter opp ting om og nekter å forholde seg til virkeligheten, og (mer alvorlig) om de etiske skyggesidene ved ulike KI-modeller.
Samtidig har ingen av disse problemene faktisk blitt løst — alle premissene beskrevet der kaster fremdeles skygger over enhver KI-bruk. Det er ting som haster med KI, men det er ikke de tingene Hofstad Helleland insisterer på. I profittorienterte sektorer, er nyvinningene fra den første bølgen av KI-løsninger allerede på vei ut igjen. Den revolusjonerende fastfood-KI-en viste seg for eksempel å være avhengig av menneskelig overoppsyn for å fungere — så hva er da vitsen?
Etter hvert som flere og flere KI-løsninger viser seg å være lite annet enn det 21. århundrets mekaniske tyrkere — påståtte automatoner hvor et skjult menneske egentlig gjør maskinens jobb — så er det kanskje mer relevant å snakke om hva vi egentlig ser for oss å oppnå ved å implementere KI-løsninger på kryss og tvers.
Hva vil vi egentlig, hvis målet ikke er uselvstendige studenter med sviktende hukommelse?
For å forlate vitenskapen og bevege oss inn i spekulasjonen, så virker det frenetiske behovet for å omfavne KI-teknologier som en psykologisk respons på frykten for å være akterutseilt.
Vi har nok alle kjent på det: Dypt i underviserens psyke lurer alltid frykten for å fremstå utrangert og gammeldags. Alle husker selvfølgelig den ene læreren eller foreleseren som hardnakket fortsatte å bruke forrige generasjons undervisningsteknologi lenge etter at den fremstod komisk utdatert, enten teknologien var TV og VHS-spiller på hjul, lysbilder eller overhead.
Selvfølgelig vil ingen være den stereotype læreren som ikke får til å skru på projektoren eller ikke vet forskjellen på en HDMI- og VGA-kabel.
Vi kan likevel ikke helgardere oss mot å potensielt fremstå akterutseilte en gang i fremtiden ved å ukritisk omfavne all ny teknologi. Da risikerer vi i stedet at uinformerte og forhastede valg på vegne av dem vi skal undervise.
Ved å begynne med konklusjonen om at språkmodeller ikke bare må inn i skole og studier, men at det haster — og så jobbe oss bakover for å rettferdiggjøre det etterpå, risikerer vi i stedet å gjøre en generasjon med elever og studenter en enorm bjørnetjeneste. Det tok 20 år før pendelen svingte tilbake og vi fikk en offentlig og politisk reaksjon på den storstilte digitaliseringen av skoleverket — kanskje vi ikke skal gjenta det mønsteret med implementeringen av KI-verktøy?” (2)
“Ikke bare øker Kunstig intelligens produktiviteten – den kan også svekke evnen din til kritisk tenkning. Studien omfatter 319 kunnskapsarbeidere og avdekker at jo mer de stolte på AI, desto mindre tenkte de selvstendig. I stedet for å analysere og reflektere over informasjon, flyttet de fokuset mot «informasjonssjekk, responsintegrasjon og oppgaveledelse».
Studien peker også på at AI kan gjøre oss mer sneversynte – de som brukte AI til kritiske oppgaver, produserte «et mindre variert sett av resultater» enn de som jobbet uten.
Likevel er det ingen tvil om at AI-verktøy som ChatGPT – som Microsoft for øvrig eier en betydelig andel av – kan bidra til økt effektivitet. Forskerne advarer imidlertid mot å bli for avhengige av teknologien.” (3)
“Vi ble ikke dummere av kalkulatoren, men vi sluttet å pugge gangetabellen. Nå gjør AI det samme med langt flere oppgaver. Verktøyene kan gjøre det enklere å løse oppgaver raskt – men også friste oss til å hoppe over tenkingen. Hvis vi lar språkmodellen skrive konklusjonen for oss, mister vi kanskje det viktigste: Selve evnen til å tenke kritisk og selvstendig.
Det kan være viktig å ha med seg når vi vet at AI også kan forsterke våre eksisterende fordommer og feilslutninger, uten at vi merker det. Derfor må kritisk tenkning bli en ferdighet vi trener aktivt – ikke noe vi tar for gitt. Spørsmål som “hvem har laget modellen?” og “hva slags bias kan ligge bak?” må bli like naturlige som å dobbeltsjekke en kilde i en skoleoppgave.
AI kan være en kraftfull assistent, men den er fortsatt bare det, en assistent. Vi må lære folk å samarbeide med teknologien, ikke bli styrt av den. Det betyr at kritisk tenkning må trenes, både i klasserommene og på arbeidsplassene, og vi må ha strukturer og regler som sikrer transparens og ansvarlighet.” (4)
“- Jo flinkere teknologien blir til å løse problemer, desto større er risikoen for at vi selv blir dårligere til det samme, skriver Jarle Hildrum, direktør i Deloitte Consulting Norge.
På 1980-tallet oppdaget filosofen James Flynn at gjennomsnittlig IQ i industriland hadde økt jevnt over et århundre, et fenomen kjent som Flynn-effekten. Økningen ble delvis forklart med spredning av vitenskapelige begreper gjennom utdanning og massemedier, som hjalp mennesker å forstå og løse komplekse problemer.
Men ny forskning advarer om at økt bruk av generativ KI kan føre til en svekkelse av vår kollektive intelligens. Når vi overlater tenkning og problemløsning til KI, får vi færre muligheter til å trene vår egen kognitive kapasitet. For eksempel kan skriving, en viktig form for hjernetrening, bli nedprioritert når KI overtar skriveoppgaver. KI genererer også homogene tekster, noe som kan redusere tilgangen til unike og varierte ideer, og bruken av KI til problemløsning kan svekke læring og hukommelse, spesielt blant elever og ansatte.
Selv om KI gir store muligheter til å effektivisere arbeid og frigjøre tid, kreves ansvarlig bruk for å beskytte vår intelligens.
Bare gjennom samhandling og systematisk tilnærming kan samfunnet utnytte KI-teknologiens potensial og samtidig adressere sikkerhetsutfordringer. Riegler oppfordrer til en nasjonal “dugnad” for å sikre at KI brukes riktig og effektivt.
Kunstig intelligens bruker store mengder energi og vann. KI er ikke et leketøy, mener flere KI-forskere.
KI bruker store mengder energi og vann, noe som har vekket bekymring blant forskere. Generative KI-verktøy som ChatGPT, som bruker datasentre for å prosessere forespørsler, krever betydelige ressurser, spesielt vann for å kjøle serverne.
Én samtale med ChatGPT kan for eksempel forbruke opptil en halv liter vann, avhengig av datasenterets plassering og kjølingsmetoder.
Forskere som Leonora Bergsjø (HiØ) og Signe Riemer-Sørensen (Sintef) oppfordrer til mer bevisst bruk av KI og strengere regulering for å redusere sløsing på mindre nødvendige aktiviteter som underholdning. Norge satser på grønn KI og bærekraftige datasentre, men det er fortsatt utfordringer knyttet til å kartlegge KI-teknologiens fulle miljøpåvirkning.
FN har også uttrykt bekymring over KI-brukens økende belastning på globale vannressurser, særlig i tørkerammede områder. Etterspørselen etter KI forventes å øke kraftig, og forskere mener at etiske og bærekraftige retningslinjer må utvikles for å håndtere miljøkonsekvensene.” (5)
Muligheten for at KI kan gjøre skrivejobben, blir for fristende for mange unge. Konsekvensen kan være at skriveferdighetene blir svekket, på samme måte som at leseferdighetene er blitt svekket i møtet med det digitale.
Men brukt riktig kan KI være et verktøy som hjelper elevene. Med 30 elever i klassen er det behov for en assistent som kan gi raske svar tilpasset den enkelte elevs nivå. Dessuten kan KI være nyttig for elever som i liten grad får hjelp hjemme til skolearbeidet. ChatGPT kan dessuten være en glimrende skrive-coach.
Dessverre kan KI også bidra til et nytt klasseskille. Noen elever vil, gjennom foreldrene, ha tilgang til mer avanserte språkmodeller som krever betalingsabonnement. Skolen kan her spille en utjevnende rolle, men det vil koste.
I min idealverden er skolen i front både når det gjelder å ta i bruk KI, men også når det gjelder å være kritisk til KI. Hvis skolen skal forholde seg til denne nye virkeligheten, må vi ha en strategi. Vi trenger møteplasser, og vi trenger kompetanseheving hos dem som skal møte barn og de unge.
Når skolen har stått foran andre utfordringer, som mobbing eller dalende ferdigheter i matematikk, har man hatt strategier. Man har pekt på utfordringene, satt inn ressurser, ikke bare laget noen retningslinjer på nettsider.
Skolen plikter å forberede barn og ungdom på fremtiden. Skepsis eller mangel på kompetanse bør ikke være et hinder for at KI benyttes i undervisningen. Vi har håndtert ny teknologi før, som med kalkulatoren i matte og internett i alle fag. Det bør nok en gang være mulig å tilpasse seg. Men handlekraft og en pedagogisk strategi er nødvendig. (6)
“Hva skjer når vi blir mer avhengige av teknologi for å hente svar, og hva betyr det for språk, kultur og intellektuell integritet i fremtiden?
I en innsiktsfull artikkel for Epoch Times stiller Jeffrey A. Tucker spørsmålet om kunstig intelligens (KI) vil øke menneskelig intelligens eller om det vil føre oss inn i en mer passiv og mindre intellektuelt krevende tilværelse. Hans refleksjoner fremhever både fordelene og de dype utfordringene som følger med denne teknologiske revolusjonen.
Tucker starter med å undre seg over den bekvemmeligheten og myndiggjøringen som KI tilbyr. Med verktøy som gir oss umiddelbar tilgang til enorme mengder kunnskap, er KI utvilsomt en berikelse i hverdagen. Muligheten til raskt å hente informasjon og forbedre vår forståelse av nesten hvilket som helst emne er imponerende. Men som Tucker påpeker, kommer disse fordelene med betydelige forbehold.
Ved første øyekast virker det som om KI og dens utbredelse er i ferd med å skape en langt smartere verden. Informasjon er nå tilgjengelig for oss på en måte vi aldri har sett før, og potensialet for selvforbedring virker nærmest grenseløst. Men Tucker advarer om at den samme lettheten vi får tilgang til informasjon på, kan undergrave dypere intellektuell engasjement. Akkurat som GPS-systemer har gjort mange av oss dårligere til å navigere, kan også KI gjøre oss mindre avhengige av egen kritisk tenkning og problemløsning. Den enkle tilgangen til svar kan redusere insentivet til virkelig å forstå et emne eller utforske det i dybden.
For Tucker er skiftet i hvordan vi tilegner oss kunnskap både en velsignelse og en forbannelse. Internett og KI har gitt oss tilgang til en informasjon mengde uten sidestykke, men de har også betinget oss til å stole på eksterne kilder for svar. Den eldgamle prosessen med å lære, hvor informasjon ble søkt, internalisert og reflektert over, har blitt erstattet med raske, overfladiske møter med kunnskap. Denne bekvemmeligheten, som gjør livet lettere, har også fremmet en kultur preget av intellektuell lathet.” (7)
“Det er unektelig noe forlokkende med de generative språkmodellene, som villig svarer på nesten alt vi måtte lure på. Likevel er KI-teknologien langt fra feilfri. Generativ KI kan både hallusinere og produsere ukorrekt informasjon, og det er her vi må være på vakt hvis vi jobber med tekst og fakta.
Det kan virke som om vi har blitt fartsblinde i troen på KI – både når det gjelder hva KI kan utføre av oppgaver, og hvilken kompetanse det kreves av oss som brukere.
Generativ KI har fått flere av oss til å sperre opp øynene. Vi lar oss fascinere av raske svar og nikker anerkjennende til dens intelligens. Dens kunstige intelligens, for å være presis.
Vi må anta at KI-teknologien vil bli bedre og hallusinere mindre. Men intelligensen blir ikke mindre kunstig av den grunn – den blir bare vanskeligere å skille fra menneskelig intelligens.
Så la oss ikke komme dit at vi blir dummere, jo smartere KI blir.” (8)
“Kritisk tenkning har fått særlig betydning i møte med det digitale, og blir videre relevant i møte med kunstig intelligens som del av skoleverden. Spesielt med tanke på formuleringen til Kunnskapsdepartementet (2017): Elevene skal kunne vurdere ulike kilder til kunnskap og tenke kritisk om hvordan kunnskap utvikles. Også i formuleringen av formålsparagrafen utpekes Kritisk tenkning ved:
Elevane og lærlingane skal lære å tenkje kritisk og handle etisk og miljøbevisst. Dei skal ha medansvar og rett til medverknad» (§1-1, Opplæringslova, 2008). Skolens oppdrag som står nedfelt i formålsparagrafen og læreplanens overordnet del handler blant annet om å legge til rette for undervisning og læring som bidrar til at elever kan utvikle deres evne til kritisk tenkning som en del av skolens utdannings- og danningsoppdrag. Kritisk tenkning forstås ofte som en forutsetning for å kunne ta aktivt del i et demokrati, og anses dermed som et danningsideal.
Spørsmålet om KI som uttrykk for instrumentell fornuft krever en dypere forståelse av hvordan teknologi ikke bare fungerer som et verktøy for effektivitet og ytelse, men også hvordan det former menneskelige verdier, adferd og beslutningsprosesser.
KI har vekket stor debatt og det råder ulike diskurser om hvorvidt dette er et gode eller et onde som verktøy i skolen. Bekymringer som meldes rundt økt digitalisering i skole og bruk av kunstig intelligens er eksempelvis knyttet til elevenes personvern, lese- og skrive- og leseferdigheter, elevenes evne til digital dømmekraft, elevens læring, utvikling og danning og kanskje spesielt hvordan bruk av kunstig intelligens kan påvirke elevenes evne til kritisk tenkning og refleksjon.
KI blir av flere unge brukt som både kunnskapskilde og læringsverktøy, og av den den grunn bør det være en viss kritisk refleksjon rundt bruken, ettersom den raske tekstgenereringen ikke nødvendigvis bidrar til læring eller sann informasjon. KI bør brukes til å komplementere og forbedre, snarere enn å erstatte menneskelige evner i utdanningen.
Vår forforståelse ligger på et fundamentalt nivå, der alt vi sier, tenker og handler skjer som følge av vår forforståelse. Dette gjelder også for tolkning, hvor vi leter etter mening i det skjer og er rundt oss. Vi går inn i situasjoner med erfaringer og kunnskap som utgjør vår forforståelse, det som videre utspiller seg i situasjonen vil være en kilde til informasjon vi kan fortolke og dermed også ta med oss videre i vår forforståelse. Dette blir altså en veksling frem og tilbake mellom forforståelse og fortolkning. Med andre ord kan man si at vi til enhver tid legger sammen deler som til slutt utgjør en helhet. Det er denne prosessen som også foregår når vi leser en tekst. Våre erfaringer og kunnskaper ligger som en forforståelse i møte med teksten. Samtidig inneholder teksten ny informasjon og mening som vi fortolker på bakgrunn av det vi allerede kan og har erfart (vår forforståelse). Denne vekslingen mellom forforståelse og fortolkning vil skape forståelse av en helhet.
Generativ kunstig intelligens som for eksempel ChatGPT utfordrer en del pedagogiske og utdanningspolitiske spørsmål. Som allerede nevnt finnes det en del bekymringer for effekten av KI. Spesielt i forhold til formingen av instrumentell fornuft. Kort fortalt handler den om en fare for å skape en avhengighet til GKI, der en som elev kan eksempelvis stoppe med skriving fordi chatboter kan gjøre skrivingen for eleven. Konsekvensene av denne avhengigheten er at en selv mister prosessen av kreativitet og skapelse, og dermed erstatte dannende prosesser med tekniske. Noe i skriveprosessen går tapt, noe som kan skape en underordning og avhengighet til en ytre-autoritet (maskiner), som igjen undergraver kraften til kritisk tenkning. Funn som indikerer svekkelse av kritisk tenkeevner er i sammenheng med dannelsesidealene alvorlige konsekvenser med bruken av KI.
Mulighetene som KI og spesielt generativ KI bringer til skolen er mange. Dette vil ha konsekvenser for danningsprosesser som fordrer kritisk tenkning. Det vil kunne fungere i samsvar med utvikling av kritisk fornuft eller av instrumentell fornuft. Spørsmålet er i hvilken grad de forskjellige formene for fornuft blir vektlagt.
Elever kan effektivisere visse læringsprosesser som for eksempel i tekstproduksjon, men står i fare for å gi fra seg de verdifulle prosessene som handler om å danne elevene til kritisk tenkende individer. Det å selv være en aktiv del av sin egen dannelsesprosess, heller enn å overlate ansvaret til KI, gjør at elever utfordres til å tenke selv gjennom aktiviteter og oppgaver.
Det er et behov for bredere samfunnsdialoger omkring dannelseskonsekvensene av KI i utdannelse og dannelse. Slike dialoger bør involvere et mangfold av stemmer fra ulike sektorer i samfunnet som er med på å sikre at implementeringen av KI tjener offentlige og demokratiske interesser, ikke bare teknologiske og økonomiske mål.
Fremtidig forskning bør undersøke hvordan pedagogisk praksis kan tilpasses for å bedre harmonere med teknologiske fremskritt og samtidig opprettholde et fokus på elevenes danning. Det er essensielt å anerkjenne og adressere de pedagogiske utfordringene som oppstår i spenningen mellom teknologisk effektivitet og pedagogiske idealer.
Ved å vedlikeholde en kritisk tilnærming til bruk av KI i utdanningen, og i dannelsesprosesser generelt kan vi sikre at teknologien benyttes på en måte som støtter og beriker elevenes danning, fremfor å begrense den. Vi må arbeide for at teknologi i utdanning ikke bare blir et verktøy for effektivitet, men også et middel for å fremme personlig vekst, slik at vi kan opptre som autonome mennesker med evne til kritisk tenkning.” (9)
ChatGPT har «knust Turing-testen», altså at ChatGPT klarer å lure mennesket til å tro at den er menneske.
Kunstig intelligens, game over for menneskeheten ?
