Undervisningsmateriale · Øvelser

AI og etik – øvelser

Tre dialogøvelser i stigende sværhedsgrad – tænk, tal sammen, og find jeres egne svar

De følgende tre øvelser er bygget til at sætte tankerne i gang og skabe samtaler i klassen. Der findes ingen rigtige eller forkerte svar – pointen er at sætte ord på sine egne værdier og høre, hvordan andre tænker.

Start med øvelse 1, der lægger op til en personlig refleksion. Øvelse 2 flytter blikket ud på arbejdspladsen. Øvelse 3 er den mest komplekse og handler om samfundsmæssige beslutninger. Vælg den eller dem, der passer til tiden og holdet.

1
●○○
Begynder · Personlig refleksion
De svære ord
Sådan arbejder I: Læs scenariet sammen. Tænk hver især i 2 minutter. Tal derefter sammen to og to, eller i grupper på 3-4, i ca. 10 minutter.
Scenarie

En kollega gennem 30 år går på pension i næste uge. I har arbejdet tæt sammen, og du synes godt om hende. Hele afdelingen skal skrive en lille hilsen til hende, som samles i et album.

Du sidder og stirrer på det blanke papir. Du synes, det er svært at finde de rigtige ord – og du overvejer at bede ChatGPT om at skrive afskedshilsenen for dig.

Spørgsmål til drøftelse
  1. Ville du gøre det? Hvorfor – eller hvorfor ikke?
  2. Er der forskel på at få en kollega til at hjælpe med ordene, og at få en AI til det?
  3. Ville det ændre noget, hvis du fortalte din kollega bagefter, at AI'en havde hjulpet?
  4. Er der noget galt med at bruge AI som inspiration og så skrive selv?
Perspektiver at overveje

Argumenter for

  • AI kan hjælpe, når man har "skriveblokering"
  • Det vigtige er intentionen, ikke ordene
  • Bedre at sende en pæn hilsen end ingen
  • Vi spørger jo også familie og venner om hjælp

Argumenter imod

  • En personlig hilsen skal være personlig
  • Modtageren føler sig snydt, hvis det opdages
  • Vi mister evnen til at formulere os selv
  • Relationen fortjener den ægte indsats
2
●●○
Mellem · Arbejdspladsen
Den nye kollega hedder AI
Sådan arbejder I: Del jer i grupper på 3-4. Hver gruppe vælger et af perspektiverne (medarbejder, leder, kunde) og argumenterer ud fra det i 5 minutter. Bagefter samler vi op i plenum.
Scenarie

En mellemstor dansk virksomhed med kundeservice overvejer at indføre et AI-system, som automatisk kan besvare ca. 70 % af alle kundehenvendelser – uden at en medarbejder skal røre ved sagen.

Systemet kan svare døgnet rundt på dansk, det er hurtigt, og det laver sjældent fejl på de simple spørgsmål. Ledelsen regner med, at virksomheden kan spare to ud af otte stillinger i kundeservice.

Kunderne vil som udgangspunkt ikke blive informeret om, at de skriver med en AI – men der er en knap, hvor man kan bede om at blive stillet om til et menneske.

Spørgsmål til drøftelse
  1. Er det i orden, at kunderne ikke får at vide, at det er en AI, de skriver med?
  2. Hvilket ansvar har virksomheden over for de to medarbejdere, der mister arbejdet?
  3. Hvad sker der med arbejdsglæden hos de seks, der bliver tilbage – og som måske kun får de svære sager?
  4. Hvis AI'en svarer forkert på en vigtig sag, hvem har så ansvaret? Programmøren? Lederen? Kundeservicemedarbejderen, der ikke fangede det?
  5. Ville I selv hellere skrive med en AI eller et menneske – og afhænger svaret af, hvad I skal spørge om?
Perspektiver at overveje

Argumenter for

  • Hurtigere svar – også uden for åbningstid
  • Medarbejderne får de meningsfulde sager
  • Billigere drift kommer kunderne til gode
  • Færre rutineopgaver, mere kvalitet
  • Bedre konkurrenceevne for virksomheden

Argumenter imod

  • Mennesker mister jobbet – og samfundet betaler
  • Kunder fortjener at vide, hvem de taler med
  • AI'en mangler den menneskelige forståelse
  • Sårbare borgere kan ikke gennemskue systemet
  • Når noget går galt, er ansvaret uklart
3
●●●
Avanceret · Samfundet
Algoritmen på ventelisten
Sådan arbejder I: Del jer i fire grupper – patient, læge, hospitalsledelse og politiker. Hver gruppe forbereder argumenter ud fra deres rolle i 10 minutter og fremlægger dem for hinanden. Til slut samles vi om et fælles forsøg på at finde et kompromis.
Scenarie

Et dansk regionssygehus vil afprøve et AI-system, der prioriterer patienter på ventelisten til en bestemt operation. Systemet bygger på medicinske data, alder, livsstil, sandsynlighed for at behandlingen lykkes, og forventet livskvalitet bagefter.

En stor undersøgelse viser, at AI'en træffer "bedre beslutninger" end menneskelige læger – målt på samlet overlevelse og samlet livskvalitet for alle patienter under ét.

Men undersøgelsen viser også, at visse grupper bliver systematisk nedprioriteret: ældre, rygere, overvægtige og personer med flere kroniske sygdomme. Det er ikke en fejl i systemet – det er, fordi disse grupper statistisk har dårligere udsigter.

Ledelsen siger ja. En patientforening klager til Datatilsynet og henviser til GDPR artikel 22 om automatiserede afgørelser.

Spørgsmål til drøftelse
  1. Hvad betyder en "bedre" beslutning her? Bedre for hvem?
  2. Er det retfærdigt, at en algoritme nedprioriterer en 75-årig til fordel for en 40-årig – hvis lægen ville have gjort det samme?
  3. Er der forskel på en menneskelig læges skøn og en algoritmes? Hvis ja, hvori ligger forskellen?
  4. Skal patienten have ret til at få sin sag vurderet af et menneske i stedet for? Selv hvis det måske giver et "dårligere" resultat?
  5. Hvem skal i sidste ende have ansvaret, hvis en patient dør, fordi AI'en nedprioriterede dem?
  6. Hvor går grænsen? Ville I sige ja til AI på ventelister, men nej i strafferetten? Hvorfor (ikke)?
Perspektiver at overveje

Argumenter for

  • Flere mennesker overlever samlet set
  • Beslutningerne bliver mere ensartede
  • Lægens egne fordomme spiller mindre rolle
  • Knappe ressourcer fordeles "rationelt"
  • Systemet kan dokumentere sit grundlag

Argumenter imod

  • Visse grupper rammes systematisk
  • Statistik må ikke afgøre én persons skæbne
  • Menneskeværd måles ikke i overlevelses-procent
  • Vi giver afkald på det medmenneskelige skøn
  • GDPR art. 22 kræver menneskelig indgriben