Alt det med småt
En kort oversigt over regler, gennemsigtighed og dokumentation omkring AI-løsninger.
Tidsangivelserne herunder er justeret efter officielle kilder. Særligt gælder:
AI-færdigheder fra 2. februar 2025, forpligtelser for generelle AI-modeller
fra 2. august 2025 og gennemsigtighedskrav for chatbots mv. fra
2. august 2026.
AI Act
AI-forordningen hos Digitaliseringsstyrelsen
- Brugeren skal informeres om, at de interagerer med et AI-system eller en chatbot, medmindre det er indlysende.
- AI-genereret eller AI-manipuleret indhold som lyd, billede eller video kan udløse særlige gennemsigtighedskrav.
- Chatbots må ikke anvendes på måder, der falder ind under forbudte eller uacceptable AI-praksisser.
- For almindelige chatbots er den centrale regel typisk gennemsigtighed: det skal fremgå, at brugeren taler med en AI.
Generelle principper
- Brug af AI skal ske ansvarligt og uden diskrimination eller vildledning.
- Der er krav om AI-færdigheder og AI-literacy hos medarbejdere, der arbejder med AI-løsninger, fra 2. februar 2025.
Krav om træningsdata-oplysning
- Fra 2. august 2025 gælder der særlige forpligtelser for udbydere af generelle AI-modeller.
- En del af disse forpligtelser er at gøre et tilstrækkeligt detaljeret resumé offentligt om indholdet, der er brugt til træning af modellen.
- Formålet er at give et overblik over datagrundlaget uden at offentliggøre hele datasættet linje for linje.
- Hvis en generel AI-model indgår i en professionel løsning, er dokumentation om modellens egenskaber og begrænsninger vigtig for dem, der integrerer den videre.
- For almindelige chatbots med begrænset risiko er hovedkravet oftest stadig gennemsigtighed over for brugeren, ikke nødvendigvis fuld specialoplysning om hele datagrundlaget.
Et modelkort eller resumé bør indeholde
- En overordnet beskrivelse af træningsindholdet, fx tekst, billeder, lyd eller video.
- Angivelse af datakategorier, fx offentligt tilgængelige data, private datasæt, web-scrapede data, syntetiske data eller brugerdata.
- Oplysning om hovedkilder, fx Wikipedia, offentlige websites, bøger, licenserede arkiver eller databaser.
- En generel beskrivelse af datasættets egenskaber, formål, tidsrum og centrale begrænsninger.
- Oplysning om særlige typer data, hvis de kan have betydning for bias, ophavsret eller følsomhed.
- Et forståeligt overblik, der gør dokumentationen brugbar for andre end kun udvikleren.
Offentliggørelsesmetode
- Dokumentationen bør være tilgængelig online på en måde, som er let at finde.
- Det er god praksis at linke direkte til dokumentationen fra produktets eller modellens hovedside.
- Materialet bør være åbent og gratis at tilgå for de relevante målgrupper.
- Ved større ændringer i modellen bør dokumentationen opdateres.
- Formatet bør være digitalt og læsevenligt, fx HTML eller PDF.
Hvad betyder det for undervisere?
- Fortæl tydeligt, når en studerende møder en chatbot eller anden AI-assistent i undervisningen.
- Marker AI-genereret materiale, hvis det bruges som forklarende indhold, eksempelmateriale eller offentlig information.
- Brug ikke AI som skjult autoritet. Studerende skal kunne forstå, at svar kommer fra et AI-system og skal vurderes kritisk.
- Vær opmærksom på, hvilke data du deler med AI-værktøjer, især hvis materialet indeholder personoplysninger, cases eller interne dokumenter.
- Hvis et værktøj får stor betydning for faglige beslutninger eller vurderinger, er det vigtigt at kende dets begrænsninger og datagrundlag.
- Arbejd med AI-literacy i undervisningen, så studerende ikke kun bruger værktøjerne, men også forstår deres styrker, svagheder og risici.
Hvad betyder det for studerende?
- Du bør altid vide, når du taler med en chatbot eller bruger et AI-værktøj i en faglig sammenhæng.
- Du skal ikke tage AI-svar for fakta uden at tjekke dem kritisk mod faglige kilder.
- Hvis du bruger AI i en opgave, er det vigtigt at være bevidst om, hvad værktøjet hjælper med, og hvor grænsen går for din egen faglige indsats.
- Du bør være forsigtig med at dele personlige oplysninger, følsomme data eller andres arbejde i eksterne AI-systemer.
- AI kan være god til idéer, struktur og feedback, men den kan tage fejl, forenkle eller skjule usikkerhed.
- God AI-brug handler ikke kun om at få et hurtigt svar, men om at bruge værktøjet klogt og ansvarligt.