KI in der öffentlichen Verwaltung — Rechtliche Anforderungen
Besondere rechtliche Anforderungen an KI in der öffentlichen Verwaltung
Offentlighetsprincipen och Transparens
Offentlighetsprincipen (grundlagsfäst i Tryckfrihetsförordningen) innebär att allmänheten har rätt att ta del av allmänna handlingar. Detta får särskilda konsekvenser för AI:
Vad Räknas som Allmän Handling?
- • Dokumentation av AI-systemets funktion och beslutslogik
- • Inköpskontrakt och avtal med AI-leverantörer
- • Riskbedömningar och konsekvenanalyser
- • Beslut fattade av eller med stöd av AI
- • Loggfiler och dokumentation av AI-beslut
Undantag från Offentlighet
Vissa delar kan sekretessbeläggas:
- • Känslig personinformation (sekretess enligt offentlighets- och sekretesslagen)
- • Säkerhetsaspekter av AI-system (t.ex. för polisen)
- • Affärshemligheter i leverantörsavtal (begränsat, kan inte dölja allt)
Förvaltningslagen och Motivering av Beslut
Förvaltningslagen (2017:900) ställer krav på myndigheters beslutsfattande. Särskilt viktiga paragrafer för AI:
32 § - Motiveringsplikt
Ett beslut som går någon part emot ska innehålla de skäl som har bestämt utgången, om beslutet kan överklagas eller annars kan antas bli överklagat.
5 § - Utredningsskyldighet
Myndigheten ska se till att ett ärende blir utrett i den omfattning som dess beskaffenhet kräver. AI får inte ersätta myndighetens ansvar att utreda ordentligt.
9 § - Objektivitet och saklighet
Myndigheten ska behandla ärenden opartiskt och sakligt. AI-system måste testas för bias och diskriminering för att uppfylla detta krav.
Praktisk Konsekvens
Myndigheten måste alltid kunna:
- • Förklara varför AI-systemet kom till ett visst resultat
- • Visa att beslutet är förenligt med lag och praxis
- • Granska och vid behov ändra AI:s förslag
- • Ta fullt ansvar för beslutet (även om AI använts)
Upphandling av AI-System
Offentlig upphandling av AI-system måste följa lagen om offentlig upphandling (LOU). Särskilda överväganden:
Krav i Upphandlingen
Exempel: AI-Användning i Offentlig Sektor
✓Lämpliga AI-tillämpningar
- • Beslutstöd (inte beslutsfattande): AI föreslår, människa beslutar
- • Automatisering av rutinbeslut: Enkla ärenden med tydliga regler
- • Prioritering av ärenden: Hjälper identifiera brådskande ärenden
- • Sökning i rättsfall: Hjälpmedel för handläggare att hitta relevant praxis
- • Chatbots för enkel information: Svar på vanliga frågor, alltid med möjlighet till mänsklig kontakt
✗Problematiska användningar
- • Helt automatiserade myndighetsbeslut: Utan mänsklig granskning strider mot förvaltningslagen
- • Black box-system: Omöjliga att förklara, strider mot offentlighetsprincipen
- • Prediktiv polisiär verksamhet: Risk för diskriminering och integritetsintrång
- • AI-baserad social scoring: Förbjudet enligt EU AI-förordningen