Digital forvaltning – mod en ny offentlig sektor

19. SEPTEMBER 2017

Side 1

Kunstig intelligens i en forvaltning

› Hvordan kan man bruge kunstig intelligens til

digital forvaltning i det offentlige?

› Hvilke udfordringer er der ved visionen?

› Hvilken kvalitet kræves, før AI-teknologi kan bruges?

› Hvilke krav stilles til legalitet og transparens?

› Hvilke juridiske regler skaber i praksis udfordringer?

19. SEPTEMBER 2017

Side 2

bruges i stedet

Computersystemet Deep Blue vinder over

verdensmesteren i skak, Kasparov

Brain power v. Computer power

19. SEPTEMBER 2017

Side 3

1997

Computersystemet Watson vinder over verdens

bedste Joepardy-deltagere på nationalt tv

2011

Computersystemet AlphaGo slår mesteren Lee

Sodol i det abstrakte strategi-brætspil ”Go”

2016

Brain power v. Computer power

19. SEPTEMBER 2017

Side 4

Computersystemet Deep Blue vinder over

verdensmesteren i skak, Kasparov

1997

Computersystemet AlphaGo slår mesteren Lee

Sodol i det abstrakte strategi-brætspil ”Go”

2016

“''It may be a hundred years before a computer beats humans at Go -- maybe even longer,'' said Dr. Piet Hut, an astrophysicist at the Institute for Advanced Study in Princeton, N.J., and a fan of

the game. ''If a reasonably intelligent person learned to play Go, in a few months he could

beat all existing computer programs. You don't have to be a Kasparov.''

When or if a computer defeats a human Go champion, it will be a sign that artificial

intelligence is truly beginning to become as good as the real thing.”

George Johnson: To Test a Powerful Computer, Play an Ancient Game, New York Times, 29. juli 1997

… hvad vil det egentlig sige?

… Det er ikke et spørgsmål om at erstatte mennesker med robotter

19. SEPTEMBER 2017

Side 5

It-løsningerne skal ses som værktøjer for

myndigheder og sagsbehandlere

Et menneske og it-løsninger i sammenhæng vil altid kunne

outperforme et menneske henholdsvis it-løsninger hver for sig

Mål

bruges i stedet

ESDH og lign.

Digitaliseringens trends

19. SEPTEMBER 2017

Side 6

Tid

Kom

ple

ksi

tet

/ k

raft

/ o

mfa

ng

Vi er ca. her i dag

Udviklingen er eksponentiel

Ifølge Moore’s law fordobles

computerkraft ca. hvert

andet år

1. generation

2. generation

3. generation

4. generation

(to be)

bruges i stedet

Cases

19. SEPTEMBER 2017

Side 7

Simpel selvbetjeningHalv- og helautomatiserede

afgørelsessystemer AI-teknologi

ImplementeringsCenter for

Ejendomsvurderinger (ICE)

Politisk fokus på it-kvalitet

19. SEPTEMBER 2017

Side 8

KMD og Udbetaling Danmark har på et år begået 12

fejl i forbindelse med oplysning og udbetaling af

offentlige ydelser, herunder bl.a.:

Datafejl2.000 borgere

fejlagtigt reduceret

i boligstøtte

1.000-2.000 borgere

ikke udbetalt særlig

støtte

9.100 fejlagtigt nedsat

ydelser

88 borgere ramt af forsinkelse med

udbetaling af barselspenge

54.000 fejlagtige

breve ud til borgere

med loftsplaceringer

”Jeg finder det på ingen måde acceptabelt, at der er sket så mange fejl. 12 fejl er 12 fejl for mange”

”Det er dybt utilfredsstillende, at man skal

vente så lang tid på at få udbetalt en ydelse.

Det er jo ikke samme langmodighed, der

gælder hvis man skylder noget til Skat. Her

bliver det ikke godtskrevet, hvis man har et

problem med sin pc”

”Jeg vil gerne præcisere, at det helt grundlæggende er kommunerne og

Udbetaling Danmarks ansvar at sikre, at der sker en sikker og korrekt

implementering og administration af nye ydelsesregler. Derfor er det også deres ansvar, at deres it-leverandør leverer systemer i henhold til deres

kontraktuelle forpligtelser.”

Udfordringer og krav

19. SEPTEMBER 2017

Side 9

Overordnede krav:

19. SEPTEMBER 2017

Side 10

Lovgivningen er teknologineutral, dvs. der stilles

de samme krav til it-systemer som sagsbehandlere

1

Det kræver lovhjemmel at fravige almindelige

forvaltningsretlige regler som led i digitaliseringen

2

Det er den enkelte myndigheds ansvar, at dens it-

løsninger lever op til alle reglerne

3

bruges i stedet

Kan man bruge AI-teknologi til at træffe afgørelser?

19. SEPTEMBER 2017

Side 11

Hvad er din ejendom værd efter reglerne om ejendomsvurdering?

Køkken renoveret i 2012

200 meter til hav

152 m2 beboelse

48 m2 kælder

372 m2 have

Garage med plads til én bil

Gammelt legehus i haven

Konjunktur-udviklingen

Urbanisering

Køkkenhave Muldvarpeskud1.500 meter til kysten

500 meter til nærmeste togstation

50 meter til

dagligvarebutik

100 meter fra behandlingscenter

for misbrugere

1.800 meter fra skole

2 toiletter, 1 bad

Opført 1974

4 værelser

Havudsigt fra 1 vindue

Energiklasse C

Kloaklugt i kælderAI-teknologi

(prædiktiv model)

… kunne en sagsbehandler gøre det bedre?

Manuel

sagsbehandling

Afgørelse om ejendomsvurdering

bruges i stedet

Kan man bruge AI-teknologi til at træffe afgørelser?

› Grundlæggende er lovgivningen teknologineutral,

og der er i udgangspunktet intet i vejen for, at

forvaltningen anvender kunstig intelligens til at

udøve et skøn eller foretage

fortolkning/vurdering.

› Det betyder omvendt, at de kunstigt intelligente

forvaltningssystemer skal overholde alle de

forvaltningsprocessuelle og materielle regler, som

ville gælde for et menneske.

› Heri ligger bl.a. et betydeligt krav om interaktion

og transparens i forhold til den berørte borger.

19. SEPTEMBER 2017

Side 12

Data BorgerRetsregler

DataanalyseFortolkning

Subsumption

Høring Borger

Afgørelse

Klage Borger

Hvilken kvalitet kræver juraen?

› Den almindelige forvaltningsret kræver, at en

afgørelse er lovlig og korrekt

› Grundlæggende krav om hjemmel i loven

› Grundsætninger der binder skønsudøvelsen

› 99 pct. er ikke nok, da lovgivningen beskytter den enkelte.

› Udgangspunktet er derfor, at der ikke må begås

fejl. Kravet er derfor en fejlprocent på 0 pct.

› Faren er de systemiske risici: Selv små fejl kan få store

konsekvenser (Ét Fælles Inddrivelsessystem)

› Lovgiver kan fravige princippet om nul-fejl.

19. SEPTEMBER 2017

Side 13

100 % rigtighed

Individualisering BagatelgrænseEnsartethed

bruges i stedet

Hvilke krav stilles til legalitet og transparens?

19. SEPTEMBER 2017

Side 14

Lovtekst AI-teknologi Afgørelse

Transformeringsproblemet

Eksempler på transparensproblemer

Forvaltningsloven

§ 22. En afgørelse skal, når den meddeles skriftligt, være ledsaget

af en begrundelse, medmindre afgørelsen fuldt ud giver den

pågældende part medhold.

§ 24. En begrundelse for en afgørelse skal indeholde en henvisning

til de retsregler, i henhold til hvilke afgørelsen er truffet. I det

omfang, afgørelsen efter disse regler beror på et administrativt

skøn, skal begrundelsen tillige angive de hovedhensyn, der har

været bestemmende for skønsudøvelsen.

Stk. 2. Begrundelsen skal endvidere om fornødent indeholde en kort

redegørelse for de oplysninger vedrørende sagens faktiske

omstændigheder, som er tillagt væsentlig betydning for afgørelsen.

Persondataforordningen

› Den registrerede har i visse tilfælde ret til ikke at blive gjort til

genstand for en afgørelse, der bygger på profilering. En sådan

behandling omfatter »profilering«, der består af enhver form for

automatisk behandling af personoplysninger, der evaluerer de

personlige forhold vedrørende en fysisk person … (pr 71)

› Enhver registreret skal derfor have ret til at kende og blive

underrettet om navnlig de formål, hvortil personoplysningerne

behandles, om muligt perioden, hvor personoplysningerne

behandles, modtagerne af personoplysningerne, logikken der

ligger bag en automatisk behandling af personoplysninger, og om

konsekvenserne af sådan behandling, i hvert fald når den er

baseret på profilering.

19. SEPTEMBER 2017

Side 15

bruges i stedet

Hvordan tackler vi udfordringerne?

› Transformering: Vi skal arbejde med at løse transformeringsproblemerne på en måde, der anerkender den kompleksitet,

der ligger i tolkningerne af regelsættene.

› Transparens: Den kunstige intelligens skal trænes til at løse transparensproblemerne, således at det ikke kun er facit,

men også vejen derhen som beskrives. Det giver et ekstra lag til den forventningerne. Samtidig skal vi tæmme

forventningen om fuld indsigt.

› Legitimitet: Opbygge tillid via understøttende systemer først.

› Lovgivning: Ændre lovgivningen for at definere de acceptable fejl / usikkerheder.

19. SEPTEMBER 2017

Side 16

Næste skridt?

19. SEPTEMBER 2017

Side 17

Hvilke dele af min organisation egner sig til automatisering?

19. SEPTEMBER 2017

Side 18

Digitaliseringsanalyse

Ind

sats

om

råde

Sagsbehandling

i myndigheden

Digitaliseringsanalysen

• Kortlægger områder med potentiale set fra et juridisk

udgangspunkt, dvs. ud fra hvor reglerne indeholder mulighed for

det digitale.

• Dette fører til forslag til områder grupperet med muligheder for

understøttelse eller automatiserede afgørelser under hensyn til

regler, data, ambitionsniveau mv.

Fokusområder

Reguleringstunge

områder

Masseforvaltning

Høj

sagsvolumen

Lav

kompleksitet

Borgerhenvendelser

Dataindsamling og

-analyse

Overvågning /

kontrol / tilsyn

Diverse simple

sagsskridt

AnsøgningerVejledning

Dispositioner bundet til

kvantificerbare fakta

Et område kan digitaliseringsmodnes gennem regelændringer

19. SEPTEMBER 2017

Side 19

Digitaliseringsparat lovgivning

Som det ser ud nu, er de tilgængelige it-systemer ikke

avancerede nok til, at de kan foretage skøn og afveje

modsatrettede hensyn på samme måde som mennesker.

Grundsætningen om pligtmæssigt skøn (”skøn under

regel”) sætter grænser for adgangen til lovligt at

nedbryde en skønsregel i matematiske formler.

Løsningen er derfor i mange tilfælde, at lovgivningen

gøres digitaliseringsparat, dvs. reglerne udformes på

en måde, der er egnet til automatisering.

På sigt bør dette være en almindelig del af den lovtekniske gennemgang ved ny lovgivning

Med den eksponentielle vækst i udviklingen kan det

ikke udelukkes, at it-løsninger når at overhale

regelændringsprocessen ”indenom”.

… Måske bliver it-løsningerne lovgivningsparate, før

lovgivningen bliver digitalieringsparat?

Analysere og etablering af gode, specifikke data

19. SEPTEMBER 2017

Side 20

Etablering af datagrundlag

It-løsninger opererer på baggrund af et datagrundlag.

(Gode) data er nødvendigt for effektiv og fejlminimal

digital forvaltning.

De fleste myndigheder har ikke en struktureret tilgang

til indsamling og/eller kvalitetssikring af informationer,

der har betydning for administrationen af områder.

Løsningen er derfor, at myndigheder begynder at

prioritere tilvejebringelse datagrundlag af høj kvalitet.

Med gode data er veje til effektiv digitalisering kortere,

end man skulle tro.

På visse områder eksisterer et data-tomrum, fx fordi

det er et nyt administrativt område. I så fald kan

løsningen ikke bygge på eksisterende data.

Der kan etableres fiktive datasæt til test af it-løsningen. I

så fald er det afgørende, at løsningen løbende kan

justeres i takt med, at der kommer flere data (machine

learning)

Input (data) Output (afgørelse mv.)It-løsning

Nye data; evt.

korrektion

Husk de persondataretlige rammer for denne proces

Kammeradvokatens tager egen medicin….

› Interne initiativer

› Fristberegneren (app): Beregning af komplicerede udbudsfrister

› Digitale udbud: Elektronisk håndtering af udbudsprocesser

› Udvalgte rådgivningssager

› Udvikling af det nye inddrivelsessystem (ICI)

› Udvikling af det nye ejendomsvurderingssystem (ICE)

› Udvikling af det nye toldsystem (ICT)

19. SEPTEMBER 2017

Side 21

Tak for opmærksomheden

Se mere på www.kammeradvokaten.dk/digital.

Er I klar til den nye databeskyttelsesforordning? Tag Persondatatesten på www.persondatatesten.dk.

19. SEPTEMBER 2017

Side 22

Kammeradvokatens erfaringer

19. SEPTEMBER 2017

Side 23

KAPS bistår med etableringen af de nye løsninger for inddrivelse og

ejendomsvurdering, der er nogle af de mest ambitiøse it-projekter til

dato. KAPS er inddraget i forskellige faser, herunder regeltilpasning,

kravsætning, udbudsproces, nedbrydning i user stories samt validering

og tests i samarbejde med forretnings- og it-kyndige.

KAPS har bistået Styrelsen for Arbejdsmarked og Rekruttering med

VITAS-løsningerne, dvs. enkle enstrengede automatiserede

løsninger til selvbetjening på beskæftigelsesområdet. Bistanden

omfattede retsgrundlagsanalyse, løsningsdesign og implementering.

KAPS har bistået Arbejdsmarkedets Erhvervssikring og ATP i

forbindelse med anskaffelse af et nyt sags behandlingssystem.

Bistanden omfattede juridisk review af løsningsflows i en iterativ

proces med klienten.

KAPS bistår Arbejdstilsynet med at udforme en ny interaktiv

selvbetjeningsløsning på arbejdsmiljøområdet. Bistanden omfatter

regelforenkling og udvikling af et online compliance-produkt, der er

designet til at kunne yde målrettet vejledning til den enkelte borger.

bruges i stedet

Kammeradvokatens digitaliseringsteam

19. SEPTEMBER 2017

Side 24

Sune FugleholmPartner, advokat (H)sfs@kammeradvokaten.dk+ 45 25 43 03 10

Jakob KambyPartner, advokat (L)jka@kammeradvokaten.dk+ 45 25 10 05 31

Tom HolsøePartner, advokat (H)hol@kammeradvokaten.dk+ 45 25 43 03 15

Rasmus Holm HansenPartner, advokat (H)rhh@kammeradvokaten.dk+ 45 25 10 05 58

Jesper NørøxeDirector, advokat (L)jno@kammeradvokaten.dk+ 45 25 10 05 13

Martin SønnersgaardSenior manager, advokatmso@kammeradvokaten.dk+ 45 50 77 84 23

Milena Anguelova KrogsgaardJuniorpartner, advokat (L)man@kammeradvokaten.dk+ 45 25 10 05 57

Emil BisgaardManager, Erhvervsjuridisk rådgiverebi@kammeradvokaten.dk+ 45 50 77 84 76