07-11-2017

Når robotterne ikke kan stilles til regnskab

Kunstig intelligens og robotter bruges til at træffe beslutninger, der påvirker vores liv og økonomi, men indtil videre kan de ikke begrunde deres beslutninger, og derfor står vi med et etisk dilemma, siger professor Thomas Ploug.

Af
Carsten Rasmussen cr@finansforbundet.dk
 

​Intelligente robotter begynder at præstere i vores hverdag. Lige fra Siri i din iPhone og i GPS-systemerne til et kunstigt intelligent system som IBM's Watson, der hjælper lægerne med at redde liv. Beslutninger om økonomi og liv bliver i stigende grad truffet af kunstig intelligens, hvis datagrundlag overgår, hvad et menneske kan håndtere.

Selv om det i sig selv er en glædelig nyhed, at intelligente assistenter snart kan klare mange af vores job meget bedre, end vi selv kan, er der problemer forbundet med kunstig intelligens, advarer Thomas Ploug, der er professor med særlig fokus på computeretik og dataetik på Aalborg Universitet:

"Når Watson kan stille hurtigere og bedre diagnoser end lægen, er det et stærkt argument for at acceptere den kunstige intelligens. Men når man spørger computeren, hvad diagnosen er baseret på, er den ikke i stand til at forklare sine valg på en overskuelig måde. Vi mennesker vil have en forklaring for at få skabt mening med det, der skal ske", siger Thomas Ploug.

Hvem tør du betro dine data

"Overordnet set er den finansielle sektor først ved at starte på at tage kunstig intelligens-teknologier i anvendelse", siger Søren Finsel Bisgaard, der er Head of Process Automation i Danske Bank, men han ser store perspektiver for banken ved at benytte kunstig intelligens i forhold til beslutningstagen baseret på regler og erfaring:

"Ingen har lyst til at tage kreditbeslutninger baseret på en mavefornemmelse, så spørgsmålet er, hvordan digitaliseringen bedre kan understøtte rådgiveren i en stadig mere kompleks beslutning", siger Søren Finsel Bisgaard og peger på nogle dilemmaer i anvendelsen af kunstig intelligens:

"Vi har været igennem nogle revolutioner gennem tiderne, som da traktoren afløste hesten på marken, men det er da bekymrende, hvis kunstig intelligens-teknologi er endnu mere omsiggribende og forandrer verden hurtigere end de teknologiske revolutioner, vi tidligere har set", siger Søren Finsel Bisgaard og tilføjer, at de, der sidder på data, sidder på magt:

"Viden om kunden gør det muligt at designe den personlige og unikke kundeoplevelse, der over tid gør dine servicer og produkter mere relevante for kunderne end konkurrenternes".

Bankerne har utrolig mange data på deres kunder, så det bliver også en kamp om, hvem brugerne tør betro deres personlige data:

"Når det gælder tilliden til, at vi er gode til at håndtere data, ligger bankerne ret højt, så det skal vi værne om. Der kan man godt være bekymret for, om nogle bliver for grådige efter at komme med på de nye muligheder på bekostning af datasikkerheden og til skade for branchen", siger Søren Finsel Bisgaard.

Forstå, føle, tænke

I Spar Nord Bank ser man også muligheder for, at menneske og robot arbejder sammen:

"Vi er på ingen måde der, hvor vores kernekunder aktivt efterspørger at kommunikere med robotter og kunstig intelligens frem for mennesker. Men det er meget sandsynligt, at vi kan bruge applikationer af kunstig intelligens, for eksempel chatbots og digitale assistenter, i vores betjening af kunderne", siger Ole Madsen, direktør for Kommunikation og Forretningsudvikling i Spar Nord Bank.

Ole Madsen tror ikke blindt på den såkaldte "singularitetshypotese" – altså hypotesen om, at vores computerkraft vokser eksponentielt, og at robotten tager over. Den menneskelige faktor vil stadig spille en rolle, mener han:

"Først og fremmest er mennesker bedre end robotter, når det gælder om at skabe en tillidsfuld og empatisk relation, og derfor foretrækker vores kunder at mødes personligt med en rådgiver, der forstår, hvad de føler og tænker".

Kend værdierne

Nye kunstigt intelligente redskaber kan hjælpe lægerne med at redde liv. Problemet er bare, at en lægelig beslutning truffet af Watson er umulig at gennemskue. Men hvis kunstigt intelligente maskiner faktisk bliver i stand til at tage etiske beslutninger som et menneske, ønsker vi så det? Og i så fald ud fra hvilke værdier?

"Vi vil gerne kende de værdier, der kan ligge hos lægen, når han foreslår en behandling. Vi ønsker en forklaring, fordi det kan give mening – men også for at kunne anfægte det faglige", siger professor Thomas Ploug med henvisning til Watson.

"Kunstig intelligens-systemer er baseret på systemer med en hel masse regler og vægte. Der ligger nogle værdier, som programmøren har lagt ind i systemet, men det kan også være værdier, som systemet selv har udviklet hen ad vejen, eller som skyldes et sammenfald af omstændigheder", siger Thomas Ploug og peger på det yderligere problem, at algoritmen kan være beskyttet af forretningshemmeligheder.

Det er et problem, når Watson kommer med behandlingsforslag. Det, der kaldes compliance, altså hvor god man er til at følge anvisninger, afhænger af, hvilken social klasse man tilhører. Hvis den bedste medicin er afhængig af en høj compliance, vil systemet kun tilbyde den bedste behandling til dem fra den højeste sociale klasse. Så har computeren de facto diskrimineret patienterne, mener Thomas Ploug:

"Alene af den grund er det også vigtigt, at vi kan kikke dem i kortene, så vi kan se, præcis hvilke forudsætninger de bygger en behandling på".

Et andet stort problem er anvendelsen af big data, fordi en forudsætning for at realisere kunstig intelligens er at realisere det store potentiale, der er i big data.

Som udgangspunkt er Watson uden ideologi. Watson har jo ikke noget incitament til at sige det ene frem for det andet, så i udgangspunktet har vi et system, som er ordentligt udviklet.

"Det er et problem, at vi ikke kan stille Watson til regnskab, og det betyder, at vi står med et demokratisk såvel som et etisk dilemma", siger Thomas Ploug.

TAGS:

Finansiel sektor; Sektorens udvikling; Fintech