Det finns stora förväntningar om att artificiell intelligens (AI) ska bidra till att lösa framtidens utmaningar inom hälso- och sjukvården. Men samtidigt medför AI många etiska och samhälleliga utmaningar. Vid ett etiksamtal i Almedalen diskuterades hur vi kan ta tillvara möjligheterna och undvika problemen.
Emma Engström, forskare vid Institutet för framtidsstudier och Kungliga tekniska högskolan, beskrev AI som en teknik som utvecklas över tid i interaktion med andra. AI-verktygen gissar, och i början gissar den ofta fel men med tiden gissar den mer och mer rätt. Ju bättre data den tränas på, desto mer rätt får den.
– När en sådan teknik ska börja användas i hälso- och sjukvården väcks svåra frågor. Vi kanske kan acceptera att ett AI-verktyg gissar fel när den ska rekommendera film eller musik, men kan vi acceptera att vissa får felaktiga diagnoser?
En annan svårighet är att ett AI-verktyg kan vara bra i genomsnittsfallet men sämre för vissa grupper, till exempel minoriteter, eller vissa individer. Det kan också vara den AI som är svårast för människorna att förstå som fungerar bäst, enligt Emma Engström.
Nasim Farrokhina, hälso- och sjukvårdschef vid Microsoft Västeuropa och ordförande i eHälsoläkarföreningen, hävdade att även vi människor gissar och blir bättre på att gissa rätt med tiden, när vår erfarenhet ökar. Vi måste umgås med AI och dra nytta av varandras fördelar. Människor har fantasi, kreativitet och omdöme, medan datorer kan hantera stora mängder data utan att bli trötta.
Enligt Nasim Farrokhina måste hälso- och sjukvården byta till digitala arbetssätt för att kunna hålla kostnaderna nere med en alltmer åldrande befolkning. Det alltid så att vissa människor är early adopters och tar till sig ny teknik snabbt och entusiastiskt. Hon vill överlag se mer engagemang från läkarkåren i dessa frågor.
Max Herulf, chefsläkare på e-hälsomyndigheten, påpekade att hur AI utvecklas beror på vad vi ger den att äta. Om vi bara använder hälsodata i de verktyg som utvecklas för hälso- och sjukvården så riskerar vi att hamna fel. Endast 10 procent av vårt hälsoläge bestäms av det som händer i hälso- och sjukvården. Utbildning, landets styrelseskick och annat är också viktiga bestämningsfaktorer för hälsa.
Max Herulf trodde att människor under lång tid framöver kommer att önska att det är en människa och inte ett AI-verktyg som lägger sista handen vid de beslut som tas i vården. Han påminde dock samtidigt om att när det kom hissar som inte styrdes av en anställd person, utan där man fick trycka på knapparna själv, så ville människor först inte åka i dem.
Anna Starbrink, riksdagsledamot, och ledamot (L) i Smer, berättade att hon är en varm anhängare av utvecklingen men att systemet också blir sårbart. Vi måste ta ansvar för att det system som byggs blir hållbart och tryggt, även om vi inte i dag kan föreställa oss vilka verktyg och tillämpningar som kan komma att utvecklas.
– Vi måste tänka igenom före, och se till helheten. För att ett AI-verktyg ska kunna vara en hållbar och trygg lösning krävs många andra faktorer runt omkring, till exempel en trygg elförsörjning.
Åsa Gyberg Karlsson, e-hälsostrateg i Region Blekingen och ledamot (V) i Smer, påminde om att hanteringen av den hälsodata som AI-verktygen måste tränas på väcker många etiska frågor. Om ett AI-verktyg har kommit fram till att personer med vissa egenskaper har risk att få en viss sjukdom, har dessa då rätt att få veta det? Eller rätt att inte behöva få veta? Hur kan man lämna samtycke till sådan behandling av data?
– Att värdera risker och möjligheter med ny teknik som denna är förstås väldigt svårt. Och hur ska vi kvalitetssäkra AI-verktyg som vi inte förstår? Man måste fråga sig vad det innebär både att införa ett nytt verktyg och att inte införa det. Möjligheter och risker kan ju också se olika ut för olika grupper.
En annan viktigt fråga är vem som ska bestämma vilka värderingar som byggs in i verktygen. Här har undersökningar visat att grundläggande värderingar skiljer sig åt mellan länder, sa Åsa Gyberg Karlsson.
Sven-Eric Söder, ordförande i Smer och moderator för samtalet, påpekade att innovation och teknisk utveckling är helt ovärderliga för hälso- och sjukvården, men att risker och möjligheter med nya verktyg måste värderas utifrån det rådande kunskapsläget.
Flera av paneldeltagarna påpekade att det är viktigt att personal och patienter är med och bygger de AI-verktyg som ska användas. Då kan vi med hjälp av verktygen åstadkomma effektiva processer inom vården.
Se webbfilm från etiksamtalet