Vi använder oss av processer för riskidentifiering och riskbedömning i varje fas och för varje individuellt utvecklingsinitiativ. Vi använder en klinisk återkopplingsloop för att kontinuerligt utveckla och förbättra den kliniska modellen, för att öka noggrannheten. Under hela utvecklingscykeln arbetar vi tvärfunktionellt för att säkerställa att tekniska och arkitektoniska komponenter fungerar tillsammans på ett sätt som kontinuerligt levererar klinisk prestanda och säkerhet. Vi implementerar på ett stegvis och kontrollerat sätt för att säkerställa klinisk säkerhet. Våra kliniker gör kontinuerliga utvärderingar av patientfall för att snabbt kunna identifiera och reagera på avvikelser.

Modellen är utformad för att säkerställa transparens och för att de beslut den fattar ska vara spårbara och lätta att förstå. Alla ändringar i modellen är spårbara och hanteras av människor. Systemet är avsiktligt utformat så att det inte är självlärande, för att minimera risken för partiskhet. Utvecklingen av gränssnitt är datadriven och beslut om design är spårbara och förklarbara. Hela utvecklingsprocessen finns dokumenterad i teknisk dokumentation.

Robusthet och tillgänglighet säkerställs genom utformningen av arkitekturen och infrastrukturen, tillsammans med väldefinierade processer för underhåll, testning, spårning och åtgärdande av problem. Arkitekturen är utformad för att stödja skalbarhet, motståndskraft och feltolerans, vilket säkerställer att systemet kan hantera varierande belastningar och återhämta sig snabbt från eventuella fel. Att skydda data och patienters integritet är centralt i vårt arbete, med tydliga processer kring dataskydd och datahantering. Vi följer branschstandarder som gör det möjligt för oss att säkerställa balansen mellan fördelar och risker på ett strukturerat och ansvarsfullt sätt.

Vi använder ett holistiskt synsätt för att förstå och lösa de problem som finns för användare inom hela hälso- och sjukvårdssystemet. Tvärfunktionella team är involverade i utvecklingen av vårt patientgränssnitt, med konkreta mål för rättvisa och inkludering, som testas i alla faser för att säkerställa användbarheten. Vi implementerar stegvis med insamling av bevis som inkluderar utvärderingar med användare i de tidiga faserna, innan full utrullning. Vi arbetar för att medvetet ta itu med potentiella källor till bias.

Ansvarsfull AI, med vården i åtanke

På Visiba har vi bestämt oss för att utveckla och implementera artificiell intelligens (AI) på ett sätt som främjar patientsäkerhet, trygghet, förståelse och etik inom hälso- och sjukvården. Vårt åtagande att leverera ansvarsfull AI innebär att vi följer en uppsättning principer som styr vårt utvecklingsarbete och användningen av AI.

Sköterska står och tittar mot ett fönster

Visiba har arbetat med att leverera lösningar för digital vård sedan 2014. När vi började utveckla vår AI-baserade triagelösning 2018, gjorde vi det med samma inställning vi alltid har haft; det här ska göra det bättre för vården och patienterna! Utvecklingen har i hög grad påverkats av vårt medicinska team och alla de kliniker som använder systemet och vi har hela tiden varit noga med att ta hänsyn till vårdens höga krav på säkerhet, kvalitet och transparens.

Vår starka vilja att göra saker på rätt sätt ledde oss till fyra principer som guidar oss i varje fas av vår utvecklingsprocess och är en del av vårt dagliga arbete med vår lösning för träffsäker triage med hjälp av AI: Visiba Triage.

Visibas fyra principer för ansvarsfull AI

1. Kliniskt säker

Vårdpersonal, patienter och vårdgivare ska kunna känna förtroende för att vår lösning är kliniskt säker.

2. Transparent

Vår teknik ska utvecklas på ett sätt som ger en bra nivå av transparens och förklarbarhet.

3. Trygg

Vi följer gällande bestämmelser och mer därtill, när det kommer till sekretess, integritet och tillgång till data.

4. Etisk

Tekniken ska fungera på ett sätt som förbättrar den mänskliga aspekten av hälso- och sjukvården och främjar personcentrerad vård.

Exempel på våra principer i praktiken

Kliniskt säker

Vi använder oss av processer för riskidentifiering och riskbedömning i varje fas och för varje individuellt utvecklingsinitiativ.
Vi använder en klinisk återkopplingsloop för att kontinuerligt utveckla och förbättra den kliniska modellen, för att öka noggrannheten.
Under hela utvecklingscykeln arbetar vi tvärfunktionellt för att säkerställa att tekniska och arkitektoniska komponenter fungerar tillsammans på ett sätt som kontinuerligt levererar klinisk prestanda och säkerhet.
Vi implementerar på ett stegvis och kontrollerat sätt för att säkerställa klinisk säkerhet.
Våra kliniker gör kontinuerliga utvärderingar av patientfall för att snabbt kunna identifiera och reagera på avvikelser.

Transparent

Modellen är utformad för att säkerställa transparens och för att de beslut den fattar ska vara spårbara och lätta att förstå.
Alla ändringar i modellen är spårbara och hanteras av människor. Systemet är avsiktligt utformat så att det inte är självlärande, för att minimera risken för partiskhet.
Utvecklingen av gränssnitt är datadriven och beslut om design är spårbara och förklarbara.
Hela utvecklingsprocessen finns dokumenterad i teknisk dokumentation.

Trygg

Robusthet och tillgänglighet säkerställs genom utformningen av arkitekturen och infrastrukturen, tillsammans med väldefinierade processer för underhåll, testning, spårning och åtgärdande av problem.
Arkitekturen är utformad för att stödja skalbarhet, motståndskraft och feltolerans, vilket säkerställer att systemet kan hantera varierande belastningar och återhämta sig snabbt från eventuella fel.
Att skydda data och patienters integritet är centralt i vårt arbete, med tydliga processer kring dataskydd och datahantering.
Vi följer branschstandarder som gör det möjligt för oss att säkerställa balansen mellan fördelar och risker på ett strukturerat och ansvarsfullt sätt.

Etisk

Vi använder ett holistiskt synsätt för att förstå och lösa de problem som finns för användare inom hela hälso- och sjukvårdssystemet.
Tvärfunktionella team är involverade i utvecklingen av vårt patientgränssnitt, med konkreta mål för rättvisa och inkludering, som testas i alla faser för att säkerställa användbarheten.
Vi implementerar stegvis med insamling av bevis som inkluderar utvärderingar med användare i de tidiga faserna, innan full utrullning.
Vi arbetar för att medvetet ta itu med potentiella källor till bias.

Vi värnar om vården

Det medicinska teamet har en viktig roll i utvecklingen av Visiba Triage, för att säkerställa klinisk säkerhet och patientperspektivet. De granskar hundratals verkliga patientfall varje vecka och använder denna information, tillsammans med feedback från läkare som arbetar i systemet, för att utveckla en lösning som de vill använda för sina egna patienter.

Dr Annabelle Painter

Chief Medical Officer

NHS General Practitioner Registrar, Värd för Royal Society of Medicine Digital Health Section podcast,
Hedersledamot – digital hälsa vid Institutionen för primärvård och folkhälsa vid Imperial College London

Dr Christer Rosenberg

Senior Medical Specialist

Senior Advisory Consultant Health Care/Life Sciences,
Expert på klinisk utvärdering av MDR-programvara,
Specialist i allmänmedicin