Disputas: Koen van de Merwe

Koen ved de Merwe skal forsvare avhandlingen sin for graden philosophiae doctor (ph.d.) ved Universitetet i Sørøst-Norge. Han har fulgt doktorgradsprogrammet nautiske operasjoner ved Fakultet for teknologi, naturvitenskap og maritime fag. 

Alle interesserte ønskes velkommen til prøveforelesning og disputas. Denne vil også strømmes digitalt: Lenke til Teams for digital deltakelse.

• Les hele avhandlingen her. 

Sammendrag

Ved å gjøre autonome systemer transparante, vil mennesker bedre forstå hva systemet gjør, hvorfor det gjør det, og hva det vil gjøre videre. Dette støtter operatører i å overvåke autonome systemer, og gjør det lettere for dem å avgjøre om manuelle inngrep er nødvendig. Dette er resultatene av doktorgradsavhandlingen, som undersøker hvordan maritime autonome kollisjons- og grunnstøtingssystemer kan gjøres transparante for brukerne.

Kunstig intelligens (KI)-aktiverte systemer forventes å spille en sentral rolle i å støtte skipsnavigatører i kritiske beslutninger. Derfor krever denne nye teknologien en forsiktig tilnærming når den skal anvendes i høyrisiko-områder. Dette betyr at menneskelige operatører er nødvendig for å overvåke driften av skipet inntil det er bevist at slike systemer er tilstrekkelig pålitelige og robuste.

Dessverre er ikke mennesker særlig flinke til å overvåke automatiserte systemer. Vi har en tendens til å bli selvtilfredse, forutinntatte, likegyldige, eller vi har for mye eller for liten tillit til systemet. Dette er spesielt relevant for KI-aktiverte systemer som i sin natur er vanskelige å tolke og forutsi. Derfor er det nødvendig med nye ideer for å svare på disse problemene, og for å støtte menneskelige operatører i deres nye rolle som veiledere av slike systemer.

Hovedbidraget til denne doktorgraden er beviset på at transparens er et lovende designprinsipp for systemer som krever menneskelig tilsyn. Det vil si at ved å gi innsikt i systemets analyser, beslutninger og planlagte handlinger, økes operatørens forståelse og bevissthet om systemet. Dette betyr at utviklere har et insentiv til å lage transparente design for sine brukere, vel vitende om at ved å følge et sett med menneskesentrerte designprinsipper og prosesser, vil deres innsats ha en positiv effekt når det gjelder menneskelig tilsyn.

Videre har denne avhandlingen tydeliggjort den potensielle rolleendringen som kan forventes når man introduserer kollisjons- og grunnstøtingssystemer. Basert på denne informasjonen kan skipseiere bedre forstå hva som kan forventes, når det gjelder endringer i mentale aktiviteter, når de introduserer slike autonome systemer til sine skip.

Videre gir resultatene fra denne avhandlingen innsikt i de forventede menneskelige ytelseseffektene av transparens når de brukes på autonome systemer. Med denne nye innsikten kan meningsfylt menneskelig arbeid skapes der de kombinerte evnene til menneskelig-autonomi-team kan optimaliseres. Til slutt tar denne avhandlingen til orde for relevansen av å gi menneskelige operatører innsikt i autonome systemer og etablerer transparens som en viktig forutsetning på veien mot sikker og effektiv menneskelig tilsynskontroll.