Den virkelige mening af Isaac Asimov three laws of robotics

Forfatteren Isaac Asimov (1920 – 1992) skrev en bunke SF-historier bl.a. om robotter gennem hele hans liv, men allerede en af hans allerførste noveller, “Runaround” der udkom i 1942, indeholdt de såkaldte tre love, og derudover en hemmelig lov der gav anledning til selve plottet og som inspirerede mange andre sidenhen.

Hvis man ser på lovene som udgangspunkt for en regulering af AI i nutiden så er der faktisk god inspiration at hente. Fordi selve problemet vil ikke være maskinerne i sig selv, da de blot vil være maskiner uden anden drivkraft end deres programmering.

A robot may not injure a human being or, through inaction, allow a human being to come to harm.
(En robot må ikke gøre et menneske fortræd, eller, ved ikke at gøre noget, lade et menneske komme til skade)

A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
(En robot skal adlyde ordrer givet af mennesker, så længe disse ikke er i konflikt med første lov)

A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
(En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med første eller anden lov)

Den første lov kan bruges til at regulere at en kunstig intelligens ikke må bruges i krig, heller ikke indirekte ved at gøre soldaterne bedre eller analysere data. Og den må slet ikke blive et våben. Den må heller ikke bruges til at nedbryde infrastruktur eller energiforsyning mm. Og kan godt programes så hjælp med opklaring af ulykker og kriminalitet.

Den anden lov kan bruges til at regulere at der skal være åbenhed om hvordan en kunstig intelligens virker, således at det er muligt for offentlige myndigheder at gennemskue programmering og datasæt. Men også sådan at det er muligt at efterforske hvem der har fiflet med en kunstig intelligens der opfører sig uhensigtsmæssigt.

Den tredje lov kan bruges til at kræve sikkerhed for at software fungere efter hensigten, så det ikke er muligt at kompromitterer en centrifuge til uran med virus (eller en bil osv.) der vil gøre at den stopper med at fungere eller på anden måde ødelækker den.

Opdatering den 11. april. Microsoft Danmark har fået et kommunikationsbureau til at spørge en bunke politikere, og sig selv, om hvordan de selv syns det går med at kunstig intelligens: Læs hvad der kom ud af den markedsførings ide i deres rapport her:

https://news.microsoft.com/uploads/prod/sites/53/2018/04/Kunstig-Intelligens-i-Danmark-potentialer-eller-barrierer.pdf

Lisa Joy fra Westworld holdet er mere reflekteret og nuanceret i hendes svar på disse spørgsmål. Se denne udmærkede debat om det gradvise skift til mere og mere realistiske spil og computerstyrede modstandere. Revenge of the NPC.

Reklamer

Om hubertnaur

Særlig interesse i fri og åben adgang til viden
Dette indlæg blev udgivet i AI kunstig inteligens. Bogmærk permalinket.

Skriv et svar

Udfyld dine oplysninger nedenfor eller klik på et ikon for at logge ind:

WordPress.com Logo

Du kommenterer med din WordPress.com konto. Log Out /  Skift )

Google+ photo

Du kommenterer med din Google+ konto. Log Out /  Skift )

Twitter picture

Du kommenterer med din Twitter konto. Log Out /  Skift )

Facebook photo

Du kommenterer med din Facebook konto. Log Out /  Skift )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.