På vej ud over afgrunden med Stuart Russell og co

Det er gået op for mig hvor hunden ligger, for de der er bekymrede over moderne teknologi og den nyeste gren af maskinlæring – altså computere der “har lært” at genkende ord og sætninger, og kan genkende billeder og køre biler og svare på jepody spørgsmål.

Det der gør folk bekymrede for at det skal lede hen til en skadelig variant af AI den intelligente maskine, den kunstige intelligens, er at de frygter for den ubekendte. Det ukendte resultat af et regnestykke med multible variable som de sætter op så det ikke kan undgå at åbne muligheden for ragnarok.

Også følger logikken at selv om verdens undergang er nok så teoretisk så bør en sådan mulighed jo nødvendigvis tages alvorligt, og der bør laves undersøgelser og der skal overvejes internationale normer osv. osv..

Jeg har tidligere skrevet om dette fænomen som opstilling af en mulig fremtid der kan aflede fra de presserende problemer som verden står i nu og her. Men det står også klart at de folk der er ønsker at være bekymrede over AI, ikke vil lade sig nøje med at blive fejet af som gale.

De kræver at deres bekymring over teknologien bliver taget op i en form for lovgivning der forbyder konstruktionen af et fremtidigt supermenneske, det skal i det mindste “leve” i en celle sammen med Magneto så der ikke opstår en ny verdensorden hen over natten.

I det nedenstående foredrag kan man fornemme at der er en sammenligning mellem Atomalderen og den nye kommende AI-alder, altså fra det tidspunkt hvorfra at det en sådan maskine beviseligt kan bygges, vil markere beherskelsen af en ny naturkraft…

Jeg kan fornøje de bekymrede med at det ikke kommer til at ske førend vi har forstået mennesket til bunds, der vil i de kommende år blive forsøgt at bygge en sådan supercomputer der kan lave en simulering af den menneskelige hjerne, og den simulering kan bruges til at forstå hvordan mekanikken fungere.

Men det arbejde er ligesom at simulere Jordens klima, de første modeller var alt for simple og manglede store dele oceanerne og de øverste lag af atmosfæren, og der var masser af data om jordens historiske klima der ikke var nøjagtigt nok, og også jordens forbundethed med solsystemet og galaksen er kommet med i de nyeste modeller.

Sådan en lang proces kan også forventes med Hjerneforskning, og det vil bliver årtier hvor computer chip til gengæld bliver mindre og hurtigere og så kan man endelig begynde at tale om at bygge en simulering af et komplet menneske.

Så der er ingen grund til at blande smartphones og nutidig teknologi ind i en diskussion om fremtidens AI, til den tid ser alt anderledes ud. Hvordan en kommende AI vil agerer og hvorfor kan forudses helt nøjagtigt fordi den vil være en maskine der er en simulering af tanke virksomhed og der er intet inden i som er en lille hemmelig selvstændig vilje, der er heller ikke en ond computernørd der kan bygge en selv, der kræver tusinder af mennesker og mange mia. kr.. En AI computer vil ikke blive “klogere” end mennesker eller Hyper intelligent, men være en refleksion af de mennesker der har bygget den og de data der er adgang til. Det vil heller ikke ske hen over et øjeblik, men ske med springvise revolutioner.

Derfor kan jeg sige med 100 procents sikkerhed at regneeksempler der viser at jorden vil dø ud hvis ikke AI holdes i ave, indeholder en alvorlig fejlantagelse, dels at man ikke kan forudse hvad en computer vil gøre og dels at der et eller andet sted tillæges en dimension af menneskelighed, af selvstændig – fri – vilje. Og det falder på en måde tilbage på den måde som man i praksis udføre AI forskning på idag, hvor man har uoverkommelige datamængder og derfor tager en tilgang der kan virke en smule uoverskuelig – men som i virkeligheden blot er Trial and error. Fordi den systematiske tilgang er blevet alt for langsommelig.

Men det er netop sagen når man kigge på et objekt og antager at man ikke kan forstå det, så er det meget nemt at hoppe til konklusionen at der sidder en lille terminatornisse inden i der vil have havregrød og ellers går det galt af helvede til. Essensen er at når man ikke kan bevise at der ikke findes en gud, så synes denne gruppe at man skal forberede sig på hendes komme…

Det med at ødelægge klare vi mennesker sagtens selv og det er her blandt de virkelige problemer at man bør påvirke.

Advertisements

Om hubertnaur

Særlig interesse i fri og åben adgang til viden
Dette indlæg blev udgivet i Uncategorized og tagget , , . Bogmærk permalinket.

Skriv et svar

Udfyld dine oplysninger nedenfor eller klik på et ikon for at logge ind:

WordPress.com Logo

Du kommenterer med din WordPress.com konto. Log Out / Skift )

Twitter picture

Du kommenterer med din Twitter konto. Log Out / Skift )

Facebook photo

Du kommenterer med din Facebook konto. Log Out / Skift )

Google+ photo

Du kommenterer med din Google+ konto. Log Out / Skift )

Connecting to %s