3 grunde til ikke at frygte AI, men istedet være bange for hvad mennesker sætter maskiner til

G-NIUS

Året har budt på en række kendte personer der har agiteret for at stoppe udviklingen af selvstændige maskiner, som f.eks. våben systemer der selv kan bestemme hvor der skal trykkes på aftrækkeren. Under denne frygt er forståelsen for det åbenlyst problematiske i at opstille en anordning der udløser et eller andet helt vilkårligt så som fælder og miner og teaterrøg til indbrudstyve… er at det åbenlyst ikke er mindre problematisk hvis en anordning af sig selv vil udløse en fælde med mere sofistikeret tricker end tryk og snubletråde som f.eks. ansigts genkendelse eller stemmer eller duft.
Hvad nu hvis skidtet tager fejl, skal bomben i entreen sprænge eller ej, hvis det indikeres at der er uvelkomne gæster.
En af de der har udtrykt sin bekymring over udviklingen er Elon Musk, der vedblivende sender links til sf historier. (obs opdatering den 26. december “Reading The Culture series by Banks. Compelling picture of a grand, semi-utopian galactic future. Hopefully not too optimistic about AI.” Jeg beklager stadig hans tilgang men tilstår er ret velfornøjet over at han giver Banks reklame – og er nu ekstra fornøjet over at han lader sig inspirerer i navngivning af hans droneskib.).

[–]usa_dublin 2624
Hi Elon. A friend of mine is all paranoid about the computer singularity, and used your name as a source of his paranoia. Don’t you think it could all be a bunch of hype?
Awesome car/rocket/etc stuff you do! Huge fan!

[–]ElonMuskOfficial[S]
The timeframe is not immediate, but we should be concerned. There needs to be a lot more work on AI safety.
And, with all due respect to the Roomba dude, that is not a concern https://www.youtube.com/watch?v=Of2HU3LGdbo

Alt dette og mere til at der omtalt i lørdags læsningen ingenøren og newscientist.

I Newscientist skriver Mark Bishop bl.a. hvorfor han mener der er tre fundamentale grunde til at man ikke behøver at frygte at computere bliver klogere end mennesker. Det kan dybest set koges ned til at en maskine er en maskine og det er ikke muligt om man så virkelig ønsker sig det nok så brændene at skabe en selstændigt tænkene maskine:

“I believe three fundamental problems explain why computational AI has historically failed to replicate human mentality in all its raw and electro-chemical glory, and will continue to fail.

First, computers lack genuine understanding. The Chinese Room Argument is a famous thought experiment by US philosopher John Searle that shows how a computer program can appear to understand Chinese stories (by responding to questions about them appropriately) without genuinely understanding anything of the interaction.

Second, computers lack consciousness. An argument can be made, one I call Dancing with Pixies, that if a robot experiences a conscious sensation as it interacts with the world, then an infinitude of consciousnesses must be everywhere: in the cup of tea I am drinking, in the seat that I am sitting on. If we reject this wider state of affairs – known as panpsychism – we must reject machine consciousness.

Lastly, computers lack mathematical insight. In his book The Emperor’s New Mind, Oxford mathematical physicist Roger Penrose argued that the way mathematicians provide many of the “unassailable demonstrations” to verify their mathematical assertions is fundamentally non-algorithmic and non-computational.

Taken together, these three arguments fatally undermine the notion that the human mind can be completely realised by mere computations. If correct, they imply that some broader aspects of human mentality will always elude future AI systems.

Rather than talking up Hollywood visions of robot overlords, it would be better to focus on the all too real concerns surrounding a growing application of existing AI – autonomous weapons systems.”

Så med denne udgang på historien så kan man vel godt erindre de ikoniske dommedagsfortællinger med et alvorligt glimt i øjet:
We’ll meet again
starwarskoret

Reklamer

Om hubertnaur

Særlig interesse i fri og åben adgang til viden
Dette indlæg blev udgivet i Uncategorized og tagget , . Bogmærk permalinket.

Skriv et svar

Udfyld dine oplysninger nedenfor eller klik på et ikon for at logge ind:

WordPress.com Logo

Du kommenterer med din WordPress.com konto. Log Out / Skift )

Twitter picture

Du kommenterer med din Twitter konto. Log Out / Skift )

Facebook photo

Du kommenterer med din Facebook konto. Log Out / Skift )

Google+ photo

Du kommenterer med din Google+ konto. Log Out / Skift )

Connecting to %s