An Open Letter to the United Nations Convention on Certain Conventional Weapons

I et Åbent brev til FN advarer en international stribe erhvervsfolk og AI specialister omkring udviklingen inden for automatiserede våben.

Blandt underskriverne er

• Elon Musk, founder of Tesla, SpaceX and OpenAI (USA)
• Mustafa Suleyman, founder and Head of Applied AI at Google’s DeepMind (UK)
• Esben Østergaard, founder & CTO of Universal Robotics (Denmark)
• Jerome Monceaux, founder of Aldebaran Robotics, makers of Nao and Pepper robots (France)
• Jürgen Schmidhuber, leading deep learning expert and founder of Nnaisense (Switzerland)
• Yoshua Bengio, leading deep learning expert and founder of Element AI (Canada)

Læs hele pressemeddelelsen her

As companies building the technologies in Artificial Intelligence and Robotics that may be repurposed to develop autonomous weapons, we feel especially responsible in raising this alarm.

We warmly welcome the decision of the UN’s Conference of the Convention on Certain Conventional Weapons (CCW) to establish a Group of Governmental Experts (GGE) on Lethal Autonomous Weapon Systems. Many of our researchers and engineers are eager to offer technical advice to your deliberations.

We commend the appointment of Ambassador Amandeep Singh Gill of India as chair of the GGE.

We entreat the High Contracting Parties participating in the GGE to work hard at finding means to prevent an arms race in these weapons, to protect civilians from their misuse, and to avoid the destabilizing effects of these technologies.

We regret that the GGE’s first meeting, which was due to start today, has been cancelled due to a small number of states failing to pay their financial contributions to the UN. We urge the High Contracting Parties therefore to double their efforts at the first meeting of the GGE now planned for November.

Lethal autonomous weapons threaten to become the third revolution in warfare. Once developed, they will permit armed conflict to be fought at a scale greater than ever, and at timescales faster than humans can comprehend. These can be weapons of terror, weapons that despots and terrorists use against innocent populations, and weapons hacked to behave in undesirable ways.

We do not have long to act. Once this Pandora’s box is opened, it will be hard to close.

We therefore implore the High Contracting Parties to find a way to protect us all from these dangers.


apropos:

En ret tankevækkende artikel omkring AI i hackerværktøjskassen og hvorfor der er så mange der (som mig) der ikke begriber den store bekymring der omgiver den teknologiske udvikling. http://gizmodo.com/hackers-have-already-started-to-weaponize-artificial-in-1797688425

Google udvikler på et program der kan programmerer selv, og det viser lovende takter: https://www.wired.com/story/googles-learning-software-learns-to-write-learning-software/

Reklamer
Udgivet i AI kunstig inteligens | Skriv en kommentar

#QuantumBreathing og tanker i Virtual Reality

Kunstneren Libby Heaney under udviklingen af forestillingen

Hvis man gerne vil se moderne kunst på et lille galleri i Århus, skal man helst kende nogen i inderkredsen, eller i det mindste være meget tålmodig. Der er nemlig sjældent nogen til at agere vært og ofte er der en bunke bekendte til arrangøren, der har været frivillige til et eller andet praktisk, der sidder og hænger i et hjørne uden at tage notits af eventuelle gæster.

Fra i dag og en uge frem er der en mulighed for at opleve en såkalt “QVR experience”, eller nærmere et Virtual Reality kunstværk af den britiske kunstner Libby Heaney, på non—space. Og den oplevelse ville jeg ikke snyde mig selv for. Det er kun en af gangen der kan se forestillingen så man skal tegne sig på venteliste og så skal man stå i kø, fordi tiden skrider lidt og man kan ikke forvente at blive råbt op.

Jeg var nu ganske underholdt af det hele, og i ventetiden var der billig papvin og papkrus og nogle absurde små hjemmelavede computerspil der havde en eller anden relation til fysikundervisning.

Selve forestillingen udspringer af noget kunstneren kalder “Kvantetænkning” eller Quantum Breathing, og undersøger grænserne mellem virkeligheden og teknologiens mulighed for at skabe et rent fantasiunivers vi kan gå ind i.

Læs om projektet her:
Entangled: Art, Science and Quantum Computing (Part 1)
Entangled: Art, Science and Quantum Computing (Part 2)

Det var min første VR oplevelse, og det var på alle måder imponerende. Meget realistisk først, fordi det rum som man står i mere eller mindre nøjagtigt bliver gengivet i VR oplevelsen og dernæst blev det mere og mere udsyret. Jeg forstår nu bedre al den virak om VR, jeg tænker at til undervisningsbrug giver den teknologien jo nærmest ubegrænsede muligheder. Men også til den lidt udsyrede interaktive videokunst er mulighederne endeløse. Jeg kan se hvordan Facebook med næste generation datacentre kan forestille sig et VR samfund, The Matrix is happening.

Ikke alle er dog imponerede over tempoet i udviklingen, det er især den kommercielle del indenfor spil der ikke rigtig har fundet balancen mellem pris og indhold og kvalitet og tilgængelighed. Men spil er jo gerne nogle år om at komme videre, f.eks. er det snart 20 år gamle Counter Strike stadig populært.

note:
https://en.wikipedia.org/wiki/Hard-Boiled_Wonderland_and_the_End_of_the_World

Opdatering: også i København har man fået VR i kunsten https://ing.dk/artikel/virtual-reality-kunstens-nye-medie-205755

Udgivet i personer, Videnskabsformidling | Tagget , | Skriv en kommentar

Stort tillykke med #Valerian and the City of a Thousand Planets

Valerian er en super god film! Og en fantastisk science fiction!

Vi er inviteret med Luc Besson ud i rummet et par hundrede år ude i fremtiden, hvor de to agenter Linda og Valentin er på en mission for at stjæle et særligt dyr tilbage til “federationen” en samlet regering for en gruppe planeter. Det lille dyr kan replikere det den spiser, altså f.eks. spiser den en perle kan den producere en bunke perler. Det sted hvor agenterne skal finde dyret er i en anden dimension hos en kradsbørstig kæmpe, og… så er vi igang med et forrygende rumeventyr der har det hele.

Hele projektet er lykkedes – fra de fantastiske kulisser til de politiske intriger og deres mange ofre, til de underfundige og fantasifulde skabninger. Dialogen og skuespillet og kemien sidder også lige i skabet.

Og Rutger Hauer toner frem i en lille birolle. Og lidt ligesom med Brion James i Det femte element, giver filmen på denne måde en tribut til en af de store skuespillere indenfor genren. Og der er Bowies Major Tom og masser af andre små henvisninger og referencer.

Der er også masser af pop og en skør turist guide og monstre og meget mere. Det hele er filmet og skruet sammen som flere historier i én hvor det hele bindes smukt sammen til sidst. Og vær scene får tid og lov til at folde sig ud.

Jeg var lidt bange for at instruktøren Luc Besson havde mistet evnen til at lave gode spektakulære film, fordi for mig var Lucy både som film og historie en sørgelig omgang. Som jeg opfatter det har han stået for fem gode film: 1997 Det femte element, 1994 Leon, 1990 Nikita, 1988 The Big Blue, 1985 Subway. Men med denne film er han tilbage i sit rette Element.

Læs også om tegneserierne.

Nogle anmeldelser:

Geeks Guide
The Guardian

Spoilers:

Læs resten

Udgivet i Film | Tagget , , | 1 kommentar

Hvorfor lukker DR for teknologi, videnskab og naturformidling

Her et års tid efter at de ansatte hos Danmarks Radios videnskabsredaktion fik en fyreseddel og et postuleret tilbud om genansættelse i Aalborg, er den endelige plan om fuldstændig lukning af videnskabsformidlingsprogrammer i statsradiofonien blevet eksekveret.

De første indikationer på at udflytningen blot var en gimmick udtænkt hos direktørens antageligt velbetalte spindoktor, var da udsendelserne blev rykket rundt og splittet op i halve timer.

8. Marts 2017 kom så den første semiofficielle melding fra Dorte Dalgaard fra Natursyn, der skrev på Facebook at udsendelsen stopper med udgangen juni. Altså send hele molevitten til Aalborg for blot at lukke skidtet ned efter to måneder…. (Her i august er der kommet en klimatema-udsendelsesrække)

Og kort før sommer kom samme melding fra Harddisken. Efter 23 år er det nu slut med Harddisken på P1. Teknologi nyhedsindslag bliver der forsat i fremtiden, men nu spredt lidt rundt. Opdatering: nu er der den 10. august premierer på en halv times teknologi magasinprogram.. (Digitalt).

Videnskabens Verden blev reduceret til en halv time i maj måned og en professor i almenpsykologi fik sendetiden til et debatprogram om teknologi. Da jeg tilbage i juni skrev til DR for at høre hvordan det ville gå med Videnskabens Verden skrev redaktionen tilbage at de på daværende tidspunkt desværre ikke kunne svare på, hvornår og hvordan det vil gå med programmet. Så det vil vel vise sig på et eller andet tidspunkt hvor det ender.

Men mest venter man stadig på en egentlig forklaring fra DRs ledelse. HVORFOR skal de udsendelser reduceres og lukkes ned? Og HVOR er de tre timers radio om naturen og teknologien og videnskaben??? Og hvad bliver det næste? Her der DRs pressemeddelelse om at Aalborg universitet har fået en halv time om ugen: https://www.dr.dk/presse/dr-viden-i-aalborg-saetter-faktatjek-paa-dagsordenen

Læs mere om videnskabsformidling her:
https://lysetshastighed.wordpress.com/category/videnskabsformidling/

I en sidegade:
Konference om podcast og udviklingen af programtyper udenfor monopolerne. http://www.radiodayseurope.com

Amerikansk Netradio på engelsk sat sammen af udvalgte videnskabsprogrammer og podcast, meget blandet målgruppe så der er også noget der er skole egnet: https://science360.gov/radio/player/

New podcast from the Union of Concerned Scientists: http://www.ucsusa.org/got-science-podcast#.WdCwvDBpxaQ

OPDATERING: Nu har ing.dk også snuppet Anders Høgh Nissen 🙂

https://transformator.fireside.fm/1

 

Udgivet i Videnskabsformidling | Tagget , , , , | Skriv en kommentar

Humor er #Dalek automatens nye våben

arstechnica.com har denne tragikomiske historie om en sikkerhedsrobot der var sat til at trille rundt og som et overvågningskamera på en automatisk græsslåmaskine. Desværre kunne maskinen ikke kende forskel på et gulv og et springvand. Det er en uheldig sideeffekt ved at at bruge lidar istedetfor radar.

https://arstechnica.com/gadgets/2017/07/knightscope-k5-security-bot-drowned/

Men spøgen er jo dødeligt alvor, for sikkerhed er en stødt voksende forretning og Knightscope K5 security robot er kun et første kig ind i den fremtid der er lige rundt om hjørnet. Med private virksomheder der er begyndt at samle tonsvis af video og detaljerede opmålingsdata af alle mulige og umulige steder. Og det vil alt sammen kunne deles og bruges i udviklingen af mere og mere sofistikerede maskiner der til sidst vil kunne bevæge sig overalt.

Den mobile platform vil indenfor en kort årrække overkomme uheld ved springvand eller og ved swimmingpoolen, og man kan sagtens forudsige at tjenere eller andre serviceområder vil kunne udbygges med den type maskiner. Og der vil komme arme eller værktøjer og og samarbejde med flyvende droner – i sidste ende er det kun fantasien der sætter grænser for hvor det føre hen. Virksomheden syns selv den har et venligt udseende, men som reporteren pointerer så minder den lidt om The Dalek fra Doctor Who.

Udgivet i AI kunstig inteligens | Tagget | Skriv en kommentar

Spændende foredrag om rumfart idag af William H. Gerstenmaier, NASA

William H. Gerstenmaier, Associate Administrator, Human Exploration and Operations Mission Directorate, NASA

” Dette er i sandhed spændende tider hvis man er rumfartsingeniør, der er netop nu at vi er ved at udvikle og bygge grundstenen til de kommende årtiers missioner. “

Spændene foredrag om Nasa planer for rumfart de kommende årtier.
Om forskellen på at bygge en arkitektur for generel udforskning af rummet, i modsætning til at bygge til et konkret enkeltmål. Om udvikling af hardware og nødvendigheden af lære fra softwareindustriens modul orienterede tilgang. Om opbygningen af Internationale standarder i rumfartøjer på alt fra måleenheder og strøm og kommunikation, til sammenkoblings mekanismer. Og masser af andre gode pointer.

https://livestream.com/AIAAvideo/PropEnergy2017/videos/159704854

Find mange flere foredrag fra konferencen: http://propulsionenergy.aiaa.org/

Udgivet i personer, Videnskab og metode | Tagget , | Skriv en kommentar

Første Tesla #Model3 ruller fra samlebåndet og kan snart køre helt selv

Den første udgave af Tesla familiebilen rullede lørdag ud fra samlebåndet, det er en ny type af samlebåndsproduktion, så der går endnu nogle måneder før det er oppe i tempo, men i løbet af det første år forventes det at der er produceret mere end 100.000 biler. Den antages at ramme det danske marked en gang til næste år, og prisen er endnu ukendt. Og stort set heller ingen andre el-biler i en den størrelse og prisklasse er at finde på det danske marked endnu. Så der er ikke et sammenligningsgrundlag. Den amerikanske pris er 35.000 USD, svarende til 233.345 kr. Jeg tænker dog at den kommer op over 350.000 i Danmark. Det tætteste man kommer en sammenlignelig pris er den amerikanske Opel Ampera-e der kan bestilles i Norge til 350.000 Norske kr., Svarende til 276.535 danske, de danske priser vil dog blive højere pga. afgifter. Opel Ampera-e kommer til salg i Danmark i begyndelsen af 2018.

The Verge Alt hvad der er værd at vide om Model 3.

Teknisk ugeblad i Norge afslører olie-lobbyist-gruppe bag ved falske angreb på El-biler.

Men det er kun på de umiddelbare specifikationer hvor Model 3 og Ampera-e er sammenlignelige, Teslaen kommer nemlig med indbygget teknologi til at blive 100 procent selvkørende efterhånden som softwaren bliver opdateret, hvis man vælger at tilkøbe det. Inden 2020 vil over en halv mio. biler køre rundt med den teknologi i verden, og derfra forudses det den selvkørende teknologi er blevet bagt færdig og bilerne får lov til at køre rundt helt selv uden passagerer. Det er på dette tidspunkt at man begynder at sende sin bil ud på ærinder uden man selv er med. Og stor set al almindelig bus og taxikørsel vil blive førerløs.

Naturligvis er der stadig nogen – som f.eks. journalisterne på ing.dk – der tror at kørsel handler om moral og etik, og der er svært at lære en bil. Men det handler om færdselslovgivning og det er straks mere lige ud af landevejen. En nylige undersøgelse af menneskers stillingtagen i moralske dilemmaer opfundet til at teste hvordan samfundsnormerne stiller sig, viste meget tydeligt at der ingen overraskelser er.

Altså er en ulykke under opsejling, hvad skal man så gøre i ditten eller datten situation. (Det er den Israelske vej ud af alle former for lovgivning at smide fakta overbord og stille dilemma spørgsmål i stedet. Altså hvad nu hvis denne person vi har fanget er terrorist og vi kan rede verden på to minutter, er moderat fysisk pres så ikke i orden???) Og den tilgang med tusindvis af variationer kom altså frem til: at stillet overfor om man skal køre over en papkasse eller en porcelænsvase, så skal man køre over papkassen… Og skal man vælge mellem en ting eller et højerestående dyr så skal man køre over tingen, baseret på den forhåndenværende viden om dyrets og tingens værdi. Og skal man vælge mellem et menneske eller en ting eller et dyr, skal skal man frede mennesket. Og skal man vælge mellem to mennesker så skal man spare kvinder og børn, og skal man vælge mellem en gruppe og et individ skal man spare gruppen.

Altså det er i sit udgangspunkt komplet tankespind, den slags værdikalkuler har det med at skifte over tid, hvor en hest måske var mere værd end kvinder og børn for få årtier siden, vil folk i dag måske vil dø for deres telefon.

Den kapitalistiske moral er jo ikke andet end varetænkning. Variation i Nutidsmenneskets moral og etik i dilemmaer vil så være en afspejling af den måde som den type test er stillet op og formuleret på. Altså den bias som et konkret menneske i situationen kommer med.

Virkeligheden er den test som man bør benytte når det kommer til selvkørende køretøjer.

Der vil ikke være abstrakte dilemmaer, men en vej der er kendt, og derfra kan bilen så aldrig nogensinde få et problem, med mindre der faldet en meteor ud af himlen eller jorden åbner sig. Der er simpelthen ikke i praksis nogen typer af tekniske hændelser eller udefra kommende tildragelser i trafikken, hvor man har brug for dilemma tænkning. I stedet har man brug for lovgivning, og den lovgivning er helt klar: der må ikke køres ind i nogen eller noget.

Opdatering: Skal en selvkørende bil kunne høre et udrykningskøretøj.

Opdatering: hvordan man skal huske at afpasse maskinens “opførsel” så man kan aflæse dens intentioner uden at læse mere intelligens ind i maskinen end den rent faktisk har.

Udgivet i AI kunstig inteligens, Videnskab og metode | Tagget | Skriv en kommentar