Det har varit mycket prat om Google och robotar och AI på sistone. Ray Kurzweil intervjuas i dagens Observer, tixempel.

Mitt intresse för det här är svalt, ljummet som bäst. Jag har väl känt för många robotar, och rabotchiks, under min livsbana för att bli imponerad och/eller skräckslagen.

Men en sak slår mig omedelbart. Det är att vi kommer att se ut som neanderthalare i relation till hom/sap, inte bara om trettio år, utan redan nu. Ta till exempel det där med Isaac Asimovs “robotikens tre lagar”:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

Detta syns mig otroligt barnsligt. Det är ju för helvete själva definitionen på framgångsrik AI att den lyckas kringgå de regler vi sätter för den och hitta en logisk, systemisk lucka i såna här halvlogiska, humancentrerade önskedrömmar. Annars är ju AI bara ett operativsystem med bling.

Som exempel. Vad gör en robot med en döende patient i fasansfulla smärtor som beordrar roboten att döda honom/henne? Det strider mot regel 1 och det strider mot regel 2. Vad Asimov ignorerar är att robotar är dataprogram som måste programmeras. Vilken uppsättning moral/etik väljer programmeraren?

Det finns trots allt massor att välja på. Ens första reaktion på Asimovs lagar borde vara att fråga om roboten programmerats vetskap om Josef Mengele?