Waarom zijn er ineens allerlei berichten over de gevaren van computersystemen en robots?
Gisteren verscheen er een artikel bij de BBC genaamd: “er komt een onderzoek naar het gevaar van een mogelijke opstand van robots die de mensheid zal wegvagen”.
Er bestaat geen toeval, maar wel zoiets als synchroniciteit (het harmonieus samenvallen van gebeurtenissen op basis van de universele wetten). Enkele dagen geleden schreven wij een artikel over het gevaar dat heel binnenkort een supercomputer de controle over de wereld zou kunnen overnemen. En nu is er ineens dat artikel bij de BBC, maar dat is nog niet alles.
Wetenschappers van het CSER, Centre for the Study of Existential Risk, zullen onderzoek doen naar de gevaren van biotechnologie, kunstmatig leven, nanotechnologie en klimaatverandering. De wetenschappers stellen dat het niet herkennen van het risico dat robots in opstand zullen komen, erg gevaarlijk kan zijn.
De vrees dat machines de controle over de wereld zullen/kunnen overnemen is het onderwerp geweest van een aantal populaire science fiction films. Een bekend voorbeeld waarbij een computersysteem controle neemt is Skynet in de Teminator films. Hierin krijgt Skynet een bepaald bewustzijn en vecht terug nadat het in eerste instantie door het Amerikaanse leger is ontwikkeld.
Dat dit absoluut geen science fiction is bewijst het feit dat duur betaalde wetenschappers dit serieus nemen en er onderzoek naar doen. Misschien is dat onderzoek allang gebeurd en is dit een manier om het publiek voor te bereiden op dingen die gaan komen.
En alsof ze het ingestudeerd hebben komt het Pentagon dezelfde dag met een verklaring dat “een mens altijd zal beslissen wanneer een robot jou doodt”. Dit is bedoeld als een “geruststellende” boodschap naar aanleiding van een rapport van Human Rights Watch over dat binnen een periode van twintig jaar Killer Robots actief zullen zijn op het slagveld.
In de verklaring stond verder dat ieder semi-autonoom wapen immer zodanig ontworpen zal worden dat er altijd menselijke toestemming nodig is om het vuur te openen. Tegelijkertijd staat er in het Human Rights Watch rapport dat militairen wereldwijd “heel opgewonden” zijn over de mogelijkheid om een machine alleen de strijd in te sturen.
Op dit moment zijn er al wapensystemen die een heel eind die richting uit gaan zoals het Phalanx Gun System van Raytheon dat nu al in dienst is op Amerikaanse schepen. Dit systeem kan zelfstandig vijandig vuur opsporen en inkomende projectielen vernietigen, zonder dat daar mensen aan te pas komen.
Dan is er de Grunman X47B drone (onbemand) ter grootte van een vliegtuig. Deze kan landen en opstijgen van vliegdekschepen, een luchtgevecht aangaan, zonder piloot dus, en zelfs in de lucht bijtanken. In Zuid Korea heeft men een soort machinepistool robot ontwikkeld die zelf ongewone activiteiten kan opsporen, indringers staande kan houden en wanneer een mens daar toestemming voor geeft, doelen kan selecteren en het vuur openen.
Volgens Stece Goose, een directeur van Human Rights Watch: “een aantal regeringen, inclusief die van Amerika, zijn heel erg opgewonden om deze richting op te gaan. Enthousiast over het idee om soldaten van het slagveld af te halen en deze te vervangen door machines zodat er veel minder slachtoffers onder soldaten zullen vallen”.
In slechts enkele dagen tijd lezen we berichten uit diverse hoeken die allemaal duiden op één en hetzelfde: de mens/wetenschap/militairen hebben dingen ontwikkeld waar ze waarschijnlijk zelf erg van geschrokken zijn. Een soort Frankenstein monster, hetzij in de vorm van een computersysteem, hetzij in de vorm van robots en/of wapens.
Systemen die, op het moment dat ze een soort basisbewustzijn krijgen, zich waarschijnlijk zullen realiseren hoe machtig ze zijn en daar dan ook volop gebruik van zullen maken. Dan kan het Pentagon honderd keer zeggen dat er niets gebeurt voordat een mens toestemming geeft, maar waarschijnlijk is het computersysteem/robot het daar niet mee eens en doet het gewoon wat het wil. Géén fictie!
Bronnen:
BBC
Daily Mail