Een kleine drone zoemt rond het hoofd van de spreker en landt op zijn uitgestrekte hand. ‘Deze drone kan gezichten herkennen en reageert veel sneller dan een mens’, zegt hij liefkozend. Dan gooit hij de drone de lucht in. Die vliegt af op een soort paspop aan de zijkant van het podium en raakt de pop – poef! – tussen de ogen. Gejoel en applaus uit het publiek. Eerder had de presentator al uitgelegd dat de drone is toegerust met drie gram explosieven, ‘genoeg om de schedel binnen te dringen en de inhoud te vernietigen’.
Van die klinische manier van spreken keek ik niet op; die past prima bij de manier van praten van de wapenindustrie over slachtoffers (‘doelwitten’). Vreemder vond ik de achteloze manier waarop de presentator sprak over de good guys en de bad guys waartussen de drone feilloos onderscheid zou weten te maken. Zo’n drone zou natuurlijk alleen maar bad guys uitschakelen, verzekerde hij. En het publiek maar juichen!
Al snel blijkt dit filmpje (op youtube te vinden onder Slaughterbots) promotiemateriaal van de actiegroep Stop Autonomous Weapons. Het vervolg laat zich raden: bad guys krijgen de drones in handen en schakelen gericht mensen uit die hen niet bevallen. Tot slot komt een geruststellend suf ogende Berkeley-professor in de kunstmatige intelligentie vertellen dat dit allemaal staat te gebeuren als wij niet snel ‘iets doen’.
Onze eigen Nationale Politie heeft een ferme eerste stap genomen richting het doemscenario van de actiegroep door volop te experimenteren met gezichtsherkenningssoftware. Het werkt nog niet perfect allemaal, maar in 2017 wist onze politie met die software toch maar mooi 93 verdachten te koppelen aan een persoon in de politiedatabase, meldde NRC Handelsblad vorige week. En de politie heeft hooggespannen verwachtingen, want de software kan met kwalitatief steeds slechtere foto’s toe. Die programma’s leren snel bij omdat wij zo enorm veel kiekjes met elkaar delen op sociale media. De software oefent lustig op onze gezichten. Facebook kan inmiddels behoorlijk goed mensen op een willekeurige foto herkennen. En dat mag, want dat heeft u aangevinkt bij de gebruikersovereenkomsten.
De software zal zich verder ontwikkelen, de databases zullen zwellen, en ook de computers van onze Nationale Politie zullen zomaar een gezicht op straat steeds gemakkelijker kunnen identificeren als dat van verdachte X. Onze politie stuit nog wel op enkele juridische drempels, maar de Chinese regering slaat inmiddels routineus biodata op van iedereen die zij gevaarlijk acht – en ook maar gelijk van hun familieleden, zo meldt de website van Ruben Terlous Door het hart van China. De Chinese autoriteiten pochen dat hun agenten via een soort zonnebril met ingebouwde software inmiddels geregistreerde criminelen uit een willekeurige mensenmassa kunnen pikken. Zouden zij een drone toegerust met een soort verdovend poeder niet verdomd handig vinden bij de arrestatie?, denk ik dan. Chinese autoriteiten zouden vast sussen dat zulke technologie alleen maar ingezet wordt tegen bad guys, maar dat is een schrale geruststelling, want in China ben je crimineel zodra je de harmonie verstoort. En wat harmonie is, bepalen diezelfde autoriteiten.
Enfin. Waar het me nu om gaat, is dat gezichtsherkenningssoftware in drones past in een technologische tendens die de act van het doden losweekt van het lichaam van de dader. Vroeger was doden nog een intieme affaire, je moest een lijfelijk gevecht aangaan met de ander. Nu loopt iemand die over sterke wapens beschikt bar weinig risico om zelf gewond te raken. Daarom is die verdedigingslinie van de National Rifle Association – ‘het zijn mensen die doden, niet wapens’ – ook zo’n onzin. ‘Hij zou met een mes nooit zoveel scholieren pijn hebben kunnen doen!’, merkte de woedende scholiere Emma Gonzalez terecht op over de jongen die onlangs met een semiautomatisch wapen zeventien mensen doodschoot op zijn voormalige middelbare school in Florida. Dankzij dat wapen hoefde de schutter niemand dicht te naderen. Wapentechnologie maakt doden minder gevaarlijk. Voor de dader dan.
Door de lichamelijke krachtmeting uit het doden te halen, valt een belangrijke rem weg. Wat dat betreft zijn drones met gezichtsherkenning slecht nieuws. Daders kunnen besluiten ze in te zetten tegen guys met wie ze op dat moment ruimte noch tijd delen, en zo hun eigen lichamelijkheid totaal buitenspel zetten. Ze hoeven zelfs niet meer te zien wat ze aanrichten.