Binnen 15 jaar beschikt China over een leger dat volledig autonoom kan functioneren. Wat impliceert dat?

"Vlak voor de openingsceremonie van de Beijing 2022 Winterspelen namen verschillende Chinese steden deel aan dit evenement, waar enkele optredens werden getoond, waaronder Shenzhen, de technologiestad van China, met een verbazingwekkende droneshow die indruk maakte op meer dan één!" Idd, de droneshow tijdens de openingsceremonie op 04 februari dit jaar was indrukwekkend. China liet daarmee ook zien welke ontwikkeling het land had doorgemaakt a.g.v. de coronapandemie. Men had niet stilgezeten. Feitelijk was dit al een waarschuwing.

"Een toepassing van Artificial Intelligence (AI) waarbij een groter aantal onbemande voertuigen als autonome zwerm opereert en zelfstandig gecoördineerd opdrachten kan uitvoeren. Bijvoorbeeld een zwerm van tientallen drones die luchtverdedigingssystemen verzadigen." In zijn toespraak gisteren tijdens het seminar Fog of War 2.0 ter gelegenheid van het 20-jarig jubileum van de Militaire Inlichtingen- en Veiligheidsdienst (MIVD), sprak Commandant der Strijdkrachten generaal Onno Eichelsheim over 'zwermtechnologie' als autonoom opererend systeem. Dat drones stand alone succesvol kunnen zijn leren (sic) we van de oorlog in Oekraïne, laat staan als het een zwerm van tientallen zelfs duizenden drones is.

“China is becoming the largest testing ground to demonstrate how emerging technologies can be harnessed to improve epidemic management and minimize the economic impact of the coronavirus outbreak." Het was maart 2020 en we constateerden, of we hebben dat kunnen doen 'COVID-19: Chinese samenleving robotiseert momenteel in nog rapper tempo.'

Voorafgaand aan de toespraak van Eichelsheim sprak Minister Kajsa Ollongren het aanwezige publiek toe "Ik kan vandaag bevestigen dat het waarschijnlijk is dat het Chinese leger over 15 jaar beschikt over operationele wapensystemen, die op basis van AI volledig autonoom (zonder enige menselijke tussenkomst) kunnen functioneren binnen alle domeinen." Paul Verhoeven krijgt (opnieuw) alsnog gelijk.  15 jaar lijkt mij nog wat lang ingeschat gezien de ontwikkeling die de Chinese oorlogsindustrie nu al doormaakt. Maar vooruit, belangrijker is: wat zijn of kunnen dat zijn de implicaties voor het reguliere bedrijfsleven? Giga kan ik je vertellen.

Allereerst de technische kant: veel productielocaties in China kennen al autonome productiesystemen, systemen die functioneren op basis van principes als kunstmatige intelligentie en machine leren. Dat betekent, of kan betekenen, dat een gerobotiseerd/gedigitaliseeerd autonoom leger gefabriceerd kan worden door AI gestuurde autonome systemen ofwel: 'robot maakt robot'. "Het duurt niet lang meer tot kunstmatige intelligentie slimmer is dan de mens. Dat kan in 2029 zijn, in 2039, maakt niet uit. Slimmer, en met veel meer kennis." constateert Mo Gawdat in zijn boek 'Griezelig Slim'.

Dan de structuur kant: kunstmatige intelligentie leert/kopieert 'het vak' van medewerkers werkzaam in de productieketen c.q. op de werkvloer, niet van managers. Kunstmatige intelligentie opereert autonoom. AI heeft geen leidinggevenden nodig, geen managers, laat staan een bestuur. Ook de rol van CdS Eichelsheim lijkt hiermee te zijn uitgespeeld. Waarom nog een commandant als de eenheid zelfstandig besluiten neemt?

Organisatiecultuur dan? Ik verwacht niet dat AI systemen ook maar 'iets' hebben met de ongeschreven regels van het spel.

Voor zover in het kort ook de implicaties van autonome systemen voor organisaties in private en publieke sector. Maak zelf de verstaalslag voor jouw organisatie.

Terug naar de toespraak van Eichelsheim: "Nederland heeft altijd aangegeven dat we de ‘D’ in OODA (NB; Observe, Orient, Decide, Act), Decide, bij een mens laten. Een mens moet beslissen of een doelwit daadwerkelijk wordt geraakt. Kunstmatige intelligentie kan al deze taken uit handen van mensen nemen. Computers kunnen steeds vaker sneller denken dan mensen. Dus het is logisch dat we ons niet handmatig tegen raketten willen beschermen, maar met behulp van een systeem."

Ethisch is het juist dat een mens beslissingen neemt, constateert de CdS "Maar wat als de, al dan niet potentiële tegenstander, deze ethiek niet heeft?" Dan wordt het op z'n minst spannend.

Mo Gawdat signaleert wereldwijd een verschil over dat wat iedere cultuur verstaat onder 'ethiek'. Voorbeeld: we weten/ervaren dat er in verschillende landen wereldwijd op een andere manier met demonstranten wordt omgegaan. Zo gedogen in ons land gezagsdragers min of meer tractoren die een snelweg blokkeren. In China heeft men in een vergelijkbare situatie minder moeite met het inzetten van een wapensysteem. Stel nu dat per vergissing een autonoom Nederlands wapensysteem wordt verruild met een dito Chinees wapensysteem dan krijg je voor de bewoners  van ieder land verrassende (sic) uitkomsten.

De ontwikkeling van kunstmatige intelligentie, robotica, machine leren, internet der dingen e.d. hou je niet tegen. De vraag is hier hoe, en crucialer nog wanneer, anticipeert je organisatie op deze ontwikkeling, een ontwikkeling die zeker impact zal hebben op de kern van organiseren? Want zelfs als je gelooft in 15 jaar dan zijn die jaren voorbij voor dat je dat 'goed & wel' door had.

O ja, er was uit de zaal nog een opmerking dat 'we de chipsindustrie dienden te reguleren(!)', computerchips als de basis voor AI. Slim maar weet dan dat de Eindhovense High Tech campus, toch hét paradepaardje van de NL industrie, al in handen is van Singapore, nu ASML nog. (en koopt/krijgt China het niet dan is, zeker als we zelf niets nieuws leren, die Brain in 15 jr zéér waarschijnlijk ook gekopieerd).

Willem E.A.J. Scheepers, organisatie ontwikkelaar, adviseur, docent SHRRM en auteur van o.m. ‘De Visie van de Organisatie, een Arbeidsmarkt met Mens en Robot, Leiderschap binnen een Uitdagende Toekomst‘.