De AI-hype speelt in op je gebrek aan kennis: wees kritisch!

De AI-markt is losgebarsten. Het ene na het andere product vliegt je aan. Tijd voor een kort artikel dus. Want de verkopers van de technologie beloven magie en wonderen. En veel mensen zijn te veel onder de indruk en te weinig deskundig om bonafide van valse AI te kunnen onderscheiden.

Wees gewaarschuwd: AI is nog lang niet perfect en er zijn wel degelijk bedrijven die minder hebben met de klant als met zijn pinpas. Laat je dus goed informeren voordat je iets aanschaft. AI kan een geweldige co-worker zijn, een helpende bron van informatie, maar ze wordt gevoed door mensen en neemt soms ook de denkfouten van die mensen over. Het is in elk geval geen organisme met gevoel, hoe menselijk AI zich ook soms gedraagt. Laten we in dit artikel eens kijken hoe bedrijven ons kunnen misleiden met de nieuwe AI- technologie. 

We beginnen met de bedrijven die AI verkopen alsof het een magische toverstaf is. Heb je ooit gehoord van AI-producten die beweren “volledig autonome besluitvorming” te kunnen leveren? Klinkt indrukwekkend, nietwaar? Alsof je een robot in huis haalt die, zonder ook maar een moment van twijfel, weet wat je moet eten voor het avondeten en tegelijkertijd de aandelenmarkt voorspelt. Spoiler alert: dat kan AI nog niet, en waarschijnlijk zal het dat ook niet zo snel kunnen.

Dan heb je die “instant-succes” AI-tools, die zonder enige training precies zouden weten wat jij nodig hebt. Alsof je een vreemdeling op straat vraagt je levensverhaal te analyseren, en die dan nog gelijk heeft ook. Het klinkt te mooi om waar te zijn, en dat is het ook. AI-systemen zijn als pubers; ze hebben tijd en geduld nodig om iets van hun leven te maken en kunnen zeker niet zonder de juiste begeleiding.

Dan komen we bij de deepfakes: video’s en audiofragmenten die net zo echt lijken als de tranen van een realityster na hun zoveelste break-up. Je hebt misschien gehoord van nep-CEO’s die via een telefoontje een hele financiële afdeling om de tuin leiden. En geloof het of niet, die technologie werkt goed genoeg om zelfs de meest doorgewinterde accountant op het verkeerde been te zetten. Niets vertrouw je meer dan de stem van je baas die je vraagt om een paar miljoen naar een dubieuze bankrekening over te maken.

En wie heeft er tegenwoordig geen last van een valse identiteit hier en daar? Datingapps, sociale media—AI maakt het verrassend eenvoudig om een “perfecte” match te creëren die alles van je weet, behalve het feit dat je een levend mens bent. Het is maar goed dat we onze identiteit hebben toevertrouwd aan algoritmes, toch?

Chatbots zijn ook een vermakelijke categorie. Sommige bedrijven beweren dat hun AI-chatbots menselijke experts kunnen vervangen. Voor je het weet, ben je je medische vragen aan het stellen aan een chatbot die evenveel medische kennis heeft als je neef die biologie op de middelbare school net heeft gehaald. Maar ja, zolang het systeem overtuigend klinkt, wie heeft er een echte dokter nodig?

En dan is er de “klantenservice” AI, die meer vragen oproept dan beantwoordt. Je kent het wel: je bent 45 minuten bezig met een chatbot die je uiteindelijk vertelt dat je een “menselijk agent” moet contacteren, iets dat je drie kwartier geleden al wist. AI-chatbots: voor als je behoefte hebt aan extra frustratie in je dag.

Cybercriminelen hebben AI natuurlijk ook ontdekt. Phishing-e-mails zijn tegenwoordig zo gepersonaliseerd dat je bijna zou geloven dat de oplichters écht om je geven. Stel je voor: een e-mail die jouw favoriete grapjes nabootst terwijl ze je bankgegevens proberen te stelen. Het is de vriendschap van de 21e eeuw.

Bedrijven gebruiken AI ook om online recensies te manipuleren. Het restaurant dat gisteren nog een 2-sterren beoordeling had, heeft vandaag opeens 300 lovende recensies van “tevreden” klanten. Toeval? AI denkt van niet. Maar als je twijfelt over die gloednieuwe “5-sterren” pizzatent, luister dan gewoon naar je instinct of, beter nog, een echte vriend.

Ook de gezondheidszorg is een prachtig slagveld voor AI-misleidingen. Sommige producten beloven je ziektes te diagnosticeren zonder ook maar enige medische achtergrond. Je hebt immers geen dokter nodig als je een AI hebt die je vertelt dat je symptomen “waarschijnlijk niks zijn,” toch? AI-producten zonder klinische validatie zijn net zo betrouwbaar als zelfhulpgroepen geleid door je buurman die ooit één psychologiemodule volgde.

En dan zijn er AI-systemen die “persoonlijke groei” beloven, met slogans als “Laat AI je coach zijn!” Nou, tenzij de AI het geheim van het leven heeft ontdekt, is het slim om je coaching nog even aan mensen over te laten. Omdat AI nu eenmaal geen gevoel heeft en de externe contexten niet kent. Zeker, ze kan ze beschrijven, maar hoe het werkt is een probleem voor AI. Dat geeft Chat GPT overigens ook ruiterlijk toe. 

Sommige producten claimen “complexe AI,” terwijl er achter de schermen niets meer draait dan een stel geavanceerde spreadsheets en handmatige tussenkomsten. Bedrijven presenteren prachtige dashboards, maar als je goed kijkt, is het vooral veel gebakken lucht.

Als laatste benoem ik de investeringstrucs. Van AI-gebaseerde tradingbots die gouden bergen beloven tot piramidespellen die met het magische woord “AI” geld uit je zak kloppen. We houden van AI-hype en investeren er graag in, zonder al te veel vragen te stellen.

Dus laten we vooral niet vergeten kritisch te blijven. Want in de AI-wereld is het enige wat écht zeker is, dat het altijd iets minder magisch is dan het lijkt. AI werkt met prompts en geeft het meest waarschijnlijke antwoord. Dat wordt razendsnel berekend, en dat is knap. Sowieso kan het iets praktisch zijn. Zolang wij met een kritische blik aan het roer blijven staan. Want de mens en niemand blijft toezichthouder en kapitein. 

Hoe kan het trouwens dat we ons zo laten misleiden? Omdat onze hersenen gemakkelijk te foppen zijn. Op deze blog heb ik het nodige geschreven over de onbetrouwbaarheid van ons brein. Het heeft bijvoorbeeld meer met een mooi verhaal dan met waarheid (zie ook 'Het Flitsbrein', mijn boek over intuïtie, data en het brein). 

Maar bij AI zijn er nog wat specifieke dingen aan de hand. Het is complex en veel mensen hebben moeite om precies te begrijpen wat het kan en niet kan. Deze kenniskloof maakt het gemakkelijk voor oplichters.

Dan is er een marketing aspect. De media-aandacht rondom AI creëert een gevoel van urgentie en opwinding. Hierdoor zijn mensen sneller geneigd om te investeren en producten te vertrouwen zonder ze grondig te onderzoeken.Mensen vertrouwen bovendien vaak op technologie. Ze zijn zo naïef om te geloven dat systemen objectief en betrouwbaar zijn, zelfs als dat niet altijd het geval is.

Het is daarom belangrijk om kritisch te blijven, producten zorgvuldig te evalueren, en je niet te laten meeslepen door de hype. Zorg ervoor dat AI-claims worden ondersteund door onafhankelijke onderzoeken en dat je goed begrijpt hoe de technologie werkt voordat je erop vertrouwt. In dit kader is 'Slimmer werken met AI' van Ethan Mollick een interessante boekentip. 

https://www.managementboek.nl/boek/9789493213845/co-intelligentie-slimmer-werken-met-ai-ethan-mollick