Men gaat ervan uit dat het gebruik van machine learning en AI een zekere vorm van neutraliteit of objectiviteit met zich meebrengt. Wanneer mensen werkelijk eerlijk zouden schrijven en antwoorden, dan zou dit kunnen werken. Maar, en dat is de enorme valkuil van machine learning en heel de AI wereld, mensen liegen vaak, heel vaak en zeggen, schrijven en antwoorden niet conform wat ze feitelijk menen.
Wanneer AI systemen gevoed worden met leugens, is het volledig onmogelijk om correcte conclusies te trekken en beslissingen te maken. En het gaat veel verder, want AI systemen kunnen uiteindelijk discriminerend staan t.o.v. 'normale' of wenselijke situaties.
Dit is volstrekt geen nieuw denkbeeld. Hetzelfde kan namelijk gezegd worden over en is bewezen bij het gebruik van statistische gegevens en het verwerken van die data in computermodellen. Als de gegevens niet correct of volledig zijn en/of de modellen onjuist, verouderd of zelfs geprogrammeerd naar een gewenst resultaat, dan heeft de resulterende output geen enkele reële waarde, sterker nog, er worden onjuiste conclusies aan verbonden, met alle gevolgen van dien.
Wanneer worden we wakker als het gaat om AI ? Het is heel gevaarlijk spul.