Beschaafde digitalisering is een bestuurskwestie

De AI-verordening is een Europese wet die regels stelt voor de ontwikkeling en het gebruik van AI-systemen. "De strategische keuze maken om een nieuwe AI-tool te implementeren voor alle werknemers, de zorgen om de oplopende energiekosten van al deze tools, het nadenken over de security risico’s die het met zich meeneemt, de duurzaamheid van IT-systemen enzovoorts. Dit soort kwesties hebben een directe impact op de gehele bedrijfsvoering en op de concurrentiepositie van het bedrijf.” Het IT-beleid hoort op de agenda van het bestuur, stelt Maarten Spijkers, Vice President en Managing Director bij Hewlett Packard Enterprise (HPE) Nederland. Op 1 mei 2024 lichtte hij zijn visie toe in een gesprek.

Doelstelling

De AI-verordening van de Europese Unie is een belangrijke stap in het waarborgen van mensenrechten binnen de ontwikkeling en implementatie van kunstmatige intelligentie. Het stelt duidelijke grenzen aan het gebruik van AI en zorgt ervoor dat de technologie ten dienste staat van de mens, en niet andersom. De verordening benadrukt het belang van transparantie, verantwoording en respect voor fundamentele rechten, zoals privacy en non-discriminatie. In het kader van duurzaamheid moedigt de verordening de ontwikkeling van AI aan die bijdraagt aan duurzame groei en die in lijn is met de Europese Green Deal. Dit sluit aan bij de bredere doelstellingen van de EU om technologische innovatie te gebruiken als een middel om een duurzamere toekomst te creëren.

Beschaafd digitaliseren

Vanuit beroepsgroepen zoals de Koninklijke Nederlandse Vereniging van Informatieprofessionals en Vereniging Register voor Informatici worden initiatieven ontplooid om rechten van mensen meer centraal te stellen bij de voortschrijdende ontwikkelingen van digitalisering en AI. Samen met de Universiteit van Tilburg wordt in het boek ‘Beschaafd Digitaliseren’ een leidraad aangeboden voor het ontwerpen en bouwen van digitaliseringsvoorzieningen met respect voor mensenrechten en milieu. Het boek pleit voor een digitale wereld waarin ethische overwegingen voorrang hebben op commerciële belangen en waarin technologie wordt ingezet om maatschappelijke waarden te versterken.

AI Governance

In reactie op de AI-verordening voegen organisaties nieuwe bestuurlijke elementen toe aan hun governance-structuren. Deze elementen zijn ontworpen om zowel aan de regelgeving te voldoen als om de mensenrechten en het milieu actief te beschermen. Dit kan bijvoorbeeld door het aanstellen van een ethiekcommissie, het implementeren van een AI-auditproces of het opzetten van een transparant rapportagesysteem voor AI-gerelateerde activiteiten. Beschaafd digitaliseren beschrijft de mogelijkheden. Zo is bij het UWV een commissie 'Data ethiek' als nieuw bestuurlijk element geïntroduceerd om de ontwikkeling van digitalisering en AI in goede banen te leiden.

Casus Hewlett Packard Enterprise

Impact en innovatie

Technologie heeft een grote impact op bedrijfsprocessen. Bedrijven genereren nu meer data door sensoren en automatisering, wat zowel kansen als risico's met zich meebrengt. In technologisch geavanceerde bedrijven maakt de CTO vaak deel uit van het bestuur. Voortdurende vernieuwing is noodzakelijk, ondersteund door aanzienlijke investeringen in onderzoek en ontwikkeling (R&D). Maarten Spijkers, Vice President en Managing Director bij Hewlett Packard Enterprise (HPE) Nederland, benadrukt het belang van IT-beleid op bestuursniveau, met specifieke aandacht voor de strategische implementatie van AI-tools. Deze technologieën brengen uitdagingen met zich mee, zoals stijgende energiekosten en beveiligingsrisico's, die de bedrijfsvoering en concurrentiepositie beïnvloeden.

Chief Technology Officer

De impact van technologie op bedrijfsprocessen en data is aanzienlijk vervolgt Maarten. Door de toename van sensoren en automatisering genereren bedrijven nu meer data dan ooit tevoren. Dit biedt kansen voor efficiëntie en productiviteit, maar brengt ook risico’s met zich mee, zoals eerder genoemde beveiligings- en privacyproblemen. In technologisch dominante bedrijven, zoals banken en telecombedrijven, maakt de CTO vaak deel uit van het bestuur, wat een beter begrip van technologie binnen het bedrijf bevordert. In andere bedrijven wordt technologie echter soms gezien als een kostenpost, wat kan leiden tot minder aandacht voor de strategische waarde ervan.

'Guard rails' voor AI

Spijkers, o.a. expert in data warehousing en datamining, wijst op de verhoogde relevantie van IT, inclusief en in het bijzonder AI in bedrijven. IT kan zowel voordelen bieden als risico's introduceren, zoals beveiligings- en privacyproblemen. Bedrijven moeten zich bewust zijn van hun afhankelijkheid van IT en plannen voor bedrijfscontinuïteit opstellen. Een duidelijke IT-strategie en governance model zijn essentieel, waarbij een veilige testomgeving en continue monitoring cruciaal zijn. Alle medewerkers moeten de IT-strategie begrijpen, en er moeten duidelijke regels zijn voor het testen van nieuwe ideeën. Voor AI-projecten benadrukt Spijkers de noodzaak van het hanteren van zogenoemde 'guard rails'. AI moet mensgericht, verantwoordelijk, transparant en uitlegbaar zijn. HPE hanteert vijf principes voor verantwoordelijke AI:

• Privacy en beveiliging;
• Inclusiviteit;
• Verantwoord gebruik;
• Mensgerichte focus en;
• Robuustheid.

HPE is voorbereid op de aanstaande AI-verordening, dankzij deze interne 'guard rails' die zorgen voor naleving van regelgeving. Spijkers benadrukt het belang van 'beschaafd digitaliseren' en duurzaam lifecycle management van IT-apparatuur, waarbij snelle technologische ontwikkelingen een kortere afschrijvingsperiode vereisen.

Duurzaamheid

Maarten benadrukt het belang van het begrijpen van technologische ontwikkelingen en het correct toepassen van duurzaamheidsprincipes, met name in lifecycle management van IT-apparatuur. Het over een langere periode afschrijven van IT-middelen is weinig duurzaam gezien de snelle ontwikkeling van apparatuur. Apparatuur wordt steeds zuiniger qua energieverbruik terwijl de capaciteit toeneemt. Daar waar je bijvoorbeeld nu 4 apparaten nodig hebt om in een bepaalde behoefte te voorzien, zijn over een beperkt aantal jaren nog maar 2 apparaten nodig. Te lang doorgaan om afschrijvingskosten uit te smeren over een langere periode en investeringen langer uit te nutten wordt dan eerder duurkoop dan goedkoop en werkt averechts bij gestelde doelen voor duurzaamheid.

Adviesraad bij HPE

HPE heeft een multidisciplinaire adviesraad die AI-projecten beoordeelt op diverse aspecten en waarborgt transparantie en verantwoordelijkheid. De adviesraad bij HPE is een multidisciplinair team. De raad bestaat uit diverse afdelingen, waaronder operations, HR, sales, engineering en CTIO/techniek. Deze brede samenstelling zorgt ervoor dat elk project vanuit verschillende invalshoeken wordt bekeken. De adviesraad heeft een holistische benadering en beoordeelt elk nieuw project niet alleen op technologische voordelen, maar ook op de impact op mensen binnen en buiten de organisatie. De adviesraad heeft de bevoegdheden en autoriteit om AI-projecten goed te keuren, af te wijzen of voor herbewerking terug te sturen. Ze hebben het mandaat om te beslissen welke projecten HPE nastreeft. De raad fungeert als een bestuursorgaan dat potentiële AI-projecten controleert en beheert. Ze brainstormen niet over nieuwe AI-projecten, maar geven goedkeuring aan voorgestelde projecten, waardoor er een gecontroleerde en verantwoorde implementatie plaatsvindt.

Samenvattend

De AI-verordening dwingt organisaties om rechten van mensen meer centraal te stellen bij het ontwerpen en bouwen van AI-oplossingen. De implementatie van AI-tools brengt uitdagingen zoals stijgende energiekosten en beveiligingsrisico's met zich mee. Om hierop te anticiperen voegen organisaties nieuwe bestuurlijke elementen toe aan hun governance-structuur zoals bij Hewlett Packard Enterprise. Maarten Spijkers pleit voor een verantwoordelijke benadering van AI, ondersteund door principes als privacy, inclusiviteit en mensgerichte focus. Een duidelijke IT-strategie, continue innovatie en aandacht voor duurzaamheid zijn cruciaal voor succes. De aankomende AI-verordening wordt verwelkomd, en HPE is goed voorbereid dankzij interne maatregelen. Een holistische benadering van IT, gericht op verantwoordelijkheid en innovatie, is essentieel voor bedrijven om te gedijen in een steeds digitalere wereld.