Het is altijd een mooie discussie met mensen in de informatiebeveiligingsindustrie. Of we nu praten met klanten of onze medestrijders voor een veiligere wereld, de volgende vraag is altijd onderwerp van gesprek: “Gaat de technologie zoals AI ooit in staat zijn om menselijke fouten uit te sluiten?” Voor zover mijn persoonlijke mening ertoe doet, poneer ik hem hier toch: “Ik denk dat technologie nóóit in staat zal zijn om alle menselijke fouten te elimineren.” Ik had daarover onlangs een mooi gesprek, waarin de stellingname van mijn gesprekspartner in de lijn lag van: “Je moet zoiets belangrijks als informatiebeveiliging simpelweg niet in handen leggen van mensen, daar heb je technologie voor en met de komst van A.I. hoeven we ons straks nog minder zorgen te maken over de menselijke fouten.” Je kunt je wellicht voorstellen dat we het niet direct met elkaar eens waren…

Ik heb van de 18 jaar dat ik in de cybersecurityindustrie actief ben verreweg de meeste tijd doorgebracht in het technologische spectrum. Ik heb daarin veel ontwikkelingen meegemaakt, maar in al die jaren is er nog geen een stukje technologie geweest waarvan ik een organisatie heb horen zeggen: zo nu zijn we klaar!

Het nieuwe paard van Troje

Natuurlijk is technologie door de geschiedenis heen ook ons belangrijkste wapenfeit gebleken in de ontwikkeling van de mensheid. Van de eerste uitvindingen van Leonardo da Vinci, tot de ontwikkeling van het internet en alles daartussen: de opkomst van nieuwe technologie heeft vrijwel altijd bijgedragen aan de ontwikkeling van onze samenleving. Als we die gedachte doortrekken is het niet gek dat mensen snel geneigd zijn om A.I. simpelweg als nieuwste uitvinding te zien die onze maatschappij vooruit zal brengen. De technologie is immers een goede ondersteuning om fouten te verminderen en om ons werk efficiënter te kunnen uitvoeren. Daardoor denken mensen met de komst van A.I. dat we wel weer een nieuw ‘paard’ hebben waar we ons geld op kunnen zetten, in de hoop dat we daarmee eindelijk die ‘zilveren kogel’ hebben gevonden die ons beschermt in de continue wapenwedloop met hackers.

Ik denk echter dat dit wel eens het ‘nieuwe paard van Troje’ kan zijn. Iedereen die de illusie heeft dat A.I. ons wel volledig veilig gaat houden, kan ik bij deze uit die droom helpen: A.I. zal nooit 100% foutloos worden. Bovendien zal A.I altijd menselijke interactie vereisen en zoals altijd geldt: waar mensen werken, worden fouten gemaakt.

Ondanks mijn kritische houding denk ik dat we zonder technologie al ‘dood en begraven’ waren in de strijd tegen hackers. Tegelijkertijd denk ik dat we beter weerbaar zouden zijn tegen hackers wanneer we ons minder afhankelijk op zouden stellen van technologie. Ik denk zelfs dat technologie een oorzaak is van het feit dat we als mens soms zelf wat lui en laks zijn geworden. Of het nu gaat om ons dagelijks leven of het beveiligen van organisaties en informatie.

ADHD-AI

Hele generaties na ons zullen ermee opgroeien: computers – of beter gezegd super (quantum) computers – die meer en meer denkwerk van ons gaan overnemen. Ik juich de ontwikkeling toe, maar zie het ook als risico, omdat het gevaar op de loer ligt om er te veel op te vertrouwen. Waar nu steeds meer mensen in Nederland lijden aan een vorm van ADHD (ADHD-I, ADHD-H of ADHD-C), lijden we straks massaal aan ADHD-AI. Misschien nu nog niet, maar naargelang A.I. zich blijft ontwikkelen voorzie ik dat men zich steeds meer afhankelijk van de technologie zal maken. Daardoor vrees ik dat A.I. in de toekomst ons eigen denkvermogen zal verminderen, we ons moeilijker kunnen focussen en dat we klakkeloos en impulsief overnemen wat we tot ons krijgen via A.I.

Daarom noemde ik het eerder ‘het nieuwe paard van Troje’. We hebben A.I. massaal omarmd, terwijl de meeste gebruikers er onvoldoende mee bekend zijn. Enkele voorbeelden van thema’s rondom A.I. waar mensen zich beter in zouden kunnen verdiepen zijn:

1. Het veilig gebruiken van A.I.
2. De beperkingen van A.I.
3. De Bias in A.I. Algoritmen
4. De risico’s bij verwerking van (gevoelige) gegevens door A.I.
5. Het risico van automatiseren van foute en foutgevoelige processen

Voorlopig blijf ik daarom vertrouwen op de kracht van de mens als sleutel om informatiebeveiliging effectief te laten zijn, waarbij ik technologie als mijn belangrijkste bondgenoot beschouw. Uiteindelijk hebben mijn gesprekspartner en ik elkaar hierin gevonden. Techniek en mensen hebben elkaar nodig en dat geldt ook voor A.I.

Namens Behaav

Melvin Broersma