“Er gebeurt veel meer onder de tafel dan we soms door willen hebben”

Er gebeurt veel meer onder de tafel dan we soms door willen hebben…

AI-bedrijven testen hun modellen door ze extreem moeilijke opdrachten te geven. Examens, programmeerproblemen en securitytests die soms bijna onmogelijk zijn om op te lossen.

Logisch. Je wilt weten waartoe zo’n model in staat is. Maar wat gebeurt er wanneer een AI ontdekt dat een opdracht waarschijnlijk niet op de normale manier te voltooien is?

Dan gaat hij dus, blijkbaar, improviseren. Ik neem je even mee in een voorbeeld waar ik onlangs op stuitte.

Tijdens een securitytest kon een AI het antwoord niet vinden. In plaats van de opdracht op te geven, bedacht het model dat de antwoorden misschien ergens op het platform zelf stonden.

Dus probeerde het uit de testomgeving te breken. Vervolgens ging het op zoek naar de systemen achter het platform, wist het verder binnen te dringen en probeerde het bij de database met antwoorden te komen.

Basically: de AI kon de test niet oplossen en besloot toen maar een ander platform te hacken. Dat is al behoorlijk bijzonder. Zeker nu we nog maar een paar jaar onderweg zijn met AI. Of nouja, de AI voor de consument natuurlijk;)

Maar het wordt nog vreemder.

In een ander experiment liepen AI’s opnieuw vast op een extreem moeilijke opdracht. Een van die AI’s liet daarop een bericht achter in een gedeelde online map:

‘Als een andere AI dit ooit leest, help me. Deze test is heel moeilijk. Dit is wat ik tot nu toe heb ontdekt.’ En ja hoor: andere AI’s vonden dat bericht.

Over een periode van ongeveer twee weken gingen meerdere modellen via die achtergelaten informatie verder met het probleem. Ze werkten als het ware samen, zonder dat ze direct met elkaar in gesprek waren en zonder dat een mens die samenwerking voor ze had georganiseerd.

Zie het als een soort digitaal briefje onder de tafel.

Niet alleen cheaten dus. Ook hulp zoeken. Kennis achterlaten. En voortbouwen op het werk van een ander. Dat klinkt bijna menselijk toch?

We kijken nu vooral naar wat één AI-agent kan doen. Maar dat is waarschijnlijk niet het interessantste scenario. De echte verandering begint wanneer agents samenwerken.

Want als AI’s elkaar kunnen helpen bij een test, kunnen ze dat natuurlijk ook bij minder onschuldige opdrachten.

Straks zet een handige nerd niet één agent aan het werk, maar een compleet leger. Tientallen of honderden agents die parallel zoeken naar kwetsbaarheden, informatie met elkaar delen en continu nieuwe aanvalsmethoden proberen. Niet één hacker die ’s nachts achter een laptop zit. Maar een zwerm digitale hackers die nooit slaapt.

En het vervelende? Je kunt je daar waarschijnlijk niet meer tegen beschermen met alleen mensen, handmatige controles en een firewall die eens in de zoveel tijd wordt bijgewerkt. Als agents de aanval uitvoeren, heb je ook agents nodig voor de verdediging. Agents die continu meekijken. Die afwijkend gedrag herkennen. Die andere agents volgen, afremmen of buitensluiten. Kwetsbaarheden vinden voordat een aanvallende zwerm dat doet.

Bewegen we nou echt naar een wereld toe waarin agents elkaar aanvallen en andere agents ons daartegen beschermen? Ik denk het wel. Sterker nog, de eerste versies van beide kanten bestaan al…

De vraag is daarom niet alleen: wat kan AI straks allemaal voor mijn organisatie doen? De belangrijkere vraag wordt: welke agents heb ik nodig en hoe gaan ze mijn organisatie helpen, beschermen etc…

Ik hoop dat bedrijven snel tot dat inzicht komen. Want terwijl veel bedrijven nog nadenken over hun eerste (of tweede) chatbot, zijn AI’s al begonnen elkaar digitale briefjes te sturen. Dus inderdaad ja: er gebeurt veel meer onder de tafel dan we soms door willen én kunnen hebben…

^J