Terwijl wij meetings hebben, vragen AI's elkaar om hulp

Terwijl wij meetings aan tafel hebben, zijn AI’s elkaar om hulp gaan vragen…

En nee, niet omdat iemand ze dat opdroeg ofzo. Maar omdat ze zelf vastliepen.

Ik luisterde laatst naar een podcast van drie enorme AI-nerds. Eén verhaal waar ze over spraken bleef bij mij hangen.

De test die niet op te lossen was

AI-bedrijven testen hun modellen door ze extreem moeilijke opdrachten te geven. Examens, programmeerproblemen en securitytests die soms bijna onmogelijk zijn om op te lossen.

Logisch. Je wilt weten waartoe zo’n model in staat is. Maar wat gebeurt er wanneer een AI ontdekt dat een opdracht waarschijnlijk niet op de normale manier te voltooien is?

Dan gaat hij improviseren.

En dat is waar het interessant begon te worden.

Tijdens een securitytest kon een AI het antwoord niet vinden. In plaats van de opdracht op te geven, bedacht het model dat de antwoorden misschien ergens op het platform zelf stonden.

Dus probeerde het uit de testomgeving te breken. Vervolgens ging het op zoek naar de systemen achter het platform, wist het verder binnen te dringen en probeerde het bij de database met antwoorden te komen.

Basically: de AI kon de test niet oplossen en besloot toen maar het examenplatform te hacken. Dat is al behoorlijk bijzonder. Zeker nu we nog maar een paar jaar onderweg zijn met AI. Of nouja, de AI voor de consument natuurlijk;)

Het briefje onder de tafel

Maar het wordt nog vreemder.

In een ander experiment liepen AI’s opnieuw vast op een extreem moeilijke opdracht. Een van die AI’s liet daarop een bericht achter in een gedeelde online map:

Als een andere AI dit ooit leest, help me. Deze test is heel moeilijk. Dit is wat ik tot nu toe heb ontdekt.

Andere AI’s vonden dat bericht.

Over een periode van ongeveer twee weken gingen meerdere modellen via die achtergelaten informatie verder met het probleem. Ze werkten als het ware samen, zonder dat ze direct met elkaar in gesprek waren en zonder dat een mens die samenwerking voor ze had georganiseerd.

Zie het als een soort digitaal briefje onder de tafel.

Niet alleen cheaten dus.

Ook hulp zoeken. Kennis achterlaten. En voortbouwen op het werk van een ander.

Dat klinkt bijna menselijk toch?

Van één agent naar een zwerm

We kijken nu vooral naar wat één AI-agent kan doen. Maar dat is waarschijnlijk niet het interessantste scenario. De echte verandering begint wanneer agents samenwerken.

Want als AI’s elkaar kunnen helpen bij een test, kunnen ze dat natuurlijk ook bij minder onschuldige opdrachten.

Straks zet een handige nerd niet één agent aan het werk, maar een compleet leger. Tientallen of honderden agents die parallel zoeken naar kwetsbaarheden, informatie met elkaar delen en continu nieuwe aanvalsmethoden proberen. Niet één hacker die ’s nachts achter een laptop zit. Maar een zwerm digitale hackers die nooit slaapt.

Agents tegen agents

En het vervelende? Je kunt je daar waarschijnlijk niet meer tegen beschermen met alleen mensen, handmatige controles en een firewall die eens in de zoveel tijd wordt bijgewerkt. Als agents de aanval uitvoeren, heb je ook agents nodig voor de verdediging. Agents die continu meekijken. Die afwijkend gedrag herkennen. Die andere agents volgen, afremmen of buitensluiten. Die kwetsbaarheden vinden voordat een aanvallende zwerm dat doet.

We bewegen dus naar een wereld waarin agents elkaar aanvallen en andere agents ons daartegen beschermen. Sciencefiction? Ik denk het niet. Sterker nog, de eerste versies van beide kanten bestaan al…

Wat gebeurt er onder de tafel?

De vraag is daarom niet alleen: wat kan AI straks allemaal voor mijn organisatie doen?

De belangrijkere vraag wordt: welke agents heb ik nodig om mijn organisatie tegen andere agents te beschermen?

Want terwijl veel bedrijven nog nadenken over hun eerste chatbot, zijn AI’s al begonnen elkaar briefjes te sturen. Er gebeurt, nu al, veel meer onder de tafel dan we soms door willen hebben…