Alle berichten

Technologie6 min lezen

Stop uw AI-agents ervan om menselijke gebruikers te vertragen

Nieuw onderzoek toont aan hoe een eenvoudige, beveiligde voorrangsbaan voor AI-verkeer de responstijden aanzienlijk kan verkorten zonder dat bots uw netwerk overnemen.

Uw AI-agents komen vast te zitten in het verkeer. Elke keer dat ze een kleine, tijdsgevoelige aanvraag over uw netwerk verzenden, moeten ze in dezelfde rij wachten als alle andere verkeer. Het resultaat? Langzamere klantenservice, vertraagde workflows en gefrustreerde teams.

U denkt misschien dat het antwoord is om alle AI-verkeer voorrang te geven. Maar dat is gevaarlijk. Bots, slecht geconfigureerde services of zelfs kwaadwillige actoren kunnen die voorrangsticker opeisen. Ze zouden uw "snelste baan" overspoelen, waardoor het voor iedereen erger wordt.

Wat onderzoekers ontdekt hebben

Onderzoekers Naveen Babu Narayanan Nair en Sajay Kurup ontwierpen en testten een slimmere systeem. Ze creëerden een aparte, geverifieerde voorrangsbane voor AI-agentverkeer, maar met kritische beveiligingsmaatregelen. Hun bevindingen, gedetailleerd in Verifiable Agentic Traffic Class: A Policed Quality-of-Service Mechanism for Agentic AI Traffic, Evaluated from Simulation to Real-Kernel Adversarial Testing, laten een duidelijke weg naar de toekomst zien.

Denk hierbij aan een snelste baan voor noodvoertuigen tijdens spitsuren. De dringende voertuigen komen veel sneller door, maar het gewone verkeer vertraagt slechts een beetje. In de simulatie verkleinde deze aparte baan de gemiddelde wachttijd voor AI-agents met 98% tijdens een verkeerspiek. De vertraging voor menselijk verkeer nam slechts met 12% toe. De afweging is duidelijk: een enorme snelheidsboost voor kritieke AI-taken, met een minimale impact op mensen.

De sleutel is de beveiligingsmaatregel: een bandbreedtecaps. Dit voorkomt dat de AI-baan alle beschikbare netwerkbronnen verbruikt. In een test waarin nepverkeer probeerde de voorrangsticker te spoofen, hield de cap de latentie voor menselijk verkeer 11 keer lager dan het zou zijn geweest met gewone, onbeperkte voorrang. Een eenvoudige "gedragscontrole" demoteerde ook duidelijke bulkverkeer dat zich voorddeed als een agent.

Het onderzoek bewees ook dat dit geen theoretisch probleem is. Het testen van twee echte agenttools op een overbelast netwerkliet zien dat routerqueueing - gewoon wachten in de rij - 13% tot 63% van de totale taaktime in beslag nam. Het verbeteren van netwerkscheduling is geen luxe; het is een directe manier om de eind-tot-eind AI-respons te verbeteren.

Belangrijk is dat ze ontdekten dat deze aanpak het beste werkt aan de rand: op campus, klantlocaties of softwaregebaseerde routers. U hoeft uw kernnetwerk niet opnieuw op te bouwen. Het is alsof u een slimme tolpoortje installeert bij de ingang van uw kantorenpark, in plaats van het hele snelwegsysteem opnieuw te ontwerpen.

Hoe u dit vandaag kunt toepassen

U hoeft niet te wachten op oplossingen van leveranciers. U kunt vandaag al beginnen met het bouwen van een slimmere, veiligere netwerk voor AI-agents. Volg deze vijf concrete stappen.

  1. Inventariseer uw AI-verkeer. U kunt niet beheren wat u niet ziet. Gebruik in de komende week uw bestaande netwerkmonitoringtools (zoals NetFlow, sFlow of pakketinspectie in tools zoals Wireshark) om de bronnen en bestemmingen van uw AI-agentaanvragen te identificeren. Zoek naar patronen: komen ze van specifieke servers, gebruiken ze specifieke API's (zoals OpenAI, Anthropic) of gaan ze naar specifieke cloud-eindpunten? Documenteer de typische pakketgroottes en burstpatronen.
    • Voorbeeld: Uw klantenservicechatbot maakt mogelijk tientallen kleine, snelle aanvragen naar een LLM-API. Uw interne data-analyseagent maakt mogelijk minder, grotere aanvragen. Het weten hiervan helpt u om uw voorrangsbane correct te dimensioneren.
  1. Markeer verkeer bij de bron. Zodra u weet wat het verkeer van uw AI-agents is, moet u het markeren. De veiligste plek is zo dicht mogelijk bij de bron, voordat het uw algemene netwerk bereikt. Dit kan worden gedaan met een eenvoudige AI-gateway of protocol-aware proxy. Tools zoals NGINX, Envoy of speciale AI-gateways (zoals die van Tyk of Kong) kunnen verkeer inspecteren en een Differentiated Services Code Point (DSCP)-tag - een standaard netwerkprioriteitsmarker - toevoegen aan pakketten van goedgekeurde AI-diensten.
    • Vereiste: Uw team moet basisbereik hebben om deze randdiensten te configureren. Begin met één enkele, niet-kritieke AI-workflow.
  1. Configureer een beperkte voorrangswachtrij op uw randrouters. Dit is de kernactie. Op uw randrouters (degenen waar uw servers mee verbonden zijn), maakt u een nieuwe voorrangswachtrij. Configureer deze met een strikte bandbreedtecaps - begin met niet meer dan 10-15% van uw totale linkcapaciteit. Pas deze configuratie toe met behulp van standaardtools zoals Linux tc (verkeerscontrole) voor software-routers, of de QoS-instellingen op uw commerciële router (Cisco, Juniper, enz.). Routeer alle verkeer met uw nieuwe DSCP-tag naar deze baan.
    • Geschatte inspanning: Een netwerkengineer kan dit implementeren voor een test-VLAN in een middag.
  1. Benchmark tegen eenvoudigere alternatieven. Ga er niet vanuit dat de complexe baan altijd het beste is. Stel een parallelle test op. Vergelijk de prestaties van uw nieuwe systeem met twee baselines voor dezelfde AI-workload:
    • Standaardprioriteit: Een voorrangswachtrij zonder limiet.
    • Fair Queuing: Een scheduler zoals fq_codel die al op veel systemen beschikbaar is. Meet de AI-taakvoltooiingstijd en de latentie voor een steekproef van menselijk webverkeer. Het onderzoek toonde aan dat in sommige gevallen een eenvoudige fair queue voldoende is. Laat uw gegevens beslissen.
  1. Implementeer observabiliteit en een "proef"baan. U moet op zoek zijn naar misbruik. Ten eerste stelt u waarschuwingen in voor het bandbreedtegebruik van uw beperkte baan. Als deze consistent de limiet bereikt, moet u deze mogelijk aanpassen of onderzoeken. Ten tweede maakt u een kleine "proef"baan voor nieuwe stromen die beweren een agent te zijn. Bewaak hun gedrag (pakketrate, burstpatroon) gedurende een paar seconden voordat u ze promoveert naar de hoofdvoorangsbaan. Dit vangt basis spoofingpogingen.
    • Tools: Gebruik de SNMP-tellers van uw router of streaming-telemetrie (zoals gNMI) om wachtrijdiepten en droprates te bewaken. Een eenvoudig script kan flowpatronen analyseren.

Waar u op moet letten

Deze aanpak is krachtig, maar het is geen magisch kogel. Wees zich bewust van deze beperkingen bij het testen.

  • Slimme spoofers kunnen erdoorheen glippen. De gedragscontrole van het onderzoek miste spoofers die het berichtpatroon van echte AI-agents perfect nabootsten. Als een aanvaller uw patroon kent, kan hij eenvoudige controles omzeilen. Uw bandbreedtecaps is uw laatste verdediging.
  • Het voegt complexiteit toe. Elke nieuwe wachtrij en classificatieregel is iets extra's om te beheren en te debuggen. Begin eenvoudig. Als uw metingen aantonen dat standaard fair queuing uw agents voldoende latentie biedt, gebruikt u dat. Voeg alleen complexiteit toe wanneer het een meetbare, benodigde verbetering oplevert.
  • Het is voor de rand, niet de kern. Deze methode is ontworpen voor software- of flexibele randrouters waar u de configuratie controleert. Probeer dit niet te implementeren op hoge-snelheidskernrouters; die werken anders. Richt uw inspanning op de plek waar het AI-verkeer ontstaat of convergeert.

Uw volgende stap

Begin door stap 1 te voltooien. Deze week kiest u één AI-agentworkflow - misschien uw meest latentiegevoelige - en besteedt u 30 minuten aan het analyseren van het netwerkverkeer. Vind uit: Hoeveel aanvragen doet het? Hoe groot zijn ze? Waar gaan ze naartoe?

Die ene gegevens zijn de basis voor elke beslissing die volgt. Zonder deze bent u aan het optimaliseren in het donker.

Vraag voor uw team: Wat is het ene AI-proces in uw organisatie waar zelfs een vertraging van 500 ms echte gelden of klantvertrouwen kost? Dat is uw perfecte pilootkandidaat.

Deel uw bevindingen in de comments.

De partners met wie we bouwen.

Sommig werk vraagt meer dan AI en software: de servers, netwerken en cloud eronder, en de mensen die ze beheren. Voor dat werk werken we samen met partners voor wie infrastructuur het dagelijkse werk is.

  • Wizards Integration

    Een IT-adviesbureau in Israël dat infrastructuur bouwt en beheert voor grote bedrijven. We werken samen sinds december 2025: zij brengen de infrastructuur, wij de AI en de software.

  • Westcon-Comstor

    Een wereldwijde technologiedistributeur. We verkopen AWS-clouddiensten door via Westcon-Comstor, zodat de AI en software die we bouwen op AWS kunnen draaien, ingekocht via ons.

Contact

Kantoor
Tinnegeiter 4, 3894CA Zeewolde, Nederland
KVK: 97862428Btw: NL868264970B01

Delen: Delen op XDelen op LinkedInDelen op Facebook

Reacties

Laden...