AI-agenter skal spare utviklingstid.
I praksis jobber mange agenter for lenge, bruker for mange tokens og leverer likevel svake resultater.
Den vanlige reaksjonen er å forbedre prompten. Legge til flere instruksjoner, arkitekturdokumentasjon, eksempler og unntak. Til slutt blir systemprompten en liten intern wiki.
Dette løser ikke hovedproblemet.
Agenter bruker ofte mesteparten av tiden på å finne kontekst de allerede burde ha, og på å bruke grensesnitt som ikke er laget for dem.
Den virkelige kostnaden er å finne alt på nytt Lenke til overskrift
Tenk på et enkelt spørsmål:
Hvorfor økte AWS-kostnadene våre denne uken?
Uten verktøy og virksomhetskontekst må en agent kanskje:
- finne tilgjengelige AWS-kontoer
- finne faktureringsdataene
- undersøke flere tjenester
- søke i Terraform-repositorier
- gjette hvem som eier ressursene
- sammenligne målinger manuelt
- prøve kommandoer på nytt med andre parametere
Hvert steg legger mer tekst til samtalen. Modellen må behandle teksten igjen i senere steg.
Resultatet er en selvforsterkende løkke:
Manglende kontekst → mer kartlegging → større kontekstvindu → langsommere resonnering → flere tokens
Agenten finner kanskje svaret til slutt. Men veien dit er dyr, treg og vanskelig å gjenskape.
Større prompter er ikke operasjonell kontekst Lenke til overskrift
Prompter er nyttige for å definere mål og begrensninger:
- jobb kun med lesetilgang
- ikke eksponer kundedata
- vis hva svaret bygger på
- be om godkjenning før endringer
Dette er gode instruksjoner.
Men en prompt kan ikke inneholde den gjeldende tilstanden i AWS. Den kan ikke vite at en RDS-instans ble endret i går, hvilket team som eier den, hvorfor den med vilje er overdimensjonert, eller om en Reserved Instance påvirker beslutningen om å endre størrelsen.
Mer statisk tekst løser ikke problemet med dynamisk informasjon.
Store prompter kan også gjøre problemet verre. Gammel informasjon blir værende etter at systemene er endret, irrelevant kontekst konkurrerer om oppmerksomheten, og hver forespørsel må behandle den samme teksten på nytt.
En prompt bør forklare hvordan agenten arbeider. Den bør ikke inneholde alt agenten noen gang kan trenge.
Kontekst reduserer gjentatt kartlegging Lenke til overskrift
Kontekst gir operasjonell mening til rådata fra AWS.
Nyttig kontekst omfatter:
- eierskap til AWS-kontoer og miljøer
- relasjoner mellom applikasjoner og ressurser
- arkitekturbeslutninger
- tidligere hendelser
- kjente unntak
- sikkerhetskrav
- planlagte endringer
Dette trenger ikke legges inn i hver prompt. Det bør være søkbart og hentes ved behov.
En agent som undersøker en kostnadsøkning for RDS, kan trenge informasjon om databaseeierskap, nylige planer for størrelsesendring og Reserved Instance-forpliktelser. Den trenger sannsynligvis ikke Kubernetes-dokumentasjon eller fjorårets CloudFront-hendelse.
God kontekst velges ut, ikke dumpes.
Verktøy forankrer agenter i virkeligheten Lenke til overskrift
Kontekst forklarer miljøet. Verktøy gir ferske fakta og kontrollerte handlinger.
Nyttige verktøy for AWS-drift kan gi tilgang til:
- spørringer mot Cost and Usage Report
- søk i AWS Resource Explorer
- oppslag av CloudTrail-hendelser
- historikk fra AWS Config
- målinger fra CloudWatch
- hendelser fra AWS Health
- data om ressurseierskap
Et målrettet verktøy kan erstatte tusenvis av tokens brukt på kartlegging.
I stedet for å be en agent finne ut hvor faktureringsdataene ligger og lage en spørring, kan du tilby ett verktøy som tar imot konto, tjeneste, datoperiode og gruppering. Verktøyet kan validere forespørselen, kjøre den godkjente spørringen, filtrere bort irrelevante data og returnere et lite, strukturert resultat.
Agenten kan da bruke tokens på å resonnere rundt svaret i stedet for å finne ut hvordan den skal hente det.
MCP kan gi et standardisert grensesnitt for disse verktøyene. Men MCP gjør ikke et dårlig verktøy godt.
Verktøy må være avgrensede Lenke til overskrift
Generell shell-tilgang gjør ikke automatisk en agent effektiv.
Et dårlig utformet verktøy kan returnere tusenvis av ressurser, komplette loggfiler eller ufiltrerte API-svar. Det flytter bare token-problemet.
Gode agentverktøy bør:
- ta imot eksplisitte parametere
- filtrere data før de returneres
- returnere strukturerte resultater
- håndheve grenser for responsstørrelse
- returnere tydelige feilmeldinger
- skille lesing fra skriving
- unngå å returnere hemmeligheter
- registrere metadata for hvert kall
Det beste verktøyet gjør én operasjonell oppgave godt.
Sikkerhetsgrensene gjelder fortsatt Lenke til overskrift
AI endrer ikke sikkerhetsmodellen i AWS.
Agenter bør bruke de samme kontrollene som forventes av enhver arbeidslast i produksjon:
- IAM-roller med minste nødvendige tilgang
- midlertidig STS-legitimasjon
- separate tillatelser for lesing og endring
- eksplisitte grenser for kontoer og miljøer
- menneskelig godkjenning av sensitive handlinger
- revisjonslogger for hvert verktøykall
Lesetilgang bør være standard.
En agent som undersøker kostnader, trenger ikke tillatelse til å endre størrelsen på RDS. Hvis den anbefaler en endring, bør handlingen gå gjennom et separat løp for godkjenning og utførelse.
Promptinstruksjoner som «aldri endre produksjon» er nyttige, men de er ikke sikkerhetskontroller.
IAM og verktøygrenser er kontroller.
Mål fullført arbeid Lenke til overskrift
En lang agentlogg kan se produktiv ut, samtidig som den skjuler mye sløsing.
Jeg ville målt:
- tokens per fullført oppgave
- tid til første nyttige resultat
- antall verktøykall
- gjentatte lesinger og spørringer
- mislykkede verktøyforsøk
- nødvendige korrigeringer fra mennesker
Målet er ikke å minimere hvert eneste token. Komplekse oppgaver krever fortsatt kartlegging.
Målet er å slutte å betale gjentatte ganger for forutsigbart kartleggingsarbeid.
Avsluttende tanker Lenke til overskrift
Bedre prompter er viktige. Det er bedre modeller også.
Men ingen av delene erstatter oppdatert informasjon, virksomhetskontekst eller sikre operasjonelle grensesnitt.
For AI-agenter i produksjon på AWS:
- prompter definerer mål og begrensninger
- kontekst forklarer miljøet
- verktøy henter fakta og utfører kontrollerte handlinger
- IAM definerer hva som faktisk er tillatt
- mennesker godkjenner inngripende beslutninger
Den raskeste agenten er ikke den med den største prompten.
Det er den som vet hvor den skal lete, har riktig verktøy og stopper når jobben er ferdig.