Η ποιότητα ενός AI agent δεν εξαρτάται μόνο από το model ή από ένα έξυπνο system prompt. Εξαρτάται από το ποια πληροφορία βλέπει σε κάθε βήμα, σε ποια μορφή και με ποια προτεραιότητα. Αν το context γεμίσει με παλιά μηνύματα, τεράστια tool outputs και άσχετα documents, ο agent μπορεί να αγνοήσει τον πραγματικό στόχο ή να πάρει απόφαση πάνω σε ξεπερασμένα δεδομένα.
Context engineering είναι ο σχεδιασμός της πληροφορίας που μπαίνει στο context window. Περιλαμβάνει instructions, conversation state, retrieved knowledge, tool results, memory και summaries. Δεν είναι απλώς «γράψτε καλύτερο prompt».
Το context είναι περιορισμένος πόρος
Ακόμη και όταν ένα model υποστηρίζει μεγάλο context window, περισσότερα tokens δεν σημαίνουν πάντα καλύτερη απόδοση. Κάθε επιπλέον κομμάτι ανταγωνίζεται για προσοχή, αυξάνει latency και κόστος και μπορεί να εισάγει αντικρουόμενες οδηγίες.
Χρήσιμο είναι να διακρίνονται:
- σταθερές οδηγίες: ρόλος, κανόνες και όρια του agent
- τρέχων στόχος: τι πρέπει να ολοκληρωθεί τώρα
- structured state: IDs, statuses, decisions και pending actions
- retrieved context: μόνο η γνώση που σχετίζεται με το συγκεκριμένο βήμα
- tool results: επιλεγμένα δεδομένα σε προβλέψιμη μορφή
- history: ό,τι είναι αναγκαίο για συνέχεια, όχι μηχανικά όλη η συζήτηση
Η εφαρμογή αποφασίζει πότε και πώς συντίθενται αυτά. Το model δεν πρέπει να ψάχνει τυχαία μέσα σε όλη τη βάση της εταιρείας.
Instructions στο σωστό επίπεδο
Ένα system prompt με εκατοντάδες ειδικές περιπτώσεις γίνεται δύσκολο να συντηρηθεί και συχνά περιέχει αντιφάσεις. Οι σταθερές οδηγίες πρέπει να περιγράφουν στόχο, επιτρεπτές ενέργειες, κριτήρια ποιότητας και πότε απαιτείται άνθρωπος. Οι λεπτομέρειες μιας διαδικασίας μπορούν να φορτώνονται όταν το workflow φτάνει στο σχετικό στάδιο.
Οι οδηγίες χρειάζονται versioning και tests. Μια μικρή αλλαγή στη διατύπωση μπορεί να επηρεάσει tool selection ή output format. Καταγράφεται ποια έκδοση χρησιμοποιήθηκε σε κάθε run ώστε τα regressions να μπορούν να αναπαραχθούν.
Just-in-time retrieval
Αντί να προφορτώνεται ολόκληρη knowledge base, ο agent ανακτά τη σχετική πληροφορία όταν τη χρειάζεται. Η retrieval query μπορεί να βασίζεται στον τρέχοντα στόχο, στο προϊόν, στη γλώσσα και στα permissions του χρήστη.
Το αποτέλεσμα δεν πρέπει να είναι απλώς τα πρώτα πολλά chunks. Χρειάζονται relevance threshold, metadata filters, diversity και όριο συνολικού context. Κάθε chunk συνοδεύεται από source ID και timestamp, ώστε ο agent να μπορεί να παραπέμπει στην πηγή και η εφαρμογή να ελέγχει freshness.
Αν δεν υπάρχει επαρκές αποτέλεσμα, η σωστή συμπεριφορά μπορεί να είναι διευκρινιστική ερώτηση ή handoff, όχι αυτοσχεδιασμός.
Tool outputs που δεν πλημμυρίζουν το context
Ένα API μπορεί να επιστρέψει εκατοντάδες records ή τεράστιο HTML. Το tool layer πρέπει να δίνει στο model μόνο όσα χρειάζεται: συγκεκριμένα fields, pagination, summaries και references για drill-down.
Για παράδειγμα, ένα CRM search tool μπορεί να επιστρέφει πέντε matches με ID, όνομα και status αντί για πλήρες ιστορικό όλων των πελατών. Αν ο agent επιλέξει record, νέο tool call ανακτά τις απαραίτητες λεπτομέρειες. Αυτό βελτιώνει ακρίβεια και μειώνει έκθεση δεδομένων.
Τα tool descriptions είναι επίσης context. Πρέπει να εξηγούν πότε χρησιμοποιείται κάθε εργαλείο, τι arguments απαιτεί και ποιες ενέργειες έχουν side effects. Δέκα σχεδόν ίδια tools χωρίς σαφή διάκριση αυξάνουν τα λάθη επιλογής.
Structured state αντί για ανάγνωση όλου του transcript
Για long-running workflows, κρίσιμες αποφάσεις αποθηκεύονται ως structured fields και όχι μόνο μέσα σε φυσική γλώσσα. Παραδείγματα είναι customer_id, approved_budget, selected_offer, current_step και approval_status.
Το transcript παραμένει διαθέσιμο για έλεγχο, αλλά η συνέχεια δεν βασίζεται στην ικανότητα του model να ξαναδιαβάσει και να συμπεράνει τι είχε αποφασιστεί πριν από εκατό μηνύματα. Το state έχει schema, validation και ownership.
Compaction όταν η εργασία μεγαλώνει
Compaction είναι η συμπύκνωση παλιότερου context σε μικρότερη, υψηλής πιστότητας αναπαράσταση. Η Anthropic περιγράφει το compaction ως τεχνική που επιτρέπει σε agents να συνεχίζουν με ελάχιστη υποβάθμιση, μαζί με structured memory και sub-agent architectures για long-horizon work.
Ένα καλό summary διατηρεί:
- τον αρχικό στόχο και τους περιορισμούς
- αποφάσεις και αιτιολογία
- completed και pending steps
- identifiers και references
- αποτυχίες που δεν πρέπει να επαναληφθούν
- αβεβαιότητες και απαιτούμενες εγκρίσεις
Δεν χρειάζεται να κρατά κάθε κοινωνική ανταλλαγή ή μεγάλο raw output που μπορεί να ανακτηθεί ξανά από reference. Η compaction διαδικασία πρέπει να αξιολογείται, γιατί μια λανθασμένη περίληψη μπορεί να αλλοιώσει όλη τη συνέχεια.
Subagents για απομόνωση εργασιών
Ένας main agent μπορεί να αναθέτει περιορισμένες εργασίες σε subagents, όπως έρευνα μιας πηγής ή έλεγχο ενός dataset. Ο subagent έχει δικό του μικρό context και επιστρέφει structured αποτέλεσμα αντί για ολόκληρο το εσωτερικό transcript.
Αυτό μειώνει το context pollution, αλλά χρειάζεται σαφές contract. Ο parent πρέπει να γνωρίζει τι ζητά, ποια εργαλεία επιτρέπονται και ποιο output schema περιμένει. Οι subagents δεν είναι τρόπος να παρακαμφθούν permissions ή approvals.
Memory με κανόνες, όχι αυτόματη αποθήκευση των πάντων
Η μακροχρόνια μνήμη πρέπει να αποθηκεύει μόνο πληροφορία με σαφή μελλοντική αξία και κατάλληλη συναίνεση. Προτιμήσεις χρήστη, σταθερές επιλογές ή validated facts μπορούν να έχουν διάρκεια. Πρόχειρες υποθέσεις, ευαίσθητα δεδομένα και μη επιβεβαιωμένες απαντήσεις δεν πρέπει να μετατρέπονται αυτόματα σε μνήμη.
Κάθε memory item χρειάζεται source, timestamp, scope και δυνατότητα διόρθωσης ή διαγραφής. Στο retrieval εφαρμόζονται permissions και freshness. Η μνήμη είναι data product, όχι απλώς vector store με όλο το chat history.
Evals για context quality
Η αξιολόγηση δεν εξετάζει μόνο την τελική απάντηση. Μετρά αν ανακτήθηκαν σωστές πηγές, αν αποκλείστηκαν μη εξουσιοδοτημένα δεδομένα, αν επιλέχθηκε κατάλληλο tool και αν το compaction διατήρησε κρίσιμες αποφάσεις.
Χρήσιμα test cases περιλαμβάνουν παλιές αντικρουόμενες οδηγίες, έγγραφα με ίδια λέξη αλλά διαφορετικό προϊόν, πολύ μεγάλα tool outputs και workflow που συνεχίζει μετά από summary. Παρακολουθούνται tokens, latency και failure rate μαζί με task success.
Πώς το υλοποιεί η Ai Foundry
Στην Ai Foundry σχεδιάζουμε το context ως μέρος της αρχιτεκτονικής του agent. Χωρίζουμε σταθερές οδηγίες, structured workflow state, retrieved knowledge και tool outputs, με όρια και permissions για κάθε επίπεδο. Υλοποιούμε just-in-time retrieval με metadata filters και πηγές, ενώ τα εργαλεία επιστρέφουν μικρά, validated payloads αντί για ανεξέλεγκτα dumps.
Για σύνθετες εργασίες προσθέτουμε compaction, checkpoints και subagents με σαφή output contracts. Δημιουργούμε eval datasets που ελέγχουν όχι μόνο την απάντηση αλλά και την επιλογή context και εργαλείων. Έτσι η Ai Foundry χτίζει agents που παραμένουν κατανοητοί και λειτουργικοί όσο μεγαλώνει η εργασία, χωρίς να βασίζονται στην ελπίδα ότι ένα τεράστιο prompt θα λύσει τα πάντα.
Συμπέρασμα
Το context engineering είναι η πειθαρχία του να δίνεται στο model η σωστή πληροφορία τη σωστή στιγμή. Retrieval, structured state, compaction και απομονωμένα subagents μειώνουν θόρυβο, κόστος και λάθη, ενώ κάνουν τη συμπεριφορά του agent πιο ελέγξιμη.