AI agent memory: τι πρέπει να θυμάται, τι να ξεχνά και πώς προστατεύονται οι πελάτες

Ένας AI agent που ξεχνά τα πάντα αναγκάζει τον χρήστη να επαναλαμβάνει πληροφορίες. Ένας agent που θυμάται τα πάντα δημιουργεί διαφορετικό πρόβλημα: παλιές υποθέσεις, προσωπικά δεδομένα και λάθος συμπεράσματα μπορούν να επηρεάζουν μελλοντικές ενέργειες.

Η μνήμη δεν είναι ένα ενιαίο πεδίο στη βάση. Χρειάζεται σαφής σκοπός, διάρκεια, ιδιοκτησία και διαδικασία διόρθωσης.

Session context και long-term memory

Το session context κρατά όσα χρειάζονται για την τρέχουσα συνομιλία ή workflow. Μπορεί να περιλαμβάνει το αίτημα, πρόσφατα tool results και προσωρινές αποφάσεις. Συνήθως λήγει μαζί με τη συνεδρία ή λίγο αργότερα.

Η long-term memory διατηρεί πληροφορίες για επόμενες συνεδρίες: προτίμηση γλώσσας, εγκεκριμένη διαδικασία, σταθερό business rule ή επιλογή χρήστη. Επειδή επηρεάζει το μέλλον, απαιτεί αυστηρότερο validation και δυνατότητα προβολής ή διαγραφής.

Μην αποθηκεύετε κάθε μήνυμα ως γεγονός

Ο χρήστης μπορεί να κάνει υπόθεση, να διορθώσει τον εαυτό του ή να παραθέσει κείμενο τρίτου. Αν ο agent μετατρέψει αυτόματα κάθε πρόταση σε μόνιμη αλήθεια, η μνήμη γεμίζει αντιφάσεις.

Ορίστε ποια κατηγορία πληροφορίας επιτρέπεται να αποθηκεύεται και με ποια εμπιστοσύνη. Προτιμήσεις χαμηλού ρίσκου μπορούν να αποθηκεύονται αυτόματα. Αλλαγή στοιχείων πελάτη, πολιτικής επιστροφών ή τραπεζικών οδηγιών πρέπει να προέρχεται από authoritative σύστημα ή να απαιτεί ανθρώπινη επιβεβαίωση.

Provenance και ημερομηνία λήξης

Κάθε memory item χρειάζεται πηγή: ποιος το είπε, από ποιο record προήλθε, πότε αποθηκεύτηκε και ποια workflow version το δημιούργησε. Χωρίς provenance δεν μπορείτε να αποφασίσετε αν μια πληροφορία είναι ακόμη έγκυρη.

Προσθέστε last_verified_at, expiration ή review date όπου το γεγονός μπορεί να αλλάξει. Μια διεύθυνση παράδοσης ή εμπορικός όρος δεν πρέπει να θεωρείται αιώνιος.

Απομόνωση ανά χρήστη και tenant

Σε B2B εφαρμογές, η μνήμη πρέπει να γνωρίζει σε ποιον χρήστη, οργανισμό και σκοπό ανήκει. Η αναζήτηση σε vector store ή database πρέπει να εφαρμόζει tenant filter στο backend πριν επιστρέψει περιεχόμενο.

Μην βασίζεστε μόνο στη σημασιολογική ομοιότητα. Δύο εταιρείες μπορεί να έχουν παρόμοια έγγραφα, αλλά ο agent δεν πρέπει ποτέ να χρησιμοποιήσει τη μνήμη της μίας για να απαντήσει στην άλλη. Ελέγξτε επίσης shared agents και background jobs που δεν έχουν ενεργό browser session.

Memory poisoning

Ένας επιτιθέμενος μπορεί να προσπαθήσει να εμφυτεύσει ψευδή πληροφορία που θα επηρεάζει πολλές μελλοντικές συνεδρίες. Σε αντίθεση με ένα στιγμιαίο prompt injection, η μολυσμένη μνήμη παραμένει και μπορεί να χρησιμοποιείται αργότερα ως υποτιθέμενο trusted context.

Η OWASP προτείνει validation πριν από memory writes, απομόνωση sessions και tenants, provenance, περιορισμένη retention και παρακολούθηση ασυνήθιστων αλλαγών. Για shared knowledge, προτιμήστε curated πηγές και review workflow αντί για αυτόματη εγγραφή από κάθε συνομιλία.

Δικαίωμα διόρθωσης και λήθης μέσα στο προϊόν

Ο χρήστης ή ο διαχειριστής πρέπει να μπορεί να δει ποιες μόνιμες πληροφορίες επηρεάζουν τον agent, να διορθώσει λάθος facts και να διαγράψει όσα δεν χρειάζονται. Δεν είναι απαραίτητο να εμφανίζετε raw embeddings ή εσωτερικά prompts· χρειάζεται κατανοητή παρουσίαση των αποθηκευμένων facts και της πηγής τους.

Η διαγραφή πρέπει να καλύπτει primary storage, indexes και caches. Αν η πληροφορία προέρχεται από CRM, ίσως η σωστή ενέργεια είναι να διορθωθεί εκεί και η memory cache να ανανεωθεί.

Μετρήστε αν η μνήμη βοηθά

Καταγράψτε αν ένα memory item χρησιμοποιήθηκε, αν ο χρήστης το διόρθωσε και αν ο agent πέτυχε καλύτερο outcome. Η αύξηση των αποθηκευμένων facts δεν είναι επιτυχία από μόνη της.

Δοκιμάστε stale data, αντιφατικές πληροφορίες, cross-tenant queries και κακόβουλες προσπάθειες εγγραφής. Συνδέστε τα memory reads και writes με traces χωρίς να αντιγράφετε ευαίσθητο περιεχόμενο στα logs.

Πώς το υλοποιεί η Ai Foundry

Στην Ai Foundry ξεκινάμε από το ερώτημα «ποια πληροφορία βελτιώνει πραγματικά αυτή τη ροή;». Διαχωρίζουμε προσωρινό context, verified business data και προτιμήσεις χρήστη, με διαφορετικούς κανόνες retention και validation.

Σε AI agents για CRM, support και portals εφαρμόζουμε tenant isolation, provenance, controlled writes και διαχειριστικές δυνατότητες διόρθωσης. Έτσι ο agent αποκτά χρήσιμη συνέχεια χωρίς να μετατρέπει κάθε συνομιλία σε μόνιμη και ανεξέλεγκτη μνήμη.

Checklist

• Έχει κάθε τύπος μνήμης σαφή σκοπό;
• Διαχωρίζεται session context από long-term facts;
• Επιτρέπονται μόνο συγκεκριμένες κατηγορίες memory writes;
• Αποθηκεύονται πηγή και ημερομηνία επαλήθευσης;
• Εφαρμόζεται tenant isolation στο backend;
• Υπάρχει expiration και retention policy;
• Μπορεί ο χρήστης να διορθώσει ή να διαγράψει μνήμη;
• Δοκιμάζονται poisoning και cross-tenant σενάρια;

Συμπέρασμα

Η καλή μνήμη agent δεν είναι η μεγαλύτερη δυνατή. Είναι επιλεκτική, επαληθεύσιμη και προσωρινή όπου πρέπει. Όταν ο χρήστης γνωρίζει τι θυμάται το σύστημα και η εφαρμογή επιβάλλει όρια, η συνέχεια γίνεται πλεονέκτημα αντί για κρυφό ρίσκο.

Πηγές: OWASP Agentic AI Threats and Mitigations, OWASP Top 10 for Agentic Applications.