Ένα link στο τέλος μιας απάντησης δεν αποδεικνύει ότι η πηγή στηρίζει όσα γράφτηκαν. Το model μπορεί να αναφέρει σωστό έγγραφο αλλά να αποδώσει σε αυτό έναν ισχυρισμό που δεν υπάρχει, να συνδυάσει διαφορετικές εκδόσεις ή να χρησιμοποιήσει παλιό περιεχόμενο. Για επιχειρηματικά chatbots και research agents, τα citations χρειάζονται provenance και έλεγχο groundedness, όχι απλή μορφοποίηση.
Η εφαρμογή πρέπει να γνωρίζει από πού προήλθε κάθε retrieved passage, ποια έκδοση χρησιμοποιήθηκε και ποιοι ακριβώς ισχυρισμοί βασίζονται σε αυτό.
Source ID από το ingestion μέχρι την απάντηση
Κάθε έγγραφο αποκτά stable source ID και metadata:
- τίτλος και canonical URL ή repository path
- έκδοση ή updated timestamp
- owner και access policy
- τύπος εγγράφου και γλώσσα
- ingestion timestamp
- checksum για ανίχνευση αλλαγών
Τα chunks κρατούν source ID, section heading, page ή anchor και offsets. Όταν το retrieval επιστρέφει passage, αυτή η πληροφορία ταξιδεύει μαζί του. Δεν ζητάμε από το model να εφεύρει URL από τον τίτλο.
Citation σε claim, όχι μόνο σε παράγραφο
Μια απάντηση μπορεί να περιέχει πολλά factual claims. Το citation πρέπει να τοποθετείται κοντά στο claim που στηρίζει. Αν μία πρόταση συνδυάζει πληροφορία από δύο πηγές, χρειάζονται και οι δύο ή καλύτερη διάσπαση της πρότασης.
Για structured παραγωγή, ο agent μπορεί να επιστρέφει claims με source_ids:
{
"claim": "Η πολιτική επιτρέπει επιστροφή εντός 14 ημερών.",
"sources": [{"id": "policy-v4", "section": "Επιστροφές"}]
}
Η εφαρμογή μετατρέπει τα IDs σε ασφαλή links ή document previews. Αν το source δεν υπάρχει ή δεν είναι προσβάσιμο στον χρήστη, η απάντηση δεν πρέπει να εκθέσει το περιεχόμενό του.
Groundedness και correctness είναι διαφορετικά
Grounded σημαίνει ότι ο ισχυρισμός υποστηρίζεται από την παρεχόμενη πηγή. Δεν σημαίνει απαραίτητα ότι η πηγή είναι αληθινή, ενημερωμένη ή κατάλληλη. Source quality σημαίνει ότι χρησιμοποιήθηκε authoritative και σχετική πηγή. Coverage σημαίνει ότι δεν παραλείφθηκαν κρίσιμα στοιχεία.
Η Anthropic, στη συζήτησή της για evals research agents, ξεχωρίζει groundedness checks, coverage checks και source quality checks. Αυτές είναι διαφορετικές διαστάσεις και πρέπει να αξιολογούνται χωριστά.
Ένα chatbot μπορεί να είναι grounded σε παλιό policy PDF και παρ' όλα αυτά να δίνει ξεπερασμένη απάντηση. Για αυτό τα metadata freshness και document status είναι μέρος του retrieval.
Retrieval με permissions και versioning
Ο agent δεν πρέπει να ανακτά πρώτα έγγραφο και μετά να αποφασίζει αν επιτρέπεται να το δείξει. Τα permissions εφαρμόζονται μέσα στο search layer πριν επιστραφούν chunks. Ο χρήστης, η ομάδα και το tenant είναι φίλτρα του query.
Αν υπάρχουν πολλές εκδόσεις, η ενεργή πολιτική πρέπει να έχει προτεραιότητα. Οι παλιές μπορούν να παραμένουν διαθέσιμες για ιστορικές ερωτήσεις, αλλά χρειάζονται effective_from, effective_to και status. Το source preview δείχνει ποια έκδοση χρησιμοποιήθηκε.
Η απάντηση «δεν βρήκα πηγή» είναι χρήσιμη
Όταν τα retrieved passages δεν στηρίζουν επαρκώς το ερώτημα, ο agent πρέπει να ζητά διευκρίνιση, να δηλώνει το κενό ή να κάνει handoff. Δεν πρέπει να συμπληρώνει το κενό από γενική γνώση αν η εφαρμογή υπόσχεται απάντηση από εταιρικές πηγές.
Μπορεί να υπάρχει threshold για retrieval και ξεχωριστό verification step που ελέγχει κάθε claim. Το threshold δεν είναι απόλυτη εγγύηση, αλλά εμποδίζει την παραγωγή πάνω σε προφανώς άσχετα αποτελέσματα.
Quote verification χωρίς υπερβολική αντιγραφή
Αν εμφανίζεται quote, η εφαρμογή ελέγχει ότι το ακριβές κείμενο υπάρχει στο source και διατηρεί περιορισμένο απόσπασμα. Για summaries και paraphrases, ο verifier ελέγχει entailment: αν το passage πράγματι συνεπάγεται το claim.
Το UI μπορεί να ανοίγει τη σωστή σελίδα ή section και να τονίζει το σχετικό passage. Αυτό βοηθά τον χρήστη να επαληθεύσει γρήγορα χωρίς να διαβάσει όλο το έγγραφο. Δεν χρειάζεται να εμφανίζεται ολόκληρη η πηγή μέσα στην απάντηση.
Web sources και μεταβαλλόμενο περιεχόμενο
Στο web, μια σελίδα μπορεί να αλλάξει ή να εξαφανιστεί. Μαζί με το URL αποθηκεύονται retrieval timestamp, title και σχετικό excerpt ή content hash σύμφωνα με δικαιώματα και πολιτική. Για κρίσιμες εργασίες προτιμώνται primary sources και διασταύρωση όταν η πληροφορία είναι ασταθής.
Ο agent ξεχωρίζει δημοσίευση από ημερομηνία γεγονότος. Δεν θεωρεί την πρώτη σελίδα αποτελεσμάτων ως καλύτερη πηγή. Τα citations πρέπει να οδηγούν στην ακριβή σελίδα, όχι σε search results.
Evals για citation quality
Ένα test set μπορεί να περιλαμβάνει ερωτήσεις με γνωστές πηγές, παλιές και νέες εκδόσεις, αντικρουόμενα documents και περιπτώσεις όπου η σωστή απάντηση είναι άρνηση. Μετρώνται:
- citation precision: πόσα citations στηρίζουν όντως το claim
- citation coverage: πόσα factual claims έχουν στήριξη
- source quality και freshness
- permission leakage
- correctness του link και anchor
- unsupported claim rate
Η αυτόματη αξιολόγηση συμπληρώνεται με ανθρώπινο review σε δείγματα υψηλού ρίσκου. Ένα ωραίο citation UI δεν πρέπει να κρύβει χαμηλή πραγματική υποστήριξη.
Παρακολούθηση μετά το launch
Τα logs κρατούν source IDs και claim mappings χωρίς να εκθέτουν περιττό περιεχόμενο. Όταν ένα έγγραφο αποσύρεται, μπορούν να εντοπιστούν απαντήσεις ή cached artifacts που βασίστηκαν σε αυτό.
Οι χρήστες χρειάζονται feedback action όπως «Η πηγή δεν στηρίζει αυτή την απάντηση». Το feedback συνδέεται με run, model, retrieval query και document versions ώστε να μπορεί να αναπαραχθεί.
Πώς το υλοποιεί η Ai Foundry
Στην Ai Foundry χτίζουμε source provenance μέσα στο RAG pipeline από το ingestion. Διατηρούμε stable IDs, versions, permissions και section references, ενώ το output schema συνδέει factual claims με συγκεκριμένα passages. Προσθέτουμε verification και abstention όταν η διαθέσιμη γνώση δεν επαρκεί.
Στο UI εμφανίζουμε citations που ανοίγουν τη σωστή πηγή και εξηγούν ποια έκδοση χρησιμοποιήθηκε. Δημιουργούμε evals για groundedness, coverage, freshness και access control και παρακολουθούμε feedback ανά claim. Έτσι τα AI chatbots και research agents της Ai Foundry δεν δείχνουν απλώς links· δίνουν στον χρήστη πραγματικό τρόπο να ελέγξει την απάντηση.
Συμπέρασμα
Τα citations έχουν αξία μόνο όταν υπάρχει αλυσίδα από claim σε passage και από passage σε ελεγχόμενη πηγή. Provenance, permissions, versions και groundedness evals μετατρέπουν την παραπομπή από διακοσμητικό στοιχείο σε μηχανισμό εμπιστοσύνης.