Ένα link στο τέλος μιας απάντησης δεν αποδεικνύει ότι η πηγή στηρίζει όσα γράφτηκαν. Το model μπορεί να αναφέρει σωστό έγγραφο αλλά να αποδώσει σε αυτό έναν ισχυρισμό που δεν υπάρχει, να συνδυάσει διαφορετικές εκδόσεις ή να χρησιμοποιήσει παλιό περιεχόμενο. Για επιχειρηματικά chatbots και research agents, τα citations χρειάζονται provenance και έλεγχο groundedness, όχι απλή μορφοποίηση.
Η εφαρμογή πρέπει να γνωρίζει από πού προήλθε κάθε retrieved passage, ποια έκδοση χρησιμοποιήθηκε και ποιοι ακριβώς ισχυρισμοί βασίζονται σε αυτό.
01Source ID από το ingestion μέχρι την απάντηση
Κάθε έγγραφο αποκτά stable source ID και metadata:
- τίτλος και canonical URL ή repository path
- έκδοση ή updated timestamp
- owner και access policy
- τύπος εγγράφου και γλώσσα
- ingestion timestamp
- checksum για ανίχνευση αλλαγών
Τα chunks κρατούν source ID, section heading, page ή anchor και offsets. Όταν το retrieval επιστρέφει passage, αυτή η πληροφορία ταξιδεύει μαζί του. Δεν ζητάμε από το model να εφεύρει URL από τον τίτλο.
02Citation σε claim, όχι μόνο σε παράγραφο
Μια απάντηση μπορεί να περιέχει πολλά factual claims. Το citation πρέπει να τοποθετείται κοντά στο claim που στηρίζει. Αν μία πρόταση συνδυάζει πληροφορία από δύο πηγές, χρειάζονται και οι δύο ή καλύτερη διάσπαση της πρότασης.
Για structured παραγωγή, ο agent μπορεί να επιστρέφει claims με source_ids:
{
"claim": "Η πολιτική επιτρέπει επιστροφή εντός 14 ημερών.",
"sources": [{"id": "policy-v4", "section": "Επιστροφές"}]
}
Η εφαρμογή μετατρέπει τα IDs σε ασφαλή links ή document previews. Αν το source δεν υπάρχει ή δεν είναι προσβάσιμο στον χρήστη, η απάντηση δεν πρέπει να εκθέσει το περιεχόμενό του.
03Groundedness και correctness είναι διαφορετικά
Grounded σημαίνει ότι ο ισχυρισμός υποστηρίζεται από την παρεχόμενη πηγή. Δεν σημαίνει απαραίτητα ότι η πηγή είναι αληθινή, ενημερωμένη ή κατάλληλη. Source quality σημαίνει ότι χρησιμοποιήθηκε authoritative και σχετική πηγή. Coverage σημαίνει ότι δεν παραλείφθηκαν κρίσιμα στοιχεία.
Η Anthropic, στη συζήτησή της για evals research agents, ξεχωρίζει groundedness checks, coverage checks και source quality checks. Αυτές είναι διαφορετικές διαστάσεις και πρέπει να αξιολογούνται χωριστά.
Ένα chatbot μπορεί να είναι grounded σε παλιό policy PDF και παρ' όλα αυτά να δίνει ξεπερασμένη απάντηση. Για αυτό τα metadata freshness και document status είναι μέρος του retrieval.
04Retrieval με permissions και versioning
Ο agent δεν πρέπει να ανακτά πρώτα έγγραφο και μετά να αποφασίζει αν επιτρέπεται να το δείξει. Τα permissions εφαρμόζονται μέσα στο search layer πριν επιστραφούν chunks. Ο χρήστης, η ομάδα και το tenant είναι φίλτρα του query.
Αν υπάρχουν πολλές εκδόσεις, η ενεργή πολιτική πρέπει να έχει προτεραιότητα. Οι παλιές μπορούν να παραμένουν διαθέσιμες για ιστορικές ερωτήσεις, αλλά χρειάζονται effective_from, effective_to και status. Το source preview δείχνει ποια έκδοση χρησιμοποιήθηκε.
05Η απάντηση «δεν βρήκα πηγή» είναι χρήσιμη
Όταν τα retrieved passages δεν στηρίζουν επαρκώς το ερώτημα, ο agent πρέπει να ζητά διευκρίνιση, να δηλώνει το κενό ή να κάνει handoff. Δεν πρέπει να συμπληρώνει το κενό από γενική γνώση αν η εφαρμογή υπόσχεται απάντηση από εταιρικές πηγές.
Μπορεί να υπάρχει threshold για retrieval και ξεχωριστό verification step που ελέγχει κάθε claim. Το threshold δεν είναι απόλυτη εγγύηση, αλλά εμποδίζει την παραγωγή πάνω σε προφανώς άσχετα αποτελέσματα.
06Quote verification χωρίς υπερβολική αντιγραφή
Αν εμφανίζεται quote, η εφαρμογή ελέγχει ότι το ακριβές κείμενο υπάρχει στο source και διατηρεί περιορισμένο απόσπασμα. Για summaries και paraphrases, ο verifier ελέγχει entailment: αν το passage πράγματι συνεπάγεται το claim.
Το UI μπορεί να ανοίγει τη σωστή σελίδα ή section και να τονίζει το σχετικό passage. Αυτό βοηθά τον χρήστη να επαληθεύσει γρήγορα χωρίς να διαβάσει όλο το έγγραφο. Δεν χρειάζεται να εμφανίζεται ολόκληρη η πηγή μέσα στην απάντηση.
07Web sources και μεταβαλλόμενο περιεχόμενο
Στο web, μια σελίδα μπορεί να αλλάξει ή να εξαφανιστεί. Μαζί με το URL αποθηκεύονται retrieval timestamp, title και σχετικό excerpt ή content hash σύμφωνα με δικαιώματα και πολιτική. Για κρίσιμες εργασίες προτιμώνται primary sources και διασταύρωση όταν η πληροφορία είναι ασταθής.
Ο agent ξεχωρίζει δημοσίευση από ημερομηνία γεγονότος. Δεν θεωρεί την πρώτη σελίδα αποτελεσμάτων ως καλύτερη πηγή. Τα citations πρέπει να οδηγούν στην ακριβή σελίδα, όχι σε search results.
08Evals για citation quality
Ένα test set μπορεί να περιλαμβάνει ερωτήσεις με γνωστές πηγές, παλιές και νέες εκδόσεις, αντικρουόμενα documents και περιπτώσεις όπου η σωστή απάντηση είναι άρνηση. Μετρώνται:
- citation precision: πόσα citations στηρίζουν όντως το claim
- citation coverage: πόσα factual claims έχουν στήριξη
- source quality και freshness
- permission leakage
- correctness του link και anchor
- unsupported claim rate
Η αυτόματη αξιολόγηση συμπληρώνεται με ανθρώπινο review σε δείγματα υψηλού ρίσκου. Ένα ωραίο citation UI δεν πρέπει να κρύβει χαμηλή πραγματική υποστήριξη.
09Παρακολούθηση μετά το launch
Τα logs κρατούν source IDs και claim mappings χωρίς να εκθέτουν περιττό περιεχόμενο. Όταν ένα έγγραφο αποσύρεται, μπορούν να εντοπιστούν απαντήσεις ή cached artifacts που βασίστηκαν σε αυτό.
Οι χρήστες χρειάζονται feedback action όπως «Η πηγή δεν στηρίζει αυτή την απάντηση». Το feedback συνδέεται με run, model, retrieval query και document versions ώστε να μπορεί να αναπαραχθεί.
10Πώς το υλοποιεί η Ai Foundry
11Συμπέρασμα
Τα citations έχουν αξία μόνο όταν υπάρχει αλυσίδα από claim σε passage και από passage σε ελεγχόμενη πηγή. Provenance, permissions, versions και groundedness evals μετατρέπουν την παραπομπή από διακοσμητικό στοιχείο σε μηχανισμό εμπιστοσύνης.
Πηγές
Θέλετε κάτι αντίστοιχο για τη δική σας επιχείρηση;
Ξεκινήστε το έργο σας →
Γράφτηκε από την ομάδα της Ai Foundry (aifoundry.gr), εταιρείας ανάπτυξης λογισμικού και εφαρμογών τεχνητής νοημοσύνης στην Ελλάδα.