RAG tuotannossa: pinon EU-SaaS-tiimit voivat auditoida

Lyhyt vastaus: Tuotanto-RAG ei ole "embedaa PDF:t ja rukoile." Se on chunkkaus, locale-tietoinen ingest, hybridihaku, viitattu vastaus ja säilytyskäytännöt, jotka tietosuojavastaava voi lukea, erityisesti jos palvelet EU-asiakkaita SaaS-tuotteesta.

---

Milloin RAG voittaa fine-tuningin SaaS:ssa

Fine-tuning	RAG
Kallis uudelleenkoulutus doc-päivityksellä	Päivitä dokumentit, re-ingest
Vaikea viitata lähteisiin	Luonnolliset viitteet chunkeista
Riski PII:n muistamisesta	Hae vain mitä indeksoit
Hidas compliance-arviointi	Auditoijat näkevät hakulokit

Politiikkaan painottuvassa SaaS:ssa (legal, health, fintech, HR) grounded retrieval on yleensä oikea oletus. Fine-tune myöhemmin sävyyn, ei faktoihin.

---

Referenssipino (toimittajariippumaton)

1. Ingest: markdown, PDF, tiketit; tunnista locale (doc.fi.md, frontmatter)
2. Chunk: ~500–800 tokenia overlapilla; säilytä otsikko + lähde-metadata
3. Embed: voyage, avo-lähde tai hostattu; dokumentoi dimensioyhtenäisyys
4. Store: Postgres + pgvector (tai vastaava) tenant_id-sarakkeella
5. Retrieve: vektori + full-text fallback; suodata locale ja tenant
6. Generate: system prompt, joka kieltää viittamattomat väitteet
7. Log: valinnainen query-loki säilytyskatolla (GDPR)

Käytämme tätä mallia datadiwan.com -sivustolla ja asiakasdeploymenteissa.

---

EU-compliance-koukut, jotka merkitsevät

• Tietojen minimointi: älä embedaa mitä et tarvitse vastauksissa
• Säilytys: TTL query-lokeille; dokumentoi DPIA:han
• Ali-käsittelijät: listaa embedding- ja LLM-toimittajat tietosuojaselosteessa
• Arabia + suomi: tiedostonimi tai frontmatter-locale voittaa "vain englanninkielinen indeksi"

EU:n tekoälyasetus -scorecardimme sisältää dokumentointikysymyksiä RAG-deploymenteille.

---

Arviointi: vaihe, jonka useimmat ohittavat

Ennen lanseerausta rakenna 30–50 oikeaa kysymystä:

• Asiakastuen makroista
• Onboarding-dokeista
• Compliance-FAQ:sta

Pisteytä:

Mittari	Tavoite
Vastaus käyttää oikeaa docia	>85 %
Viite vastaa lähdettä	>90 %
"En tiedä" puuttuvalla	sallittu ja kannustettu
Latenssi p95	<5 s sisätyökaluille

Regressiotestaa jokaisen ingest-muutoksen jälkeen.

---

Yleiset virheet, joita korjaamme

1. Vain englanninkielinen ingest kolmikielisille asiakkaille
2. Liian isot chunkit heikentävät tarkkuutta
3. Ei FTS-fallbackia kun embeddingit driftaavat
4. Blogit rankkaavat policy-docien ohi compliance-kysymyksissä
5. Jaettu indeksi tenanttien välillä multi-tenant SaaS:ssa

---

Prototyypistä tuotteeseen

Vaihe	Kesto	Tulos
Readiness-sprintti	1–3 viikkoa	Arkkitehtuuri, riskitaso, eval-joukko
Build & deploy	4–12 viikkoa	Ingest CLI, API, admin UI, seuranta
Luovutus	tulossa	Runbookit, DPIA-syötteet, model cards

---

Resurssit

• Knowledge Intelligence -palvelu
• RAG starter kit (tulossa Gumroadiin)
• Case study: julkisen terveydenhuollon RAG-avustaja

---

Seuraava askel

• Varaa ilmainen AI-valmiuskeskustelu
• Tutustu palveluihin
• Tilaa: Nordic–Arab AI Bridge

DataDiwan rakentaa tekoälyagentteja, automaatiota ja RAG-järjestelmiä SaaS- ja yritystiimeille Euroopassa ja arabimaailma, englanniksi, suomeksi ja arabiaksi.