RAG (retrieval-augmented generation) on tekniikka, jossa kielimalli hakee ensin relevantit dokumentit ja käyttää niitä vastauksen kirjoittamiseen. Se vähentää keksittyjen faktojen riskiä ja antaa mallin vastata ajantasaisen tai sisäisen tiedon perusteella, jota se ei ole nähnyt koulutuksessa.
Näin RAG toimii
- Kysymys muutetaan hauksi.
- Haku: järjestelmä etsii osuvimmat tekstinpätkät, usein vektoritietokannasta.
- Generointi: malli saa kysymyksen ja tekstinpätkät ja kirjoittaa niiden pohjalta vastauksen, mieluiten lähdeviittein.
Missä RAG:ia käytetään?
- Tekoälyhaut, kuten Perplexity, ChatGPT haulla ja Google AI Overviews.
- Asiakaspalvelubotit, jotka vastaavat yrityksen omien dokumenttien perusteella.
- Sisäiset tietopankit ja työkalut työntekijöille.
RAG ja näkyvyys
Kun tekoälyhaku käyttää RAG:ia, lähteet haetaan verkosta. Teknisesti saavutettavat, selkeästi jäsennellyt ja kysymykseen täsmällisesti vastaavat sivut valitaan todennäköisimmin. Siksi SEO on yhä perusta. Lue lisää näkyvyydestä tekoälyhaussa.
Usein kysytyt kysymykset
Mitä RAG tarkoittaa?
Retrieval-augmented generation, eli hakuun perustuva tekstin tuottaminen.
Mikä ero on RAG:lla ja hienosäädöllä?
Hienosäätö muuttaa itse mallia uudella koulutuksella. RAG antaa mallille oikean tiedon jokaisen kysymyksen yhteydessä ilman uudelleenkoulutusta.
Poistaako RAG hallusinaatiot?
Ei, mutta se vähentää niitä, koska vastaus perustuu haettuihin lähteisiin.
Lähteet
- Wikipedia, Retrieval-augmented generation: en.wikipedia.org/wiki/Retrieval-augmented_generation