RAG гэж юу вэ?

Г.Ёндонжамц
Багш

Г.Ёндонжамц
Багш
RAG гэдэг нь AI хариулахаасаа өмнө холбогдох мэдээллийг хайж олоод (Retrieval), түүндээ тулгуурлан хариулт үүсгэдэг (Generation) арга юм.
Энгийнээр хэлбэл шалгалтын жишээг авъя. RAG-гүй AI бол цээжилсэн зүйлдээ л тулгуурлаж хариулдаг оюутан. RAG-тай AI бол номын сан руу орж хэрэгтэй номоо олж уншаад хариулдаг оюутан. Хоёрдугаар нь илүү нарийвчлалтай, сүүлийн үеийн мэдээлэлтэй, эх сурвалжаа зааж чадна.
RAG систем хоёр үе шаттай: мэдээллийг урьдчилан бэлтгэх, дараа нь асуулт бүрт хайлт хийж хариулах.
RAG нь байгууллага өөрийн мэдээлэл дээр AI ажиллуулах шаардлагатай бүх газар хэрэглэгдэнэ.
Жишээ нь нэг их сургууль бүх журмаа RAG системд оруулбал оюутан "дахин шалгалт өгөхөд юу хийх вэ?" гэж асуухад журмын яг заалтыг ишлэн хариулах боломжтой.
RAG-ийн гол давуу тал нь загварыг дахин сургахгүйгээр шинэ мэдээлэл нэмж болдогт оршино. Мөн хариулт бодит баримтад тулгуурладаг тул AI зохиомол хариулт өгөх (hallucination) нь багасаж, хэрэглэгч эх сурвалжийг нь өөрөө шалгах боломжтой болдог.
Сул талууд
Хайлт буруу хэсгийг олбол хариулт ч буруу болно. Өөрөөр хэлбэл загвар хичнээн сайн байсан ч өгөгдсөн мэдээлэл нь хамааралгүй бол зөв хариулж чадахгүй.
Баримт бичгийн чанар муу бол систем ч муу ажиллана. Хуучирсан, зөрчилтэй эсвэл замбараагүй бичигдсэн баримт шууд хариултын чанарт нөлөөлнө.
Монгол хэлний embedding загварууд англи хэлнийхаас сул байж болно. Иймээс монгол баримт дээр хайлтын нарийвчлал буурч магадгүй тул туршиж үзэж загвараа сонгох хэрэгтэй.