Нейрон сүлжээ хэрхэн холбогдож, мэдлэгээ хэрхэн хадгалдаг вэ?

Г.Ёндонжамц
Багш

Г.Ёндонжамц
Багш
Та ChatGPT-тэй чатлаж, утсаа царайгаараа түгжээг тайлж, YouTube-ийн санал болгосон бичлэгүүдийг үзэж байхдаа нэг зүйлийг анзаарсан уу? Эдгээр бүгдийн цаана нэг л үндсэн санаа ажилладаг. Энэ нь нейрон сүлжээ юм. нейронууд хоорондоо хэрхэн холбогддог вэ, сүлжээ сурсан мэдлэгээ хаана хадгалдаг вэ? Энэ нийтлэлд эдгээрийг ээлж ээлжээр, энгийн жишээгээр тайлбарлая.
"Хиймэл оюун", "машин сургалт", "гүн сургалт" гэсэн үгсийг ихэвчлэн андуурдаг. Үнэндээ эдгээр нь бие биенийхээ дотор багтсан давхаргууд юм.
Хиймэл оюун (AI): хүний оюуны ажлыг хийдэг ямар ч програм. Хамгийн өргөн ойлголт.
Машин сургалт (Machine Learning): дүрмийг хүн бичихгүй, өгөгдлөөс өөрөө олж сурдаг AI.
Гүн сургалт (Deep Learning): олон давхарга бүхий нейрон сүлжээгээр суралцдаг машин сургалт.
Generative AI: гүн сургалтаар бэлтгэсэн, шинэ текст, зураг, дуу үүсгэдэг загварууд. ChatGPT энд орно.
Энэ нийтлэл гол төлөв гурав дахь давхарга буюу нейрон сүлжээний дотоод давхаргуудын тухай юм.
Хиймэл нейрон бол жижиг тооцоолуур. Тэр хэдэн тоо хүлээн авч, нэг тоо гаргана. Үүнд дөрвөн хэсэг байна:
Оролт (x): нейронд орж ирж буй тоонууд.
Жин (w): оролт бүрийн чухлыг заадаг тоо. Холболт бүр өөрийн жинтэй.
Bias (b): нейроны өөрийн "босго" шиг тохируулга.
Activation function: үр дүнг эцсийн утга болгон хувиргадаг функц. Ихэвчлэн ReLU ашигладаг: үр дүн сөрөг бол 0, эерэг бол өөрийг нь гаргана.
Томъёо нь: гаралт = activation(w1·x1 + w2·x2 + … + b)
Нейрон хоёр зүйлийг харна: нартай эсэх (x1 = 1), бороотой эсэх (x2 = 1). Нар алхахыг дэмждэг тул w1 = 0.9, бороо саад болдог тул w2 = −1.2, bias b = 0.5 гэе.
0.9·1 + (−1.2)·1 + 0.5 = 0.2. ReLU-ээр дамжуулахад 0.2 хэвээр гарна. Үр дүн эерэг боловч тэг рүү ойрхон тул "алхаж болно, гэхдээ тун баталгаагүй" гэсэн сул дохио гэж ойлгож болно. Жингүүд өөр байсан бол нейрон өөр шийдвэр гаргах байсан. Нейроны "зан чанар" бүхэлдээ жинд байдаг.
Нэг нейрон дангаараа цөөхөн зүйл хийнэ. Хүч нь олон нейроныг давхарга болгон холбоход гарна. Сүлжээ гурван төрлийн давхаргатай:
Оролтын давхарга (input): түүхий өгөгдлийг хүлээн авна. Гар бичмэл тоо таних MNIST өгөгдөлд 28×28 пикселийн зураг орох тул 784 нейрон байна, пиксел бүр нэг нейрон.
Далд давхарга (hidden): гол тооцоолол энд явагдана. Нэг ба түүнээс олон байж болно. "Гүн" гэдэг нь яг эдгээр давхарга олон гэсэн үг.
Гаралтын давхарга (output): эцсийн хариу. Тоо таних бол 0-ээс 9 хүртэл 10 нейрон байх ба хамгийн өндөр утгатай нь сүлжээний таамаг болно.
Энгийн (dense) давхаргад нэг давхаргын нейрон бүр дараагийн давхаргын нейрон бүртэй холбогдоно. Холболт бүр өөрийн жинтэй. Тиймээс 784 нейронтой давхарга 128 нейронтой давхаргатай холбогдоход 784 × 128 = 100,352 жин үүснэ. Жижигхэн сүлжээ ч хэдэн зуун мянган тоотой болдог гэсэн үг.
Далд давхаргууд ажлаа хуваадаг. Зураг таних сүлжээнд ихэвчлэн ингэж ажилладаг:
Эхний давхарга: энгийн зүйл буюу шулуун, муруй, ирмэг.
Дунд давхарга: тэдгээрийг нийлүүлж хэлбэр буюу тойрог, булан үүсгэнэ.
Сүүлийн давхарга: хэлбэрүүдийг нийлүүлж бүхэл объект буюу "8", "нүүр", "муур" гэж танина.
Давхарга бүр өмнөхийнхөө үр дүн дээр суурилдаг тул нарийн төвөгтэй зүйлийг энгийн хэсгүүдээс барьж чадна. Энэ нь хүн зургийг ойлгохдоо эхлээд ирмэг, дараа нь хэлбэр, эцэст нь объектыг таньдагтай төстэй. Харин энэ шатлалыг хүн програмчилдаггүй, сүлжээ суралцах явцдаа өөрөө бий болгодог. Бодит сүлжээнд хуваарь ийм цэвэр байдаггүй ч ерөнхий зарчим нь ийм.