Яагаад бид хиймэл оюунд бүрэн итгэж болохгүй вэ?

Сүүлийн жилүүдэд хиймэл оюун ухаан (ХОУ) бидний амьдралд хүчтэй нэвтэрч, асуултад хариулах, бичлэг зохиох, зураг зурах, дата шинжлэх зэрэг олон ажилд туслах болсон. Үүнийг бид “ухаантай туслах” мэтээр өдөр тутамдаа ашигладаг. Гэхдээ ХОУ бол хүн шиг боддог, шалгадаг, хариуцлага хүлээдэг оюун биш. Тиймээс түүнд 100% итгэх нь аюултай.

ХОУ үнэн худлыг ялгадаггүй

Хиймэл оюун ухаан олон тэрбум өгүүлбэр, зураг, бичлэгээс хэв маяг, холбоо сураад дараагийн үг, үйлдлийг таамаглан гаргадаг. Гэхдээ энэ нь хүн шиг бодож, баримтыг шалгадаг гэсэн үг биш. Тиймээс заримдаа үндэслэлгүй, бүр зохиомол мэдээлэл (“hallucination”) гаргах нь элбэг. Хэрэглэгч бид үүнийг шууд үнэн гэж бодвол алдаа хийх магадлал өндөр байдаг.

Сурсан дата өөрөө алдаатай байж болно

Загваруудыг сургахдаа интернет болон олон нийтээс өгөгдөл татдаг бөгөөд эдгээрт ташаа, хуучирсан, хуурамч мэдээлэл холилдсон байх нь түгээмэл. Ингэснээр загвар өөрөө тэр алдааг сураад, хариултад тусгаж өгдөг. Ялангуяа шинэ мэдээ, сүүлийн үеийн бодлогын өөрчлөлт зэрэг хурдан солигддог зүйл дээр буруу дүгнэлт гаргах эрсдэлтэй. Хэрэглэгчийн хувьд хариултыг заавал өөр эх сурвалжтай тулгаж баталгаажуулах хэрэгтэй болдог.

Нууц мэдээллийн эрсдэл

Хиймэл оюунд асуусан асуулт, оруулсан мэдээлэл таны бодож байснаас илүү өргөн хүрээнд хадгалагдаж, дүн шинжилгээнд ашиглагдаж болох эрсдэлтэй. Жишээ нь: нэг байгууллага нууц төсөлтэй холбоотой кодоо чатботод шалгуулах гэж оруулбал тэр өгөгдөл сервер дээр хадгалагдаж үлдэж болно. Энэ нь тухайн байгууллагын мэдээллийн нууцлалд сөргөөр нөлөөлнө. Иймээс байгууллагын дотоод, нууц мэдээлэл, хувь хүний эмзэг өгөгдлийг шууд оруулах нь аюултай.

Хариуцлага хүлээдэггүй

Хиймэл оюун ухаан алдаа гаргасан тохиолдолд зөвхөн “уучлаарай” гэж хариулахаас цаашгүй бөгөөд хүний адил хариуцлага хүлээх боломжгүй. Хэрэглэгч буюу шийдвэр гаргагч хүн хариуцлагыг өөрөө үүрэх ёстой тул ХОУ-гийн гаргасан үр дүнг шууд хэрэгжүүлэхээс өмнө заавал шалгаж үзэх хэрэгтэй. Эцсийн шийдвэрийг машинд биш, хүнд үлдээх нь хамгийн найдвартай арга. Ийм байдлаар бид алдаа, эрсдлээс сэргийлнэ.

Дүгнэлт

Хиймэл оюун бол хүчирхэг туслах хэрэгсэл ч бид түүнд сохроор найдаж болохгүй. Олон эх сурвалжаас мэдээллээ нягталж баталгаажуулах, чухал шийдвэрийг заавал хүний хяналттай гаргах нь чухал. Түүнчлэн нууц мэдээллийг оруулахдаа болгоомжтой байснаар байгууллага болон хувь хүний мэдээллээ хамгаална. Ингэж байж л хиймэл оюуны давуу талыг ашиглахын зэрэгцээ эрсдлээс хамгаалах боломжтой.