Хиймэл оюун ухааны гаргасан алдаанаас болж АНУ дайн эхлүүлэх шахав

Өнөөдөр TechCrunch дээр гарсан нэгэн маш ноцтой бөгөөд анхаарал татсан мэдээг уншлаа. Хиймэл оюун ухааны (AI) "хий үзэгдэл" буюу зохиомол алдаанаас болж АНУ-ын цэргийнхэн олон улсын томоохон мөргөлдөөн эхлүүлэх дөхсөн байна.

Товчхондоо юу болсон бэ?

Энэ оны хавар АНУ-ын Тусгай ажиллагааны командлалын нэгэн шинжээч тагнуулын мэдээллээ нэгтгэж, дүгнэлт гаргахын тулд хиймэл оюуны чатбот ашиглажээ. Гэтэл өнөөх чатбот нь Хятадын нэгэн усан онгоцонд цөмийн зэвсгийн эд анги тээвэрлэж яваа гэх огт худал мэдээллийг өөрөө зохиогоод гаргачихсан байна (үүнийг технологийн салбарт AI hallucination гэж нэрлэдэг). Шинжээч үүнийг нь дахин нягтлалгүйгээр албан ёсны тайлан болгон дээд удирдлагууддаа илгээчихэж.

Хамгийн аймшигтай нь, энэхүү ташаа мэдээллээс үүдэн цэргийн ажиллагааг эхлүүлэх тушаал гарч, байлдааны онгоцууд хэдийнэ хөөрөн, Хятадын усан онгоц руу дайрахаар явж байжээ. Аз болоход яг эцсийн мөчид албаны хүмүүс уг тагнуулын мэдээлэл нь хиймэл оюуны зохиосон худал зүйл болохыг олж мэдэн, ажиллагааг зогсоож амжсан байна.

Үүнээс юу ойлгож авах вэ?

Энэ явдал нь хиймэл оюун ухааныг амьдрал, үхэл, дайн энхийн чухал шийдвэрт ашиглахын өмнө бид хэр их болгоомжтой байх ёстойг харуулсан маш том сэрэмжлүүлэг боллоо. AI нь яг бодит баримтыг "мэддэггүй", зүгээр л үнэмшилтэй сонсогдох текстийг таамаглаж бичдэг гэдгийг хэрэглэгчид, ялангуяа өндөр хариуцлагатай албан тушаалтнууд ойлгох нь маш чухал байна.

Технологийн хурдацтай хөгжил бидний ажлыг хөнгөвчилж байгаа ч, эцсийн шийдвэр гаргах үед хүнээс хамааралтай хяналт шалгалтыг (human-in-the-loop) хэзээ ч сохроор орхигдуулж болохгүйг энэ үйл явдал тод санууллаа.