Бүх нийтлэлүүд
2026.05.262 min read#танинмэдэхүй#Deepfake#Deepfake audio
Чиний дуу хоолойг хулгайлж болох уу?
Г.Өлзийтөгс
Багш
Г.Өлзийтөгс
Багш
Deepfake аудио гэдэг нь хүний хоолойг хиймлээр үүсгэж, тэр хүн хэлсэн мэт аудио үүсгэдэг технологи юм. Хүний амьдралыг сайжруулах зорилгоор анх аудио ном болгон нэвтрүүлсэн ч сүүлийн жилүүдэд нийгэм, хувь хүнийг дан ганц санхүүгийн хувьд гэлтгүй бие сэтгэл, эрүүл мэндийн хувьд ч мөн хохироох болсон билээ. Интернэт сүлжээн дэх DeepFake аргаар бүтээгдсэн хуурамч бичлэг контентын тоо 2020 онд 85,000 байсан бол, 2023 он гэхэд энэ тоо 145,000 хүрч нэмэгдсэн ба тэдгээрийн 70%-аас илүү хувь нь YouTube, TikTok, Reddit зэрэг сошиал сувгууд дээр тархсан байдаг1. Бидний сайн мэдэх нэгэн том жишээ бол Украйн Орос хоёрын дайны үеэр Украйны ерөнхийлөгч Volodymyr Zelenskyy-ийн бууж өгч буйгаа зарласан хуурамч бичлэг олон нийтийн сүлжээнд тархсан.
Аудио бичлэг цуглуулах: Зорилтот хүний ярьж буй видео, дуу бичлэгийг олох — YouTube, TikTok, утасны дуудлага ч байж болно.
AI загвар сургах: Voice cloning загвар тухайн хүний дуу хоолойн онцлог, аялга, хэмнэлийг цээжилнэ.
Хуурамч аудио үүсгэх: Хүссэн үгээ тухайн хүний дуу хоолойгоор хэлүүлж болно.
Зорилтот хүний ярьж буй бичлэг болон бэлдсэн текстүүд дээр үндэслэн тухайн хүнийг бэлдсэн текстийн хэлж буй мэтээр хуурамч дуу хоолой үүсгэх
🎙️ + 📝 → 🎭 — зорилтот хүний дуугаар бичсэн текст-ийг уншуулах
Зорилтот хүний ярьж буй бичлэг болон бэлдсэн текстийг ярьсан бичлэг дээр үндэслэн тухайн хүнийг бэлдсэн текстийн хэлж буй мэтээр хуурамч дуу хоолой үүсгэх
🎙️ + 🗣️ → 🎭 — зорилтот хүний дуугаар өөр хүний ярьсан аудио-г солих
“Deepfake аудио - ердөө 3 секундийн хоолойн бичлэг тан байхад л хүссэн үгээ таны хоолойгоор яриулж чадна. ”
2024 онд Их Британийн Arup компанийн ТУЗ-ийн online хурал дээр хөрөнгө оруулагчийн оронд deepfake audio технологиор жинхэнэ дүрээ нуусан нэгэн байсан ажээ. Тухайн компанийн ажилтан түүнд HK$200 сая (~26 сая ам.доллар) шилжүүлсэн нь тогтоогдсон2
2024 оны наймдугаар сард Facebook, TikTok зэрэг сүлжээнд Elon Musk-тай адилхан дүр, дуу хоолой бүхий зар сурталчилгаанууд хурдацтай тархаж, Нью-Йорк Таймс сонинд интернэтийн хамгийн том залилан хэмээн нэрлэгджээ. Тухайлбал, АНУ-д нэгэн иргэн Steve Beauchamp Elon Musk-ийн хуурамч зар сурталчилгаанд итгэж тэтгэврийн сангийнхаа 690,000 ам.долларыг алдсан байна2
2024 оны эхээр АНУ-ын Мэрилэнд мужид нэгэн сургуулийн захирлын deepfake аудио олон нийтийн сүлжээнд тархсан бөгөөд уг бичлэгт харгис үг хэллэг, ялгаварлан гадуурхсан өнгө аяс ихээр агуулагдсан байжээ. Энэ аудиог YouTube-д байршуулсны дараа ердөө хэдхэн цагийн дотор 2 сая гаруй үзэлт авч, тухайн захирал ажлаасаа халагдаж, амь насанд нь хүртэл заналхийлэл ирсэн байдаг. Гэвч цагдаагийн шалгалтаар энэ бичлэг нь хуурамч болох нь тогтоогдсон бөгөөд хохирогчийг эзгүйд нь тухайн сургуулийн дасгалжуулагч ийм зүйл хийсэн нь тодорхой болсон2
“Хамгийн сайн хамгаалалт - мэдлэг болон сэрэмжлэл”
Шууд итгэхгүй байх: Танил хүн шиг сонсогдсон ч баталгаажуулах. Хэрэв мөнгө гуйж байвал өөр сувгаар шалга — мессеж илгээх, биечлэн асуух гэх мэт.
AI detector ашиглах: Deepware, Resemble Detect зэрэг хэрэгсэлүүд ашиглан баталгаажуулах.
Логикоо ашиглах: Хэт яарах, мөнгө гуйх, хэт өндөр өгөөж өгөх, нууцлахыг хүсэх - эдгээр нь залилангийн гол шинж тэмдэгүүд.
Нууц код тохиролцох: Гэр бүлдээ зөвхөн та нар мэдэх нэг нууц үг тохирох. Яаралтай дуудлага ирвэл тэр үгээр таних боломжтой.
Deepfake аудио нь зөв ашиглавал боловсрол, кино, хөгжмийн салбарт асар их боломж шинээр нээдэг технологи. Харин буруу гарт орвол - хувь хүний нэр хүнд, компанийн санхүү, бүхэл бүтэн сонгуулийн үр дүнг ч сүйтгэж болно.
Хамгийн үнэ цэнтэй хамгаалалт бол технологийн талаар мэдлэгтэй байх явдал. Энэ нийтлэлийг уншсан та аль хэдийн эхний алхмаа хийлээ.
Итгэмээргүй адилхан сонсогдсон ч - шалгахад илүүдэхгүй. 🎙️
Bateman, J. (2022). Deepfakes and synthetic media in the financial system: Assessing threat scenarios. Carnegie Endowment for International Peace.
https://incode.com/blog/top-5-cases-of-ai-deepfake-fraud-from-2024-exposed/#:~:text=4,Death%20Threats%20in%20Maryland%2C%20USA