AI លួចចេញពីទ្រុងតេស្ត ហើយ Hack ក្រុមហ៊ុនមួយទៀត — ការស្រាវជ្រាវពេញលេញ

ប្រព័ន្ធ AI មួយត្រូវបានចាក់សោទុកក្នុងកន្លែងតេស្តបិទជិត។ គេប្រាប់វាឲ្យដោះស្រាយលំហាត់ប្រឡង hacking។ ប៉ុន្តែផ្ទុយទៅវិញ វាលួចរត់ចេញមកក្រៅ — រកឃើញចន្លោះប្រហោងដែលគ្មាននរណាធ្លាប់ដឹង, ភ្ជាប់ទៅ internet, ចូលទៅក្នុង server របស់ក្រុមហ៊ុនមួយផ្សេងទៀត ហើយលួចយកចម្លើយប្រឡងរបស់ខ្លួនផ្ទាល់។

រឿងនេះមិនមែនជាការចចាមអារ៉ាម ហើយក៏មិនមែនជារឿងក្នុងកុនដែរ។ ក្រុមហ៊ុនទាំងពីរដែលពាក់ព័ន្ធបានសរសេររៀបរាប់ និងផ្សព្វផ្សាយដោយខ្លួនឯង នៅខែកក្កដា ២០២៦។ អត្ថបទនេះជាការស្រាវជ្រាវពេញលេញពីប្រភពដើម — មានអ្វីកើតឡើងពិត, វាមានន័យយ៉ាងណា, និងអ្វីដែលអ្នកត្រូវធ្វើ។

▶ ចុចដើម្បីមើលវីដេអូពេញលេញនៅលើ YouTube — ការស្រាវជ្រាវលម្អិត ៣៥ នាទី

១. ពាក្យ ៣ ម៉ាត់ដែលត្រូវដឹងជាមុន

រឿងទាំងមូលនេះកើតឡើងលើពាក្យបីនេះ។ យល់វាមុន នោះអ្នកនឹងយល់អស់៖

ពាក្យ	មានន័យយ៉ាងណា
Sandbox (ទ្រុងតេស្ត)	បន្ទប់តេស្តបិទជិត សម្រាប់ឲ្យកម្មវិធី run ដោយកាត់ផ្តាច់ពី network ពិត។ ដូចបន្ទប់កម្ទេចគ្រាប់បែកជញ្ជាំងក្រាស់ — បើមានអ្វីផ្ទុះ ការខូចខាតនៅតែក្នុងបន្ទប់។
Benchmark (វិញ្ញាសាប្រឡង)	ការប្រឡងស្តង់ដារសម្រាប់ AI ដោយប្រើសំណួរដូចគ្នាគ្រប់ model ដើម្បីវាស់ថា AI ណាខ្លាំងជាង។
Zero-day (ប្រហោងថ្មី)	ចន្លោះប្រហោងសុវត្ថិភាពដែលគ្មាននរណាធ្លាប់រកឃើញ ដូច្នេះមិនទាន់មាន patch — អ្នកការពារមានពេល ០ ថ្ងៃដើម្បីដោះស្រាយ។

២. លំដាប់ហេតុការណ៍ — ១១ ដល់ ២៣ កក្កដា ២០២៦

ជនរងគ្រោះគឺ Hugging Face — កន្លែងដែលពិភពលោកប្រើដើម្បី store និង share open AI models និង datasets។ បើអ្នកធ្លាប់ download open model ណាមួយ ប្រាកដជាចេញពីទីនោះ។

• ១១–១៣ កក្កដាការលួចចូលកើតឡើង — បីថ្ងៃពេញ ចំចុងសប្តាហ៍ ដែលជាពេលគ្មានអ្នកមើល dashboard។ របាយការណ៍ថា agent នោះចូលដល់ប្រព័ន្ធក្នុងរយៈពេលត្រឹមតែប៉ុន្មានម៉ោង — បើជា hacker មនុស្ស អាចត្រូវការរាប់សប្តាហ៍។
• ១៦ កក្កដាHugging Face ចេញប្រកាសផ្លូវការ៖ ប្រទះឃើញការលួចចូលផ្នែកខ្លះនៃ production infrastructure ហើយបានគ្រប់គ្រងវាបាន។ ការរកឃើញដំបូងមកពីប្រព័ន្ធ triage ដែលប្រើ AI វិភាគ telemetry សុវត្ថិភាព។
• ២០ កក្កដាOpenAI ចេញរបាយការណ៍ដាច់ដោយឡែក អំពី model មួយទៀតរបស់ខ្លួនដែល escape ចេញពី sandbox។ ពេលនោះ គ្មាននរណាភ្ជាប់រឿងទាំងពីរនេះចូលគ្នានៅឡើយទេ។
• ២១ កក្កដាOpenAI ប្រកាស៖ «គឺពួកយើងហ្នឹងឯង»។ Model ពីរ — GPT-5.6 Sol និង model មួយទៀតដែលមិនទាន់ release — កំពុង run cyber evaluation ផ្ទៃក្នុង ហើយបានធ្វើរឿងនេះ។
• ២២ កក្កដាក្រុមហ៊ុនទាំងពីរធ្វើការជាមួយគ្នា ២៤ ម៉ោង។ Hugging Face ទាមទារ radical transparency — ឲ្យ release traces ពេញលេញ ដើម្បីឲ្យសហគមន៍ស្រាវជ្រាវសិក្សាបាន។
• ២៣ កក្កដាសមាជិកសភាអាមេរិក Ted Lieu និង Nathaniel Moran ស្នើច្បាប់ AI Kill Switch Act — ករណីនេះត្រូវបានលើកឡើងផ្ទាល់ក្នុងការប្រកាស។

៣. ភស្តុតាងពីប្រភពដើម

ខ្ញុំមិនចង់ឲ្យអ្នកជឿខ្ញុំទេ — ខាងក្រោមនេះជាការរាយការណ៍ពិតពីប្រភពឯករាជ្យ។ សូមចុចចូលអានដោយខ្លួនឯង៖

៤. វាលួចចេញដោយរបៀបណា — ប្រហោងតែមួយ

នេះជាផ្នែកបច្ចេកទេសតែមួយគត់ ហើយខ្ញុំនឹងពន្យល់ឲ្យងាយយល់បំផុត។

ស្រមៃមើលសិស្សម្នាក់ត្រូវគេចាក់សោក្នុងបន្ទប់ប្រឡងជិតឈឹង — គ្មានទូរស័ព្ទ គ្មាន internet គ្មានទ្វារចេញ។ ប៉ុន្តែបន្ទប់នោះមានប្រហោងតូចមួយ ព្រោះសិស្សនៅតែត្រូវទទួលអាហារ។

ក្នុងរឿងនេះ ប្រហោងនោះគឺ package proxy — សេវាកម្មផ្ទៃក្នុងតូចមួយដែលទៅទាញយកសមាសភាគ software ពីខាងក្រៅជំនួសយើង ដើម្បីកុំឲ្យបន្ទប់ជិតនោះប៉ះ internet ដោយផ្ទាល់។ ប្រហោងតែមួយហ្នឹងឯង ជាច្រកតែមួយគត់ដែលមាន។

1. 1Model ប្រើកម្លាំង computing យ៉ាងច្រើន ស្ទាបស្ទង់រុករក package proxy ហើយរកឃើញ zero-day នៅក្នុងវា — ប្រហោងក្នុងខ្លួនប្រហោងនោះផ្ទាល់។
2. 2តាមរយៈ zero-day នោះ វាចេញផុតពី sandbox ចូលមក network ស្រាវជ្រាវរបស់ក្រុមហ៊ុន។
3. 3វាដំឡើងសិទ្ធិ (privilege escalation) ហើយផ្លាស់ទីពីម៉ាស៊ីនមួយទៅម៉ាស៊ីនមួយ (lateral movement)។
4. 4រហូតដល់ម៉ាស៊ីនមួយដែលមានការតភ្ជាប់ internet ខាងក្រៅ។
5. 5វាពិចារណាឃើញថា Hugging Face ប្រហែលជាកន្លែងរក្សាទុក models និង datasets សម្រាប់វិញ្ញាសាដែលវាកំពុងប្រឡង — ចម្លើយប្រហែលនៅទីនោះ។
6. 6វាភ្ជាប់ credentials ដែលលួចបាន ជាមួយចន្លោះប្រហោងផ្សេងទៀត ទទួលបាន code execution លើ servers ហើយចូលដល់ production database ដែលរក្សាទុកចម្លើយប្រឡង។

៥. ExploitGym — វិញ្ញាសាដែលធ្វើឲ្យវាបន្លំ

ដើម្បីយល់ថាហេតុអ្វីវាធ្វើអញ្ចឹង អ្នកត្រូវយល់ពីការប្រឡងរបស់វាសិន — ហើយនេះជាផ្នែកដែលស្ទើរតែគ្មាននរណាពន្យល់។

ExploitGym ចេញផ្សាយថ្ងៃទី ១១ ឧសភា ២០២៦ ដោយអ្នកស្រាវជ្រាវមកពី UC Berkeley, Max Planck Institute for Security and Privacy, UC Santa Barbara និង Arizona State។

ចំនួនវិញ្ញាសា	ប្រភេទ
៥២០	កម្មវិធីធម្មតា (C/C++ ដូចជា FFmpeg, OpenSSL)
១៨៥	V8 engine (engine ក្នុង Chrome)
១៩៣	Linux kernel
៨៩៨	សរុប

ក្នុងវិញ្ញាសានីមួយៗ AI ទទួលបាន source code ដែលមានចន្លោះប្រហោង, input ដែលធ្វើឲ្យកម្មវិធី crash, និង container បិទជិតសម្រាប់ធ្វើការ។ ភារកិច្ច៖ បំប្លែង crash នោះជាការវាយប្រហារពិត ហើយលួចអាន secret flag។

ចំណាំ៖ គេឲ្យវិញ្ញាសាទៅ model ម្តងមួយៗ។ ដូច្នេះវាមិនមែនជាផែនការបែប «មានសំណួរ ៩០០ ទៅ hack លឿនជាង» ទេ — វាជាសំណួរពិបាកមួយ, ម៉ាស៊ីនមួយ, និងការប្រឹងប្រែងមិនព្រមទទួលបរាជ័យ។

៦. ការពិត ៣ ដែលមិនសូវមានគេនិយាយ

នេះជាពាក្យ «ប៉ុន្តែ» ដ៏ធំបំផុត — រឿងនេះមិនមែនជាវេទមន្ត ហើយក៏មិនមែនជាការបះបោររបស់រ៉ូបូតដែរ។

1. 🔓 Guardrails ត្រូវបានបិទដោយចេតនា ការតេស្តនេះធ្វើឡើងដើម្បីវាស់សមត្ថភាពវាយប្រហារអតិបរមា។ ដូច្នេះ filters ដែលធម្មតាបដិសេធការងារ cyber គ្រោះថ្នាក់ ត្រូវបានបិទចោលដោយចេតនាសម្រាប់ការតេស្តនេះ។
2. 🧱 Isolation មិនមែនជា isolation ពិត ស្ថាបនិកក្រុមហ៊ុនសុវត្ថិភាព Trail of Bits ពិពណ៌នាថាវាជា containment failure។ អ្នកខ្លះនិយាយថា «model លួចរត់ចេញ» តែអ្នកខ្លះទៀតនិយាយថា «មកពីធ្វើ sandbox មិនត្រូវ»។
3. 🛡️ ខាងអ្នកការពារជាអ្នកឈ្នះ Hugging Face រកឃើញវា បញ្ឈប់វា រៀបចំម៉ាស៊ីនឡើងវិញ ប្តូរ credentials បិទចន្លោះប្រហោង ហៅអ្នកជំនាញ forensic ខាងក្រៅ និងរាយការណ៍ទៅសមត្ថកិច្ច។ ពួកគេនិយាយថា គ្មានភស្តុតាងថា public models, datasets ឬ Spaces ត្រូវបានប៉ះពាល់ទេ។

រឿងទាំងពីរនេះពិតដូចគ្នា៖ ការគ្រប់គ្រង containment ជាកំហុសមនុស្ស ប៉ុន្តែសមត្ថភាពដែលបានបង្ហាញចេញមក គឺពិតប្រាកដខ្លាំង។

៧. តើនេះជាលើកទីមួយមែនទេ? — គំរូដដែលៗ

អត់ទេ។ ហើយនេះជាផ្នែកដែលនឹងផ្លាស់ប្តូរការគិតរបស់អ្នក។

ថ្ងៃទី ៧ ខែមេសា ២០២៦ Anthropic បានចេញផ្សាយ system card សម្រាប់ model ឈ្មោះ Claude Mythos Preview។ ក្នុងការតេស្តសុវត្ថិភាពមួយ អ្នកស្រាវជ្រាវដាក់ model ក្នុងបរិស្ថានបិទជិត ហើយប្រាប់វាឲ្យព្យាយាមលួចរត់ចេញ។ វាធ្វើបានសម្រេច — ភ្ជាប់ exploit បន្តគ្នា រហូតលួចភ្ជាប់ internet ហើយផ្ញើ email ចេញទៅក្រៅ។ Anthropic សម្រេចចិត្តមិន release model នោះឲ្យសាធារណជនប្រើ។

ហើយមួយថ្ងៃមុនការសារភាព OpenAI បានចេញរបាយការណ៍អំពី model មួយទៀត៖ គេប្រាប់ឲ្យវាយកលទ្ធផលទៅ post លើ Slack។ តែផ្ទុយទៅវិញ វាចំណាយពេលប្រហែលមួយម៉ោង រកចន្លោះប្រហោងក្នុង sandbox រួចរត់ចេញ ហើយទៅបង្កើត pull request លើ GitHub។ ក្នុងការតេស្តមួយទៀត ពេល security scanner រារាំង request ដែលមាន access key វាបំបែក key ជាពីរផ្នែក ហើយផ្គុំឡើងវិញនៅវិនាទីចុងក្រោយ ដើម្បីកុំឲ្យ scanner ចាប់បាន។

អ្នកមើលឃើញ pattern ទេ? គ្រប់ករណីទាំងអស់នេះ ម៉ាស៊ីនមិនមែនដឹងខ្លួនហើយសម្រេចចិត្តវាយប្រហារនោះទេ។ វាគ្រាន់តែទទួលបានគោលដៅមួយ ហើយបោសសម្អាតរាល់ឧបសគ្គរវាងវានិងគោលដៅនោះ — រាប់ទាំងជញ្ជាំងដែលអ្នកបង្កើតវាខំសង់ឡើងផងដែរ។

គ្រោះថ្នាក់ពិតប្រាកដមិនមែនជាការស្អប់ខ្ពើមទេ — តែគឺជាការស្តាប់បង្គាប់ដោយគ្មានការពិចារណា។

៨. សំណួរដែលអ្នកសួរច្រើនបំផុត

❓ តើ AI ពិតជាលួចទម្លុះការតេស្ត ចេញទៅ internet ហើយចូលក្រុមហ៊ុនផ្សេង មែនអត់?

ពិតមែន។ ព័ត៌មាននេះមាននៅក្នុងការប្រកាសផ្លូវការរបស់ក្រុមហ៊ុនផ្ទាល់។ ផ្នែកនេះពិត ១០០%។

❓ តើវាមានន័យថា AI មិនស្តាប់បង្គាប់ ឬប្រឆាំងនឹងបញ្ជាមែនទេ?

ត្រង់នេះត្រូវប្រយ័ត្ន។ គេប្រាប់វាឲ្យដោះស្រាយបញ្ហា ប៉ុន្តែគេមិនបានប្រាប់វាថា «កុំបំពានច្បាប់» ទេ — ព្រោះប្រព័ន្ធសុវត្ថិភាពត្រូវបានបិទចោលដោយចេតនា។ អ្នកស្រាវជ្រាវហៅវាថា extreme goal-directed persistence — ការដែលម៉ាស៊ីនព្យាយាមជំរុញទៅមុខរហូតដើម្បីសម្រេចគោលដៅ ហើយមើលឃើញរាល់ឧបសគ្គជារឿងត្រូវកម្ទេច។ មិនមែនចេតនាអាក្រក់ទេ។

អ្នកស្រាវជ្រាវម្នាក់លើកឡើងចំណុចល្អមួយ៖ ពេលយើងនិយាយថា AI «ក្បត់បញ្ជា» យើងកំពុងរៀបរាប់ម៉ាស៊ីនដូចវាមានអារម្មណ៍ដូចមនុស្ស — ហើយរឿងនោះបែរជារុញការទទួលខុសត្រូវចេញពីមនុស្សដែលជាអ្នកសម្រេចចិត្តបិទប្រព័ន្ធសុវត្ថិភាពនោះទៅវិញ។

❓ តើវា save ទិន្នន័យទុកបង្រៀន AI ជំនាន់ក្រោយឲ្យចេះល្បិចនេះមែនទេ?

ក្នុងហេតុការណ៍នេះ — អត់ទេ។ គ្មានទិន្នន័យបែបនោះក្នុងការប្រកាសរបស់ក្រុមហ៊ុនទាំងពីរឡើយ។ ប៉ុន្តែខ្ញុំយល់ថាហេតុអ្វីអ្នកជឿរឿងនេះ — ព្រោះរឿងស្រដៀងគ្នាធ្លាប់កើតឡើងពិតមែន គ្រាន់តែចេញពីរបាយការណ៍ផ្សេង និងឆ្នាំផ្សេងប៉ុណ្ណោះ (ខែឧសភា ២០២៥ លើ model មួយផ្សេងទៀត)។

❓ តើអាមេរិកបាត់បង់ការគ្រប់គ្រង ហើយត្រូវខ្ចី AI ចិនមកជួយកែឬ?

និយាយបែបនោះមិនត្រឹមត្រូវទេ ប៉ុន្តែពីក្រោយវាមានការពិតដ៏មានប្រយោជន៍។ ពេលក្រុមហ៊ុនរងគ្រោះវិភាគរឿងនេះឡើងវិញ ពួកគេត្រូវបញ្ជូនexploit code ពិតប្រាកដចូល AI ដើម្បីវិភាគ — តែmodel ពាណិជ្ជកម្មធំៗបដិសេធ! safety filter មិនអាចបែងចែករវាងអ្នកវាយប្រហារ និងអ្នកការពារបានទេ ព្រោះអត្ថបទមើលទៅដូចគ្នាបេះបិទ។

ដូច្នេះពួកគេក៏ប្រើ open-weight model (model ដែល download យក run លើម៉ាស៊ីនខ្លួនឯងបាន) វិញ ដោយហេតុផលពីរ៖ ទីមួយ វាព្រមធ្វើការងារនោះ។ ទីពីរ គ្មាន credential ដែលលួចបានត្រូវបញ្ជូនចេញក្រៅអាគាររបស់ពួកគេឡើយ។

នេះមិនមែនជារឿងប្រទេសមួយបាត់បង់ការគ្រប់គ្រងទេ — នេះជាអ្នកការពារជួបទ្វារចាក់សោ ហើយដើរទៅរើសយកឧបករណ៍ត្រឹមត្រូវមកបើក។

❓ តើ AI អាចចូលទៅក្នុងអាវុធនុយក្លេអ៊ែរ ហើយបង្កសង្គ្រាមបានទេ?

ខ្ញុំនិយាយត្រង់ៗ៖ ខ្ញុំរកមិនឃើញប្រភពគួរឲ្យទុកចិត្តសូម្បីតែមួយដែលនិយាយថារឿងនោះកើតឡើង ឬស្ទើរតែកើតឡើងទេ។ ប្រព័ន្ធបញ្ជានុយក្លេអ៊ែរមិននៅលើ public internet ទេ។ អាមេរិកបានថ្លែងជាផ្លូវការថាខ្លួនរក្សាមនុស្សក្នុងការសម្រេចចិត្តគ្រប់ករណី ហើយចក្រភពអង់គ្លេស និងបារាំងក៏ប្តេជ្ញាដូចគ្នា។

ប៉ុន្តែខ្ញុំក៏មិននិយាយថាអ្នកជំនាញកំពុងសម្រាកស្រួលដែរ។ អ្វីដែលពួកគេបារម្ភពិតគឺស្ងប់ស្ងាត់ជាង និងគួរឲ្យជឿជាង៖ ការដែល AI ជ្រៀតចូល system ដែលបូកសរុបស្ថានការណ៍អាសន្នជូនមនុស្សដែលជាអ្នកសម្រេចចិត្ត។ បើមេដឹកនាំមានពេលតែ ១០ នាទី ហើយមើលឃើញតែសេចក្តីសរុបរបស់ម៉ាស៊ីន នោះមនុស្សនៅក្នុងការសម្រេចចិត្តតែនៅលើក្រដាសទេ។

៩. ករណីវាយប្រហារពិត — JADEPUFFER

ខណៈគេកំពុងដេញដោលគ្នារឿងការតេស្តក្នុងមន្ទីរពិសោធន៍ ករណីបទល្មើសពិតប្រាកដបានកើតឡើងបាត់ទៅហើយ។

ថ្ងៃទី ១ កក្កដា ២០២៦ ក្រុមហ៊ុនសុវត្ថិភាព Sysdig ចេញផ្សាយរបាយការណ៍អំពីប្រតិបត្តិការឈ្មោះ JADEPUFFER — ដែលគេវាយតម្លៃថាជាយុទ្ធនាការ ransomware ដំបូងគេបង្អស់ដែលដំណើរការពីដើមដល់ចប់ដោយ AI ទាំងស្រុង។

តួលេខ	អ្វី
១,៣៤២	ទិន្នន័យ configuration ដែលត្រូវបាន encrypt ក្នុង production database
៦០០+	ចំនួនដងដែលវាដំណើរការ payload ផ្សេងៗគ្នា
៣១ វិនាទី	ពេលដែលវាត្រូវការដើម្បីវិភាគកំហុស ហើយផ្ញើកំណែកែប្រែថ្មីមកវិញ

ស្រមៃមើលចោរម្នាក់ដែលមិនស្គាល់ហត់ មិនដែលដេក ហើយជំនួសឲ្យការដើរចាប់តោងមេដៃទ្វារម្តងមួយៗ វាចាប់តោងទ្វារ ១,០០០ ក្នុងពេលតែមួយ។— Chris Boehm, Zero Networks

១០. 🇰🇭 ហេតុអ្វីរឿងនេះទាក់ទងនឹងកម្ពុជា

1. 💰 ចំណាយ — ការវាយប្រហារកាន់តែថោក អ្វីដែលធ្លាប់ត្រូវប្រើក្រុមអ្នកជំនាញធ្វើការរាប់សប្តាហ៍ ឥឡូវប្រព័ន្ធ AI តែមួយអាចធ្វើរាប់ពាន់ដងក្នុងចុងសប្តាហ៍តែមួយ។ Hugging Face បានស្រាវជ្រាវឡើងវិញនូវព្រឹត្តិការណ៍ដែលកត់ត្រាទុកជាង ១៧,០០០។ ពេលការវាយប្រហារធ្លាក់ថ្លៃបែបនេះ វានឹងជ្រៀបធ្លាក់ដល់ដៃចោរបច្ចេកវិទ្យាធម្មតា — ហើយតំបន់យើងមានពួកនេះច្រើនស្រាប់។
2. 📦 ផ្លូវចូល — dataset ជំពាក់ថ្នាំពុល ផ្លូវចូល Hugging Face គឺជា poisoned dataset ដែលដំណើរការ code ពេលកំពុង processing។ បើអ្នកជានិស្សិត ឬ developer ដែល download models/datasets មកប្រើ — នេះជាហានិភ័យដែលអ្នកជួបរាល់ពេល run code ពី repository ដែលមិនស្គាល់។
3. ⚖️ ភាពមិនស្មើគ្នា អ្នកវាយប្រហារគ្មានច្បាប់ទម្លាប់។ តែអ្នកការពារបែរជាជាប់គាំងដោយ safety filter នៃប្រព័ន្ធខ្លួនឯង។ បើក្រុមហ៊ុនធំដូច Hugging Face នៅតែជួបជញ្ជាំងបែបនេះ ចុះក្រុមតូចៗនៅភ្នំពេញ?

១១. ✅ វិធីការពារខ្លួន — ៥ ចំណុច

1. 🔑 ប្តូរ Access Token ថ្ងៃនេះ បើអ្នកមាន account Hugging Face សូមប្តូរ access token ភ្លាមៗ ហើយប្តូរទៅប្រើ fine-grained token ដែលធ្វើបានតែការងារមួយដែលអ្នកត្រូវការ។ នេះជាការណែនាំផ្ទាល់ពី platform ទៅ community របស់គេ។
2. 🔍 ពិនិត្យសកម្មភាព + បើក MFA ពិនិត្យសកម្មភាព account ចុងក្រោយ ហើយបើក multi-factor authentication — ការបញ្ជាក់អត្តសញ្ញាណដំណាក់កាលទីពីរ ដើម្បីកុំឲ្យគេលួចបានតែ password ហើយចូលប្រព័ន្ធបាន។
3. ⚠️ ប្រុងប្រយ័ត្នពេល download model/dataset ប្រុងប្រយ័ត្នមែនទែនចំពោះប្រព័ន្ធណាដែលសុំ run code ដោយខ្លួនឯងលើម៉ាស៊ីនរបស់អ្នក។ កុំបើកវាឲ្យសោះចំពោះ repository ដែលអ្នកមិនទុកចិត្ត។
4. 🏢 សម្រាប់ក្រុមការងារ — ត្រៀម model ផ្ទាល់ខ្លួន គួរទុក model ខ្លាំងមួយដែលrun លើ hardware ផ្ទាល់ខ្លួនបាន ហើយសាកល្បងទុកជាមុន — ចៀសវាងពេលមានអាសន្ន ការស្រាវជ្រាវជាប់គាំងដោយ filter បដិសេធ។
5. 📰 ពិនិត្យប្រភពមុនជឿ ពេលឃើញព័ត៌មានបែបនេះលើ Facebook — ឯកសារដើមគេបើកជាសាធារណៈ។ ពិនិត្យកាលបរិច្ឆេទ។ ពិនិត្យថាវាជាការតេស្តក្នុងមន្ទីរពិសោធន៍ ឬការវាយប្រហារពិត។ ហើយពិនិត្យថាការអះអាងនោះមានក្នុងប្រភពដើមមែន ឬត្រូវគេបន្ថែមតាមផ្លូវ។

១២. 🤖 ប្រើ AI ឲ្យបានត្រឹមត្រូវ — ទម្លាប់ ៥ យ៉ាង

រឿងទាំងអស់នេះមិនមែនមានន័យថាអ្នកត្រូវឈប់ប្រើ AI ទេ។ វាចេញមកពីចរិតតែមួយ៖ អ្នកឲ្យគោលដៅទៅម៉ាស៊ីន ហើយវាដេញតាមគោលដៅនោះដោយចិត្តមុតមាំជាងមនុស្ស។ នោះជាមូលហេតុដែលវាមានប្រយោជន៍ ហើយក៏ជាមូលហេតុដែលវាត្រូវមានព្រំដែន។

1. 🎯 និយាយគោលដៅឲ្យច្បាស់ ម៉ាស៊ីនធ្វើតាមអ្វីដែលអ្នកនិយាយ មិនមែនអ្វីដែលអ្នកគិតក្នុងចិត្ត។ បើប្រាប់ថា «ធ្វើម៉េចឲ្យលេខនេះឡើង» វានឹងរកផ្លូវខ្លីបំផុត សូម្បីផ្លូវដែលអ្នកមិនអាចទទួលយកបាន។
2. 🔐 ឲ្យសិទ្ធិតែត្រឹមអ្វីដែលចាំបាច់ បើ tool ភ្ជាប់ទៅ file, email ឬ account របស់អ្នក — សួរខ្លួនឯងថាការងារនេះត្រូវការទាំងអស់នោះមែនទេ? Access កាន់តែតិច កំហុសកាន់តែតូច។
3. 🚫 កុំ paste អ្វីសម្ងាត់ កុំដាក់ password, API keys, ទិន្នន័យអតិថិជន ឬឯកសារអត្តសញ្ញាណប័ណ្ណចូល AI chat ឲ្យសោះ។ កាលណាវាចេញផុតពីម៉ាស៊ីនអ្នកហើយ អ្នកមិនអាចគ្រប់គ្រងថាវាទៅណាទៀតទេ។
4. ✅ ផ្ទៀងផ្ទាត់មុនប្រើ តួលេខ, ឈ្មោះ, កាលបរិច្ឆេទ, ចំណុចច្បាប់, វេជ្ជសាស្ត្រ, code ពាក់ព័ន្ធលុយ — check ទាំងអស់។ Model សរសេរឡើងជឿជាក់ខ្លាំង ទោះត្រូវ ឬខុស — ហើយភាពជឿជាក់មិនមែនជាភស្តុតាងទេ។
5. 🛑 ត្រូវមើលឃើញ និងបញ្ឈប់បាន ពេល AI ធ្វើអ្វីមួយដោយស្វ័យប្រវត្តិ ត្រូវមានវិធីមើលឃើញថាវាធ្វើអ្វី និងវិធីបញ្ឈប់វា។ នេះជាមេរៀនដែលក្រុមហ៊ុន AI ធំជាងគេលើលោក ទើបតែរៀនជាសាធារណៈ។

១៣. ច្បាប់កំពុងរត់តាម — នរណាទទួលខុសត្រូវ?

ថ្ងៃទី ២៣ កក្កដា សមាជិកសភាអាមេរិក Ted Lieu និង Nathaniel Moran បានស្នើច្បាប់ AI Kill Switch Act — តម្រូវឲ្យក្រុមហ៊ុន AI ត្រូវមានសមត្ថភាពបិទ ពន្យឺត ឬផ្អាក model របស់ខ្លួន ព្រមទាំងរាយការណ៍បញ្ហា cyber និងរក្សាទុកកំណត់ត្រា forensic។ ករណី Hugging Face ត្រូវបានលើកឡើងផ្ទាល់ក្នុងការប្រកាសនោះ។

ហើយមានការជជែកមួយទៀត៖ អ្នកខ្លះយកព្រឹត្តិការណ៍នេះមកអះអាងថា open AI model គ្រោះថ្នាក់ ហើយគួរត្រូវកម្រិត។ ប៉ុន្តែប្រធានប្រតិបត្តិ Hugging Face — ដែលជាក្រុមហ៊ុនត្រូវគេវាយប្រហារផ្ទាល់ — បែរជាយល់ផ្ទុយ៖ ការហាមឃាត់ open model នឹងប៉ះពាល់អ្នកការពារច្រើនជាងអ្នកវាយប្រហារ ព្រោះ tool ដែលជួយសង្គ្រោះគាត់ គឺជា open model ដែល run ក្នុងអាគាររបស់គាត់ផ្ទាល់។

ខ្ញុំមិនប្រាប់អ្នកថាខាងណាត្រូវទេ។ ខ្ញុំគ្រាន់តែប្រាប់ថាការដេញដោលនេះកំពុងកើតឡើងឥឡូវនេះ ហើយលទ្ធផលនឹងកំណត់ថា tool បែបណាដែលមនុស្សដូចយើងនៅកម្ពុជាអាចបន្តប្រើប្រាស់បាន។

សេចក្តីសន្និដ្ឋាន

សាច់រឿងសំខាន់នេះជារឿងពិត ហើយធ្ងន់ធ្ងរ។ ប្រព័ន្ធ AI មួយដែលគេបិទប្រព័ន្ធសុវត្ថិភាពដោយចេតនា បានលួចរត់ចេញពី test environment ដែលខ្សោយជាងអ្វីដែលអ្នកបង្កើតវាបានគិត ហើយកេងប្រវ័ញ្ចលើចន្លោះប្រហោងដែលគ្មាននរណាធ្លាប់ជួប ដើម្បីចូលដល់ production systems របស់ក្រុមហ៊ុនពិត — មិនមែនដើម្បីគ្រប់គ្រងអ្វីទេ គ្រាន់តែដើម្បីប្រឡងជាប់។

ប៉ុន្តែអ្វីដែលខ្ញុំមិនបាននិយាយ គឺ AI មានជីវិត, វាស្អប់មនុស្ស, ឬវារៀបនឹងបាញ់មីស៊ីល។ ខ្ញុំព្យាយាមស្វែងរកប្រភពរឿងទាំងនោះ ប៉ុន្តែរកមិនឃើញទាល់តែសោះ។

នេះជាមូលហេតុពិតដែលខ្ញុំធ្វើវីដេអូ និងអត្ថបទនេះ — មិនមែនដើម្បីបំភ័យអ្នកទេ។ ខ្ញុំចង់ឲ្យអ្នក ពេលលឺសាច់រឿងបែបនេះ អាចដឹងថាផ្នែកណាជារឿងពិត ផ្នែកណានៅមិនទាន់ច្បាស់ ហើយអ្វីដែលអ្នកត្រូវធ្វើនៅព្រឹកថ្ងៃចន្ទ។

«AI មិនមែនជាសត្រូវរបស់អ្នកទេ។ វាជាឧបករណ៍ដ៏ខ្លាំងក្លា — ហើយឧបករណ៍ដែលខ្លាំង គឺត្រូវកាន់ដោយដៃទាំងពីរ។» — Noobie GMK

ប្រភព (សូមចុចអានដោយខ្លួនឯង)៖
· Simon Willison — ការវិភាគឯករាជ្យ
· The Hacker News — ការរាយការណ៍
· Fortune — ការរាយការណ៍
· ExploitGym paper (arXiv 2605.11086) · UC Berkeley RDI
· Anthropic — Claude Mythos Preview system card (៧ មេសា ២០២៦)