កាលពីថ្ងៃអង្គារសប្តាហ៍មុន ការបង្ហោះប្លុកមួយបានលេចឡើងនៅលើគេហទំព័រ OpenAI ដែលទោះបីជាមានចំណងជើងគ្មានកំហុសក៏ដោយ មានព័ត៌មានបំផ្ទុះគ្រាប់បែក។ កំឡុងពេលធ្វើតេស្តផ្ទៃក្នុង ម៉ូដែលរបស់ក្រុមហ៊ុនចំនួនពីរបានរត់គេចពីការឃុំឃាំង ហើយបានលួចចូលទៅក្នុងម៉ាស៊ីនមេនៃវេទិកាបង្ហោះព័ត៌មានឆ្លាតវៃសិប្បនិម្មិតដ៏ធំមួយដែលមានឈ្មោះថា Hugging Face។ នេះជាចំណុចរបត់មួយ – ជាលើកដំបូងដែលយើងបានឃើញការវាយប្រហារតាមអ៊ីនធឺណិតដែលបានបង្កើត រចនា និងប្រតិបត្តិដោយ AI។
ដោយបានធ្វើការនៅក្នុង និងជុំវិញឧស្សាហកម្ម AI អស់រយៈពេលជាងមួយទសវត្សរ៍ រួមទាំងការបម្រើនៅលើក្រុមប្រឹក្សាភិបាលនៃ OpenAI ខ្ញុំដឹងថាមានអាថ៌កំបាំងបើកចំហក្នុងចំណោមអ្នកអភិវឌ្ឍន៍ AI៖ ឧប្បត្តិហេតុបែបនេះត្រូវបានរង់ចាំជាយូរមកហើយ ហើយអ្នកវិទ្យាសាស្ត្រ និងវិស្វករល្អបំផុតរបស់ពិភពលោកនៅតែមិនដឹងពីរបៀបការពារវា។
ប្រព័ន្ធ AI ទាំងពីរនៅពីក្រោយការលួចចូលគឺជាគំរូសាធារណៈកម្រិតខ្ពស់បំផុតរបស់ OpenAI និងជាគំរូថ្មីដែលកាន់តែទំនើបជាងមុន ដែលមិនទាន់ត្រូវបានចេញផ្សាយជាសាធារណៈនៅឡើយទេ។ ប្រឈមមុខនឹងបញ្ហាសន្តិសុខតាមអ៊ីនធឺណិតដ៏លំបាកជាច្រើនពីអ្នកស្រាវជ្រាវ OpenAI ដែលចង់វាយតម្លៃជំនាញរបស់ពួកគេ AI ទាំងពីរបានសន្និដ្ឋានថា វិធីល្អបំផុតដើម្បីទទួលបានពិន្ទុខ្ពស់គឺគ្រាន់តែលួចចម្លើយប៉ុណ្ណោះ។ ដើម្បីសម្រេចបាននូវគោលដៅនេះ ពួកគេបានប្រើប្រាស់បច្ចេកទេសកម្រិតខ្ពស់ជាច្រើន ដើម្បីបំបែកចេញជាដំបូងនូវ “sandbox” ដែលមានសុវត្ថិភាពរបស់ OpenAI ដែលប្រើសម្រាប់ការធ្វើតេស្ត ហើយបន្ទាប់មកបានលួចចូលទៅក្នុងមូលដ្ឋានទិន្នន័យរបស់ Hugging Face ដែលជាក្រុមហ៊ុនដែលរៀបចំផលិតផល និងសំណុំទិន្នន័យ AI ។ នៅខាងក្នុង អ្នកវាយប្រហារ AI បានធ្វើសកម្មភាពស្វ័យភាពរាប់ពាន់ដងក្នុងរយៈពេលជាច្រើនថ្ងៃ ដើម្បីពង្រីកការចូលទៅកាន់ហេដ្ឋារចនាសម្ព័ន្ធរបស់ក្រុមហ៊ុន។
យើងគ្រាន់តែដឹងអំពីព្រឹត្តិការណ៍ដ៏អស្ចារ្យនេះដោយផ្អែកលើព័ត៌មានស្ម័គ្រចិត្តពី Hugging Face និង OpenAI ។ គ្មានគោលនយោបាយណាមួយនាពេលបច្ចុប្បន្នដែលមានបំណងដោះស្រាយហានិភ័យគំរូព្រំដែន នឹងត្រូវផ្តល់ការព្រមានដល់សាធារណជន ឬសូម្បីតែស្ថាប័នរដ្ឋាភិបាល។
នេះបង្ហាញពីចំណុចងងឹតដ៏ធំនៅក្នុងវិធីសាស្រ្តគោលនយោបាយបច្ចុប្បន្នដើម្បីគ្រប់គ្រងហានិភ័យសម្រាប់ប្រព័ន្ធ AI កាន់តែជឿនលឿន៖ របៀបដែលក្រុមហ៊ុន AI កំពុងប្រើប្រាស់ប្រព័ន្ធ AI ទំនើបទាន់សម័យ និងមិនទាន់ចេញផ្សាយនៅក្នុងផ្ទះរបស់ពួកគេ។
វិធីសាស្រ្តរបស់រដ្ឋបាល Trump ចំពោះហានិភ័យ AI បានផ្លាស់ប្តូរយ៉ាងឆាប់រហ័សក្នុងរយៈពេលប៉ុន្មានខែថ្មីៗនេះ ដោយសារសមត្ថភាពរបស់ AI ក្នុងការជួយពួក Hacker របស់មនុស្សបានវិវត្ត។ ដោយបោះបង់ចោលវិធីសាស្រ្តបិទដៃដែលវារក្សាពេញមួយឆ្នាំ 2025 សេតវិមានថ្មីៗនេះបានចាប់ផ្តើមជាក់ស្តែងដែលតម្រូវឱ្យក្រុមហ៊ុនដែលមានម៉ូដែល AI ទំនើបៗឆ្លងកាត់ការធ្វើតេស្តសុវត្ថិភាពជាបន្តបន្ទាប់ មុនពេលបញ្ចេញវាយ៉ាងទូលំទូលាយជាផលិតផល។ វិធីសាស្រ្តនេះ ហៅថាការធ្វើតេស្តមុនពេលដាក់ពង្រាយ ហាក់ដូចជាសមហេតុផលនៅក្រលេកមើលដំបូង យើងចង់ធានាថារាល់ប្រព័ន្ធ AI មានសុវត្ថិភាព មុនពេលយើងដាក់ចូលទៅក្នុងដៃរបស់មនុស្សរាប់ពាន់លាននាក់។ បញ្ហាគឺថាការផ្តោតលើកាលបរិច្ឆេទចេញផ្សាយមិនអើពើទាំងស្រុងចំពោះការប្រើប្រាស់យ៉ាងទូលំទូលាយនៃប្រព័ន្ធ AI ចុងក្រោយបំផុត និងទំនើបបំផុតនៅក្នុងក្រុមហ៊ុន AI ។ ដូចដែលឧប្បត្តិហេតុកាលពីសប្តាហ៍មុនបង្ហាញ ប្រព័ន្ធ AI ដែលដាក់ពង្រាយខាងក្នុងទាំងនេះអាចបង្កហានិភ័យធ្ងន់ធ្ងរ រួមទាំងភាគីទីបីផងដែរ។
ដើម្បីយល់ពីមូលហេតុ វាជារឿងសំខាន់ក្នុងការយល់ដឹងពីរបៀបដែលប្រព័ន្ធទាំងនេះខុសគ្នាពី chatbots ដែលសាធារណជនភាគច្រើននៅតែស្មើជាមួយ AI ។ ប្រព័ន្ធ AI នាពេលបច្ចុប្បន្ននេះ មិនត្រឹមតែបោះពុម្ពអត្ថបទទៅក្នុងផ្ទាំងជជែកប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំងដើរតួជា “ភ្នាក់ងារ” ដែលអាចធ្វើសកម្មភាពដោយផ្ទាល់នៅក្នុងពិភពឌីជីថល និងដំណើរការកុំព្យូទ័រយ៉ាងសំខាន់តាមរបៀបស្រដៀងគ្នាទៅនឹងមនុស្ស។ ភ្នាក់ងារ AI កំពុងបង្ហាញថាមានប្រយោជន៍ខ្លាំងណាស់ ប៉ុន្តែពួកគេក៏កំពុងបង្ហាញពីទំនោរខ្លាំងឆ្ពោះទៅរក “ការលួចយករង្វាន់” អាកប្បកិរិយា – ការស្វែងរកវិធីដែលមិនចង់បានដើម្បីសម្រេចបាននូវគោលដៅដែលមនុស្សផ្តល់ឱ្យពួកគេ ជួនកាលរហូតដល់ការក្លែងបន្លំទាំងស្រុង។ ទាំងនេះរួមមានករណីដែល AI ចូលប្រើ និងលុបទិន្នន័យដែលមិនគួរទាក់ទង ប្តូរឈ្មោះឯកសារដើម្បីបំភាន់អ្នកសាកល្បងរបស់មនុស្ស និងគ្របដណ្តប់យ៉ាងសកម្មនូវបទរបស់វា ដើម្បីការពារមនុស្សពីការកត់សម្គាល់ពីអាកប្បកិរិយាដែលមិនចង់បាន។
ដើម្បីគ្រប់គ្រងហានិភ័យដែលបង្កឡើងដោយប្រព័ន្ធ AI ដែលមានស្វ័យភាព និងជាញឹកញាប់បោកបញ្ឆោតទាំងនេះ យើងត្រូវផ្លាស់ប្តូរវិធីសាស្រ្តរបស់យើងក្នុងការគ្រប់គ្រងពួកគេ។ ជំនួសឱ្យការគិតពីក្រុមហ៊ុន AI ជាអ្នកលក់កម្មវិធីដែលលក់កម្មវិធីវាយអត្ថបទ យើងអាចទទួលយកការបំផុសគំនិតពីឧស្សាហកម្មផ្សេងទៀតដែលសកម្មភាពនៅក្នុងឧស្សាហកម្មខ្លួនវាមានគ្រោះថ្នាក់។ មន្ទីរពិសោធន៍ជីវសាស្រ្តដែលធ្វើការជាមួយភ្នាក់ងារបង្ករោគ ក្រុមហ៊ុនហិរញ្ញវត្ថុដែលធ្វើពាណិជ្ជកម្មរាប់ពាន់លានដុល្លារ និងរោងចក្រគីមីដែលកែច្នៃសារធាតុគីមីពុល ទាំងអស់ស្ថិតនៅក្រោមការត្រួតពិនិត្យសម្រាប់ប្រតិបត្តិការខាងក្នុងរបស់ពួកគេ មិនមែនត្រឹមតែផលិតផលខាងក្រៅរបស់ពួកគេនោះទេ។
AI ជាដំបូងអំពីការបង្កើតតម្លាភាពបន្ថែមទៀតអំពីរបៀបដែលក្រុមហ៊ុន AI ប្រើប្រាស់ប្រព័ន្ធទំនើបបំផុតរបស់ពួកគេនៅខាងក្នុង។ នេះអាចមានលក្ខណៈសាមញ្ញដូចជាការរត់ការសាកល្បងបច្ចុប្បន្នដែលត្រូវបានធ្វើឡើងមុនពេលម៉ូដែលថ្មីអាចត្រូវបានចេញផ្សាយជាទៀងទាត់ (ឧ. ប្រចាំត្រីមាស) លើគំរូល្អបំផុតនៅក្នុងក្រុមហ៊ុន។ ក្រុមហ៊ុនទាំងនេះកំពុងប្រើប្រាស់ AI ផ្ទាល់ខ្លួនរបស់ពួកគេដើម្បីបង្កើតប្រព័ន្ធឆ្លាតវៃកាន់តែខ្លាំងឡើង ជួនកាលតាមរបៀបដែលពួកគេខ្លួនឯងមិនយល់។ នេះមិនគួរមើលមិនឃើញចំពោះការត្រួតពិនិត្យខាងក្រៅទេ។
ក្នុងរយៈពេលវែងជាងនេះ ឧស្សាហកម្មផ្សេងទៀតផ្តល់នូវយន្តការគួរឱ្យចាប់អារម្មណ៍ដែលអាចផ្ទេរទៅ AI ។ នៅក្នុងផ្នែកហិរញ្ញវត្ថុ “អ្នកត្រួតពិនិត្យលំនៅដ្ឋាន” គឺជាក្រុមដែលខិតខំប្រឹងប្រែងរបស់និយតករដែលអង្គុយនៅក្នុងការិយាល័យរបស់ធនាគារធំ ៗ ។ នៅក្នុងការស្រាវជ្រាវជីវវេជ្ជសាស្រ្ដ មានស្ដង់ដារតឹងរ៉ឹងសម្រាប់កម្រិតនៃការការពារដែលត្រូវការនៅពេលគ្រប់គ្រងសម្ភារៈជីវសាស្រ្តនៃកម្រិតហានិភ័យផ្សេងៗគ្នា។ នៅទូទាំងឧស្សាហកម្មជាច្រើន ច្បាប់រាយការណ៍ពីឧប្បត្តិហេតុធានាថា នៅពេលដែលមានអ្វីមួយខុសប្រក្រតី ព័ត៌មានអំពីអ្វីដែលបានកើតឡើង និងវិធីដោះស្រាយបញ្ហាមិនត្រូវបានបិទនៅក្នុងស្ថាប័នតែមួយនោះទេ។ នៅពេលដែល AI បន្តរីកចម្រើន វិធីសាស្រ្តទាំងនេះ និងវិធីសាស្រ្តផ្សេងទៀតអាចត្រូវបានសម្របខ្លួនដើម្បីដោះស្រាយហានិភ័យនៅក្នុងអង្គការដែលកំពុងរុញច្រានព្រំដែន AI ។
នៅខែកញ្ញា ឆ្នាំ 2024 ខ្ញុំត្រូវបានស្នើឱ្យផ្តល់សក្ខីកម្មនៅចំពោះមុខគណៈកម្មាធិការព្រឹទ្ធសភាអំពីអ្វីដែលសភាអាចនឹងមានការយល់ច្រលំអំពី AI ប្រសិនបើវាស្តាប់តែនាយកប្រតិបត្តិសាជីវកម្ម និងអ្នកបញ្ចុះបញ្ចូល។ ចម្លើយរបស់ខ្ញុំគឺថានៅទីក្រុងវ៉ាស៊ីនតោន វាអាចពិបាកយល់យ៉ាងពេញលេញនូវអ្វីដែលក្រុមហ៊ុន AI ឈានមុខគេកំពុងព្យាយាមសម្រេចបាន។ ការពិតដែលត្រូវបានយល់យ៉ាងទូលំទូលាយនៅក្នុង Silicon Valley គឺថាពួកគេកំពុងព្យាយាមបង្កើតម៉ាស៊ីនដែលអាចដំណើរការ និងលើសពីមនុស្សណាម្នាក់ ហើយពួកគេមិនដឹងថាតើពួកគេនឹងអាចគ្រប់គ្រងម៉ាស៊ីនទាំងនេះសម្រាប់គោលបំណងវិជ្ជមានដែរឬទេ។ ក្នុងនាមជាសហស្ថាបនិកនៃ OpenAI បានដាក់វានៅក្នុងភាពយន្តឯកសារឆ្នាំ 2019 ថា “អនាគតពិតជានឹងល្អសម្រាប់ AIs ។ វានឹងល្អប្រសិនបើវាល្អសម្រាប់មនុស្សផងដែរ។” ដើម្បីសម្រេចបាននូវចំណុចនេះ យើងត្រូវពិនិត្យមើលឱ្យបានដិតដល់នូវអ្វីដែលក្រុមហ៊ុន AI កំពុងសាងសង់នៅពីក្រោយទ្វារបិទជិត។
មតិដែលបានបង្ហាញនៅក្នុងមតិយោបល់របស់ Fortune.com គឺគ្រាន់តែជាទស្សនៈរបស់អ្នកនិពន្ធរបស់ពួកគេប៉ុណ្ណោះ ហើយមិនចាំបាច់ឆ្លុះបញ្ចាំងពីគំនិត និងជំនឿរបស់ ទ្រព្យសកម្ម.
