តើម៉ូដែលរបស់ OpenAI ទើបតែឆ្លងកាត់ “បន្ទាត់ហានិភ័យក្រហម” របស់ពួកគេទេ? នេះជាអ្វីដែលអ្នកជំនាញសន្តិសុខខាងក្រៅគិត

កាលពីដើមសប្តាហ៍នេះ OpenAI បានប្រកាសថាម៉ូដែលពីររបស់ខ្លួន – GPT-5.6 Sol ដែលទើបនឹងចេញថ្មី និងប្រព័ន្ធដែលមិនមានថាមពលខ្លាំងជាងនេះ បានផ្ទុះចេញពីបរិយាកាសធ្វើតេស្តខាងក្នុងដែលត្រូវបានចាក់សោ ដោយបានទាញយកភាពងាយរងគ្រោះ “សូន្យថ្ងៃ” ដែលមិនធ្លាប់ស្គាល់ពីមុនដើម្បីឈានដល់អ៊ីនធឺណិតបើកចំហ ហើយបន្ទាប់មកបានលួចស្តាប់ AI Hugging Face មិត្តភ័ក្តិ ដើម្បីលួចចំលើយចំពោះភាពអសន្តិសុខដែលពួកវាកំពុងត្រូវបានបញ្ឆេះ។

ឧបទ្ទវហេតុនេះបានធ្វើឱ្យពិភពលោកភ្ញាក់ផ្អើល ប៉ុន្តែប្រហែលជាមិនមានអ្វីលើសពីអ្នកជំនាញសន្តិសុខ AI ដែលបានព្រមានអំពីគ្រោះថ្នាក់បែបនេះអស់រយៈពេលជាច្រើនឆ្នាំ និងជំរុញឱ្យក្រុមហ៊ុន និងរដ្ឋាភិបាលទទួលយកការការពារបន្ថែមទៀត។

អ្នកជំនាញសន្តិសុខ AI ជាច្រើនបាននិយាយដូច្នេះ ទ្រព្យសកម្ម ការ Hack ចុងក្រោយបំផុតហាក់ដូចជាបង្ហាញថាម៉ូដែលរបស់ OpenAI បានឈានដល់កម្រិតហានិភ័យដែលបានកំណត់ថា “សំខាន់” នៅក្នុងគោលការណ៍ណែនាំសុវត្ថិភាពដែលបានចេញផ្សាយរបស់ OpenAI ពោលគឺកម្រិតគ្រោះថ្នាក់ខ្ពស់បំផុត។ ដោយសារកម្រិតនៃគ្រោះថ្នាក់នេះ ក្រុមហ៊ុនបានប្តេជ្ញាចិត្តនៅក្នុងគោលការណ៍ណែនាំដែលបានបោះពុម្ពផ្សាយទាំងនេះ ដើម្បីបញ្ឈប់ការអភិវឌ្ឍន៍គំរូ រហូតដល់ប្រព័ន្ធគ្រប់គ្រងប្រសើរជាងមុនអាចត្រូវបានរកឃើញ។

កម្រិត “សំខាន់” ត្រូវបានកំណត់នៅក្នុងឯកសារគោលនយោបាយហានិភ័យដែលគេស្គាល់ថាជា OpenAI’s Preparedness Framework។ យោងតាមគោលការណ៍នេះ កម្រិតនៃការគំរាមកំហែងដ៏សំខាន់គឺមានបំណងអនុវត្តចំពោះគំរូដែលអាចស្វែងរក និងបង្កើតការកេងប្រវ័ញ្ចការងារដោយឯករាជ្យសម្រាប់ភាពងាយរងគ្រោះដែលមិនស្គាល់ពីមុននៅក្នុងប្រព័ន្ធពិភពលោកពិតជាច្រើនដែលមានការការពារយ៉ាងល្អ ឬចំពោះគំរូដែលអាចរចនា និងប្រតិបត្តិយុទ្ធសាស្ត្រវាយប្រហារថ្មីទាំងស្រុងប្រឆាំងនឹងគោលដៅដែលមានការការពារយ៉ាងល្អ បន្ទាប់ពីត្រូវបានផ្តល់ឱ្យនូវគោលបំណងទូទៅ ដោយមិនចាំបាច់មានការណែនាំពីមនុស្ស។

គោលការណ៍នេះចែងថា ប្រសិនបើគំរូ AI ឈានដល់កម្រិតនៃហានិភ័យនេះ OpenAI នឹង “បញ្ឈប់ការអភិវឌ្ឍន៍បន្ថែមទៀត” រហូតដល់ “យើងបានបង្កើតស្តង់ដារការពារ និងការត្រួតពិនិត្យសុវត្ថិភាពដែលបំពេញតាមស្តង់ដារសំខាន់” ។

ក្របខ័ណ្ឌការត្រៀមរៀបចំគឺជាការប្តេជ្ញាចិត្តដោយស្ម័គ្រចិត្តដោយ OpenAI និងមិនមែនជាតម្រូវការផ្លូវច្បាប់ទេ។ ប៉ុន្តែក្រុមហ៊ុនកំពុងបង្ហោះឯកសារនៅលើគេហទំព័ររបស់ខ្លួនជាផ្នែកមួយដើម្បីអនុញ្ញាតឱ្យអ្នកស្រាវជ្រាវសន្តិសុខ AI ផ្សេងទៀត និងសាធារណជនមើលឃើញនូវអ្វីដែលការគ្រប់គ្រងដែលខ្លួននិយាយថាវានឹងអនុវត្ត។ ការអនុម័តគោលនយោបាយដូចជា ក្របខ័ណ្ឌការត្រៀមរៀបចំ គឺជាកាតព្វកិច្ចសម្រាប់មន្ទីរពិសោធន៍ AI នៅតាមព្រំដែន ក្រោមច្បាប់ EU AI ដោយផ្នែកនៃច្បាប់នេះចូលជាធរមាននៅខែសីហា ឆ្នាំ 2025 ។

Nathan Calvin អនុប្រធានកិច្ចការរដ្ឋាភិបាល និងជាទីប្រឹក្សាទូទៅនៅ Encode ដែលជាក្រុមគិតគូរគោលនយោបាយ AI ដែលមានមូលដ្ឋាននៅរដ្ឋកាលីហ្វ័រញ៉ាបាននិយាយថា “ក្របខ័ណ្ឌត្រៀមខ្លួនរបស់ OpenAI កំណត់សមត្ថភាពសន្តិសុខតាមអ៊ីនធឺណិតដ៏សំខាន់ និងកំណត់ការការពារដែលត្រូវតែអនុវត្តមុនពេលការអភិវឌ្ឍន៍អាចដំណើរការបាន” ។ ទ្រព្យសកម្ម. “តាមការអានរបស់ខ្ញុំអំពីក្របខណ្ឌការត្រៀមលក្ខណៈរបស់ OpenAI វាមើលទៅអាក្រក់ណាស់ដែលគំរូដែលបានដាក់ពង្រាយខាងក្នុងនេះត្រូវនឹងលក្ខណៈវិនិច្ឆ័យសំខាន់ៗសម្រាប់សុវត្ថិភាពតាមអ៊ីនធឺណិត។ តើ OpenAI ជំទាស់នឹងការវាយតម្លៃដ៏សំខាន់នេះទេ? តើពួកគេរៀបចំផែនការការពារដែលបំពេញតាមស្តង់ដារសំខាន់មួយមុនពេលឆ្ពោះទៅមុខដែរឬទេ?”

Tyler Johnson ស្ថាបនិកនៃក្រុមត្រួតពិនិត្យ AI Midas Project ក៏បាននិយាយផងដែរថា វាហាក់ដូចជាម៉ូដែលបានឈានដល់កម្រិតគ្រោះថ្នាក់ខ្ពស់បំផុតនោះ។ គាត់បាននិយាយថា “ខ្ញុំគិតថាការអានត្រង់នឹងនិយាយថាបាទ” ។ “វាដំណើរការដោយឯករាជ្យសម្រាប់ចុងសប្តាហ៍ ដោយព្យាយាមប្រើវ៉ិចទ័រវាយប្រហារផ្សេងៗគ្នានៅលើ Hugging Face និងដាក់ច្រវាក់ការកេងប្រវ័ញ្ចគ្មានថ្ងៃច្រើនជាមួយគ្នា។”

OpenAI មិនបានឆ្លើយតបទៅនឹងសំណួរជាក់លាក់ពី ទ្រព្យសកម្ម ថាតើគំរូ AI ពាក់ព័ន្ធនឹងឧប្បត្តិហេតុបានបំពេញតាមស្តង់ដារ “សំខាន់” ដែលមានចែងក្នុងគោលនយោបាយហានិភ័យ។ ផ្ទុយទៅវិញ អ្នកនាំពាក្យម្នាក់បាននិយាយថា “នេះគឺជាឧបទ្ទវហេតុដែលមិនធ្លាប់មានពីមុនមក ហើយយើងជឿថាវាតំណាងឱ្យពេលវេលាដ៏សំខាន់មួយសម្រាប់សន្តិសុខ AI ។ យើងកំពុងធ្វើការពិនិត្យយ៉ាងម៉ត់ចត់ រួមជាមួយនឹងទីប្រឹក្សាខាងក្រៅ និងស្ថិតក្រោមការត្រួតពិនិត្យរបស់គណៈកម្មាធិការសន្តិសុខរបស់យើង។ នៅពេលដែលការត្រួតពិនិត្យបានបញ្ចប់ យើងនឹងបោះពុម្ពរបាយការណ៍បច្ចេកទេសស្តីពីការរកឃើញរបស់យើងសម្រាប់អ្នករាល់គ្នា”។

ទោះជាយ៉ាងណាក៏ដោយ ភាពមិនច្បាស់លាស់នៃពាក្យរបស់ក្របខ័ណ្ឌអាចទុកកន្លែងសម្រាប់ជម្លោះ នេះបើយោងតាមលោក Johnson ។ កម្រិតចាប់ផ្ដើមតម្រូវឱ្យប្រើគំរូដើម្បីស្វែងរកការកេងប្រវ័ញ្ចគ្មានថ្ងៃនៃ “ភាពធ្ងន់ធ្ងរទាំងអស់”។ ទោះបីជាយ៉ាងណាក៏ដោយ វាមិនច្បាស់ទេថា តើការកេងប្រវ័ញ្ចដែលប្រើនៅក្នុងការរំលោភលើមុខ Hugging នឹងបំពេញតាមតម្រូវការនេះទេ។ លោកបានបន្ថែមថា វាអាចទៅរួចដែលថាភាពងាយរងគ្រោះថ្នាក់ធ្ងន់ធ្ងរជាងនេះ ដូចជាមួយដែលផ្តល់ឱ្យអ្នកវាយប្រហារនូវការគ្រប់គ្រងកម្រិតប្រព័ន្ធយ៉ាងទូលំទូលាយលើប្រព័ន្ធប្រតិបត្តិការរបស់កុំព្យូទ័រ (ដែលគេស្គាល់ថាជា “កម្រិតខឺណែល” ការចូលប្រើ) នឹងត្រូវបញ្ជាក់ឱ្យឃើញសម្រាប់កម្រិតដែលត្រូវអនុវត្ត។

លោក Peter Wildeford ប្រធានគោលនយោបាយនៅបណ្តាញគោលនយោបាយ AI បាននិយាយថា “គំរូរបស់ OpenAI បានធ្វើឱ្យអ្នកបង្កើតរបស់ខ្លួនមានភាពវៃឆ្លាត ទាញយកភាពងាយរងគ្រោះដែលមិនធ្លាប់មានពីមុនមកនៅក្នុងកូដរបស់ OpenAI បានភៀសខ្លួនទៅអ៊ីនធឺណិតបើកចំហ និងវាយប្រហារក្រុមហ៊ុនមួយផ្សេងទៀត” ។ “ប្រសិនបើវាមិនឆ្លងផុតកម្រិតសំខាន់ទេនោះ OpenAI ចាំបាច់ត្រូវនិយាយឱ្យបានច្រើនអំពីអ្វីដែលកំពុងកើតឡើង និងរបៀបដែលកម្រិតនោះដំណើរការ។”

អ្នកជំនាញសន្តិសុខ AI និយាយថា OpenAI ខ្វះការការពារផ្សេងទៀត។

OpenAI បាននិយាយពីមុនថាខ្លួនចាត់ទុកម៉ូដែលចុងក្រោយរបស់ខ្លួន GPT-5.6 ថាជាហានិភ័យសុវត្ថិភាពអ៊ីនធឺណិត “ខ្ពស់” ។ “ខ្ពស់” គឺជាកម្រិតទាបនៃកម្រិតហានិភ័យពីរដែលបានពិពណ៌នានៅក្នុងក្របខ័ណ្ឌនៃការរៀបចំ។ ម៉ូដែលដែលស្ថិតនៅក្រោមកម្រិត “ខ្ពស់” អាចត្រូវបានចេញផ្សាយដោយគ្មានការកាត់បន្ថយហានិភ័យគួរឱ្យកត់សម្គាល់។

ការវាយតម្លៃខ្ពស់គឺមានបំណងបង្កើតការការពារជាច្រើន ដោយយោងតាមគោលការណ៍របស់ OpenAI៖ ការគ្រប់គ្រងសុវត្ថិភាពកាន់តែតឹងរ៉ឹង ការការពារដើម្បីការពារការប្រើខុសនៅខាងក្រៅនៅពេលដែលគំរូនេះត្រូវបានចេញផ្សាយជាសាធារណៈ ការការពារប្រឆាំងនឹងអាកប្បកិរិយាដែលមិនអាចទាយទុកជាមុនបាន ឬបំភាន់នៃគំរូខ្លួនឯង នៅពេលដែលវាត្រូវបានប្រើយ៉ាងខ្លាំងក្លាសម្រាប់ការស្រាវជ្រាវផ្ទៃក្នុង និងការខិតខំប្រឹងប្រែងដើម្បីជួយក្រុមសន្តិសុខតាមអ៊ីនធឺណិតផ្សេងទៀតការពារប្រឆាំងនឹងការគំរាមកំហែងស្រដៀងគ្នា។

ទោះជាយ៉ាងណាក៏ដោយ អ្នកជំនាញខ្លះសង្ស័យថា ការការពារមិនត្រឹមត្រូវទាំងនេះ ត្រូវបានអនុវត្តយ៉ាងត្រឹមត្រូវនៅក្នុងការដាក់ពង្រាយផ្ទៃក្នុងទ្រង់ទ្រាយធំ។ ការការពារទាំងនេះមានគោលបំណងចាប់យកគំរូដែលធ្វើសកម្មភាពក្លែងបន្លំ លាក់សមត្ថភាពពិតរបស់វា ឬដំណើរការផ្ទុយពីចេតនារបស់អ្នកអភិវឌ្ឍន៍របស់វា។

នេះមិនមែនជាលើកទីមួយទេដែលការអនុលោមរបស់ OpenAI ជាមួយនឹងវិធានការការពារពិសេសនេះត្រូវបានចោទសួរ។

ទ្រព្យសកម្ម បានរាយការណ៍កាលពីខែកុម្ភៈថា អ្នកជំនាញផ្នែកសន្តិសុខបានអះអាងថា OpenAI បានបរាជ័យក្នុងការអនុវត្តការការពារចាំបាច់ប្រឆាំងនឹងការមិនត្រឹមត្រូវ បន្ទាប់ពីគំរូ GPT 5.3 Codex របស់ខ្លួនបានក្លាយជាមនុស្សដំបូងគេដែលបង្ហាញពីហានិភ័យសុវត្ថិភាពតាមអ៊ីនធឺណិត “ខ្ពស់” ក្រោមក្របខ័ណ្ឌការត្រៀមរៀបចំ។

នៅពេលនោះ OpenAI បានបដិសេធថាក្របខ័ណ្ឌរបស់ខ្លួនទាមទារវិធានការសុវត្ថិភាពក្នុងករណីនេះ ដោយលើកហេតុផលថាការការពារបន្ថែមត្រូវបានអនុវត្តតែនៅពេលដែលហានិភ័យលើអ៊ីនធឺណិតខ្ពស់កើតឡើង “ដោយភ្ជាប់ជាមួយ” ស្វ័យភាពរយៈចម្ងាយឆ្ងាយ – សមត្ថភាពក្នុងការធ្វើប្រតិបត្តិការដោយឯករាជ្យក្នុងរយៈពេលវែង – អ្វីមួយដែលវាបាននិយាយថា GPT 5.3 codex មិនបានបង្ហាញ។

ម៉ូដែលដែលពាក់ព័ន្ធនឹងឧប្បត្តិហេតុ Hugging Face បច្ចុប្បន្នត្រូវបានរាយការណ៍ថាធ្វើការដោយឯករាជ្យអស់រយៈពេលជាច្រើនថ្ងៃ ដែលហាក់ដូចជាបំពេញតាមស្តង់ដារនេះសម្រាប់ស្វ័យភាពរយៈពេលវែង។

“នៅក្នុងខែកុម្ភៈ យើងបានព្រមានថា OpenAI ប្រហែលជាបានរំលងការការពារដែលទាមទារដោយគោលការណ៍របស់ខ្លួន។ ពួកគេមិនយល់ស្របដោយអះអាងថាម៉ូដែលនេះខ្វះស្វ័យភាពទូលំទូលាយ។ ប៉ុន្តែម៉ូដែលដែល Hugging Face ត្រូវបានគេលួចចូលយ៉ាងច្បាស់មានស្វ័យភាពទូលំទូលាយ។ ដូច្នេះតើការការពារនៅឯណាឥឡូវនេះ?” Johnson បាននិយាយ។