Anthropic ដែលជាក្រុមហ៊ុនបញ្ញាសិប្បនិមិត្តឈានមុខគេបានដកម៉ូដែល AI ចុងក្រោយបំផុតរបស់ខ្លួន Fable 5 និង Mythos 5 ចេញពីការចូលប្រើជាសាធារណៈ។
Anthropic បាននិយាយកាលពីថ្ងៃសុក្រថាវាត្រូវបានបង្ខំឱ្យ “បិទភ្លាមៗ” គំរូ AI កម្រិតខ្ពស់បំផុតរបស់ខ្លួនសម្រាប់អ្នកប្រើប្រាស់ទាំងអស់ បន្ទាប់ពីរដ្ឋាភិបាលសហរដ្ឋអាមេរិកបានចេញសេចក្តីណែនាំស្តីពីការគ្រប់គ្រងការនាំចេញដោយលើកឡើងពីកង្វល់សន្តិសុខជាតិ។
ក្រុមហ៊ុនបាននិយាយថាខ្លួនបានទទួលការបញ្ជាទិញដោយគ្មានព័ត៌មានជាក់លាក់អំពីហានិភ័យសន្តិសុខជាតិ។ ទោះជាយ៉ាងណាក៏ដោយ Anthropic យល់ថារដ្ឋាភិបាលជឿថាមានវិធីសាស្រ្តមួយដើម្បីចៀសវាង ឬ “jailbreak” វិធានការសុវត្ថិភាពដែលត្រូវបានរចនាឡើងដើម្បីការពារ Fable 5 ពីការប្រើប្រាស់ដើម្បីកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះរបស់កម្មវិធី។
ការបញ្ជាទិញនេះកើតឡើងខណៈដែលជម្លោះមុននេះរវាងមន្ត្រីរដ្ឋបាល Trump និង IPO-bound Anthropic បានបង្ហាញសញ្ញានៃការបន្ធូរបន្ថយនៅក្នុងផ្នែកខ្លះនៃរដ្ឋាភិបាលសហរដ្ឋអាមេរិក។
ទំនាក់ទំនងរបស់ Anthropic ជាមួយរដ្ឋាភិបាលមានភាពតានតឹងនៅឆ្នាំនេះ បន្ទាប់ពីក្រុមហ៊ុនបានរារាំងយោធាអាមេរិកពីការប្រើប្រាស់គំរូ AI របស់ខ្លួនសម្រាប់ការឃ្លាំមើលក្នុងស្រុក និងប្រព័ន្ធអាវុធស្វយ័តពេញលេញ។ ជាការឆ្លើយតប រដ្ឋាភិបាលបានដាក់ Anthropic ទៅក្នុងបញ្ជីខ្មៅនៃខ្សែសង្វាក់ផ្គត់ផ្គង់ ដែលគ្រោងនឹងចូលជាធរមាននៅចុងឆ្នាំនេះ។
សកម្មភាពនេះក៏តំណាងឱ្យការកើនឡើងគួរឱ្យកត់សម្គាល់នៅក្នុងកិច្ចខិតខំប្រឹងប្រែងរបស់សហរដ្ឋអាមេរិកក្នុងការផ្ទុកសមត្ថភាព AI របស់សត្រូវបរទេស។ អស់រយៈពេលជាច្រើនឆ្នាំ ការត្រួតពិនិត្យការនាំចេញរបស់សហរដ្ឋអាមេរិកបានផ្តោតជាចម្បងលើបន្ទះឈីប និងឧបករណ៍ដែលផ្តល់ថាមពលដល់ AI ជាជាងការរឹតបន្តឹងការចូលប្រើប្រាស់ពីបរទេសដោយផ្ទាល់ទៅកាន់ AI ខ្លួនឯង។
Anthropic បានសម្តែងការមិនពេញចិត្តចំពោះគោលជំហររបស់រដ្ឋាភិបាល ដោយនិយាយថាវាត្រូវបានបង្ហាញតែជាមួយ “ភស្តុតាងផ្ទាល់មាត់នៃការកាត់ទោសដែលមានលក្ខណៈតូចចង្អៀត ដែលមិនមានលក្ខណៈសកល”។ ក្រុមហ៊ុនបានបន្ថែមថា “យើងមិនជឿថាការរកឃើញនៃការ jailbreak ដ៏មានសក្តានុពលទាបគួរតែជាហេតុផលសម្រាប់ការប្រមូលមកវិញនូវគំរូពាណិជ្ជកម្មដែលមានសម្រាប់មនុស្សរាប់រយលាននាក់” ។
ការណែនាំរបស់រដ្ឋាភិបាល និងការឆ្លើយតបរបស់ Anthropic គូសបញ្ជាក់ភាពតានតឹងដែលកំពុងកើនឡើងរវាងអ្នកអភិវឌ្ឍន៍ AI និងនិយតករជុំវិញការវាយតម្លៃហានិភ័យដែលបង្កឡើងដោយ “Jailbreaks” ដែលជាវិធីសាស្រ្តនៃការរំលងវិធានការសុវត្ថិភាពគំរូ។ គួរឱ្យអស់សំណើចណាស់ នៅថ្ងៃពុធនេះ Anthropic បានតស៊ូមតិសម្រាប់ការត្រួតពិនិត្យកាន់តែខ្លាំងរបស់សហរដ្ឋអាមេរិកលើ AI រួមទាំងអំណាចក្នុងការទប់ស្កាត់ម៉ូដែលដែលមានហានិភ័យដែលមិនអាចទទួលយកបាន។ ទោះបីជាយ៉ាងណាក៏ដោយ វាត្រូវបានគេអះអាងថា សកម្មភាពរបស់រដ្ឋាភិបាលកាលពីថ្ងៃសុក្រ មិនបានអនុវត្តតាមគោលការណ៍នៃបទប្បញ្ញត្តិដោយយុត្តិធម៌ និងផ្អែកលើភស្តុតាងនោះទេ។
លោក Kirsten Davies ប្រធានផ្នែកព័ត៌មានរបស់មន្ទីរបញ្ចកោណ បាននិយាយនៅក្នុងការបង្ហោះមួយ។
កាលពីដើមសប្តាហ៍នេះ Anthropic បានបើកដំណើរការ Claude Fable 5 ដែលជាគំរូ AI ដែលតំណាងឱ្យសមត្ថភាព “Myth Class” ថ្មី។ ម៉ូដែលនេះមានផ្លូវការពារដែលហាមឃាត់ការប្រើប្រាស់របស់វានៅក្នុងតំបន់ដែលមានហានិភ័យដូចជាសុវត្ថិភាពតាមអ៊ីនធឺណិត។ ទោះជាយ៉ាងណាក៏ដោយ អ្នកប្រើប្រាស់មួយចំនួនបានត្អូញត្អែរថា ទាំងនេះគឺ “ទូលំទូលាយពេក” នេះបើយោងតាម Anthropic ។
អ្នកជំនាញបានព្រមានថា ម៉ូដែល Mythos ប្រសិនបើប្រើប្រាស់ខុស អាចបង្កើនល្បឿនការវាយប្រហារតាមអ៊ីនធឺណិតយ៉ាងស្មុគ្រស្មាញ ជាពិសេសនៅក្នុងវិស័យដូចជាធនាគារ ដែលពឹងផ្អែកលើប្រព័ន្ធបច្ចេកវិទ្យាស្មុគស្មាញ ទំនាក់ទំនងគ្នាទៅវិញទៅមក និងជាញឹកញាប់មានអាយុកាលរាប់ទសវត្សរ៍។
Anthropic បានអះអាងថាបានធ្វើការជាមួយរដ្ឋាភិបាលសហរដ្ឋអាមេរិក និងអ្នកផ្សេងទៀតលើវិធានការសន្តិសុខមុនពេលចាប់ផ្តើមរបស់ Fable ហើយបានកត់សម្គាល់ថាម៉ូដែលពីអ្នកផ្តល់សេវា AI ដែលជាគូប្រជែងមានសមត្ថភាពស្រដៀងគ្នាក្នុងការរកឃើញកំហុសតូចៗនៅក្នុងកូដ។
Anthropic បានពន្យល់ថា “ឥទ្ធិពលសុទ្ធនៃការបញ្ជាទិញនេះគឺថា យើងត្រូវបិទ Fable 5 និង Mythos 5 ភ្លាមៗសម្រាប់អតិថិជនរបស់យើងទាំងអស់ ដើម្បីធានាបាននូវការអនុលោមភាព។ ការចូលទៅកាន់ម៉ូដែល Anthropic ផ្សេងទៀតទាំងអស់នឹងមិនរងផលប៉ះពាល់ទេ” Anthropic ពន្យល់។
ក្រុមហ៊ុនសន្មតថាជា “ការយល់ច្រឡំ” ហើយកំពុងធ្វើការយ៉ាងសកម្មដើម្បីស្ដារការចូលប្រើម៉ូដែលនេះឱ្យបានលឿនតាមដែលអាចធ្វើទៅបាន។
Anthropic បានព្រមានថា “ប្រសិនបើស្តង់ដារនេះត្រូវបានអនុវត្តនៅទូទាំងឧស្សាហកម្មនេះ យើងជឿថាវានឹងបញ្ឈប់ការដាក់ពង្រាយគំរូថ្មីទាំងអស់សម្រាប់អ្នកផ្តល់គំរូ Frontier ទាំងអស់” ។
ផ្នែកពពករបស់ Amazon AWS បានបញ្ជាក់កាលពីល្ងាចថ្ងៃសុក្រថា Anthropic បានស្នើសុំឱ្យលុបចោលការចូលប្រើម៉ូដែលពី “អ្នកប្រើប្រាស់ទាំងអស់នៅគ្រប់តំបន់ទាំងអស់” ។ មន្ត្រីអាមេរិកម្នាក់បានបញ្ជាក់ថា ក្រសួងពាណិជ្ជកម្មបានចេញគោលនយោបាយត្រួតពិនិត្យការនាំចេញ ដើម្បីទប់ស្កាត់រាល់ការចូលប្រើ Fable 5 និង Mythos 5 ដោយជនបរទេស។
លោក Dean Ball ដែលជាអតីតមន្ត្រីសេតវិមានដែលបានចូលរួមចំណែកក្នុងផែនការសកម្មភាព AI ដែលចេញក្នុងរដូវក្តៅឆ្នាំ 2025 បានថ្លឹងថ្លែង។
លោក Ball បានអធិប្បាយថា “នេះមានន័យថា អ្នកគួរតែរំពឹងថានឹងត្រូវបញ្ជាក់ពីសញ្ជាតិរបស់អ្នក ដើម្បីប្រើគំរូអនាធិបតេយ្យ”។
បុគ្គលិក Anthropic សំខាន់ៗជាច្រើននាក់ រួមទាំងសហស្ថាបនិក Chris Olah អ្នកស្រាវជ្រាវ AI លោក Andrej Karpathy និងទស្សនវិទូ Amanda Askell បានកើតនៅខាងក្រៅសហរដ្ឋអាមេរិក។
រ៉យទ័រ មិនអាចកំណត់ស្ថានភាពសញ្ជាតិរបស់ពួកគេបានទេ ហើយអ្នកនាំពាក្យរបស់ Anthropic បានបដិសេធមិនធ្វើអត្ថាធិប្បាយថាតើបុគ្គលិកទាំងនោះនឹងបាត់បង់សិទ្ធិប្រើប្រាស់គំរូ AI ដែរឬទេ។
