ការស៊ើបអង្កេតដែលនាំឱ្យនាយកដ្ឋានពាណិជ្ជកម្មដាក់កម្រិតយ៉ាងតឹងរ៉ឹងលើការប្រើប្រាស់គំរូ AI ថ្មីរបស់ Anthropic មិនត្រូវបានរចនាឡើងសម្រាប់គោលបំណងដែលមិនអាចប្រកែកបាន នេះបើយោងតាមនាយកប្រតិបត្តិសន្តិសុខអ៊ីនធឺណិតដែលបានឃើញលទ្ធផល។
កាលពីល្ងាចថ្ងៃសុក្រ នាយកដ្ឋានបានប្រើប្រាស់ការត្រួតពិនិត្យការនាំចេញសន្តិសុខជាតិ ដើម្បីហាមឃាត់ក្រុមហ៊ុនពីការចែកចាយ Fable 5 និង Mythos 5 ។
គោលការណ៍នេះអនុវត្តចំពោះបុគ្គលដែលនៅក្រៅសហរដ្ឋអាមេរិក និងជនបរទេសនៅក្នុងសហរដ្ឋអាមេរិក រួមទាំងបុគ្គលិកដែលមិនមែនជាពលរដ្ឋផ្ទាល់ខ្លួនរបស់ Anthropic ។ ដោយសារតែវិសាលភាពនៃគោលការណ៍នេះ Anthropic គ្មានជម្រើសអ្វីក្រៅពីបិទម៉ូដែលសម្រាប់អ្នកប្រើប្រាស់ទាំងអស់។
ក្រុមហ៊ុនបាននិយាយថា វាត្រូវបានណែនាំថាការស៊ើបអង្កេតលើ “ការ jailbreak” នៃ AI របស់ Anthropic ដែលត្រូវបានរចនាឡើងដើម្បីស៊ើបអង្កេតការគេចវេសនៃវិធានការសន្តិសុខបានបង្កឱ្យមានការត្រួតពិនិត្យការនាំចេញ។
Anthropic បានសរសេរនៅក្នុងប្លុកមួយថា “យើងមិនជឿថាការរកឃើញនៃការ jailbreak សក្តានុពលមានកំណត់ គួរតែជាមូលដ្ឋានសម្រាប់ការប្រមូលមកវិញនូវគំរូពាណិជ្ជកម្មដែលមានសម្រាប់មនុស្សរាប់រយលាននាក់” ។ “ប្រសិនបើស្តង់ដារនេះត្រូវបានអនុវត្តនៅទូទាំងឧស្សាហកម្មនេះ យើងជឿថាវានឹងបញ្ឈប់ជាសំខាន់នូវការចេញលក់ម៉ូដែលថ្មីសម្រាប់អ្នកផ្តល់ម៉ូដែលព្រំដែនទាំងអស់”។
ខណៈពេលដែលក្រុមហ៊ុនបានរំលឹកឡើងវិញអំពីសមត្ថភាពរបស់រដ្ឋាភិបាលក្នុងការទប់ស្កាត់ AI ដែលមិនមានសុវត្ថិភាព វាបានអះអាងថា នេះគួរតែជាផ្នែកមួយនៃដំណើរការច្បាប់ដែលមានតម្លាភាព យុត្តិធម៌ និងផ្អែកលើការពិតបច្ចេកទេស។ “សកម្មភាពនេះមិនគោរពតាមគោលការណ៍ទាំងនេះទេ។”
Katie Moussouris នាយកប្រតិបត្តិនៃក្រុមហ៊ុនសន្តិសុខអ៊ីនធឺណិត Luta Security បាននិយាយ កាសែត Wall Street Journal ថា Anthropic បានបង្ហាញឱ្យនាងនូវច្បាប់ចម្លងនៃលទ្ធផលដែលផលិតដោយអ្នកស្រាវជ្រាវ Amazon ដោយប្រើពាក្យបញ្ជា ដើម្បីទទួលបានព័ត៌មានអំពីភាពងាយរងគ្រោះផ្នែកសុវត្ថិភាព។
“ខ្ញុំបានឃើញក្រដាស។ វាមិនមែនជាការ Jailbreak នោះទេ។ វាគឺជា Defence Oriented Prompting (DOP) ដែលជាជំនាញដែលអ្នកការពារត្រូវការ” នាងបានពន្យល់នៅក្នុងការបង្ហោះនៅលើ X កាលពីថ្ងៃសៅរ៍។
Moussouris បានបន្ថែមថា “ប្រសិនបើការការពាររបស់ Nat គឺជាគោលដៅនោះពួកគេទើបតែបានស៊ុតបាល់បញ្ចូលទីដោយខ្លួនឯងប្រឆាំងនឹងពួកយើង” ។
Amazon និងនាយកដ្ឋានពាណិជ្ជកម្មមិនបានឆ្លើយតបភ្លាមៗចំពោះសំណើសុំការអត្ថាធិប្បាយទេ។
ទន្ទឹមនឹងនេះ ការណែនាំរបស់រដ្ឋាភិបាលក្នុងការហាមប្រាមជនបរទេសនៅក្នុងសហរដ្ឋអាមេរិកពីការប្រើប្រាស់គំរូថ្មីរបស់ Anthropic បានធ្វើឱ្យមានការព្រមាន។
Ben Murphy អ្នកស្រាវជ្រាវនៅវិទ្យាស្ថានសម្រាប់ Progress think tank បានហៅវាថា “ជំហានមួយទៀតឆ្ពោះទៅរក balkanization នៃបច្ចេកវិទ្យា” ។
លោកបានបន្ថែមថា “ពីមុន វាអាចជារឿងមិននឹកស្មានដល់ក្នុងការទាមទារភស្តុតាងនៃភាពជាពលរដ្ឋដើម្បីចូលប្រើសេវាកម្ម។ នេះកាន់តែជារឿងធម្មតាជាមួយនឹងបច្ចេកវិទ្យាថ្មីៗ ហើយនិយាយឱ្យត្រង់ទៅ ការប៉ុនប៉ងនេះមិនគួរឱ្យភ្ញាក់ផ្អើលទេនៅក្នុងបរិបទនេះ” គាត់បន្ថែមនៅក្នុងការបង្ហោះនៅលើ X ។
Murphy ក៏បានសង្កត់ធ្ងន់លើភាពមិនអាចទាយទុកជាមុនបាននៃសកម្មភាពរបស់រដ្ឋបាល និងផលវិបាករបស់វាសម្រាប់អ្នកអភិវឌ្ឍន៍ AI ដោយព្រមានថាមន្ទីរពិសោធន៍អាចរក្សាម៉ូដែលជាច្រើនទៀតនៅក្នុងផ្ទះ ឬមិនធ្វើឱ្យពួកវាអាចប្រើបាន។
លោកបាននិយាយថា លើសពីនេះ មន្ទីរពិសោធន៍ប្រហែលជាមិនសូវមានទំនោរក្នុងការចូលរួមជាមួយរដ្ឋាភិបាលអំពីភាពងាយរងគ្រោះដែលអាចកើតមាននោះទេ ដោយគោលជំហររបស់ Anthropic លើតម្លាភាពលេចចេញជាប្រតិកម្មតបវិញ។
Anthropic មានជម្លោះជាមួយរដ្ឋាភិបាលរួចហើយ ដែលវាយតម្លៃនេះជាហានិភ័យនៃខ្សែសង្វាក់ផ្គត់ផ្គង់សម្រាប់អ្នកម៉ៅការមន្ទីរបញ្ចកោណ។ ទោះយ៉ាងណា ក្រុមហ៊ុនបានផ្តល់សិទ្ធិចូលប្រើដំបូងចំពោះគំរូ Mythos ដូចដែលវាបានព្រមានអំពីផលប៉ះពាល់សុវត្ថិភាពអ៊ីនធឺណិតដែលអាចកើតមាន។
Murphy បានសរសេរថា “ខ្ញុំមិនដឹងថាតើរដ្ឋាភិបាលនឹងមិនឈានដល់ការសន្និដ្ឋាននេះដោយខ្លួនឯងទេ ប៉ុន្តែតាមទស្សនៈអាជីវកម្ម សេចក្តីប្រកាសទាំងនេះមិនបាននាំឱ្យមានទំនាក់ទំនងការងារប្រកបដោយសុខភាពល្អជាមួយរដ្ឋាភិបាលទេ”។
