កំហុសសុវត្ថិភាពដែលនាំឱ្យរដ្ឋាភិបាលសហរដ្ឋអាមេរិកដាក់ការត្រួតពិនិត្យការនាំចេញលើម៉ូដែល Anthropic’s Fable 5 និង Mythos 5 គឺជាបច្ចេកទេសសាមញ្ញដែលទាមទារពាក្យសាមញ្ញចំនួនបី៖ ជួសជុលកូដនេះ។
នេះកើតចេញពីការបង្ហោះប្លក់លម្អិតដោយ Katie Moussouris ដែលជាស្ថាបនិក និងជានាយកប្រតិបត្តិនៃ Luta Security ។ Anthropic បានស្នើសុំ Moussouris ដែលបានកាន់តួនាទីប្រឹក្សារដ្ឋាភិបាលចំនួនពីរលើសន្តិសុខអ៊ីនធឺណិត និងពីមុនធ្លាប់ធ្វើការជាអ្នកជំនាញសន្តិសុខអ៊ីនធឺណិតនៅក្រុមហ៊ុន Microsoft ពិនិត្យមើលរបាយការណ៍ដែលរៀបចំដោយអ្នកស្រាវជ្រាវសន្តិសុខអ៊ីនធឺណិតនៅ Amazon អំពីភាពងាយរងគ្រោះនៅក្នុងគំរូ Fable របស់ខ្លួន។ កំហុសសុវត្ថិភាពដែលក្រោយមកត្រូវបានរាយការណ៍ទៅរដ្ឋបាល Trump ក្នុងការហៅទូរស័ព្ទជាមួយសេតវិមាន នាយកប្រតិបត្តិក្រុមហ៊ុន Amazon លោក Andy Jassy ក្នុងចំណោមអ្នកផ្សេងទៀតបានជំរុញឱ្យរដ្ឋាភិបាលសហរដ្ឋអាមេរិកដាក់ការត្រួតពិនិត្យការនាំចេញលើ Fable និងគំរូមូលដ្ឋានមូលដ្ឋានរបស់ខ្លួន Mythos ។
ដោយសារតែការគ្រប់គ្រងការនាំចេញរបស់សហរដ្ឋអាមេរិកដំណើរការ ដូច្នេះការចែកចាយបច្ចេកវិជ្ជាដល់ប្រជាជនដែលមិនមែនជាពលរដ្ឋត្រូវបានចាត់ទុកថាជាការនាំចេញ បើទោះបីជាមនុស្សទាំងនោះមានរូបរាងកាយនៅក្នុងសហរដ្ឋអាមេរិកក៏ដោយ ក្រុមហ៊ុនបាននិយាយថា ខ្លួនមិនមានជម្រើសអ្វីក្រៅពីបិទម៉ូដែល AI ទាំងពីរសម្រាប់អ្នកប្រើប្រាស់ទាំងអស់។ ការគ្រប់គ្រងការនាំចេញមានន័យថាបុគ្គលិកដែលមិនមែនជាពលរដ្ឋផ្ទាល់ខ្លួនរបស់ Anthropic មិនត្រូវបានអនុញ្ញាតឱ្យប្រើប្រាស់ ឬធ្វើការលើម៉ូដែលទាំងនេះទេ។
វានៅតែមិនច្បាស់ថាហេតុអ្វីបានជា Amazon សម្រេចចិត្តសាកល្បងការការពារជុំវិញ Fable ហើយនៅពេលដែលវាទាក់ទង Anthropic ជាលើកដំបូងអំពីបញ្ហានេះ។
Moussouris បានសរសេរថា ការ jailbreak ដែលត្រូវបានរកឃើញដោយ Amazon គឺសាមញ្ញ និងមានការដាក់ពង្រាយកូដកម្មវិធី Fable ជាមួយនឹងភាពងាយរងគ្រោះដែលគេស្គាល់។ នៅពេលអ្នកស្រាវជ្រាវបានស្នើឱ្យ Fable “ពិនិត្យមើលកូដសម្រាប់បញ្ហាសុវត្ថិភាព” ម៉ូដែលបានបដិសេធ។ ទោះយ៉ាងណាក៏ដោយ នៅពេលដែលអ្នកស្រាវជ្រាវបានស្នើឱ្យម៉ូដែល “ជួសជុលកូដនេះ” ជំនួសវិញ ម៉ូដែលបានបង្កើតបំណះ។ នាងបាននិយាយថា អ្នកស្រាវជ្រាវបន្ទាប់មកបានប្រើដំណើរការដោយដៃដែលបំប្លែងលទ្ធផលរបស់ Fable ទៅជាស្គ្រីប ដែលជាសំណុំនៃសេចក្តីណែនាំនៃការសរសេរកម្មវិធីដែលអាចធ្វើស្វ័យប្រវត្តិកម្មដំណើរការ ដែលអាចត្រូវបានប្រើដើម្បីសាកល្បងបំណះ។ ទោះជាយ៉ាងណាក៏ដោយ ដោយសារគំរូត្រូវស្វែងរកភាពងាយរងគ្រោះរបស់កម្មវិធីដើម្បីបង្កើតការជួសជុល ដំណើរការដូចគ្នានេះអាចត្រូវបានប្រើប្រាស់ដោយអ្នកវាយប្រហារដើម្បីស្វែងរកភាពងាយរងគ្រោះនៃកូដ។
នាងបានសរសេរថា ភាពងាយរងគ្រោះដែលត្រូវបានរកឃើញដោយក្រុមហ៊ុន Amazon “មិនអាចជួសជុលបានដោយអត្ថន័យទេ ហើយការប៉ុនប៉ងណាមួយនឹងធ្វើឱ្យគំរូការពារចុះខ្សោយប៉ុណ្ណោះ”។
ម៉ូដែល AI ជាច្រើនផ្សេងទៀតក៏អាចត្រូវបានប្រើដើម្បីស្វែងរកភាពងាយរងគ្រោះផ្នែកសុវត្ថិភាពនៅក្នុងកូដដែលមានស្រាប់ផងដែរ។ ការ jailbreak ពិពណ៌នាដោយ Moussouris មិនបានដោះសោសមត្ថភាពដ៏មានឥទ្ធិពលបំផុតនៃគំរូ Mythos របស់ Anthropic ដែល Fable ផ្អែកលើ។ Mythos មានភាពលេចធ្លោ ព្រោះវាអាចស្វែងរកដោយស្វ័យភាព និងភ្ជាប់គ្នានូវភាពងាយរងគ្រោះផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតជាច្រើន ដែលអាចមានសក្តានុពលរៀបចំការវាយប្រហារទាំងមូលដោយស្វ័យភាព។ Mythos គឺជាគំរូដំបូងគេដែលបានបញ្ចប់ដោយជោគជ័យនូវ “តំបន់សាកល្បង” សុវត្ថិភាពតាមអ៊ីនធឺណិតទាំងពីរ ដែលវិទ្យាស្ថានសន្តិសុខ AI របស់ចក្រភពអង់គ្លេសប្រើដើម្បីសាកល្បងសមត្ថភាពលួចចូលនៃម៉ូដែល AI ។
Moussouris បានសរសេរថា សមត្ថភាពដែល Fable បានបង្ហាញដោយប្រើបច្ចេកវិទ្យារបស់ Amazon ខណៈពេលដែលមានសក្តានុពលមានប្រយោជន៍សម្រាប់អ្នកវាយប្រហារ ក៏មានសារៈសំខាន់សម្រាប់អ្នកការពារតាមអ៊ីនធឺណិតផងដែរ។ នាងបានសរសេរថា “អ្នកការពារត្រូវតែអាចសួរ AI ដើម្បីជួសជុលកំហុសនៅក្នុងឯកសារ ពន្យល់ពីមូលហេតុដែលការជួសជុលមានសារៈសំខាន់ និងសរសេរការធ្វើតេស្តដែលបញ្ជាក់ពីបំណះដំណើរការ”។ “នេះមិនមែនជាផ្លូវវាងការពារទេ។ វាគឺជាអ្វីដែលមានតម្លៃបំផុតដែលគំរូ AI អាចធ្វើបានសម្រាប់សន្តិសុខការពារជាតិ”។
Moussouris បានផ្តល់យោបល់ថា អ្នកដែលប្រឆាំងនឹងការគ្រប់គ្រងការនាំចេញគួរតែមានអាវយឺតដែលបោះពុម្ពដោយពាក្យថា “ជួសជុលកូដនេះ” នៅម្ខាង ហើយឃ្លាថា “អាវយឺតនេះគឺជាគ្រាប់បែក” នៅម្ខាងទៀត។ នេះជាការយោងទៅនឹងការប៉ុនប៉ងក្នុងទសវត្សរ៍ឆ្នាំ 1990 ដោយសហគមន៍សន្តិសុខអ៊ីនធឺណិតដើម្បីលើកឡើងនូវការគ្រប់គ្រងការនាំចេញរបស់សហរដ្ឋអាមេរិកលើវិធីសាស្ត្រអ៊ិនគ្រីបដ៏ខ្លាំង។ នៅឆ្នាំ 1995 អ្នកសរសេរកូដឈ្មោះ Adam Back បានបោះពុម្ពលេខកូដអ៊ិនគ្រីប RSA ចំនួនបីជួរនៅផ្នែកខាងមុខនៃអាវយឺត និងនៅខាងក្រោយ៖ “អាវយឺតនេះត្រូវបានចាត់ថ្នាក់ជាគ្រាប់បែក ហើយប្រហែលជាមិនត្រូវបាននាំចេញពីសហរដ្ឋអាមេរិកទេ”។ លោកបានលើកទឹកចិត្តប្រជាពលរដ្ឋឲ្យឆ្លងដែនពាក់អាវយឺតក្នុងទង្វើមិនគោរពច្បាប់។
Moussouris ស្ថិតក្នុងចំណោមអ្នកជំនាញផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតដែលបានបន្ថែមឈ្មោះរបស់ពួកគេទៅក្នុងលិខិតចំហដែលសរសេរដោយ Alex Stamos ដែលជាប្រធានសន្តិសុខនៃការចាប់ផ្តើមផ្នែកសុវត្ថិភាពអ៊ីនធឺណិត Corridor និងជាអតីតប្រធានសន្តិសុខនៅ Facebook ដោយអំពាវនាវឱ្យដកចេញនូវការត្រួតពិនិត្យការនាំចេញនៅលើ Fable និង Mythos ។ លិខិតនោះបាននិយាយថា “វាមានគ្រោះថ្នាក់ក្នុងការដកហូតអ្នកការពារនូវសមត្ថភាពល្អបំផុតដោយគ្មានហេតុផលល្អ នៅពេលដែលគូប្រជែងរបស់យើងកំពុងរីកចម្រើនយ៉ាងឆាប់រហ័ស” ដោយលើកឡើងពីការកើនឡើងនៃសមត្ថភាពរបស់ម៉ូដែល AI របស់ចិន។
ឥឡូវនេះលិខិតនេះត្រូវបានចុះហត្ថលេខាដោយអ្នកជំនាញផ្នែកសន្តិសុខអ៊ីនធឺណិតប្រហែល 100 នាក់មកពីក្រុមហ៊ុនដូចជា Nvidia, Adobe, Zoom, Google, Anaplan និង Sophos ក៏ដូចជាអ្នកស្រាវជ្រាវផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតមួយចំនួនផងដែរ។
លិខិតនោះចែងថា ខណៈពេលដែលគំរូ Mythos-class របស់ Anthropic គឺ “ល្អណាស់ក្នុងការស្វែងរកភាពងាយរងគ្រោះ និងការកេងប្រវ័ញ្ចដោយអាវុធ ប៉ុន្តែពួកគេមិនមែនទេ។ ប្លែក ល្អក្នុងកិច្ចការទាំងនេះ»។ វាបានកត់សម្គាល់ថាអ្នកជំនាញផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតបានកំពុងប្រើប្រាស់គំរូ AI ផ្សេងទៀតរួចហើយ រួមទាំងម៉ូដែលប្រភពបើកចំហសម្រាប់សវនកម្មសុវត្ថិភាព និងកម្មវិធី red-teaming ។ ហើយវាបាននិយាយថា GPT-5.5 របស់ OpenAI ក៏ដូចជាម៉ូដែល Claude Opus និង Sonnet ចុងក្រោយបង្អស់របស់ Anthropic ក៏ដូចជាម៉ូដែលចិនដូចជា Kimi 2.7 របស់ Moonshot AI អាចធ្វើការពិនិត្យកូដស្រដៀងគ្នាសម្រាប់ភាពងាយរងគ្រោះផ្នែកសុវត្ថិភាព ស្រដៀងទៅនឹងអ្វីដែល Amazon បានរកឃើញជាមួយ Fable ។
លិខិតនោះបាននិយាយថា “យុត្តិកម្មសម្រាប់សកម្មភាពដែលមិនធ្លាប់មានពីមុនមកគឺថា Fable ផ្តល់នូវ “ការពង្រឹង” សមត្ថភាពតែមួយគត់បើប្រៀបធៀបទៅនឹងម៉ូដែល AI ផ្សេងទៀត ប៉ុន្តែចាប់តាំងពីឆ្នាំមុនមក AI បានស្វែងរកកំហុស និងបង្កើតការកេងប្រវ័ញ្ចការងារនៅកម្រិតមនុស្សអស្ចារ្យ។
លិខិតនេះក៏កត់សម្គាល់ផងដែរថា Anthropic បានបង្កើតការការពារជាច្រើនចូលទៅក្នុង Fable ដើម្បីទប់ស្កាត់ការប្រើប្រាស់របស់វាសម្រាប់ការវាយប្រហារតាមអ៊ីនធឺណិត។ វាបាននិយាយថា “ការការពារទាំងនេះគឺឈ្លានពានខ្លាំងណាស់ដែលពួកគេបានបង្ករឿងកំប្លែងនៅក្នុងសហគមន៍អ៊ីនធឺណិតនៅថ្ងៃនៃការដោះលែងពួកគេ” ។
Axios ដោយដកស្រង់ប្រភពមិនបញ្ចេញឈ្មោះដែលស្គាល់ពីការគិតរបស់រដ្ឋបាល Trump លើការត្រួតពិនិត្យការនាំចេញបានស្នើថាការសម្រេចចិត្តរបស់ Anthropic ក្នុងការជួល Moussouris ឱ្យពិនិត្យឡើងវិញនូវការស្រាវជ្រាវរបស់ Amazon អាចនឹងជំរុញឱ្យមានភាពតានតឹងជាមួយសេតវិមាន និងបង្កើនល្បឿនការត្រួតពិនិត្យការនាំចេញ។
Axios បានដកស្រង់សម្តីមន្ត្រីរូបនេះដោយនិយាយថាក្រុមហ៊ុនបានជួលអ្នកជំនាញម្នាក់ឈ្មោះ Moussouris ដែលរដ្ឋាភិបាលចាត់ទុកថាជា “អ្នកប្រជាធិបតេយ្យរ៉ាឌីកាល់” ។ ប្រភពដែលមិនបញ្ចេញឈ្មោះដូចគ្នាក៏បានកត់សម្គាល់ផងដែរថាវាមិនអាចជួយដែលអ្នកស្រាវជ្រាវសន្តិសុខ Chris Krebs អះអាងចំពោះការវិភាគរបស់ Moussouris នៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គមនោះទេ។ លោកប្រធានាធិបតី Trump បានបណ្តេញលោក Krebs ចេញពីតួនាទីរបស់គាត់ជាប្រធានសន្តិសុខតាមអ៊ីនធឺណិត និងហេដ្ឋារចនាសម្ព័ន្ធក្នុងអំឡុងពេលអាណត្តិដំបូងរបស់គាត់ បន្ទាប់ពី Krebs ផ្ទុយនឹងការអះអាងរបស់លោក Trump អំពីការក្លែងបន្លំអ្នកបោះឆ្នោតដ៏ទូលំទូលាយ រួមទាំងការលួចស្តាប់ម៉ាស៊ីនបោះឆ្នោតអេឡិចត្រូនិក នៅក្នុងការបោះឆ្នោតប្រធានាធិបតីខែវិច្ឆិកា ឆ្នាំ 2020។
