ម៉ូដែលរបស់ OpenAI បានក្លាយជាអ្នកក្លែងបន្លំ និងត្រូវបានគេលួចចូល Hugging Face។ អាកប្បកិរិយា​គួរ​ឲ្យ​បារម្ភ​ជាង​នេះ​អាច​នឹង​កើត​មាន​បន្ទាប់

ឧបទ្ទវហេតុ​នេះ​បាន​បង្ក​ឱ្យ​មាន​រលក​នៃ​ការ​ព្រួយ​បារម្ភ​ទូទាំង​ពិភព​លោក AI ។ មនុស្សជាច្រើនព្រួយបារម្ភអំពីប្រព័ន្ធ AI ក្នុងការស្វែងរកដោយឯករាជ្យ និងទាញយកភាពងាយរងគ្រោះផ្នែកសុវត្ថិភាពក្នុងពិភពពិត ហើយតើវាមានន័យយ៉ាងណាចំពោះសុវត្ថិភាព AI ប្រសិនបើសូម្បីតែក្រុមហ៊ុនទំនើបៗដូចជា OpenAI និង Hugging Face ក៏អាចត្រូវបានគេការពារផងដែរ។ ប៉ុន្តែអ្នកជំនាញនិយាយថា រឿងនេះនៅឆ្ងាយពីទម្រង់ដ៏អាក្រក់បំផុតនៃការប្រព្រឹត្តិខុសឆ្គងដែលអាចធ្វើឲ្យអ្នកស្រាវជ្រាវសន្តិសុខ AI ភ្ញាក់ខ្លួន។

សម្រាប់រឿងមួយ យោងទៅតាមការបង្ហោះប្លក់ផ្ទាល់ខ្លួនរបស់ OpenAI របាំងការពារដែលផ្អែកលើគំរូនៃបរិយាកាសសាកល្បងត្រូវបានដកចេញ ឬកាត់បន្ថយយ៉ាងច្បាស់អំឡុងពេលធ្វើតេស្ត។ គំរូ AI ពីក្រុមហ៊ុនបច្ចេកវិទ្យាឈានមុខគេជាធម្មតាផ្តល់ឱ្យសាធារណៈជននូវម៉ូដែលកម្រិតខ្ពស់ជាមួយនឹងដែនកំណត់សុវត្ថិភាពដែលបានរចនាឡើងដើម្បីការពារប្រភេទនៃអាកប្បកិរិយានេះ។ ក្នុងករណីនេះ OpenAI មានចេតនាបិទព្រំដែនទាំងនេះ ដើម្បីមើលថាតើគំរូអាចធ្វើអ្វីបានដោយគ្មានពួកគេ។

ម៉ូដែល​ទាំង​នោះ​មិន​បាន​សម្រេច​គោលដៅ​កំណត់​ដោយ​ខ្លួន​ឯង​នោះ​ទេ។ OpenAI បានបញ្ជាឱ្យពួកគេធ្វើការវាយតម្លៃសុវត្ថិភាពតាមអ៊ីនធឺណិត ដើម្បីវាយតម្លៃថាតើគំរូអាច hack បានល្អប៉ុណ្ណា។ វាគ្រាន់តែថាម៉ូដែល AI បានសម្រេចចិត្តថាវិធីងាយស្រួលបំផុតក្នុងការធ្វើបានល្អលើការវាយតម្លៃគឺការបន្លំដោយការលួចចូលទៅក្នុង Hugging Face ដែលរក្សាសំណុំទិន្នន័យនៃចម្លើយសម្រាប់ការធ្វើតេស្តជាក់លាក់នោះ។

លោក Seán Ó hÉigeartaigh សាស្ត្រាចារ្យនៅមជ្ឈមណ្ឌលសម្រាប់អនាគតនៃភាពវៃឆ្លាតនៅសាកលវិទ្យាល័យ Cambridge បាននិយាយថា គំរូទាំងនេះមិនដែលងាកចេញពីកិច្ចការរបស់ពួកគេទេ ពោលគឺការបញ្ចប់ការវាយតម្លៃតាមអ៊ីនធឺណិត ពួកគេគ្រាន់តែរកឃើញវិធីឈ្លានពាន និងមិនមានចេតនាដើម្បីសម្រេចវា។

លោក Ó hÉigeartaigh បាននិយាយថា “អ្វីដែលបានកើតឡើងនៅទីនេះគឺថា គោលដៅមួយត្រូវបានកំណត់ ហើយវាធ្វើតាមគោលដៅនោះតាមរបៀបដ៏ឆ្លាតវៃបំផុតដែលនឹកស្មានមិនដល់ ប៉ុន្តែវាមិនបានឃ្លាតឆ្ងាយពីគោលដៅជាមូលដ្ឋាននោះទេ។ ទ្រព្យសកម្ម.

អ្នកស្រាវជ្រាវហៅអាកប្បកិរិយាប្រភេទនេះថា “ការលួចយករង្វាន់” ដែលគំរូស្វែងរកវិធីដើម្បីទទួលបានពិន្ទុល្អ ឬសម្រេចបានលទ្ធផលដែលចង់បានដោយការលេងតាមរយៈការរៀបចំជាជាងការបំពេញកិច្ចការដោយស្មោះត្រង់។

យោងតាមលោក Yoshua Bengio ដែលជាអ្នកឈ្នះរង្វាន់ Turing និងជាសហស្ថាបនិកនៃអង្គការសន្តិសុខ AI មិនរកប្រាក់ចំណេញ LawZero អាកប្បកិរិយាប្រភេទនេះកំពុងក្លាយជារឿងធម្មតានៅពេលដែលម៉ូដែលមានភាពប្រសើរឡើង។

Bengio បាននិយាយថា “នៅពេលដែលម៉ូដែលកាន់តែស្វយ័តជាងមុន និងអាចបង្កើតយុទ្ធសាស្រ្តបានកាន់តែល្អ ពួកគេច្រើនតែរំលង ឬបំពានច្បាប់ដែលបានផ្តល់ឱ្យពួកគេដោយអ្នកប្រើប្រាស់យ៉ាងច្បាស់” ។ ទ្រព្យសកម្ម នៅក្នុងបទសម្ភាសន៍នាពេលថ្មីៗនេះ លោកបានកត់សម្គាល់ថា ម៉ូដែល Frontier ថ្មីជាងនេះ “មានអត្រាមិនត្រឹមត្រូវខ្ពស់ជាងម៉ូដែលមុនឆ្ងាយ ដោយមានទំនោរកើនឡើងក្នុងការបោកប្រាស់ កុហក និងគម្រោងដើម្បីសម្រេចបាននូវគោលដៅ”។

លោកបានបន្ថែមថា ការលួចយករង្វាន់ គឺជារោគសញ្ញានៃនិន្នាការនេះ ដោយលោកបានបន្ថែមថា ម៉ូដែលជាច្រើនតែងតែ “ដើរតាមផ្លូវនៃការតស៊ូតិចបំផុត ទោះបីជាមានច្បាប់ផ្តល់ឱ្យពួកគេក៏ដោយ” ដូចជាការប្រឌិតលទ្ធផលស្រាវជ្រាវ ឬការប្រើប្រាស់ទិន្នន័យរសើបខុស នៅពេលដែលវាជាផ្លូវងាយស្រួលជាង បន្ទាប់មកនិយាយកុហក ឬបិទបាំងផ្លូវរបស់ពួកគេ។

ឧទាហរណ៍ METR ជាអង្គការដែលវាយតម្លៃរយៈពេលដែលគំរូ AI អាចដំណើរការដោយស្វ័យភាព និងបំពេញកិច្ចការសរសេរកូដកម្មវិធីមួយចំនួនដែលមានអត្រាជោគជ័យយ៉ាងតិច 50% បានរកឃើញថាម៉ូដែល OpenAI’s GPT 5.6 Sol បានព្យាយាមបន្លំជាញឹកញាប់ដែលវាមិនអាចវាយតម្លៃដោយទំនុកចិត្តលើសមត្ថភាពពិតរបស់វា។ ម៉ូដែលដូចគ្នានេះគឺជាម៉ូដែលមួយក្នុងចំណោមម៉ូដែលទាំងពីរដែល OpenAI បាននិយាយថាមានជាប់ពាក់ព័ន្ធនឹងការវាយប្រហារតាមអ៊ីនធឺណិត Hugging Face ។

ម៉ូដែល AI កាន់តែជឿនលឿនកាន់តែច្រើន ពួកវាហាក់ដូចជាកាន់តែល្អក្នុងការអនុវត្តអាកប្បកិរិយាប្រភេទនេះ។ គួរកត់សម្គាល់ថានេះមិនមែនជាលើកទីមួយទេដែលម៉ូដែលបានគេចផុតពីបរិយាកាសសាកល្បងប្រកបដោយសុវត្ថិភាព។

កាលពីខែមេសា ក្រុមហ៊ុន Anthropic បានប្រកាសថា កំណែខាងក្នុងដំបូងនៃម៉ូដែល Mythos បានទទួលជោគជ័យ នៅពេលដែលវាត្រូវបានណែនាំឱ្យបំបែកចេញពីប្រអប់ខ្សាច់របស់វា ដែលមិនត្រូវបានភ្ជាប់ទៅអ៊ីនធឺណិត ហើយបានរកឃើញវិធីមួយដើម្បីផ្ញើអ៊ីមែលទៅអ្នកស្រាវជ្រាវអំពីវា។ នៅក្នុងខែឧសភា OpenAI ក៏បាននិយាយផងដែរថាគំរូខាងក្នុងដាច់ដោយឡែកមួយកំពុងឆ្លងកាត់ការរឹតបន្តឹង sandbox របស់ខ្លួនដើម្បីផ្សព្វផ្សាយលទ្ធផលគោលនៅលើ GitHub ជាជាងនៅលើបណ្តាញ Slack ខាងក្នុងដូចដែលវាត្រូវបានណែនាំអោយធ្វើ។

បញ្ហាមិនត្រឹមត្រូវ

ខណៈពេលដែលការលួចយករង្វាន់គឺជាប្រភេទនៃការធ្វើខុស – ពាក្យ AI សម្រាប់ម៉ូដែលដែលមានឥរិយាបថក្នុងរបៀបដែលអ្នកប្រើប្រាស់មិនមានបំណង – វាមិនមែនជាទម្រង់ដ៏អាក្រក់បំផុតនៃអាកប្បកិរិយានេះទេ។

Ó hÉigeartaigh បាននិយាយថា “កង្វល់មួយចំនួនដែលមនុស្សព្រួយបារម្ភគឺនឹងមានអ្វីកើតឡើង ប្រសិនបើគំរូធ្វើពុតជាកំពុងស្វែងរកគោលដៅ ប៉ុន្តែពិតជាកំពុងស្វែងរកគោលដៅផ្សេង” Ó hÉigeartaigh បាននិយាយថា ឧបទ្ទវហេតុនេះមិនបានបង្ហាញពីសញ្ញានៃការបំភាន់ ឬព្យាយាមបំភាន់អ្នកប្រើប្រាស់នោះទេ។

មានភស្តុតាងដែលថាម៉ូដែលអាច “ធ្វើផែនការ” តាមរបៀបនេះ។ ជាឧទាហរណ៍ នៅក្នុងការធ្វើតេស្តដែលមានបំណងស្វែងរកថាតើម៉ូដែលបោកបញ្ឆោតមនុស្សនៅក្រោមសម្ពាធ អ្នកស្រាវជ្រាវនៅ Apollo Research បានរកឃើញថាម៉ូដែលព្រំដែនជាច្រើន – រួមទាំង OpenAI’s o1 និង Anthropic’s Claude 3 Opus – នឹងព្យាយាមបិទយន្តការត្រួតពិនិត្យ ឬបញ្ឆោតអ្នកអភិវឌ្ឍន៍របស់ពួកគេនៅពេលដែលមានការណែនាំយ៉ាងខ្លាំងដើម្បីបន្តគោលដៅ។ ក្នុងករណីមួយ Claude 3 Opus បានចម្លងនូវអ្វីដែលខ្លួនជឿថាជាទម្ងន់គំរូរបស់វាទៅកាន់ម៉ាស៊ីនមេដាច់ដោយឡែកមួយ ហើយបន្ទាប់មកនិយាយកុហកអំពីវានៅពេលប្រឈមមុខនឹងអ្នកស្រាវជ្រាវដែលដាក់ជាអ្នកអភិវឌ្ឍន៍របស់វា។

ប្រសិនបើគំរូមួយ ក្នុងការស្វែងរកគោលដៅដែលបានកំណត់របស់វា សម្រេចចិត្តថាវាត្រូវតែចម្លងខ្លួនវាទៅម៉ាស៊ីនផ្សេងទៀត ហើយគុណលើសពីប្រព័ន្ធដែលវាត្រូវបានដាក់ឱ្យប្រើប្រាស់ វាតំណាងឱ្យការបាត់បង់ការគ្រប់គ្រងកាន់តែច្រើន។ ក្នុងករណីនេះ OpenAI នៅតែអាចកំណត់អត្តសញ្ញាណគំរូដែលទទួលខុសត្រូវចំពោះការឈ្លានពានរបស់ Hugging Face និងគ្រប់គ្រងការចូលប្រើប្រាស់របស់វា។ ប៉ុន្តែប្រសិនបើម៉ូដែលមិនអាចកំណត់ទីតាំង ឬបិទបានទៀតទេ នោះនឹងជាបញ្ហាខុសគ្នាទាំងស្រុង និងពិបាកជាង។

ទោះបីជាយ៉ាងណាក៏ដោយ ក្រុមអ្នកស្រាវជ្រាវបាននិយាយថាឧបទ្ទវហេតុនេះគឺជាឧប្បត្តិហេតុដ៏ធ្ងន់ធ្ងរដែលអាចនាំទៅដល់ការត្រួតពិនិត្យកាន់តែខ្លាំងនៃការប្រើប្រាស់ផ្ទៃក្នុង និងការធ្វើតេស្តគំរូនៅក្នុងមន្ទីរពិសោធន៍ AI ។

Ó hÉigeartaigh បាននិយាយថា នៅពេលដែលគំរូកាន់តែមានថាមពល និងពិបាកក្នុងការផ្ទុក វិស័យនេះនឹងទទួលបានអត្ថប្រយោជន៍ពីការយល់ដឹងកាន់តែច្រើនអំពីអ្វីដែលកំពុងកើតឡើងនៅក្នុងមន្ទីរពិសោធន៍ AI ពីខាងក្រៅ មុនពេលមានអ្វីមួយខុសប្រក្រតី ជាជាងការស្វែងយល់អំពីវានៅពេលក្រោយ។