Home នយោបាយ / Politic មេដឹកនាំ AI កំពុងទាមទារឱ្យ OpenAI បញ្ចេញព័ត៌មានលម្អិតបន្ថែមទៀតអំពីរបៀបដែលការ hack មុខ Hugging បានកើតឡើង

មេដឹកនាំ AI កំពុងទាមទារឱ្យ OpenAI បញ្ចេញព័ត៌មានលម្អិតបន្ថែមទៀតអំពីរបៀបដែលការ hack មុខ Hugging បានកើតឡើង

18
0



OpenAI កាន់តែខ្លាំងឡើងត្រូវបានស្នើសុំឱ្យបង្ហាញព័ត៌មានបន្ថែមអំពីរបៀបដែលម៉ូដែលរបស់ខ្លួនបានផ្ទុះចេញពីបរិយាកាសសាកល្បងផ្ទៃក្នុង ហើយបានសម្រេចចិត្តដោយឯករាជ្យក្នុងការ hack ក្រុមហ៊ុនមួយផ្សេងទៀតកាលពីដើមខែនេះ។

Helen Toner នាយកប្រតិបត្តិនៅ Georgetown Center for Security and Emerging Technology (CSET) និងជាអតីតសមាជិកក្រុមប្រឹក្សាភិបាល OpenAI បាននិយាយថា “OpenAI គួរតែបង្ហាញព័ត៌មានលម្អិតបន្ថែមទៀតអំពីអ្វីដែលបានកើតឡើងនៅក្នុងករណីពិសេសនេះ ដូច្នេះយើងអាចរៀនពីវា ជាជាងមិនអើពើ”។ នាងបានអំពាវនាវឱ្យមានតម្លាភាពកាន់តែច្រើននៅទូទាំងឧស្សាហកម្មអំពី “របៀបដែលក្រុមហ៊ុន AI ប្រើប្រាស់ AI ផ្ទាល់របស់ពួកគេនៅខាងក្នុង – ហើយមិនត្រឹមតែសាកល្បងវាមុនពេលចេញផលិតផលនោះទេ។”

លោក John Schulman ដែលជាសហស្ថាបនិកនៃ OpenAI ដែលបានចាកចេញពីក្រុមហ៊ុនចាប់តាំងពីពេលនោះមកដើម្បីក្លាយជាប្រធានអ្នកវិទ្យាសាស្ត្រនៅ Thinking Machines ដែលជាក្រុមហ៊ុន AI ដែលត្រូវបានបង្កើតឡើងដោយអតីត OpenAI CTO Mira Murati បានយល់ព្រម។ នៅក្នុងការប្រកាសនៅលើ X គាត់បានអំពាវនាវឱ្យ OpenAI បោះពុម្ពផ្សាយប្រតិចារិកលម្អិតនៃព្រឹត្តិការណ៍នេះ។ ក្នុងចំណោមសំណួរទូទៅបំផុតរបស់គាត់អំពីព្រឹត្តិការណ៍នោះគឺ៖ “តើភ្នាក់ងារកម្រិតកំពូលបានដឹងអំពីការលួចចូល ឬតើមាន ‘តម្លៃធ្លាក់ចុះ’ រវាងគាត់ និងភ្នាក់ងាររងរបស់គាត់? តើគាត់បានសមហេតុផលអាកប្បកិរិយារបស់គាត់យ៉ាងដូចម្តេច?

នៅក្នុងសេចក្តីថ្លែងការណ៍ថ្មីមួយនៅថ្ងៃនេះ OpenAI បានបង្ហាញពីចេតនារបស់ខ្លួនក្នុងការបង្ហាញពីព័ត៌មានលម្អិតបន្ថែមទៀត ប៉ុន្តែមិនបានផ្តល់ពេលវេលាកំណត់នោះទេ។

អ្នកនាំពាក្យរបស់ OpenAI បាននិយាយថា “នេះគឺជាឧប្បត្តិហេតុដែលមិនធ្លាប់មានពីមុនមក ហើយយើងជឿថាវាជាពេលវេលាដ៏សំខាន់មួយសម្រាប់សន្តិសុខ AI” ។ “យើងកំពុងធ្វើការពិនិត្យឱ្យបានហ្មត់ចត់ រួមជាមួយនឹងទីប្រឹក្សាខាងក្រៅ និងស្ថិតក្រោមការត្រួតពិនិត្យរបស់គណៈកម្មាធិការសុវត្ថិភាពរបស់យើង។ នៅពេលដែលការត្រួតពិនិត្យបានបញ្ចប់ យើងនឹងបោះពុម្ពរបាយការណ៍បច្ចេកទេសស្តីពីការរកឃើញរបស់យើងសម្រាប់ទាំងអស់គ្នាដើម្បីមើល”។

នៅក្នុងតុមូលប្រព័ន្ធផ្សព្វផ្សាយកាលពីម្សិលមិញ ប្រធាន OpenAI និងជាសហស្ថាបនិក Greg Brockman បានគេចពីសំណួររបស់អ្នកសារព័ត៌មានអំពីឧបទ្ទវហេតុនេះដោយនិយាយថាក្រុមហ៊ុននៅតែស៊ើបអង្កេតឧប្បត្តិហេតុនេះ។

ទាំង OpenAI និងក្រុមហ៊ុនដែលត្រូវបានវាយប្រហារ ដែលជាវេទិកាអនឡាញមួយហៅថា Hugging Face ដែលផ្ទុកនូវគំរូ AI និងសំណុំទិន្នន័យបើកចំហរ មិនបានបង្ហាញពីកាលបរិច្ឆេទពិតប្រាកដនៃការវាយប្រហារនោះទេ ទោះបីជានៅក្នុងការបង្ហោះប្លក់កាលពីថ្ងៃទី 16 ខែកក្កដា បង្ហាញថាវាត្រូវបានវាយប្រហារដោយភ្នាក់ងារ AI ស្វយ័តក៏ដោយ Hugging Face បាននិយាយថាឧប្បត្តិហេតុបានកើតឡើង “កាលពីដើមសប្តាហ៍នេះ”។

Brockman បាននិយាយថា “ខ្ញុំចង់និយាយថាអ្វីដែលសំខាន់បំផុតនោះគឺថាយើងនៅតែធ្វើការស៊ើបអង្កេតពេញលេញហើយពិតជាព្យាយាមយល់ពីអ្វីគ្រប់យ៉ាងដែលបានកើតឡើង” ។ “ខ្ញុំគិតថានេះគឺជាអ្វីដែលយើងត្រូវយកចិត្តទុកដាក់យ៉ាងខ្លាំង ហើយពិនិត្យមើលគ្រប់ផ្នែកនៃបំពង់បង្ហូរប្រេងរបស់យើង ដើម្បីគិតអំពីវិធីត្រឹមត្រូវក្នុងការឆ្លើយតបទៅនឹងបញ្ហានេះ”។

ដំបូងឡើយ Hugging Face បាននិយាយថា ខ្លួនបានរងគ្រោះដោយសារការវាយប្រហារតាមអ៊ីនធឺណិត ដែលប្រព្រឹត្តដោយភ្នាក់ងារ AI ដែលមិនស្គាល់អត្តសញ្ញាណ។ OpenAI បានតាមដានជាមួយនឹងការបង្ហោះប្លក់នៅថ្ងៃទី 21 ខែកក្កដាដែលបញ្ជាក់ថាម៉ូដែលរបស់វាជាពិរុទ្ធជន។

ការបង្ហោះប្លក់ OpenAI បានផ្តល់ទិដ្ឋភាពទូទៅជាមូលដ្ឋាននៃព្រឹត្តិការណ៍នេះ ប៉ុន្តែមិនបានរៀបរាប់លម្អិតអំពីសកម្មភាពរបស់ AI ទាំងអស់នោះទេ។ វាក៏បាននិយាយផងដែរថា ការវាយប្រហារនេះពាក់ព័ន្ធនឹង “ការរួមបញ្ចូលគ្នា” នៃម៉ូដែល AI របស់ក្រុមហ៊ុន រួមទាំងម៉ូដែលដែលមិនបញ្ចេញឈ្មោះ និងមិនត្រូវបានផ្សព្វផ្សាយ ក៏ដូចជា GPT-5.6 Sol ដែលជាម៉ូដែលចុងក្រោយបំផុតដែល OpenAI បានដាក់ឱ្យប្រើប្រាស់ជាសាធារណៈ។ ទោះជាយ៉ាងណាក៏ដោយក្រុមហ៊ុនមិនបានពន្យល់ច្បាស់អំពីរបៀបដែលម៉ូដែលទាំងនេះដំណើរការជាមួយគ្នានោះទេ។ វាក៏មិនបានពន្យល់ពីរបៀបដែលកំហុសដែលអាចកើតមាននៅក្នុងការគ្រប់គ្រងផ្ទៃក្នុងរបស់ក្រុមហ៊ុនអាចបណ្តាលឱ្យឧប្បត្តិហេតុនេះកើតឡើង។

សហគមន៍សន្តិសុខ AI មានសំណួរជាច្រើនសម្រាប់ OpenAI ហើយ OpenAI ទើបតែបានឆ្លើយពីរបីក្នុងចំណោមពួកគេមកទល់ពេលនេះ។ Ryan Greenblat ប្រធានអ្នកវិទ្យាសាស្ត្រនៅ Redwood Research បានចេញផ្សាយនៅលើក្រុមហ៊ុន AI cybersecurity Penligent បានចេញផ្សាយតារាងដែលរៀបរាប់លម្អិតអំពីទិដ្ឋភាពប្រាំបីនៃការវាយប្រហារដែល OpenAI មិនទាន់បង្ហាញ រួមទាំង:

  • តើម៉ូដែលណាខ្លះបានចូលរួម?
  • តើ​អ្វី​ទៅ​ជា​កិច្ចការ​ដែល​បាន​កំណត់?
  • តើម៉ូដែលនេះបានចាកចេញពីបរិយាកាស OpenAI យ៉ាងដូចម្តេច?
  • ហេតុអ្វីបានជាវាកំណត់គោលដៅឱបមុខ?
  • តើ Hugging Face កើតឡើងដោយរបៀបណា?
  • តើអ្វីត្រូវបានចូលប្រើ?
  • តើខ្សែសង្វាក់ផ្គត់ផ្គង់គំរូសាធារណៈបានផ្លាស់ប្តូរទេ?
  • ព័ត៌មានលម្អិតអំពីការកេងប្រវ័ញ្ចជាសាធារណៈ រួមទាំងការពិពណ៌នាបច្ចេកទេសណាមួយដែលបានអនុវត្តតាមការជួសជុល

លោក Michele Catasta ប្រធាន និងជាប្រធានផ្នែក AI នៅ Replit បាននិយាយថា “ការយល់ដឹងស៊ីជម្រៅអំពីការ Hack Face មិនត្រឹមតែជាបញ្ហាសុវត្ថិភាពសាធារណៈដ៏សំខាន់ប៉ុណ្ណោះទេ ប៉ុន្តែវាក៏មានសារៈសំខាន់ផងដែរចំពោះភាពជោគជ័យនៃឧស្សាហកម្ម AI ទាំងមូល” ។ ទ្រព្យសកម្ម. លោក​បាន​បន្ត​ថា​៖ «​យើង​ជា​ឧស្សាហកម្ម​ទាំង​មូល​ត្រូវ​រៀបចំ​ឲ្យ​មាន​រឿង​នេះ​កើតឡើង​ញឹកញាប់​ជាង​នេះ​»​។ “អ្វី​ដែល​មាន​អារម្មណ៍​ថា​ជា​ព្រឹត្តិការណ៍​ដែល​ហួស​ពេល​ឥឡូវ​នេះ​អាច​ក្លាយ​ជា​រឿង​ធម្មតា​ទៅ​តាម​ពេល​វេលា”។



Source link