ប្រសិនបើ Silicon Valley និង Holy See មើលឃើញផ្ទាល់ភ្នែក វាសមនឹងសួរពីអ្វីដែលពួកគេដឹងថារដ្ឋាភិបាលមិនមាន។
កាលពីថ្ងៃចន្ទ សម្តេចប៉ាប ឡេអូ ឈរក្បែរគាត់នៅបុរីវ៉ាទីកង់ គឺលោក Christopher Olah សហស្ថាបនិកក្រុមហ៊ុន Anthropic ដែលបានទទួលស្គាល់ថា ក្រុមហ៊ុន AI ធ្វើការក្នុងការលើកទឹកចិត្ត និងឧបសគ្គដែលពេលខ្លះអាចមានជម្លោះនឹងការធ្វើរឿងត្រឹមត្រូវ។ ដោយឡែកពីគ្នា នាយកប្រតិបត្តិ Anthropic លោក Dario Amodei បាននិយាយថា “កម្រិតហានិភ័យបន្ទាប់គឺពិតជាក្រុមហ៊ុន AI ខ្លួនឯង” ហើយថាអ្នកដឹកនាំ AI រួមទាំងខ្លួនគាត់មិនគួរជាអ្នកសម្រេចចិត្តអនាគតនៃបច្ចេកវិទ្យានោះទេ។
នេះគឺជាកន្លែងដែលស្ថាបត្យករនៃប្រព័ន្ធ AI ដ៏មានឥទ្ធិពលបំផុតនៅក្នុងអត្ថិភាពកំពុងប្រាប់ពិភពលោកថាពួកគេមិនអាចគ្រប់គ្រងខ្លួនឯងបានទេ។ សំណួរគឺលែងថាតើអភិបាលកិច្ច AI សកលគឺជាការចាំបាច់ឬអត់។ សំណួរថាតើវាត្រូវបានរចនាឡើងមុនពេលមានវិបត្តិធ្វើឱ្យចម្លើយច្បាស់លាស់ចំពោះមនុស្សគ្រប់គ្នា។
ឧស្សាហកម្មដឹងវា – ហើយនិយាយវា។
នៅក្នុងឧស្សាហកម្មនេះ មានមនុស្សធ្ងន់ធ្ងរមួយចំនួនតូចជំទាស់នឹងហានិភ័យស្នូល៖ ការរំខានទីផ្សារការងារ អាវុធស្វយ័ត សុវត្ថិភាពកុមារ ការឃ្លាំមើលដ៏ធំ សំណឹកនៃការត្រួតពិនិត្យរបស់មនុស្ស និងការរំពឹងទុកនៃប្រព័ន្ធដែលមានសមត្ថភាពកែលម្អខ្លួនឯងឡើងវិញ។ Anthropic បានបង្កើត AI តាមរដ្ឋធម្មនុញ្ញ និងគោលនយោបាយកំណត់មាត្រដ្ឋានប្រកបដោយការទទួលខុសត្រូវ។ OpenAI រក្សាក្របខ័ណ្ឌត្រៀមខ្លួនជាមួយនឹងក្រុមក្រហមដែលមានរចនាសម្ព័ន្ធ។ ទាំងនេះគឺជាការខិតខំប្រឹងប្រែងយ៉ាងខ្លាំង។ ពួកគេចែករំលែកការកំណត់រចនាសម្ព័ន្ធមួយ: ពួកគេគឺជាផ្ទៃក្នុង។ ក្រុមហ៊ុននីមួយៗកំណត់កម្រិតរបស់ខ្លួន និងកម្រិតតម្លាភាពផ្ទាល់ខ្លួន។
អភិបាលកិច្ចផ្ទៃក្នុងមិនអាចដោះស្រាយបញ្ហាខាងក្រៅបានទេ។ ក្រុមហ៊ុនដែលអភិវឌ្ឍ AI ព្រំដែនដំណើរការក្នុងបរិយាកាសប្រកួតប្រជែង ដែលការអត់ធ្មត់ជាឯកតោភាគីបង្កការគំរាមកំហែងជាយុទ្ធសាស្ត្រ។ ក្រុមហ៊ុនដែលដើរយឺតពេលដៃគូប្រកួតប្រជែងមិនបានធ្វើឲ្យពិភពលោកមានសុវត្ថិភាពជាង។ វាទើបតែបាត់បង់ដី។ អនុវត្តដូចគ្នាចំពោះរដ្ឋ៖ គ្មានរដ្ឋាភិបាលណាអាចដាក់កម្រិតក្រុមហ៊ុនរបស់ខ្លួនដោយគួរឱ្យជឿជាក់បានទេ ប្រសិនបើប្រទេសចិន ឬមហាអំណាច AI ផ្សេងទៀតមិនត្រូវបានចងភ្ជាប់ដោយកាតព្វកិច្ចដែលអាចប្រៀបធៀបបាន។ លទ្ធផលគឺការបរាជ័យសៀវភៅសិក្សានៃសកម្មភាពរួម។ មនុស្សគ្រប់គ្នាដឹងពីហានិភ័យ។ គ្មាននរណាម្នាក់មានការលើកទឹកចិត្តបុគ្គលដើម្បីទទួលបន្ទុកចំណាយទាំងស្រុងក្នុងការដោះស្រាយបញ្ហានោះទេ។ នេះមិនមែនជាបញ្ហាទីផ្សារទេ។ វាជាបញ្ហាស្ថាបត្យកម្មអភិបាលកិច្ច។
ការប្រៀបធៀបត្រឹមត្រូវមិនមែនជាថាមពលនុយក្លេអ៊ែរទេ ប៉ុន្តែជាហិរញ្ញវត្ថុ
ការប្រៀបធៀបដែលប្រើជាទូទៅបំផុតគឺការគ្រប់គ្រងអាវុធនុយក្លេអ៊ែរ។ វាជាការប្រៀបធៀបខុស។ អាវុធនុយក្លេអ៊ែរ គឺជាកម្មវិធីរបស់រដ្ឋាភិបាល ដែលមានកន្លែងកំណត់អត្តសញ្ញាណ និងការធ្វើតេស្តដែលអាចផ្ទៀងផ្ទាត់បាន។ AI កម្រិតខ្ពស់កំពុងត្រូវបានបង្កើតឡើងដោយអ្នកលេងឯកជនលើហេដ្ឋារចនាសម្ព័ន្ធពាណិជ្ជកម្មដែលត្រូវបានបង្កប់រួចហើយនៅទូទាំងពិភពលោក។
ប្រព័ន្ធហិរញ្ញវត្ថុផ្តល់នូវគំរូដែលមានប្រយោជន៍ជាង។ ធនាគារប្រឈមមុខនឹងការប្រកួតប្រជែងដ៏ខ្លាំងក្លានៅទូទាំងយុត្តាធិការ មានទំនាក់ទំនងគ្នាទៅវិញទៅមកក្នុងពេលវេលាជាក់ស្តែង និងបង្កហានិភ័យជាប្រព័ន្ធពីការផ្តល់ហិរញ្ញប្បទានភេរវកម្ម និងឧក្រិដ្ឋកម្មហិរញ្ញវត្ថុដែលស្ថាប័នណាមួយមិនអាចមាន។ ការឆ្លើយតប ការកសាងលើក្របខណ្ឌកំណត់ស្តង់ដារ G20 FATF បទដ្ឋានរួមរួម ស្តង់ដារប្រតិបត្តិការ ការប្តេជ្ញាចិត្តរបស់រដ្ឋាភិបាល និងវិស័យឯកជន ការត្រួតពិនិត្យអ្នកជំនាញ និងផលវិបាកក្នុងពិភពលោកពិតប្រាកដសម្រាប់ការមិនអនុលោមតាម។ ខណៈពេលដែលនៅឆ្ងាយពីភាពល្អឥតខ្ចោះ វាបានផ្លាស់ប្តូរឥរិយាបទក្នុងទ្រង់ទ្រាយធំ ដោយមិនតម្រូវឱ្យមានដំណើរការរយៈពេលជាច្រើនទសវត្សរ៍ដើម្បីផ្តល់សច្ចាប័នលើសន្ធិសញ្ញា ព្រោះវារីករាលដាលការទទួលខុសត្រូវទូទាំងសម្ព័ន្ធភាពទូលំទូលាយគ្រប់គ្រាន់ដើម្បីធ្វើឱ្យការជៀសផុតពីកាតព្វកិច្ចសន្តិសុខដែលមានតម្លៃថ្លៃ និងបែងចែករវាងរដ្ឋាភិបាលទាំងពីរ និងវិស័យឯកជន។
ខ្ញុំបានចំណាយពេលជាច្រើនឆ្នាំក្នុងការរចនា និងវាយតម្លៃស្តង់ដារទាំងនេះ រួមទាំងការសម្របសម្រួលអន្តរជាតិឈានមុខគេប្រឆាំងនឹងការផ្តល់មូលនិធិរបស់ ISIS និងការរចនាក្របខ័ណ្ឌ crypto ដែលឥឡូវនេះបានអនុម័តដោយប្រទេសជាង 120 ។ ខ្ញុំបានវាយតម្លៃដោយផ្ទាល់នូវកម្មវិធីអនុលោមភាពជាតិ។ ខ្ញុំគិតថាខ្ញុំបានរៀនពីអ្វីដែលធ្វើឱ្យយន្តការគណនេយ្យភាពដំណើរការ ហើយអ្វីដែលបណ្តាលឱ្យវាបរាជ័យ។
តើអភិបាលកិច្ចអាចមើលទៅដូចអ្វី
ស្ថាបត្យកម្មអភិបាលកិច្ច AI ដែលកំពុងដំណើរការ ចាប់ផ្តើមមិនមែនជាមួយនឹងលក្ខណៈបច្ចេកទេសនោះទេ ប៉ុន្តែជាមួយនឹងបទដ្ឋានកម្រិតខ្ពស់៖ ការប្តេជ្ញាចិត្តរួមគ្នាចំពោះហានិភ័យដែលទាមទារការយល់ស្របពិតប្រាកដរួចហើយ។ ស្តង់ដារទាំងនេះត្រូវបានបកប្រែទៅជាលក្ខណៈវិនិច្ឆ័យដែលវាយតម្លៃលទ្ធផលជាក់ស្តែង ជាជាងការចេញវេជ្ជបញ្ជាដំណើរការបច្ចេកទេសដែលនឹងលែងប្រើក្នុងរយៈពេលពីរបីខែ។ ក្រុមអ្នកជំនាញឯករាជ្យ ដែលមានតំណាងមកពីវិស័យសាធារណៈ និងឯកជន វាយតម្លៃថាតើក្រុមហ៊ុន និងរដ្ឋត្រូវតាមលក្ខណៈវិនិច្ឆ័យទាំងនេះដែរឬទេ។ ហើយយន្តការត្រូវការផលវិបាក៖ ការអនុលោមតាមច្បាប់បង្កើតការជឿទុកចិត្ត ការទទួលបានទីផ្សារ និងកិច្ចសហប្រតិបត្តិការ។ ការមិនអនុលោមតាមច្បាប់នាំឱ្យការចំណាយកើនឡើង។ ការយល់ដឹងទ្វេភាគីរវាងសហរដ្ឋអាមេរិក និងចិននឹងមានសារៈសំខាន់ ប៉ុន្តែមិនគ្រប់គ្រាន់ទេ។ មានតែសម្ព័ន្ធភាពទូលំទូលាយដូចជា G20 ប៉ុណ្ណោះដែលអាចបំប្លែងការអត់ធ្មត់ទៅជាសម្ពាធពិភពលោកដែលមាននិរន្តរភាព។
បង្អួចមិនមានដែនកំណត់ទេ។
ការប៉ាន់ប្រមាណដែលអាចជឿទុកចិត្តបានមួយចំនួនបានបង្ហាញថា បញ្ញាទូទៅសិប្បនិម្មិត ដែលជាប្រព័ន្ធដែលមានសមត្ថភាពជាងមនុស្សនៅក្នុងតំបន់ភាគច្រើន នឹងត្រូវដាក់ឱ្យប្រើប្រាស់នៅដើមឆ្នាំ 2030។ នៅពេលដែលម៉ាស៊ីនលើសពីសមត្ថភាពរបស់មនុស្ស ការឆ្លើយតបដ៏សមស្របតែមួយគត់របស់មនុស្សជាតិគឺជាសមូហភាពមួយ។ គ្មានក្រុមហ៊ុន ឬរដ្ឋណាអាចដោះស្រាយរឿងនេះតែម្នាក់ឯងបានទេ។
Amodei បានអំពាវនាវឱ្យមានការបើកចំហរពីមេដឹកនាំ និងរដ្ឋាភិបាល AI អំពីរបៀបដែលការអភិវឌ្ឍន៍កំពុងវិវឌ្ឍយ៉ាងឆាប់រហ័ស។ សម្តេចប៉ាបបានអំពាវនាវឲ្យមានការដកអាវុធពីបច្ចេកវិជ្ជាមុនពេលវាដកអាវុធមកយើង។ Olah បានឈរនៅបុរីវ៉ាទីកង់ ហើយបានទទួលស្គាល់បញ្ហាលើកទឹកចិត្តដែលប្រឈមមុខនឹងឧស្សាហកម្មផ្ទាល់ខ្លួនរបស់គាត់។ ការបង្រួបបង្រួមនៃផ្នែកផ្ទុយគ្នានៃសិទ្ធិអំណាចរបស់មនុស្ស – សីលធម៌ និងពាណិជ្ជកម្ម – ខ្លួនវាគឺជាចំណុចទិន្នន័យដែលអ្នកបង្កើតគោលនយោបាយមិនអាចមិនអើពើបាន។
សហគមន៍អន្តរជាតិពីមុនបានរួបរួមគ្នាជុំវិញហានិភ័យរួមដែលមានដូចជា ការរីកសាយអាវុធនុយក្លេអ៊ែរ ហិរញ្ញប្បទានភេរវកម្ម ការដួលរលំហិរញ្ញវត្ថុជាប្រព័ន្ធ។ វាបានបង្កើតយន្តការសម្របសម្រួលដែលស៊ូទ្រាំមិនល្អឥតខ្ចោះ ប៉ុន្តែជាប់លាប់។ AI ទាមទាររឿងដូចគ្នា ហើយកាន់តែបន្ទាន់។ ហានិភ័យសម្រាប់មនុស្សជាតិគឺស្ថិតនៅលើមាត្រដ្ឋានផ្សេងគ្នា។ គ្រោះមហន្តរាយមិនមែនជាសម្មតិកម្មទេ។ ការរង់ចាំឱ្យពួកគេគ្រប់គ្រងបន្ទាប់ពីពួកគេចូលមកគឺជាការដោះស្រាយមិនបាន។ វាជាការលះបង់។
ឥឡូវនេះរដ្ឋាភិបាល និងអង្គការអន្តរជាតិត្រូវតែកោះប្រជុំដំណើរការនេះ។ រួមបញ្ចូលមនុស្សដែលបានបង្កើតប្រព័ន្ធទាំងនេះ និងយល់ពីរបៀបបរាជ័យរបស់ពួកគេពីខាងក្នុង ក៏ដូចជាអ្នកជំនាញដែលមានបទពិសោធន៍ពិបាករកក្នុងការសម្របសម្រួលរវាងភាគីដែលមិនទុកចិត្តគ្នាទៅវិញទៅមក – ថាតើពួកគេជាប្រទេស ឬដៃគូប្រកួតប្រជែងពាណិជ្ជកម្ម – និងការបកប្រែហានិភ័យរួមគ្នាទៅជាការប្តេជ្ញាចិត្តចង។ បង្អួចបិទ។ យើងជំពាក់អភិបាលកិច្ចកូនចៅយើងដែលត្រូវបានបង្កើតឡើងមុនគ្រោះមហន្តរាយមិនមែនដើម្បីឆ្លើយតបនឹងវាទេ។
មតិដែលបានបង្ហាញនៅក្នុងមតិយោបល់របស់ Fortune.com គឺគ្រាន់តែជាទស្សនៈរបស់អ្នកនិពន្ធរបស់ពួកគេប៉ុណ្ណោះ ហើយមិនចាំបាច់ឆ្លុះបញ្ចាំងពីគំនិត និងជំនឿរបស់ ទ្រព្យសកម្ម.
