តើសេណារីយ៉ូដែលបច្ចេកវិទ្យាចូលមកលើមនុស្សអាចក្លាយជាការពិតបានទេ? នេះពិតជាសម្មតិកម្មដែលអាចទៅរួចសម្រាប់ Anthropic ដែលជាក្រុមហ៊ុនបញ្ញាសិប្បនិមិត្តរបស់អាមេរិកដែលបង្កើតគំរូ Claude ។ ក្នុងកំណត់ត្រាមួយដែលបានចេញផ្សាយកាលពីថ្ងៃព្រហស្បតិ៍ ទី ៤ ខែមិថុនា អ្នកស្រីបញ្ជាក់ថា AI អាចឈានទៅមុខឆាប់ៗដោយគ្មានការអន្តរាគមន៍ពីមនុស្ស។
ក្រុមហ៊ុនបាននិយាយថា សមត្ថភាពរបស់ AI ក្នុងការបំពេញកិច្ចការដោយស្វ័យភាពគឺកើនឡើងទ្វេដងរៀងរាល់ 4 ខែម្តង ក្រុមហ៊ុននេះបាននិយាយថា ដោយព្រមានថានៅពេលណាមួយ សង្គមនឹងមិនអាចគ្រប់គ្រងហានិភ័យបានលឿនដូចការជឿនលឿននៃបច្ចេកវិទ្យា។ ដូច្នេះហើយនាងបានអំពាវនាវឱ្យផ្អាកការអភិវឌ្ឍបញ្ញាសិប្បនិមិត្តដើម្បី “ដោះស្រាយជាមួយនឹងឥទ្ធិពលដ៏សម្បើមរបស់វា”។
AI កែលម្អខ្លួនឯង
លោក Jack Clark សហស្ថាបនិកនៃ Anthropic និង Marina Favaro នាយកវិទ្យាស្ថាន Anthropic បានព្យាយាមបញ្ជាក់ជាថ្មីថា “យើងមិនទាន់នៅទីនោះទេ ហើយការកែលម្អខ្លួនឯង AI គឺមិនអាចជៀសផុតទេ” ។ ពួកគេបន្ថែមថា “ប៉ុន្តែវាអាចមកលឿនជាងស្ថាប័នភាគច្រើនរំពឹងទុក”។
នៅពេលដែលប្រព័ន្ធ AI កម្រិតខ្ពស់កាន់តែមានឥទ្ធិពល ការភ័យខ្លាចកំពុងកើនឡើងថាពួកគេអាចគេចផុតពីការគ្រប់គ្រងរបស់មនុស្ស និងធ្វើឱ្យប៉ះពាល់ដល់សង្គម។ បទប្បញ្ញត្តិមានភាពយឺតយ៉ាវក្នុងការអនុវត្ត ជាពិសេសនៅក្នុងសហរដ្ឋអាមេរិក ដែលមន្ទីរពិសោធន៍ AI ទំនើបបំផុតស្ថិតនៅ
អ្នកស្រាវជ្រាវបានអំពាវនាវឲ្យឈប់សម្រាករួចហើយ ប៉ុន្តែមិនបានជោគជ័យច្រើនទេ។ Elon Musk ម្ចាស់មន្ទីរពិសោធន៍ xAI ស្ថិតក្នុងចំណោមអ្នកគាំទ្រគំនិតផ្តួចផ្តើមដែលបានចាប់ផ្តើមនៅឆ្នាំ 2023 ដោយអង្គការមិនរកប្រាក់ចំណេញ Future of Life Institute ដើម្បីផ្អាកការអភិវឌ្ឍន៍ AI សម្រាប់រយៈពេលប្រាំមួយខែ ដើម្បីអនុញ្ញាតឱ្យមានការណែនាំអំពីយន្តការសន្តិសុខ។
កិច្ចព្រមព្រៀងរួម
Anthropic បានកំណត់ទីតាំងខ្លួនវាជាយូរមកហើយថាជាមន្ទីរពិសោធន៍ AI ដោយផ្តោតលើសុវត្ថិភាព។ ការសម្រេចបាននូវរបកគំហើញដ៏សំខាន់នេះនឹងតម្រូវឱ្យមានកិច្ចព្រមព្រៀងរវាង “មន្ទីរពិសោធន៍ដែលមានបំពាក់យ៉ាងល្អជាច្រើន” ដែលធ្វើការនៅគែមចុងក្រោយនៃបច្ចេកវិទ្យា ក៏ដូចជាច្បាប់ស្តីពីលក្ខខណ្ឌនៃការអនុវត្តរបស់ពួកគេ និងវិធីដែលពួកគេនឹងត្រូវបានត្រួតពិនិត្យ រំឭកដល់ Anthropic ។ ម៉្យាងវិញទៀត សកម្មភាពដែលសម្របសម្រួលមិនបានល្អនឹងបង្កហានិភ័យ ប្រសិនបើតួសម្តែងមិនសូវប្រុងប្រយ័ត្ននៅតែបន្តទៅមុខតែម្នាក់ឯង។
ស្ថាប័នស្រាវជ្រាវរបស់ខ្លួនគឺវិទ្យាស្ថាន Anthropic គ្រោងនឹងសិក្សាពីប្រព័ន្ធដែលចាំបាច់សម្រាប់និរន្តរភាពនៃការធ្លាក់ចុះសេដ្ឋកិច្ច ហើយនឹងប្រមូលផ្តុំអ្នកបង្កើតគោលនយោបាយ អ្នកស្រាវជ្រាវ ក្រុមសង្គមស៊ីវិល និងក្រុមហ៊ុនប្រកួតប្រជែង AI ក្នុងប៉ុន្មានខែខាងមុខនេះ ដើម្បីពិភាក្សាអំពីរបៀបគ្រប់គ្រងហានិភ័យទាំងនេះ និងការកែលម្អខ្លួនឯង។
