នៅពេលដែល Anthropic បានចេញផ្សាយគំរូ Mythos ដំបូងរបស់ខ្លួនដែលមានឈ្មោះថា Claude Fable 5 ដល់សាធារណជនទូទៅកាលពីម្សិលមិញ។ ទ្រព្យសកម្ម បានរាយការណ៍ថានេះគឺជា “ជំហានដ៏សំខាន់” សម្រាប់មន្ទីរពិសោធន៍ ដែលមកត្រឹមតែជាងមួយសប្តាហ៍បន្ទាប់ពីក្រុមហ៊ុនបានដាក់ឯកសារ IPO សម្ងាត់។ ដំបូងឡើយ ក្រុមហ៊ុនបានចាត់ទុកម៉ូដែល Mythos-class មានគ្រោះថ្នាក់ខ្លាំងពេកក្នុងការចេញផ្សាយ ដោយលើកឡើងពីសមត្ថភាពដែលប្រសើរឡើងយ៉ាងខ្លាំងរបស់ពួកគេក្នុងការកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះរបស់កម្មវិធី។ ទោះជាយ៉ាងណាក៏ដោយឥឡូវនេះវាបានបង្ហាញពីទំនុកចិត្តថា guardrails ថ្មីនៅក្នុង Claude Fable 5 គឺគ្រប់គ្រាន់ដើម្បីធានាថាសមត្ថភាពដ៏គ្រោះថ្នាក់ទាំងនេះមិនធ្លាក់ចូលទៅក្នុងដៃខុស។
ទោះជាយ៉ាងណាក៏ដោយ ត្រឹមតែប៉ុន្មានម៉ោងបន្ទាប់ពីម៉ូដែលនេះត្រូវបានចេញផ្សាយ មានប្រតិកម្មយ៉ាងខ្លាំងពីអ្នកស្រាវជ្រាវ AI អ្នកអភិវឌ្ឍន៍ និងអ្នកជំនាញគោលនយោបាយនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម។ ការរុញច្រានបានវិលជុំវិញកថាខណ្ឌដែលកប់នៅក្នុងផែនទីប្រព័ន្ធ 319 ទំព័ររបស់ Claude Fable 5 ដែលជាឯកសារដែលមានការបង្ហាញសុវត្ថិភាពលម្អិត ដែលបង្ហាញថា Fable នឹងបន្ទាបចំណាត់ការឆ្លើយតបរបស់ខ្លួនដោយស្ងៀមស្ងាត់នៅពេលដែលវាបានរកឃើញសំណើដែលទាក់ទងនឹងការងារអភិវឌ្ឍន៍ AI ដ៏ទំនើប ដូចជាការកសាងហេដ្ឋារចនាសម្ព័ន្ធដែលប្រើដើម្បីបណ្តុះបណ្តាលគំរូ AI ធំៗ។
នៅក្នុងការអនុវត្ត នេះមានន័យថា អ្នកប្រើប្រាស់អាចស្នើសុំជំនួយពី Fable ទទួលបានការឆ្លើយតបដោយចេតនា ប៉ុន្តែមិនត្រូវដឹងថា ម៉ូដែលនេះកំពុងកាន់អ្វីមួយនោះទេ។ អ្នករិះគន់បានបញ្ជាក់យ៉ាងច្បាស់ថា ពួកគេមានអារម្មណ៍ថា នេះធ្វើឱ្យខូចដល់ការរំពឹងទុកជាមូលដ្ឋានដែលឧបករណ៍មួយនឹងធ្វើអ្វីដែលត្រូវបានសួរពីវា ឬប្រាប់អ្នកប្រើប្រាស់ថាវានឹងមិនដំណើរការ។
មិនដូចការកំណត់ផ្សេងទៀតរបស់ Fable ដូចជាបញ្ហាដែលទាក់ទងនឹងសន្តិសុខតាមអ៊ីនធឺណិត និងជីវវិទ្យា ដែលប្តូរទិសអ្នកប្រើប្រាស់ដោយបើកចំហទៅកាន់គំរូដែលមិនសូវមានថាមពលជាមួយនឹងការជូនដំណឹងដែលអាចមើលឃើញនោះ ផែនទីប្រព័ន្ធបានសង្កត់ធ្ងន់ថានេះគឺ “មិនអាចមើលឃើញដោយអ្នកប្រើប្រាស់” ។ ម៉ូដែលនេះនៅតែឆ្លើយតប ប៉ុន្តែប្រើ “អន្តរាគមន៍ដើម្បីកំណត់ប្រសិទ្ធភាពរបស់ Claude” ដោយមិនប្រាប់អ្នកប្រើប្រាស់ថាវាកំពុងធ្វើដូច្នេះទេ។
Anthropic បានប៉ាន់ប្រមាណថាការរឹតបន្តឹងនឹងប៉ះពាល់ដល់ប្រហែល 0.03% នៃចរាចរណ៍។ ប៉ុន្តែនាងក៏បានការពារការខិតខំប្រឹងប្រែងរបស់នាងផងដែរ ដោយនិយាយថា៖ «ការពង្រឹងការរឹតបន្តឹងនេះ តាមរយៈការការពាររបស់យើង រារាំងតួអង្គដែលទំនងជាបំពានលក្ខខណ្ឌទាំងនេះ ពីការទទួលខុសត្រូវលឿនជាងមុន»។
Pushback ពីសហគមន៍ AI
សហគមន៍ AI ភាគច្រើនបានវាយបកយ៉ាងខ្លាំង – រួមទាំងអ្នកស្រាវជ្រាវប្រភពបើកចំហដែលរិះគន់គោលនយោបាយបិទរបស់ Anthropic ក៏ដូចជាអ្នកជំនាញផ្នែកសន្តិសុខ AI ដែលជាធម្មតាតម្រឹមជាមួយ Anthropic ។
Nathan Lambert អ្នកស្រាវជ្រាវគំរូបើកចំហដែលថ្មីៗនេះបានដឹកនាំការងារនៅ AI2 បានសរសេរថា “វាគួរឱ្យរន្ធត់ណាស់ដែលការចូលទៅកាន់ម៉ូដែលទំនើបបំផុតសម្រាប់កម្រាលការងាររបស់ខ្ញុំគឺរអិលនៅក្រោមតុ” ។ “ចំពោះខ្ញុំ នេះតំណាងឱ្យ Anthropic យ៉ាងច្បាស់ថាជាការប្រឆាំងនឹងវិទ្យាសាស្ត្រ ហើយដូច្នេះការប្រឆាំងនឹងវឌ្ឍនភាព និងការប្រឆាំងនឹងសន្តិសុខ។”
លោក Dean Ball ដែលជាបុគ្គលិកជាន់ខ្ពស់នៅមូលនិធិសម្រាប់ការច្នៃប្រឌិតអាមេរិកដែលពីមុនធ្លាប់ធ្វើជាទីប្រឹក្សាគោលនយោបាយជាន់ខ្ពស់នៅក្នុងការិយាល័យគោលនយោបាយវិទ្យាសាស្ត្រ និងបច្ចេកវិទ្យារបស់សេតវិមាន បានសរសេរថា គោលនយោបាយសន្តិសុខ “ការបំផ្លិចបំផ្លាញ” សម្ងាត់របស់ Anthropic “លើកកំពស់យ៉ាងខ្លាំង និងយ៉ាងជ្រាលជ្រៅនូវស្ថានភាពនៃអាគុយម៉ង់ដែលថាសន្តិសុខ AI មានការឃោសនាបំផ្លើសដើម្បីបង្ហាញអំពីឥរិយាបថមន្ទីរពិសោធន៍ផ្តាច់មុខ។”
ហើយលោក Jeremy Howard ដែលជាប្រធានក្រុមស្រាវជ្រាវ Fast AI ដែលមិនស្វែងរកប្រាក់ចំណេញ បានសរសេរថា “Anthropic បានជ្រើសរើសផ្លូវផ្ទុយពីផ្លូវសុវត្ថិភាព៖ ពួកគេអនុញ្ញាតឱ្យខ្លួនពួកគេ ដែលជាមន្ទីរពិសោធន៍កំពូលបច្ចុប្បន្ន ប្រើប្រាស់គំរូកំពូលរបស់ពួកគេសម្រាប់ការស្រាវជ្រាវ AI នៅជួរមុខ។ ពួកគេបាននិយាយថា ពួកគេនឹងបំផ្លាញអ្នកដទៃដែលព្យាយាម។ នោះមានន័យថា ព្រំដែន AI កំពុងរីកចម្រើន ហើយអតុល្យភាពថាមពលកំពុងកើនឡើង។”
សូម្បីតែអតីតបុគ្គលិក Anthropic ក៏ចូលរួមដែរ។ Behnam Neyshabur ដែលពីមុនបានសហការដឹកនាំកិច្ចខិតខំប្រឹងប្រែងរបស់ Anthropic ដើម្បីបង្កើតអ្នកវិទ្យាសាស្ត្រ AI បានបង្ហោះនៅលើប្រកាសមួយទៀតថា “ខ្ញុំបានប្រកែកអស់រយៈពេលប្រាំបីខែចុងក្រោយនេះថាអ្វីៗកំពុងឆ្ពោះទៅរកទិសដៅនេះ។ តាមទស្សនៈរបស់ខ្ញុំ ការផ្តោតអារម្មណ៍នៃជំនាញទាំងនេះជាមូលដ្ឋានធ្វើឱ្យវិទ្យាសាស្ត្រ និងបច្ចេកវិទ្យាទាំងមូលមានភាពយឺតយ៉ាវ។”
ទោះយ៉ាងណាក៏ដោយ មិនមែនសំឡេង AI លេចធ្លោទាំងអស់បានសម្តែងការរិះគន់នោះទេ។ លោក Ethan Mollick សាស្ត្រាចារ្យរងនៅសាកលវិទ្យាល័យ Wharton ដែលសិក្សាពី AI ការច្នៃប្រឌិត និងសហគ្រិនភាព មិនបានផ្តោតលើដែនកំណត់នោះទេ ដោយបានសរសេរនៅក្នុងប្លុកថា Claude Fable 5 “បានដំណើរការយ៉ាងសំខាន់ជាងរាល់គំរូសាធារណៈផ្សេងទៀតដែលខ្ញុំបានប្រើ” ។
អតីតសហស្ថាបនិក OpenAI និងជានាយកក្រុមហ៊ុន Tesla AI លោក Andrej Karpathy ដែលបានប្រកាសថាលោកបានចូលរួមជាមួយ Anthropic កាលពីខែមុន បានហៅ Claude Fable 5 ថាជា “ការចេញផ្សាយដ៏គួរឱ្យរំភើប” ប៉ុន្តែគាត់បានកត់សម្គាល់ថាគំរូ “នៅតែមានភាពចម្លែកដែលមនុស្សនឹងជួបប្រទះ ហើយការការពារត្រូវបានកំណត់រចនាសម្ព័ន្ធឱ្យមានភាពរីករាយខ្លាំងពេកសម្រាប់ការចាប់ផ្តើម ដែលសង្ឃឹមថាអាចកែតម្រូវតាមពេលវេលា” ។
Anthropic និយាយថាខ្លួនចង់ធ្វើឱ្យម៉ូដែលអាចចូលប្រើបាន និងមានសុវត្ថិភាព
មុនពេលការបោះពុម្ពផ្សាយ Anthropic ហាក់បីដូចជាបានរៀបចំសម្រាប់ប្រតិកម្មតបវិញ ប៉ុន្តែមិនបានបញ្ជាក់ជាក់លាក់ពីប្រតិកម្មតបដែលអាចកើតមានទាក់ទងនឹងការរឹតបន្តឹងការស្រាវជ្រាវនោះទេ។ នៅក្នុងបទសម្ភាសន៍ជាមួយ ទ្រព្យសកម្ម កាលពីម្សិលមិញ លោក Dianne Na Penn ប្រធានផ្នែកគ្រប់គ្រងផលិតផល ការស្រាវជ្រាវ និងមន្ទីរពិសោធន៍នៅ Anthropic បាននិយាយថា ម៉ូដែលថ្មីអាចផ្តល់នូវប្រសិទ្ធភាពខ្ពស់បំផុតដែលខ្ពស់ជាង Opus 4.8 ឬម៉ូដែលកំពូលផ្សេងទៀតពី 10 ទៅ 20 ពិន្ទុ។
អ្នកស្រីបានបន្តថា៖ «ខ្ញុំគិតថាសមត្ថភាពក្នុងការធ្វើបែបនេះជាទូទៅ ខណៈពេលដែលមានផ្លូវការពារត្រឹមត្រូវក្នុងការធ្វើឱ្យវាអាចចូលទៅបាន និងជាទូទៅក្នុងលក្ខណៈមានសុវត្ថិភាពគឺប្រហែលជារឿងសំខាន់បំផុតដែលខ្ញុំចង់ឲ្យមនុស្សដកចេញ»។ “យើងកំពុងបង្កើនរបារលើភាពវៃឆ្លាតគំរូខណៈពេលដែលរុញព្រំដែនដោយសុវត្ថិភាព។”
នាងបានបន្ថែមថា Anthropic បានទទួលស្គាល់ថាសំណើដែលគ្មានកំហុសមួយចំនួននឹងត្រូវបានរារាំងពីដំបូង។ “យើងកំពុងធ្វើការយ៉ាងសកម្មដើម្បីធ្វើឱ្យការកែលម្អសុវត្ថិភាពទាំងនេះបន្ទាប់ពីការចេញផ្សាយ ប៉ុន្តែយើងចង់ធ្វើឱ្យម៉ូដែលនេះអាចប្រើបានយ៉ាងទូលំទូលាយ និងមានសុវត្ថិភាពឱ្យបានលឿនតាមដែលអាចធ្វើទៅបាន។”
Anthropic មិនបានឆ្លើយតបទេ។ ទ្រព្យសកម្មសូមបញ្ចេញមតិ។
