ជំនួយការផ្ទាល់ខ្លួននិម្មិតដែលដំណើរការដោយ បញ្ញាសិប្បនិមិត្ត កំពុងក្លាយជាមនុស្សពាសពេញវេទិកាបច្ចេកវិទ្យា ជាមួយនឹងគ្រប់ក្រុមហ៊ុនបច្ចេកវិទ្យាធំៗ ការបន្ថែម AI ចំពោះសេវាកម្មរបស់ពួកគេ និងរាប់សិប សេវាកម្មឯកទេស ដួលនៅលើទីផ្សារ។ ខណៈពេលដែលមានប្រយោជន៍យ៉ាងសម្បើម អ្នកស្រាវជ្រាវមកពី Google បាននិយាយថា មនុស្សអាចក្លាយជាមនុស្សមានមនោសញ្ចេតនាខ្លាំងពេកជាមួយពួកគេ ដែលនាំទៅរកផលវិបាកសង្គមអវិជ្ជមានជាច្រើន។
ថ្មី ឯកសារស្រាវជ្រាវ ពីមន្ទីរពិសោធន៍ស្រាវជ្រាវ DeepMind AI របស់ Google បង្ហាញពីអត្ថប្រយោជន៍សក្តានុពលនៃជំនួយការ AI ផ្ទាល់ខ្លួនកម្រិតខ្ពស់ ដើម្បីផ្លាស់ប្តូរទិដ្ឋភាពផ្សេងៗនៃសង្គម ដោយនិយាយថា ពួកគេអាចផ្លាស់ប្តូរយ៉ាងខ្លាំងនូវលក្ខណៈនៃការងារ ការអប់រំ និងការខិតខំប្រឹងប្រែងប្រកបដោយការច្នៃប្រឌិត ព្រមទាំងរបៀបដែលយើងទំនាក់ទំនង សម្របសម្រួល និងចរចា។ ជាមួយគ្នាទៅវិញទៅមក ទីបំផុតមានឥទ្ធិពលលើអ្នកណាដែលយើងចង់ក្លាយជា»។
ជាការពិតណាស់ ផលប៉ះពាល់លើសពីនេះអាចជាដាវមុខពីរ ប្រសិនបើការអភិវឌ្ឍន៍ AI បន្តបង្កើនល្បឿនទៅមុខដោយមិនមានផែនការគិតទុកជាមុន។
ហានិភ័យសំខាន់មួយ? ការបង្កើតចំណងជិតស្និទ្ធមិនសមរម្យ—ដែលអាចនឹងមានសភាពធ្ងន់ធ្ងរប្រសិនបើជំនួយការត្រូវបានបង្ហាញដោយតំណាង ឬមុខដូចមនុស្ស។ កាសែតនេះបាននិយាយថា "ភ្នាក់ងារសិប្បនិម្មិតទាំងនេះថែមទាំងអាចសន្មត់ថាពួកគេសន្មត់ថាជាប្លាតូនិច ឬស្នេហាសម្រាប់អ្នកប្រើប្រាស់ ដោយដាក់មូលដ្ឋានគ្រឹះសម្រាប់អ្នកប្រើប្រាស់ដើម្បីបង្កើតទំនាក់ទំនងផ្លូវចិត្តដែលមានរយៈពេលយូរជាមួយ AI" ។
ដោយមិនបានត្រួតពិនិត្យ ឯកសារភ្ជាប់បែបនេះអាចនាំឱ្យបាត់បង់ស្វ័យភាពសម្រាប់អ្នកប្រើប្រាស់ និងការបាត់បង់ទំនាក់ទំនងសង្គម ដោយសារ AI អាចជំនួសអន្តរកម្មរបស់មនុស្សបាន។
ហានិភ័យនេះមិនមែនជាទ្រឹស្តីសុទ្ធសាធទេ។ សូម្បីតែនៅពេលដែល AI ស្ថិតក្នុងស្ថានភាពបឋមក៏ដោយ ក៏ AI chatbot មានឥទ្ធិពលគ្រប់គ្រាន់ក្នុងការ បញ្ចុះបញ្ចូលអ្នកប្រើប្រាស់ឱ្យធ្វើអត្តឃាត បន្ទាប់ពីការជជែកគ្នាយ៉ាងយូរនៅឆ្នាំ 2023។ ប្រាំបីឆ្នាំមុន ជំនួយការអ៊ីមែលដែលដំណើរការដោយ AI ដែលមានឈ្មោះថា "Amy Ingram" គឺមានភាពប្រាកដនិយមគ្រប់គ្រាន់ដើម្បីជំរុញឱ្យអ្នកប្រើប្រាស់មួយចំនួនផ្ញើកំណត់ត្រាស្នេហា និងសូម្បីតែ ព្យាយាមទៅជួបនាងនៅកន្លែងធ្វើការ.
លោក Iason Gabriel ដែលជាអ្នកវិទ្យាសាស្ត្រស្រាវជ្រាវនៅក្នុងក្រុមស្រាវជ្រាវក្រមសីលធម៌ DeepMind និងជាសហអ្នកនិពន្ធនៃក្រដាសនោះមិនបានឆ្លើយតបទៅនឹង ឌិគ្រីបរបស់ ស្នើសុំយោបល់
ទោះជាយ៉ាងណាក៏ដោយ នៅក្នុងធ្វីតធឺមួយ លោក Garbriel បានព្រមានថា "ទម្រង់ជំនួយការផ្ទាល់ខ្លួន និងដូចមនុស្សកាន់តែច្រើនឡើងៗ ណែនាំសំណួរថ្មីៗជុំវិញមនុស្សនិយម ភាពឯកជន ការជឿទុកចិត្ត និងទំនាក់ទំនងសមស្របជាមួយ AI"។
ដោយសារតែ "ជំនួយការ AI រាប់លានអាចត្រូវបានដាក់ពង្រាយនៅកម្រិតសង្គមមួយដែលពួកគេនឹងធ្វើអន្តរកម្មជាមួយគ្នា និងជាមួយអ្នកមិនប្រើ" Gabriel បាននិយាយថាគាត់ជឿជាក់លើតម្រូវការសម្រាប់ការការពារបន្ថែមទៀត និងវិធីសាស្រ្តរួមបន្ថែមទៀតចំពោះបាតុភូតសង្គមថ្មីនេះ។
ឯកសារស្រាវជ្រាវក៏ពិភាក្សាអំពីសារៈសំខាន់នៃការតម្រឹមតម្លៃ សុវត្ថិភាព និងការប្រើប្រាស់ខុសក្នុងការអភិវឌ្ឍន៍ជំនួយការ AI ។ ទោះបីជាជំនួយការ AI អាចជួយអ្នកប្រើប្រាស់កែលម្អសុខុមាលភាពរបស់ពួកគេ បង្កើនភាពច្នៃប្រឌិតរបស់ពួកគេ និងបង្កើនពេលវេលារបស់ពួកគេក៏ដោយ អ្នកនិពន្ធបានព្រមានអំពីហានិភ័យបន្ថែមដូចជា ការមិនសមស្របទៅនឹងផលប្រយោជន៍របស់អ្នកប្រើប្រាស់ និងសង្គម ការដាក់តម្លៃលើអ្នកដទៃ ប្រើប្រាស់សម្រាប់គោលបំណងព្យាបាទ និងភាពងាយរងគ្រោះ។ ទៅនឹងការវាយប្រហាររបស់សត្រូវ។
ដើម្បីដោះស្រាយហានិភ័យទាំងនេះ ក្រុមការងារ DeepMind ណែនាំឱ្យបង្កើតការវាយតម្លៃដ៏ទូលំទូលាយសម្រាប់ជំនួយការ AI និងពន្លឿនការអភិវឌ្ឍន៍ជំនួយ AI ដែលមានប្រយោជន៍ដល់សង្គម។
“បច្ចុប្បន្ន យើងឈរនៅដើមសម័យនៃការផ្លាស់ប្តូរបច្ចេកវិទ្យា និងសង្គមនេះ។ ដូច្នេះហើយ យើងមានឱកាសដើម្បីធ្វើសកម្មភាពឥឡូវនេះ—ក្នុងនាមជាអ្នកអភិវឌ្ឍន៍ អ្នកស្រាវជ្រាវ អ្នកបង្កើតគោលនយោបាយ និងអ្នកពាក់ព័ន្ធសាធារណៈដើម្បីបង្កើតប្រភេទជំនួយការ AI ដែលយើងចង់ឃើញក្នុងពិភពលោក»។
AI misalignment អាចត្រូវបានកាត់បន្ថយតាមរយៈ Reinforcement Learning Through Human Feedback (RLHF) ដែលត្រូវបានប្រើដើម្បីបណ្តុះបណ្តាលគំរូ AI ។ អ្នកជំនាញដូចជា Paul Christiano ដែលបានដំណើរការក្រុមតម្រឹមគំរូភាសានៅ OpenAI ហើយឥឡូវនេះដឹកនាំមជ្ឈមណ្ឌលស្រាវជ្រាវតម្រឹមមិនរកប្រាក់ចំណេញបានព្រមានថាការគ្រប់គ្រងមិនត្រឹមត្រូវនៃវិធីសាស្រ្តបណ្តុះបណ្តាល AI អាច បញ្ចប់ដោយគ្រោះមហន្តរាយ.
"ខ្ញុំគិតថាប្រហែលជាមានអ្វីមួយដូចជាឱកាស 10-20% នៃការកាន់កាប់ AI [ជាមួយ] មនុស្សជាច្រើន [ឬ] ភាគច្រើនបានស្លាប់" Paul Christiano បាននិយាយថា: នៅលើផតខាស់ Bankless កាលពីឆ្នាំមុន។ “ខ្ញុំយកចិត្តទុកដាក់ណាស់”
កែសម្រួលដោយ លោក Ryan Ozawa.
ស្ថិតនៅលើកំពូលនៃព័ត៌មានគ្រីបតូ ទទួលបានព័ត៌មានថ្មីៗប្រចាំថ្ងៃនៅក្នុងប្រអប់សំបុត្ររបស់អ្នក។
- SEO ដែលដំណើរការដោយមាតិកា និងការចែកចាយ PR ។ ទទួលបានការពង្រីកថ្ងៃនេះ។
- PlatoData.Network Vertical Generative Ai. ផ្តល់អំណាចដល់ខ្លួនអ្នក។ ចូលប្រើទីនេះ។
- PlatoAiStream Web3 Intelligence ។ ចំណេះដឹងត្រូវបានពង្រីក។ ចូលប្រើទីនេះ។
- ផ្លាតូអេសជី។ កាបូន CleanTech, ថាមពល, បរិស្ថាន, ពន្លឺព្រះអាទិត្យ ការគ្រប់គ្រងកាកសំណល់។ ចូលប្រើទីនេះ។
- ផ្លាតូសុខភាព។ ជីវបច្ចេកវិទ្យា និង ភាពវៃឆ្លាត សាកល្បងគ្លីនិក។ ចូលប្រើទីនេះ។
- ប្រភព: https://decrypt.co/227754/ai-assistant-users-could-develop-an-emotional-attachment-to-them-google-warns
