Sci - nature wiki

مقابلة بيث سينجلر: مخاطر معاملة الذكاء الاصطناعي مثل الإله

0

بيث سينجلر

بيث سنجلر ، عالم أنثروبولوجيا الذكاء الاصطناعي بجامعة كامبريدج

ديف ستوك

لقد اعتدنا على فكرة تأثير الذكاء الاصطناعي على حياتنا اليومية ، ولكن بالنسبة لبعض الناس ، تعتبر تقنية مبهمة تشكل تهديدًا أكثر من كونها فرصة. تدرس عالمة الأنثروبولوجيا بيث سينجلر علاقتنا بالذكاء الاصطناعي والروبوتات وتشير إلى أن الافتقار إلى الشفافية وراء ذلك يقود بعض الناس إلى رفع الذكاء الاصطناعي إلى شخصية غامضة تشبه الإله.

يقول سينجلر: “قد يتحدث الناس عن أن الخوارزمية تنعم بهم” ، ولكن في الواقع من المحتمل أن يكون القرار واضحًا للغاية يتم اتخاذه على مستوى الشركة. بدلاً من الخوف من تمرد الروبوت أو إصدار إله من الذكاء الاصطناعي يحكم علينا ، كما أخبرت إميلي بيتس ، يجب أن نحدد وننتقد أولئك الذين يتخذون قرارات حول كيفية استخدام الذكاء الاصطناعي. يقول سينجلر: “عندما يصبح الخوف مستهلكًا للغاية ويصرفك عن هذه الأسئلة ، أعتقد أن هذا مصدر قلق”.

إميلي بيتس: أنت تصف نفسك كشخص “يفكر فيما نفكر فيه نحن البشر بشأن الآلات التي تفكر”. هل يمكن ان توضح ما تعنيه بذلك؟
بيث سينجلر: أنا عالمة أنثروبولوجيا في الذكاء الاصطناعي ، لذلك أدرس البشر الذين يحاولون فهم كيفية القيام بذلك [AI] يؤثر على حياتهم. كمجال ، فإنه يتضمن العديد من جوانب التكنولوجيا المختلفة من التعرف على الوجه وأنظمة التشخيص وأنظمة التوصية ، وبالنسبة لعامة الناس ، يتم إدراج كل هذه الأنواع من التفاصيل تحت هذا العنوان من الذكاء الاصطناعي. [And] إنها ليست مجرد استخدامات بسيطة للذكاء الاصطناعي ، ولكن كيف يتصور أن يكون هو الذي يعكس أيضًا ما نعتقد أنه مستقبل الذكاء الاصطناعي من حيث أشياء مثل الروبوتات ، وتمردات الروبوتات ، والسيطرة على الآلات الذكية.

هل هناك أي شيء يجب أن نقلق بشأنه في الذكاء الاصطناعي؟ هل هناك تحيزات راسخة؟
كل شيء نصنعه كبشر يعكس سياقاتنا وثقافتنا واهتماماتنا ، وعندما يتعلق الأمر بأنظمة صنع القرار الخوارزمية ، فإن البيانات التي نختار إدخالها فيها تؤدي إلى نتائج معينة. يمكننا أن نقول إدخال القمامة ، قمامة بالخارج. لكننا نريد أيضًا أن نكون حذرين للغاية لأننا لا نشخص الذكاء الاصطناعي كثيرًا لدرجة أننا نقرر أن لديه وكالة لا تمتلكها حقًا. يجب أن نكون واضحين جدًا أنه يوجد دائمًا بشر في الحلقة.

لماذا نعتقد أنه إذا أصبح الذكاء الاصطناعي قويًا ، فسوف يريد أن يحكمنا ويضعنا تحت الحذاء؟
في كثير من الأحيان ، يأتي ذلك من افتراضاتنا حول كيفية تعاملنا مع الآخرين. متى [Western civilisations] انتشرت في جميع أنحاء العالم وواجهت ثقافات السكان الأصليين ، ولم نعاملهم بالضرورة جيدًا بشكل خاص ، ويمكننا أن نرى هذا النوع من الأشياء يتوسع. إذا اعتبرنا أنفسنا أكثر الأنواع ذكاءً على هذا الكوكب ودمرنا البيئات وجعلنا الحيوانات في خطر ، فلماذا لا يفعل الذكاء الأكبر من ذكاءنا نفس الشيء لنا؟ أو إذا رأينا المسافة بيننا وبين النمل تعادل المسافة بين الذكاء الخارق وأنفسنا ، فربما لا يهتم الأمر كذلك. سوف تتفاعل بطريقة معينة مفيدة لنفسها ، لكن هذا قد لا يكون مفيدًا جدًا للبشر.

https://www.youtube.com/watch؟v=c31TjqAbZuI

هل تعتقد أن الخوف من الذكاء الاصطناعي له ما يبرره؟ هل ستتولى الروبوتات المهمة؟
أعتقد أنه من المثير للاهتمام في الواقع أن نستمر في طرح هذا السؤال ، وأن نستمر في العودة إلى قصة الخوف هذه ، وأننا قلقون بشأن الأشياء التي نخلقها ، وكيف يمكن أن يكونوا مثلنا من حيث الذكاء ، ولكن أيضًا كيف يمكن أن يكونوا مثلنا من حيث سماتنا السيئة ، مثل تمردنا أو أنانيتنا أو عنفنا. أعتقد أنه يأتي في كثير من الأحيان من شعورنا بأنه يجب أن تكون هناك عقول فقط في أماكن معينة. لذلك نشعر بالقلق الشديد عندما نرى شيئًا يتصرف كإنسان لديه نفس المستوى من الذكاء أو حتى تخوف من الشعور في مكان لا نتوقعه فيه.

إلى أي مدى نحن بعيدون ، وكيف سنعرف متى صنعنا آلة لها نفس مستوى الذكاء الذي نتمتع به؟
يتعلق الأمر حقًا بما نتصوره على أنه ذكاء وكيف نصف النجاح في الذكاء الاصطناعي. لذلك لفترة طويلة منذ بداية مفهوم الذكاء الاصطناعي ، يتعلق الأمر بأن تكون جيدًا جدًا في القيام بمهام بسيطة ، مهام محدودة في مجال بسيط للغاية. وبعد ذلك بمرور الوقت ، تصبح هذه المجالات أكثر تعقيدًا ، ولكن لا يزال الأمر يتعلق بالنجاح. إذن ، التاريخ الكامل لممارسة ألعاب الكمبيوتر ، على سبيل المثال ، بدءًا من الألواح البسيطة للعب لعبة تيك تاك تو والشطرنج ، وصولاً إلى لعبة Go and ستاركرافت الثاني تنموي ، لكنه لا يزال مؤطرًا حول النجاح والفشل. وعلينا أن نسأل ، هل هذا في الواقع ما نعتقد أنه الذكاء؟ هل الذكاء جيد في ألعاب من هذا القبيل؟

هل هناك لعبة تعتقد أنها قد وصلت إلى مستوى الذكاء البشري عندما يتمكن الكمبيوتر من لعبها بنجاح؟
أنا مهووس ضخم وغير نادم ، وأنا أستمتع حقًا باللعب الأبراج المحصنة والتنينات. وأعتقد أن الشيء المهم حقًا في هذا الشكل من اللعب هو أنه رواية قصص جماعية. يتعلق الأمر أكثر بكثير بتجربة اللعب معًا بدلاً من النجاح أو الفشل. وأعتقد أنه إذا كان بإمكانك الحصول على ذكاء اصطناعي يمكنه فهم هذا التعاون ، فستكون أقرب كثيرًا إلى شيء قد نفكر فيه على أنه ذكاء متجسد أو ذكاء بشري مجتمعي. تكمن المشكلة في أن هذا قد يكون في الواقع قفزة إلى الذكاء الاصطناعي العام للقيام بذلك.

صورة افتراضية لعالم جديد

يلعب لاعب Go الكوري الجنوبي Lee Sedol دور AlphaGo من Deepmind

لي جين مان / ا ف ب / شاترستوك

ما هو الذكاء العام الاصطناعي؟
الفكرة هي أنه إذا تمكن الذكاء الاصطناعي من الوصول إلى مستوى الذكاء البشري ، فقد يتفوق عليه في الذكاء الخارق ثم ربما يذهب إلى منطقة لا نفهمها تمامًا ، حيث يكون ذكاءه بعيدًا عن تصورنا لدرجة أنه سيكون مكافئًا من التفرد الكوني الذي لديك في الثقب الأسود أو في بداية الكون. لا نعرف كيف نتصور أو نصف ذلك حقًا ، [although] يحاول الخيال العلمي الذهاب إلى هناك بأفكار حول الآلات الذكية والواعية التي تتفاعل بطرق معينة مع البشر ، أحيانًا بشكل سلبي تمامًا. أو يمكن أن نكون أنفسنا نوعا ما منغمسين في هذه الذكاء ويصبح نوعا من لحظة نشوة علمانية.

أنت تتحدث عن هذه التفرد التكنولوجي الذي أصبح شخصية شبه إلهية. ماذا تقصد بذلك؟
بالنسبة لبعض الناس ، قد يكون هذا تحولًا حرفيًا ، وهو أقرب ما يمكن أن نحصل عليه من وجود الإله ، وبالنسبة للآخرين ، فهو أكثر علاقة مجازية بين فكرتنا عن ماهية الإله ومدى قوة هذه الإمكانات التفرد AI سيكون. كانت لدينا طرق لوصف الآلهة التوحيدية بأنها موجودة في كل مكان ، وكلية العلم ، ونأمل أن تكون كلي الوجود أيضًا. وعندما تبدأ في الحديث عن هذه التفرد القوي للغاية ، يبدو أن لديها بعض تلك السمات ، على الأقل في هذه النظرية حولها.

ماذا يمكن أن تكون عواقب ذلك؟
بالنسبة لبعض المجموعات التي توصف عمومًا بأنها ما بعد الإنسانية ، قد تكون هذه نتيجة إيجابية للغاية. يعتقدون أن هذا قد يكون طريقًا نحو شكل من أشكال الخلود ، بحيث يمكننا الهروب من أجسادنا المادية ونصبح عقولًا يتم تحميلها في فضاء التفرد ، وبالتالي قد نعيش إلى الأبد ، ونكون قادرين على استكشاف الكون وتجربة كل ما يمكن تجربته. يشعر الآخرون بالقلق من أن التفرد التكنولوجي قد يؤدي إلى عواقب سلبية ، وهي نسخة أسية من تمرد الروبوت حيث يحكم علينا هذا الإصدار الإلهي من الذكاء الاصطناعي ، ولا يحبنا ، ويتخلص منا لأسباب مختلفة. لذلك هناك نوعان من التفسيرات.

هل هناك خطر إذًا من أن نبدأ في التعامل مع الذكاء الاصطناعي بطريقة مبجلة ، تقريبًا مثل أسلوب الله؟
تبحث بعض أبحاثي على وجه التحديد في الأماكن التي لا نقوم فيها فقط بتجسيد الذكاء الاصطناعي ، ولكن في الواقع بطريقة ما ، نؤله الذكاء الاصطناعي ونبدأ في التفكير في الخوارزميات خلف الكواليس التي تتخذ قرارات تباركنا في الواقع بطريقة ما. إذا انتقلت إلى Spotify وسمعت أغنية مفيدة أو ذات صلة بشكل خاص ، أو إذا كنت منتجًا للمحتوى ووضعت شيئًا ما على YouTube وكان ذلك جيدًا لأن الخوارزمية تسلط الضوء عليه بطرق معينة ، بسبب نقص الشفافية حول كيفية استخدام الذكاء الاصطناعي ونوع القيم التي يتم استيرادها إلى الذكاء الاصطناعي من قبل الشركات ، يبدو أنه يتصرف بطرق غامضة. ثم نعتمد على لغتنا الحالية ورواياتنا واستعاراتنا من السياقات الثقافية القائمة مثل الأفكار الدينية. وبالتالي ، فإننا نقود الحديث عن الذكاء الاصطناعي باعتباره شكلاً من أشكال الله يشرف علينا.

ما هي احتمالات أن نكون إبداعات لشيء بمستوى من الذكاء تجاوزناه؟
مرة أخرى ، يقع هذا في تلك الأنماط اللاهوتية اللاهوتية للأفكار حول إله خالق ، كيان أسمى خلقنا. كما أنه يعتمد على بعض الأفكار حول ما إذا كنا نعيش في كون محاكاة ، نوعًا ما في أسلوب المصفوفة، لأن الحجة تقول أنه إذا تمكنا من إنشاء ألعاب ذات مستوى معين من التطور ، فماذا يعني أن كيانًا أكبر لم يخلق هذه المحاكاة أساسًا لنا لنعيش فيه؟ وهذه الأنواع من الأسئلة تجعل بعض الناس مستيقظين لوقت متأخر من الليل. لكنني أعتقد أنه يمكن أن يكون في بعض الأحيان مصدر إلهاء ، وفي الواقع يستخدم بعض الأشخاص الذين يتبنون هذه الأنواع من الروايات الذكاء الاصطناعي بطرق عملية محدودة للغاية تؤثر على حياتنا بالفعل. لذا فإن المحاكاة التي نعيشها هي بالفعل محاكاة لشركات معينة ومليارديرات نحتاج في الواقع إلى أن نكون حرجين للغاية بشأنها. قد يتحدث الناس عن أن الخوارزمية تنعم بهم. لكن في الواقع ، إنه قرار مميز جدًا يتم اتخاذه على مستوى الشركة أن يتم تسليط الضوء على قصص معينة على قصص أخرى.

هل تعتقد أننا نخشى الذكاء الاصطناعي كثيرًا؟
أعتقد أن هناك مستوى صحيًا معينًا من الخوف عندما يتعلق الأمر بتطبيقات الذكاء الاصطناعي التي يمكن أن تؤدي إلى فهم ما يحدث معها ، وانتقادها ، ومحاولة صد عدم الشفافية هذا ، وتحديد من يقف وراء الكواليس والقيام قرارات حول كيفية استخدام الذكاء الاصطناعي. أعتقد أنه عندما يصبح الخوف مستهلكًا للغاية ويصرفك عن تلك الأسئلة ، أعتقد أن هذا مصدر قلق.

ما هو أملك لمستقبل الذكاء الاصطناعي؟
أود أن أرى التكنولوجيا المستخدمة بطرق مناسبة وعادلة ومسؤولة ، وأعتقد أن هذه رغبة مشتركة ونرى المزيد والمزيد من الدفع نحو ذلك. إن مخاوفي تتعلق أكثر بالمشاركة البشرية في اتخاذ القرارات حول كيفية استخدام الذكاء الاصطناعي أكثر من الذكاء الاصطناعي في الهروب والتحول إلى هذا الشيء الكارثي في ​​حد ذاته.

عالم جديد فيديو
شاهد الفيديو المصاحب لهذه الميزة والعديد من المقالات الأخرى على youtube.com/newscientist

المزيد عن هذه المواضيع:

Leave A Reply

Your email address will not be published.