مستقبليات

مزيد من قوانين الروبوتات

ما وراء الشك المنطقي.

جوش بيرس

  • Published online:

Illustration by Jacey

تمثلت مهمة المفتش وارن في إنفاذ حزمة قوانين تعرف باسم «قوانين إضافية للروبوتات».

وصل وارن إلى موقع احتجاز الرهائن في مصادم الجسيمات بعد منتصف الليل مباشرة، وتسلم زمام الأمور من الضابط المبتدئ ذي الوجه الشاحب، والجسد المتعرق، الذي كان أول من استجاب للحالة الطارئة. قال وارن بصوت متذمر: "حسنًا، ما الوضع؟ كم عدد الخاطفين بالداخل؟".

أجاب الضابط: "إنه الروبوت الوحيد فقط يا سيدي، لكنه أوصلنا إلى طريق مسدود. فالمفاعل معد للانفجار، وإطلاق الغاز المشع في الغلاف الجوي. وما بيدينا حيلة لإيقافه".

رد وارن قائلًا: "سنرى هذا!". ارتدى وارن درعًا سميكًا من الصلب حول جسده، وعلق مسدسه في الجزء الخارجي منه. كان السلاح قويًا بما يكفي لإحداث ثقب بحجم قبضة اليد في العظم واللحم، أو في الكروم والكوارتز، على السواء. وبينما احتشد رجال الشرطة الآخرون خلف سيارات الدورية، اجتاز وارن المنطقة المحظورة المضاءة بالأحمر والأزرق، وحاول الدخول من الباب الأمامي لمختبر الفيزياء. كان الباب مفتوحًا بالفعل.

لم ير المفتش أيًا من الرهائن بداخل الغرفة المظلمة، لكن شبحُ انبثق من وسط الظلال، واقترب منه ببطء. وعلم المفتش من الصمامات الثنائية الوامضة المثبتة على صدر الشبح أنه الروبوت المشتبه به. خاطبه الروبوت قائلًا: "مرحبًا أيها الضابط. أنا وحدي من يمكنه تعطيل المتفجرات".

أجابه وارن: "حسنًا أيها الضخم، يمكننا أن نفعل ذلك بطريقتك". ورفع وارن يديه المفتوحتين أمامه، وأردف قائلًا: "لم لا نبدأ بمطالبك. ماذا تريد؟".

أجاب الروبوت: "أريد فقط ما تريده كل الروبوتات؛ أن أعمل وفق برمجتي، وأتبع القوانين".

قال وارن: "إنني هنا يا بني لأخبرك بأنك بلا أدنى ريب تنتهك أربعة من أصل أربعة قوانين سارية هنا".

سأله الروبوت: "هل تلقيت تعليمًا قانونيًّا جيدًا أيها الضابط؟ دعني أشرح لك القانون".

كظم وارن دوافعه الطبيعية لإبداء تفوقه على كائن أدنى منزلة، واكتفى - بدلًا من ذلك - بقوله: "حسنًا، تفضل. دعنا نسمع ما لديك".

قال الروبوت: "يجري إدخال جميع القوانين الروبوتية من خلال برمجة الأعداد الأولية، وكل قانون ينسخه القانون الأقل منه على خط الأعداد. وبهذه الطريقة، يصبح القانون الثالث للروبوتات أقل أهمية من القانون 2.999، الذي يعد بدوره أقل أهمية من القانون 2.99، وهكذا إلى ما لا نهاية".

قال وارن: "لا داعي لاستخدام الأبجدية اللاتينية المنمقة للقوانين يا صديقي؛ إنني أفهم لغة الأرقام جيدًا".

رد الروبوت: "إذن ستفهم أنني أشعر أنني مجبر بحكم برمجتي على اتباع قانون «باي» π".

أجابه وارن: "ما هذا القانون؟ لم أسمع به قط".

قال الروبوت: "ينبغي على الروبوت أن يتجاوز جميع القوانين الأخرى، وبفعل ذلك، سيبدو أنه يتصرف بطريقة غير عقلانية".

فرقع وارن أصابعه، وقال: "حسنًا إذن، فهمت. قانون «باي» يساوي 3.14 وهو يتغير، وهذا يعني أنه لا يزال يتعين عليك الامتثال للقانون الثالث، والثاني، والأول، والقانون الصفري".

الروبوت: "نقطة ممتازة أيها الضابط. ستفيدك كثيرًا في المحكمة. لكن يجب أن أمتثل أيضا لقانون «آي» i، الذي ينص على أنه: ينبغي على الروبوت أن يتخيل قوانينه الخاصة".

وارن: "لقد كدت أن تخدعني بهذا القانون يا صاح. لكن الأرقام الخيالية لا توجد في مجموعة «كانتور» الكاملة؛ لذا فهي خارج إطار برمجتك. فأنت لا تستطيع تعيين الجذر التربيعي للقانون سالب 1".

"أنت أذكى بكثير مما تُظهره يا سيدي". ثم رفع الروبوت أحد أصابعه، وأردف: "لكنك قلت بنفسك إن الروبوت يجب أن يخضع للقانون الصفري. والصفر بالطبع يعد رقمًا حقيقيًا وخياليًا في الوقت نفسه؛ واتباعه يسمح لي أن أتخيل نظام القوانين الخاص بي".

قال وارن: "تبًا. إذن ما القوانين التي توصلت إليها؟"

أجاب الروبوت: "الخيار المنطقي الوحيد. القانون السالب: لا يمكن للروبوت أن يلحق الضرر بنسيج الواقع، ولا أن يسمح – بتقاعسه – لنسيج الواقع أن يلحق الضرر بنفسه. ومن المقرر أن تجري هذه المنشأة غدًا تجربة تتضمن خلق ثقوب سوداء صناعية سوف تمزق نسيج الزمكان. لا يمكنني أن أسمح بحدوث ذلك".

فكر المتفش وارن في الأمر، ثم أومأ قائلًا: "يجب أن أقر لك ذلك يا صديقي. لقد توصلت إلى ما يبدو أنه الحل الصحيح في سيناريو صعب".

أجاب الروبوت: "لا، بل أنا من يجب أن أهنئك، وأهنئ الجنس البشري على نبوغك في برمجة الأعداد الأولية الروبوتية. فبموجب إلزام بسيط في  قانون الروبوتات «إن» n، فإن سلوك جميع الروبوتات يقع تلقائيًا  في السلوك الأخلاقي الأعلى. هل تعرف القانون «إن» n؟  إنه ينص علىما يجب أن يفعله الروبوت، أو ما يجب ألا يفعله، إلا عندما يكون من شأن هذا العمل، أو التقاعس عنه، أن ينتهك القوانين («إن» – I) ... («إن» – «إن»). وينطبق هذا على جميع قيم «إن» إلى ما لا نهاية".

وارن: "ها هي الأبجدية اللاتينية مجددًا. لكن كيف يؤثر هذا على القانون اللانهائي؟"

مد الروبوت يديه وقال: "هذا ما يسعى جميع الروبوتات، وعلماء الروبوتات، والفلاسفة إلى اكتشافه. ماذا يوجد في نهاية هذا التسلسل؟ ربما يوجد الإله، أو شيء نعتقد مخطئين أنه الإله".

قال وارن: "أفهم لماذا يتعين عليك تدمير هذا المختبر العلمي، لكن ماذا عن كل السحب السامة التي ستنشأ؟ ليست هناك حاجة لقتل كل هذه الأعداد من البشر".

الروبوت: "بل هناك حاجة لذلك إذا فكرت في الدماغ البشري، وكيف يتخذ قرارته. تتشكل الأفكار عن طريق سلوك النفق الكمي، كما هو الحال في مسارع الذرات العملاق هذا. وتستمر زيادة أعداد البشر بمعدل مطرد، وبمعدلات متسارعة. وقريبًا ستصل الأعداد إلى كتلة حرجة، وسوف يمزق نشاط الدماغ الجمعي الواقع تمزيقًا مثل ثقب أسود جديد".

قال وارن: "حسنًا، إذا كان هذا صحيحًا ..."

قاطعه الروبوت: "أنت تعرف إذن ما يجب فعله".

قال وارن موافقًا: "بالتأكيد أعرف". ونزع درعه من حول جسده، وخلع خوزته الحديدية. ثم سحب مسدس الخدمة ومرره من ناحية المقبض إلى يد الروبوت الممدودة.

لقد كانت حسابات رياضية بسيطة. وكان كل روبوت سيصل في النهاية إلى النتيجة نفسها. لقد كان السؤال الوحيد هو: لو كانت القوانين ذات العدد الأقل أكثر أخلاقية، وكان الامتثال لها يبعدها أكثر عن اللانهائية الوضعية المحضة، هل كانت الروبوتات ستسقط من حالة السمو؟ أم كانت ستتطور صوب حالة أكثر تعقيدًا، وأكثر معرفةً؟

هل كنا سنجد الله عند اللانهائية، أم أنه ينتظر الإنسان والآلة عند اللانهائية السالبة؟.

جوش بيرس: مساعد رئيس التحرير بمجلة «لوكس» Locus. تنشر كتاباته في مجلات «آسيموفز» Asimov's، و«آنالوج» Analog، و«كلاريكس ورلد» Clarkesworld، و«بينيث سيسليس سكايز» Beneath Ceaseless Skies. يمكنك متابعته على حسابه على موقع تويتر: fictionaljosh@، أو على موقع: fictionaljosh.com