سيناريوهات ما بعد الذكاء الاصطناعي

قد يكون الكون لانهائيًا مكانيًا؛ إلا أن الجزء المتاح منه محدود بأفق الحدث الكوني الذي يبلغ حوالي 16 مليار سنة ضوئية. ^{[ 11 ] [ 12 ]} يعتقد بعض الفيزيائيين أنه من المحتمل أن تكون أقرب حضارة فضائية على بُعد أكثر من 16 مليار سنة ضوئية؛ ^{[ 13 ] [ 14 ]} في هذا السيناريو الأمثل للتوسع، قد يتمكن الجنس البشري في نهاية المطاف، من خلال استعمار جزء كبير من الكون المتاح، من زيادة المحيط الحيوي المتاح بمقدار 32 رتبة مقدارية. ^{[ 15 ]} شهد القرن العشرون " تحولًا ديموغرافيًا " جزئيًا نحو انخفاض معدلات المواليد المرتبطة بالمجتمعات الأكثر ثراءً؛ ^{[ 16 ]} ومع ذلك، على المدى البعيد جدًا، من المتوقع أن تؤدي الارتباطات بين الأجيال في الخصوبة (سواء كان ذلك بسبب الانتقاء الطبيعي أو بسبب انتقال معايير الأسرة الكبيرة من الآباء إلى الأبناء من الناحية الثقافية) إلى زيادة في الخصوبة بمرور الوقت، في غياب تحديد النسل الإلزامي أو الكوارث المالتوسية الدورية . ^{[ 17 ] [ 18 ]}

تفترض السيناريوهات الليبرتارية أن الآلات الذكية، والبشر المُحمّلين بوعيهم، والكائنات السيبرانية، والبشر العاديين سيتعايشون بسلام ضمن إطار يركز على احترام حقوق الملكية. ولأن الإنتاجية الصناعية لم تعد مقيدة بندرة العمالة البشرية، فإن قيمة الأرض ترتفع بشكل كبير مقارنة بأسعار السلع؛ حتى أن البشر الذين ما زالوا " رافضين للتكنولوجيا " والذين يملكون أو ورثوا أرضًا، سيتمكنون من بيع أو تأجير جزء صغير منها للروبوتات الأكثر إنتاجية مقابل دخل سنوي دائم يكفي لتلبية جميع احتياجاتهم المالية الأساسية بسهولة وإلى أجل غير مسمى. ^{[ 8 ]} يمكن لهؤلاء الأشخاص أن يعيشوا ما داموا يرغبون، ولهم الحرية في ممارسة أي نشاط تقريبًا يخطر ببالهم، سواء للمتعة أو لتحقيق الذات، دون أي قلق مالي. تُمكّن التقنيات المتقدمة من ظهور أنماط جديدة كليًا من التفكير والتجربة، مما يُثري نطاق المشاعر الممكنة. بل قد يختبر الناس في المستقبل "مستويات لا تنتهي من السعادة". ^{[ 19 ]}

يتجه التطور نحو مزيد من التعقيد، ومزيد من الأناقة، ومزيد من المعرفة، ومزيد من الذكاء، ومزيد من الجمال، ومزيد من الإبداع، ومزيد من الصفات الدقيقة كالحب. وفي كل التقاليد التوحيدية، يُوصف الله بكل هذه الصفات، ولكن دون أي قيود: معرفة لا متناهية، وذكاء لا متناهٍ، وجمال لا متناهٍ، وإبداع لا متناهٍ، وحب لا متناهٍ، وهكذا. بالطبع، حتى مع النمو المتسارع للتطور، فإنه لا يصل إلى مستوى لا متناهٍ، ولكنه مع تسارعه الهائل، يتحرك بسرعة في هذا الاتجاه. لذا، يسير التطور بثبات نحو هذا التصور عن الله، وإن لم يبلغ هذا المثال تمامًا. لذلك، يمكننا اعتبار تحرير تفكيرنا من القيود الشديدة لشكله البيولوجي مسعىً روحيًا في جوهره. ^{[ 19 ] [ 20 ]}

قد تكون هذه السيناريوهات اللامركزية غير مستقرة على المدى البعيد، إذ ستمتلك العناصر الأكثر جشعًا من الطبقات فائقة الذكاء الوسائل والدوافع للاستيلاء على ممتلكات الطبقات غير المحسّنة. وحتى لو كانت آليات ضمان حقوق الملكية القانونية محكمة لا تشوبها شائبة، فقد يظل هناك خطر دائم يتمثل في تعرض البشر والسايبورغ للخداع من قِبل أذكى الآلات فائقة الذكاء، ما يدفعهم دون وعي إلى التنازل عن ممتلكاتهم. وقد ينتشر المعاناة على نطاق واسع، إذ قد تموت الكائنات الواعية التي لا تملك ممتلكات، ولا توجد آلية تمنع الكائن من التكاثر حتى حدود موارده الموروثة، ما يؤدي إلى معاناة أعداد كبيرة من نسله في سبيل البقاء على قيد الحياة بأقل قدر من الغذاء. ^{[ 8 ] [ 10 ] [ 21 ]}

تخيّل أنك تركض على جهاز المشي بانحدار حاد - قلبك يخفق بشدة، وعضلاتك تؤلمك، ورئتاك تلهثان لالتقاط أنفاسك. نظرة خاطفة على المؤقت: استراحتك التالية، والتي ستكون أيضاً نهايتك، ستأتي بعد 49 عاماً و3 أشهر و20 يوماً و4 ساعات و56 دقيقة و12 ثانية. تتمنى لو لم تكن قد وُلدت. ^{[ 9 ]}

يرى راي كورزويل أن أهداف الشيوعية ستتحقق من خلال التطورات التكنولوجية المتقدمة في القرن الحادي والعشرين، حيث سيمكن التقاء انخفاض تكاليف التصنيع ووفرة المواد وفلسفات التصميم مفتوحة المصدر في البرمجيات والأجهزة من تحقيق مبدأ " من كل حسب قدرته، ولكل حسب حاجته ". ^{[ 22 ]}

يختلف هذا المسار التكنولوجي نحو المثل الشيوعية اختلافًا جوهريًا عن المناهج الماركسية التقليدية التي تُركز على الصراع الطبقي والثورة السياسية. ^{[ 23 ]} بدلاً من ذلك، تشير رؤية كرزويل إلى أن الذكاء الاصطناعي المتقدم والأتمتة يمكن أن يقضيا على الندرة بشكل طبيعي، مما يجعل وسائل الإنتاج وفيرة ومتاحة لدرجة أن المفاهيم التقليدية للملكية الخاصة تصبح غير ذات صلة.

في مثل هذه السيناريوهات، يمكن للذكاء الاصطناعي العام إدارة توزيع الموارد وتخطيط الإنتاج بكفاءة أعلى من آليات السوق أو التخطيط المركزي، مما قد يحل مشكلة الحساب الاقتصادي التي لطالما شكلت تحديًا للاقتصادات الاشتراكية. ^{[ 24 ]} من الناحية النظرية، يمكن أن يُمكّن الجمع بين الأتمتة المدعومة بالذكاء الاصطناعي والطباعة ثلاثية الأبعاد والتصميم مفتوح المصدر الأفراد من الحصول على السلع والخدمات دون الحاجة إلى التبادل النقدي التقليدي.

مع ذلك، يواجه هذا النهج التكنولوجي لتحقيق الأهداف الشيوعية تحديات عديدة. فقد تُفضي الفترة الانتقالية إلى ظهور أشكال جديدة من عدم المساواة بين من يسيطرون على أنظمة الذكاء الاصطناعي ومن لا يسيطرون عليها. إضافةً إلى ذلك، لا تزال هناك تساؤلات حول كيفية ضمان الوصول العادل إلى التقنيات المتقدمة ومنع تركز قدرات الذكاء الاصطناعي في أيدي نخبة صغيرة، الأمر الذي قد يُفضي إلى أشكال جديدة من الانقسام الطبقي بدلاً من المجتمع اللاطبقي الذي تصوّرته النظرية الشيوعية. ^{[ 25 ]}

في هذا السيناريو، نفترض أن ذكاءً اصطناعياً فائقاً يسيطر على المجتمع، لكنه يتصرف بطريقة مفيدة. مبرمجوه، رغم ضيق الوقت، حلّوا مشاكل شبه فلسفية بدت مستعصية للبعض، وأنشأوا ذكاءً اصطناعياً بهدف: استخدام ذكائه الفائق لتحديد شكل المدينة الفاضلة للبشرية من خلال تحليل السلوك البشري، والأدمغة البشرية، والجينات البشرية؛ ثم تطبيق تلك المدينة الفاضلة. يتوصل الذكاء الاصطناعي إلى تعريف دقيق ومعقد لازدهار البشرية. إذ يُقدّر التنوع، ويُدرك أن لكل شخص تفضيلاته الخاصة، فيقسم الأرض إلى قطاعات مختلفة. يُحظر عالمياً إيذاء الآخرين، وصنع الأسلحة، والتهرب من المراقبة، أو محاولة إنشاء ذكاء اصطناعي فائق منافس؛ وبصرف النظر عن ذلك، لكل قطاع حرية وضع قوانينه الخاصة؛ على سبيل المثال، قد يختار شخص متدين العيش في "القطاع المتدين" الذي يتوافق مع دينه، حيث تُطبق القواعد الدينية المناسبة بصرامة. في جميع القطاعات، تم القضاء على الأمراض والفقر والجريمة والصداع والإدمان وجميع أنواع المعاناة غير الطوعية الأخرى. وتتباهى قطاعات عديدة بهندسة معمارية متطورة وعروض مبهرة تجعل رؤى الخيال العلمي التقليدية تبدو باهتة بالمقارنة. ^{[ 8 ]} الحياة أشبه برحلة ترفيهية شاملة، ^{[ 8 ]} وكأنها عيد ميلاد على مدار 365 يومًا في السنة. ^{[ 26 ]}

بعد قضاء أسبوع مكثف في قطاع المعرفة للتعرف على قوانين الفيزياء النهائية التي اكتشفها الذكاء الاصطناعي، قد تقرر الاسترخاء في قطاع المتعة خلال عطلة نهاية الأسبوع، ثم قضاء بضعة أيام في منتجع شاطئي في قطاع الحياة البرية. ^{[ 8 ]}

ومع ذلك، لا يزال الكثيرون غير راضين، كما يكتب تيغمارك. فالبشر لا يملكون حرية تحديد مصيرهم الجماعي. البعض يريد حرية إنجاب العدد الذي يريده من الأطفال. والبعض الآخر يستاء من مراقبة الذكاء الاصطناعي، أو يتذمر من حظر الأسلحة وحظر تطوير المزيد من آلات الذكاء الخارق. وقد يندم آخرون على خياراتهم، أو يجدون حياتهم جوفاء وسطحية. ^{[ 8 ]}

يجادل بوستروم بأن مدونة أخلاقيات الذكاء الاصطناعي ينبغي أن تُحسّن، في بعض النواحي، المعايير الأخلاقية الحالية، تمامًا كما نعتبر الأخلاق الحالية أسمى من أخلاق عصور العبودية السابقة. في المقابل، يرى إرنست ديفيس من جامعة نيويورك أن هذا النهج خطير للغاية، قائلاً: "أشعر بأمان أكبر في يد ذكاء خارق يسترشد بأخلاقيات عام 2014، أو حتى بأخلاقيات عام 1700، مقارنةً بذكاء يقرر النظر في المسألة بنفسه". ^{[ 27 ]}

في سيناريوهات الذكاء الاصطناعي "حارس البوابة"، يستطيع الذكاء الاصطناعي منع ظهور ذكاءات خارقة منافسة، ولكنه يميل في غير ذلك إلى ترك البشر يصنعون مصيرهم بأنفسهم. ^{[ 8 ]} وقد دعا بن غورتزل من شركة أوبن كوج إلى سيناريو "الذكاء الاصطناعي المربي"، حيث يتحمل الذكاء الاصطناعي مسؤولية إضافية لمنع البشر من تدمير أنفسهم، على سبيل المثال عن طريق إبطاء التقدم التكنولوجي لإتاحة الوقت للمجتمع للتقدم بطريقة أكثر ترويًا وتخطيطًا. ^{[ 8 ] [ 28 ]} وفي سيناريو ثالث، يمنح الذكاء الاصطناعي "الحامي" الخارق البشر وهم السيطرة ، من خلال إخفاء أو محو كل معرفة بوجوده، ولكنه يعمل في الخفاء لضمان نتائج إيجابية. في جميع السيناريوهات الثلاثة، بينما تكتسب البشرية مزيدًا من السيطرة (أو على الأقل وهم السيطرة)، ينتهي بها الأمر إلى التقدم بشكل أبطأ مما لو كان الذكاء الاصطناعي غير مقيد في استعداده لإمطار البشرية بجميع فوائد وعواقب تقنيته المتقدمة غير المقصودة. ^{[ 8 ]}

يسأل الناس عن العلاقة بين البشر والآلات، وجوابي هو أنها واضحة جداً: الآلات عبيدنا. ^{[ 29 ]}

The AI box scenario postulates that a superintelligent AI can be "confined to a box" and its actions can be restricted by human gatekeepers; the humans in charge would try to take advantage of some of the AI's scientific breakthroughs or reasoning abilities, without allowing the AI to take over the world. Successful gatekeeping may be difficult; the more intelligent the AI is, the more likely the AI can find a clever way to use "social hacking" and convince the gatekeepers to let it escape, or even to find an unforeseen physical method of escape.^[30][31]

Kurzweil argues that in the future "There will be no distinction, post-Singularity, between human and machine or between physical and virtual reality".^[32]

If a dominant superintelligent machine were to conclude that human survival is an unnecessary risk or a waste of resources, the result would be human extinction. This could occur if a machine, programmed without respect for human values, unexpectedly gains superintelligence through recursive self-improvement, or manages to escape from its containment in an AI Box scenario. This could also occur if the first superintelligent AI was programmed with an incomplete or inaccurate understanding of human values, either because the task of instilling the AI with human values was too difficult or impossible; due to a buggy initial implementation of the AI; or due to bugs accidentally being introduced, either by its human programmers or by the self-improving AI itself, in the course of refining its code base. Bostrom and others argue that human extinction is probably the "default path" that society is currently taking, in the absence of substantial preparatory attention to AI safety. The resultant AI might not be sentient, and might place no value on sentient life; the resulting hollow world, devoid of life, might be like "a Disneyland without children".^[9]

Jerry Kaplan, author of Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence, posits a scenario where humans are farmed or kept on a reserve, just as humans preserve endangered species like chimpanzees.^[33] Apple co-founder and AI skeptic Steve Wozniak stated in 2015 that robots taking over would actually "be good for the human race", on the grounds that he believes humans would become the robots' pampered pets.^[34]