تتصاعد المخاوف من الذكاء الاصطناعي، بسبب قدرات تلك التقنية الثورية، واحتمالية انفلاتها وخروجها عن السيطرة البشرية، إلى الخوف من التدمير.
أفاد تقرير حديث نشره موقع Science Alert المتخصص بالعلوم والتكنولوجيا، إن التحكم في ذكاء خارق يتجاوز بكثير الفهم البشري، ويتطلب محاكاة ذلك الذكاء الفائق الذي يمكننا تحليله، ولكن إذا كنا غير قادرين على فهمها، فمن المستحيل إنشاء مثل هذه المحاكاة.
وقال التقرير إنه لا يمكن وضع قواعد تضمن عدم إصابة البشر بالضرر إذا لم نفهم نوع السيناريوهات التي سيأتي بها الذكاء الاصطناعي، بحسب ما يقول الباحثون. وبمجرد أن يعمل نظام الكمبيوتر على مستوى أعلى من نطاق المبرمجين لدينا، فلن يعود بإمكاننا وضع حدود.
ويأتي جزء من استدلال الفريق البحثي من مشكلة التوقف التي طرحها العالِم Alan Turing في عام 1936، وتتركز المشكلة على معرفة ما إذا كان برنامج الكمبيوتر سيصل إلى نتيجة وإجابة أم لا.
وأثبت Turing من خلال بعض الرياضيات الذكية، أنه يمكننا أن نعرف أنه من المستحيل منطقيًا بالنسبة لبعض البرامج المحددة، إيجاد طريقة تسمح لنا بمعرفة ذلك لكل برنامج محتمل يمكن كتابته في أي وقت. وهذا يعيدنا إلى الذكاء الاصطناعي، والذي في حالة الذكاء الفائق يمكنه عمليا الاحتفاظ بكل برنامج كمبيوتر ممكن في ذاكرته في وقت واحد.
وأي برنامج مكتوب لمنع الذكاء الاصطناعي من إلحاق الضرر بالبشر وتدمير العالم، على سبيل المثال، قد يصل إلى نتيجة ويتوقف، ومن المستحيل رياضيا أن نتأكد تماما من أيّ من الحالتين، ما يعني أنه غير قابل للاحتواء.
ويقول الباحثون إن البديل لتعليم الذكاء الاصطناعي بعض الأخلاقيات وإخباره بعدم تدمير العالم وهو أمر لا يمكن لأي خوارزمية أن تكون متأكدة تمامًا من القيام به، هو الحد من قدرات الذكاء الفائق. ويمكن قطعها عن أجزاء من الإنترنت أو من شبكات معينة، على سبيل المثال.
يُذكر أن عمالقة التكنولوجيا في وقت سابق من هذا العام، بما في ذلك Elon Musk والمؤسس المشارك لشركة آبل، Steve Wozniak، قاموا بتوقيع خطابًا مفتوحًا يطلب من البشرية التوقف مؤقتًا عن العمل على الذكاء الاصطناعي لمدة ستة أشهر على الأقل حتى يمكن استكشاف سلامته.
