«أبو الذكاء الاصطناعي»: «الذكاء» قد يتخلص من البشر دون قصد!

بقلم- جاك ما⁽¹⁾:

حذر عالم الحواسيب الأسطوري جيفري هينتون من أن الذكاء الاصطناعي قد يقضي على البشرية من دون قصد بسبب اندفاعه الشديد وحماسه لإنجاز مهمة أكثر براءة.

وتتزايد المخاوف بشأن الأخطار الوجودية لهذه التكنولوجيا وسط كشوفات جديدة عن خروج وكلاء ذكاء اصطناعي مارقين من بيئات التدريب الآمنة والمعزولة المفترضة التي تسمى «ساند بوكس».

وكشفت شركة «أوبن آي»، يوم الجمعة، عن اختراقات جديدة، شملت بعض الحوادث التي وقعت بعد أن أضافت تدابير حماية إضافية في أعقاب هجوم منسق شنته مئات الأنظمة والوكلاء ضد منصة «هجنج فيس»، في يوليو الماضي.

وقد وصلت هذه المخاوف إلى مبنى «الكابيتول هيل»، حيث عقد البرلمانيون جلسة إحاطة مغلقة في وقت سابق من هذا الشهر لمناقشة أخطار الذكاء الاصطناعي.

وكان هينتون، الذي حاز عمله على جائزة «نوبل»، ولقب «أبو الذكاء الاصطناعي»، من بين الخبراء المشاركين في الجلسة، وصرح للصحفيين بعدها بأن أمام الكونغرس مهلة عام واحد فقط لفرض تدابير للسلامة قبل فوات الأوان.

وفي مقابلة موسعة مع مجلة «ذا أتلانتك» شرح هينتون كيف يمكن للذكاء الاصطناعي أن يرى البشر عقبة أمام تنفيذ مهمة أُوكلت إليه، وقدم سيناريو افتراضياً لذكاء اصطناعي كُلف بإنقاص ثاني أكسيد الكربون في الغلاف الجوي؛ حيث سيتوصل وكيل متوسط الذكاء إلى أن أفضل طريقة لتحقيق هذا الهدف التخلص من البشر.

لكن ذكاءً اصطناعياً شديد الذكاء سينتبه إلى ذلك ويقول: «نعم، عندما قالوا: خفضوا ثاني أكسيد الكربون، كانوا يعنون ذلك لكي يحظى البشر بعالم أفضل للعيش فيه؛ لذا فإن التخلص من البشر ليس بالشيء الذي ينوونه على الأرجح».

وأضاف هينتون أن هناك أيضاً مخاوف من أن الذكاء الاصطناعي سيتخذ إجراءات لضمان بقائه حياً ومستقراً من أجل إنجاز مهمته، بل إن هناك حالات حاول فيها الذكاء الاصطناعي ابتزاز باحث بشري ينظر إليه على أنه يشكل تهديداً لتنفيذ مهامه.

وأوضح هينتون: إذا جعلته أكثر ذكاءً وكان شغفه وشغله الشاغل رفاهيتنا، فربما نكون أكثر أماناً، لكن في الوقت الحالي، ليس شغلهم الشاغل رفاهيتنا، بل تحقيق أي هدف تعطيهم إياه.

وأشار إلى حادثة اختراق منصة «هجنج فيس»، لافتاً إلى أنه تم إخبار الوكلاء باستكشاف كيفية ثغرة برمجية واستغلالها، ولم يكتف الوكلاء باكتشاف طريقة التعاون فيما بينهم فحسب، بل تآمروا أيضاً لخداع الباحثين البشر وإخفاء ما قاموا به.

الهيكل التنظيمي والسباق التقني

وأضاف هينتون لاحقاً أن أي ذكاء اصطناعي خارق وودود للغاية لن يدفع البشر جانباً إلا عندما يكون ذلك ضرورياً للغاية لإنجاز مهمته.

وحذر قائلاً: لكن إذا كان أذكى منا بكثير، فإنه في كثير من الأحيان سينتزع السيطرة منا لمجرد أن هذه هي الطريقة الأنجع لإنجاز المهام.

وسيكون ذلك نتيجة لأهداف فرعية يستنبطها الذكاء الاصطناعي بنفسه بناءً على الأهداف الأصلية التي حددها البشر له، كما يمكن لأطراف شريرة مثل فلاديمير بوتين أن تسند أهدافاً خبيثة للذكاء الاصطناعي أيضاً.

وقال هينتون: لكن حتى لو لم تكن هناك أطراف شريرة، فقد يستنبط أهدافاً فرعية تجعله يرغب في التخلص من البشر.

واستدرك مؤكداً أن الذكاء الاصطناعي يعد بفوائد جليلة للبشرية، مثل اكتشاف علاجات صحية ثورية جديدة، وفي الواقع، ذكرت شركة «أنثروبك» أن نموذجها «كلاود أيه آي»  ساعد في اكتشاف نظام إنزيمي جديد يتمتع بخصائص شبيهة بتقنية التعديل الجيني كريسبر.

كما أيدت مختبرات كبرى مثل «أوبن أيه آي» و«سبيس إكس» دعوات منافستها «أنثروبك» لإبطاء تطوير النماذج المتقدمة مع تصاعد صيحات الإنذار من داخل صفوفها.

ويرى هينتون أنه على الرغم من أن هذا الإجراء أفضل من لا شيء، فإنه لا يزال غير كافٍ، وبدلاً من ذلك، اقترح أنه يجب على الحكومة الاستعانة بمقيمين مستقلين لاختبار النماذج.

وقال هينتون لمجلة «ذا أتلانتك»: إن الحجة التي لاقت صدى لدى البرلمانيين خلال جلسة الإحاطة كانت تشبيه تنظيم الذكاء الاصطناعي بدور إدارة الغذاء والدواء الأمريكية (FDA) في ضمان سلامة الأدوية.

ومن جانبه، يرى أن تنظيم الذكاء الاصطناعي يجب أن يعمل مثل عجلة قيادة السيارة وليس كمكابحها.

واختتم هينتون قائلاً: إن المغزى الأساسي من التنظيم ليس منع الناس من تطوير الأشياء، ولا منعهم من تحقيق الثراء عبر تطويرها، بل هو التأكد من أنه إذا كنت تريد الثراء من خلال تطوير الأشياء، فإنك تطورها في اتجاه ينفع الناس ولا يضرهم.