الذكاء الاصطناعي يمكن أن يخلق منتجات ضارة وخطيرة

توجد حوافز فاسدة وضارة عند بعض الشركات لتصميم ذكاء اصطناعي يبدو بريئاً بشكل مصطنع، يقول أستاذ الإدارة: إن النهج الأفضل قد ينطوي على مزيد من الحد من الضرر على نطاق واسع.

في يونيو الماضي، أعلنت الإدارة الوطنية لسلامة المرور على الطرق السريعة في الولايات المتحدة عن تحقيق في برنامج الطيار الآلي لشركة تسلا.

فقد أثارت البيانات التي تم جمعها من 16 حادثًا مخاوف بشأن إمكانية برمجة الذكاء الاصطناعي لشركة تسلا للتوقف عن العمل عندما يكون الحادث وشيكًا، وبهذه الطريقة، سيكون سائق السيارة، وليس الشركة المصنعة، هو المسؤول قانونًا في لحظة الحادث.

ويتردد صدى الكشف عن أن سيارة أوبر ذاتية القيادة، التي أصابت امرأة وقتلتها، فقد اكتشفتها قبل ست ثوانٍ من الاصطدام، لكن الذكاء الاصطناعي لم يكن مبرمجًا للتعرف على المشاة خارج ممرات المشاة المخصصة، لماذا؟ لأن المشاة ليسوا هناك من الناحية القانونية.

يعتقد البعض أن هذه القصص هي دليل على أن مفهومنا للمسؤولية يحتاج إلى التغيير، فبالنسبة لهم، فإن الابتكار المستمر دون عوائق والتبني الواسع النطاق للذكاء الاصطناعي هو أكثر ما يحتاجه مجتمعنا، مما يعني حماية الشركات المبتكرة من الدعاوى القضائية.

ولكن ماذا لو كان فهمنا للمنافسة هو الذي يحتاج إلى التطور؟

إذا كان الذكاء الاصطناعي أساسيًا لمستقبلنا، فنحن بحاجة إلى إيلاء اهتمام خاص للافتراضات حول الأضرار والفوائد المبرمجة في هذه المنتجات، وبطبيعة الحال، هناك حوافز غير بريئة لتصميم الذكاء الاصطناعي.

النهج الأفضل قد ينطوي على إستراتيجية أكثر شمولاً للحد من الضرر، ربما يجب أن نشجع التعاون على مستوى الصناعة على فئات معينة من الخوارزميات المنقذة للحياة، وتصميمها لتحقيق الأداء الأمثل.

كل حل يخلق مشكلة جديدة

بعض أصوات الشركات الأعلى صوتًا والأقوى تريدنا أن نثق في الآلات لحل المشكلات المجتمعية المعقدة، ويتم الترحيب بالذكاء الاصطناعي كحل محتمل لمشكلات التواصل بين الثقافات والرعاية الصحية وحتى الجريمة والاضطرابات الاجتماعية.

تريدنا الشركات أن ننسى أن ابتكارات الذكاء الاصطناعي تعكس تحيزات المبرمج، وهناك اعتقاد خاطئ بأنه طالما أن عرض تصميم المنتج يمر عبر قيود قانونية وسياسية داخلية، فمن غير المحتمل أن تكون التكنولوجيا الناتجة ضارة.

لكن الأضرار تظهر بكل أنواع الطرق غير المتوقعة، وقد تعلم فريق التصميم في أوبر عندما واجهت سيارتهم أحد المشاة للمرة الأولى.

ماذا يحدث عندما لا يتم التعرف على الآثار الشائنة للذكاء الاصطناعي على الفور؟ أو عندما يكون من الصعب للغاية إيقاف تشغيل الذكاء الاصطناعي عند الضرورة؟ وهو ما حدث عندما ترددت شركة بوينج في إيقاف طائرة “ماكس 737” بعد اكتشاف خلل في البرمجة تسبب في حوادث، ومات 346 شخصًا نتيجة لذلك.

يجب علينا إعادة صياغة المناقشات التكنولوجية باستمرار من الناحية الأخلاقية، لأن عمل التكنولوجيا يتطلب تعليمات منفصلة وواضحة.

وحيثما لا يوجد إجماع أخلاقي محدد، فإن الأفراد الذين يقومون بتنفيذ الطلبات ببساطة، غالبًا دون أخذ الوقت الكافي للنظر في العواقب الكاملة لأفعالهم.

في معظم شركات التكنولوجيا، تتم مراجعة اقتراح المنتج من قبل فريق قانوني داخلي، وهذا من شأنه أن يلفت الانتباه إلى السياسات التي يحتاج أصحاب التصميم إلى مراعاتها في برامجهم.

قد تتعلق هذه السياسات ببيانات الاستهلاك، ومن أين تأتي البيانات، وما هي البيانات التي يتم تخزينها أو كيفية استخدامها (مجهولة المصدر أو مجمعة أو مفلترة)، وحينذاك سيكون الشغل الشاغل للفريق القانوني هو المسؤولية، وليس الأخلاق أو التصورات الاجتماعية.

دعا البحث إلى اتباع نهج يأخذ في الاعتبار التأمين والتعويض (مسؤولية تعويض الخسارة) لتحويل المسؤولية والسماح لأصحاب المصلحة بالتفاوض مباشرة مع بعضهم البعض، كما يقترحون نقل الخلافات حول الخوارزميات إلى محاكم متخصصة، لكننا بحاجة إلى تفكير أكثر جرأة لمواجهة هذه التحديات.

بدلاً من المسؤولية، سيكون التركيز على الحد من الضرر أكثر من تحقيق الفائدة، لسوء الحظ، لا يسمح نظامنا الحالي للشركات بسهولة التعاون أو مشاركة المعرفة، ولا سيما عند إثارة مخاوف تتعلق بمكافحة الاحتكار، وهذا يجب أن يتغير.

إعادة النظر في حدود المنافسة

تتطلب هذه المشكلات جهودًا واسعة النطاق على مستوى الصناعة، وقد دفعت ضغوط المنافسة المضللة تسلا وأوبر وبوينج إلى إطلاق الذكاء الاصطناعي في وقت مبكر جدًا، وكانوا مهتمين بشكل مفرط بتكاليف المسؤولية القانونية والتخلف عن المنافسين.

يقترح بحثي فكرة غير بديهية إلى حد ما وهي أن المواقف الأخلاقية التي تتخذها الشركة يجب أن تكون مصدرًا للتكافؤ التنافسي في صناعتها، وليس الميزة التنافسية.

بعبارة أخرى، لا ينبغي أن شغل الشركة الشاغل إيجاد طرق أخلاقية لإدارة أعمالها، ولكن، على الأقل يجب أن تكون الالتزامات الأخلاقية هي الحد الأدنى من التوقعات المطلوبة لكل من يتنافس.

يجب أن تتنافس الشركات على متغيرات مثل الراحة أو خدمة العملاء أو عمر المنتج، وليس على خوارزمية الطيار الآلي التي تقلل احتمالية القتل، نحن بحاجة إلى إعفاء للمنافسة قائم على حل المشكلات، يتمحور حول تحد تكنولوجي معين، مثل برامج القيادة الذاتية، ويسترشد برغبة مشتركة لتقليل الضرر.

كيف سيبدو هذا في الممارسة؟ الحقيقة هي أن أكثر من 50% من شركات فورشن 500 تستخدم بالفعل برمجيات مفتوحة المصدر للأعمال ذات المهام الحرجة، وقدرتهم على المنافسة لم يتم خنقها بالتخلي عن خوارزميات الملكية.

تخيل لو أصبح الدافع لتقليل الضرر وظيفة مستهدفة أساسية لقادة التكنولوجيا، سيؤدي ذلك إلى إنهاء الحافز لدى الشركات الفردية حاليًا لتصميم ذكاء اصطناعي ضار يدعي البراءة، وسيحول أولوياتهم الإستراتيجية بعيدًا عن منع التقليد دائمًا وسيتحول نحو تشجيع المنافسين على تقليل الضرر بطرق مماثلة.

وسيتم تنمية الكعكة للجميع، حيث سيكون العملاء والحكومات أكثر ثقة في الثورات التي تحركها التكنولوجيا إذا نُظر إلى المبتكرين على أنهم يجعلون الحد من الضرر هو أولويتهم.

_______________________

(*) أستاذ مساعد في الدراسات الإدارية بجامعة يورك بكندا.

المصدر: “ذي كونفرزيشن”.