المنظور القانوني لمسؤولية الذكاء الاصطناعي من الناحية الأممية قراءة تحليلية نقدية

ملخص:

تبحث هذه الدراسة في معالجة القانون الدولي لمسؤولية الأضرار الناتجة عن أنظمة الذكاء الاصطناعي، في ظل غياب نص معاهدي ملزم يحكم هذا المجال المتسارع التطور، تعتمد الدراسة منهجا تحليليا نقديا، وتفترض ثلاث فرضيات رئيسية: أولا، أن المنظومة الأممية ترفض منح الذكاء الاصطناعي شخصية قانونية وتعتمد بدلا من ذلك على آليات الإسناد البشري؛ ثانيا، أن القانون الناعم والمعايير التقنية تشكل بديلا مرحليا عن المعاهدة الملزمة؛ ثالثا، أن ربط الذكاء الاصطناعي بحقوق الإنسان يوفر مدخلا عمليا للمساءلة الدولية، وتخلص الدراسة إلى أن المنظور الأممي الحالي يمثل حلا مرحليا ناجعا لكنه غير كاف لمواجهة تحديات الأنظمة فائقة الاستقلالية، وتقترح في ختامها سبع توصيات سياساتية تشمل إطلاق مفاوضات لاتفاقية إطارية، وإنشاء صندوق تعويض دولي، وفرض تأمين إلزامي على الأنظمة عالية المخاطر.

Abstract

This study examines how international law addresses liability for damages caused by artificial intelligence systems, in the absence of a binding treaty governing this rapidly evolving field. Adopting a critical analytical methodology, the study posits three main hypotheses: first, that the United Nations rejects granting legal personality to AI and instead relies on human attribution mechanisms; second, that soft law and technical standards serve as a transitional alternative to a binding treaty; third, that linking AI to human rights provides a practical avenue for international accountability. The study concludes that the current UN approach represents an effective transitional solution but remains insufficient to address the challenges of highly autonomous systems. It proposes seven policy recommendations, including launching negotiations for a framework convention, establishing an international compensation fund, and imposing mandatory insurance for high-risk AI systems.

المقدمة

تحدث أنظمة الذكاء الاصطناعي التوليدي، وبخاصة نماذج التعلم العميق، تحولا بنيويا في فلسفة المسؤولية القانونية التقليدية التي ظلت لقرون متمركزة حول الفاعل الإنساني الواعي القادر على الإرادة والاختيار، ففي مقابل هذا التصور الكلاسيكي، تخلق أنظمة الذكاء الاصطناعي المستقلة القرار ما بات يعرف في أدبيات القانون المقارن بفجوة المسؤولية، وهي فجوة تنشأ عن تشابك أدوار متعددة ومتداخلة يصعب معها تطبيق قواعد الإسناد التقليدية، فهناك المطور الذي يصمم المعمارية التقنية، ومدرب النموذج الذي يختار بيانات التدريب وينقيها، والمشغل الذي يحدد سياق الاستخدام والبيئة التشغيلية، والمستخدم النهائي الذي يتفاعل مع مخرجات النظام، والمنظم الذي يمنح ترخيص التشغيل ويحدد شروط الاعتماد[1]، تتسع هذه الفجوة على المستوى الدولي بسبب الطابع العابر للحدود للأنظمة الرقمية، وغياب تعريف قانوني موحد لمصطلحات جوهرية كـالنظام عالي المخاطر والقدرة على التفسير، وتباين مستويات التنظيم بين الدول المتقدمة والدول النامية التي تفتقر إلى البنى التحتية التقنية والقدرات المؤسسية اللازمة[2].

تكتسي هذه الدراسة أهميتها النظرية والعملية من كونها تقدم قراءة نقدية للمنظور الأممي في مجال بالغ الحيوية والتسارع، وهو مجال لم تحظ أدبياته القانونية العربية بعد بدراسات جامعة وشاملة، إذ اقتصرت معظم الكتابات السابقة على جوانب جزئية كالمسؤولية المدنية في القانون الوطني أو الأبعاد الأخلاقية للذكاء الاصطناعي، دون التعمق في الإطار المؤسسي والآليات الدولية التي تتبناها الأمم المتحدة[3]، كما تبرز أهمية هذه الدراسة في كونها تنتقل من مستوى الوصف النظري إلى مستوى التحليل النقدي والتطبيقي، وتقدم في ختامها مقترحات عملية قابلة للتنفيذ تهدف إلى سد الثغرات الراهنة وتمهيد الطريق لصياغة صك دولي ملزم في هذا المجال[4].

انطلاقا من واقع هذه المقدمة والأهمية، تتحدد إشكالية هذه الدراسة في السؤال المحوري التالي: كيف تعالج منظومة الأمم المتحدة مسؤولية الأضرار الناتجة عن أنظمة الذكاء الاصطناعي، في ظل غياب معاهدة دولية ملزمة، وتصاعد الاعتماد على أنظمة مستقلة القرار يصعب معها تطبيق مفاهيم القانون التقليدي كالخطأ والإرادة والسببية والإسناد؟ تتفرع عن هذه الإشكالية المركزية تساؤلات جزئية متعددة، من أبرزها: ما موقف الأمم المتحدة من منح الذكاء الاصطناعي شخصية قانونية، وما البدائل المقترحة لإسناد المسؤولية إلى الفاعل الإنساني؟ وكيف يمكن تجاوز أزمة إثبات العلاقة السببية في أنظمة “الصندوق الأسود التي تعجز حتى أجهزتها المطورة عن تفسير قراراتها الداخلية؟ وهل يصلح الاعتماد على القانون الناعم والمعايير التقنية الطوعية كبديل مرحلي عن معاهدة دولية ملزمة، أم أن هذا البديل يترك فجوات جغرافية وإجرائية خاصة في الدول النامية؟ وما مدى نجاعة استراتيجية ربط أضرار الذكاء الاصطناعي بالتزامات حقوق الإنسان القائمة كمبدأ عدم التمييز والحق في الصحة وتوفير آليات مساءلة دولية فعالة؟ وأخيرا، كيف يمكن سد الفجوة بين الدول المتقدمة التي تمتلك هيئات تنظيمية تقنية متخصصة والدول النامية التي تفتقر إلى هذه القدرات؟.

ولمعالجة هذه الإشكالية المحورية والتساؤلات الفرعية سيتم العمل بتوزيع هذه الإشكاليات على مطلبين رئيسيين: سيتناول المطلب الأول الإطار النظري للإسناد القانوني لمسؤولية الذكاء الاصطناعي، من خلال رفض الشخصية القانونية للأنظمة المستقلة وتأكيد مركزية الفاعل الإنساني، ثم يتم الحديث عن أزمة الإثبات في أنظمة الصندوق الأسود والحلول المقترحة القائمة على القدرة على التفسير والافتراضات القانونية، أما المطلب الثاني فسوف يتناول التطبيقات المؤسية للمنظور الأممي واتجاهات التقنين الدولي، عبر استراتيجيتين: تتمثل أولهما بربط أضرار الذكاء الاصطناعي بالتزامات حقوق الإنسان القائمة كمدخل للمساءلة الدولية، ثم ثانيهما في بناء بنية تحتية معيارية من خلال المعايير التقنية والتعاون المؤسسي كبديل مرحلي عن المعاهدات الملزمة.

المطلب الأول: الإطار النظري للإسناد القانوني لمسؤولية الذكاء الاصطناعي في القانون الدولي

ينطلق النقاش النظري في القانون الدولي من إشكالية تأسيسية: هل يمكن إخضاع نظام اصطناعي غير واع، لا يملك الإرادة ولا الإدراك الأخلاقي، لمنطق المسؤولية القانونية المبني على مفاهيم الخطأ والإرادة والسببية؟ الإجابة الأممية الحالية واضحة في رفضها منح الذكاء الاصطناعي شخصية قانونية، غير أن التعقيد التقني المتزايد لأنظمة التعلم العميق، وقدرتها على إنتاج قرارات لم يبرمجها صراحة مطوروها، يضغط بقوة لإعادة صياغة مفاهيم الإثبات والإسناد بما يتناسب مع طبيعة هذه الأنظمة.

الفقرة الأولى: رفض الشخصية القانونية للذكاء الاصطناعي وتأكيد مركزية الفاعل الإنساني

تتمسك وثائق الأمم المتحدة، ولا سيما توصية اليونسكو الصادرة عام 2021، بمبدأ أساسي مفاده أن الذكاء الاصطناعي أداة تقنية وليس ذاتا قانونية مستقلة[5]، تستند هذه المقاربة إلى حجة ثلاثية الأبعاد: أولا: من الناحية الجنائية، حيث تفترض العقوبة وجود أهلية جزائية وإدراكا للإثم لا ينطبق على خوارزمية مهما بلغ تعقيدها.

ثانيا: من الناحية المدنية، منح الذكاء الاصطناعي ذمة مالية مستقلة سيعفي المطورين والمشغلين من المسؤوليات، مما يشجع على إنتاج أنظمة غير آمنة.

ثالثا: من الناحية السياسية والقانون الدولي العام، الاعتراف بشخصية قانونية للذكاء الاصطناعي قد يعفي الدول من مسؤولياتها عن أفعال أنظمة أسلحة مستقلة في سياق النزاعات المسلحة[6].

غير أن وصف الذكاء الاصطناعي بمجرد أداة لا يعني تبسيط عملية الإسناد القانوني، فقد تطور مفهوم “السيطرة الفعلية” في الأدبيات الأممية ليشمل ثلاثة مستويات متداخلة: سيطرة على مستوى التصميم والمعمارية التقنية، وسيطرة على مستوى بيانات التدريب واختيارها وتنقيتها، وسيطرة على مستوى سياق الاستخدام والبيئة التشغيلية هذا التوسع في مفهوم السيطرة يعكس إدراكا متزايدا بأن المسؤولية في أنظمة الذكاء الاصطناعي لا يمكن إرجاعها إلى طرف واحد، بل تتوزع على سلسلة متصلة من الفاعلين البشريين[7].

ويتجسد هذا التوزيع بوضوح في مثال نظام تشخيص طبي يعتمد على التعلم العميق: فإذا أخطأ النظام في تشخيص ورم خبيث، قد يتوزع الإسناد بين المطور لتقصيره في تنويع بيانات التدريب، والمستشفى لاستخدام النظام خارج نطاق الاعتماد المقرر، والدولة لمنحها ترخيصا تجريبيا دون اختبارات كافية على عينة تمثل الفئة السكانية المستهدفة، هذا التعقيد في الإسناد دفع بعض فقهاء القانون الدولي إلى اقتراح مفهوم “المسؤولية الشبكية «الذي يتجاوز منطق الإسناد الفردي التقليدي[8].

يتضح مما سبق أن هنالك موقفا واضحا برفض الشخصية القانونية للذكاء الاصطناعي، مع إعادة إسناد المسؤولية إلى الفاعل الإنساني عبر مفهوم متطور للسيطرة يشمل التصميم والتدريب والاستخدام، هذا الموقف، رغم نجاعته العملية في المرحلة الراهنة، إلا أنه يفتقر إلى آلية واضحة لتوزيع المسؤولية عند تشابك أدوار متعدد الأطراف.

الفقرة الثانية: أزمة الإثبات في الصندوق الأسود وحلول القدرة على التفسير والافتراض القانوني

يمثل العائق الإجرائي الأكبر أمام إسناد المسؤولية في أنظمة الذكاء الاصطناعي إثبات العلاقة السببية بين سلوك النظام والضرر الواقع، خاصة في أنظمة التعلم العميق التي تعمل كـصندوق أسود يصعب اختراق آلياته الداخلية حتى بالنسبة لمطوريه، هذه الظاهرة، المعروفة في أدبيات الحوسبة بـمشكلة القابلية للتفسير، تخلق قطيعة إثباتية تجعل من المستحيل تقريبا على المتضرر تتبع سلسلة القرارات التي أدت إلى الضرر[9].

لمواجهة هذه الإشكالية، أدخلت توصية اليونسكو للعام 2021 مبدأ القدرة على التفسير كالتزام أخلاقي دولي، وليس مجرد توصية تقنية. المقصود بهذا المبدأ وجوب تصميم أنظمة الذكاء الاصطناعي بحيث يمكن، بعد وقوع الضرر، تتبع المدخلات والمخرجات والقرارات الحرجة وإعادة بناء منطق النظام وافتراضاته أمام جهة قضائية أو رقابية دولية، هذا المبدأ يحول عبء الإثبات من إثبات السببية المادية إلى إثبات غياب التوثيق الكافي، أي أن النظام غير “قابل للتفسير” لا يرقى إلى مستوى المعايير الدولية[10].

بالتوازي مع هذا التطور، تتجه التشريعات الوطنية والإقليمية، ولا سيما مقترح توجيه الاتحاد الأوروبي بشأن مسؤولية الذكاء الاصطناعي الصادر عام 2022، إلى قلب عبء الإثبات في بعض الحالات المحددة. فالمقترح يفترض وجود علاقة سببية بين سلوك نظام الذكاء الاصطناعي والضرر إذا أثبت المدعي أن المدعى عليه المطور أو المشغل لم يلتزم بمتطلبات الشفافية والقدرة على التفسير المنصوص عليها في التشريع، هذا الافتراض القانوني يخفف بشكل كبير عبء الإثبات عن المتضرر، دون أن يصل إلى حد المساس بقرينة البراءة في الدعاوى الجنائية[11].

تراقب مفوضية الأمم المتحدة لحقوق الإنسان هذه التجارب الوطنية والإقليمية عن كثب، بهدف تبني نموذج دولي موحد يوفق بين حاجتين متعارضتين: حماية الضحايا من عبء الإثبات التقني المستعصي، والحفاظ على مستوى معقول من العدالة الإجرائية للمدعى عليهم، الاقتراح الأممي الأولي يتمثل في اعتماد درجات القدرة على التفسير تتناسب مع مستوى خطورة النظام: متطلبات قصوى لأنظمة التوظيف والتقييم الائتماني، ومتطلبات مخففة للأنظمة الترفيهية منخفضة المخاطر[12].

سلوك الصندوق الأسود يمثل العائق الأكبر أمام إثبات العلاقة السببية في أضرار الذكاء الاصطناعي، يواجه هذا العائق بمبدأ القدرة على التفسير كالتزام أخلاقي دولي، وبآليات قانونية تقلب عبء الإثبات في حالات عدم الامتثال لمتطلبات الشفافية، الاتجاه الأممي الراهن يقترح نظاما متدرجا للقدرة على التفسير يتناسب مع مستوى مخاطر النظام.

المطلب الثاني: التطبيقات المؤسسية للمنظور ألأممي واتجاهات التقنين الدولي

إذا كان المطلب الأول قد حدد الأسس النظرية لمن يتحمل المسؤولية وكيفية إثباتها، فإن هذا المطلب ينتقل إلى مستوى تطبيقي أعمق، فاحصا كيف تترجم الأمم المتحدة هذا التصور النظري إلى ممارسة مؤسية ملموسة في غياب معاهدة ملزمة، يعتمد المنظور الأممي في هذا المستوى على استراتيجيتين متكاملتين: الأولى، ربط أضرار الذكاء الاصطناعي بالالتزامات القائمة في مجال حقوق الإنسان كمدخل للمساءلة الدولية، والثانية، بناء بنية تحتية معيارية تقنية تحل محل النص المعاهدي في المرحلة الانتقالية.

الفقرة الأولى: ربط الذكاء الاصطناعي بالتزامات حقوق الإنسان كمدخل للمسؤولية الدولية للدولة

تتجنب الأمم المتحدة، بوعي استراتيجي، صياغة قانون مسؤولية جديد خاص بالذكاء الاصطناعي، بدلا من ذلك، تفضل استدعاء الالتزامات القائمة في منظومة حقوق الإنسان الدولية وتطبيقها على السياق الرقمي، هذا النهج يسمح بتفعيل آليات مساءلة قائمة دون الحاجة إلى انتظار استكمال مفاوضات معاهدة جديدة قد تستغرق عقدا من الزمن، إلا أن مجلس حقوق الإنسان التابع للأمم المتحدة يربط، في قراره رقم 47/23 الصادر عام 2021، التحيز الخوارزمي والتمييز الناتج عن أنظمة الذكاء الاصطناعي بالتمييز المحظور بموجب العهد الدولي للحقوق المدنية والسياسية، وخاصة المواد 2 و26 منه، هذا الربط يحمل دلالة قانونية عميقة: إذا استبعد نظام ذكاء اصطناعي لتوزيع المساعدات الإنسانية جماعة عرقية أو دينية معينة، فإن الدولة التي أشرفت على تشغيل النظام أو رخصت له تتحمل مسؤولية دولية مباشرة عن خرق مبدأ عدم التمييز، حتى لو كان الخطأ ناتجاً عن خلل تقني بحت في الخوارزميات ولم تقصده الدولة[13].

يمتد هذا المنطق ليشمل مجالات أخرى كالصحة العامة، المقرر الخاص المعني بالحق في الصحة يفحص في تقريره الصادر عام 2023 مسؤولية الدول عن الأضرار الناجمة عن ترخيص أنظمة ذكاء اصطناعي طبية دون رقابة كافية أو دون اختبارها على عينات تمثل الفئة السكانية المستهدفة، هذا التحليل يحول المساءلة من نزاع مدني أفقي بين المواطن المتضرر والمستشفى المشغل، إلى التزام دولي عمودي على الدولة بحماية صحة مواطنيها، والنتيجة العملية بالغة الأهمية: يمكن للمتضررين من أضرار الذكاء الاصطناعي تقديم شكاوى إلى آليات الأمم المتحدة التعاهدية، كلجنة الحقوق الاقتصادية والاجتماعية، أو إلى آليات خارج المعاهدات كإجراءات المقررين الخاصين[14].

غير أن هذا المنظور، رغم ابتكاره، لا يخلو من ثغرات. فربط أضرار الذكاء الاصطناعي بحقوق الإنسان يفترض وجود إهمال أو تقصير من قبل الدولة، وهو ما قد لا يتوفر في الحالات التي تعمل فيها أنظمة متطورة بشكل مستقل تماما عن الإشراف الحكومي المباشر، كما أن آليات الأمم المتحدة التعاهدية تتصف ببطء الإجراءات وضعف القرارات الردعية مقارنة بالتقاضي المدني الوطني. لذلك يبقى هذا المدخل مكملاً وليس بديلاً عن تقنين المسؤولية المدنية على المستويين الوطني والدولي[15].

نخلص مما سبق، أن الذكاء الاصطناعي يشكل ربط أساسي بالتزامات حقوق الإنسان الدولية ومدخلا قانونيا مبتكرا يتيح تفعيل آليات مساءلة قائمة دون انتظار معاهدة جديدة، إلا أن هذا المنظور يظل مكملا وليس بديلا عن تقنين المسؤولية المدنية، نظرا لافتراضه وجود تقصير حكومي واضح ولبطء الإجراءات التعاهدية وضعف قراراتها الردعية.

الفقرة الثانية: المعايير التقنية والتعاون المؤسسي كبديل مرحلي للمعاهدات الملزمة

تدرك الأمم المتحدة أن المفاوضات على معاهدة دولية ملزمة في مجال الذكاء الاصطناعي قد تستغرق عقداً من الزمن أو أكثر، نظرا لتعقيد الموضوع وتعدد أصحاب المصالح وتفاوت مستويات التطور التكنولوجي بين الدول، لذلك، ركزت الوكالات الأممية المتخصصة على بناء ما يمكن تسميته بـبنية تحتية معيارية تحدد متطلبات السلامة والشفافية والقدرة على الاختبار لأنظمة الذكاء الاصطناعي، تمهيدا لتحول هذه المعايير إلى التزامات تعاهدية في المستقبل[16].

الاتحاد الدولي للاتصالات ، وهو أقدم وكالة أممية، يطور سلسلة المعايير المعروفة بـ Y.3000 التي تحدد على وجه التحديد متطلبات السلامة الوظيفية، والشفافية الخوارزمية، والقدرة على الاختبار والتحقق من أداء أنظمة الذكاء الاصطناعي قبل وبعد التشغيل[17]، الهدف الاستراتيجي لهذه المعايير هو جعل الامتثال شرطا للاعتراف الدولي بالنظام، تماما كما هو الحال في مجال الطيران المدني حيث معايير منظمة الطيران المدني الدولي تشكل شرطا لتحليق الطائرات في الأجواء الدولية[18]، سوى دولة أو شركة ترغب في تصدير نظام ذكاء اصطناعي للأسواق العالمية ستضطر للامتثال لمعايير ITU، وإلا ستواجه قيودا جمركية أو تنظيمية[19].

وتدرس منظمة العمل الدولية بدورها مسؤولية رب العمل عن الأضرار الناتجة عن استخدام أنظمة الذكاء الاصطناعي في مراقبة العمال وتقييم أدائهم، التقرير الصادر عن ILO في 2024 يخلص إلى أن الاستخدام غير المنضبط لهذه الأنظمة قد يشكل انتهاكا لمعايير العمل الدولية[20]، خاصة المتعلقة بالكرامة الإنسانية في العمل والحق في الخصوصية، المنظمة تقترح إدراج بند في عقود العمل الجماعية يحدد مسؤولية رب العمل عن الأضرار الخوارزمية، ويفرض عليه توفير آليات تصعيد بشري للطعن في القرارات الآلية[21].

منظمة الأمم المتحدة للتنمية الصناعية تضع إرشادات لاستخدام الذكاء الاصطناعي في التصنيع الآمن، وتركز على المسؤوليات المشتركة بين مصممي خطوط الإنتاج والمشغلين والجهات التنظيمية الوطنية[22]، هذا التشبيك المؤسسي بين مختلف وكالات الأمم المتحدة يخلق واقعا عمليا ملزما للمسؤولية قبل وجود نص معاهدي موحد، ويقلل تكرار الحوادث عبر توحيد متطلبات السلامة على المستوى العالمي. الجانب الأكثر ابتكارا في هذه المقاربة هو تحويل المسؤولية من قضية قانونية بحتة إلى قضية تقنية معيارية، حيث يصبح الامتثال للمعايير هو الخط الدفاعي الأول للمطورين والمشغلين في أي دعوى مسؤولية مستقبلية[23].

يتضح أن هنالك غياب لمعاهدة ملزمة، حيث تركز الأمم المتحدة جهودها على بناء بنية تحتية معيارية من خلال وكالاتها المتخصصة. معايير ITU، وإرشادات ILO وUNIDO تخلق متطلبات سلامة وشفافية عملية، تجعل الامتثال شرطا للاعتراف الدولي بالنظام، هذه الاستراتيجية، رغم كونها بديلا مرحليا، تحقق تقدما ملموسا في توحيد معايير السلامة وتقليل المخاطر، وتمهد الطريق لمعاهدة مستقبلية.

خاتمة

تفرض طبيعة أنظمة الذكاء الاصطناعي المتطورة، التي تتسم بالاستقلالية المتزايدة والتعقيد التقني والطابع العابر للحدود الوطنية، إعادة تقييم نقدي للمنظور الأممي الحالي الذي تم تحليله في هذه الدراسة، فبعد استعراض الإطار النظري للإسناد القانوني في المطلب الأول، وتحليل التطبيقات المؤسية واتجاهات التقنين الدولي في المطلب الثاني، تبين أن المنظومة الأممية نجحت مؤقتا في تجنب الفراغ القانوني الكارثي عبر استراتيجية ثلاثية الأبعاد: رفض الشخصية القانونية للذكاء الاصطناعي مع إعادة الإسناد إلى الفاعل الإنساني عبر مفاهيم السيطرة المتطورة والقدرة على التفسير، واعتماد القانون الناعم والمعايير التقنية كبديل مرحلي عن المعاهدة الملزمة لتعقيد المفاوضات وتفاوت مستويات التطور بين الدول، وربط الأضرار الخوارزمية بالتزامات حقوق الإنسان القائمة بمبدأ عدم التمييز، الحق في الصحة، الحق في الخصوصية، كمدخل عملي للمساءلة الدولية. غير أن هذه الاستراتيجية، رغم نجاعتها العملية في المرحلة الراهنة، تظهر حدودها بوضوح عند مواجهة أنظمة الذكاء الاصطناعي فائقة الاستقلالية التي تتجاوز قدرتها على التكيف التوقعات التصميمية الأولية، وعند التعامل مع الأضرار العابرة للحدود التي يصعب فيها تحديد القانون الوطني الواجب التطبيق، وعند محاولة إنصاف ضحايا في دول نامية تفتقر إلى القدرات التقنية والتشريعية الوطنية الكافية على ضوء ما تقدم، وانطلاقا من فرضيات الدراسة التي ثبتت صحتها وإن كان مع بعض التحفظات، كما سيتبين في استنتاجات البحث أولا سيتم تقديم مقترحات عملية تهدف إلى سد الثغرات الراهنة وتمهيد الطريق لصياغة صك دولي ملزم في المستقبل المنظور ثانيا.

أولا: الاستنتاجات

لقد أفضى التحليل المعمق للمنظور الأممي لمسؤولية الذكاء الاصطناعي إلى مجموعة من الاستنتاجات النظرية والعملية، يمكن إجمالها في أربعة محاور رئيسية، بحيث يخلص البحث أولا إلى أن المنظور الأممي الحالي، رغم نجاعته العملية في تجنب الفراغ القانوني الكارثي الذي كان سينشأ لو لم توجد أي إجابة عن سؤال من يتحمل المسؤولية؟، يعاني من غياب تعريفات قانونية موحدة للمفاهيم الأساسية، فمفهوم النظام عالي المخاطر تختلف معايير تحديده بين الدول المتقدمة التي تمتلك هيئات تنظيمية تقنية متخصصة والدول النامية التي تفتقر إلى هذه القدرات، ومفهوم “القدرة على التفسير يفتقر إلى معايير موضوعية قابلة للقياس والتقييم المستقل، مما يجعله عرضة لتفسيرات متباينة من قبل المطورين والجهات الرقابية. ومفهوم السيطرة الفعلية يصبح غير ذي معنى في الأنظمة فائقة الاستقلالية التي تتخذ قرارات لم يخطر ببال مطوريها احتمال حدوثها أصلا، ثانياً، يكتشف عند المقارن والتحليل في الدراسة أن المنظور الأممي يتميز بالشمولية الجغرافية حيث يطبق على جميع الدول الأعضاء البالغ عددها 193 دولة، والابتكار النظري يربط أضرار الذكاء الاصطناعي بالتزامات حقوق الإنسان القائمة، لكنه يفتقر إلى فعالية الإنفاذ مقارنة بالنموذج الأوروبي القائم على التشريع الملزم مع آليات جزاء مالية رادعة، والسرعة في الاستجابة مقارنة بالنموذج الصيني القائم على التنظيم الإداري المركزي الذي يمكنه إصدار لوائح ملزمة في غضون أشهر، هذا يضع المنظور الأممي في موقع وسط: أكثر شمولية من النموذجين لكن أقل فعالية وسرعة، وأكثر توافقا مع مبادئ السيادة الوطنية لكن أقل قدرة على حماية الضحايا في الدول التي تفتقر إلى إرادة سياسية لوضع تشريعات وطنية ملائمة. ثالثا، تبين أن استراتيجية بناء البنية التحتية المعيارية من خلال وكالات الأمم المتحدة المتخصصة التالية: الاتحاد الدولي للاتصالات ITU، منظمة العمل الدولية ILO، منظمة الأمم المتحدة للتنمية الصناعية UNIDO، قد نجحت في خلق واقع عملي ملزم للمسؤولية قبل وجود نص معاهدي موحد، كتحويل المسؤولية من قضية قانونية بحتة إلى قضية تقنية معيارية جعل الامتثال للمعايير هو الخط الدفاعي الأول للمطورين والمشغلين في أي دعوى مسؤولية مستقبلية، وخلق حوافز اقتصادية قوية للامتثال من خلال ربطه بالاعتراف الدولي بالنظام وإمكانية تصديره للأسواق العالمية، غير أن هذه المعايير تبقى بمعزل عن آليات الإنفاذ القانوني التقليدية (المحاكم، الشرطة، الجزاءات)، مما يحد من فعاليتها الردعية في مواجهة الشركات الكبرى عابرة الحدود التي قد تفضل دفع غرامات عرضية على الاستثمار في الامتثال الكامل. رابعاً وأخيراً، يستشرف البحث أن المنظور الأممي الحالي، رغم كونه حلا مرحليا ناجعا ومقبولا دوليا، يظل غير كافٍ لمواجهة تحديات الأجيال القادمة من أنظمة الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي العام الذي يفوق القدرات البشرية في معظم المهام المعرفية، والذكاء الاصطناعي فائق الذكاء الذي يقع خارج نطاق الفهم البشري المباشر، في هذه السياقات، ستصبح مفاهيم السيطرة البشرية والقدرة على التفسير أقل معنى أو حتى مستحيلة التحقق، مما يستدعي الاستعداد المبكر لصياغة مبادئ قانونية جديدة تتجاوز منطق الإسناد التقليدي القائم على الخطأ والإرادة، إلى منطق أكثر ابتكاراً يقوم على “المسؤولية الشبكية”  التي توزع المسؤولية على شبكة متكاملة من الفاعلين، والتأمين الإلزامي الدولي الذي ينشئ صندوق تعويضات مستقلا عن تحديد جهة محددة للخطأ، والرقابة المستقلة المستمرة لأنظمة الذكاء الاصطناعي عالية المخاطر بدلاً من الاعتماد على الرقابة اللاحقة بعد وقوع الضرر.

ثانيا: المقترحات

انطلاقا من الاستنتاجات السابقة، تقترح الدراسة مجموعة من الإجراءات العملية التي تستهدف سد الثغرات في المنظور الأممي الحالي، وتمهيد الطريق لصياغة نظام قانوني دولي متماسك لمسؤولية الذكاء الاصطناعي، رتبت هذه المقترحات حسب الأولوية التشريعية والتنفيذية، ومدى إمكانية تحقيقها في المدى القصير والمتوسط والبعيد:

– إطلاق مفاوضات رسمية تحت مظلة الجمعية العامة للأمم المتحدة، وبتنسيق مع اليونسكو والاتحاد الدولي للاتصالات ومنظمة التعاون الاقتصادي والتنمية، لصياغة اتفاقية إطارية بشأن مسؤولية أنظمة الذكاء الاصطناعي عالية المخاطر، يفضل أن تتبع الاتفاقية نموذج اتفاقية الأمم المتحدة لتغير المناخ التي تحدد مبادئ عامة وتترك التفاصيل الفنية للبروتوكولات اللاحقة، مما يسمح بدخول الاتفاقية حيز النفاذ خلال خمس سنوات بدلا من انتظار اكتمال نص كامل قد يستغرق عقدين من الزمن، على غرار ما حدث في مجال القانون البحري والفضائي.

– إنشاء صندوق أممي للتعويض عن الأضرار الجماعية الناتجة عن أنظمة الذكاء الاصطناعي، على غرار الصندوق الدولي لتعويضات أضرار التلوث النفطي الذي أثبت نجاعته في مجال المسؤوليات البيئية العابرة للحدود، يمول الصندوق من مساهمات إلزامية من شركات التقنية الكبرى، تحدد بنسبة لا تقل عن 0.1% من إيراداتها السنوية من خدمات ومنتجات الذكاء الاصطناعي، على أن تخضع هذه النسبة للمراجعة الدورية من قبل الجمعية العامة، يغطي الصندوق الأضرار العابرة للحدود التي يصعب إسنادها إلى طرف محدد بسبب تشابك سلاسل الإسناد، أو التي تحدث في دول ليس لضحاياها إمكانية الوصول إلى نظام قضائي فعال يضمن تعويضاً عادلا وسريعا.

– إلزام الدول الأعضاء في الأمم المتحدة بإنشاء سجل وطني إلكتروني موحد لحوادث وأضرار أنظمة الذكاء الاصطناعي، يربط بمنصة تبادل معلومات دولية مركزية تديرها ITU، يضم السجل بيانات مفصلة عن: نوع النظام، سياق الاستخدام، طبيعة الضرر الواقع، الإجراءات القانونية المتخذة، والتعويضات المقررة، هذا التبادل المعلوماتي سيسمح بتحديد أنماط الأضرار المتكررة وتكرارها إحصائياً، وتحذير الدول الأخرى من أنظمة تجاوزت حدود الأمان في سياقات مشابهة، وتطوير قاعدة معرفية دولية مفتوحة المصدر لدعم صنع القرار السياسي والتشريعي والرقابي.

– اعتماد نظام تأمين إلزامي على المسؤولية المدنية للمطورين والمشغلين لأنظمة الذكاء الاصطناعي في القطاعات الحيوية ذات المخاطر العالية المصنفة وفق معايير ITU: الطبية (أنظمة التشخيص والعلاج الآلي)، النقل الذاتي (المركبات بدون سائق)، التوظيف والموارد البشرية (أنظمة التوظيف والتقييم الآلي)، والخدمات المالية والمصرفية (أنظمة التقييم الائتماني والإقراض الآلي)، وإنفاذ القانون (أنظمة المراقبة والتحقق البيومتري)، حيث يشترط الحصول على وثيقة التأمين كشرط مسبق لمنح ترخيص تشغيل دولي أو وطني للنظام، ويحدد مبلغ التأمين الأدنى وفقاً لمستوى المخاطر ونطاق الانتشار المتوقع للنظام وعدد المتأثرين المحتملين به.

– توسيع ولاية المقرر الخاص للأمم المتحدة المعني بحقوق الإنسان والتكنولوجيا الناشئة كالمنصب الذي تم إنشاؤه في 2023، لتشمل ثلاثة اختصاصات جديدة: أولا، التحقيق المباشر والميداني في الانتهاكات الجسيمة والواسعة النطاق الناتجة عن أنظمة الذكاء الاصطناعي، مع صلاحية الوصول إلى الوثائق والمواقع والاستماع إلى الشهود. ثانيا، تقديم تقارير دورية علنية إلى مجلس حقوق الإنسان تتضمن أسماء الدول والشركات المتورطة في الانتهاكات الموثقة، مع توصيات واضحة بجزاءات محددة. ثالثا، إمكانية إحالة الملفات الخطيرة إلى المحكمة الجنائية الدولية في الحالات التي تصل فيها الأضرار إلى مستوى الجرائم ضد الإنسانية، كأنظمة مراقبة جماعية تستخدم للقمع المنهجي، أو أنظمة تصنيف اجتماعي تؤدي إلى الإخفاء القسري أو الاضطهاد الجماعي.

– دمج مبدأ القدرة على التفسير بشكل ملزم ضمن شروط الاعتماد الدولية لأنظمة الذكاء الاصطناعي في القطاعات الحيوية، من خلال تعديل سلسلة المعايير ITU Y.3000، يتضمن الدمج تحديد ثلاثة متطلبات تقنية دنيا قابلة للقياس والتدقيق: أولا، تسجيل كامل ومعرف ومؤرخ لبيانات التدريب المستخدمة ومصادرها وطرق تنقيتها من التحيزات. ثانيا، حفظ سجلات دائمة ومقاومة للتلاعب لجميع القرارات الهامة للنظام مع الدواعي والافتراضات الأساسية لكل قرار. ثالثا، توفير واجهة تدقيق مستقلة تمكن الجهات الرقابية والقضائية من إعادة بناء منطق النظام واختبار افتراضاته في حالة وقوع ضرر جسيم أو شكوى موثقة.

– إطلاق برنامج أممي متخصص ومستدام لتدريب القضاة والمحامين والخبراء القانونيين والفنيين في الدول النامية على التعامل مع قضايا مسؤولية الذكاء الاصطناعي، بالتعاون مع المعهد الدولي لتوحيد القانون الخاص والمنظمات القانونية الإقليمية (الاتحاد الأفريقي، جامعة الدول العربية، منظمة الدول الأمريكية)، يشمل البرنامج ثلاثة مكونات رئيسية: أولا، تطوير أدلة إرشادية عملية وموحدة مترجمة إلى اللغات الرسمية الست للأمم المتحدة، تتضمن نماذج لدعاوى قضائية وإجراءات تحقيق وخبرة فنية. ثانيا، إنشاء شبكة قانونية دولية إلكترونية تفاعلية لتبادل الخبرات وأفضل الممارسات والتحديات المشتركة في التقاضي في قضايا الذكاء الاصطناعي. ثالثا، تنظيم دورات تدريبية سنوية حضارية وافتراضية تجمع القضاة والخبراء وأكاديميين من الدول المتقدمة والنامية لتبادل المعرفة وبناء القدرات المؤسسية المستدامة، على أن يكون التدريب إلزاميا للقضاة المختصين بنظر قضايا الذكاء الاصطناعي في الدول الأعضاء.

لائحة المراجع

أولا: المراجع العربية

1– الكتب

– مركز البحوث والدراسات القانونية، الذكاء الاصطناعي وتحديات التشريع في الوطن العربي، القاهرة: دار النهضة العربية،  السنة 2023.

2– المقالات

– أحمد سلامة، “التحديات القانونية للذكاء الاصطناعي في القانون الدولي لحقوق الإنسان”، مجلة جامعة الدول العربية للعلوم القانونية، المجلد 11، العدد 3، السنة 2024.

– محمد عبد الوهاب، “المسؤولية المدنية عن أضرار الذكاء الاصطناعي : دراسة مقارنة بين القانون المدني المصري والاتحاد الأوروبي”، مجلة الحقوق الكويتية، السنة 47، العدد 2، السنة 2023.

– نادية مصطفى، “الذكاء الاصطناعي وأزمة الإثبات القضائي : قراءة في مبدأ القدرة على التفسير”، مجلة العلوم القانونية والسياسية، جامعة الجزائر، العدد 58، السنة 2022.

– هشام بن عيسى، “إشكالية الإسناد القانوني في أنظمة الذكاء الاصطناعي ذاتية التعلم”، المجلة المغربية للقانون والسياسة والاقتصاد، العدد 45، السنة 2023.

المصدر