أخلاقيات الذكاء الاصطناعي في السعودية: ماذا يعني منتدى اليونسكو العالمي في الرياض للمؤسسات

بين ١٤ و١٧ سبتمبر ٢٠٢٦ استضافت الرياض المنتدى العالمي الرابع لأخلاقيات الذكاء الاصطناعي الذي تنظّمه اليونسكو، بالشراكة مع المملكة ممثّلةً بالهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» والمركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي «إيكاير» ومقرّه الرياض. وهي أول نسخة تُعقد في الخليج وأول نسخة في دولة عربية، وجاءت في العام الذي أعلنته المملكة عاماً للذكاء الاصطناعي.

المنتديات تُنتج الخطابات أكثر مما تُنتج الالتزامات، لذلك يفصل هذا المقال بين الاثنين. يعرض ما قيل وما أُطلق في الرياض مما أمكن التحقق منه، ويشرح بلغة واضحة الإطارين اللذين تواجههما أي مؤسسة سعودية فعلاً — توصية اليونسكو لعام ٢٠٢١ ومبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن سدايا — ثم ينتقل إلى ما تتجاوزه معظم التغطيات: تحويل هذه المبادئ إلى قرارات تصميم ملموسة في مساعد ذكي. ولا شيء هنا يُعدّ استشارة قانونية.

ما الذي جرى في الرياض، وما الذي لم يجرِ

عقدت اليونسكو المنتدى تحت شعار تحويل التعاون العالمي من أجل حوكمة أخلاقية للذكاء الاصطناعي، وقدّمته بوصفه محطة لمرور خمس سنوات على اعتماد الدول الأعضاء توصيتها بشأن أخلاقيات الذكاء الاصطناعي. وقد سبقته نسخ في براغ وكراني وبانكوك. وفي ملخّصها بعد الختام ذكرت اليونسكو أن المشاركين تجاوزوا ٦٬٣٠٠ مشارك، بوفود من أكثر من ٥٠ دولة عضواً، ومسار وزاري مغلق حضرته ٥٢ وفداً.

ومن المفيد بالقدر نفسه أن نكون واضحين في ما لم يحدث. لم نجد إعلاناً مُلزماً ولا نصّ معاهدة ولا أداة قانونية جديدة صدرت عن المنتدى. فالمُخرَج المكتوب الذي نشرته اليونسكو هو ملخّص الرئيسين المشاركين للمسار الوزاري المغلق، وفيه شدّدت الوفود على التعاون الدولي كي يخدم الذكاء الاصطناعي رفاه الإنسان والتنمية المستدامة. فإذا رأيتم «إعلان الرياض» مستشهَداً به في عرض أحد المورّدين، فاطلبوا الوثيقة.

ما الذي قيل، وما الذي أُطلق

جاءت كلمات الافتتاح متّسقة فيما بينها. فقد ذكّرت أوسا ريغنر، نائبة المدير العام لليونسكو، بأن الدول الأعضاء اتفقت قبل خمس سنوات على أن الذكاء الاصطناعي يجب أن يخدم الإنسانية والصالح العام، وعبّرت عن أملها في أن تكون الرياض الخطوة التالية نحو التطبيق على نطاق واسع. ووصف الدكتور عبدالله بن شرف الغامدي، رئيس سدايا، المنتدى بأنه منصة مهمة للدول والخبراء لتعزيز التعاون الدولي، وربطه بعام الذكاء الاصطناعي. وحدّد الدكتور ماجد الشهري، المدير العام المكلّف لـ«إيكاير»، الأولوية بأنها الانتقال من المبادئ إلى التطبيق العملي.

وكانت الإطلاقات الملموسة أدوات لا أنظمة. فقد أصدرت اليونسكو منهجية تقييم الجاهزية ٢٫٠، وهي النسخة المحدَّثة من الأداة التي تقيس بها استعداد الدول لحوكمة الذكاء الاصطناعي، مع نسخة عربية طُوّرت بدعم من «إيكاير». ورافقتها حقيبة أدوات لصانعي السياسات حول الذكاء الاصطناعي والبيئة والنظم البيئية، وتحليل جامع لـ٥٥ تقريراً وطنياً للتقييم. وتقول اليونسكو إن ٥٨ دولة أكملت حتى الآن تقييم الجاهزية.

ومن الجانب السعودي منحت سدايا شارات أخلاقيات الذكاء الاصطناعي لأكثر من ٢٠ شركة، تقديراً لتطبيقها المبادئ الأخلاقية والتنظيمية في تطوير منتجات الذكاء الاصطناعي وخدماته وتقديمها. كما منحت شارات مهنية معتمدة لـ٥٢ شخصاً، وكرّمت مع الاتحاد الدولي للاتصالات و«إيكاير» الفرق الفائزة في هاكاثون جاهزية الذكاء الاصطناعي الذي احتُسب فيه الالتزام بالمعايير الأخلاقية ضمن معايير التحكيم.

توصية اليونسكو لعام ٢٠٢١ بلغة واضحة

اعتمدت الدول الأعضاء الـ١٩٣ في اليونسكو التوصية بشأن أخلاقيات الذكاء الاصطناعي في نوفمبر ٢٠٢١. وهي موجّهة إلى الحكومات: تطلب من الدول أن تبني سياساتها ومؤسساتها حولها، ولا تفرض واجبات قانونية مباشرة على الشركات. وبنيتها سهلة الحفظ: أربع قيم، وعشرة مبادئ، وأحد عشر مجالاً للعمل السياساتي.

القيم الأربع هي: حقوق الإنسان وكرامته، والعيش في مجتمعات عادلة ومسالمة ومترابطة، والتنوّع والشمول، وازدهار البيئة والنظم البيئية. أما المضمون العملي ففي المبادئ العشرة: التناسب وعدم الإضرار، والسلامة والأمن، والخصوصية وحماية البيانات، والحوكمة التشاركية والمرنة، والمسؤولية والمساءلة، والشفافية وقابلية التفسير، والرقابة والقرار البشريان، والاستدامة، والوعي والإلمام، والإنصاف وعدم التمييز.

ولمن يقرؤها بعين من يبني الأنظمة لا بعين الدبلوماسي، فثلاثة منها تحمل معظم الثقل. التناسب يعني ألّا تستخدموا من الذكاء الاصطناعي ولا من البيانات أكثر مما يحتاجه الغرض. والرقابة البشرية تعني أن يبقى شخص مسؤولاً عن النتائج وقادراً على التدخّل. والشفافية تعني أن يعرف الناس متى يتعاملون مع ذكاء اصطناعي، وأن يحصلوا على تفسير لما فعله.

مبادئ سدايا لأخلاقيات الذكاء الاصطناعي، الإطار الأقرب إليكم

بالنسبة إلى مؤسسة تعمل في المملكة، الإطار الأقرب هو إطار سدايا. نُشر في سبتمبر ٢٠٢٣ بعد استطلاع عام، والنسخة المتاحة حالياً على موقع الهيئة مؤرّخة في مايو ٢٠٢٥. ونطاقه واسع: كل من يصمّم أنظمة الذكاء الاصطناعي أو يطوّرها أو ينشرها أو يطبّقها أو يستخدمها أو يتأثّر بها داخل المملكة، من جهات حكومية وخاصة وغير ربحية.

ويحدّد سبعة مبادئ: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية. ولكل مبدأ ضوابط مرتّبة على أربع مراحل من دورة حياة النظام — التخطيط والتصميم، وإعداد بيانات الإدخال، والبناء والتحقّق، والنشر والمراقبة — وهذا ما يجعله أقرب إلى التشغيل من معظم وثائق الأخلاقيات.

ويصنّف الأنظمة كذلك في أربعة مستويات للمخاطر. الأنظمة منخفضة المخاطر أو عديمتها لا قيود عليها، مع التوصية بالالتزام الأخلاقي. والأنظمة محدودة المخاطر تخضع للمبادئ. والأنظمة عالية المخاطر يجب أن تمرّ بتقييمات مطابقة قبل النشر وبعده، إلى جانب المتطلبات النظامية ذات الصلة. أما الأنظمة ذات المخاطر غير المقبولة — ومن أمثلتها في الوثيقة التصنيف الاجتماعي للأفراد واستغلال الأطفال وتشويه السلوك — فغير مسموح بها. وآلية الامتثال التي تصفها الوثيقة هي التقارير والمراجعة والشارات التحفيزية لا العقوبات؛ أما الالتزامات المُلزمة بشأن البيانات الشخصية فمصدرها نظام حماية البيانات الشخصية. وكيف ينطبق ذلك على نظامكم تحديداً سؤال يُوجَّه إلى مستشاركم القانوني.

لماذا كان الشعار هو التطبيق، ولماذا يقع ذلك عليكم

كلا الإطارين يقول كيف يبدو العمل الجيد. لكن أياً منهما لا يخبركم هل ينبغي لمساعد خدمة العملاء أن يعرّف نفسه بأنه ذكاء اصطناعي، ومتى يحوّل المحادثة إلى موظف، وماذا يفعل حين يُسأل عن شيء لا تغطيه وثائقه. هذه قرارات منتج، ويتخذها من ينشر النظام — وغالباً قبل أن تراه أي لجنة أخلاقيات بوقت طويل.

ووثيقة سدايا صريحة في نقطة تهمّ المشترين: إذا بنى طرف ثالث نظام الذكاء الاصطناعي، فعلى مالكه أن يتأكد من إجراء العناية الواجبة في أخلاقيات الذكاء الاصطناعي، وأن تكون الوثائق متاحة وقابلة للتتبّع، قبل الشراء أو الاعتماد. بعبارة أخرى، شراء النظام لا ينقل المسؤولية الأخلاقية عنه.

من المبدأ إلى الضابط: مساعد ذكي سطراً سطراً

الجدول أدناه هو لبّ هذا المقال العملي. يأخذ المبادئ المتكررة في الإطارين، ويحوّل كلاً منها إلى قرار تصميم في مساعد ذكي يتعامل مع العملاء، مع اختبار يمكنكم إجراؤه بأنفسكم. وهو قراءتنا نحن، لا مواءمة رسمية من اليونسكو أو سدايا.

أن يقول إنه ذكاء اصطناعي، وأن يحوّل إلى إنسان

ينصّ مبدأ المساءلة لدى سدايا على أن أنظمة الذكاء الاصطناعي ينبغي ألّا تؤدي أبداً إلى خداع الناس، ويطلب مبدأ الشفافية أن يُبلَّغ المتأثرون بكيفية الوصول إلى النتائج. وبالنسبة إلى المساعد، فالقراءة الأبسط هي الأقوى أيضاً: أفصحوا من الرسالة الأولى، ولا تمنحوا الروبوت اسماً بشرياً وصورة جاهزة، وقولوا ذلك بوضوح حين يتسلّم موظف المحادثة.

والتحويل هو الموضع الذي تكفّ فيه الرقابة البشرية عن أن تكون فكرة مجرّدة. فالتصميم السليم يحدّد مسبقاً الحالات التي تذهب إلى موظف — طلب صريح، أو إخفاق متكرر في الإجابة، أو شكوى، أو أي أمر يمسّ الصحة أو المال أو قراراً نظامياً — وينقل سجل المحادثة كي لا يضطر العميل إلى البدء من جديد. ويذهب إطار سدايا أبعد في القرارات التي لا يمكن التراجع عنها أو يصعب، إذ يقرّر أنها ينبغي أن تستدعي رقابة بشرية وقراراً نهائياً بشرياً. والمساعد الذي يجيب عن الأسئلة لا ينبغي أن يتخذ قرارات كهذه بصمت أصلاً.

ولهذا السبب تحديداً بنينا التحويل لموظف بشري وحدةً مستقلة في إلبي: الطريق إلى الإنسان ينبغي أن يُصمَّم ويُختبر ويُسجَّل كأي ميزة أخرى، لا أن يُضاف بعد الإطلاق.

الاعتذار بدل الاختلاق

أكثر الإخفاقات الأخلاقية شيوعاً في المساعد الذكي ليست التحيّز ولا تسرّب البيانات، بل الإجابة الواثقة الطليقة الخاطئة — سياسة استرداد غير موجودة، أو رسوم لم تُفرض قط، أو موعد مختلَق. وهي في الإطارين مشكلة موثوقية وشفافية معاً، لأن المستخدم لا يملك وسيلة للتمييز بين الاختلاق والحقيقة.

والضابط هنا هو الاستناد إلى المصادر: يسترجع المساعد مقاطع من المواد المعتمدة لدى المؤسسة ويجيب منها وحدها، وإذا لم يجد شيئاً ذا صلة قال ذلك وعرض موظفاً أو قناة بديلة. وعلى هذه القاعدة بُني مكوّن الاسترجاع لدينا. وأياً كان النظام الذي تستخدمونه، فالاختبار واحد ولا يستغرق عشر ثوانٍ: اسألوا عن شيء مجاور للمادة لكنه ليس فيها. المساعد المستند إلى مصادره يعتذر، والضعيف يرتجل.

ومن المفيد أيضاً أن يُري المساعد المستخدمَ مصدر الإجابة — اسم السياسة والصفحة وتاريخ الوثيقة. هذه التفصيلة وحدها تحوّل «ثق بي» إلى شيء يستطيع العميل أو المدقّق أو المشرف التحقق منه.

الخصوصية والإنصاف بالعربية

تنصّ ضوابط الخصوصية لدى سدايا على أن يقتصر استخدام المعلومات الشخصية على ما يلزم لعمل النظام. وفي مساعد نصي أو صوتي يترجم ذلك إلى ثلاثة قرارات: حذف المعرّفات كرقم الهوية والجوال والحساب قبل تخزين النصوص أو استخدامها في التحليل، وتحديد مدة احتفاظ والحذف فعلاً، وتقييد من يحق له قراءة المحادثات الخام. ولهذا السبب كان إخفاء البيانات الشخصية أحد مكوّنات نواة إلبي، وقد كتبنا مقالاً مستقلاً عن ما يعنيه نظام حماية البيانات الشخصية لروبوتات المحادثة.

وللإنصاف في أي تركيب سعودي شكل محدّد. فالخطر نادراً ما يكون أن يعامل المساعد فئة أسوأ من غيرها عمداً؛ بل أن يعمل جيداً بالفصحى ويتراجع أداؤه بوضوح مع عميل يكتب بلهجة نجدية أو حجازية، أو بالعربيزي، أو يتنقّل بين العربية والإنجليزية في جملة واحدة. هؤلاء العملاء يتلقّون اعتذارات أكثر وإجابات أضعف، ولا يلاحظ أحد لأن مجموعة الاختبار كُتبت بالفصحى.

والضابط العملي هو قياس جودة الإجابة ونسبة الاعتذار لكل نوع على حدة، ومعاملة أي فجوة بينها على أنها عيب يجب إصلاحه، لا قيداً مقبولاً.

المساءلة تعني أن تستطيعوا إعادة بناء أي محادثة

المساءلة في إطار سدايا ملموسة: أشخاص معروفون مسؤولون عن النظام، وقرارات موثّقة، وتنبيهات محدّدة مسبقاً على البيانات والأداء يُكلَّف بكل منها مالك مسمّى، وآلية لتسجيل الشكاوى ومعالجتها. وفي المساعد يختزل ذلك في اختبار واحد: اختاروا أي محادثة سابقة واشرحوا لماذا أجاب كما أجاب.

ولاجتياز هذا الاختبار تحتاجون إلى السؤال، والمقاطع المسترجَعة، ونسخة قاعدة المعرفة في تلك اللحظة، والإجابة المقدَّمة، وهل تسلّم موظف المحادثة ولماذا — مخزّنة بعد إخفاء البيانات الشخصية. وتحتاجون كذلك إلى مالك مسمّى لقاعدة المعرفة، وسجل تغييرات لما أُضيف أو حُذف، ومراجعة دورية للاعتذارات والتحويلات، فهي أفضل إشارة مبكرة إلى المواضع التي يخذل فيها النظام الناس.

لا شيء من هذا غريب. إنه الانضباط نفسه الذي تعرفه أي عملية منظَّمة. ورسالة المنتدى، إذا قُرئت عملياً، أن أنظمة الذكاء الاصطناعي صار يُنتظر منها أن تلتزم به أيضاً — وهو التوقّع نفسه الذي يقف وراء الدفع الأوسع في المملكة خلال عام الذكاء الاصطناعي.

حدود هذا المقال بصدق

يعتمد عرضنا للمنتدى على صفحات اليونسكو نفسها وعلى تغطية «عرب نيوز» ووكالة الأنباء السعودية. وقد تغيّرت أرقام المشاركة بين إعلانات ما قبل الحدث وملخّص اليونسكو بعده، فاعتمدنا أرقام ما بعد الحدث. ولم نحضر الجلسات الوزارية المغلقة، ولا نستطيع الحديث عنها بأكثر مما ورد في ملخّص الرئيسين المشاركين المنشور.

جدول المبادئ والضوابط تفسيرنا نحن. فلا اليونسكو ولا سدايا تفرضان تلك الضوابط بعينها، والأثر النظامي لإطار سدايا على مؤسستكم يتوقف على قطاعكم ونظامكم والتنظيمات الأخرى المنطبقة عليكم. وهذا ليس استشارة قانونية. أما ما نستطيع وصفه بدقة فهو منتجنا نحن: يجيب من موادكم المعتمدة، على أجهزة تتحكّمون بها داخل المملكة، بلا أي استدعاء لنموذج خارجي في مسار الإجابة، ويحوّل إلى موظف حين ينبغي ذلك.

المصادر

1. Global cooperation for ethical AI governance reinforced at UNESCO’s 4th Global Forum on the Ethics of AI in Saudi Arabia — UNESCO, ١٨ سبتمبر ٢٠٢٦
2. UNESCO launches new tools to reinforce ethical AI governance at global forum in Riyadh, Saudi Arabia — UNESCO, ٩ سبتمبر ٢٠٢٦
3. Global Forum on the Ethics of AI — UNESCO, ١٤ سبتمبر ٢٠٢٦
4. UNESCO’s Ethics of AI forum opens in Riyadh — Arab News, ١٤ سبتمبر ٢٠٢٦
5. Companies, tech specialists, and global hackathon winners at Riyadh UNESCO forum — Arab News / Saudi Press Agency, ١٨ سبتمبر ٢٠٢٦
6. Recommendation on the Ethics of Artificial Intelligence — UNESCO, ١ نوفمبر ٢٠٢١
7. AI Ethics Principles (document SDAIA-P114E) — Saudi Data & AI Authority (SDAIA), ١ مايو ٢٠٢٥
8. Saudi Arabia – AI Ethics Principles (register entry) — Regulations.ai, ١ سبتمبر ٢٠٢٣
9. UNESCO grants Saudi AI center Category 2 status — Arab News / Saudi Press Agency, ١٧ نوفمبر ٢٠٢٣

أسئلة متكررة

اقرأ أيضاً

الاستراتيجية٢١ سبتمبر ٢٠٢٦١٥ دقيقة قراءة

برامج سدايا للتدريب على الذكاء الاصطناعي: كيف تعلّم المملكة أكثر من مليون شخص

١٫٥٦ مليون مستفيد، و١٫٢ مليون أتمّوا «سماي»، و١٤٬٤٩٥ مختصاً: ماذا تقيس أرقام «سدايا» التدريبية فعلاً، وأي برنامج يناسب من، وكيف تسجّل، وما الذي تغيّره قوة عاملة مدرّبة للشركات التي تنشر الذكاء الاصطناعي.

اقرأ المقالدليل الشراء٢٤ أغسطس ٢٠٢٦١٢ دقيقة قراءة

الذكاء السيادي مقابل السحابي في السعودية: بوّابتان وسبع درجات، ولماذا السياسة الواحدة للشركة كلها خطأ

الشركة الواحدة قد تشغّل بحقّ حِملاً على واجهة سحابية وآخر داخل المنشأة. ورقة تقييم من سبعة أبعاد، وأي صور الهجين تصمد أمام دوران الموظفين، ومثال عملي لشركة تأمين سعودية.

اقرأ المقالالخصوصية والامتثال٣٠ سبتمبر ٢٠٢٦١٥ دقيقة قراءة

الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي من سدايا: دليل عملي للجهات في المملكة

أطلقت سدايا الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي في يوليو ٢٠٢٦. هنا ما يتضمّنه، وعلاقته بنظام حماية البيانات والإرشادات السابقة، وكيف يتحوّل عملياً إلى سجلّ مخاطر وضوابط واضحة لمساعد ذكي يخدم عملاءكم أو موظفيكم.

اقرأ المقال