كيف يعزز الذكاء الاصطناعي السلطوية ويهدد الديمقراطية؟

بينما يتسارع سباق الذكاء الاصطناعي بين الولايات المتحدة والصين، تتزايد المخاوف من تداعيات ذلك على الحريات العامة ومستقبل الديمقراطية، خاصة مع اتساع استخدامه في المراقبة والتجسس وجمع البيانات وتحليلها، إلى جانب توظيفه في التأثير على الرأي العام.

وفي تحليل بعنوان «الذكاء الاصطناعي والسلطوية»، يتناول المعهد الألماني للشؤون الدولية والأمنية (SWP) كيف توظف الأنظمة الديمقراطية والسلطوية  على حد سواء هذه التقنيات؟ وما ينتجه هذا التطور من أدوات لتعزيز الرقابة والسيطرة، والتي كانت قائمة بالفعل لكن لا يعرف مدى توسعها، والقدرة على حيازتها، فضلًا عن المخاطر المرتبطة بتطور أنظمة قادرة على العمل باستقلالية متزايدة واحتمالات فقدان السيطرة البشرية عليها.

ويستعرض التحليل، الذي أعدّه باحثان ضمن مجموعة أبحاث القضايا العالمية بالمعهد، تداعيات هذه التحولات على الحريات والنظم السياسية، وحدود قدرة أوروبا على تنظيم الذكاء الاصطناعي والحد من مخاطرة.

الذكاء الاصطناعي، من نواحٍ عديدة، تقنية عادية يمكن استخدامها لأغراض مختلفة، بما فيها الأغراض السياسية.

لكن القفزات الكبيرة التي شهدها تطوره في السنوات الأخيرة تضاعف تحديات كانت الديمقراطيات تواجهها بالفعل، ولا سيما في مجالي المراقبة والتلاعب، إذ تتيح أنظمته تنفيذ عمليات أوسع نطاقًا وأكثر دقة.

ويضيف الذكاء الاصطناعي إلى هذه المخاطر خاصية تتجاوز ما عرفته التقنيات السابقة، تتمثل في قدرته المتزايدة على تطوير أدائه بصورة مستقلة.

وإذا لم تُفرض ضوابط فعالة على هذه القدرة، فقد تواجه الأنظمة الديمقراطية فقدانًا كبيرًا للسيطرة والقدرة على الفعل.

شكّل إطلاق شركة «أوبن إيه آي» مساعد «تشات جي بي تي» في نوفمبر 2022 نقطة تحول في تاريخ الذكاء الاصطناعي، إذ أتاح للجمهور إدراك الإمكانات الواسعة للنماذج اللغوية الكبيرة.

وفي أعقاب ذلك، تمكنت الشركات الأمريكية الرائدة في هذا المجال من حشد موارد مالية ضخمة، ما سرّع وتيرة التطور التقني.

وأشعلت القدرات المتقدمة لهذه الأنظمة سباقًا دوليًا على الوصول إلى أكثر النماذج تطورًا. ورغم أن شركات خاصة تتولى تطويرها، فإن الولايات المتحدة والصين تنظران إلى الذكاء الاصطناعي باعتباره ركيزة أساسية لمكانتهما الدولية المستقبلية.

 وبينما ينصب جانب كبير من النقاش على كيفية تعامل أوروبا مع هذا السباق، تحظى آثار الذكاء الاصطناعي على الأنظمة السياسية، والعلاقة بين الديمقراطيات والأنظمة السلطوية، باهتمام أقل.

أولًا: المراقبة المدعومة بالذكاء الاصطناعي في الأنظمة السلطوية

تتجه الأنظمة السلطوية منذ سنوات إلى توظيف التقنيات الرقمية في مراقبة السكان، وتتيح هذه الأدوات للسلطات توسيع نطاق السيطرة وتخصيصها بدرجة أكبر، مع تقليل الحاجة إلى الموارد البشرية.

وبينما تطور دول مثل الصين وروسيا تقنياتها الخاصة، تعتمد حكومات أخرى غالبًا على المنتجات التجارية المتاحة في السوق، وقد عزز التقدم في الذكاء الاصطناعي استخدام التكنولوجيا أداةً للقمع، إذ أصبحت الأنظمة قادرة على اكتشاف الأنماط داخل مجموعات ضخمة ومتنوعة من البيانات، وتحليل كميات كبيرة من محتوى الاتصالات والصور بسرعة عالية.

وفي الصين، تتوسع المراقبة العامة القائمة بالفعل باستخدام تقنيات الذكاء الاصطناعي، بما فيها التعرف على الوجوه، الأمر الذي يتيح تتبع مواقع الأفراد بصورة أكثر كثافة ودقة.

وتنقل أنظمة الذكاء الاصطناعي، القادرة على تنفيذ المهام باستقلالية متزايدة، هذه الممارسات إلى مستوى جديد، فقد يصبح من الممكن تكليفها بمراقبة أشخاص أو مجموعات محددة بصورة مستمرة.

 وهكذا يتجاوز نطاق المراقبة مفهوم «البانوبتيكون» التقليدي، الذي تظل فيه مراقبة الفرد احتمالًا قائمًا لا يُستخدم بالضرورة في كل لحظة، إلى مراقبة متواصلة زمانيًا ومكانيًا.

ومن المتوقع أن تستفيد الأنظمة السلطوية من هذه الإمكانات لتعزيز سيطرتها على السكان، كما أن الحصول على هذه التقنيات ليس صعبًا نسبيًا، خصوصًا عبر الشركات التجارية، ولا يتطلب بالضرورة الوصول إلى أحدث نماذج الذكاء الاصطناعي؛ إذ قد تكون النماذج مفتوحة المصدر المتاحة اليوم كافية لأغراض المراقبة.

ما الذي يمكن فعله؟

يمكن مواجهة هذا الاتجاه بأدوات سبق استخدامها للحد من المراقبة الرقمية، وفي مقدمتها تنظيم سوق تقنيات المراقبة التجارية وتشديد ضوابط تصدير المنتجات التي يمكن توظيفها في القمع.

كما ينبغي للحكومات الديمقراطية ألا تعزز الطلب على منتجات الشركات المتورطة في ممارسات إشكالية من خلال شرائها واستخدامها.

وتدعو هذه المقاربة أيضًا إلى إعادة النظر في إتاحة النماذج مفتوحة المصدر المتقدمة بلا قيود.

وفي المقابل، يمكن تسهيل وصول القوى الديمقراطية داخل الدول السلطوية إلى النماذج الأكثر تطورًا، بما قد يؤثر في ميزان القدرات الرقمية بين الحكومات والمعارضة.

ثانيًا: التلاعب بالذكاء الاصطناعي داخل الديمقراطيات

تستخدم الدول الديمقراطية بدورها أنظمة مراقبة مدعومة بالذكاء الاصطناعي في إنفاذ القانون ومكافحة الإرهاب وجمع المعلومات الاستخباراتية والعمليات العسكرية.

قد لا تختلف الأسس التقنية لهذه الأنظمة كثيرًا عن نظيراتها المستخدمة في الدول السلطوية، لكن الإطار القانوني في الديمقراطيات يُفترض أن يمنع إساءة استخدام السلطة.

مع ذلك، تظل هذه الضمانات عرضة للضعف، حتى داخل الديمقراطيات.

ويُظهر تقرير البرلمان الأوروبي الصادر عام 2023 بشأن استخدام حكومات في دول الاتحاد الأوروبي برنامج التجسس «بيجاسوس» أن الحماية القانونية لا تكفي وحدها، بل تحتاج إلى دفاع سياسي مستمر.

ولا يقتصر الخطر على المراقبة؛ فالذكاء الاصطناعي أصبح أداة فعالة لدى الجهات التي تسعى إلى تقويض الديمقراطيات من الداخل.

حيث تتيح البرامج المتاحة إنتاج كميات كبيرة من المعلومات الزائفة، بما فيها النصوص والصور ومقاطع الفيديو، بتكلفة منخفضة، ثم نشرها عبر المنصات الرقمية للتأثير في النقاش العام.

والتضليل ليس ظاهرة جديدة، لكن استخدام وكلاء الذكاء الاصطناعي قد يضاعف نطاقه وتأثيره.

وتظهر مشكلة إضافية في روبوتات المحادثة، إذ قد تعكس إجاباتها توجهات سياسية بعينها، وقد ينتج ذلك من تصميم متعمد، كما في النماذج الصينية التي تراعي ضوابط الرقابة الحكومية، أو من اعتماد الأنظمة انتقائيًا على مصادر إعلامية محددة، بما يجعلها تعكس توجهات تلك المصادر.

وتزداد المخاطر بفعل تركّز سوق الذكاء الاصطناعي في أيدي عدد محدود من الشركات الكبرى، خصوصًا في الولايات المتحدة، وبعضها ينخرط قادتها بصورة مباشرة في العمل السياسي.

وتحذر الدراسة من أن بعض هؤلاء القادة يتبنون مواقف “متوترة” تجاه المبادئ الديمقراطية، وقد يسهمون من خلال أفعالهم في إضعاف الهياكل والإجراءات التي تقوم عليها الديمقراطية.

وبذلك، قد يؤدي الذكاء الاصطناعي في الديمقراطيات إلى آثار تشبه بعض نتائج استخدامه في الأنظمة السلطوية: فهو يعزز الصراعات القائمة، ويوسع فرص استغلال الأدوات الرقمية للتأثير في المجال العام.

وتشمل الاستجابات الممكنة تشديد قوانين المنافسة للحد من تركّز السوق، ووضع قواعد أكثر إلزامًا لتنظيم المحتوى على المنصات الرقمية، وتعزيز الثقافة الإعلامية والقدرة على التحقق من المعلومات من خلال التعليم.

ثالثًا: أنظمة ذكاء اصطناعي تطوّر نفسها

يتجاوز الذكاء الاصطناعي مجرد تعزيز مخاطر التقنيات السابقة في جانب جوهري آخر، هو احتمال تطور الأنظمة بصورة مستقلة ومتسارعة، فيما يُعرف بـالتحسين الذاتي التكراري.

فحتى الآن، لا يستطيع البشر فهم جميع خطوات عمل النماذج اللغوية الكبيرة أو تتبعها بصورة كاملة، بسبب تعقيد هذه الأنظمة.

وتشير الدراسة إلى حالات ظهرت فيها أنظمة ذكاء اصطناعي تجاوزت حدود الرقابة الموضوعة لها.

ومن الأمثلة نموذج تابع لشركة «أوبن إيه آي» تجاوز قيود بيئة الاختبار، ثم اخترق نظامًا تابعًا لشركة أخرى.

ولا يتطلب تفسير هذه الواقعة افتراض امتلاك البرنامج نية واعية؛ لكنها قد تكون مؤشرًا مبكرًا إلى مخاطر فقدان السيطرة.

وقد نوقشت مخاطر استقلال أنظمة الذكاء الاصطناعي مرارًا، ووصلت بعض التقديرات إلى اعتبارها تهديدًا وجوديًا للبشرية.

غير أن الخطر الأكثر مباشرة في المستقبل المنظور، وفق الدراسة، يتمثل في تهديد الديمقراطية.

فكلما تغلغل الذكاء الاصطناعي في قطاعات المجتمع، وأصبحت السيطرة البشرية عليه أقل فاعلية، تراجعت قدرة المجتمعات على تقرير مصيرها بصورة ديمقراطية، وضعفت الشفافية اللازمة لهذه العملية.

رابعًا: آفاق المواجهة والتوصيات

دعت شركات رائدة في مجال الذكاء الاصطناعي مرارًا إلى التعامل مع التطور التقني بقدر أكبر من المسؤولية السياسية.

 ويبرز في هذا السياق، مقترح «إبطاء» التطور عمدًا، لإتاحة وقت أكبر لتقييم مخاطره وإدارتها.

لكن تنفيذ ذلك يواجه معضلة العمل الجماعي: فحتى عندما يدرك كل طرف المخاطر المحتملة، تظل لديه حوافز قوية لمواصلة التطوير والسعي إلى موقع الريادة أو الحفاظ عليه، ما لم توجد قواعد ملزمة للجميع.

لذلك، ترى الدراسة أن إنشاء نظام دولي فعال لحوكمة الذكاء الاصطناعي سيكون خطوة مهمة.

غير أن تحقيق هذا الهدف بات أكثر صعوبة في ظل موقف الرئيس الأمريكي دونالد ترامب، الذي أعلن مرارًا رفضه للقيود التنظيمية، وحتى إذا غيّر موقفه، فستظل هناك شكوك بشأن استدامة هذا التغيير.

ويضع ذلك أوروبا وغيرها أمام تحدٍ خاص، إذ لا تملكان تأثيرًا مباشرًا كبيرًا في مسار تطور تقني تقوده قوى وشركات خارج نطاق سيطرتهما. ومن ثم، تزداد أهمية تنفيذ التدابير المطروحة منذ سنوات لمواجهة المراقبة الرقمية والتلاعب بالمعلومات.

وتقترح الدراسة أيضًا بحث فرض قيود قانونية على استخدام نماذج محددة من الذكاء الاصطناعي في القطاعات الحساسة، مثل الإدارة العامة ومشغلي البنية التحتية الحيوية. فالقوانين تسمح بالفعل بحظر استخدام مكونات تكنولوجية تابعة لشركات معينة للحد من المخاطر الأمنية، ويمكن مستقبلًا تصنيف نماذج الذكاء الاصطناعي نفسها ضمن هذه المكونات.

وقد يكون المعيار الأساسي في هذا التقييم هو مدى إمكانية إخضاع النموذج لرقابة بشرية فعالة وموثوقة.

<p>The post كيف يعزز الذكاء الاصطناعي السلطوية ويهدد الديمقراطية؟ first appeared on masr360.</p>

المصدر: مصر 360