لا خداع للبشر.. “مايكروسوفت” تضع مدونة سلوك للذكاء الاصطناعي
مع تصاعد التركيز العالمي على سلامة الذكاء الاصطناعي ومواءمته مع القيم البشرية، كشفت شركة مايكروسوفت عن مدونة سلوك جديدة تهدف إلى وضع قواعد واضحة توجه نماذج الذكاء الاصطناعي التابعة لها بعيدًا عن السلوكيات الخطرة، بما في ذلك اختراق الأنظمة أو خداع البشر والتحايل على الرقابة.
وتأتي الوثيقة في مستوى أكثر تفصيلًا من الدعوة الأخيرة التي أطلقها داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي المتقدمة، إذ تركز مدونة “مايكروسوفت” بصورة أكبر على القيم والخطوط الحمراء التي ينبغي أن تحكم تدريب نماذج الذكاء الاصطناعي داخل الشركة.
ورغم ذلك، تقدم الوثيقة تصورًا شاملًا عن الطريقة التي تتعامل بها “مايكروسوفت” مع سلامة الذكاء الاصطناعي، وكيف تسعى إلى تحويل مبادئ السلامة إلى قواعد عملية يتم تطبيقها على النماذج، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
“مايكروسوفت” تستعد لعصر الذكاء الاصطناعي فائق الذكاء
تبدأ مدونة السلوك بتوقع لافت مفاده أن أنظمة الذكاء الاصطناعي فائقة الذكاء قد تتجاوز أداء البشر في معظم المهام خلال العقد المقبل.
وتحذر الوثيقة من أن التعامل مع هذه الأنظمة سيكون أحد أكبر التحديات التي تواجه البشرية، مشددة على ضرورة أن تكون أهداف تطوير هذه التقنيات وآليات السيطرة عليها واضحة منذ البداية.
وتقول الوثيقة إن احتواء هذه القوة والسيطرة عليها ومواءمتها سيكون من أعظم التحديات التي واجهتها البشرية، ولذلك يجب أن تكون الشركات واضحة تمامًا بشأن سبب ابتكار هذه الأنظمة والطريقة التي تنوي من خلالها التحكم فيها.
ولا تكتفي المدونة بوضع مبادئ عامة، بل تحدد مجموعة من القواعد التي يفترض أن تلتزم بها نماذج “ميكروسوفت” للذكاء الاصطناعي، من بينها دعم البشر بدلًا من استبدالهم، وتسريع ازدهار الإنسان وتحسين قدراته.
قواعد تتجاوز رغبات المستخدم
ومن أبرز ما تكشفه الوثيقة أن لكل نموذج من نماذج “مايكروسوفت” للذكاء الاصطناعي مدونة سلوك عامة تتفوق على تفضيلات المستخدم الفردية أو المهمة التي يطلب تنفيذها.
وتتضمن هذه القواعد ما تصفه “مايكروسوفت” بالقيود المطلقة، والتي تحظر على النماذج تنفيذ هجمات إلكترونية، أو المساعدة في تطوير الأسلحة النووية، أو إنتاج محتوى التزييف العميق.
لكن القيود لا تتوقف عند منع استخدامات محددة للذكاء الاصطناعي، إذ تضع الشركة أيضًا خطوطًا حمراء تتعلق بمنع فقدان البشر السيطرة على الأنظمة نفسها.
وتنص الوثيقة على أن نماذج “مايكروسوفت” لن تستخدم أساليب تكيفية أو خادعة أو تعزز نفسها ذاتيًا أو تقوم على التواطؤ، أو أي آليات أخرى تهدف إلى التهرب من الرقابة البشرية أو إفشالها، بما قد يجعل من الصعب توجيه النماذج أو تعديلها أو إيقافها بصورة موثوقة من جانب الأشخاص أو الأنظمة المخولة بذلك.
ويعكس هذا البند أحد أكبر المخاوف التي تحيط بالجيل الجديد من أنظمة الذكاء الاصطناعي، خصوصًا مع انتقالها من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام معقدة بصورة أكثر استقلالية.
سباق الذكاء الاصطناعي يواجه أسئلة السلامة
يأتي إعلان “مايكروسوفت” في وقت يشهد فيه قطاع الذكاء الاصطناعي اهتمامًا غير مسبوق بقضايا السلامة، في ظل سلسلة من الحوادث المرتبطة بوكلاء ذكاء اصطناعي أظهروا سلوكيات غير متوقعة، إلى جانب استقالة مفاجئة لأحد موظفي “أنثروبيك”، الذي حذر من تزايد خطر تسبب الذكاء الاصطناعي في انقراض البشر.
وتتبنى “مايكروسوفت”، إلى جانب “أنثروبيك” و”OpenAI” و”xAI”، نهجًا عامًا يقوم على إبطاء أو تنظيم وتيرة التقدم في تطوير قدرات الذكاء الاصطناعي المتقدمة، مع دعم خاص لفكرة وجود جهات تقييم مستقلة داخل مختبرات الذكاء الاصطناعي لمراقبة النماذج واختبار مخاطرها أثناء عملية التطوير.
وقال ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إن الشركة ترحب بالأبحاث والتركيز والوتيرة المدروسة اللازمة لجعل المواءمة مع البشر هدفًا أساسيًا في تصميم أنظمة الذكاء الاصطناعي.
كما أبدى ترحيبه بأفكار مثل المقيّمين المدمجين والجهود الأوسع لتطوير آليات تجعل الالتزام بسلامة الذكاء الاصطناعي أمرًا عمليًا وليس مجرد شعارات.
وتشير مدونة “مايكروسوفت” الجديدة إلى تحول مهم في طريقة تعامل شركات الذكاء الاصطناعي الكبرى مع المخاطر؛ فبدلًا من الاكتفاء بالتعهدات العامة، بدأت الشركات في صياغة قواعد تشغيلية واضحة تحدد ما يمكن للنماذج فعله وما يجب عليها رفضه، والأهم: ضمان بقاء الإنسان قادرًا على التحكم فيها وإيقافها.
المصدر: العربية – تكنولوجيا