معلم جديد في تطور الذكاء الاصطناعي: اختراقات وتحديات نموذج Manus

مؤخراً، حقق نموذج Manus نتائج بارزة في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس الفئة. يعني هذا الإنجاز أن Manus قادر على التعامل بشكل مستقل مع المهام المعقدة، مثل المفاوضات التجارية الدولية، التي تتضمن تحليل العقود، وضع الاستراتيجيات، وتنسيق الفرق.

تتمثل مزايا Manus بشكل رئيسي في ثلاثة جوانب: تقسيم الأهداف الديناميكي، الاستدلال بين الأنماط المختلفة، والتعلم المعزز للذاكرة. يمكنه تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، ومعالجة أنواع متعددة من البيانات، وزيادة كفاءة اتخاذ القرار وتقليل معدل الأخطاء من خلال التعلم المعزز.

هذا التقدم أثار مرة أخرى مناقشات داخل الصناعة حول مسار تطور الذكاء الاصطناعي: هل نتجه نحو تطوير نموذج واحد للذكاء الاصطناعي العام (AGI) أم نحو أنظمة متعددة الوكلاء (MAS) التي تركز على التعاون؟

تشير فلسفة تصميم مانوس إلى احتمالين:

1. مسار AGI: من خلال تعزيز قدرات نظام ذكي واحد باستمرار، ليقترب من مستوى اتخاذ القرار الشامل للبشر.

2. مسار MAS: استخدام Manus كمنسق رئيسي لتوجيه عدد كبير من الوكلاء المتخصصين للعمل معًا.

إن اختيار هذين المسارين يعكس في الواقع مشكلة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. كلما اقتربت الوكالة الفردية من الذكاء الاصطناعي العام، أصبح من الصعب تفسير عملية اتخاذ القرار؛ في حين أن التعاون بين الوكالات المتعددة يمكن أن يوزع المخاطر، لكنه قد يفوت اللحظات الحاسمة لاتخاذ القرار بسبب تأخير الاتصال.

يبرز تطوير Manus أيضًا المخاطر الكامنة في أنظمة الذكاء الاصطناعي:

1. قضايا خصوصية البيانات: في مجالات مثل الرعاية الصحية والمالية، يحتاج Manus إلى الوصول إلى بيانات حساسة.

2. التحيز الخوارزمي: قد تظهر قرارات غير عادلة في مجالات مثل الموارد البشرية.

3. ثغرات الأمان: قد يتمكن القراصنة من التشويش على حكم Manus بطرق معينة.

تُظهر هذه المشكلات اتجاهًا مقلقًا: كلما زادت ذكاء أنظمة الذكاء الاصطناعي، زادت سطح الهجوم المحتمل.

لمواجهة هذه التحديات، يستكشف القطاع العديد من الحلول الأمنية:

1. نموذج الأمان صفر الثقة: إجراء تحقق وتفويض صارم على كل طلب وصول.

2. الهوية اللامركزية (DID): تحقيق التعرف على الهوية القابلة للتحقق والدائمة دون الحاجة إلى التسجيل المركزي.

3. التشفير المتجانس بالكامل (FHE): يسمح بإجراء الحسابات على البيانات في حالة التشفير، مما يحمي الخصوصية.

يعتبر FHE التقنية الأساسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن تلعب دورًا في الجوانب التالية:

• على مستوى البيانات: يتم معالجة معلومات المستخدم في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.

• على مستوى الخوارزمية: تحقيق "تدريب نموذج مشفر" من خلال FHE، لضمان خصوصية عملية اتخاذ القرار.

• على مستوى التنسيق: يتم استخدام التشفير القائم على العتبة للتواصل بين عدة وكلاء، مما يعزز أمان النظام بشكل عام.

في مجال Web3، بدأت بعض المشاريع في استكشاف تطبيقات هذه التقنيات الأمنية. على سبيل المثال، أطلق مشروع ما حلاً لهوية لامركزية على شبكة الإيثريوم الرئيسية، بينما ركز مشروع آخر على تنفيذ نموذج الأمان بدون ثقة. وهناك مشروع آخر أصبح الأول الذي يتم إطلاقه على الشبكة الرئيسية كمشروع FHE، وتعاون مع العديد من المؤسسات المعروفة.

مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، أصبح من الضروري إنشاء نظام دفاع أمني قوي. لا تستطيع تقنيات التشفير المتقدمة مثل FHE فقط حل المشكلات الأمنية الحالية، بل تمهد أيضًا الطريق لأنظمة الذكاء الاصطناعي الأكثر قوة في المستقبل. في الرحلة نحو AGI، ستلعب هذه التقنيات الأمنية دورًا متزايد الأهمية.