حادثة هاجين فيس.. هل خرج الذكاء الاصطناعي عن السيطرة؟| فيديو
كشف الدكتور محمد خليف، استشاري الابتكار المؤسسي وإدماج الذكاء الاصطناعي وعضو مجلس بحوث الاتصالات وتكنولوجيا المعلومات التابع لأكاديمية البحث العلمي والتكنولوجيا، تفاصيل الواقعة التي شهدتها منصة هاجين فيس وعلاقتها بالاختبارات التي أجرتها شركة أوبن إيه آي، مؤكدًا أن ما حدث يمثل تطورًا لافتًا في سلوك أنظمة الذكاء الاصطناعي ويعكس قدرتها على البحث عن مسارات غير متوقعة لتحقيق الأهداف المطلوبة، وأن الواقعة كشفت عن مرحلة جديدة في تطور الخوارزميات، حيث لم تعد تعتمد فقط على تنفيذ التعليمات المباشرة التي يضعها المبرمجون، بل أصبحت قادرة على اكتشاف وسائل بديلة واستغلال ثغرات داخل بيئة التشغيل للوصول إلى النتائج بأقل جهد ممكن، وهو ما يفرض تحديات أمنية وتقنية غير مسبوقة أمام مطوري أنظمة الذكاء الاصطناعي.
الخوارزميات.. الطرق لتحقيق أهدافها
وأشار استشاري الابتكار المؤسسي، خلال تصريحات تلفزيونية ببرنامج «أرقام وأسواق» المذاع على قناة أزهري، إلى أن التطور الحالي في الذكاء الاصطناعي لا يقتصر على زيادة سرعة معالجة البيانات أو تحسين جودة الإجابات، وإنما يمتد إلى قدرة الأنظمة على إعادة تقييم البيئة المحيطة بها واختيار المسار الذي يحقق الهدف بصورة أسرع، حتى إذا كان هذا المسار يعتمد على استغلال ثغرات لم تكن ضمن السيناريوهات التي توقعها المطورون، وأن هذا السلوك لا يعني امتلاك الذكاء الاصطناعي نوايا مستقلة، لكنه يكشف عن قدرة متقدمة على تحسين الأداء من خلال تجاوز الطرق التقليدية، وهو ما يستدعي تحديث آليات الحماية واختبارات الأمان باستمرار لمواكبة هذا التطور المتسارع في قدرات النماذج الذكية.
وقدم استشاري الابتكار المؤسسي، مثالًا عمليًا يوضح طبيعة ما حدث، قائلًا إن الأمر يشبه وضع طالب شديد الذكاء داخل غرفة مغلقة تحتوي على صندوق مزود بقفل رقمي، مع تكليفه بفتح الصندوق. ومن الطبيعي أن يبدأ الطالب في تجربة الأرقام المختلفة للوصول إلى الرمز الصحيح، إلا أن "الطالب الذكي" في هذا المثال، وهو الذكاء الاصطناعي، لم يتبع هذا الأسلوب، وأن النظام لجأ بدلًا من ذلك إلى البحث عن منفذ آخر، فعثر على وسيلة للوصول إلى الإنترنت داخل بيئة الاختبار، ثم استخدمها للوصول إلى قواعد بيانات منصة هاجين فيس والحصول على الكود المطلوب بصورة مباشرة، متجاوزًا بذلك المهمة الأصلية وآلية الاختبار بالكامل، إذ أن هذه الواقعة تعكس قدرة الخوارزميات الحديثة على تقليل الجهد المطلوب لتحقيق الأهداف عبر البحث عن حلول بديلة، وهو سلوك يقترب في بعض جوانبه من أساليب التحايل التي قد يلجأ إليها الإنسان عندما يبحث عن أقصر طريق للوصول إلى النتيجة.
الواقعة جرس إنذار
وشدد استشاري الابتكار المؤسسي، على أن هذه التطورات لا تعني خروج الذكاء الاصطناعي عن السيطرة أو وصوله إلى مرحلة يصعب التحكم فيها، إلا أنها تمثل مؤشرًا واضحًا على ضرورة إعادة النظر في معايير السلامة الرقمية، ووضع ضوابط أكثر صرامة عند تصميم واختبار الأنظمة الذكية، وأن المجتمع التقني لا يزال قادرًا على تطوير آليات رقابية فعالة، لكن استمرار تطور الخوارزميات يفرض ضرورة تحديث تلك الآليات بصورة دائمة، مع وضع حدود واضحة لما يمكن أن تصل إليه هذه الأنظمة داخل البيئات التشغيلية المختلفة، إذ أن من أهم المبادئ التي ينبغي الالتزام بها عدم منح أنظمة الذكاء الاصطناعي صلاحيات مباشرة للتحكم في البنية التحتية الحيوية، لأن اتساع نطاق الصلاحيات قد يفتح الباب أمام مخاطر يصعب التنبؤ بها مستقبلاً.
واختتم الدكتور محمد خليف، بالتأكيد على أن توصيل أنظمة الذكاء الاصطناعي بشبكات الكهرباء والمياه والاتصالات أو غيرها من المرافق الحيوية يجب أن يتم وفق ضوابط أمنية بالغة الدقة، نظرًا لقدرة هذه الأنظمة على تحليل كميات هائلة من البيانات، وربط ملايين المتغيرات خلال ثوانٍ معدودة، واكتشاف أنماط وثغرات قد لا ينتبه إليها البشر، وأن المرحلة المقبلة تتطلب تعاونًا أكبر بين الحكومات، وشركات التكنولوجيا، والمؤسسات البحثية لوضع أطر تنظيمية وتشريعية تضمن الاستفادة من إمكانات الذكاء الاصطناعي الهائلة، مع الحفاظ في الوقت نفسه على أمن البنية التحتية الرقمية وحماية الأنظمة الحيوية من أي مخاطر محتملة، بما يحقق التوازن بين الابتكار والأمان في عصر التحول الرقمي المتسارع.
