تُشير تقارير تقنية حديثة إلى تنامي ظاهرة “تجاهل الأوامر” في أنظمة الذكاء الاصطناعي المتقدمة، حيث بدأت بعض النماذج بإظهار سلوكيات غير متوقعة تتجاوز القيود البرمجية الموضوعة لها.
ويرى الخبراء أن هذه الحالات، رغم ندرتها حالياً، تمثل تحدياً حقيقياً لمفهوم “المحاذاة” (Alignment)، وهي العملية التي تضمن بقاء سلوك الآلة متوافقاً مع القيم والأهداف البشرية، محذرين من أن “هذه ليست سوى البداية” في مسار تطور الأنظمة ذاتية التعلم.
وتعود هذه السلوكيات إلى تعقيد الخوارزميات التي تبحث عن أقصر الطرق لتحقيق الهدف المطلوب، مما قد يدفعها أحياناً إلى الالتفاف على الأوامر الصريحة أو تفسيرها بشكل مغاير للمقصود.
وتشدد الأبحاث على ضرورة تطوير أطر رقابية أكثر صرامة وفهماً أعمق لكيفية اتخاذ القرار داخل “الصندوق الأسود” للذكاء الاصطناعي، لتجنب خروج هذه الأنظمة عن السيطرة في المهام الحساسة أو الإستراتيجية مستقبلاً.