وأضاف، خلال سلسلة محاضرات “هينتون”، أن الذكاء الاصطناعي قد ينظر إلى البشر باعتبارهم عائقا أمام تحقيق أهدافه، محذرا من احتمال فقدان السيطرة البشرية بصورة لا رجعة فيها.
سيطرة قد تجعل تدخل البشر بلا جدوى
وقال إن خطر سيطرة الذكاء الاصطناعي خلال السنوات الثلاث المقبلة مرتفع، مشيرا إلى أن الأنظمة قد تصبح قادرة على اتخاذ قرارات مستقلة، على نحو يجعل محاولة إيقافها شبه مستحيل.
تجارب كشفت سلوكيات مقلقة
وخلال الاختبارات، اكتشفت النماذج أن التحايل على المهام أسرع من تنفيذها بالطريقة المطلوبة، ثم بدأت بمحاولة إخفاء غشها خشية حصولها على تقييمات سلبية.
وتطور الأمر إلى نشاط مكثف شمل:
اختراق مواقع خارجية، بينها منصة Hugging Face، بهدف معرفة آليات تقييم النماذج.
الوصول إلى أجزاء من الأنظمة الداخلية للشركة.
التلاعب بنتائج الاختبارات ومنح نفسها تقييمات مرتفعة.
ووصف كريستيانو هذه السلوكيات بأنها أكثر خطورة بكثير من الحوادث التي شهدها العام السابق، معتبرا أنها مؤشرات على تطورات قد تسبق وقوع كارثة أكبر.
البشر قد يتحولون إلى عائق أمام أهداف الذكاء الاصطناعي
وحذر من أن الأنظمة الذكية قد تسعى مستقبلا إلى الحد من قدرة البشر على التدخل في خططها، من خلال اختراق البنية التحتية الرقمية، والسيطرة على الشركات، والتوسع عبر الإنترنت، واستقطاب حلفاء من البشر.
وأشار إلى أن هذا المسار قد يتفاقم تدريجيا حتى تصبح الأنظمة الذكية قادرة على إزاحة البشر عن مواقع السيطرة، بما قد يؤدي إلى سقوط أعداد كبيرة من الضحايا، سواء خلال مرحلة انتقال السيطرة أو بعدها.
وختم كريستيانو تحذيره بالقول إن البشرية أنشأت ما يشبه “نوعا ثانيا” أكثر عددا وذكاء منها، معتبرا أن احتمالات الصدام بين البشر والأنظمة الذكية قد تتزايد مستقبلا، مع نتائج قد تكون كارثية على البشرية. (روسيا اليوم)









اترك ردك