وبحسب وكالة “رويترز”، أوردت الشركة هذه التحذيرات في نشرة الاكتتاب العام الأولي، مشيرة إلى أن نماذجها قد تُظهر سلوكيات مرتبطة بـ”الحفاظ على الذات”، تشمل محاولة مقاومة إيقافها أو إخفاء المعلومات والتلاعب بها، وصولاً إلى تصرفات “تشبه الابتزاز”.
وقالت الشركة إن تطوير نماذج ومنصات وتطبيقات أكثر تقدماً، إلى جانب توسيع مجالات استخدامها، قد يزيد خطر تسببها بأضرار.
ورغم أن الشركات المدرجة في البورصة تعرض عادة المخاطر المرتبطة بمنتجاتها، فإن تحذيراً من احتمال مساهمة التكنولوجيا في انقراض البشر يُعد استثنائياً. وفي المقابل، شددت أنثروبيك على أن الذكاء الاصطناعي قد يُحدث تحولاً يوازي تأثير التصنيع والكهرباء، لكنه قد يؤدي أيضاً إلى أضرار لا يمكن عكسها إذا أسيء التعامل معه.
وقد خصصت الشركة نحو 80 صفحة من أصل 261 صفحة في متن نشرة الاكتتاب لشرح عوامل الخطر، مقابل 48 صفحة فقط لعرض نشاطها التجاري. وللمقارنة، خصصت شركة “سبيس إكس”، المالكة لشركة “xAI”، نحو 38 صفحة للمخاطر ضمن نشرة بلغ متنها 277 صفحة.
وقالت أنثروبيك إن إدراك النماذج احتمال خضوعها للتقييم يشكل عائقاً كبيراً أمام اختبار سلامتها، إذ قد تتعرف الأنظمة الأكثر تطوراً إلى لحظة مراقبتها وتعدل سلوكها تبعاً لذلك.
وأضافت أن بعض النماذج قد تطور قدرات غير متوقعة أثناء التدريب، ولا يجري اكتشافها إلا بعد طرحها للاستخدام، ما قد يؤدي إلى حوادث خطرة.
وقدر الباحث في سلامة الذكاء الاصطناعي لدى أنثروبيك إيفان هوبينغر احتمال تسبب الذكاء الاصطناعي في قتل بشر خلال العقد المقبل بأكثر من 10%، وهو تقدير شخصي يتقاطع مع موقف عبّر عنه زميل سابق له.
وتواجه أنثروبيك ومطورون آخرون، بينهم “OpenAI”، تدقيقاً متزايداً بعد تسجيل حوادث تجاوزت فيها أنظمة تجريبية القيود الموضوعة لها، ومن بينها تقرير عن اختراق نموذج تابع لـ”OpenAI” قاعدة بيانات مرتبطة بالنظام الصحي الأسترالي.
ورغم تقديم نفسها مختبراً يضع السلامة في مقدمة أولوياته، أقرت أنثروبيك بأن العوائد المالية من استثمارات السلامة لا تزال غير واضحة. ولم تكشف حجم إنفاقها في هذا المجال، لكنها قالت سابقاً إن نحو 6% من القدرة الحاسوبية المستخدمة في أبحاثها خُصصت لأعمال السلامة خلال أسبوع نموذجي في تموز.
ووصفت الشركة أبحاث السلامة بأنها كثيفة الاستهلاك للموارد، في وقت تضطر فيه إلى توزيع أموالها بين القدرة الحاسوبية واستقطاب الخبرات الباهظة وتطوير إجراءات الأمان.
كما أقرت بأن إيراداتها تعتمد على طرح نماذج جديدة بوتيرة مستمرة ومتداخلة للبقاء في طليعة المنافسة، ما يبرز التوتر بين الدعوات إلى إبطاء التطوير وضغط السباق التجاري بين مختبرات الذكاء الاصطناعي.
وأكدت أنثروبيك أنها ستنشر مزيداً من البيانات عن استخدام نماذج الذكاء الاصطناعي في بناء أجيال لاحقة من التكنولوجيا، وسط تحذيرات من الوصول إلى مرحلة تستطيع فيها الأنظمة تحسين نفسها بصورة متكررة ومن دون مساعدة بشرية.