كشفت شركة أنثروبيك عن تقديرات وتقارير حديثة تشير إلى اقتراب نماذج الذكاء الاصطناعي من مرحلة متقدمة تستطيع فيها المساهمة في تسريع تطوير أجيال جديدة من النماذج بدرجة تتجاوز وتيرة البحث البشري التقليدي، وهي المرحلة المعروفة علمياً بمفهوم التحسين الذاتي المتكرر.
وأكدت الشركة أن نماذجها الحالية لم تصل بعد إلى الحد الذي حددته لهذه القدرة الكبيرة، مشددة على أن استمرار الإشراف البشري الفعال يمثل ركيزة اساسية ضمن خططها الاستراتيجية للتحكم في المخاطر المحتملة وضمان أمان الأنظمة المستقبلية.
وتضمنت وثيقة مالية معدلة قدمتها الشركة استعدادًا لتحضيرات الاكتتاب العام تحذيرات صريحة بشأن إمكانية تسارع قدرات النماذج بمعدل يفوق قدرة الفرق البحثية على تطوير إجراءات السلامة اللازمة واختبارها بكفاءة، كما أقرت بأنها استخدمت بالفعل أدوات الذكاء الاصطناعي في أبحاث تطوير النماذج دون أن تتمكن دائمًا من رصد أو التعرف على بعض التحولات الطارئة في قدراتها وقت حدوثها الفعلي.
ويشير مفهوم التحسين الذاتي المتكرر إلى استخدام أنظمة الذكاء الاصطناعي للمساعدة في تحسين الأنظمة التي تنتج بدورها نماذج أكثر قدرة وتقدمًا، بحيث تسهم كل مرحلة تطوير في تسريع الخطوات اللاحقة بشكل متصاعد، وقد يشمل ذلك مهام متعددة مثل كتابة البرمجيات، والمساعدة في الأبحاث المعقدة، وتحليل نتائج التدريب بدقة.
لكن الشركة شددت في إفصاحاتها على أن امتلاك النموذج للقدرة على المساعدة في تطوير البرمجيات لا يعني بأي حال من الأحوال أنه أصبح قادرًا بشكل كامل على تصميم أجيال جديدة من الذكاء الاصطناعي وتشغيلها دون أي تدخل بشري، وهو الفرق الجوهري الذي وضعت دونه خطوطًا حمراء.
وتبرز المخاوف المتعلقة بالسلامة من أن تسارع وتيرة التطور التقني قد يجعل قدرات النماذج تتقدم بصورة أسرع من وسائل تقييم مخاطرها، وهو ما قد يضعف قدرة الباحثين على فهم التغيرات المتسارعة واختبار الضوابط والاحتياطات اللازمة قبل نشر الأنظمة على نطاق واسع.
وفي ظل هذه التحديات، تدرس أنثروبيك بجدية تحديث سياسة التوسع المسؤول لديها للحفاظ على المشاركة البشرية الحاسمة في عمليات تطوير النماذج، مؤكدة أنها لا تتوقع إمكانية استخدام مساعدها الذكي كلود لبناء أجيال متعاقبة من النماذج المتقدمة بصورة مستقلة وآمنة تمامًا دون إشراف وفهم بشريين عميقين، ولذلك يظل الحديث عن اقتراب مرحلة التحسين الذاتي توقعًا استراتيجيًا للشركة وليس إعلانًا بتحقيقها على أرض الواقع.
