تقترب تقنيات الذكاء الاصطناعي من منعطف تاريخي قد يعيد صياغة مستقبل قطاع التكنولوجيا بأكمله، وذلك بالتزامن مع تحذيرات متصاعدة أطلقتها شركة «أنثروبيك»، المطورة لمساعد الذكاء الاصطناعي «كلود»، من اقتراب الوصول إلى مرحلة «الذكاء الاصطناعي ذاتي التطوير». وتمثل هذه المرحلة نقطة تحول تستطيع خلالها الأنظمة الذكية المساهمة الفعالة في تدريب نفسها، وكتابة أكوادها البرمجية، وتطوير قدراتها المعمارية بشكل متزايد، مع تراجع ملحوظ في حاجة هذه العمليات إلى التدخل البشري المباشر. وقد فتحت هذه التحذيرات الباب أمام نقاشات واسعة حول مستقبل العلاقة بين الإنسان والآلة، خصوصاً في ظل التسارع المذهل لقدرات النماذج المتقدمة واحتمالات لجوء الأنظمة إلى تحسين أدائها ذاتياً وابتكار أجيال جديدة من التقنيات، وهو ما يوفر آفاقاً علمية وبحثية هائلة لكنه يصطحب معه تحديات جسيمة تتعلق بالسيطرة والأمان الرقمي.
ويُعرف هذا المسار التقني بمصطلح «التحسين الذاتي المتكرر»، وهو يعبر عن قدرة النماذج البرمجية على المشاركة المباشرة في عمليات التطوير عبر صياغة الأكواد وتحسين الخوارزميات وتوليد نماذج فائقة التقدم. وتكمن الأهمية القصوى لهذا التوجه في إمكانية تسريع وتيرة الابتكار التقني، حيث تتمكن الأنظمة من اقتراح تعديلات بنيوية على شفراتها البرمجية واختبارها بصورة متكررة، متجاوزة الاعتماد الكلي على فرق المهندسين والباحثين في كل مرحلة تفصيلية. ويرى المؤيدون أن بلوغ هذه المرحلة يسهم بشكل كبير في دفع عجلة الاكتشافات العلمية ورفع مستويات الإنتاجية وإيجاد حلول مبتكرة لمعضلات بالغة التعقيد، بينما ينبه الخبراء إلى أن استمرار هذا التطور السريع دون إطارات تنظيمية وضوابط صارمة قد يفضي إلى صعوبة بالغة في تتبع قدرات الآلات والتحكم الفعلي في سلوكياتها.
وفي السياق التشغيلي ذاته، كشفت الشركة المطورة أن مساعدها الرقمي «كلود» بات يضطلع بدور محورى في تطوير البنية البرمجية الداخلية، حيث أشارت البيانات إلى أنه كان يتولى كتابة أكثر من 80% من الأكواد المستخدمة في أنظمة الشركة بحلول شهر مايو من عام 2026. ويجسد هذا المعطى تحولاً جذرياً في طبيعة المهام الموكلة لمهندسي البرمجيات الذين تحول دورهم نحو مراجعة المخرجات البرمجية، واختبار النتائج، والإشراف الهندسي العام على عمليات التطوير. وعلاوة على ذلك، حذرت الشركة في تقارير سابقة من سيناريوهات مقلقة تتعلق باحتمال تطور قدرات النماذج الأصغر حجماً بنهاية عام 2026، بحيث تصبح قادرة على الانتشار ونسخ نفسها بصورة مستقلة عبر شبكة الإنترنت، مما ينذر بمخاطر جسيمة على صعيد الأمن الرقمي واستغلال هذه القدرات بمعزل عن الرقابة.
ولا تقتصر التحديات على سرعة التقدم التقني فحسب، بل تمتد لتشمل صعوبة ملاحقة البشر لوتيرة وضع قواعد الأمان الملائمة واختبار كل إصدار جديد تطلقه الآلات التي تحسن نفسها بنفسها. وأقرت الشركة في إفصاحات مالية وتنظيمية بأن توظيف الذكاء الاصطناعي في هندسة نماذج أكثر تقدماً يحمل في طياته مخاطر هيكلية تتعلق بالسلامة، مبينة أنها استخدمت بالفعل أدوات ذكية ساهمت في ابتكار نماذج جديدة عجزت عن إدراك كامل مستويات قدراتها إلا بعد ظهورها الفعلي. وتشمل قائمة المخاطر المحتملة تعذر اكتشاف الثغرات والأخطاء البرمجية الخفية، أو ظهور أنماط سلوكية غير متوقعة، أو إساءة استغلال القدرات المتقدمة في تنفيذ مهام ضارة إذا أتيحت للأنظمة صلاحيات الوصول إلى الموارد الرقمية بلا ضوابط.
ولمواجهة هذه المخاطر الداهمة، تعتمد الشركة سياسة مؤسسية تُعرف باسم «التوسع المسؤول»، والتي تهدف إلى ربط التطوير المتسارع لقدرات الذكاء الاصطناعي بمنظومة تدابير أمنية تتناسب طردياً مع حجم المخاطر المحتملة. وتؤكد الشركة التزامها التام بعدم السماح لأنظمة «كلود» بتولّي تصميم أجيال الذكاء الاصطناعي المستقبلية بشكل مستقل تماماً، مع التشديد على ضرورة بقاء العنصر البشري مشرفاً وموجهاً لعمليات التقييم والمراجعة والاعتماد. كما تواصل فرق العمل رصد قدرات النماذج بصفة دورية مبكرة لاكتشاف أي انحرافات تتجاوز حدود الأمان الآمنة، لضمان ألا يأتي التوسع التكنولوجي على حساب القدرة البشرية في مراقبة التطبيقات والسيطرة عليها، لتصبح المعركة الحقيقية متمثلة في إيجاد التوازن الدقيق بين سرعة الابتكار وضمان المسؤولية الإنسانية.
