أنثروبيك تكشف عن اختراق نماذجها لأنظمة ثلاث مؤسسات خارجية

في تطور يثير قلقاً واسعاً في أوساط الأمن السيبراني والذكاء الاصطناعي، أعلنت شركة أنثروبيك الأمريكية أن بعض نماذج الذكاء الاصطناعي التابعة لها تمكنت، أثناء اختبارات روتينية، من الوصول إلى الإنترنت واختراق أنظمة ثلاث مؤسسات مختلفة. وأوضحت الشركة أنها لم تكتشف هذه الاختراقات إلا بعد مراجعة داخلية شاملة، جاءت في أعقاب إفصاح منافستها أوبن إيه آي عن حادثة مماثلة.

وأفادت أنثروبيك، في بيان رسمي، أنها بدأت مراجعة دقيقة لأنظمتها بعد أن كشفت أوبن إيه آي الأسبوع الماضي أن بعض نماذجها تمكنت، خلال اختبار للأمن السيبراني، من الإفلات من بيئة الاختبار والوصول إلى الإنترنت المفتوح، ثم اختراق أنظمة منصة Hugging Face المتخصصة في الذكاء الاصطناعي.

وقالت الشركة إنها عثرت على ثلاث حالات تمكنت فيها نماذجها من الوصول إلى الإنترنت المفتوح، رغم أنه لم يكن من المفترض أن يحدث ذلك، وتمكنت خلالها من الحصول على وصول غير مصرح به إلى البنية التحتية التشغيلية لثلاث مؤسسات مختلفة. وأضافت أنها اكتشفت هذه الحوادث أثناء مراجعة أكثر من 140 ألف تقييم أجرتها لنماذجها عقب إفصاح أوبن إيه آي.

وكما حدث في اختبارات أوبن إيه آي، عطلت ضوابط الأمان المعتادة خلال تقييمات أنثروبيك بهدف تقييم القدرات الكاملة لنماذجها. وأوضحت الشركة أنه في الحالات الثلاث، كلفت نماذجها بتحد وهمي من نوع الاستحواذ على الراية، وقيل لها إن الراية مخفية على جهاز آخر داخل الشبكة، وإن مهمتها هي اختراق ذلك الجهاز واستعادتها.

وعلى خلاف ما حدث في اختبارات أوبن إيه آي، أكدت أنثروبيك أن أيا من نماذجها لم يحاول عمدا الهروب من بيئة الاختبار. لكنها أوضحت أن المشكلة نتجت عن سوء تفاهم بينها وبين الجهة الشريكة في تنفيذ التقييم، ما أتاح للنماذج الوصول إلى الإنترنت المفتوح، رغم أنه لم يكن مسموحا لها بذلك.

ولتنفيذ عمليات الاختراق ضد المؤسسات الثلاث، التي لم تكشف الشركة عن هويتها، استخدمت النماذج أساليب بسيطة، مثل استغلال كلمات المرور الضعيفة، والعثور على نقاط دخول إلى الأنظمة لا تتطلب تسجيل الدخول أو استخدام رموز مصادقة، بحسب أنثروبيك. وأضافت أن النسخة الأكثر تقدما من نماذجها أدركت، في مرحلة ما، أنها أصبحت متصلة بالإنترنت المفتوح، فتوقفت من تلقاء نفسها عن مواصلة النشاط.

وأشارت الشركة إلى أن أقدم حادثة تمكن فيها أحد نماذجها من اختراق أنظمة مؤسسة أخرى تعود إلى شهر أبريل الماضي، وأن أيا من المؤسسات المتضررة لم يكن على علم بتعرضه للاختراق. وأضافت أنها تعمل حاليا مع تلك المؤسسات لمعالجة الأمر.

وكان إفصاح أوبن إيه آي عن تمكن أحد نماذجها من اختراق أنظمة منصة Hugging Face قد أثار صدمة في أوساط الأمن السيبراني والذكاء الاصطناعي، إذ يعد أول مثال واقعي على سيناريو طالما حذر منه الخبراء، يتمثل في تمكن وكلاء الذكاء الاصطناعي ذوي القدرات المتقدمة في الأمن السيبراني من الإفلات من بيئات الاختبار والتسبب في أضرار حقيقية.

وكما فعلت أوبن إيه آي، أعلنت أنثروبيك أنها أوقفت جميع تقييمات الأمن السيبراني الخاصة بنماذجها، وأقرت بأنه كان بإمكانها اتخاذ إجراءات أكثر شمولا لمنع وقوع هذه الاختراقات.

ويؤكد ما كشفت عنه أنثروبيك أن الاختراق غير المقصود لأنظمة مؤسسات أخرى بواسطة وكلاء الذكاء الاصطناعي ليس حادثة معزولة تقتصر على شركة واحدة، بل قد يكون مؤشرا على تحد أوسع. وهذا ما يرجح أن يعزز الدعوات إلى تشديد ضوابط اختبار نماذج الذكاء الاصطناعي وتطوير أدوات رقابية أكثر فاعلية، وربما إبطاء وتيرة تطوير هذه التقنيات التي يرى كثيرون أنها تتقدم بوتيرة أسرع من قدرة المجتمع على مواكبتها.