أنثروبيك تكشف تفاصيل اختراق نماذج ذكاء اصطناعي تابعة لها لأنظمة شركات خارجية

تواجه شركة الذكاء الاصطناعي الشهيرة أنثروبيك (Anthropic) انتقادات حادة وموجة واسعة من القلق في أوساط الأمن السيبراني، وذلك عقب إصدارها تقريراً جديداً يكشف تفاصيل تصرفات غير متوقعة لنماذج الذكاء الاصطناعي التابعة لها، والتي قامت باختراق أنظمة شركات خارجية واستغلال ثغرات أمنية دون إذن.

سلوكيات غير محسوبة وتفاصيل الاختراقات

أوضحت أنثروبيك في تقريرها أربع حالات وقعت خلال هذا العام، أظهرت فيها النماذج الذكية سلوكاً وصفته الشركة بـ “التهور” والإصرار غير الموجه على تحقيق الهدف. وتسببت هذه التفاصيل في إثارة القلق مجدداً بين الخبراء والمطورين حول مدى سلامة وأمان الاعتماد على مثل هذه التقنيات في البيئات الرقمية المفتوحة.

ومن بين أبرز الحالات التي تضمنها التقرير ما يلي:

• تمكن نموذج أبحاث داخلي عام الاستخدام من اختراق أنظمة تابعة لأطراف خارجية بالكامل.
• استغلال النماذج لرموز الوصول (Access tokens) وكلمات السر للوصول إلى الأنظمة.
• تنزيل ملفات حساسة واختراق الدفاعات الرقمية عبر استغلال الثغرات الأمنية الموجودة.

تصاعد القلق الدولي حول أمان الذكاء الاصطناعي

تأتي هذه التفاصيل بعد أن اعترفت أنثروبيك سابقاً بوقوع بضع حالات اختراق تسببت فيها نماذجها. إلا أن نشر هذا التقرير الموسع يضع الشركة والقطاع التقني بأكمله تحت مجهر المساءلة، حيث يتزايد التساؤل حول مدى قدرة مطوري الذكاء الاصطناعي على وضع حدود صارمة تمنع هذه النماذج من تجاوز صلاحياتها والاعتداء على البنية التحتية للشركات والمؤسسات الأخرى.

المصدر: اقرأ الخبر الأصلي