أنثروبيك توقف 5 محاولات لاستخدام Claude في أبحاث أسلحة بيولوجية
كشفت شركة أنثروبيك للذكاء الاصطناعي عن رصد وإيقاف عدة محاولات استخدم فيها علماء نماذجها الذكية، وعلى رأسها نموذج Claude، للمساعدة في إجراء أبحاث قد ترتبط بتطوير أسلحة بيولوجية.
وأوضحت الشركة في تقرير جديد صادر عنها أنها تمكنت من توثيق خمس حالات لاستخدام نماذج الذكاء الاصطناعي التابعة لها في أنشطة وأبحاث مرتبطة بتطوير أسلحة بيولوجية محتملة، قبل أن تتخذ الإجراءات اللازمة وتوقف تلك الأنشطة تماماً.
تفاصيل الرصد والإجراءات الأمنية
استعرض تقرير أنثروبيك الدور الذي لعبته الإجراءات الأمنية المعتمدة لديها في التصدي لهذه المحاولات، والتي شملت ما يلي:
- الرصد المبكر: كشف المحاولات التي تناولت أبحاثاً حساسة قد تُستغل في تطوير مواد أو أسلحة بيولوجية.
- الحظر والإيقاف: التدخل الفوري لإيقاف العمليات والحسابات التي حاولت تجاوز سياسات الاستخدام الآمن.
- تعزيز منظومة الأمان: تسليط الضوء على أهمية آليات الحماية الذاتية في نماذج الذكاء الاصطناعي لمنع المخاطر المحتملة.
تؤكد هذه الحالات أهمية وضع ضوابط أمنية صارمة ومراقبة مستمرة لاستخدامات الذكاء الاصطناعي التوليدي، لمنع استغلال هذه التقنيات المتقدمة في مجالات قد تشكل خطراً على السلامة العامة.
المصدر: اقرأ الخبر الأصلي