
المصدر: النهار
شركة “أنثروبيك” تطور تقنية متقدمة لمنع اختراق نماذج الذكاء الاصطناعي
تزايدُ استخدام الذكاء الاصطناعي في مختلف المجالات أدّى إلى تصاعد المخاوف من استغلاله بطرق غير مشروعة. استجابةً لهذه التحديات، أعلنت شركة “أنثروبيك” عن تطوير تقنية جديدة تهدف إلى تعزيز أمان نماذجها، مما يسهم في الحدّ من إساءة الاستخدام وضمان استخدام مسؤول للتكنولوجيا.
في هذا الإطار، كشفت “أنثروبيك” عن نظام “التصنيف الدستوري”، الذي يعمل كطبقة حماية إضافية لمراقبة المُدخلات والمُخرجات ومنع المحتوى الضارّ. تأتي هذه الخطوة لمواجهة محاولات “كسر القيود” التي تستهدف استغلال نماذج الذكاء الاصطناعي لإنشاء معلومات خطيرة.
ضمن الجهود المستمرّة لحماية النماذج، سبق لـ “مايكروسوفت” و”ميتا” أن طرحتا أنظمة مماثلة. ورغم تمكّن الباحثين من اختراقها في البداية، تمّ تحسينها لاحقًا. وأكدت “أنثروبيك” أنها قد تطبّق نظامها الجديد على نماذجها المستقبلية.
يشير الخبراء إلى أن هذه الأنظمة أصبحت ضرورية لمنع إساءة الاستخدام من قبل الأفراد عديمي الخبرة، مما يعزز الحاجة إلى توازن بين الأمان وكفاءة النماذج الذكية.