أنثروبيك ترصد علماء يستخدمون Claude في أبحاث مرتبطة بالأسلحة البيولوجية
كشفت شركة أنثروبيك عن رصدها عدة حالات استخدم فيها علماء نماذج الذكاء الاصطناعي التابعة لها، وعلى رأسها Claude، للمساعدة في أبحاث قد ترتبط بتطوير أسلحة بيولوجية قبل أن توقفها الشركة.
وأوضحت الشركة في تقرير جديد أنها وثّقت خمس حالات لاستخدام نماذجها في أنشطة مرتبطة بتطوير أسلحة بيولوجية محتملة، بالإضافة إلى الإجراءات الأمنية التي ساعدت في اكتشاف هذه الاستخدامات وكيفية تعامل الشركة معها. ويأتي ذلك في وقت أصبحت فيه النماذج الحديثة أكثر قدرة على مساعدة الباحثين في تنفيذ مهام علمية متقدمة، مما يزيد في المقابل من مخاطر إساءة استخدامها.
وأكدت أنثروبيك أن اكتشاف هذا النوع من الاستخدامات يُعد تحديًا معقدًا، إذ قد تتشابه بعض الطلبات المرتبطة بأبحاث خطرة مع أبحاث علمية مشروعة، مثل تطوير اللقاحات أو دراسة الأمراض المعدية. ولهذا السبب، قالت الشركة إنها اتبعت نهجًا احترازيًا يميل إلى اتخاذ إجراءات صارمة عند وجود مؤشرات على إساءة الاستخدام، نظرًا إلى العواقب المحتملة.
ومن بين الحالات التي وثقها التقرير، رصد نظام “مصنف السلامة البيولوجية” لدى أنثروبيك طلبًا لاستخدام Claude في أبحاث “اكتساب الوظيفة” على فيروس شيكونغونيا. ووفقًا للشركة، تضمنت المقترحات البحثية تعديلات تهدف إلى زيادة قدرة الفيروس على الانتقال وتعزيز قدرته على تفادي الاستجابة المناعية.
وأشارت أنثروبيك إلى أن طبيعة البحث أثارت مخاوف إضافية بسبب ارتباط المشروع المقترح بمعهد أبحاث عسكري. ويُستخدم مصطلح “أبحاث اكتساب الوظيفة” لوصف دراسات تستكشف كيفية تغيير خصائص الكائنات الحية أو الفيروسات، وهي أبحاث يمكن أن تكون لها تطبيقات علمية وطبية، لكنها قد تثير مخاوف كبيرة عندما تتعلق بزيادة خطورة مسببات الأمراض.
ورصدت الشركة حالة أخرى مرتبطة بأبحاث اكتساب الوظيفة على إنفلونزا الطيور، إضافةً إلى حالة استخدم فيها أحد الباحثين Claude للمساعدة في إعداد أطلس لببتيدات السموم، وتطوير منظومة توليدية تهدف إلى تحسين خصائص السموم.
ولا تقتصر الحالات الواردة في التقرير على المجال البيولوجي؛ إذ وثقت أنثروبيك أيضًا إساءة استخدام نماذجها في مجالات أخرى، منها المراقبة، وإنشاء برمجيات استغلال للثغرات، وإنتاج الدعاية، وتطوير أنظمة أسلحة.
وقال رئيس استخبارات التهديدات في أنثروبيك، جاكوب كلاين، إن اكتشاف الأنشطة الضارة ليس أمرًا مباشرًا، مشيرًا إلى أن الحالات الواقعية أكثر تعقيدًا من تصور شخص يعلن صراحةً رغبته في تطوير سلاح بيولوجي.
وبحسب الشركة، فقد حظرت حسابات المستخدمين الذين ثبتت إساءتهم استخدام نماذج Claude أو نماذج أنثروبيك الأخرى، كما تُستخدم نتائج التحقيقات لتطوير أنظمة الحماية وتحسين قدرة النماذج على اكتشاف الاستخدامات الخطرة ومنعها مستقبلًا.
وفي المقابل، امتنعت أنثروبيك عن الكشف عن أسماء الباحثين أو المؤسسات المرتبطة بالحالات التي حققت فيها، موضحةً أن الأشخاص المعنيين هم علماء يعملون في مجال البحث العلمي، وأن الشركة لا تؤكد أنهم كانوا ينوون إلحاق الضرر بالآخرين، كما أن الكشف عن هوياتهم أو مختبراتهم قد يعرضهم للأذى.
وتعكس هذه الحالات جانبًا متزايد الأهمية من معضلة سلامة الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر كفاءة في تقديم المساعدة للباحثين والعلماء، ازدادت قدرتها المحتملة على دعم أبحاث ذات استخدامات مزدوجة، مما يفرض على شركات الذكاء الاصطناعي تطوير آليات أكثر دقة للموازنة بين تمكين البحث العلمي المشروع ومنع الاستخدامات التي قد تشكل تهديدًا للسلامة العامة.
