كشفت شركة Anthropic هذا الأسبوع عن تقرير موسع يرصد إساءة استخدام نموذج الذكاء الاصطناعي Claude في مجموعة واسعة من الأنشطة الخطيرة

كشفت شركة Anthropic هذا الأسبوع عن تقرير موسع يرصد إساءة استخدام نموذج الذكاء الاصطناعي Claude في مجموعة واسعة من الأنشطة الخطيرة، بداية من الهجمات السيبرانية وحملات التضليل، وصولًا إلى تطوير أدوات للمراقبة الجماعية ومحاولات مرتبطة بتصميم أسلحة بيولوجية.وبحسب التقرير، رصدت Anthropic عشرات الحملات التي نفذها أو دعمها أفراد ومجموعات مرتبطة بجهات حكومية ومجرمين إلكترونيين وشركات تجسس تجارية، حيث لم يقتصر استخدام Claude على طرح أسئلة تقنية، بل وصل في بعض الحالات إلى توجيه وكلاء ذكاء اصطناعي لتنفيذ عمليات استطلاع واختراق وسرقة بيانات بصورة شبه مستقلة.وقالت Anthropic إن التطور الأهم يتمثل في انتقال الذكاء الاصطناعي من مجرد أداة مساعدة للمهاجم إلى عنصر قادر على تنفيذ أجزاء كبيرة من العملية الهجومية، بما في ذلك البحث عن أهداف، اكتشاف الثغرات، تطوير أدوات الاستغلال، جمع بيانات الاعتماد واستخراج البيانات.ومن أبرز الحالات التي كشفت عنها الشركة نشاط مجموعة مرتبطة بروسيا استخدمت Claude للمساعدة في عمليات اختراق، إلى جانب مجموعات أخرى استغلت النموذج في تطوير برمجيات خبيثة وحملات تصيد وسرقة مفاتيح API واستهداف شركات تكنولوجيا ومؤسسات مالية وحكومية.كما رصدت Anthropic استخدام Claude في عمليات تجسس ومراقبة واسعة النطاق. وشملت بعض الأنشطة تحليل كميات ضخمة من المحادثات والبيانات المستخرجة من Telegram وWhatsApp، وإنشاء ملفات شخصية لأفراد، ومراقبة المعارضين والجاليات، وتطوير أنظمة لمتابعة الاتصالات والأجهزة المحمولة.وفي إحدى الحالات، استُخدم Claude للمساعدة في تصميم منصة مراقبة جماعية كان من المفترض أن تتابع ملايين شرائح الاتصال وتجمع سجلات المكالمات والرسائل والبيانات المرتبطة بأرقام الهواتف لإنشاء ملفات استخباراتية.ولم يتوقف الاستخدام عند المجال السيبراني. قالت Anthropic إنها عطلت محاولات من جهات في اليمن لتطوير أسلحة موجهة، كما رصدت عمليات مرتبطة بالصين حاولت استخدام النموذج في إعداد مواصفات لنظام للتحكم في نيران مضادة للطوربيدات وتطوير برمجيات مرتبطة بالحرب الإلكترونية.كما كشفت الشركة عن نشاط روسي استهدف تطوير منظومة متكاملة لطائرات FPV انتحارية تعمل في شكل أسراب وبدرجة عالية من الاستقلالية.وفي مجال التضليل السياسي، استخدم عدد من الجهات Claude لإنتاج كميات ضخمة من المحتوى السياسي والأخبار المزيفة، وإدارة مواقع إخبارية وهمية، وصناعة محتوى موجه لجمهور محدد، بالإضافة إلى عمليات تهدف إلى التأثير على الانتخابات والرأي العام.ورغم اتساع نطاق هذه الأنشطة، أكدت Anthropic أنها تمكنت من تعطيل العديد منها قبل وصولها إلى مستوى كبير من التأثير، مشيرة إلى أن بعض عمليات التأثير السياسي لم تتمكن من بناء جمهور حقيقي أو تحقيق تفاعل أصيل قبل اكتشافها وإيقافها.وتأتي هذه التطورات في وقت تتزايد فيه المخاوف من أن وكلاء الذكاء الاصطناعي قد يقللون بشكل كبير من الحاجز التقني والبشري الذي كان يفصل بين المهاجمين محدودي الموارد والعمليات السيبرانية المتقدمة.المشكلة لم تعد فقط أن الذكاء الاصطناعي يستطيع كتابة Malware أو شرح Exploit، وإنما أن الوكيل أصبح قادرًا على ربط عدة مراحل معًا، من Reconnaissance وVulnerability Research إلى Exploitation وCredential Harvesting وExfiltration، مع تدخل بشري أقل في كل مرحلة.وترى Anthropic أن هذا التطور يجعل مراقبة استخدام نماذج الذكاء الاصطناعي مصدرًا جديدًا للمعلومات حول التهديدات العالمية، خصوصًا أن شركات الذكاء الاصطناعي قد ترى أنماطًا من النشاط الواقعي لا تكون متاحة حتى لبعض الحكومات أو المؤسسات الدولية.الحوادث التي كشفت عنها الشركة تعكس تحولًا واضحًا في طبيعة التهديد: الذكاء الاصطناعي لم يعد مجرد أداة يستخدمها المهاجم، بل بدأ يتحول إلى عامل مضاعف للقدرات الهجومية، قادر على تقليل الوقت والتكلفة والخبرة المطلوبة لتنفيذ عمليات كانت تحتاج سابقًا إلى فرق متخصصة من البشر.