المجرمون يقومون بـ "اختراق الأجواء" باستخدام الذكاء الاصطناعي بمستويات غير مسبوقة: Anthropic

على الرغم من وجود "حواجز حماية متطورة"، تقول شركة البنية التحتية للذكاء الاصطناعي Anthropic إن مجرمي الإنترنت لا يزالون يجدون طرقًا لاستغلال روبوت الدردشة الذكي Claude لتنفيذ هجمات إلكترونية واسعة النطاق.

في تقرير "معلومات التهديدات" الذي صدر يوم الأربعاء، شارك أعضاء فريق معلومات التهديدات في Anthropic، بمن فيهم Alex Moix وKen Lebedev وJacob Klein، عدة حالات استغل فيها المجرمون روبوت الدردشة Claude، حيث طالبت بعض الهجمات بفدية تجاوزت 500,000 دولار.

وجدوا أن روبوت الدردشة استُخدم ليس فقط لتقديم المشورة التقنية للمجرمين، بل أيضًا لتنفيذ عمليات الاختراق مباشرة نيابة عنهم من خلال ما يسمى بـ"vibe hacking"، مما أتاح لهم تنفيذ الهجمات بمعرفة أساسية فقط في البرمجة والتشفير.

في فبراير، توقعت شركة أمن البلوكشين Chainalysis أن تشهد عمليات الاحتيال بالعملات الرقمية أكبر عام لها في 2025، حيث جعل الذكاء الاصطناعي التوليدي هذه الهجمات أكثر قابلية للتوسع وأقل تكلفة. وجدت Anthropic أن أحد القراصنة كان يستخدم "vibe hacking" مع Claude لسرقة بيانات حساسة من ما لا يقل عن 17 منظمة — بما في ذلك مؤسسات الرعاية الصحية وخدمات الطوارئ والحكومات والمؤسسات الدينية — مع مطالبات فدية تتراوح بين 75,000 دولار و500,000 دولار بعملة Bitcoin.

  توضح مذكرة فدية محاكاة كيف يستغل مجرمو الإنترنت Claude لتهديد الضحايا. المصدر: Anthropic

قام المخترق بتدريب Claude على تقييم السجلات المالية المسروقة، وحساب مبالغ الفدية المناسبة، وكتابة ملاحظات فدية مخصصة لتعظيم الضغط النفسي.

بينما قامت Anthropic لاحقًا بحظر المهاجم، تعكس الحادثة كيف يجعل الذكاء الاصطناعي من السهل حتى على المبرمجين ذوي المستوى الأساسي تنفيذ الجرائم الإلكترونية بدرجة "غير مسبوقة".

"الجهات التي لا تستطيع تنفيذ التشفير الأساسي بشكل مستقل أو فهم آليات syscall أصبحت الآن قادرة على إنشاء برامج فدية بقدرات مراوغة [وتنفيذ] تقنيات مضادة للتحليل."

عمال تكنولوجيا المعلومات الكوريون الشماليون استخدموا أيضًا Claude من Anthropic

وجدت Anthropic أيضًا أن عمال تكنولوجيا المعلومات الكوريين الشماليين استخدموا Claude لتزوير هويات مقنعة، واجتياز اختبارات البرمجة التقنية، وحتى الحصول على وظائف عن بُعد في شركات التكنولوجيا الأمريكية المدرجة ضمن Fortune 500. كما استخدموا Claude للتحضير لإجابات المقابلات لتلك الوظائف.

قالت Anthropic إن Claude استُخدم أيضًا في تنفيذ الأعمال التقنية بعد التوظيف، مشيرة إلى أن هذه المخططات الوظيفية صُممت لتحويل الأرباح إلى النظام الكوري الشمالي على الرغم من العقوبات الدولية.

  توزيع المهام المدعومة من Claude التي استخدمها عمال تكنولوجيا المعلومات الكوريون الشماليون. المصدر: Anthropic

في وقت سابق من هذا الشهر، تم اختراق عامل تكنولوجيا معلومات كوري شمالي، حيث تبين أن فريقًا مكونًا من ستة أشخاص شاركوا ما لا يقل عن 31 هوية مزيفة، وحصلوا على كل شيء من government IDs وأرقام الهواتف إلى شراء حسابات LinkedIn وUpWork لإخفاء هوياتهم الحقيقية والحصول على وظائف في مجال العملات الرقمية.

يُقال إن أحد العمال أجرى مقابلة لوظيفة مهندس Full-Stack في Polygon Labs، بينما أظهرت أدلة أخرى إجابات مقابلات مكتوبة مسبقًا ادعوا فيها أن لديهم خبرة في سوق NFT OpenSea ومزود أوراكل البلوكشين Chainlink.

قالت Anthropic إن تقريرها الجديد يهدف إلى مناقشة حوادث سوء الاستخدام علنًا لمساعدة مجتمع أمان وسلامة الذكاء الاصطناعي الأوسع، وتعزيز دفاع الصناعة ضد مستغلي الذكاء الاصطناعي.

وأضافت أنه على الرغم من تنفيذ "إجراءات أمان وسلامة متطورة" لمنع misuse of Claude، إلا أن الجهات الخبيثة واصلت إيجاد طرق لتجاوزها.