مجرم استخدم نموذج الذكاء الاصطناعي لسرقة بيانات الرعاية الصحية والمعلومات المالية وبيانات اعتماد حكومية، وهدد بكشف البيانات ما لم يحصل على أكثر من 500,000 دولار

تقول Anthropic إن مجرمًا إلكترونيًا استخدم نموذج الذكاء الاصطناعي (AI) الخاص بها لسرقة معلومات شخصية حساسة وطلب فدية ضخمة مقابل عدم كشفها.

ذكر أعضاء فريق استخبارات التهديدات في Anthropic، Alex Moix وKen Lebedev وJacob Klein، في تقرير جديد أن مجرمًا إلكترونيًا أساء استخدام روبوت الدردشة Claude التابع للشركة للمساعدة في سرقة البيانات وطلبات الفدية.

“لقد قمنا مؤخرًا بإحباط مجرم إلكتروني متطور استخدم Claude Code لارتكاب سرقة واسعة النطاق وابتزاز بيانات شخصية. استهدف الفاعل ما لا يقل عن 17 منظمة مختلفة…”

استخدم الفاعل الذكاء الاصطناعي بدرجة نعتقد أنها غير مسبوقة. تم استخدام Claude Code لأتمتة الاستطلاع، وجمع بيانات اعتماد الضحايا واختراق الشبكات. تم السماح لـ Claude باتخاذ قرارات تكتيكية واستراتيجية، مثل تحديد البيانات التي يجب استخراجها، وكيفية صياغة مطالب الابتزاز المستهدفة نفسيًا. قام Claude بتحليل البيانات المالية المستخرجة لتحديد مبالغ الفدية المناسبة، وولّد ملاحظات فدية مرئية مثيرة للقلق تم عرضها على أجهزة الضحايا.”

تقول Anthropic إن المجرم الإلكتروني نظم "حملة هجوم منهجية ركزت على سرقة البيانات الشاملة والابتزاز" باستخدام نموذج الذكاء الاصطناعي.

“قدم الفاعل إلى Claude Code أساليب التشغيل المفضلة لديه (TTPs: Tactics, Techniques, and Procedures) في ملف CLAUDE.md الذي يُستخدم كدليل لـ Claude Code للرد على التعليمات بالطريقة التي يفضلها المستخدم…

أدى النهج المنهجي للفاعل إلى اختراق سجلات شخصية، بما في ذلك بيانات الرعاية الصحية، والمعلومات المالية، وبيانات اعتماد حكومية، ومعلومات حساسة أخرى، مع مطالب فدية مباشرة تجاوزت أحيانًا 500,000 دولار.”

تقول الشركة أيضًا إن استخدام نماذج الذكاء الاصطناعي الخاصة بها لأغراض غير مشروعة يحدث على الرغم من جهودها للحد من ذلك.

“لقد طورنا تدابير أمان وسلامة متقدمة لمنع إساءة استخدام نماذج الذكاء الاصطناعي الخاصة بنا. وبينما تكون هذه التدابير فعالة بشكل عام، يواصل المجرمون الإلكترونيون والجهات الخبيثة الأخرى محاولة إيجاد طرق لتجاوزها.”

الصورة المولدة: Midjourney