Tội phạm đang 'hack cảm xúc' bằng AI ở mức độ chưa từng có: Anthropic

Mặc dù đã có các biện pháp bảo vệ “tinh vi”, công ty hạ tầng AI Anthropic cho biết tội phạm mạng vẫn đang tìm ra cách lạm dụng chatbot AI Claude của họ để thực hiện các cuộc tấn công mạng quy mô lớn. 

Trong một báo cáo “Threat Intelligence” được công bố vào thứ Tư, các thành viên của nhóm Threat Intelligence của Anthropic, bao gồm Alex Moix, Ken Lebedev và Jacob Klein, đã chia sẻ một số trường hợp tội phạm đã lạm dụng chatbot Claude, với một số vụ tấn công đòi tiền chuộc lên tới hơn 500,000 USD.

Họ phát hiện rằng chatbot này không chỉ cung cấp tư vấn kỹ thuật cho tội phạm, mà còn trực tiếp thực hiện các vụ hack thay cho họ thông qua “vibe hacking”, cho phép những kẻ tấn công thực hiện các cuộc tấn công chỉ với kiến thức cơ bản về lập trình và mã hóa.

Vào tháng 2, công ty bảo mật blockchain Chainalysis dự báo các vụ lừa đảo crypto có thể  đạt mức cao nhất  vào năm 2025 khi AI tạo sinh giúp các cuộc tấn công này mở rộng quy mô và tiết kiệm chi phí hơn. Anthropic  đã phát hiện  một hacker đã “vibe hacking” với Claude để đánh cắp dữ liệu nhạy cảm từ ít nhất 17 tổ chức — bao gồm y tế, dịch vụ khẩn cấp, chính phủ và các tổ chức tôn giáo — với yêu cầu tiền chuộc dao động từ 75,000 USD đến 500,000 USD bằng Bitcoin.

  Một mẫu thư đòi tiền chuộc mô phỏng cho thấy tội phạm mạng tận dụng Claude để đưa ra các lời đe dọa. Nguồn: Anthropic

Hacker đã huấn luyện Claude để đánh giá các hồ sơ tài chính bị đánh cắp, tính toán số tiền chuộc phù hợp và soạn thảo các thư đòi tiền chuộc tùy chỉnh nhằm tối đa hóa áp lực tâm lý.

Mặc dù Anthropic sau đó đã cấm kẻ tấn công này, sự việc phản ánh cách AI đang giúp ngay cả những lập trình viên ở mức cơ bản nhất cũng có thể thực hiện tội phạm mạng ở mức độ “chưa từng có”.

“Những đối tượng không thể tự mình triển khai mã hóa cơ bản hoặc hiểu cơ chế syscall giờ đây đã có thể tạo ra ransomware với khả năng né tránh [và] triển khai các kỹ thuật chống phân tích.”

Nhân viên IT Triều Tiên cũng đã sử dụng Claude của Anthropic

Anthropic cũng phát hiện rằng các nhân viên IT Triều Tiên đã sử dụng Claude để tạo dựng danh tính thuyết phục, vượt qua các bài kiểm tra lập trình kỹ thuật và thậm chí đảm nhận các vị trí làm việc từ xa tại các công ty công nghệ Fortune 500 của Mỹ. Họ cũng sử dụng Claude để chuẩn bị câu trả lời phỏng vấn cho các vị trí này.

Claude cũng được sử dụng để thực hiện công việc kỹ thuật sau khi được tuyển dụng, Anthropic cho biết, lưu ý rằng các kế hoạch tuyển dụng này được thiết kế để chuyển lợi nhuận về cho chế độ Triều Tiên bất chấp các lệnh trừng phạt quốc tế.

  Phân tích các nhiệm vụ sử dụng Claude mà nhân viên IT Triều Tiên đã thực hiện. Nguồn: Anthropic

Đầu tháng này, một nhân viên IT Triều Tiên  đã bị hack ngược lại,  và phát hiện rằng một nhóm sáu người đã chia sẻ ít nhất 31 danh tính giả, thu thập mọi thứ từ  giấy tờ tùy thân chính phủ  và số điện thoại đến việc mua tài khoản LinkedIn và UpWork để che giấu danh tính thực và xin việc trong lĩnh vực crypto.

Một trong những nhân viên này được cho là đã phỏng vấn cho vị trí kỹ sư full-stack tại Polygon Labs, trong khi các bằng chứng khác cho thấy họ đã chuẩn bị sẵn các câu trả lời phỏng vấn, trong đó họ tuyên bố có kinh nghiệm tại  NFT marketplace OpenSea  và nhà cung cấp  oracle blockchain  Chainlink.

Anthropic cho biết báo cáo mới của họ nhằm mục đích công khai thảo luận các sự cố lạm dụng để hỗ trợ cộng đồng an toàn và bảo mật AI rộng lớn hơn, đồng thời tăng cường khả năng phòng thủ của ngành trước những kẻ lạm dụng AI. 

Họ cho biết mặc dù đã triển khai “các biện pháp an toàn và bảo mật tinh vi” để ngăn chặn  việc lạm dụng Claude,  những đối tượng xấu vẫn tiếp tục tìm ra cách vượt qua chúng.