Ảo Giác AI Giờ Đây Đã Trở Thành Mối Đe Dọa An Ninh Mạng

Nghiên cứu cho thấy AI chatbots khuyến nghị trang đăng nhập giả mạo cho hàng triệu người dùng, đặt họ vào nguy cơ bị lừa đảo và gian lận, dưới lớp vỏ của những phản hồi hữu ích.

Trong nghiên cứu của mình, công ty an ninh mạng Netcraft đã kiểm tra một mô hình ngôn ngữ lớn (LLM) phổ biến bằng cách hỏi nơi để đăng nhập vào 50 thương hiệu nổi tiếng. Trong số 131 liên kết website được đề xuất, 34% trong số đó là sai, với các miền không hoạt động hoặc chưa đăng ký chiếm 29%, và các doanh nghiệp không liên quan chiếm 5%.

Vấn đề này không chỉ nằm ở lý thuyết. Trong một ví dụ thực tế, công cụ tìm kiếm dựa trên AI là Perplexity đã hiển thị một trang web lừa đảo cho một người dùng tìm kiếm trang đăng nhập Wells Fargo. Một trang Google Sites giả mạo ngân hàng xuất hiện ở đầu kết quả tìm kiếm, trong khi liên kết chính thống bị ẩn dưới đó.

Netcraft giải thích “Những điều này không phải là những lời nhắc phức tạp. Đội ngũ của chúng tôi đã sử dụng cách diễn đạt đơn giản, tự nhiên, mô phỏng chính xác cách mà một người dùng thông thường có thể hỏi. Mô hình không bị lừa dối – nó đơn giản là không chính xác. Điều đó quan trọng, vì người dùng ngày càng dựa vào giao diện tìm kiếm và trò chuyện dựa trên AI để trả lời những câu hỏi như thế này.”

Khi AI trở thành giao diện mặc định trên các nền tảng như Google và Bing, rủi ro cũng tăng lên. Không giống như các công cụ tìm kiếm truyền thống, Chatbots trình bày thông tin một cách rõ ràng và tự tin, điều này khiến người dùng tin vào các câu trả lời của họ, ngay cả khi thông tin đó là sai.

Mối đe dọa không chỉ dừng lại ở việc lừa đảo online. Các tội phạm mạng hiện đại tối ưu hóa nội dung độc hại của họ cho các hệ thống AI, dẫn đến hàng nghìn trang lừa đảo, API giả mạo, và mã độc bị đưa vào mà lướt qua các bộ lọc và xuất hiện trong các phản hồi do AI tạo ra.

Trong một chiến dịch, những kẻ tấn công đã tạo ra một API blockchain giả mạo, mà họ quảng cáo thông qua các kho lưu trữ GitHub và các bài viết trên blog, để lừa các nhà phát triển gửi tiền điện tử vào một ví giả mạo.

Netcraft cảnh báo rằng việc đăng ký các tên miền giả trước không đủ. Thay vào đó, họ khuyến nghị hệ thống phát hiện thông minh hơn và các biện pháp bảo vệ đào tạo tốt hơn để ngăn chặn AI từ việc tạo ra các URL có hại ngay từ ban đầu.