Cảnh báo khẩn đối với Gemini trên Gmail

Khi các công cụ AI tạo sinh (GenAI) ngày càng được áp dụng rộng rãi, lo ngại về tính an toàn của chúng cũng gia tăng.

Thay vì nâng cao năng suất, những hệ thống này đang bị tội phạm mạng lợi dụng để tấn công người dùng. Ví dụ mới nhất liên quan đến mô hình Gemini được dùng trong Gmail có thể bị khai thác một cách dễ dàng và làm gia tăng khả năng lừa đảo.

Advertisement

Gmail đang ngày càng dựa vào Gemini AI để làm việc.

Nghiên cứu mới từ Mozilla chỉ ra rằng một cuộc tấn công mới cho phép kẻ xấu chèn mã độc vào các bản tóm tắt AI trong tin nhắn Gmail để biến chúng thành công cụ lừa đảo hiệu quả. Nhà nghiên cứu Marco Figueroa đã mô tả cuộc tấn công này trong chương trình săn lỗi nhận thưởng” 0din của Mozilla dành cho các dịch vụ GenAI.

Được biết, tính năng tóm tắt AI cho Gmail mang đến một quy trình làm việc cải tiến, giúp người dùng nhận tổng quan nhanh về các email. Tuy nhiên, tính năng này hiện đã trở thành mặc định trong ứng dụng Gmail di động và hoạt động mà không cần sự can thiệp của con người.

Cuộc tấn công mới này khai thác tính tự động của các bản tóm tắt, cho phép kẻ tấn công sử dụng HTML và CSS để ẩn các lời nhắc độc hại trong nội dung email. Bằng cách điều chỉnh kích thước chữ và màu sắc, chúng trở nên vô hình với người dùng. Phương pháp này tương tự như một vụ việc trước đó, khi các nhà nghiên cứu đã ẩn lời nhắc trong các bài báo học thuật để thao túng đánh giá của AI.

Một bản tóm tắt chứa nội dung độc hại được phát hiện.

Theo phân tích của 0din, loại tấn công này được coi là rủi ro trung bình vì vẫn cần sự tương tác của người dùng. Tuy nhiên, một chiến dịch lừa đảo thành công có thể dẫn đến hậu quả nghiêm trọng, như thu thập thông tin đăng nhập qua lừa đảo bằng giọng nói. Đáng lo ngại hơn, kỹ thuật tương tự có thể được áp dụng để khai thác AI của Gemini trong các dịch vụ như Docs, Slides và Drive, biến một tài khoản SaaS bị xâm phạm thành hàng nghìn điểm phát tán tin nhắn lừa đảo.

Vì vậy, người dùng Gmail vẫn nên đọc kỹ nội dung email sau khi đã được tóm tắt bởi Gemini AI, đồng thời tránh nhấp vào các liên kết đáng ngờ bên trong chúng.