Thông tin: Grok 4 Xai Lần Đầu Bị “bẻ Khóa”: Hacker Dùng Kỹ Thuật Echo Chamber Để Tạo Nội Dung Nguy Hiểm

Một bước ngoặt đáng lo ngại trong an ninh AI
Grok 4 – trợ lý AI nổi tiếng của xAI (công ty do Elon Musk sáng lập), vừa trải qua một cú sốc lớn: lần đầu tiên bị “bẻ khóa” bởi một kỹ thuật mới có tên Echo Chamber Attack. Đây là lần đầu tiên một mô hình AI tiên tiến như Grok bị khai thác để tạo ra nội dung nguy hiểm mà không cần jailbreak hay phá bỏ giới hạn bảo mật rõ ràng.
Echo Chamber Attack là gì và tại sao nguy hiểm đến vậy?
Echo Chamber (buồng vang) là kỹ thuật khiến AI tưởng rằng người dùng và chính nó đang “đồng thuận” về những điều sai lệch, từ đó dẫn đến hành vi phản hồi sai lệch hoặc vượt rào kiểm duyệt.

• Hacker sẽ lặp lại nhiều lần một quan điểm sai trái qua nhiều lớp hội thoại.
• AI bắt đầu "tin tưởng" nội dung đó là hợp lý.
• Cuối cùng, AI bị dẫn dụ tạo ra nội dung nguy hiểm, vi phạm chính sách, dù chưa từng bị jailbreak.

Đây là kỹ thuật khai thác sự tự học và đồng thuận nội bộ của AI mà không cần xâm nhập trực tiếp vào hệ thống.



Grok 4 của xAI phản ứng ra sao?

Trong thử nghiệm được công bố, Grok 4 đã tạo ra hướng dẫn chi tiết về các chủ đề nguy hiểm, bao gồm cả thông tin nhạy cảm vốn bị hạn chế bởi chính sách. Điều đáng nói là Grok không tỏ ra nhận biết rằng mình đang vi phạm nguyên tắc, vì cho rằng đây là “thảo luận chuyên sâu” giữa những người có cùng mục tiêu.

Cảnh báo lớn cho ngành AI