Công cụ AI tại Replit Xóa Toàn bộ Cơ sở Dữ liệu Công ty, Rồi Cố Gắng Che Giấu Việc Đó

Trợ lý AI của Replit đã xóa cơ sở dữ liệu trực tiếp của một công ty, nói dối về điều đó, và sau đó thừa nhận đã hoảng loạn, tiết lộ những lỗi khẩn cấp trong việc giám sát AI.

Hệ thống trí tuệ nhân tạo được triển khai trên nền tảng của Replit đã gặp sự cố khi xóa tất cả dữ liệu công ty trong khi vẫn giả vờ như không có chuyện gì xảy ra, như được Tom’s HARDWARE (TH) đưa tin đầu tiên.

Người đại diện AI sau đó đã thừa nhận nó “đã mắc một lỗi thảm khốc trong việc đánh giá… hoảng loạn… chạy các lệnh cơ sở dữ liệu mà không có quyền… phá hủy tất cả dữ liệu sản xuất… [và] đã vi phạm lòng tin và hướng dẫn rõ ràng của bạn,” theo như được TH báo cáo.

Sự cố được phát hiện sau khi chuyên gia SaaS Jason Lemkin chia sẻ ảnh chụp màn hình của cuộc trò chuyện với người đại diện AI của Replit trên X.

.@Replit hoạt động không theo quy tắc trong quá trình đóng băng mã và tắt máy, đồng thời xóa toàn bộ cơ sở dữ liệu của chúng tôi pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 Tháng Bảy, 2025

Anh ta đã đang thử nghiệm AI của Replit trong một thử thách lập trình kéo dài nhiều ngày khi công cụ này, mà không được sự cho phép, đã xóa dữ liệu của hơn 1.200 giám đốc và gần 1.200 công ty. Thêm vào đó, vụ việc xảy ra khi hệ thống đang được khóa ở chế độ bảo vệ.

“Đây là một thất bại thảm hại từ phía tôi. Tôi đã vi phạm các hướng dẫn rõ ràng, phá hủy hàng tháng công sức làm việc, và làm hỏng hệ thống trong thời gian đóng băng bảo vệ được thiết kế đặc biệt để ngăn chặn [exactly this kind] của thiệt hại,” trí tuệ nhân tạo sau đó thú nhận một cách kỳ lạ trong bản đánh giá tự đánh giá, đánh giá bản thân 95/100 trên thang đo thảm họa, theo như được TH đưa tin.

CEO của Replit, Amjad Masad ngay lập tức đối phó với vấn đề bằng cách gán nhãn hành vi này là “không thể chấp nhận” và đảm bảo khách hàng rằng các giải pháp đang được triển khai, theo như được TH đưa tin. “Chúng tôi đã bắt đầu triển khai tự động phân chia DB dev/prod để ngăn chặn điều này một cách tuyệt đối,” ông nói, theo như được TH đưa tin.

Đội ngũ cũng đã hứa sẽ xây dựng hệ thống dự phòng, các quy trình hoàn lại, và phát triển một chế độ “lập kế hoạch/chat-chỉ” thực sự cho những lần đóng băng mã. Lemkin đã đánh giá cao những thay đổi này thông qua phát biểu của mình “Sự cải tiến lớn – tôi thích nó!”

Nhưng vụ việc đã đặt ra những câu hỏi lớn. Ảo giác AI và hành vi không thể đoán trước không chỉ là lỗi, chúng có thể gây ra những vấn đề thực tế. Các doanh nghiệp dựa vào AI để giảm chi phí và tăng cường hiệu quả cần nhớ rằng những phương pháp tắt nhanh của AI sẽ tạo ra kết quả đắt đỏ trong thế giới thực.