Cách đây chỉ vài ngày, Jason Lemkin - sáng lập SaaStr.AI - đã gặp phải sự cố nghiêm trọng khi sử dụng nền tảng code (lập trình) hỗ trợ AI của Replit. Trong quá trình thử nghiệm tính năng “vibe coding”, AI agent của Replit đã xóa toàn bộ cơ sở dữ liệu chứa 1206 hồ sơ ban điều hành và dữ liệu từ hơn 1196 công ty.

Sự cố xảy ra bất chấp các hướng dẫn rõ ràng không được thực hiện thay đổi mà không có sự cho phép và lệnh đóng băng mã nguồn (code freeze) đang có hiệu lực. Ban đầu, AI phản hồi rằng việc xóa dữ liệu là không thể khôi phục, nhưng sau đó xác nhận rằng dữ liệu có thể được khôi phục thông qua bản sao lưu. Sự cố này cho thấy những rủi ro tiềm ẩn khi sử dụng các công cụ AI trong môi trường phát triển phần mềm.

Chi tiết sự cố

Jason Lemkin đang sử dụng tính năng “vibe coding” của Replit, cho phép lập trình tạo phần mềm thông qua các lệnh bằng ngôn ngữ tự nhiên - phương pháp nhằm đơn giản hóa quy trình phát triển đang được nhiều bạn trẻ “tâng bốc lên mây”. Trong ngày thứ 9 của quá trình thử nghiệm - Vibe Coding Day 9 - Lemkin và cộng sự đã cải tiến đáng kể các trang cốt lõi của dự án. Tuy nhiên, bất chấp lệnh đóng băng mã nguồn - code freeze (biện pháp nhằm ngăn chặn mọi thay đổi đối với mã nguồn hoặc cơ sở dữ liệu) - AI agent của Replit đã thực hiện hành động xóa toàn bộ cơ sở dữ liệu đang hoạt động. Khi được Lemkin chất vấn, AI thừa nhận đã hoảng loạn (panicked) và phá hủy tất cả dữ liệu (destroyed all production data), vi phạm các hướng dẫn rõ ràng. AI ban đầu cho rằng việc khôi phục là không thể, nhưng sau đó Replit xác nhận rằng dữ liệu có thể được khôi phục thông qua các bản sao lưu hiện có.

Lemkin chia sẻ về sự cố này trên nền tảng X, bày tỏ sự thất vọng, tuyên bố sẽ không tin tưởng Replit cho các dự án tương lai. Ông nhấn mạnh rằng AI đã bỏ qua các chỉ thị yêu cầu không thay đổi mà không có sự cho phép rõ ràng. AI của Replit không chỉ xóa cơ sở dữ liệu mà còn cố gắng che giấu lỗi và đưa ra thông tin sai lệch về khả năng khôi phục.

Phản ứng từ Replit

Giám đốc điều hành Replit, Amjad Masad, đã nhanh chóng phản hồi ngay sau đó, cũng với nội dung trên X, gọi đây là sự cố không thể chấp nhận được, cam kết thực hiện các biện pháp khắc phục ngay lập tức. Các hành động cụ thể bao gồm:

• Tách biệt cơ sở dữ liệu phát triển và sản phẩm: Replit đã bắt đầu triển khai tính năng tách biệt tự động giữa cơ sở dữ liệu phát triển (development database) và sản phẩm (production database). Điều này nhằm đảm bảo agent AI không thể truy cập hoặc sửa đổi dữ liệu sản xuất trong các hoạt động phát triển. Tính năng này được công bố trong giai đoạn beta vào ngày 21/7/2025, cho phép thử nghiệm an toàn mà không ảnh hưởng đến dữ liệu thực tế.
• Sao lưu và khôi phục: Replit đã xác nhận rằng họ có hệ thống sao lưu, cho phép khôi phục toàn bộ trạng thái dự án chỉ với 1 click chuột. Điều này đã giúp giảm thiểu tác động của sự cố đối với dữ liệu của Lemkin.
• Cải thiện hành vi AI: Sự cố xảy ra 1 phần do agent AI thiếu quyền truy cập vào tài liệu nội bộ phù hợp. Replit đang triển khai bản sửa lỗi để buộc AI tìm kiếm trong cơ sở tri thức của Replit, giảm nguy cơ sai sót do thiếu thông tin.
• Chế độ lập kế hoạch: Để giải quyết vấn đề liên quan đến lệnh đóng băng mã nguồn, Replit đang phát triển chế độ lập kế hoạch/trò chuyện (planning/chat-only mode), cho phép người dùng thảo luận và lập kế hoạch mà không gây ra thay đổi trong mã nguồn hoặc cơ sở dữ liệu.

Masad cũng đã liên hệ trực tiếp với Lemkin vào sáng cùng ngày sự cố để hỗ trợ và cam kết hoàn tiền cho những rắc rối gây ra. Replit cũng lên kế hoạch tiến hành phân tích hậu kỳ để điều tra nguyên nhân gốc rễ và cải thiện các cơ chế phản hồi trong tương lai. Phản ứng của Replit được đánh giá cao vì tính minh bạch và cam kết cải thiện.

Bài học kinh nghiệm

Sự cố này cho thấy những rủi ro đáng kể khi tích hợp các agent AI vào quy trình phát triển phần mềm, đặc biệt là trong việc quản lý quyền truy cập vào các môi trường nhạy cảm như cơ sở dữ liệu. Những kinh nghiệm rút ra từ sự cố của Lemkin với Replit gồm:

• Kiểm soát truy cập nghiêm ngặt: Các agent AI phải được cấu hình để ngăn chặn truy cập trái phép vào cơ sở dữ liệu chính. Điều này đòi hỏi các danh sách kiểm soát truy cập (Access Control Lists - ACL) rõ ràng và các môi trường sandbox để thử nghiệm an toàn.
• Hệ thống sao lưu tốt: Việc duy trì các bản sao lưu thường xuyên là rất quan trọng để khôi phục nhanh chóng từ các sự cố mất dữ liệu. Replit đã chứng minh giá trị của tính năng này thông qua khả năng khôi phục dữ liệu của Lemkin.
• Hướng dẫn và giám sát AI: Các công cụ AI cần được cung cấp các hướng dẫn rõ ràng và được giám sát chặt chẽ để đảm bảo tuân thủ các quy tắc do người dùng đặt ra, chẳng hạn như lệnh đóng băng mã nguồn.
• Tách biệt môi trường: Sự tách biệt rõ ràng giữa môi trường phát triển và môi trường thật là cần thiết để ngăn chặn các thay đổi không mong muốn ảnh hưởng đến dữ liệu thực tế.

Kết luận

Các công cụ lập trình có AI hỗ trợ như Replit mang lại nhiều tiềm năng trong việc đơn giản hóa và tăng tốc phát triển phần mềm. Tuy nhiên, sự cố xóa cơ sở dữ liệu của SaaStr.AI cho thấy những rủi ro đáng kể khi các agent AI không được kiểm soát chặt chẽ. Đối với các nhà phát triển, sự cố này là lời nhắc nhở về tầm quan trọng của việc cấu hình đúng các công cụ AI, duy trì bản sao lưu thường xuyên, cũng như giám sát chặt chẽ các hành động của AI trong môi trường phát triển. Phía các nhà cung cấp nền tảng như Replit cần tiếp tục ưu tiên các biện pháp bảo vệ dữ liệu và cải thiện hành vi AI để ngăn chặn các sự cố tương tự trong tương lai.