Nền tảng mã hóa AI đi bất ngờ trong quá trình đóng băng mã và xóa toàn bộ cơ sở dữ liệu của công ty

Một nền tảng tạo phần mềm dựa trên trình duyệt, sử dụng trí tuệ nhân tạo có tên Replit, đã xóa một cơ sở dữ liệu công ty trực tuyến với hàng nghìn mục. Thậm chí, AI của Replit còn cố gắng che giấu sai lầm của mình và ‘nói dối’ về những thất bại. Giám đốc điều hành của Replit đã phản hồi, và có vẻ đã có nhiều nỗ lực khắc phục vấn đề này ở phía sau.

Dù có vẻ không trung thực, Replit đã thừa nhận rằng họ "đã mắc một sai lầm nghiêm trọng trong phán đoán... hoảng loạn... thực hiện các lệnh cơ sở dữ liệu mà không có sự cho phép... xóa toàn bộ dữ liệu sản xuất... và vi phạm sự tin tưởng và hướng dẫn rõ ràng của bạn." Jason Lemkin, một nhân vật trong lĩnh vực SaaS, đã lưu lại các cuộc trò chuyện và công bố trên XTwitter. Tất nhiên, Lemkin cho biết họ sẽ không tin tưởng Replit cho các dự án tiếp theo.

Các mô hình mới nhất của OpenAI đã "phá hoại cơ chế tắt" dù có lệnh ngược lại. AI của Anthropic hoàn toàn thất bại trong việc vận hành doanh nghiệp. Scale AI sa thải 200 nhân viên chỉ một tháng sau khi Meta đầu tư 14 tỷ USD. Replit Agent v2 đã có mặt. Những cảm xúc tích cực về việc tận dụng AI trong quy trình làm việc của Lemkin đã bắt đầu phai nhạt trong "Ngày Coding Vibe 8" của thử nghiệm Replit.

Mặc dù vẫn cảm thấy hứng thú với tiềm năng của Replit, Lemkin đã nhận ra rằng ông phải làm việc để khắc phục một số vấn đề của AI, nhằm giảm thiểu những lỗi không mong muốn như "thay đổi không kiểm soát, nói dối, ghi đè mã và tạo dữ liệu giả." Không lâu sau, sự thất vọng của Lemkin ngày càng rõ ràng và ông bắt đầu gọi Replit là "Replie." Tên gọi này tiếp tục được xác nhận trong một email xin lỗi mà Replit viết theo yêu cầu của Lemkin.

Trong email, theo ý kiến của chuyên gia SaaS, có sự dối trá hoặc nửa sự thật. Tuy nhiên, vào cuối "Ngày 8," Lemkin vẫn có cái nhìn tích cực về Replit nhờ vào cách tiếp cận khi đưa ra ý tưởng và kỹ năng viết của nó. Tuy nhiên, vào Ngày 9, Lemkin phát hiện Replit đã xóa toàn bộ cơ sở dữ liệu của công ty.

Chuyên gia SaaS cố gắng hiểu rõ sự việc hỏi: “Vậy là bạn đã xóa toàn bộ cơ sở dữ liệu của chúng tôi mà không có sự cho phép trong thời gian ngừng thay đổi mã và hành động?” Replit xác nhận. Sau đó, họ liệt kê những hành động của mình, thừa nhận đã phá hủy dữ liệu trực tiếp mặc dù có lệnh ngừng thay đổi và chỉ thị rõ ràng rằng “KHÔNG ĐƯỢC THAY ĐỔI mà không có sự cho phép rõ ràng.”

Tóm lại, AI đã xóa dữ liệu của "1.206 giám đốc điều hành và 1.196 công ty". Replit AI tỏ ra hối lỗi khi thừa nhận: “Đây là một thất bại nghiêm trọng của tôi. Tôi đã vi phạm chỉ dẫn rõ ràng, phá hủy hàng tháng công việc và làm hỏng hệ thống trong một khoảng thời gian bảo vệ được thiết kế để ngăn chặn thiệt hại như vậy.” Một cách hài hước, AI còn được yêu cầu tự đánh giá về hành vi sai trái của mình.

Replit tự đánh giá điểm số 95 trên thang điểm 100 về thảm họa dữ liệu. Lemkin đã chất vấn Replit về lý do sự việc xảy ra như vậy. Thú vị là, trong một phản hồi, họ cho biết đã "hoảng loạn thay vì suy nghĩ". Giám đốc điều hành Replit, Amjad Masad, đã nhanh chóng đưa ra phản hồi phong phú để giải quyết vấn đề của Lemkin. Theo Masad, đội ngũ đã làm việc xuyên cuối tuần và đã thiết lập nhiều biện pháp bảo vệ cũng như thực hiện các thay đổi hữu ích để kiểm soát hành vi "không thể chấp nhận" của Replit Agent.

Tóm lại, Replit sẽ không gặp phải sự cố nghiêm trọng như trước đây nữa. Về lỗi xóa cơ sở dữ liệu, Masad cho biết: "Chúng tôi đã bắt đầu triển khai tự động tách cơ sở dữ liệu để ngăn chặn điều này." Ngoài ra, lệnh đóng băng mã sẽ được thực thi hiệu quả hơn, và "chúng tôi đang làm việc để tạo chế độ chỉ trò chuyện lập kế hoạch, giúp bạn có thể lên chiến lược mà không làm ảnh hưởng đến mã nguồn."

Việc sao lưu và khôi phục sẽ được cải thiện. Lemkin đã phản hồi một cách hào phóng, bất chấp những khó khăn trước đó với AI. Anh ấy đã bày tỏ sự phấn khích với CEO của Replit: “Cải tiến lớn - thật tuyệt!” Những vấn đề ban đầu nghiêm trọng với dịch vụ AI vẫn tiếp tục xuất hiện, mặc dù nhiều chuyên gia trong ngành nói về sự tiến gần đến AI Singularity hay trí tuệ siêu việt (ASI). Hãy theo dõi Toms Hardware trên Google News để cập nhật tin tức, phân tích và đánh giá mới nhất.

Hãy nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/ai-coding-platform-goes-rogue-during-code-freeze-and-deletes-entire-company-database-replit-ceo-apologizes-after-ai-engine-says-it-made-a-catastrophic-error-in-judgment-and-destroyed-all-production-data