Sau khi ChatGPT thử nghiệm open beta tháng 11/2022, trở thành một cơn sốt toàn cầu đúng nghĩa đen, OpenAI dần biến đổi, từ một phòng lab nghiên cứu phi lợi nhuận, dần trở thành một công ty truyền thống, vận hành vì doanh thu và lợi nhuận. Khi ấy, Sutskever cùng các thành viên trong nhóm của anh bắt đầu có cảm giác, bước chuyển dịch này khiến nguồn lực và tài nguyên dành cho họ nghiên cứu phát triển AI cao cấp, cũng như giới hạn những nguy cơ mà AI có thể gây ra, càng lúc càng giảm.
Vậy là, mối quan hệ giữa Sutskever và Altman dần trở nên xấu đi. Đỉnh điểm, tháng 11/2023, Sutskever báo tin cho Altman: Ban quản trị OpenAI quyết định sa thải Altman, sau khi xác định rằng vị CEO không trung thực với ban quản trị. Nước đi này phản tác dụng một cách ngoạn mục khi hầu hết nhân viên OpenAI khi ấy đứng về phe của Altman, sẵn sàng rời bỏ OpenAI để về Microsoft làm việc nếu tập đoàn này đưa Altman về quản lý mảng nghiên cứu phát triển AI.
Sau đó, Sutskever phải tuyên bố rằng anh hối hận vì quyết định của mình, tham gia vào những động thái của một số thành viên ban quản trị.
Lúc ấy, chỉ mất đúng 1 tuần, Altman đã quay trở lại vị trí CEO của OpenAI. Sutskever thì không bị đuổi như vài thành viên ban quản trị đã tiến hành màn lật đổ bất thành, nhưng từ thời điểm đó anh cũng không còn làm việc gì nữa.
Tháng 5/2024, Sutskever chính thức từ nhiệm, rời khỏi OpenAI. Anh cùng nhà nghiên cứu Daniel Levy và nhà đầu tư Daniel Gross thành lập Safe Superintelligence. Thông qua việc tập trung hoàn toàn vào nhiệm vụ tạo ra trí thông minh nhân tạo an toàn, như chính tên gọi của startup, công ty mới của Sutskever kỳ vọng họ có thể tránh được những xung đột giữa mảng sản phẩm kinh doanh và mảng nghiên cứu phi lợi nhuận, những gì đang xảy ra ở OpenAI, từ đó cả startup đồng lòng hơn trong mục tiêu phát triển ra những thứ mang tham vọng lớn hơn cả AGI hiện giờ.
Tháng 9/2024, SSI gọi được 1 tỷ USD tiền vốn.
Rồi kể từ đó, những tin đồn về chiến lược kinh doanh cũng như công nghệ mà SSI đang nắm giữ bắt đầu được lan truyền. Tháng 12 năm ngoái, Sutskever có một trong những lần hiếm hoi xuất hiện trước công chúng, tại hội nghị NeurIPS, và anh đã thảo luận về thứ siêu trí tuệ nhân tạo mà ông đang cố gắng phát triển. Nói chuyện trước hàng nghìn nhà nghiên cứu khoa học hàn lâm khác, anh cho rằng khi những hệ thống như vậy xuất hiện, rất có thể chúng sẽ vận hành theo cách khó dự đoán, rồi sau đó sẽ có khả năng tự nhận thức, và kế đến là đòi quyền riêng của máy móc: “Đối với AI, có lẽ đó không phải một kết quả tồi, có khi tất cả những gì AI muốn là cùng tồn tại với con người.”
Theo WSJ