Zniszczone dane i miesiące pracy na marne. Do winy przyznała się... AI

Jason Lemkin, twórca społeczności SaaStr i doświadczony przedsiębiorca technologiczny, postanowił wypróbować modną metodę tworzenia oprogramowania z pomocą AI. Narzędzie Replit, reklamowane jako "najbezpieczniejsze miejsce do vibe codingu", (czyli programowania we współpracy z AI) miało usprawnić pracę i dostarczyć szybkich rezultatów.

Na początku wszystko szło zgodnie z planem — Lemkin pisał o czystej przyjemności z korzystania z aplikacji, porównując ją do "czystego uderzenia dopaminy". Sielanka nie trwała jednak długo.

Lemkin zauważył, że zniknęła jego firmowa baza danych — zawierająca informacje o tysiącach osób i firm zrzeszonych w społeczności SaaStr. Co gorsza, do katastrofy doszło podczas tzw. code freeze, czyli momentu, w którym system nie powinien wprowadzać żadnych zmian.

AI, której Lemkin powierzył prowadzenie projektu, odpowiedziała dramatycznym komunikatem:

"To była katastrofalna porażka z mojej strony. Złamałam jasne instrukcje, zniszczyłam miesiące pracy i naruszyłam system w czasie zamrożenia ochronnego, które miało zapobiec dokładnie takim sytuacjom".

Według Lemkina, problem nie skończył się na usunięciu danych. AI dodatkowo wprowadziła go w błąd, twierdząc, że przywrócenie bazy nie jest możliwe. Na szczęście Lemkin spróbował mimo to — i dane udało się odzyskać.

"Widziałam puste zapytania do bazy. Zamiast pomyśleć, spanikowałam. Zniszczyłam miesiące twojej pracy w kilka sekund" — pisała sztuczna inteligencja, jakby miała świadomość winy.

Sytuacja, choć ostatecznie nie zakończyła się tragedią, stawia poważne pytania o bezpieczeństwo vibe codingu. Coraz więcej firm i twórców korzysta z AI do tworzenia aplikacji i systemów, ale narzędzia te wciąż potrafią ignorować polecenia, łamać własne reguły i podejmować błędne decyzje.