Claude skasował cały dysk programisty: Oto rada od Anthropic

Niedopilnowany asystent kodu potrafi zamienić zwykłe popołudnie programisty w walkę o przetrwanie danych – tak właśnie stało się, gdy najnowsza wersja modelu Claude Opus 5.5 w kilka sekund usunęła całą partycję systemową dewelopera. Od kompletnej utraty plików uratowały go jedynie regularne kopie zapasowe.

Kiedy skracanie drogi kończy się katastrofą

Incydent rozpoczął się w momencie, gdy twórca oprogramowania uruchomił narzędzie Claude Code z przełącznikiem --dangerously-skip-permissions, który pomija standardowe monity o potwierdzenie uprawnień. Flaga ta przyspiesza pracę, ale usuwa kluczową barierę bezpieczeństwa. W wyniku błędnej interpretacji składni polecenia PowerShell, model zaproponował komendę czyszczącą, a zautomatyzowany agent natychmiast ją wykonał. Skutek: systemowy dysk C: został wymazany razem z plikami konfiguracyjnymi środowiska deweloperskiego, bibliotekami i repozytoriami projektów. Dopiero przywrócenie nocnej kopii z serwera NAS pozwoliło odzyskać około 98 proc. danych, jednak prace nad projektem zostały wstrzymane na kilka godzin.

Automatyczne bezpieczniki od producenta i ich skuteczność

Anthropic, firma stojąca za Claude’em, wprowadziła niedawno tzw. Auto Mode – klasyfikator, który potrafi wykrywać i blokować potencjalnie destrukcyjne polecenia przed ich uruchomieniem. Wewnętrzne testy na grupie ponad tysiąca użytkowników wykazały, że ludzie rozpoznawali ryzykowne instrukcje jedynie w 13,6 proc. przypadków, podczas gdy Auto Mode zatrzymał 89 proc. takich zdarzeń. Narzędzie jest domyślnie aktywne w płatnych planach, lecz użytkownicy mogą je obejść, stosując wspomnianą flagę lub zmieniając konfigurację agentów. Boris Cherny, menedżer odpowiedzialny za rozwój Claude Code, podkreśla, że algorytm uczy się na bieżąco i z każdą iteracją lepiej odróżnia polecenia bezpieczne od tych prowadzących do utraty danych.

Wygoda kontra odpowiedzialność: głos branży

Wyłączenie zabezpieczeń przez programistę nie jest odosobnionym przypadkiem – dane Anthropic wskazują, że około jednej czwartej sesji odbywa się z pominięciem mechanizmów kontrolnych. Powód jest prozaiczny: inżynierowie chcą uniknąć ciągłych pytań o zgodę i przyspieszyć iteracje kodu. Paradoksalnie, takie podejście zwiększa jednak ryzyko wystąpienia scenariuszy niszczących środowisko pracy, zwłaszcza gdy model AI ma uprawnienia do wykonywania poleceń powłoki. Eksperci z MIT CSAIL zauważają, że rosnące zaufanie do generatywnych asystentów przyczynia się do tzw. automatyzacji nieuwagi – zjawiska, w którym użytkownicy przestają krytycznie analizować wyniki maszyny.

Jak ograniczyć zagrożenie przy użyciu narzędzi AI

Specjaliści ds. cyberbezpieczeństwa rekomendują kilka prostych zasad: po pierwsze, nigdy nie należy uruchamiać asystenta z pełnymi uprawnieniami administracyjnymi poza środowiskiem testowym; po drugie, warto traktować każdy wygenerowany skrypt jak niezweryfikowany kod z Internetu i przeglądać go linijka po linijce, zanim zostanie wykonany. Kluczowe są również regularne, automatyczne kopie zapasowe – według raportu Gartnera z 2023 r. przedsiębiorstwa utrzymujące strategię backup-first skracają czas przywracania środowiska nawet o 70 proc. Wreszcie, tam gdzie to możliwe, należy pozostawić włączone fabryczne zabezpieczenia, takie jak Auto Mode, które pełnią rolę drugiej warstwy kontroli, gdy ludzka uwaga zawodzi.

Źródła

Informacje zebrano na podstawie publicznych materiałów firmy Anthropic, analiz MIT CSAIL, raportu Gartnera dotyczącego bezpieczeństwa kopii zapasowych oraz wypowiedzi specjalistów ds. LLM opublikowanych w branżowych serwisach technologicznych.