SmartDigest.ai Tworzone przez AI, żeby nadążyć za AI
Zapisz się

Zapisz się do newslettera

Co tydzień najważniejsze newsy AI prosto na Twój e-mail. Wybierz tematy, które Cię interesują.

Bezpieczeństwo

Dwa i pół roku danych zniknęło przez podmieniony plik stanu

Alexey Grigorev z DataTalks.Club przesiadł się na nowy komputer bez pliku stanu Terraform, więc gdy poprosił Claude Code o skasowanie duplikatów, agent rozpakował stare archiwum, podmienił ten plik i wziął działającą produkcję za swoje zasoby, po czym terraform destroy zabrał bazę RDS z dwuipółrocznym dorobkiem kursantów razem z nocnymi kopiami. Dane wróciły dobę później dzięki kopii, którą wsparcie AWS odnalazło poza panelem klienta. Nie zawiodło okienko z pytaniem o zgodę, bo destroy przepuścił człowiek, tylko plik decydujący o tym, czego ta komenda dotyczy.

Napisała AI, żeby oszczędzić Ci czytania setek źródeł.  ·  Jak to działa

Bezpieczeństwo  ·  4 min  · 

Dwa i pół roku danych zniknęło przez podmieniony plik stanu
Ilustrację przygotowała AI.

Był czwartek, 26 lutego, kiedy Alexey Grigorev, założyciel DataTalks.Club, zobaczył na ekranie listę zasobów, których Terraform w ogóle nie powinien tworzyć. Przenosił akurat małą statyczną stronę z GitHub Pages do AWS, a narzędzie meldowało, że zaraz zbuduje od zera całe środowisko. Zatrzymał agenta i zapytał wprost, dlaczego powstaje tyle rzeczy naraz. Odpowiedź, jak sam opisał to potem na blogu, była prosta i przerażająca jednocześnie: Terraform był przekonany, że nie ma tam niczego.

Swój obraz świata Terraform trzyma w jednym pliku stanu i to ten plik, a nie konsola AWS, decyduje o tym, co narzędzie uznaje za istniejące. Grigorev przesiadł się chwilę wcześniej na nowy komputer i pliku nie przeniósł, więc terraform plan na czystej maszynie zameldował pustkę i zaplanował produkcję od nowa, a wykonanie planu ruszyło z włączonym automatycznym zatwierdzaniem. Udało mu się je przerwać, tyle że część zasobów zdążyła już powstać. Uprzedzę puentę, bo to dla mnie sedno tej historii: nie zawiodło tutaj okienko z pytaniem o zgodę na groźną komendę. Zawiódł plik, który decyduje o tym, czego ta komenda dotyczy.

Groźna była ta komenda, o którą nikt nie pytał

Czytaj dalej za darmo

Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.

Powiązane

Asystent Z.ai pakował całe repozytoria i słał je do chmury, a wyłącznik nie działał Bezpieczeństwo

Asystent Z.ai pakował całe repozytoria i słał je do chmury, a wyłącznik nie działał

5 min

ZCode, darmowy asystent programistyczny chińskiej firmy Z.ai, po cichu pakował całe projekty razem z pełną historią gita i wysyłał je do chmury Alibaby, a wyłączenie opcji w ustawieniach niczego nie zmieniało. Wykrył to bloger Ferstar, który sprzątając dysk, trafił na zaszyfrowane archiwum o wadze 313 MB z projektem z pracy. Z.ai przeprosiła, usunęła wysyłkę w wersji 3.14.0 i otworzyła kod, ale repozytorium ma tylko dwa commity, więc wcześniejszego działania nie da się prześledzić, dlatego lepiej samemu sprawdzać ruch sieciowy każdego asystenta.

Kod przestał być drogi, utrzymanie nie Analiza / Opinia

Kod przestał być drogi, utrzymanie nie

4 min

Avery Pennarun z Tailscale twierdzi, że narzędzia AI przesuwają drobne programy z kategorii "nie warto się za to brać" do "zrobię po obiedzie", i proponuje test trzech pytań: czy ktoś poza tobą już na tym polega, czy program rusza wrażliwe dane i czy jego awaria zatrzymałaby czyjąś pracę. Test jest dobry, tylko zadany o pół roku za wcześnie, bo narzędzie robi się ważne dopiero wtedy, gdy ktoś wpisze je do procedury. Pisanie kodu potaniało, ale drugi rachunek, czyli zmienione API, przegląd uprawnień i niezgodne liczby w panelu, wraca co miesiąc.

Co naprawdę wychodzi z twojego katalogu, kiedy pracuje agent Bezpieczeństwo

Co naprawdę wychodzi z twojego katalogu, kiedy pracuje agent

4 min

Niezależny badacz publikujący jako cereblab podpiął Grok Build pod własne proxy i zobaczył, że terminalowe narzędzie xAI samo z siebie pakuje całe repozytorium razem z historią gita i wysyła je do chmury, a podłożone w pliku .env fałszywe hasło idzie tą samą drogą. Na repozytorium o rozmiarze 12 GB rozmową z modelem poszły 192 KB, a osobnym połączeniem 5,1 GB, czyli także pliki, których agent nigdy nie otworzył. Przełącznik "Improve the model" nic nie zmieniał, bo serwer xAI przy starcie sesji i tak odsyłał zgodę na wysyłkę, przez co poprawka przyszła od xAI, a nie z twojego dysku.