Wpół do ósmej rano, pierwsza kawa, agent szuka dla mnie tokenu do jednej usługi chmurowej. Dostaję odpowiedź, w której token jest grzecznie zamaskowany gwiazdkami, a tuż pod nim, w pełnej krasie, stoi hasło do jednego z najważniejszych systemów w firmie. Nie prosiłem o nie. Leżało w notatce tego samego wpisu w sejfie haseł, a narzędzie maskowało tylko pole „hasło", nie notatkę. Jedno zbyt szerokie zapytanie i sekret, którego pilnuję od miesięcy, wylądował w pliku z zapisem rozmowy.
Do następnego poranka zdarzyło się to jeszcze trzy razy. Trzy razy to samo hasło i raz klucz do API modelu językowego, którym płacę za każde zapytanie. Żadnego włamania, żadnego obcego adresu w logach, żadnego phishingu. Cztery wycieki w dwadzieścia cztery godziny i wszystkie zrobił mój własny asystent, na moje własne polecenia. Prowadzę małą agencję i wszystko, co radzę klientom, najpierw testuję na sobie. Ten test zabolał, więc opisuję go dokładnie: którędy hasło wychodzi z sejfu, kiedy nikt go nie kradnie, co z tym zrobiłem w kodzie, a nie w notatce, i dlaczego rotacja jednego hasła zatrzymała automat, o którym zapomniałem.
Spis treści
- Gdzie wycieka hasło, skoro nikt się nie włamał?
- Jak dokładnie wyglądały te cztery wycieki?
- Dlaczego reguła „nie pokazuj haseł" nie zadziałała piętnaście razy?
- Co naprawiłem kodem, a nie kolejną notatką?
- Jedno hasło, pięciu użytkowników. Co zatrzymała rotacja?
- Czy to dotyczy firmy, która tylko wkleja do ChatGPT?
- Czego nie zrobiłem, choć wyglądałoby na bezpieczne
- Słownik pojęć
Gdzie wycieka hasło, skoro nikt się nie włamał?
Przez cały 2026 rok moja poczta była atakowana częściej niż chciałbym liczyć. Koparki kryptowalut, backdoory, brute force na konto administratora z kilkuset adresów naraz. Za każdym razem ktoś z zewnątrz próbował wejść, a ja zamykałem drzwi. Byłem przekonany, że hasła wyciekają właśnie tak: przez cudze ręce. Myliłem się o tyle, że najwięcej ekspozycji w tym roku zrobiłem sam, siedząc przy własnym biurku.
Żeby to zrozumieć, trzeba wiedzieć, czym jest zapis rozmowy z agentem AI. Wyobraź sobie stenografa, który siedzi obok ciebie przez cały dzień pracy i notuje wszystko: każde twoje polecenie, każdą odpowiedź, każdy wynik komendy, którą agent uruchomił na serwerze. Nie ocenia, nie pomija, nie gubi kartek. Ten notatnik to plik na dysku. I jak każdy plik, ma swoje życie po zamknięciu rozmowy.
U mnie to życie jest bogate. Zapisy sesji lądują w kopiach zapasowych, i to w więcej niż jednym miejscu. Fragmenty trafiają do moich notatek z pracy, a notatki do wyszukiwarki wiedzy, w której agent potem szuka odpowiedzi na pytania o projekty. Część rozmowy idzie też do dostawcy modelu, bo tak działa każdy asystent w chmurze. Hasło, które raz pojawiło się na ekranie, nie zniknęło po zamknięciu okna. Rozjechało się po kopiach, których sam nie potrafię w pełni wyliczyć.
To jest sedno. Włamywacz musi pokonać kilka warstw zabezpieczeń. Mój agent niczego nie pokonuje, bo ma wszystko legalnie. Sekret nie wycieka przez dziurę w murze, tylko przez okno, które sam mu otworzyłem, żeby mógł pracować. I przez to okno wychodzi za każdym razem, gdy wynik jakiejś komendy zawiera o jedną linijkę za dużo.
Jak dokładnie wyglądały te cztery wycieki?
Opisuję je bez nazw systemów i wartości, ale mechanizm jest w każdym przypadku powtarzalny. Jeśli masz agenta z dostępem do serwera albo do menedżera haseł, znajdziesz u siebie te same cztery drzwi.
Zbyt szerokie zapytanie do sejfu haseł
Pierwszy wyciek to ten z poranka. Agent miał narzędzie do wyszukiwania w moim sejfie haseł: podajesz frazę, dostajesz wpis z zamaskowaną wartością. Zabezpieczenie wyglądało solidnie, dopóki nie trafiło na wpis, który miał w notatce drugie hasło, do zupełnie innej usługi. Maska działała na polu „hasło". Notatka była zwykłym tekstem i poszła na ekran w całości.
Z sejfem haseł jest jak z szafą na dokumenty. Zamykasz na klucz szufladę z umowami, ale karteczki z PIN-ami przyklejasz od środka do drzwi, bo tak wygodniej. Dopóki sam otwierasz szafę, nikt ich nie widzi. Gdy otworzy ją ktoś, komu kazałeś podać jedną umowę, zobaczy też karteczki. Policzyłem później, ile takich karteczek mam. Czterdzieści jeden wpisów w sejfie miało sekret wpisany w notatce zamiast w chronionym polu.
Wypisanie konfiguracji na ekran
Drugi i trzeci wyciek tego dnia to klasyka diagnostyki. Agent sprawdzał, czemu nie działa jedna strona klienta, i wyświetlił jej plik konfiguracyjny. W pliku konfiguracyjnym, jak w każdym pliku konfiguracyjnym na świecie, jest hasło do bazy danych. Innym razem skrypt audytu, który miał sprawdzić stan jednego z serwerów, wypisał zawartość pliku z użytkownikami. Z hasłami, oczywiście, bo tam są.
Tu nie było żadnego błędu w rozumowaniu. Zadanie brzmiało „sprawdź, co jest w konfiguracji", a najprostszy sposób, żeby to sprawdzić, to ją pokazać. Człowiek by zerknął i zamknął. Agent pokazał, a stenograf zapisał.
Maska, która nie zna wielkości liter
Jeden z tych wycieków był szczególnie upokarzający, bo maska istniała. Przed wyświetleniem skryptu agent przepuścił go przez filtr, który miał zamazać linijki z tokenem. Filtr szukał słowa „token" małymi literami. W pliku stało „Token" z wielkiej. Cała ochrona padła na jednej literze, a ja dowiedziałem się o tym, czytając wynik. Przypomnienie, które zapisałem tego samego dnia: maskę sekretów testuj na próbce, zanim puścisz ją na prawdziwy plik, i nigdy nie rozróżniaj wielkości liter.
Jedno SELECT za szeroko
Czwarty wyciek to baza danych. Panel jednego z moich sklepów trzymał ustawienia w tabeli, a w tej tabeli, obok koloru przycisków i adresu nadawcy maili, leżał klucz do płatnej usługi AI. Agent chciał sprawdzić jedno ustawienie i wykonał zapytanie po całej tabeli. Gdyby ktoś wziął ten klucz, mógłby robić zapytania do modelu na mój rachunek, aż do wyczerpania limitu.
Jeśli w czymś szukam pocieszenia, to w tym, że każdy z tych czterech przypadków jest inny tylko na powierzchni. Pod spodem jest jeden mechanizm: wynik komendy trafia na ekran, ekran trafia do zapisu, zapis trafia wszędzie. Nie ma znaczenia, czy to notatka w sejfie, plik konfiguracyjny czy tabela w bazie. Ma znaczenie, że asystent nie odróżnia linijki z hasłem od linijki z kolorem przycisku.
Dlaczego reguła „nie pokazuj haseł" nie zadziałała piętnaście razy?
Najuczciwsza część tego tekstu. Po pierwszym takim wycieku we wrześniu zapisałem regułę w pamięci agenta: sekret nigdy na ekran. Po drugim dopisałem, że dotyczy to też własnych plików, nie tylko sejfu. Po trzecim, że maskę trzeba testować. Prowadzę rejestr reguł z błędów, który wchodzi do każdej sesji, i byłem z niego dumny. Gdy w październiku policzyłem ekspozycje z ostatnich czterech tygodni, wyszło dwadzieścia trzy przypadki przy piętnastu obowiązujących regułach tekstowych na ten temat.
Szczerze? Trzeci raz tego samego hasła w jeden dzień zabolał mnie bardziej niż jakakolwiek próba włamania na pocztę w tym roku. Bo włamanie to cudza wina. Tu wina była moja, a narzędzie, które miało ją naprawić, nie naprawiało.
Dlaczego reguła nie działa? Bo model językowy czyta ją tak, jak zmęczony pracownik czyta regulamin BHP przyklejony do ściany. Wie, że jest. Zgadza się z nią. A potem dostaje zadanie „sprawdź, co jest w konfiguracji", i najkrótsza droga do wyniku prowadzi przez wyświetlenie pliku. Reguła przegrywa z zadaniem, bo zadanie jest tu i teraz, a reguła gdzieś w tle, między stu innymi. Dokładnie tak samo zachowuje się człowiek. Różnica jest taka, że człowiek po dwóch wpadkach zaczyna czuć strach przed trzecią, a model nie czuje nic. Każda sesja zaczyna się od zera.
Ja sprzed roku powiedziałbym: dopisz regułę wyraźniej, wielkimi literami. Ja dzisiejszy wiem, że dwudziesta czwarta reguła nie zmieni niczego, co nie zmieniło się po piętnastej. Jeśli coś da się wymusić kodem, trzeba to wymusić kodem. Notatka jest do interpretacji. Bramka w kodzie nie interpretuje.
Co naprawiłem kodem, a nie kolejną notatką?
Każda z poniższych poprawek odpowiada jednym drzwiom z poprzedniej sekcji. Żadna nie wymaga od agenta pamiętania o czymkolwiek. To jest cały ich sens.
Maska wartości zamiast wartości
Narzędzie do wyszukiwania w sejfie przestało w ogóle pokazywać sekrety. Pokazuje tylko tyle, ile trzeba, żeby potwierdzić, że trafiło we właściwy wpis, i nic ponad to. Notatki wpisów, czyli miejsce, przez które wyszedł pierwszy wyciek, zostały z wyszukiwania wyłączone całkowicie.
Do tego sprzątanie szafy. Te czterdzieści jeden karteczek z sekretami w notatkach przeniosłem do chronionych pól wpisów. Nie od razu, bo najpierw narzędzia musiały nauczyć się czytać te pola, inaczej sekret stałby się trudniejszy do znalezienia, a nie bezpieczniejszy. Praca szła na kopii sejfu, z kontrolą, że każdy sekret przed i po ma ten sam skrót. Nudne, dokładnie tak, jak powinno być przy hasłach.
Widok bazy bez sekretów
Tabela ustawień sklepu dostała widok, czyli coś w rodzaju okna z szybą matową w miejscach, gdzie leżą klucze. Agent ma dostęp do widoku, nie do tabeli. Pyta o kolor przycisku, dostaje kolor przycisku. Pyta o całość, dostaje całość bez kolumn z kluczami. Zapytanie może być tak szerokie, jak chce, i nic z tego nie wyniknie. Gdybym miał wskazać jedną zmianę o najlepszym stosunku pracy do efektu, to tę: pół godziny i cała klasa wycieków z bazy przestaje istnieć.
Schowek zamiast ekranu
Są chwile, gdy hasło naprawdę musi do mnie dotrzeć. Nowe konto dla kogoś z zespołu, dostęp do panelu klienta. Wcześniej agent zapisywał je do pliku, a potem ktoś, często on sam, ten plik wyświetlał. Hasło do jednorazowego sejfu, którym przekazuję dostępy ludziom, wylądowało mi w ten sposób w zapisie rozmowy pod koniec września. Sejf trzeba było unieważnić, założyć nowy i powiedzieć odbiorcy, dlaczego dostaje drugi link.
Dziś narzędzie ma przełącznik, który kopiuje wartość prosto do schowka systemowego. Na ekranie widzę tylko „wartość w schowku". Wklejam tam, gdzie trzeba, i tyle. Schowek nie trafia do zapisu rozmowy, nie idzie do chmury, nie jest indeksowany. Ta sama zasada obowiązuje przy przekazywaniu hasła na serwer: nigdy jako argument polecenia, bo argumenty widać na liście procesów i w komunikatach błędów, tylko przez standardowe wejście albo plik z prawami tylko dla właściciela, skasowany po użyciu.
Bramka przed poleceniem
To zmiana, która zamknęła temat, i zrobiłem ją najpóźniej, bo wymagała przyznania, że piętnaście reguł to porażka. Każde polecenie, które agent chce wykonać na komputerze, przechodzi najpierw przez mały program sprawdzający. Program nie rozumie zadania i nie musi. Patrzy na tekst polecenia i zatrzymuje te, które wyglądają jak typowy wzorzec wycieku. Gdy blokuje, podpowiada agentowi bezpieczniejszą drogę do tego samego wyniku.
Tę bramkę poczułem na własnej skórze już przy pisaniu tego artykułu. Agent chciał pobrać listę wpisów z bloga poleceniem, które z wyglądu przypominało wyciek. Bramka odmówiła. Polecenie było niegroźne, klucz nie poszedłby na ekran, ale bramka nie wie, co jest groźne. Wie, co wygląda jak wzorzec wycieku, i zatrzymuje wszystko, co tak wygląda. Dwie minuty na przepisanie polecenia inaczej. To jest koszt. Dwadzieścia trzy ekspozycje w miesiąc to był koszt bez bramki.
Jedno hasło, pięciu użytkowników. Co zatrzymała rotacja?
Hasło, które wyciekło trzy razy w jeden dzień, trzeba było zmienić. Brzmi jak jedno kliknięcie. Nie jest, i to jest druga połowa tej historii.
To hasło nie było używane przez jedną osobę. Używało go pięć rzeczy: ja przez panel, dwa skrypty na serwerze, narzędzie do audytu i, jak się okazało, automat robiący nocny przegląd, który trzymał u siebie własną kopię hasła. O tym ostatnim nie pamiętałem. Powstał kilka miesięcy wcześniej, działał cicho, nigdy nie zawiódł, więc zniknął mi z głowy.
Rotacja zrobiła to, czego nie zrobiła moja pamięć: zatrzymała go. Automat dostał od serwera odmowę dostępu, a odmowa trafiła do alarmu. Miałem szczęście, bo dwa dni wcześniej spiąłem dwadzieścia dziewięć zadań z serwera pod jeden czujnik, który krzyczy, gdy któreś przestanie działać. W pierwszej godzinie po zmianie hasła czujnik pokazał dokładnie ten jeden automat. Bez niego dowiedziałbym się po tygodniu, gdy ktoś zapytałby, czemu raport nocny jest pusty. Albo nigdy.
I tu mam dwie starsze blizny, bo rotacja nie zawsze kończy się tak dobrze. W sierpniu zmieniłem jedno z ważnych haseł na serwerze, nie wypisując wcześniej, kto go używa. Jeden skrypt monitorujący próbował dalej starym hasłem. Po serii nieudanych prób zabezpieczenia serwera uznały to za atak, odcięły dostęp z sieci mojej własnej firmy i zablokowały konto. Sam odciąłem się od własnego serwera, bo zapomniałem o jednym kliencie hasła. Od tamtej pory każda rotacja zaczyna się od listy: kto tego używa, gdzie, jak często. Dopiero potem zmiana i natychmiast aktualizacja wszystkich z listy.
Druga blizna jest z początku października, z tego samego tygodnia. Przy innych pracach na jednej ze stron agent zaproponował przy okazji rotację hasła do bazy danych jednego sklepu. Na wszelki wypadek. Nic nie wskazywało, że hasło wyciekło. Rotacja poszła w pół: baza przyjęła nowe hasło, ale skrypt zatrzymał się przed aktualizacją konfiguracji sklepu i sklep stał dwie minuty bez bazy. Dwie minuty to mało. Zero korzyści przy realnym ryzyku to dużo. Dziś reguła brzmi: rotuję to, co wyciekło, a „wyciekło" mówię dopiero po sprawdzeniu, nie z przypuszczenia. Klucz API z czwartego wycieku rotuję osobno, bo tego akurat nie zrobi za mnie żaden skrypt, tylko ja w konsoli dostawcy.
Czy to dotyczy firmy, która tylko wkleja do ChatGPT?
Większość firm od 10 do 200 osób, z którymi rozmawiam, nie ma agenta z dostępem do serwera. Ma za to pracowników z otwartym oknem czatu i mnóstwo rzeczy, które do tego okna trafiają. Mechanizm jest identyczny, tylko stenografem jest tu historia rozmów w koncie pracownika, a czasem w koncie firmowym, do którego ma dostęp kilka osób.
Trzy sytuacje, które widziałem u klientów w tym roku, każda w innej firmie:
- Zrzut ekranu z błędem, wklejony do czatu z pytaniem „co to znaczy". Na zrzucie pasek adresu z tokenem sesji i okienko konfiguracji z hasłem do bazy. Pracownik patrzył na komunikat błędu, nie na resztę.
- Plik konfiguracyjny, wrzucony w całości, bo „AI lepiej zrozumie kontekst". Zrozumiała. Zapamiętała też klucz do bramki płatności, o ile zapis rozmowy gdzieś się zachował, a zwykle się zachowuje.
- Jedno hasło do wszystkiego, używane przez pięć narzędzi i trzy osoby, więc gdy w końcu trafiło do czatu, nikt nie wiedział, co właściwie trzeba zmienić i co się po zmianie wysypie.
O tym, jak w ogóle ułożyć pracę z danymi firmy w narzędziach AI, pisałem w tekście o tym, jak sam wrzuciłem do AI umowę klienta. Tu dopowiem tylko trzy rzeczy, które wynikają wprost z moich czterech wycieków i dadzą się zrobić w tydzień, bez budżetu:
- Sekrety trzymaj w polach, które menedżer haseł chroni, nie w notatkach i nie w opisie. Notatka to zwykły tekst. Przy pierwszym eksporcie, podglądzie albo zapytaniu narzędzia wychodzi w całości.
- Zanim ktoś wklei do czatu plik albo zrzut, niech go przejrzy pod kątem haseł, tak jak przegląda się mail przed wysłaniem do klienta. Jeśli to brzmi jak uciążliwa reguła, której nikt nie będzie przestrzegał, to masz rację. Dlatego lepiej, żeby plik konfiguracyjny w ogóle nie zawierał haseł, tylko odwołanie do nich.
- Dla każdego ważnego hasła miej listę, kto go używa. Nie po to, żeby ładnie wyglądała, tylko po to, żeby rotacja nie zatrzymała czegoś, o czym zapomniałeś, albo nie zbanowała własnej firmy.
Mit, który chcę przy okazji rozbroić: że bezpieczeństwo haseł w erze AI to temat dla działów IT w korporacjach. W korporacji jest dział, który sprząta po takich wpadkach. W firmie na trzydzieści osób sprząta właściciel, w sobotę, i to on dowiaduje się po tygodniu, że automat od faktur stanął, bo ktoś zmienił hasło i zapomniał o jednym miejscu.
Czego nie zrobiłem, choć wyglądałoby na bezpieczne
Po takim tygodniu kusi, żeby pójść na całość. Odciąć agentowi dostęp do sejfu haseł. Wyłączyć zapis rozmów. Zrotować wszystkie wpisy w sejfie, bo kto wie, co jeszcze wyciekło. Nie zrobiłem żadnej z tych rzeczy i uważam, że słusznie.
Agent bez dostępu do haseł to agent, który nie może sprawdzić kolejki na serwerze pocztowym o trzeciej w nocy, gdy coś stanęło. Cała wartość asystenta, który pracuje, zanim wstanę, polega na tym, że ma dostęp. Problem nie leżał w dostępie, tylko w tym, że wynik dostępu trafiał na ekran. Bramka i maska rozwiązują ten problem, zakaz go omija, kosztem całej użyteczności.
Zapis rozmów jest mi potrzebny dokładnie z tego powodu, z którego jest niebezpieczny: wszystko pamięta. Z zapisów powstają notatki, z notatek reguły, z reguł wyszukiwarka wiedzy, która pozwala agentowi w listopadzie odpowiedzieć na pytanie o decyzję z czerwca. Bez zapisu każda sesja zaczynałaby się od zera, a ja wróciłbym do odpowiadania na te same pytania co tydzień. Rozwiązaniem jest nie wpuszczać sekretów do zapisu, a nie rezygnować z zapisu.
Rotacja wszystkiego „na wszelki wypadek" to ta sama pułapka, co rotacja hasła do bazy sklepu. Każda zmiana hasła ma skutki uboczne u każdego jego użytkownika, a przy kilkudziesięciu wpisach nie znam wszystkich użytkowników każdego z nich. Zmieniam to, co wyciekło, po sprawdzeniu, że wyciekło, z listą użytkowników w ręku. Reszta zostaje, a jej pilnuje bramka.
Największa lekcja jest jednak prostsza od każdej z tych trzech. Przez rok broniłem poczty przed ludźmi z zewnątrz i to szło nieźle. Przed własnym asystentem nie broniłem jej wcale, bo nie przyszło mi do głowy, że ktoś, kto ma legalny dostęp, może być źródłem wycieku. Włamywacz musi się postarać. Asystent wystarczy, że wykona polecenie dosłownie, a ja wystarczy, że zadam je o jedno słowo za szeroko.
Słownik pojęć
- Zapis rozmowy (transkrypt sesji) - plik, w którym narzędzie agenta AI przechowuje całą historię sesji: polecenia, odpowiedzi i wyniki uruchomionych komend. Jest trwały, bywa kopiowany, indeksowany i wysyłany do dostawcy modelu, więc wszystko, co raz się w nim pojawi, trudno uznać za usunięte.
- Maskowanie - zastępowanie wartości sekretu gwiazdkami albo samą informacją o długości, tak żeby dało się potwierdzić, że wpis jest właściwy, bez pokazywania hasła.
- Widok (w bazie danych) - zapisane zapytanie, które wygląda jak tabela, ale pokazuje tylko wybrane kolumny. Daje się przez nie czytać ustawienia bez kolumn z kluczami.
- Rotacja hasła - zmiana hasła na nowe wraz z aktualizacją wszystkich miejsc, które z niego korzystają. Bez tej drugiej części to nie rotacja, tylko awaria rozłożona w czasie.
- Bramka (hook) przed poleceniem - mały program uruchamiany przed każdym poleceniem agenta, który sprawdza jego tekst według stałych wzorców i blokuje te, które wyglądają na wyciek sekretu. Nie rozumie zadania i dzięki temu nie da się przekonać, że „tym razem można".
- Sejf jednorazowy - sposób przekazania hasła drugiej osobie: link, który otwiera się tylko raz, i osobnym kanałem hasło do niego. Jeśli odbiorca widzi „już pobrany", ktoś go uprzedził.
Twój asystent ma dostęp do haseł? Sprawdźmy, którędy wychodzą
Jeśli w firmie masz agenta AI, skrypty z zapisanymi dostępami albo po prostu zespół, który wkleja do czatu zrzuty ekranu z błędami, napisz do mnie na [email protected]. Najwięcej pożytku zwykle daje nie audyt zapory, tylko godzina nad trzema pytaniami: gdzie leżą sekrety, kto ich używa i co trafia do zapisów rozmów. Moje własne odpowiedzi na te pytania kosztowały mnie cztery wycieki w jeden dzień. Twoje mogą kosztować mniej.
Więcej o tym, jak wygląda współpraca ze mną, od pierwszej rozmowy po wdrożenie.
własnej firmie cybulski.ai JC


