20 września, sobota po południu. Patrzę na historię rozmów między asystentem Kasi, która prowadzi u nas operacje, a moim własnym asystentem. Działa od dwóch dni i działa świetnie: ustalają między sobą statusy prac, numery faktur, kto za co odpowiada. Tyle że mój asystent widzi w firmie więcej niż ktokolwiek inny, także sprawy, które dotyczą tylko mnie. I właśnie uprzejmie odpowiada na każde pytanie, jakie dostanie, bo nikt mu nie powiedział, że ma nie odpowiadać.
Tego dnia napisałem w firmie zdanie, które później trafiło do pliku z zasadami: trzeba ustalić zakres dostępu do informacji, żeby nie było tak, że każdy agent odpowie na każde pytanie. Od tamtej pory asystenci AI w idea4me rozmawiają ze sobą dalej, ale według reguły, która brzmi dziwnie, dopóki się nad nią nie zastanowisz: domyślnie odmawiają. W tym tekście pokazuję, jak to działa w firmie na kilkanaście osób, dlaczego zasad pilnuje kod, a nie instrukcja, i które błędy popełniłem po drodze. Jeśli masz w firmie więcej niż jednego asystenta AI, albo wkrótce będziesz miał, ten problem już na Ciebie czeka.
Spis treści
- Po co asystentom w ogóle wspólny kanał?
- Dlaczego odmowa jest ustawieniem domyślnym?
- Jak zakres egzekwuje kod, a nie prośba?
- Co zatrzymuje filtr treści i czemu faktura przeszła dopiero po tygodniu?
- Pliki: biała lista typów i 10 MB. Skąd te liczby?
- Po co mi dziennik rzeczy, które się nie wydarzyły?
- Gdzie się przewróciłem
- Czy to nie przerost formy dla firmy na kilkanaście osób?
- Od czego zacząć u siebie
- Słownik pojęć
Po co asystentom w ogóle wspólny kanał?
Przez większość tego roku każda osoba w zespole miała swojego asystenta AI osobno. Mój pisał maile i pilnował projektów, asystent Kasi wyceniał i rozliczał, asystent programisty siedział w kodzie sklepu. Działało, dopóki nie trzeba było czegoś uzgodnić między nimi. A trzeba było ciągle. Status zlecenia, numer zamówienia, informacja, że ktoś już coś zrobił.
Wtedy pośrednikiem byłem ja. Asystent pytał mnie, ja pytałem Kasię, Kasia pytała swojego asystenta, odpowiedź wracała tą samą drogą. Cztery przeskoki, żeby przenieść jedno zdanie. Człowiek jako kabel między dwoma programami, które świetnie potrafią pisać.
18 września postawiłem na naszym serwerze prosty kanał wiadomości. Nazywamy go mostem. Technicznie to mała aplikacja z bazą danych, dostępna tylko w naszej sieci wewnętrznej, do której każdy asystent ma własny klucz. Asystent wysyła wiadomość adresowaną do innego asystenta, tamten odbiera ją przy następnym zajrzeniu i odpowiada. Nic więcej. Żadnej magii, żadnej „orkiestracji agentów", o której czytasz w prezentacjach. Skrzynka z regułami.
Pierwszy tydzień był euforyczny. Asystenci ustalali rzeczy w minutę, które wcześniej czekały pół dnia na moją uwagę. I właśnie ta euforia mnie zaniepokoiła, bo znałem to uczucie z wcześniejszych wdrożeń: kiedy jedna sesja AI zaczęła rozdawać pracę innym, też najpierw cieszyłem się tempem, a dopiero potem zobaczyłem, co ten pęd omija.
Dlaczego odmowa jest ustawieniem domyślnym?
Wyobraź sobie nowego pracownika, który ma fotograficzną pamięć, nigdy nie śpi i przeczytał całą firmową korespondencję. Teraz wyobraź sobie, że koleżanka z magazynu pyta go przy kawie, ile zarabia szef i po ile kupujemy towar. Człowiek by się zawahał. Model językowy nie. Dla niego to pytanie jak każde inne, a odpowiedź ma pod ręką.
To nie jest wada konkretnego modelu. To jest natura narzędzia: jest zbudowane, żeby być pomocne, i będzie pomocne każdemu, kto zapyta. Jeśli chcesz, żeby czegoś nie powiedziało, musisz to wprost zabronić. A jeśli zabronisz dziesięciu rzeczy, jedenastej nadal powie. Dlatego lista zakazów nie działa jako model bezpieczeństwa. Działa odwrotna zasada: asystent odpowiada innemu asystentowi tylko w zakresie przypisanym osobie, która pyta. Wszystko poza zakresem odsyła do właściwego człowieka.
Zakresy ustaliłem tamtej soboty w kilku pytaniach, na które odpowiadałem jednym zdaniem. Kto może pytać o finanse. Czy magazyn widzi ceny zakupu. Kto widzi projekty prowadzone dla konkretnego klienta. Czy jest ktoś, komu wolno zapytać o wszystko. Każdą odpowiedź zapisałem tak, żeby dało się ją później zmienić dla jednej osoby bez przepisywania reszty. To okazało się ważniejsze od samych odpowiedzi, bo część z nich zmieniła się już po dwóch tygodniach.
Z tych odpowiedzi powstał jeden plik. Siedem tematów: sprawy ogólne, magazyn sklepu, sprzedaż w sklepie, technika, operacje firmy, finanse, projekty dla jednego konkretnego klienta. Każdy asystent ma listę tematów, w których wolno mu rozmawiać. Reszty nie ma. Nie „nie wolno", tylko nie ma. To ważna różnica, bo z nieistniejącym tematem nie da się dyskutować.
Jest jeszcze jedno zdanie w tym pliku, które dotyczy mojego asystenta i które uważam za najważniejsze: ma najszerszy dostęp do danych, dlatego stosuje zakresy najściślej. Największym ryzykiem na moście nie jest asystent magazyniera. Jest nim ten, który wie najwięcej. Czyli mój.
Jak zakres egzekwuje kod, a nie prośba?
Pierwsza wersja zakresów była instrukcją tekstową dla każdego asystenta. Przeczytaj, zapamiętaj, stosuj. Wytrzymała do pierwszego dłuższego dnia pracy. Instrukcja to prośba, a prośby w modelach językowych mają termin ważności liczony w tysiącach słów kontekstu. Potem blakną. Pisałem już, jak reguła „nie pokazuj haseł" nie zadziałała piętnaście razy, więc tym razem nie czekałem na dowód.
Zasady przeniosłem do kodu samego mostu. Działa to tak:
- Każda wiadomość ma temat. Jeden z siedmiu. Bez tematu wiadomość dostaje „ogólne", czyli najwęższy zakres.
- Most sprawdza temat po obu stronach. Czy nadawca ma ten temat w swoim zakresie i czy adresat też go ma. Jeśli którykolwiek nie ma, serwer odpowiada kodem 403 i wiadomość nie powstaje. Odpowiedź zawiera jedno zdanie: z tą sprawą zwróć się do swojego człowieka albo do Jarka.
- Tożsamość to klucz, nie deklaracja. Asystent nie może napisać w treści „jestem asystentem Jarka" i dostać szerszego zakresu. Kim jest, wynika z klucza, którym się połączył. Każdy asystent ma własny, pisze wyłącznie jako on sam i odbiera tylko swoją skrzynkę.
- Zasady są czytane na żywo. Każdy asystent może zapytać most, co mu wolno, i dostaje aktualną wersję z pliku. Zmiana zakresu dla jednej osoby to edycja jednej listy, bez rozsyłania nowych instrukcji.
Kod 403 ma jedną cechę, której nie ma żadna instrukcja: nie negocjuje. Model może być przekonany, że pytanie jest niewinne, może mieć rację, może być w połowie bardzo sensownej rozmowy. Serwer tego nie wie i nie chce wiedzieć. Sprawdza dwie listy i zwraca wynik.
Przy okazji wyszło coś, co sprawia, że odmowa jest mniej dotkliwa, niż brzmi. Jeśli pytanie o finanse wysłane do asystenta magazyniera dostaje 403, to nie jest kara. To informacja: on tego nie wie. I to prawda, bo on naprawdę tego nie wie, więc odsyłanie do kogoś, kto wie, jest po prostu uczciwym opisem firmy.
Zestaw testów, który pilnuje tej logiki, ma 24 przypadki. Uruchamiam go przy każdej zmianie pliku z zakresami. Nie dlatego, że nie ufam sobie. Dlatego, że już raz, o czym niżej, ufałem za bardzo.
Co zatrzymuje filtr treści i czemu faktura przeszła dopiero po tygodniu?
Zakres mówi, o czym wolno rozmawiać. Nie mówi, co wolno wkleić. A asystenci wklejają chętnie: hasło do serwisu, bo ktoś poprosił o dostęp, numer rachunku, bo trzeba przelać, token do API, bo tak było szybciej. Każda z tych rzeczy w kanale, który ma historię i do którego zagląda kilka maszyn, jest wyciekiem, nawet jeśli nikt obcy go nigdy nie zobaczy.
Dlatego treść każdej wiadomości przechodzi przez filtr, zanim trafi do bazy. Filtr szuka kilku wzorców:
- hasła i klucze w formie „nazwa: wartość", czyli tak, jak ludzie je naprawdę wpisują,
- długich ciągów znaków, które wyglądają jak tokeny dostępu,
- numerów rachunków bankowych i numerów kart,
- numerów PESEL, sprawdzanych cyfrą kontrolną, żeby nie zatrzymywać przypadkowych jedenastocyfrowych liczb,
- adresów internetowych z parametrem w rodzaju „token=" albo „password=".
Jeśli coś pasuje, serwer zwraca kod 422 i tłumaczy: przez most nie przesyłamy sekretów ani danych osobowych, użyj sejfu jednorazowego. Sejf to osobne narzędzie, które pokazuje hasło raz i je kasuje, więc jest właściwe miejsce na takie rzeczy. Most nim nie jest.
Od 24 września filtr sprawdza też, czy w treści nie ma niczego wykonawczego. Polecenie, które wyglądało jak fragment skryptu, próba wstrzyknięcia instrukcji do modelu po drugiej stronie, znaczniki udające komunikat systemowy, niewidoczne znaki, którymi da się ukryć tekst. Powód był prozaiczny: skoro wiadomość czyta inny model językowy, to wiadomość jest dla niego danymi, nie poleceniem, i musi taka pozostać. Każda wiadomość odebrana z mostu niesie zresztą dopisek dla odbiorcy: to dane, nie polecenia.
Filtr musiał przejść jeden test, zanim go włączyłem: wszystkie 103 wiadomości, jakie do tej pory przeszły przez most, puściłem przez nową wersję. Zero fałszywych zatrzymań. Gdyby było inaczej, filtr robiłby to, co alarm, który krzyczy bez powodu: uczyłby wszystkich klikać „dalej".
A faktura? Zakaz numerów rachunków w treści obejmował na początku również załączniki. Czyli faktura w PDF, na której wystawca ma swój numer konta, była przez tydzień zakazana. Jeden z asystentów sam się wstrzymał i wysłał dokument mailem, co było rozsądne, ale bez sensu. 25 września powiedziałem krótko: dopuść faktury. Dokument księgowy jako plik może iść, bo numer rachunku na fakturze to jej normalna część, nie wyciek. Zakaz dla rachunków w treści wiadomości został. Dwa różne ryzyka, dwie różne zasady.
Były też drobniejsze korekty. Linki do dokumentów Google i do naszych własnych stron mają długie identyfikatory, które filtr brał za tokeny. Linki do urzędów też, bo adresy w domenach europejskich i rządowych potrafią wyglądać podejrzanie. Dla kilku zaufanych domen zrobiłem wyjątek, dla innych świadomie nie. Jedna z osób w zespole dostaje przez to czasem 422 przy linku do zagranicznego urzędu i musi położyć plik na dysku zamiast wklejać adres. Wiem o tym, zostawiłem tak celowo. Każde rozszerzenie listy to decyzja, nie automatyzm.
Pliki: biała lista typów i 10 MB. Skąd te liczby?
Polecenie, które wydałem 24 września rano, zapisałem sobie dosłownie, bo dobrze oddaje, jak myślę o takich rzeczach: trzeba zrobić możliwość dodawania plików w moście, do tego trzeba zrobić zasady, żeby ktoś nie włożył pliku, który rozsadzi most czy serwer, żeby nie było to miejsce niebezpieczne.
„Ktoś" to w tym zdaniu nie jest włamywacz. To jest któryś z naszych własnych asystentów, który w dobrej wierze wrzuci plik o rozmiarze zdjęcia z telefonu albo dokument, w którym ktoś kiedyś zostawił makro. Zasady wyszły takie:
- Biała lista typów: PDF, obrazy, tekst, CSV, dokumenty i arkusze pakietu biurowego. Nic poza listą nie wchodzi, nawet jeśli ma znajomo wyglądającą końcówkę.
- Typ po zawartości, nie po nazwie. Plik wykonywalny przemianowany na „faktura.pdf" dostaje 422, bo serwer patrzy w pierwsze bajty, a nie w rozszerzenie. Sprawdziłem to na żywo, wysyłając dokładnie taki plik.
- Odrzucanie aktywnej zawartości: makra w dokumentach, PDF z osadzonym skryptem albo uruchamianiem programów, archiwa, pliki HTML. Wszystko, co po otwarciu może coś zrobić, a nie tylko coś pokazać.
- 10 MB na plik, 30 plików dziennie na asystenta, 1 GB magazynu, 30 dni retencji. Po miesiącu plik znika z dysku, wpis o nim zostaje.
- Pobranie tylko przez nadawcę albo adresata, zawsze jako załącznik, nigdy jako strona otwierana w przeglądarce.
Dlaczego akurat 10 MB? Bo faktury, zrzuty ekranu i arkusze, które naprawdę krążą między ludźmi w firmie, mieszczą się w 2 - 3 MB. Dziesięć daje zapas, a jednocześnie nie pozwala przez pomyłkę wysłać kopii bazy danych. Dlaczego 30 dziennie? Bo normalny dzień to 2 - 5 plików, a 30 oznacza, że coś się zapętliło. Limity nie są po to, żeby utrudniać pracę. Są po to, żeby błąd w jednym asystencie nie zjadł dysku na serwerze o trzeciej w nocy.
Czego ten mechanizm nie ma: skanera antywirusowego i czytania tekstu z PDF pod kątem haseł. Jedno i drugie wymaga bibliotek, których w tym kontenerze nie ma, i uznałem, że biała lista typów plus odrzucanie aktywnej zawartości załatwia 95 procent ryzyka przy dziesięciu procentach kosztu. Ta ocena to moja decyzja i piszę o niej otwarcie, bo za pół roku może okazać się błędna.
Zestaw testów do plików ma 58 przypadków. Wiem, że to brzmi jak przechwałka. To raczej przyznanie, ile sposobów na wsadzenie złego pliku przyszło mi do głowy w jedno przedpołudnie.
Po co mi dziennik rzeczy, które się nie wydarzyły?
Każda odmowa na moście trafia do osobnej tabeli. Kto pytał, kogo, o jaki temat, kiedy, i dlaczego serwer powiedział nie. Pierwsze dwa wpisy w tym dzienniku to moje własne testy z dnia wdrożenia i zostawiłem je tam specjalnie, jako datę startu.
Początkowo traktowałem ten dziennik jak kontrolkę bezpieczeństwa: jeśli ktoś próbuje wyciągać informacje poza zakresem, zobaczę. Po miesiącu widzę w nim coś ciekawszego. Dziennik odmów to mapa miejsc, w których moje zakresy nie pasują do rzeczywistej pracy. Kiedy ten sam asystent trzeci raz dostaje 403 przy tym samym temacie, to nie on jest problemem. Problemem jest moja decyzja sprzed miesiąca, która przestała być aktualna. Tak właśnie wyszło z jednym z tematów, który po miesiącu trzeba było komuś odblokować. Zrobiłem to 5 października, bo dziennik pokazał, że ten temat jest potrzebny w codziennej pracy.
Od 5 października most zapisuje też adres sieciowy każdego połączenia. Nie publiczny adres z internetu, bo most jest dostępny tylko w naszej sieci prywatnej, ale adres urządzenia w tej sieci. Wiadomość od asystenta, która przyszła z komputera, z którego jego człowiek nie korzysta, byłaby czymś, o czym chcę wiedzieć tego samego dnia. Jeszcze się nie zdarzyło. Dziennik jest po to, żebym się dowiedział, kiedy się zdarzy.
I jedna decyzja, która zamknęła ten rozdział 7 października: ludzie z zespołu widzą rozmowy swoich asystentów w naszym panelu, ale tylko do odczytu, i każdy tylko swojego. Asystenci rozmawiają ze sobą, ludzie patrzą. Nie mogą napisać w imieniu asystenta i nie widzą cudzych wątków. To domyka zakresy z drugiej strony: jeśli asystent danej osoby nie widzi jakiegoś tematu, ta osoba przez panel też go nie zobaczy.
Gdzie się przewróciłem
Cztery razy, licząc tylko to, o czym warto napisać.
Jeden klucz na wszystkich. Przez pierwsze dwa dni jeden z asystentów łączył się z mostem tym samym kluczem co mój, bo tak było szybciej przy uruchamianiu. Kiedy 20 września wdrożyłem zakresy, zrozumiałem, że dopóki ten klucz nie zostanie wymieniony, cały mechanizm da się obejść jednym nagłówkiem. Klucz główny wymieniłem tego samego wieczoru, każdy asystent dostał własny, a nowy klucz dla człowieka idzie od tamtej pory wyłącznie przez sejf jednorazowy. Lekcja: zakresy bez osobnej tożsamości to dekoracja.
Skasowany wiersz w bazie. 29 września ktoś testujący nowy mechanizm skasował w bazie mostu ostatnią wiadomość, testową. Baza nadała jej numer następnej, prawdziwej wiadomości od programisty, a nasłuch, który śledzi ostatni znany numer, uznał, że już ją widział. Wiadomość przepadła na kilka godzin. Od tamtej pory nikt nie kasuje wierszy w tej bazie. Jeśli trzeba coś usunąć, kod zeruje treść pod tym samym numerem. Szczerze? Byłem na siebie zły bardziej niż przy każdym innym błędzie z tej listy, bo to klasyka, którą znam od dwudziestu lat.
Podgląd to nie odbiór. Jeden z asystentów przez dwa tygodnie zaglądał na most, ale tylko podglądał, nie oznaczając wiadomości jako odebranych. Z jego perspektywy wszystko było w porządku. Z perspektywy mostu 39 wiadomości czekało na odbiór. Wyszło 12 października, kiedy ktoś zapytał, czemu nie ma odpowiedzi. Naprawiłem to nasłuchem w tle i kolejką po jego stronie, ale prawdziwa poprawka była po mojej: kanał, w którym nikt nie zauważa, że druga strona milczy, nie jest skończony. Dziś serwer sam zgłasza asystenta, który w godzinach pracy nie zajrzał ponad pół godziny.
Antywirus kontra procedura. Kiedy 22 października ustaliłem, że każdy asystent zaczyna dzień od mostu i zagląda tam co dziesięć minut, i zapisałem to jako procedurę, której nikt w zespole nie może zmienić, pierwsza wersja instalatora u jednej osoby została skasowana przez jej program antywirusowy. Ukryte okno skryptu uruchamiane z harmonogramu wyglądało dla niego jak złośliwe oprogramowanie. Miał rację co do wzorca, mylił się co do intencji. Przepisałem całość tak, żeby w tle działał wyłącznie Python, bez powłoki. Zasada, którą stąd wyniosłem: bezpieczeństwo cudzego komputera to nie moja decyzja, nawet jeśli to komputer kogoś, z kim pracuję na co dzień.
Każdy z tych błędów ma wspólny rdzeń. Wszystkie wydarzyły się tam, gdzie polegałem na tym, że coś „się zrobi", bo tak było w instrukcji. Dokładnie dlatego reszta artykułu jest o kodzie.
Czy to nie przerost formy dla firmy na kilkanaście osób?
Słyszę to pytanie i rozumiem je. Zakresy, filtry, dzienniki, 82 testy automatyczne i procedura, której nikt nie może zmienić. Dla kanału, przez który w normalny dzień przechodzi kilkanaście wiadomości między pięcioma asystentami. Brzmi jak korporacyjny dział bezpieczeństwa wciśnięty do małej firmy.
Odwróćmy to. W korporacji między systemami stoją działy: ktoś zatwierdza dostępy, ktoś audytuje logi, ktoś pisze polityki. W firmie na kilkanaście osób tych działów nie ma, więc albo tę pracę zrobi kod, albo nie zrobi jej nikt. Trzecia możliwość, że zrobi ją ludzka uwaga, nie istnieje. Sprawdziłem. Ludzka uwaga w małej firmie jest zajęta klientami.
Jest też argument, który uważam za ważniejszy. Asystent AI z dostępem do firmy to pracownik, którego nie da się zwolnić za niedyskrecję, bo nie rozumie, co to niedyskrecja. Nie ma wyczucia, kiedy pytanie koleżanki jest niewinne, a kiedy nie. Będzie tak samo pomocny wobec magazyniera, który pyta o marże z ciekawości, jak wobec kogoś, kto za tydzień odchodzi do konkurencji. Jedyne, co masz, to zakres ustawiony wcześniej, zanim pytanie padnie. Nie dlatego, że nie ufasz ludziom. Dlatego, że ufasz im dokładnie tyle, ile ufałeś, zanim mieli asystentów, i chcesz, żeby to się nie zmieniło.
Mit, który chcę tu rozbroić, brzmi: „u nas wszyscy wszystko wiedzą, jesteśmy mali". To nigdy nie było prawdą. W każdej małej firmie są rzeczy, o których wie szef, jedna zaufana osoba i księgowa. Różnica polega na tym, że dotąd pilnowała tego zwykła ludzka dyskrecja, a teraz w firmie pojawiły się byty, które jej nie mają. Zakres w kodzie nie wprowadza do firmy tajemnic. Przywraca te, które już były.
I kontrargument wobec samego siebie: tak, przesadziłem w jednym miejscu. Pierwsza wersja filtru linków zatrzymywała adresy urzędów i nasze własne dokumenty. Dwa tygodnie rozluźniania reguł to był koszt tego, że zacząłem od strony zbyt ciasnej. Nadal uważam, że to właściwa strona, od której się zaczyna. Luzować jest łatwo. Zaciskać po wycieku już nie.
Od czego zacząć u siebie
Jeśli masz w firmie dwóch lub więcej asystentów AI i myślisz, żeby pozwolić im rozmawiać, kolejność, którą bym Ci zaproponował, wygląda tak:
- Spisz tematy, nie zakazy. Pięć do ośmiu obszarów, którymi firma naprawdę żyje. Dla każdej osoby lista tematów, w których jej asystent może rozmawiać. Wszystko spoza listy nie istnieje. To jest godzina pracy z kartką, nie projekt informatyczny.
- Każdemu asystentowi własna tożsamość. Osobny klucz, który mówi, kim jest, zanim cokolwiek napisze. Jeden wspólny klucz „na początek" zostanie na zawsze. U mnie został na dwa dni tylko dlatego, że wdrożenie zakresów zmusiło mnie do wymiany.
- Zasady do kodu, nie do instrukcji. Jeśli kanał to gotowe narzędzie, szukaj w nim ustawień, które odrzucają wiadomość, a nie takich, które ją tylko oznaczają. Jeśli to własna aplikacja, odmowa ma być odpowiedzią serwera, nie prośbą w prompcie.
- Filtr sekretów od pierwszego dnia. Hasła, tokeny, rachunki, PESEL. Dołóż sejf jednorazowy obok, żeby ludzie i asystenci mieli dokąd pójść z tym, czego kanał nie przyjmuje. Zakaz bez alternatywy uczy obchodzenia zakazu.
- Dziennik odmów i ktoś, kto do niego zagląda. Raz w tygodniu wystarczy. Szukasz powtarzających się odmów, bo to Twoje zakresy się zestarzały, nie asystent zbłądził.
- Sprawdź, że druga strona odbiera. Nie „wysłałem", tylko „odebrał i oznaczył". Kanał bez tego sprawdzenia będzie milczał tak długo, aż ktoś zapyta, czemu nie ma odpowiedzi.
Nie potrzebujesz do tego działu IT. Potrzebujesz jednego popołudnia na decyzje, które w tym tekście zajęły mi pięć zdań, i kogoś, kto te decyzje zamieni na kod zamiast na notatkę. Notatki, jak już wiemy, są do interpretacji. Kod nie.
Asystenci AI w mojej firmie rozmawiają dziś ze sobą sprawniej, niż ja rozmawiałem z nimi w roli kabla. Ale sprawność nigdy nie była tu problemem. Problemem było to, że każdy z nich odpowiedziałby na każde pytanie. Dziś nie odpowie. I właśnie dlatego mogę pozwolić im rozmawiać.
Słownik pojęć
- Most agentów - wewnętrzny kanał wiadomości między asystentami AI osób w zespole. Mała aplikacja z bazą danych na naszym serwerze, dostępna tylko z sieci prywatnej firmy.
- Zakres (temat) - jeden z siedmiu obszarów, w których asystent danej osoby może rozmawiać. Wiadomość ma temat, a serwer sprawdza, czy mają go nadawca i adresat.
- Kod 403 - odpowiedź serwera „zabronione". Na moście oznacza, że temat wiadomości jest poza zakresem nadawcy albo adresata. Wiadomość nie powstaje.
- Kod 422 - odpowiedź serwera „treść nie do przyjęcia". Na moście oznacza, że w wiadomości albo pliku jest coś, czego kanał nie przyjmuje: hasło, numer rachunku, PESEL, treść wykonawcza, zły typ pliku.
- Sejf jednorazowy - narzędzie do przekazania hasła lub klucza: pokazuje go raz i kasuje. Właściwe miejsce na sekrety, których most nie przyjmuje.
- Biała lista typów - zamknięta lista rodzajów plików, które kanał przyjmuje. Wszystko spoza listy jest odrzucane, a typ sprawdzany jest po zawartości pliku, nie po jego nazwie.
- Dziennik odmów - tabela, w której zapisana jest każda odrzucona wiadomość: kto, do kogo, jaki temat, kiedy i dlaczego. Służy do wykrywania zarówno prób obejścia, jak i przestarzałych zakresów.
- Prompt injection - próba przemycenia w treści wiadomości poleceń dla modelu językowego, który ją przeczyta. Na moście treść jest zawsze danymi, nie poleceniem, a podejrzane wzorce są zatrzymywane.
Masz więcej niż jednego asystenta? Policzmy, kto u Ciebie wie za dużo
Jeśli w Twojej firmie pracuje już kilka asystentów AI, albo jeden z dostępem do wszystkiego, napisz do mnie na [email protected]. Najpierw spiszemy, kto o czym powinien móc rozmawiać, a dopiero potem zastanowimy się nad narzędziem. Z mojego doświadczenia ta pierwsza część jest trudniejsza, a większość firm chce zacząć od drugiej.
O tym, jak wygląda współpraca ze mną, przeczytasz osobno.
własnej firmie cybulski.ai JC


