Klient zapytał mnie kiedyś wprost: „ile kosztuje takie narzędzie, jakie masz u siebie?". Chodziło o moją wyszukiwarkę wiedzy, tę, która znajduje mi w sekundę dowolny fragment z setek plików o klientach. Odpowiedziałem, że samo narzędzie nie kosztuje prawie nic, bo zbudowałem je z darmowych klocków. A potem dodałem, że to złe pytanie, i że jeśli chce dobrą odpowiedź, musi zapytać inaczej.
Bo pytanie nie brzmi „ile kosztuje to narzędzie". Pytanie brzmi: czy w ogóle powinieneś je budować, skoro za dwadzieścia dolarów miesięcznie ktoś sprzeda ci coś podobnego z gotowym przyciskiem. Prowadzę agencję AI dla MŚP i wszystko, co radzę klientom, najpierw sprawdzam na własnej firmie. Tę wyszukiwarkę zbudowałem dla siebie, używam jej codziennie i nieraz odradzałem klientom robienie tego samego. Opowiem, jak liczę tę decyzję, co naprawdę kryje się pod słowem „darmowe" i kiedy gotowiec wygrywa z własnym, choć jako wykonawca mógłbym zarobić na tym drugim.
Spis treści
- Ile naprawdę kosztuje „gotowe narzędzie z abonamentem"?
- Co właściwie budujesz, gdy budujesz własne?
- Jak wygląda moja wyszukiwarka pod maską
- Skąd się bierze „darmowe", które wcale darmowe nie jest
- Dlaczego czasem chodzi nie o cenę, tylko o to, gdzie leżą dane
- Kiedy odradzam budowanie, choć mógłbym na nim zarobić
- Kiedy własne wygrywa z gotowcem
- Jak sam podejmuję tę decyzję, krok po kroku
- Co z tego zostaje
- Słownik pojęć
Ile naprawdę kosztuje „gotowe narzędzie z abonamentem"?
Rynek gotowych narzędzi do przeszukiwania firmowej wiedzy jest dziś gęsty. Płacisz abonament, zwykle liczony od użytkownika, podłączasz swoje dokumenty, dysk, maile, i dostajesz okienko, w które wpisujesz pytanie po ludzku, a system odpowiada, wskazując źródło. To wygodne i działa od pierwszego dnia. Cena? Zwykle od kilkunastu do kilkudziesięciu dolarów miesięcznie za każdego pracownika, który ma z tego korzystać.
Zróbmy prostą arytmetykę, bo ona robi tu całą robotę. Firma na 15 osób, narzędzie po 25 dolarów za użytkownika miesięcznie. To niemal 4 500 dolarów rocznie, czyli grubo ponad osiemnaście tysięcy złotych. Co roku. Za coś, co po trzech latach kosztowało cię tyle, ile dobry używany samochód, a ty nadal nie masz tego na własność. Przestajesz płacić, kończy się dostęp, a twoja wiedza zostaje w cudzym systemie.
I tu jest pierwsza rzecz, której sprzedawca abonamentu ci nie powie, bo nie leży to w jego interesie: w cenie kupujesz nie tylko działanie, ale i wygodę bycia zwolnionym z myślenia. Ktoś za ciebie utrzymuje serwery, aktualizuje, pilnuje, żeby to się nie psuło. Dla wielu firm to jest warte każdej złotówki. Dla innych to płacenie czynszu za mieszkanie, które dałoby się mieć na własność. Cała sztuka polega na tym, żeby wiedzieć, do której grupy należysz, zanim podpiszesz pierwszą umowę.
Bo abonament ma jeszcze jedną cechę, którą łatwo przeoczyć przy podpisie, a boleśnie się ją czuje po dwóch latach: rośnie razem z firmą. Każda nowa osoba to kolejna opłata. Narzędzie, które przy pięciu osobach kosztowało tyle co lunch, przy pięćdziesięciu kosztuje tyle co etat. Własne narzędzie ma odwrotną krzywą. Drogie na starcie, bo trzeba je zbudować, a potem prawie darmowe niezależnie od tego, ilu ludzi z niego korzysta.
Co właściwie budujesz, gdy budujesz własne?
Zanim zacznę liczyć, muszę wytłumaczyć, co to w ogóle jest, bo bez tego dalsza rozmowa wisi w powietrzu. Narzędzie, o którym mówię, to RAG. Brzydki skrót, więc od razu rozbijam go na ludzki język: to system, który najpierw znajduje w twoich plikach fragmenty pasujące do pytania, a dopiero potem na ich podstawie układa odpowiedź. Nie zgaduje z głowy. Sięga do twoich dokumentów, jak pracownik, który zamiast odpowiadać z pamięci, idzie do segregatora i sprawdza.
Najprościej wyobrazić to sobie jako bibliotekarza, który przeczytał wszystkie twoje papiery. Pytasz go „co ustaliliśmy z Kowalskim w marcu", a on nie tylko pamięta, że coś było, ale podaje ci konkretną kartkę z konkretnej teczki. Różnica między takim systemem a zwykłym wyszukiwaniem po słowie jest taka, jak między bibliotekarzem, który rozumie, o co pytasz, a katalogiem, który znajdzie tylko dokładnie te słowa, które wpisałeś. Pytasz o „rozwiązanie umowy", a system znajdzie ci też fragment o „zakończeniu współpracy", choć nie padło ani jedno z twoich słów. Rozumie sens, nie literę.
Pod spodem ta magia to dwa elementy. Pierwszy zamienia każdy fragment tekstu na ciąg liczb opisujący jego znaczenie, tak zwany wektor. Drugi to coś w rodzaju mapy, na której teksty o podobnym sensie leżą blisko siebie. Gdy zadajesz pytanie, ono też zamienia się w punkt na tej mapie, a system zwraca to, co leży najbliżej. Cała reszta to inżynieria wokół tych dwóch pomysłów. Brzmi skomplikowanie, ale w praktyce to kilka plików kodu i dwa darmowe, otwarte narzędzia, które ktoś już za ciebie napisał.
To jest sedno, które zmienia całą kalkulację: nie budujesz tego od zera. Składasz z gotowych, darmowych części. To bliżej składania komputera z podzespołów niż projektowania procesora. I właśnie dlatego „własne" wcale nie musi znaczyć „drogie", choć zaraz pokażę, że nie znaczy też „za darmo".
Jak wygląda moja wyszukiwarka pod maską
Żeby to nie było teorią, pokażę swoją. Zbudowałem ją z dwóch otwartych klocków, za które nie płacę ani złotówki licencji. Pierwszy to silnik, który zamienia teksty na te znaczeniowe liczby i robi to lokalnie, na moim komputerze, bez wysyłania czegokolwiek do internetu. Drugi to biblioteka, która trzyma te liczby i błyskawicznie znajduje najbliższe dopasowania. Oba są darmowe, otwarte i używane przez firmy znacznie większe od mojej.
Do tego napisałem trzy własne kawałki. Jeden skanuje moje pliki, tnie je na fragmenty po kilkaset znaków i wysyła do przeliczenia, robiąc to porcjami, żeby nie zagotować komputera. Drugi przyjmuje pytanie i zwraca najlepsze dopasowania razem ze wskazaniem, z którego pliku pochodzą. Trzeci to mały panel w przeglądarce, na którym widzę, ile plików już przerobiłem i co jeszcze czeka. Tyle. Żadnej chmury, żadnego abonamentu, żadnego dostawcy, który może z dnia na dzień podnieść cenę albo zamknąć usługę.
Liczby, żebyś miał skalę. Mój indeks to dziś ponad pięć tysięcy fragmentów tekstu z kilkuset plików, i to nie jest wielka instalacja, tylko prywatne narzędzie jednej osoby. Wpisuję pytanie, dostaję odpowiedź w sekundę, z podanym źródłem. Pamięci zużywa tyle, że chodzi w tle i nawet o nim nie myślę. Opisałem wcześniej dokładnie, co taki system daje mi w codziennej pracy z klientami, więc tu nie będę powtarzał korzyści. Ten tekst jest o czymś innym: czy w ogóle warto go było budować, i kiedy tobie się to nie opłaci.
Bo skoro brzmi tak dobrze, czemu miałbym komukolwiek odradzać? Zaraz do tego dojdę. Najpierw muszę rozprawić się ze słowem, które kłamie najczęściej w całej tej historii.
Skąd się bierze „darmowe", które wcale darmowe nie jest
Powiedziałem klientowi, że narzędzie nie kosztuje prawie nic, i to prawda, jeśli mówimy o licencjach. Klocki są darmowe. Ale „darmowe oprogramowanie" i „darmowe rozwiązanie" to dwie zupełnie różne rzeczy, a różnicę między nimi płaci się czasem i nerwami, nie fakturą.
Pierwszy ukryty koszt to budowa. Mnie złożenie tego zajęło kilka wieczorów, bo robię w tym zawodowo i wiem, którego klocka użyć. Komuś, kto musi się tego nauczyć od zera, zajmie to tygodnie, a tygodnie pracy właściciela albo programisty mają cenę znacznie wyższą niż roczny abonament gotowca. Jeśli twoja godzina jest warta dwieście złotych, a budowa zabierze ci sto godzin, właśnie wydałeś dwadzieścia tysięcy, tyle że w czasie, którego nie widać na koncie.
Drugi koszt to utrzymanie, i ten jest podstępny, bo wraca. Coś się zaktualizuje i przestanie działać. Pojawi się nowy format plików, którego twój system nie umie przeczytać. Komputer, na którym to chodzi, padnie i trzeba postawić od nowa. Gotowiec ma od tego cały zespół, wliczony w cenę. Przy własnym tym zespołem jesteś ty albo ktoś, komu płacisz. Oprogramowanie bywa darmowe. Człowiek, który wie, co zrobić, gdy przestanie działać, nie jest darmowy nigdy.
Trzeci koszt jest najmniej oczywisty: ryzyko jednej osoby. Jeśli zbudował ci to jeden zdolny człowiek i ten człowiek odejdzie, zostajesz z systemem, którego nikt w firmie nie rozumie. To samo zresztą dotyczy mnie i moich klientów, dlatego każde wdrożenie zostawiam z dokumentacją, którą zrozumie ktoś inny. Bez tego „własne narzędzie" zamienia się w minę, która czeka na moment, aż autor zniknie. Szczerze? Widziałem firmy, które bały się dotknąć własnego systemu, bo jedyna osoba, która go rozumiała, dawno już tam nie pracowała.
Dlatego kiedy mówię „darmowe", zawsze dopowiadam: darmowe w licencji, płatne w czasie, uwadze i ryzyku. I dopiero ta pełna cena, a nie sama cena zerowa z metki, jest tym, co należy porównać z abonamentem.
Dlaczego czasem chodzi nie o cenę, tylko o to, gdzie leżą dane
Gdyby decyzja sprowadzała się tylko do złotówek, byłaby prosta: policz koszt budowy z utrzymaniem, porównaj z trzyletnim abonamentem, wybierz tańsze. Ale jest druga oś, która u części firm przeważa całą arytmetykę, i nazywa się: gdzie fizycznie leżą twoje dane.
Gotowe narzędzie z abonamentem prawie zawsze trzyma twoje dokumenty w swojej chmurze. Wgrywasz tam umowy, maile, dane klientów, czasem rzeczy objęte tajemnicą zawodową albo wrażliwe w rozumieniu RODO. Dla wielu firm to żaden problem, bo dostawca ma lepsze zabezpieczenia, niż one same kiedykolwiek będą miały. Ale są branże, w których oddanie takich danych komukolwiek na zewnątrz jest albo zakazane, albo zwyczajnie nierozsądne. Kancelaria, przychodnia, firma pracująca na danych osobowych na dużą skalę, podwykonawca związany umową o poufności, który nie ma prawa wynieść dokumentów klienta poza własną infrastrukturę.
Moja wyszukiwarka liczy wszystko lokalnie, na moim sprzęcie. Żaden fragment dokumentu klienta nie wychodzi do internetu, bo silnik, który zamienia teksty na liczby, chodzi u mnie, a nie w cudzej chmurze. To nie była decyzja o oszczędzaniu. To była decyzja o tym, że pracuję na danych kilkudziesięciu firm i nie zamierzam ich wrzucać do systemu, nad którym nie mam kontroli. Przy takiej pracy „własne" przestaje być wyborem ekonomicznym, a staje się warunkiem, żeby w ogóle móc spać spokojnie.
To jest, swoją drogą, temat, który wraca u mnie przy każdej poważniejszej rozmowie o wdrożeniu, i poświęciłem mu osobne miejsce, bo bezpieczeństwo danych przy AI w małej firmie to nie jest dodatek, tylko fundament. Jeśli twoje dane nie mogą opuścić firmy, połowa gotowych narzędzi odpada z gry, zanim w ogóle spojrzysz na cennik. I wtedy budowa własnego nie jest fanaberią, tylko jedyną drogą.
Kiedy odradzam budowanie, choć mógłbym na nim zarobić
A teraz część, której nie usłyszysz od nikogo, kto chce ci sprzedać wdrożenie. Większości małych firm odradzam budowanie własnej wyszukiwarki wiedzy. Mówię to jako ktoś, kto takie systemy stawia i mógłby na tym zarabiać.
Jeśli masz pięcioosobową firmę, trzysta plików i pytasz o coś raz w tygodniu, nie buduj nic. Gotowiec za dwadzieścia dolarów miesięcznie albo nawet zwykłe dobre szukanie po nazwach plików wystarczy ci w zupełności. Koszt zbudowania i utrzymania własnego systemu nie zwróci ci się przez lata, a w międzyczasie będziesz miał kolejną rzecz, która może się zepsuć. To jak kupowanie własnej drukarni, żeby wydrukować raz w roku kalendarz. Taniej i mądrzej zlecić.
Drugi przypadek, w którym odradzam, to brak kogokolwiek technicznego pod ręką. Własne narzędzie, nawet zbudowane z darmowych klocków, wymaga, żeby ktoś umiał je w razie czego naprawić. Jeśli w firmie nie ma takiej osoby ani nikogo na stałe, kto by tym się zajął, własny system jest jak żaglówka bez nikogo, kto umie żeglować. Ładnie wygląda przy kei, a w pierwszym sztormie tonie. Lepszy gotowiec, za którym stoi cudzy zespół wsparcia, niż własne cudo, którego nikt u ciebie nie ogarnie.
Trzeci, najtrudniejszy do przyznania: czasem firma chce budować własne nie dlatego, że to ma sens, tylko dlatego, że brzmi nowocześnie. „Mamy własne AI" dobrze wygląda na spotkaniu. To najgorszy z możliwych powodów. Najlepsze wdrożenia, jakie widziałem, brały się z policzonego problemu. Najgorsze, z chęci posiadania zabawki. Zanim zapytasz „jak to zbudować", zadaj sobie pytanie, które zadaję każdemu klientowi na pierwszym spotkaniu: ile mnie naprawdę kosztuje to, że dziś tego nie mam? Jeśli odpowiedź brzmi „niewiele", masz odpowiedź i nie potrzebujesz mnie.
Kiedy własne wygrywa z gotowcem
Są jednak sytuacje, w których siadam z klientem i mówię wprost: tu budujemy własne, i nie ma o czym dyskutować. Zwykle składa się na to kilka rzeczy naraz, bo pojedynczy powód rzadko wystarcza.
Pierwsza to wrażliwe dane, o których była mowa. Jeśli twoje dokumenty nie mogą opuścić firmy, gotowiec w chmurze odpada, a własny lokalny system staje się jedyną opcją, nie jedną z opcji. Tu decyzja jest najprostsza, bo właściwie nie ma wyboru.
Druga to skala i wolumen. Wróćmy do arytmetyki z początku. Przy pięćdziesięciu czy stu osobach abonament liczony od użytkownika robi się brutalny, a krzywa kosztów własnego systemu jest płaska, bo nie płacisz za głowę. Jest taki próg, powyżej którego budowa zwraca się w kilkanaście miesięcy, a potem już tylko oszczędza. Ten próg każda firma ma w innym miejscu, ale gdy go przekroczysz, dalsze płacenie abonamentu to po prostu zostawianie pieniędzy na stole.
Trzecia to potrzeba, której żaden gotowiec nie spełnia. Standardowe narzędzia robią standardowe rzeczy. Jeśli twój proces jest nietypowy, jeśli chcesz, żeby wyszukiwarka rozumiała twoje specyficzne dokumenty, łączyła się z twoim systemem, działała dokładnie tak, jak pracuje twoja firma, gotowiec zawsze będzie krzywym kompromisem. Własne dopasujesz co do milimetra. To różnica między garniturem z wieszaka a szytym na miarę. Pierwszy jest tańszy i często wystarczy. Drugi leży idealnie, ale ma sens tylko, gdy naprawdę go nosisz.
Czwarta, cicha, ale ważna: niezależność. Gdy budujesz własne, nikt ci nie podniesie ceny, nie zamknie usługi, nie zmieni regulaminu z miesiąca na miesiąc. To, co masz, jest twoje. Dla niektórych firm ta pewność jest warta więcej niż różnica w kosztach. Przerabiałem już sytuację, w której dostawca z dnia na dzień zmienił warunki, i firma została z niczym. Własnego narzędzia nikt ci tak nie wyłączy.
Jak sam podejmuję tę decyzję, krok po kroku
Gdy klient pyta mnie „budować czy kupić", nie odpowiadam od razu. Przechodzę z nim przez pięć pytań, w tej kolejności, bo pierwsze ważniejsze od ostatniego.
1. Czy twoje dane mogą w ogóle opuścić firmę? Jeśli nie, koniec dyskusji o gotowcach z chmury, budujemy lokalnie. To pytanie jest pierwsze, bo unieważnia wszystkie pozostałe. 2. Ile osób będzie z tego realnie korzystać i jak często? Mało osób, rzadko, to gotowiec albo nic. Dużo osób, codziennie, to argument za własnym, bo abonament od głowy robi się kosztowny. 3. Czy masz kogoś, kto to utrzyma? Bez technicznej osoby pod ręką własne narzędzie jest ryzykiem, nie oszczędnością. Lepszy gotowiec z cudzym wsparciem. 4. Czy gotowe narzędzie robi dokładnie to, czego potrzebujesz? Jeśli tak, nie wymyślaj koła. Jeśli twój przypadek jest nietypowy, własne może być jedyną drogą, by leżało jak trzeba. 5. Policz oba warianty na trzy lata. Nie na miesiąc. Gotowiec to abonament razy trzydzieści sześć. Własne to koszt budowy plus utrzymanie. Dopiero te dwie liczby obok siebie mówią prawdę.
Zwróć uwagę, że cena jest na końcu, nie na początku. To nieprzypadkowe. Najpierw rozstrzygasz, czy w ogóle wolno ci użyć gotowca i czy masz kim go obsłużyć, a dopiero gdy obie drogi są realne, decyduje arytmetyka. Najczęstszy błąd, jaki widzę, to zaczynanie od ceny, a kończenie na zdziwieniu, że tanie narzędzie nie spełnia wymogu, którego nikt na początku nie sprawdził.
I jeszcze jedno, czego trzymam się sam: jeśli nie jesteś pewien, zacznij od gotowca. Miesiąc czy dwa na sprawdzonym, płatnym narzędziu kosztują grosze, a powiedzą ci o twoich realnych potrzebach więcej niż dziesięć spotkań. Dopiero gdy z tego korzystania wyrośnie konkretna potrzeba, której gotowiec nie spełnia, masz twardy powód, żeby budować. Budowanie na zapas, zanim wiesz, czego naprawdę potrzebujesz, to najdroższa droga, jaką znam.
Co z tego zostaje
Moją wyszukiwarkę zbudowałem i nie żałuję ani jednej godziny. Daje mi codziennie to, czego żaden gotowiec by nie dał, bo trzyma wrażliwe dane u mnie, działa dokładnie jak ja pracuję i nie kosztuje mnie ani złotówki za użytkownika, choćbym dołożył dziesięć osób. Ale zbudowałem ją, bo akurat u mnie zeszły się wszystkie powody naraz: wrażliwe dane, codzienne użycie i ktoś, kto to ogarnie, czyli ja sam.
U ciebie te powody mogą się nie zejść, i wtedy uczciwa odpowiedź brzmi: nie buduj. Kup gotowca, zapłać abonament, śpij spokojnie i zajmij się tym, na czym naprawdę zarabiasz. „Własne AI" nie jest celem. Jest narzędziem, które ma sens dokładnie wtedy, gdy rozwiązuje policzony problem taniej albo lepiej niż gotowiec, a w pozostałych przypadkach jest tylko droższym sposobem na to samo. Najmądrzejsza decyzja technologiczna, jaką możesz podjąć, to czasem ta, żeby niczego nie budować i wrócić do pracy.
Słownik pojęć
- RAG (Retrieval-Augmented Generation) - system, który najpierw wyszukuje w twoich dokumentach fragmenty pasujące do pytania, a dopiero na ich podstawie układa odpowiedź. Dzięki temu nie zmyśla, tylko odpowiada na podstawie twoich plików i podaje źródło.
- Embedding (wektor znaczeniowy) - zamiana fragmentu tekstu na ciąg liczb opisujący jego sens. Teksty o podobnym znaczeniu mają podobne liczby, co pozwala szukać po sensie, a nie po dokładnym słowie.
- Indeks wektorowy - rodzaj mapy, na której wszystkie fragmenty leżą wedle znaczenia. Gdy zadajesz pytanie, ono też ląduje na tej mapie, a system zwraca to, co leży najbliżej.
- Model lokalny - silnik AI działający na twoim własnym komputerze lub serwerze, bez wysyłania danych do internetu. Kluczowy, gdy dokumenty nie mogą opuścić firmy.
- Abonament per użytkownik - model cenowy, w którym płacisz osobno za każdą osobę korzystającą z narzędzia. Wygodny na starcie, ale rośnie wprost proporcjonalnie do wielkości firmy.
Zanim zdecydujesz, budować czy kupić, przejdźmy przez te pięć pytań razem
Jeśli stoisz przed wyborem między własnym narzędziem AI a gotowym abonamentem i nie chcesz tego rozstrzygać po cenie z metki, napisz do mnie na j.cybulski@idea4me.pl. Przejdziemy przez pięć pytań z tego tekstu na twoim konkretnym przypadku, i całkiem możliwe, że doradzę ci gotowca, bo nie każdą firmę stać na to, żeby budować, i nie każdej się to opłaca. Wolę powiedzieć ci to przed wdrożeniem niż po.
własnej firmie cybulski.ai JC
