21 czerwca 2026 · Zaktualizowano: 25 sierpnia 2026
0,0006 USD za skan AI: co naprawdę kosztuje GenAI na produkcji
Operacyjny snapshot mojApteczki z czerwca 2026 pokazał koszt 0,0006 USD za skan AI. Ta liczba ma ścisłą granicę: opisuje wyłącznie warstwę inferencji, czyli wykonanie wywołania modelu dla konkretnego skanu. Nie obejmuje budowy aplikacji, przygotowania danych, przechowywania ani transferu, monitoringu, ewaluacji oraz pracy zespołu i pracy operacyjnej.
Dlatego nie jest gotową odpowiedzią na pytanie o budżet całego wdrożenia GenAI. Jest wiarygodnym kosztem jednostkowym z jednego systemu produkcyjnego i punktem wejścia do rozmowy o TCO. Pełny rachunek powstaje dopiero wtedy, gdy do inferencji dołączymy dane, kontrolę jakości, utrzymanie, governance oraz koszt błędnej odpowiedzi.
Spis treści
- Krótka odpowiedź i granica liczby
- Dlaczego rachunek za model to nie TCO
- Warstwy kosztu systemu GenAI
- Jakościowa tabela TCO i ownerzy
- Pętla przeglądu kosztu i jakości
- Jak czytać dowód z mojApteczki
- Jak przygotować decyzję budżetową
- Jak obniżać koszt GenAI bez utraty jakości
- Najczęstsze pułapki w kalkulacji
- FAQ o koszcie GenAI na produkcji
- Następny krok
Krótka odpowiedź i granica liczby
Koszt inferencji mówi, ile kosztuje wykonanie zdefiniowanej operacji modelu w określonym systemie. Przydaje się do porównywania wariantów technicznych, obserwowania zmian po aktualizacji i wykrywania niekontrolowanego zużycia. Nie opisuje jednak pracy potrzebnej, aby model dostał właściwe dane, działał w aplikacji, pozostawał mierzalny i nie powodował niedopuszczalnych błędów.
To rozróżnienie jest ważne już podczas rozmowy z dostawcą. Pytanie „ile kosztuje model?” dotyczy pozycji na rachunku za usługę. Pytanie „ile kosztuje GenAI na produkcji?” dotyczy systemu, procesu i odpowiedzialności. Model może generować odpowiedź, ale ktoś musi zdefiniować jej poprawność, dostarczyć kontekst, obsłużyć wyjątek, przeanalizować incydent i zdecydować o zmianie.
Granica liczby chroni też przed pozornie precyzyjnymi kalkulacjami. Nie przenosimy kosztu z mojApteczki na inny proces przez proste przemnożenie. Inny dokument, prompt, model, polityka retencji lub wymóg kontroli może zmienić strukturę pracy. Najpierw opisujemy jednostkę biznesową i granice systemu, a dopiero potem przypisujemy koszty do właścicieli.
Dlaczego rachunek za model to nie TCO
Faktura dostawcy modelu pokazuje zużycie usługi. TCO pokazuje, co organizacja musi utrzymać, aby usługa dawała użyteczny wynik objęty akceptowalną kontrolą. Ta różnica decyduje, czy pilotaż da się zamienić w proces, za który ktoś bierze odpowiedzialność.
Przed wywołaniem modelu pojawia się praca z danymi: pozyskanie, czyszczenie, mapowanie, wersjonowanie, nadawanie uprawnień oraz obsługa zmian źródła. Po wywołaniu pozostają walidacja, rejestrowanie wyniku, obserwacja zachowania użytkowników i reakcja na błąd. Jeżeli system korzysta z RAG, dochodzi aktualizacja wiedzy, kontrola dostępu do dokumentów i sprawdzanie jakości wyszukiwania.
Część kosztów przyjmuje formę rachunku za infrastrukturę. Pozostałe wynikają z czasu specjalisty, opieki właściciela procesu albo pracy zespołu bezpieczeństwa. Jeszcze inne ujawniają się dopiero przy błędzie: w poprawce danych, ręcznej obsłudze sprawy, eskalacji lub utracie zaufania użytkownika. Wszystkie należą do decyzji o produkcji, nawet jeśli nie występują na fakturze modelowej.
Dobre TCO nie udaje jednej uniwersalnej ceny. Pokazuje źródło każdej pozycji, jej ownera i zdarzenie, które powoduje wzrost. Dzięki temu zespół potrafi odróżnić koszt zależny od użycia od pracy potrzebnej niezależnie od ruchu.
Warstwy kosztu systemu GenAI
Najprościej zacząć od mapy zależności. Inferencja znajduje się w środku przepływu, ale jej otoczenie decyduje o tym, czy odpowiedź trafi do użytkownika i czy można jej zaufać. Diagram pokazuje warstwy jakościowo, bez sugerowania proporcji, stawek ani gotowego budżetu.
Inferencja obejmuje żądanie do modelu i jego odpowiedź. Jej koszt warto przypisać do mierzalnej jednostki działania systemu, bez mieszania go z budową produktu.
Dane i wiedza obejmują źródła, przygotowanie, indeksowanie, kontrolę dostępu i aktualizacje. Ta warstwa często wymaga współpracy inżynierów z osobami, które rozumieją proces i znaczenie danych.
Ewaluacje odpowiadają na pytanie, czy system nadal spełnia zdefiniowane kryteria. Potrzebują przypadków testowych, oczekiwanych wyników, zasad oceny i decyzji, co blokuje wydanie.
Monitoring pokazuje, co dzieje się po wdrożeniu. Łączy sygnały techniczne z informacją o jakości i incydentach, zamiast ograniczać się do dostępności usługi.
Governance i zgodność porządkują odpowiedzialność, akceptację zmian, ślad decyzji, dostęp i reakcję na ryzyko. W branżach regulowanych ta praca nie może zostać dopisana dopiero po uruchomieniu.
Koszt błędu opisuje skutek dla procesu: realną obsługę wyniku, który trzeba poprawić, sprawdzić, eskalować lub wycofać. Charakter tego kosztu zależy od zastosowania, dlatego musi go opisać właściciel biznesowy.
Jakościowa tabela TCO i ownerzy
Poniższa tabela nie zawiera stawek. Służy do zebrania zakresu, wskazania odpowiedzialności i ustalenia, gdzie organizacja ma wiarygodne dane do kalkulacji. Kolumna „Gdzie policzyć” kieruje do źródła, w którym założenie powinno mieć ślad.
| Warstwa | Co obejmuje | Co wywołuje wzrost | Owner | Gdzie policzyć |
|---|---|---|---|---|
| Inferencja | Wywołania modelu, kontekst wejściowy, odpowiedzi i obsługę żądań | Złożoność zadania, większy kontekst, ponowienia i zmiana modelu | Owner produktu AI | Telemetria wywołań i arkusz TCO |
| Dane i wiedza | Pozyskanie, czyszczenie, mapowanie, indeksowanie, wersjonowanie i uprawnienia | Nowe źródła, zmiany schematów, aktualizacje wiedzy i wymagania dostępu | Owner danych | Backlog danych, rejestr źródeł i arkusz TCO |
| Ewaluacje | Przypadki testowe, kryteria poprawności, ocenę wyników i bramki wydania | Zmiana modelu, promptu, wiedzy, procesu lub profilu ryzyka | Owner jakości AI | Repozytorium ewaluacji i arkusz TCO |
| Monitoring | Logi, alerty, obserwację jakości, triage i obsługę incydentów | Nowe scenariusze, zmiany zachowania, błędy i wymagania operacyjne | Owner operacyjny | Platforma obserwowalności i arkusz TCO |
| Governance i zgodność | Role, akceptacje, polityki, ślad audytowy, dostęp i przegląd ryzyka | Zmiana zastosowania, odpowiedzialności, danych albo wymagań | Owner ryzyka i zgodności | Rejestr kontroli, Evidence Pack i arkusz TCO |
| Koszt błędu | Weryfikację, korektę, eskalację, ręczną obsługę i skutek biznesowy | Błędna odpowiedź, brak odpowiedzi, zły kontekst lub niewłaściwe użycie | Owner procesu biznesowego | Rejestr incydentów, dane procesu i arkusz TCO |
Otwórz GenAI TCO worksheet i wpisz własne założenia
Arkusz nie oblicza ceny ani nie pokazuje stawek Semitory. Porządkuje własne założenia organizacji i źródła, które trzeba potwierdzić.
Pętla przeglądu kosztu i jakości
Budżet GenAI nie powinien powstawać raz, a potem żyć osobno od systemu. Zmiana modelu może wpłynąć na zużycie i jakość. Aktualizacja wiedzy może zmienić wyniki wyszukiwania. Nowy typ pytania może ujawnić brak w zbiorze ewaluacyjnym. Każde z tych zdarzeń powinno wrócić do wspólnego przeglądu kosztu, jakości i ryzyka.
Praktyczna pętla zaczyna się od obserwacji. Zespół zbiera sygnały z telemetrii, ewaluacji, zgłoszeń i danych procesu. Następnie wspólnie interpretuje zmianę: czy to problem modelu, danych, interfejsu, reguł biznesowych, czy sposobu użycia. Decyzja może oznaczać poprawkę, ograniczenie funkcji, dodatkową kontrolę albo pozostawienie systemu bez zmian.
Po wdrożeniu decyzji wracamy do pomiaru. Ważny jest zapis przyczyny i ownera, nie ceremonialne spotkanie. Jeżeli właściciel kosztu nie rozmawia z właścicielem jakości, optymalizacja może tylko przenieść pracę do ręcznej obsługi. Jeżeli właściciel jakości nie widzi kosztu błędu, kryteria mogą nie odpowiadać wadze procesu.
Sposób projektowania mierzalnej jakości opisujemy szerzej w materiale ewaluacja RAG: jak mierzyć jakość. Dla systemów objętych silniejszym nadzorem przydatne jest też podejście z artykułu AI governance dla branż regulowanych.
Jak czytać dowód z mojApteczki
Ten sam operacyjny snapshot pokazał, że produkcyjna baza wiedzy mojApteczki zawierała 302 516 rekordów interakcji lekowych. Ten fakt mówi o zakresie warstwy wiedzy w opisanym systemie. Nie mówi, ile rekordów potrzebuje inna organizacja, nie wyznacza ceny przygotowania danych i nie jest benchmarkiem dla odmiennego zastosowania.
Tak samo należy czytać koszt skanu: jako obserwację o jawnej granicy, a nie obietnicę dla każdego wdrożenia. Źródło, metoda, środowisko i definicja jednostki powinny pozostać razem z wynikiem. Bez nich precyzyjna liczba staje się podatna na niewłaściwe użycie.
Wcześniejszą metrykę ekstrakcji wycofaliśmy, ponieważ nie była reprodukowalna: publiczny materiał nie zachował artefaktu potrzebnego do odtworzenia metody i wyniku. Nie zastępujemy jej szacunkiem ani nową liczbą. To świadoma granica dowodu. Szczegóły systemu i metodologii są opisane w studium mojApteczki.
Dobra publikacja metryki mówi również, czego wynik nie dowodzi. Koszt inferencji nie potwierdza poprawności ekstrakcji. Wielkość bazy wiedzy nie potwierdza kompletności odpowiedzi. Do tych pytań potrzebne są osobne kryteria, ewaluacje i zapis ograniczeń.
Jak przygotować decyzję budżetową
Zacznij od procesu, nie od cennika modelu. Nazwij decyzję lub czynność, którą wspiera system, oraz moment, w którym wynik przejmuje człowiek albo inny komponent. Ustal, co jest akceptowalnym wynikiem, co wymaga eskalacji i kto może zatrzymać działanie.
Następnie narysuj przepływ danych. Zapisz źródła, ownerów, zasady dostępu i sposób aktualizacji. Oddziel dane używane do odpowiedzi od danych potrzebnych do ewaluacji. Dzięki temu koszt przygotowania wiedzy nie znika w ogólnym worku „integracje”.
Potem przypisz każdą warstwę TCO do dowodu. Inferencja powinna mieć telemetrię, dane powinny mieć rejestr źródeł, jakość powinna mieć wyniki ewaluacji, a decyzje governance powinny mieć ślad akceptacji. Na końcu wpisz założenia do arkusza i oznacz te, których organizacja jeszcze nie potrafi potwierdzić.
Jeśli porównujesz ofertę prostego interfejsu z utrzymywanym systemem produkcyjnym, pomocny będzie przewodnik ile kosztuje agent AI i RAG. Zamiast uniwersalnej wyceny pokazuje elementy zakresu, które trzeba sprawdzić, aby oferty rzeczywiście dotyczyły tego samego rezultatu.
Optymalizacja kosztów AI: jak obniżać koszt GenAI bez utraty jakości
Koszt obniża się przez zmianę architektury i sposobu pracy, a nie przez przenoszenie stawki z innego systemu. Zespół może dobrać model do trudności zadania, ograniczyć zbędny kontekst, ponownie wykorzystywać bezpiecznie przygotowane wyniki, grupować powtarzalne operacje i poprawić wyszukiwanie w RAG. Każdą zmianę trzeba ocenić razem z jakością, bo pozorna oszczędność może przenieść pracę do ręcznej weryfikacji.
Najpierw wybierz sygnał jakości, którego nie wolno pogorszyć. Potem zmień jeden element przepływu i porównaj wynik na tym samym zbiorze ewaluacyjnym. System produkcyjny, na którym wypracowaliśmy to podejście, opisujemy w realizacjach Semitory. Case study dokumentuje kontekst systemu i metodologię; nie publikuje stawki ani odtwarzalnego benchmarku przed i po zmianie dla innego wdrożenia.
Najczęstsze pułapki w kalkulacji
Mieszanie kosztu modelu z kosztem produktu. Jedna pozycja nie może jednocześnie oznaczać wywołania modelu, integracji, utrzymania i odpowiedzialności operacyjnej. Rozdziel warstwy, nawet jeśli część obsługuje ten sam dostawca.
Brak właściciela założenia. Założenie bez ownera szybko traci aktualność. W tabeli TCO każda pozycja powinna wskazywać osobę lub rolę, która potrafi wyjaśnić źródło i zaakceptować zmianę.
Optymalizacja bez kontroli jakości. Tańsze wykonanie nie jest poprawą, jeżeli zwiększa liczbę spraw kierowanych do ręcznej weryfikacji albo pogarsza decyzję użytkownika. Koszt i jakość trzeba przeglądać razem.
Ukrycie pracy operacyjnej. Obsługa wyjątków, aktualizacja wiedzy i analiza incydentów bywają traktowane jako „bieżąca praca”. To nadal koszt systemu i powinien znaleźć się w modelu odpowiedzialności.
Przenoszenie metryki między zastosowaniami. Dowód z mojApteczki pomaga pokazać sposób raportowania. Nie zastępuje pomiaru dla innego procesu, danych i poziomu ryzyka.
FAQ: koszt GenAI na produkcji
Czy 0,0006 USD to pełny koszt skanu w aplikacji?
Nie. To koszt warstwy inferencji dla opisanego skanu AI. Nie obejmuje budowy aplikacji, przygotowania danych, przechowywania ani transferu, monitoringu, ewaluacji oraz pracy zespołu i pracy operacyjnej.
Co powinno wejść do TCO systemu GenAI?
TCO powinno objąć inferencję, dane i wiedzę, ewaluacje, monitoring, governance i zgodność oraz koszt błędu. Własny model może rozdzielić te obszary bardziej szczegółowo, ale nie powinien ich pomijać.
Dlaczego nie należy przenosić kosztu mojApteczki na inny use case?
Można go użyć jako przykładu dobrze ograniczonej metryki produkcyjnej. Nie należy traktować go jako stawki dla innego procesu. Własny koszt trzeba zmierzyć na własnej jednostce działania, modelu, danych i konfiguracji.
Dlaczego ewaluacje i monitoring są osobnymi warstwami?
Ewaluacje sprawdzają zachowanie systemu wobec zdefiniowanych przypadków i kryteriów. Monitoring obserwuje działanie w produkcji oraz sygnały, których zespół nie przewidział w zbiorze testowym. Te praktyki się uzupełniają, ale odpowiadają na inne pytania.
Jak zacząć kalkulację bez pełnych danych?
Zapisz granice systemu, warstwy kosztu, ownerów i źródła danych. Brakujące wartości oznacz jako założenia do potwierdzenia, zamiast wypełniać je branżowym szacunkiem. Arkusz TCO pomaga utrzymać ten porządek.
Następny krok
Jeśli masz proces, który ma przejść z pilotażu do produkcji, możemy wspólnie ustalić granice systemu, właścicieli i dowody potrzebne do decyzji. Zaczynamy od zakresu, jakości danych, ryzyka i sposobu utrzymania, nie od obietnicy ceny.