Ile zaoszczędzisz na AI — technika po technice

Zejście z Twoich iteracji do 1,5 na zadanie. Każda unikniona iteracja to 4 minuty (napisać, poczekać, przeczytać, poprawić) — wycenione Twoją stawką. To zwykle największa pozycja i jedyna, która dotyczy też osób na abonamencie.

Ok. 60% typowego ruchu to zadania rutynowe (ekstrakcja, klasyfikacja, formatowanie), które model klasy small robi nieodróżnialnie — za ułamek ceny. Liczone jako różnica między Twoim modelem a GPT-4o mini na tej części ruchu.

Ograniczenie odpowiedzi z typowych 800 do 300 tokenów. Tokeny wyjścia są 4–5× droższe od wejściowych, więc to jedno zdanie w prompcie („maks. 300 słów”) działa na najdroższej pozycji rachunku.

Typowo ok. 60% wklejanego kontekstu to materiał, którego model nie potrzebuje do odpowiedzi na zadane pytanie — a płacisz za niego w każdym wywołaniu. Cięcie poprawia przy tym jakość, bo nadmiar rozprasza model.