Build Anything with Kimi K3, Here's How

2026-07-24 David Ondrej AI zagraniczne tutorial waga 3/5 18 min czytania

Praktyczny przegląd modelu Kimi K3: gdzie bije modele zamknięte, jak liczyć koszt na zadanie i jak uruchomić go w Kimi Code, Claude Code czy Codex — dla osób budujących z AI.

Robocza publikacja redakcyjna na podstawie publicznego transkryptu YouTube. Źródło: YouTube.

O czym jest ten film

  1. Kimi K3 to nowy model open-source od chińskiego Moonshot AI, który na wielu benchmarkach dorównuje najlepszym modelom zamkniętym, a na części je wyprzedza.
  2. Autor twierdzi, że prawdziwa oś sporu to nie „Chiny kontra Ameryka”, lecz open-source kontra closed-source — i że po raz pierwszy model otwarty realnie wygrywa.
  3. Kluczowa metryka kosztu to nie cena za tokeny, lecz koszt wykonania całego zadania (cost per task).
  4. Rekomendacja: routing po zadaniach — używać Kimi tam, gdzie jest lepszy (front-end, 3D, prawo), a innych modeli tam, gdzie one wygrywają.
  5. Wzorzec oszczędny: duży, wolny model jako planista + mały, szybki model jako wykonawca — nawet 9–10× taniej.
  6. Techniczne źródła przewagi: „attention residuals” oraz Kimi Delta Attention (odmiana linear attention) dająca szybsze dekodowanie długiego kontekstu.
  7. Wagi modelu mają zostać opublikowane 27 lipca, co według autora uwolni falę dostawców inference.
  8. Plan self-hostingu: sprzęt za ok. 16–22 tys. USD pozwala uruchomić model wolno (5–10 tokenów/s) na własnych maszynach.
  9. Pokaz praktyczny: odtworzenie Blendera jako aplikacji webowej, przeprojektowanie landing page z „żywymi” licznikami oraz analiza prawna PDF-a.
  10. Uwaga: film jest sponsorowany przez zespół Kimi, a wiele „benchmarków” i nazw modeli pada w formie mocno marketingowej.

(Informacja dodatkowa: nazwy modeli w transkrypcie — „Fable 5”, „GPT 5.6 Soul”, „Claude 3” jako model otwarty, „Sonnet 5” itd. — to nazewnictwo z narracji autora osadzone w hipotetycznej przyszłości; transkrypt jest automatyczny, więc część nazw może być przekręcona i należy je traktować z ostrożnością.)

Redakcyjne tłumaczenie

Czym jest Kimi K3 i dlaczego autor uważa to za moment historyczny

Nazywam się David Andre i to jest wszystko, co musisz wiedzieć o Kimi K3. Zacznę wprost: Kimi K3 jest szalony. To nowy model AI od chińskiej firmy Moonshot AI i zdecydowanie najbardziej inteligentny model open-source na świecie — na wielu benchmarkach dorównuje najsilniejszym modelom zamkniętym, a na niektórych je nawet wyprzedza.

Weźmy Frontend Code Arena. To pierwszy raz w historii, gdy model otwarty jest lepszy niż jakikolwiek model zamknięty na świecie. I to jest sedno całej bitwy: open kontra closed. Musisz zrozumieć, że premiera Kimi K3 jest przedstawiana jako „Chiny kontra Ameryka”, ale to kompletne odwrócenie uwagi. Prawdziwa bitwa toczy się między AI otwartym a zamkniętym. I po raz pierwszy w historii mamy model otwarty, który miażdży i wyprzedza najlepsze modele zamknięte.

Wystarczy spojrzeć na benchmarki. Kimi K3 pokonuje modele zamknięte niemal do poziomu topowych rywali. Na SWE jest lepszy niż konkurencja, na Terminal Bench lepszy niż najdroższe modele, na Program Bench lepszy od wszystkiego, i tak samo na SWE Marathon.

W tym filmie wyjaśnię, dlaczego premiera Kimi K3 to moment historyczny, porównam go head-to-head z najlepszymi modelami zamkniętymi i pokażę, jak zacząć używać go już dziś w swoim ulubionym „harnessie” agentowym — w tym w Claude Code i Codex.

(Informacja dodatkowa: „harness” to tu środowisko/interfejs uruchamiający agenta kodującego — np. Claude Code, Codex czy Pi.)

Skala modelu i uwaga o sponsorowaniu

Duża część przewagi Kimi wynika z jego rozmiaru — to największy model open-source pod względem liczby parametrów, niemal dwukrotnie większy od wcześniejszego lidera open-source. Kimi K3 ma około 2,8 biliona parametrów.

Uczciwie zaznaczam: poprosiłem zespół Kimi o sponsoring tego filmu i zgodzili się. Jeśli chcesz budować na Kimi K3, warto korzystać z Kimi API — przy pierwszym zakupie kredytów nowi użytkownicy dostają dodatkowe 15% gratis.

(Informacja dodatkowa: to materiał sponsorowany — deklaracje o wyższości modelu warto weryfikować niezależnie.)

Kimi czy inny model? Odpowiedź to routing

Pytanie „Kimi czy model zamknięty?” zacznie zadawać wielu ludzi. Odpowiedź brzmi: powinieneś używać obu. Fireworks AI przebadało ponad 1000 różnych zadań agentowych i okazało się, że najlepszą wydajność zawsze daje routing per zadanie. Do zadań, w których Kimi K3 jest lepszy — front-end, 3D, prawo — używaj Kimi. Do zadań, w których lepszy jest model zamknięty, używaj tego drugiego.

Najlepsza możliwa odpowiedź dla dowolnego typu pracy to: użyj modelu, który wypada najlepiej na testach i benchmarkach dla tego konkretnego zadania. Robisz pracę prawniczą? Bierz Kimi K3 — według wykresów z Harvey jest znakomity w pytaniach i konsultacjach prawnych.

Co Kimi potrafi na froncie i w 3D

Jeśli zastanawiasz się, co Kimi potrafi na froncie — spójrz na to. To cały system operacyjny w stylu macOS zbudowany przez Kimi. I on działa: foldery działają, jest pasek przewijania, widok listy. Jeszcze niedawno testowaliśmy modele na prostych one-shotach i prostych projektach front-endowych. Teraz budują całe systemy operacyjne, żebyśmy mogli porównać, który model jest lepszy.

Wpływ Kimi widać po reakcjach konkurencyjnych laboratoriów. Autor argumentuje, że presja bierze się głównie z ceny: otwarty model porównywalnej jakości bywa kilkukrotnie tańszy od najdroższych modeli zamkniętych. A ponieważ jest otwarty, po publikacji wag (zapowiadanej na 27 lipca) w ciągu kilku dni pojawi się ponad 20 różnych dostawców inference — jedni z szybszym, droższym uruchamianiem, inni z wolniejszym i bardzo tanim. Tego nie da się osiągnąć z modelami zamkniętymi, hostowanymi tylko przez wybranych dostawców.

Koszt na zadanie, nie cena za tokeny

Gdy mówimy o cenie, wszyscy patrzą na tokeny wejściowe i wyjściowe. To ważne, ale znacznie ważniejszy jest rzeczywisty koszt wykonania zadania.

Przykład: Deep SWE, jeden z najgłośniejszych benchmarków. Weźmy model średniej półki cenowej — na papierze tańszy od modeli premium. Wydawałoby się, że taniej wykona zadanie. Ale gdy spojrzymy na koszt na zadanie, okazuje się on jednym z najdroższych. Dlaczego? Bo żeby ukończyć to samo zadanie — tu benchmark na poziomie 54% skuteczności — potrzebuje znacznie więcej przebiegów i tur.

To jak z Elonem Muskiem: powiedz mu „zbuduj firmę wartą milion dolarów”, a zajmie mu to jeden telefon i mniej niż godzinę. Daj to samo zadanie przypadkowej osobie z ulicy — nie zrobi tego przez całe życie. To jest ta cena, która się liczy: koszt na zadanie.

Inny przykład — porównanie z modelem podobnej jakości. Dla sceny 3D (Londyn) Kimi K3 ma więcej detali, ładniejszą rzekę i budynki, i zrobił to za mniej niż połowę kosztu. Zadanie zostało ukończone, a Kimi kosztował znacznie mniej.

Kimi K3 jest według autora najlepszy na świecie nie tylko w projektowaniu i kodowaniu front-endu, ale też w projektowaniu 3D — modelowaniu, obiektach, animacjach. Przykłady: aplikacja webowa z animowanym obiektem 3D, czarna dziura, którą można przeciągać i przybliżać.

Jak używać Kimi: planista plus wykonawca

Jak faktycznie używać Kimi? Cursor przeprowadził eksperyment: różne zespoły agentów odtwarzały SQLite z 835-stronicowego podręcznika. Znów pamiętaj o koszcie na zadanie — to jasne zadanie z jasnym celem końcowym. Testowano jeden model jako planistę i drugi jako wykonawcę.

Najdroższe było użycie samego topowego modelu do wszystkiego. Ale zestaw „mocny planista + szybki wykonawca” osiągnął ten sam wynik — odtworzenie SQLite — za około 9–10 razy mniej niż użycie samego drogiego modelu.

Jeśli chcesz wycisnąć z Kimi maksimum, używaj go jako planisty z szybszym modelem jako wykonawcą. Świetnym, bardzo tanim połączeniem jest Kimi K3 jako planista i mniejszy, tańszy model kodujący jako wykonawca. Duży, wolny model planuje, mały model wykonuje jego kroki — i masz ten sam efekt 9–10× taniej. Tak trzeba być efektywnym z tokenami.

Dlaczego Kimi K3 jest tak wydajny — attention residuals

Trzeba zrozumieć, że każdy model AI to trochę linia montażowa. Twoje prompty przechodzą przez setki „stacji” zwanych warstwami (warstwy uwagi), z których każda dokłada swój kawałek pracy. Zwykle każda warstwa wrzuca swój efekt do jednego wspólnego brudnopisu, gdzie miesza się on ze wszystkim, co było wcześniej. Gdy dochodzimy do setnej czy tysięcznej warstwy, pojedyncza cenna informacja jest kroplą w oceanie — model nie „słyszy” wyraźnie ważnej pracy sprzed wielu warstw.

Rozwiązaniem są attention residuals. Kimi ustalił, że można trzymać pracę każdej warstwy osobno i pozwolić każdej nowej warstwie użyć mechanizmu uwagi, by wybrać, które wcześniejsze wyniki są istotne. Dzięki temu wgląd z warstwy piątej może dotrzeć do warstwy setnej w całości — bo jest pobierany bezpośrednio, a nie wyławiany z mieszaniny setek innych.

Efekt: model trenuje tak, jakby dostał 25% więcej mocy obliczeniowej przy mniej niż 2% dodatkowej latencji — ogromny zysk w czasach, gdy wszyscy są ograniczeni mocą obliczeniową.

Czy da się uruchomić Kimi K3 w domu?

Wielu z was myśli: „Ale David, czy naprawdę mogę uruchomić Kimi K3 w domu?”. Jak pokazuje krążący mem — potrzebujesz sporo mocy. To duży model, 2,8 biliona parametrów; żeby chodził szybko, będzie bardzo drogo.

Najpierw trzeba poczekać do 27 lipca, gdy zostaną opublikowane wagi. Pierwsza rada: kup dysk (SSD lub inny) na co najmniej 3–4 TB, wydaj około 50 dolarów i od razu 27-go pobierz wagi z Hugging Face oraz zrób backup. Autor twierdzi, że rząd USA przygotowuje się do zablokowania modelu, więc radzi pobrać wagi natychmiast.

(Informacja dodatkowa: to teza autora podana bez twardych źródeł — traktuj ją jako opinię, nie fakt.)

Prawdziwy problem to szybkość. Do wygodnego użycia potrzebujesz około 50 tokenów na sekundę — a to oznacza porządny serwer z ośmioma akceleratorami klasy data-center i ok. 2,3 TB pamięci HBM, co kosztuje 300–400 tys. dolarów. Ale to znowu odwrócenie uwagi. Nie potrzebujesz 50 tokenów na sekundę. Model możesz uruchamiać na noc.

Nie chodzi o to, by zastąpić 100% użycia modelami self-hosted open-source. Cel jest inny: nie oddawać wszystkich pieniędzy zamkniętym firmom chmurowym.

Są dwie osie myślenia: open-source kontra closed-source oraz self-hosted kontra cloud-hosted. Idealnie 100% twoich tokenów byłoby self-hosted i open-source, na sprzęcie, który w pełni posiadasz. Ale to nierealistyczne. Budując oprogramowanie i robiąc ważną pracę, nadal będziesz potrzebował modeli w chmurze, chodzących w centrum danych z prędkością 50–150 tokenów na sekundę — a te bywają zamknięte.

Chodzi więc o przesuwanie: z 100% wydatków na tokeny w rogu „zamknięte + chmura” zacznij przenosić 10%, 20%, 30% miesięcznego budżetu do rogu „otwarte + własny sprzęt”. Dla wielu zastosowań nie potrzebujesz 50 tokenów na sekundę — 5 do 10 w zupełności wystarczy, by kolejkować zadania, przygotować pracę w ciągu dnia i puścić ją na noc na własnym sprzęcie.

Można to zrobić za mniej niż 22 tys. dolarów, zależnie od miejsca zamieszkania. Autor po researchu z różnymi modelami podaje rozrzut: jeden model wyceniał to na ok. 48 tys., inny optymistycznie na 12–15 tys. (ale to przy bardzo szczęśliwych cenach likwidacyjnych). Realistyczny, powtarzalny koszt to 16–22 tys. USD, by self-hostować Kimi K3 chodzącego wolno, 5–10 tokenów na sekundę.

Autor deklaruje własny plan: zainwestować około 30 tys. dolarów w sprzęt, by uruchamiać najlepsze i najnowsze modele open-source lokalnie — wolno, ale tak, by żaden rząd ani wielka firma nie mogły mu ich odebrać.

Kolejne benchmarki: przeglądanie sieci i projektowanie chipów

Na benchmarku typu „Browse/Outcomp” Kimi osiąga najlepszy wynik ze wszystkich modeli — przy jednym z najniższych kosztów. Oś X to koszt na zadanie w dolarach, oś Y to wynik; Kimi ma najwyższy wynik przy jednym z najniższych wydatków. To właśnie dlatego autor uważa koszt na zadanie za główną miarę.

Kimi jest też, według autora, świetny w projektowaniu chipów. Model zaprojektował własny chip do uruchomienia innego modelu na swojej architekturze, a w ciągu 48-godzinnego przebiegu nie tylko go zbudował i zoptymalizował, ale i zweryfikował narzędziami open-source. Najważniejsze: wynik działa — „timing się domyka”, a chip dekoduje tokeny w symulacji.

Zakazany skrót: linear attention i Kimi Delta Attention

Od lat laboratoria znają skrót, który radykalnie przyspiesza modele: linear attention. To sposób przetwarzania kontekstu, w którym pamięć ma stały rozmiar zamiast rosnącego. Problem w tym, że skompresowana pamięć słabo odtwarza precyzyjne szczegóły — dlatego ta metoda zwykle poświęcała jakość.

Moonshot AI to rozwiązało. Zastosowali Kimi Delta Attention (KDA) — lepszy sposób zarządzania tą małą pamięcią — który jest do 6,3× szybszy w dekodowaniu przy kontekście miliona tokenów. Gdy nowa informacja przeczy czemuś już zapisanemu, KDA nadpisuje stary wpis zamiast dokładać kolejne. Nie postawili jednak wyłącznie na to: mają trzy szybkie warstwy z KDA i jedną pełną warstwę uwagi o idealnym odtwarzaniu.

Takie wyniki badawcze tłumaczą, dlaczego Kimi K3 jest tak mocny, mimo że Moonshot ma znacznie mniej mocy obliczeniowej i mniej badaczy niż największe amerykańskie firmy.

Jak zacząć budować z Kimi K3

Najłatwiejszy sposób to Kimi Code — ich własny agent kodujący, konkurencja dla Claude Code. Instalacja: wejdź w Google, wpisz „Kimi code”, kliknij pierwszy link i skopiuj pojedynczą komendę curl, którą wklejasz w terminalu.

Autor przygotował też skill „Kimi on” (drugi link pod filmem), który ustawia Kimi K3 jako domyślny w Claude Code, Codex, Pi i innych harnessach.

Do demonstracji autor używa harnessu Pi — chwali go za elastyczność, elegancję, minimalizm i to, że jest niezależny od modelu (można podpiąć Kimi K3 przez OpenRouter lub innego dostawcę). Po 27 lipca, gdy wagi będą otwarte, spodziewa się eksplozji dostawców inference.

Zadanie 1 (3D): „Twoim zadaniem jest odtworzyć Blender, oprogramowanie do modelowania 3D, ale jako aplikację webową.” Prosty prompt zwykłym językiem, wysłany z wysokim wysiłkiem rozumowania.

Zadanie 2 (front-end): przebudować stronę rekrutacyjną tak, by liczby (obserwujący z YouTube i Twittera) były pobierane na żywo, zamiast być zakodowane na sztywno — plus pełne przeprojektowanie strony na poziomie światowej klasy projektanta. Do pobrania danych model ma użyć zewnętrznego API.

Po zakończeniu budowy klon Blendera powstał za około 1,3 dolara. Autor każe agentowi uruchomić front-end i otworzyć go w nowej karcie przeglądarki. Aplikacja przypomina Blender: jest sześcian, skalowanie działa, są skróty G (przesuwanie), R (obrót), S (skala), tryb obiektu i tryb edycji. Nie ma wszystkich ustawień, ale podstawy są solidne — a przy większej ilości czasu dałoby się dodać resztę.

Autor podkreśla, że najważniejsza jest dziś umiejętność architektury oprogramowania i prowadzenia modeli, a nie pamiętanie składni. Potrzebujesz kompetencji menedżera developerów albo CTO: umieć dzielić pracę, pilnować, by szła w dobrą stronę, i szybko oraz sprawnie sprawdzać jakość przy ograniczonym czasie. Z Kimi K3 to trochę jak zarządzanie dziesięcioma seniorami zamiast dziesięcioma juniorami.

(Informacja dodatkowa: „Yolo mode” to tryb, w którym agent wykonuje działania bez proszenia o zatwierdzanie każdego kroku.)

Strona rekrutacyjna po przebudowie ma czyste, ładne animacje i lepszy design; „żywe” liczniki działają. Autor daje prostą informację zwrotną (usuń zduplikowane liczby), dołączając zrzut ekranu.

Przy okazji: obecnie jedynym dostawcą jest platforma Kimi (na OpenRouter widoczny tylko Moonshot AI), ale to zmieni się po publikacji wag. Moonshot ma świetny uptime — lepszy niż u dużych zachodnich dostawców. To główna zaleta modeli otwartych: każdy może uruchomić inference, pobrać wagi, wymyślić lepsze sposoby uruchamiania i dostrajać model.

Kimi Code i subskrypcja

Po instalacji wystarczy w nowym terminalu wpisać kimi. Kimi Code proponuje migrację danych i sesji. Logowanie: /login — do wyboru konto Kimi Code lub platforma Kimi (klucz API). Autor zaznacza, że subskrypcje były wstrzymane z powodu ogromnego popytu po premierze Kimi K3 (Moonshot ma znacznie mniej mocy obliczeniowej niż firmy amerykańskie), więc radzi wykupić ją, póki jest dostępna, bo daje więcej wartości niż odpowiedniki konkurencji.

Konfiguracja API: wybierz „API key”, wskaż platformę, wklej klucz utworzony w panelu (API keys → create). Traktuj klucze jak hasła — nie udostępniaj ich. Następnie wybierz model Kimi K3 i ustaw wysiłek komendą /effort (low, high, max). Kimi Code ma też zaplanowane zadania — np. „przypomnij mi o 17:00”.

Test prawny: pozew Apple kontra OpenAI

Zamiast kolejnego zadania kodującego autor robi coś nietypowego — test prawny, bo Kimi jest według niego najlepszym modelem na świecie do zadań prawnych, i to ze sporą przewagą. Powołuje się na benchmark z laboratorium Harvey: najlepszy model zamknięty osiąga ok. 14,2% i jest drugim wynikiem na świecie, kolejny rywal ma 13,3%, a Kimi K3 — 26,7%, czyli mniej więcej dwukrotność najlepszego modelu zamkniętego.

Zadanie: znajdź w folderze PDF dotyczący sporu Apple kontra OpenAI, przeczytaj go w całości strona po stronie i powiedz, która strona ma mocniejszą sprawę oraz jakie jest prawdopodobieństwo wygranej Apple — krótko, zwykłym językiem. Autor przyznaje, że niemal wszystkie prompty kończy zwrotem „odpowiedz krótko, prostym językiem”.

Sesja nie działa w trybie Yolo, więc trzeba zatwierdzać działania. Równolegle druga sesja Kimi używa zewnętrznego API, by sprawdzić w sieci, jak uruchomić Kimi Code w trybie Yolo. Autor wspomina przy okazji własny projekt Deep API — pojedynczy klucz API mający „robić wszystko” — do którego wpuszcza pierwsze osoby.

Wynik: model przeczytał ok. 400 stron i orzekł, że Apple ma wyraźnie mocniejszą sprawę — z zastrzeżeniem, że dokument jest napisany ze strony Apple, więc jest stronniczy. Jeśli wiadomości i logi są prawdziwe, szansę Apple na istotną wygraną model szacuje na ok. 70–75%, a najbardziej prawdopodobny scenariusz to ugoda lub rozstrzygnięcie wobec osób fizycznych, a nie pełny proces.

Autor dodaje praktyczny wniosek: przy przeprowadzce, podpisywaniu umowy najmu mieszkania albo biura — daj Kimi K3 sprawdzić kontrakt, żeby druga strona cię nie oszukała. Do takich zadań prawnych to obecnie najlepszy model na świecie, i to ze znaczną przewagą.

Zakończenie

To był przegląd Kimi K3. Autor dziękuje zespołowi Kimi za sponsoring. Zachęca do korzystania z Kimi API (nowi użytkownicy dostają 15% dodatkowych kredytów) oraz z darmowego skilla, który ustawi Kimi K3 w dowolnym harnessie agentowym — Codex, Claude Code, Pi i innych.

10 najważniejszych takeaways — z kontekstem zastosowania

1.Licz koszt na zadanie, nie cenę za tokeny

Na czym polega: Rzeczywisty koszt użycia modelu to nie stawka za milion tokenów, lecz ile kosztuje ukończenie całego zadania — a to zależy od liczby przebiegów i tur, jakie model potrzebuje.

Jak stosować: Porównując modele do konkretnego procesu (np. naprawa błędu, generowanie strony), zmierz pełny koszt wykonania na próbce realnych zadań, a nie tylko cennik. Tańszy w przeliczeniu na tokeny model bywa droższy całościowo.

Na co uważać: Benchmarki „cost per task” z filmu pochodzą od zainteresowanych stron i materiał jest sponsorowany — zrób własny pomiar na swoich zadaniach, zanim podejmiesz decyzję budżetową.

2.Routing per zadanie zamiast jednego modelu do wszystkiego

Na czym polega: Najlepszą łączną skuteczność daje kierowanie każdego zadania do modelu, który wypada na nim najlepiej — front-end, 3D i prawo do Kimi, inne zadania do innych modeli.

Jak stosować: Zbuduj prostą mapę „typ zadania → model” opartą na benchmarkach i własnych testach, i wpinaj ją w harness lub warstwę routingu.

Na co uważać: Ranking modeli szybko się zmienia; mapa routingu musi być regularnie odświeżana, inaczej utrwalisz nieaktualne wybory.

3.Wzorzec „duży planista + mały wykonawca”

Na czym polega: Mocny, wolny model planuje i dzieli pracę, a mały, szybki i tani model wykonuje kroki — co potrafi obniżyć koszt 9–10× przy tym samym efekcie.

Jak stosować: Do zadań o jasnym celu końcowym (odtworzenie znanego API, migracja) rozdziel role: jeden model tworzy plan i kryteria, drugi realizuje kolejne kroki.

Na co uważać: Wzorzec działa najlepiej przy dobrze zdefiniowanym zadaniu; przy niejasnych, eksploracyjnych problemach słaby wykonawca może mnożyć błędy, których planista nie wychwyci.

4.Otwarte wagi zmieniają rynek inference

Na czym polega: Po publikacji wag pojawia się wielu dostawców inference o różnym profilu prędkości i ceny, czego nie da się osiągnąć przy modelach zamkniętych hostowanych przez nielicznych.

Jak stosować: Jeśli zależy ci na elastyczności ceny i niezależności od jednego dostawcy, planuj architekturę tak, by móc przełączać providerów tego samego otwartego modelu.

Na co uważać: Sama otwartość wag nie gwarantuje jakości ani stabilności danego dostawcy — weryfikuj uptime, latencję i zgodność API u każdego z osobna.

5.Przesuwaj część wydatków w stronę self-hosted open-source

Na czym polega: Zamiast wszystko liczyć w chmurze na modelach zamkniętych, autor proponuje stopniowe przenoszenie 10–30% budżetu tokenów na własny sprzęt i modele otwarte.

Jak stosować: Zidentyfikuj zadania niewymagające szybkości (praca wsadowa, nocne kolejki) i tam testuj self-hosting; resztę zostaw w chmurze.

Na co uważać: Cel „100% lokalnie” jest nierealistyczny — do ważnej, interaktywnej pracy nadal potrzebujesz szybkich modeli chmurowych; nie planuj pełnego odcięcia od chmury.

6.Do wielu zastosowań wystarczy 5–10 tokenów na sekundę

Na czym polega: Nie potrzebujesz drogiego sprzętu na 50 tokenów/s; wolne uruchamianie 5–10 tokenów/s wystarcza, by kolejkować zadania i puszczać je na noc.

Jak stosować: Przygotuj pracę w ciągu dnia (prompty, dane, kryteria) i uruchamiaj ją wsadowo w godzinach, gdy prędkość nie ma znaczenia.

Na co uważać: Ten model pracy wyklucza zadania interaktywne i pilne; wymaga też dyscypliny w przygotowaniu wsadu, bo błąd w promptcie kosztuje całą noc przebiegu.

7.Realistyczny koszt self-hostingu Kimi K3 to 16–22 tys. USD

Na czym polega: Autor po researchu podaje, że powtarzalny koszt sprzętu do wolnego self-hostingu tego modelu to 16–22 tys. dolarów, a szybki serwer klasy data-center to 300–400 tys.

Jak stosować: Jeśli rozważasz lokalne uruchamianie dużych modeli, użyj tych widełek jako punktu wyjścia i policz zwrot względem miesięcznych rachunków chmurowych.

Na co uważać: Liczby pochodzą z szacunków modeli AI i zależą od cen sprzętu w twoim regionie; niższe kwoty dotyczą „szczęśliwych” cen likwidacyjnych, więc nie traktuj ich jako gwarantowanych.

8.Zabezpiecz wagi zaraz po publikacji

Na czym polega: Autor radzi kupić dysk 3–4 TB i natychmiast po publikacji wag (27 lipca) pobrać je z Hugging Face oraz zrobić backup, obawiając się przyszłych ograniczeń dostępu.

Jak stosować: Jeśli planujesz self-hosting lub długoterminową niezależność, pobierz i zarchiwizuj wagi wcześnie, póki są łatwo dostępne.

Na co uważać: Teza o rychłym zakazie jest opinią autora bez twardych źródeł; sprawdź też licencję modelu — nie każde „otwarte” wagi pozwalają na dowolne komercyjne użycie.

9.Do zadań prawnych warto rozważyć wyspecjalizowany model

Na czym polega: Na benchmarku Harvey Kimi K3 osiąga ok. 26,7% wobec ~14% najlepszego modelu zamkniętego, co autor pokazuje na przykładzie analizy 400-stronicowego pozwu.

Jak stosować: Umowy najmu, kontrakty biurowe czy wstępny research prawny możesz oddać modelowi do przejrzenia „strona po stronie” i poprosić o krótką ocenę zwykłym językiem.

Na co uważać: Model odtwarza stronniczość dokumentu (analiza była napisana ze strony jednej firmy) i nie zastępuje prawnika — jego szacunki prawdopodobieństwa to sugestie, nie porada prawna.

10.Kluczowa kompetencja to architektura i prowadzenie modeli, nie składnia

Na czym polega: Przy zdolnych agentach wartość przenosi się z pamiętania składni na umiejętność dzielenia pracy, definiowania zadań i szybkiej kontroli jakości — jak menedżer developerów czy CTO.

Jak stosować: Ćwicz precyzyjne formułowanie zadań, rozbijanie ich na kroki oraz szybkie metody weryfikacji wyników; deleguj agentom także zadania okołosystemowe (otwarcie plików, uruchomienie serwera, ustawienia).

Na co uważać: „Szybka kontrola jakości” bywa złudna — im więcej robi agent, tym łatwiej przeoczyć subtelny błąd; ustal jasne kryteria akceptacji, zanim uznasz zadanie za ukończone.