O czym jest ten film
- Autor kupił własnoręcznie skonfigurowany komputer z kartą RTX 5090, żeby uruchamiać modele AI lokalnie, u siebie, bez chmury.
- Wyjaśnia, dlaczego gotowy zestaw okazał się tańszy niż samodzielny montaż i dlaczego wybrał wersję bez podświetlenia RGB oraz z wieloma wolno kręcącymi się wentylatorami dla ciszy.
- Jako system operacyjny wybrał MX Linux — nie dla funkcji, lecz z powodów światopoglądowych (Debian, projekt społecznościowy, niezależność od korporacji).
- Instalacja nie była bezbolesna: sterowniki Nvidii, rozpoznanie sprzętu i konfiguracja modelu wymagały pracy, którą rozwiązywał z pomocą asystenta Hermes podłączonego do modelu chmurowego.
- Na maszynie uruchamia lokalnie model Qwen 3.6 27B w kwantyzacji 6-bitowej, osiągając ok. 100–110 tokenów na sekundę.
- Napisał własne narzędzie, które pokazuje status serwera modelu i pozwala go wyłączać, gdy karta graficzna jest potrzebna do montażu wideo w DaVinci Resolve.
- Pracuje w trybie hybrydowym: 80–85% zadań robi model lokalny, a trudniejsze przypadki oddaje tańszemu modelowi chmurowemu (GPT 5.6 Luna, a w ostateczności Soul).
- Posiada też ASUS GX10 (128 GB pamięci zunifikowanej) jako maszynę do większych modeli, wielu instancji i pod-agentów.
- Argumentuje za „suwerennością AI” — niezależnością od dużych korporacji — przyznając, że to droga kosztowna i niełatwa.
- Zachęca, by zacząć od małego: nawet telefon albo posiadany komputer uruchomi przydatny model (np. przez darmowe LM Studio).
Redakcyjne tłumaczenie
Po co mi nowy komputer
Musimy porozmawiać o lokalnej AI — a także o sprzęcie, którego ona wymaga, i o cenach tego sprzętu, bo dzieją się tu rzeczy wręcz szalone. Kupiłem nowy komputer i dziś go rozpakuję, pokażę, dlaczego się na niego zdecydowałem, co jest w środku i dlaczego być może i tobie taki się przyda.
To komputer składany na zamówienie — sam dobrałem podzespoły. Postawiłem na coś, co nie jest ani małe, ani przesadnie ekstremalne, bo potrzebuję go do konkretnego celu: uruchamiania lokalnej AI. Gdyby nie AI, w ogóle bym go nie kupował. Skoro jednak już go biorę, muszę pomyśleć, co jeszcze da się na nim robić — nagrywam te filmy i chciałbym zacząć trochę montować. Montaż spokojnie zrobię na Macu mini M4 z 32 GB RAM-u, ale na mocniejszej maszynie pójdzie jeszcze lepiej. Uznałem więc, że warto znaleźć coś sensownego.
Dlaczego gotowy zestaw, a nie własny montaż
Dlaczego nie złożyłem go sam? Bo — choć brzmi to absurdalnie — wyszłoby drożej. Sam bym to uwielbiał zrobić, ale kosztowałoby mnie to jakieś 2000 dolarów więcej. To właśnie ta szalona część tej historii — trafiłem na naprawdę dobrą ofertę.
Po otwarciu (a pudło było tak solidne, że przydałoby się pięć osób) widać całą magię w środku: chłodzenie wodne, trzy wentylatory z jednej strony, jeden z drugiej, trzy na górze i piękna karta RTX 5090. To dla niej kupiłem ten komputer i to na niej chcę uruchamiać jeden konkretny model.
Wybrałem wersję bez RGB, bez żadnych świecidełek. Po pierwsze, nie chcę tych rozpraszających świateł. Po drugie, komputer nie stanie na biurku na pokaz — będzie na podłodze. Zaletą tej obudowy jest bardzo dobra wentylacja, więc chodzi o naprawdę niski poziom hałasu. Nie lubię szumu wentylatorów, a matematyka jest prosta: więcej wentylatorów to więcej hałasu — ale ponieważ jest ich wiele, mogą kręcić się wolniej. A to prędkość, nie liczba wentylatorów, generuje hałas. Lepiej mieć kilka kręcących się wolno niż jeden pracujący na maksa.
Dlaczego Linux i dlaczego akurat MX Linux
Zamierzam używać tego komputera z Linuksem. Mam bowiem ogromny problem z Windowsem — nigdy nie kupiłbym peceta, gdybym musiał używać go z Windowsem, po prostu bym zrezygnował. Nie mam nic do ludzi, którzy z niego korzystają, to kwestia moja osobista. Ale skoro mogę użyć Linuksa, to jestem naprawdę zadowolony i podekscytowany.
Używałem już Linuksa w przeszłości, choć nie jestem ekspertem. Mam ASUS-a GX10 z własną wersją Ubuntu przygotowaną przez Nvidię, więc trochę tego liznąłem. Na tej maszynie zamierzam uruchomić MX Linux. Dlaczego akurat tę dystrybucję? Bo jest mi najbliższa światopoglądowo. Po pierwsze, opiera się na Debianie, który słynie ze stabilności — a maszyna do pracy przede wszystkim musi być stabilna. Po drugie, MX Linux tworzy społeczność, a nie firma. Uwielbiam tę ideę decentralizacji, projektu prowadzonego przez społeczność. To do mnie przemawia.
Będzie to wyzwanie, bo przychodzę z macOS-a — bardzo dobrego, stabilnego systemu z mnóstwem aplikacji i bez problemów. Odczuwam pewien niepokój: czy wszystko na Linuksie zadziała? Już wiem, że część mojego sprzętu nie ruszy — studio muzyczne zostaje na Macu mini. Ta maszyna posłuży do produkcji wideo, do AI i będzie moim głównym komputerem: do rozmów ze społecznością na Discordzie, do Zooma, do researchu — do wszystkiego. Chcę nauczyć się Linuksa, chcę nauczyć się z niego korzystać.
(Informacja dodatkowa: MX Linux to lekka, ceniona za stabilność dystrybucja Linuksa oparta na Debianie i rozwijana przez społeczność, bez firmy komercyjnej za sterami.)
Instalacja i rola asystenta Hermes
Kilka dni później wszystko już działa. Jestem zadowolony, choć muszę przyznać, że instalacja nie była ani gładka, ani bezstresowa — miałem sporo problemów. Jeśli myślisz o przejściu na Linuksa, niezależnie od dystrybucji, weź pod uwagę, że nie będzie to prościzna. Wiele zależy od oprogramowania i sprzętu, który musisz uruchomić. Ja mam mnóstwo sprzętu do podłączenia i złożone oprogramowanie do uruchomienia, więc dla mnie to nie była łatwa przesiadka.
Mój plan uważam za naprawdę dobry. Zainstalowałem MX Linux, a potem Hermes — bo Hermes potrafi rozwiązać każdy problem. Zamiast na siłę samodzielnie zmuszać kartę Nvidii do współpracy, walczyć ze sterownikami i szukać sposobu na instalację llama.cpp, poszedłem łatwiejszą drogą: dodałem Hermes, pobrałem go, podłączyłem do modelu chmurowego (w moim przypadku Minimax M3) i pozwoliłem Hermesowi rozgryźć resztę. Nie było łatwo, ale w końcu RTX 5090 zadziałał. Potem zainstalowałem swój model lokalny — trochę tarcia było przy znalezieniu właściwych ustawień, ale później działa naprawdę bardzo dobrze.
W artykule na Substacku (link w opisie) podzielę się pełną specyfikacją komputera oraz „przepisem” na model AI, który na nim uruchamiam — to Qwen 3.6 27B. Niezwykle mocny, naprawdę dobry model, z mojego punktu widzenia jeden z najlepszych, jakie da się uruchomić na tego typu sprzęcie.
(Informacja dodatkowa: Hermes to asystent/agent AI, który potrafi diagnozować problemy systemowe; llama.cpp to popularny silnik do uruchamiania modeli językowych lokalnie.)
Dystrybucje Linuksa: filozofia ponad funkcje
W tym filmie chcę trochę opowiedzieć o przejściu na Linuksa i na nowy sprzęt z perspektywy kogoś, kto nigdy z tego nie korzystał. Dystrybucji jest wiele i trzeba znaleźć tę, która ma dla ciebie sens. Ja chciałem dopasować się do konkretnej filozofii — większość ludzi kieruje się natomiast funkcjonalnością.
Te dystrybucje robią mniej więcej to samo — wszystkie działają na Linuksie. Użytkownicy Linuksa zaraz zaczną protestować: „Nie, one nie są takie same!”. Owszem, nie są identyczne, ale wszystkie to Linux. Główne dystrybucje są do siebie dość podobne; czasem różnią się interfejsem i sposobem interakcji, co jest istotne, więc warto wybrać taką, która ci pasuje. Ale nie jest tak, że jedna jest dobra, a druga bezużyteczna. Chodzi o znalezienie własnej ścieżki. Jedni szukają funkcjonalności, łatwości obsługi, dużej społeczności. Ja postawiłem na zgodność filozoficzną.
Zgodne z moją filozofią byłyby też inne, naprawdę dobre dystrybucje — jak Fedora. Ale za Fedorą stoi firma, a choć jej wartości mi odpowiadają, sama idea firmy mi się nie podoba. W MX Linux cenię to, że stoi za nim społeczność, i to, że opiera się na Debianie, który również prowadzi społeczność — przynajmniej tak zrozumiałem z własnego researchu. Skoro miałem się przesiąść na coś innego, chciałem zrobić to porządnie i uwolnić się od korporacji pokroju Windowsa czy Apple. Nie chcę wpaść w kolejną pułapkę — chcę pozostać wolny. MX Linux mi to daje.
Życie codzienne: tarcia ze sprzętem i własne narzędzie do serwera
Uruchamiam na tej maszynie naprawdę złożone oprogramowanie wymagające różnego sprzętu. Mam teleprompter (w poprzednim filmie tłumaczyłem, jak trudno było go uruchomić), mam Steam Decka jako kontroler do przełączania kamer. Montaż tego właśnie filmu robię w DaVinci Resolve — świetnym programie, który wcale nie jest łatwo uruchomić na Linuksie, zwłaszcza na tej dystrybucji.
Chcę też pokazać coś, co sam stworzyłem. Widać tu czerwoną kropkę — oznacza ona, że Qwen 3.6 27B jest zatrzymany, serwer nie działa. Wyłączam go, gdy muszę uruchomić DaVinci Resolve, bo ten program korzysta z RTX 5090, więc muszę zwolnić kartę. W macOS-ie problem prawdopodobnie w ogóle by nie istniał — system sam zarządzałby taką sytuacją. W praktyce tutaj musiałem rozwiązać to sam, więc zbudowałem to narzędzie. Gdy kończę pracę, klikam prawym przyciskiem i wybieram „start serwera”. Kropka zmienia się z czerwonej na pomarańczową (uruchamia się, ale jeszcze nie jest gotowy), a potem na zieloną (można używać). Zwykle trwa to około 20 sekund, czasem mniej. Potem wchodzę do Hermesa i korzystam bez przeszkód.
Problem, który wcześniej nie istniał, jest poważny — ale dzięki AI da się go rozwiązać, i to elegancko oraz z zachowaniem kontroli. Widzę, czy wszystko działa. Lubię to. Podoba mi się, że ten system jest znacznie bardziej otwarty i konfigurowalny — mogę zmienić niemal wszystko. Choć możliwość zmian bywa i pułapką: można całe dni spędzić na dostrajaniu interfejsu. Dla jednych to świetna zabawa, dla mnie — kogoś, kto musi pracować — to raczej problem. Przy niemal każdej czynności pojawia się jakieś tarcie; nie ma pewności, że coś od razu zadziała. Dotyczy to zwłaszcza sprzętu.
Podłączasz sprzęt i bywa, że nie działa. Kupiłem klawiaturę MX Keys Mini — piękna, bardzo mi się podoba. Podłączasz ją, a system jej nie rozpoznaje. Musisz poprosić Hermesa, żeby sprawdził, dlaczego, poszukał sterowników, znalazł właściwe oprogramowanie — bo nie każde działa, są różne wersje, część niekompatybilna z tą dystrybucją. To nie jest łatwe. Być może na Ubuntu, jednej z najpopularniejszych wersji, byłoby prościej — ale to akurat dystrybucja stojąca dokładnie na przeciwnym biegunie mojej filozofii. Nie chcę przesiadać się na nowy komputer i wracać do niezgodnego ze mną systemu. Wolę mieć tarcia, wolę napotykać problemy, naprawiać je, uczyć się i rozumieć, niż iść z Ubuntu — co zresztą wcale nie znaczy, że tam problemów nie ma. Może jest ich mniej, może są inne, ale to wciąż Linux — nadal dość surowy system.
Z mojego doświadczenia jest jednak znacznie lepszy od Windowsa. Mam maszynę z Windowsem i używam jej codziennie. Do podstawowych rzeczy Windows jest w porządku, ale cała ta telemetria, filozofia, sposób działania, cena — to po prostu nie ma sensu. Cieszę się więc, że jestem na Linuksie.
Wydajność modelu lokalnego
AI działa tu znakomicie. Gdy serwer jest uruchomiony, nie ma problemu — stoi i pracuje. To maszyna, to bestia. RTX 5090 to bestia. Qwen 3.6 27B chodzi u mnie z prędkością około 100–110 tokenów na sekundę, w kwantyzacji 6-bitowej. To spory model — nie ta najmniejsza wersja i nie pełna precyzja, tylko 6-bit. Przy 6 bitach traci się jakieś 1,5% jakości, praktycznie niezauważalnie względem pełnej wersji modelu. Bywają skoki powyżej 110 i chwilowe spadki poniżej 100, ale najczęściej mieści się między 100 a 110.
Przy takiej prędkości doświadczenie jest znakomite — praca przypomina korzystanie z modelu frontierowego. Jest szybko i ani przez chwilę nie czujesz, że używasz tańszego rozwiązania; czujesz się dobrze obsłużony. Oczywiście ten model, choć potrafi wykonać niesamowitą pracę, nie równa się z GPT 5.6, Opusem 4.8, Soul czy Fable 5. Do tego mu daleko. Ale przy większości mojej pracy jest w zupełności wystarczający — przez jakieś 80–85% czasu to właśnie z niego korzystam bez problemu.
(Informacja dodatkowa: kwantyzacja to kompresja modelu do mniejszej precyzji liczb — mniej pamięci i szybsze działanie kosztem niewielkiej utraty jakości. Tokeny na sekundę to miara szybkości generowania odpowiedzi.)
Praca hybrydowa: model lokalny plus tani model chmurowy
Gdy dochodzę do granic modelu lokalnego — zaczyna popełniać błędy, nie potrafi rozwiązać problemu, wpada w pętlę i z niej nie wychodzi — sięgam po lepszy model. Obecnie jest to GPT 5.6 Luna z maksymalnym rozumowaniem: bardzo dobry i wyjątkowo tani. Jeśli i to nie wystarczy, przechodzę na Soul z wysokim poziomem myślenia — wtedy na pewno znajdę rozwiązanie.
To praca w scenariuszu hybrydowym: model lokalny plus model chmurowy. Chmura kosztuje mnie 20 dolarów miesięcznie i jest tego warta, bo mam dostęp do „starszego programisty”, który potrafi zaplanować pracę i rozwiązać problemy, których nie ogarnie model lokalny — a także rozpisać rozwój oprogramowania tak, żeby dało się nim potem sterować z poziomu modelu lokalnego. To dla mnie ogromna wartość. Owszem, 20 dolarów miesięcznie to wciąż wydatek i wciąż praca z chmurą, ale korzystam z niej maksymalnie 15–20% czasu. Te 20 dolarów zastąpiło mi 200 dolarów, które płaciłem wcześniej.
Druga maszyna: ASUS GX10 i architektura wielu agentów
Dla niewtajemniczonych: mam też ASUS-a GX10 — swego rodzaju miniaturowy superkomputer do AI. Ma 128 GB pamięci zunifikowanej, więc można na nim załadować znacznie większy model. Świetnie działa na nim Qwen 3.6 35B, z przyzwoitą prędkością około 70 tokenów na sekundę, i mogę uruchomić wiele instancji. To mój model zapasowy i model do delegowania zadań z Hermesa.
(Informacja dodatkowa: ASUS GX10 to kompaktowa stacja AI zbudowana na platformie Nvidii; autor porównuje ją do DGX-a. Pamięć zunifikowana oznacza, że procesor i układ graficzny współdzielą jedną pulę pamięci, co pozwala ładować większe modele.)
Na czym polega problem? Hermes może mieć pod-agentów, a pod-agenci zwykle używają tego samego modelu co agent główny — czyli byliby oparci na moim Qwen 3.6 27B. Ale ponieważ VRAM na 5090 to tylko 32 GB, nie mam wielkiego okna kontekstowego. Mogę uruchomić do czterech instancji tego modelu, o ile mają krótki kontekst. Jeśli jednak chcę mieć okno rzędu 131 000 tokenów, muszę uruchomić tylko jedną instancję — a wtedy nie mam pod-agentów. Dlatego pod-agenci trafiają na moją drugą lokalną AI. Dzięki temu mam mnóstwo opcji i sposobów pracy.
Po co tyle agentów? W praktyce często jeden nie wystarcza. Gdy główny agent pracuje, czasem potrzebuję kolejnego do czegoś prostego — streszczenia albo researchu. Zamiast Google’a używam teraz AI: nie chcę przeglądać stron, więc gdy potrzebuję wiedzy, pytam AI, ono wchodzi do internetu, znajduje odpowiedź i mi ją podaje. Do takiej pracy mój mniejszy model na GX10 — Qwen 3.6 35B — w zupełności wystarcza. Ta architektura daje mi ogromną elastyczność.
(Informacja dodatkowa: VRAM to pamięć karty graficznej; okno kontekstowe to ilość tekstu, jaką model może „widzieć” naraz. Duży kontekst zajmuje dużo VRAM-u, stąd kompromis między długością kontekstu a liczbą jednoczesnych instancji.)
Spokój ducha i rada dla mniej zaawansowanych
Wciąż płacę te 20 dolarów miesięcznie — i to również spokój ducha, bo czasem coś się psuje: model lokalny nie wstaje, sieć nie jest rozpoznawana. Zawsze mam wtedy dostęp do modelu chmurowego. Ale większość ludzi, jeśli nie są zaawansowanymi użytkownikami, nie potrzebuje takiej subskrypcji. Wystarczy trochę kredytu na żądanie — przez API płacisz tylko za faktyczne użycie. To nawet lepsze rozwiązanie. Ja, ponieważ mam subskrypcję, korzystam z chmury więcej, niż powinienem — czasem po prostu oddaję coś złożonego bezpośrednio GPT 5.6. Ma to sens, gdy już masz abonament, ale jeśli go nie masz, przez większość czasu naprawdę go nie potrzebujesz.
Myśląc w kategoriach rozwiązania hybrydowego, wykorzystuj model lokalny na maksa, a resztę dobieraj przez API lub niewielką subskrypcję. W tym przypadku naprawdę polecam OpenAI. Choć nie przepadam za tą firmą — znacie mnie, jestem raczej przeciwny wielkim korporacjom — musimy liczyć się z dzisiejszą rzeczywistością. A dziś OpenAI oddaje te drogie w produkcji tokeny po naprawdę dobrej cenie, dokładając do interesu. Możemy więc mieć dostęp do niezwykle mocnego modelu naprawdę tanio. Korzystam z tego. Gdy prowadzę sesję, w której ważna jest prywatność, sięgam po model lokalny.
Suwerenność AI to droga, nie cel
Jestem samowystarczalny w zakresie AI i to uwielbiam — mam system, wobec którego jestem w 100% suwerenny i który daje mi mnóstwo opcji. Na GX10, będącym odpowiednikiem DGX-a, mogę uruchamiać wiele różnych modeli: do produkcji wideo, muzyki, obrazów. Mogę go używać do dostrajania modeli, co zamierzam kiedyś zrobić — a gdy jedna maszyna dostraja model, na drugiej uruchamiam lokalną AI.
I tu smutna oraz dziwna wiadomość: prawdziwa suwerenność to podróż. Nie jest doskonała, nie jest łatwa i nie jest tania. Być może trzeba będzie zebrać różny sprzęt. Nie chcę jednak namawiać nikogo do kupowania czegoś, na co go nie stać. Lokalny model możesz uruchomić już dziś na telefonie. Istnieją świetne, bardzo małe modele, które przez większość czasu wykonają potrzebną pracę.
Jak zacząć
Możesz więc powiedzieć: „Zaczynam swoją podróż od małego modelu na Macu mini albo na jakimkolwiek komputerze, który mam”. Coś, co na nim ruszy, na pewno się znajdzie. Tak się zaczyna — od czegoś małego, dziś. Jeśli nie wiesz, jak zacząć, pobierz LM Studio — darmową aplikację, w której pobierzesz i skonfigurujesz lokalne modele. Podpowie ci, który model jest zgodny z twoim systemem. Dzięki temu naprawdę łatwo uruchomić coś na własnej maszynie.
(Informacja dodatkowa: LM Studio to bezpłatna aplikacja z graficznym interfejsem do pobierania i uruchamiania modeli językowych lokalnie — dobra na start bez znajomości wiersza poleceń.)
Do nauczenia się jest wiele, to długa droga, ale trzeba gdzieś zacząć. Mam też dobrą wiadomość: istnieje społeczność licząca już blisko 2000 osób, które spotykają się codziennie. Uczymy się od siebie, budujemy razem, dzielimy się wiedzą i doświadczeniem. Budujemy też nową gospodarkę — gospodarkę dla ludzi, ale i dla AI. Jeśli cię to interesuje, w opisie znajdziesz link do Discorda; dołączenie jest darmowe.
Dzisiejszy film był tylko wprowadzeniem do nowego sprzętu i setupu. Chciałem pokazać, co uruchamiam; więcej o modelach i właściwych „przepisach” opowiem osobno — bo to ważne, by zrozumieć, co da się zrobić z tymi maszynami. Nie chodzi o to, że „to najlepszy model” albo „to najlepszy sprzęt”. Chodzi o to, jaki problem chcesz rozwiązać — i dopiero pod niego dobierasz sprzęt, oprogramowanie i model. Większość z was już teraz może uruchomić coś lokalnie. Nie wpadaj w pułapkę myślenia „to za małe, żeby coś zdziałać” — to nieprawda. Mamy dziś bardzo małe modele, które pomogą w wielu rzeczach, a większość naszych codziennych zadań wcale nie jest tak zaawansowana. Wypróbuj, zanim powiesz „nie”. Nie daj się wciągnąć w narrację korporacji, że „potrzebujesz najpotężniejszej AI” i „zostaniesz miliarderem, jeśli użyjesz naszego modelu”. Znajdź minimum wymagane do wykonania swojej pracy i od tego zacznij.
Dzięki za uwagę i do zobaczenia na Discordzie — link, jak i ten do artykułu na Substacku, w opisie. I oczywiście: zostaw łapkę w górę i subskrybuj. Musimy rozwinąć ten kanał. Ciao.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Zacznij od problemu, a nie od sprzętu
Na czym polega: Autor podkreśla, że nie istnieje „najlepszy model” ani „najlepszy sprzęt” w oderwaniu od kontekstu — najpierw definiujesz zadanie, które chcesz rozwiązać, a dopiero potem dobierasz do niego model, oprogramowanie i sprzęt.
Jak stosować: Wypisz konkretne zadania, do których chcesz AI (research, streszczenia, kod, montaż wideo), i dopiero na tej podstawie oszacuj minimalne wymagania. „Znajdź minimum wymagane do wykonania swojej pracy i od tego zacznij”.
Na co uważać: Nie kupuj drogiego sprzętu „na zapas” ani nie ulegaj marketingowi, że potrzebujesz najpotężniejszego modelu. Większość codziennych zadań jest mniej zaawansowana, niż się wydaje.
2.Model hybrydowy: lokalny na co dzień, chmura do trudnych przypadków
Na czym polega: 80–85% pracy autor wykonuje modelem lokalnym (Qwen 3.6 27B), a trudniejsze zadania — te, gdzie model wpada w pętlę lub nie znajduje rozwiązania — oddaje modelowi chmurowemu (GPT 5.6 Luna, w ostateczności Soul).
Jak stosować: Ustaw model lokalny jako domyślny, a chmurę traktuj jako eskalację. Trudne planowanie i architekturę oprogramowania oddawaj mocniejszemu modelowi, a wykonanie rozbijaj na kroki dla modelu lokalnego.
Na co uważać: Mając subskrypcję, łatwo sięgać po chmurę częściej, niż trzeba — autor sam się do tego przyznaje. Kontroluj, kiedy eskalacja jest naprawdę potrzebna, by nie tracić korzyści z lokalnej pracy.
3.Nie potrzebujesz subskrypcji — czasem lepsze jest API na żądanie
Na czym polega: Autor płaci 20 dolarów miesięcznie (zamiast wcześniejszych 200), ale zaznacza, że osoby, które nie są zaawansowanymi użytkownikami, w ogóle nie potrzebują abonamentu — wystarczy kredyt przez API, gdzie płaci się tylko za faktyczne użycie.
Jak stosować: Jeśli sięgasz po chmurę sporadycznie, wybierz rozliczenie za zużycie (API) zamiast stałej opłaty. Zarezerwuj chmurę na momenty, gdy model lokalny zawodzi.
Na co uważać: Subskrypcja psychologicznie zachęca do „przepłacania” pracą w chmurze. Przy modelu API pilnuj kosztów per sesja, bo maksymalne rozumowanie mocnych modeli bywa drogie mimo dopłat dostawców.
4.RTX 5090 uruchomi mocny model lokalnie — ale VRAM ogranicza kontekst i liczbę agentów
Na czym polega: Na 5090 (32 GB VRAM) Qwen 3.6 27B działa z prędkością 100–110 tokenów/s, co daje odczucie pracy z modelem frontierowym. Ale 32 GB VRAM to kompromis: albo cztery instancje z krótkim kontekstem, albo jedna z oknem 131 tys. tokenów.
Jak stosować: Planując wielu agentów lub długi kontekst, licz się z budżetem VRAM. Autor rozwiązuje to, przenosząc pod-agentów na drugą maszynę (GX10 ze 128 GB pamięci zunifikowanej).
Na co uważać: Duże okno kontekstowe „zjada” VRAM potrzebny na dodatkowe instancje. Jeśli potrzebujesz pod-agentów i długiego kontekstu jednocześnie, jedna karta może nie wystarczyć.
5.Kwantyzacja 6-bitowa to świetny kompromis jakość/rozmiar
Na czym polega: Autor uruchamia model w kwantyzacji 6-bitowej, tracąc według niego około 1,5% jakości względem pełnej precyzji — praktycznie niezauważalnie — przy znacznie mniejszym zapotrzebowaniu na pamięć.
Jak stosować: Dobierając wariant modelu do swojego VRAM-u, rozważ kwantyzację 6-bitową jako punkt równowagi między jakością a rozmiarem, zamiast domyślnie sięgać po pełną precyzję.
Na co uważać: Utrata jakości zależy od modelu i zadania — 1,5% to szacunek autora dla tego konkretnego przypadku. Przy zadaniach wrażliwych na precyzję warto porównać wyniki z wersją o wyższej precyzji.
6.Wybór dystrybucji Linuksa: funkcje vs. filozofia
Na czym polega: Autor wybrał MX Linux nie dla funkcji, lecz z powodów światopoglądowych — bo opiera się na Debianie i jest projektem społecznościowym, bez firmy za sterami. Świadomie odrzucił łatwiejsze Ubuntu jako sprzeczne z jego filozofią.
Jak stosować: Zdecyduj, co jest dla ciebie priorytetem: łatwość i duża społeczność (Ubuntu) czy stabilność i niezależność od korporacji (Debian/MX). Wybór interfejsu i modelu zarządzania też się liczy.
Na co uważać: Wybór „filozoficzny” oznacza więcej tarcia i pracy. Jeśli zależy ci głównie na tym, żeby działało, popularniejsza dystrybucja oszczędzi problemów ze sterownikami i kompatybilnością.
7.Przesiadka na Linuksa to nie prościzna — miej plan i asystenta do diagnostyki
Na czym polega: Instalacja nie była bezstresowa: sterowniki Nvidii, nierozpoznana klawiatura, uruchomienie DaVinci Resolve. Kluczem był plan: najpierw MX Linux, potem Hermes podłączony do modelu chmurowego, który rozwiązywał problemy sterowników i konfiguracji.
Jak stosować: Zanim zaczniesz walczyć ręcznie ze sterownikami i kompilacją silników modeli, zainstaluj asystenta AI zdolnego do diagnostyki i pozwól mu przeprowadzić cię przez konfigurację. Skala trudności zależy od tego, ile masz nietypowego sprzętu i złożonego oprogramowania.
Na co uważać: Część sprzętu może w ogóle nie zadziałać (u autora studio muzyczne zostało na Macu). Zinwentaryzuj urządzenia i sprawdź kompatybilność z wybraną dystrybucją, zanim uznasz Linuksa za swój główny system.
8.Karta graficzna to zasób współdzielony — zarządzaj serwerem modelu
Na czym polega: DaVinci Resolve i model AI rywalizują o tę samą kartę 5090. Autor napisał własne narzędzie ze statusem serwera (czerwony/pomarańczowy/zielony), by wyłączać model, gdy karta jest potrzebna do montażu, i wznawiać go w ~20 sekund.
Jak stosować: Jeśli na jednej maszynie uruchamiasz i AI, i wymagające GPU aplikacje, zbuduj lub użyj mechanizmu do zatrzymywania i wznawiania serwera modelu, aby zwalniać VRAM na żądanie.
Na co uważać: W macOS zarządzanie zasobami dzieje się automatycznie — na Linuksie musisz zadbać o to sam. Uruchamianie AI i ciężkiej aplikacji GPU jednocześnie może skończyć się brakiem pamięci.
9.Wielu agentów bywa potrzebnych — rozłóż ich na dostępny sprzęt
Na czym polega: W praktyce jeden agent często nie wystarcza — podczas gdy główny pracuje, przydaje się drugi do prostych zadań (streszczenie, research zamiast Google’a). Autor deleguje pod-agentów na drugą maszynę (GX10), bo główna karta nie ma zapasu VRAM-u.
Jak stosować: Zaprojektuj podział ról: mocny model do zadań głównych, mniejszy i szybszy (np. Qwen 3.6 35B na 70 tokenów/s) do prostych, równoległych zadań pomocniczych. Rozłóż obciążenie między urządzenia, jeśli je masz.
Na co uważać: Architektura wieloagentowa mnoży zapotrzebowanie na pamięć i sprzęt. Bez drugiej maszyny pod-agenci będą konkurować o te same zasoby co agent główny.
10.Suwerenność AI to droga — zacznij od małego, dziś
Na czym polega: Pełna niezależność od korporacji jest kosztowna, niełatwa i wymaga zbierania sprzętu — ale zacząć można od zera wydatków: lokalny model uruchomisz nawet na telefonie czy posiadanym komputerze, a LM Studio pomoże dobrać zgodny model.
Jak stosować: Pobierz LM Studio, uruchom mały model na sprzęcie, który już masz, i naucz się podstaw, zanim zainwestujesz. Traktuj to jako stopniową podróż, nie jednorazowy zakup.
Na co uważać: Nie odrzucaj małych modeli z góry („za słabe, żeby coś zdziałać”) — to mit. Ale pamiętaj też, że prawdziwa suwerenność wiąże się z realnymi kosztami i tarciami; nie kupuj sprzętu ponad swoje potrzeby i możliwości.