16 GB wystarczy do poważnej pracy z lokalnym AI

2026-09-13 Manolo Remiddi AI zagraniczne tutorial waga 3/5 18 min czytania

Sprytnie skwantyzowany Qwen 27B (GSQ-RCO, z MTP) pozwala prowadzić poważną pracę agentową na karcie z 16 GB VRAM — pokazane na RTX 5060 Ti i porównane z RTX 5090. Dla każdego, kto chce lokalnego AI bez wydawania fortuny.

Robocza publikacja redakcyjna na podstawie publicznego transkryptu YouTube. Źródło: YouTube.

Oryginalny tytuł filmu

16GB Is All You Need for Serious AI

O czym jest ten film

  1. Autor kupił RTX 5060 Ti z 16 GB VRAM (obok posiadanej RTX 5090 z 32 GB) i odkrył, że tania karta wystarcza do poważnej, agentowej pracy z AI.
  2. Kluczem jest Qwen 3.8 27B w niejednorodnie skwantyzowanym pliku GGUF (metody GSQ + RCO), który działa na poziomie wersji bez kwantyzacji, a mieści się w 16 GB.
  3. Rekomendowany wariant zajmuje 11,8 GB VRAM, plus 0,9 GB na enkoder wizyjny (tryb multimodalny) i 0,35 GB na MTP (multi-token prediction).
  4. Zmierzone prędkości: 45,6 tok./s na 5060 Ti i ok. 136 tok./s na 5090; MTP daje na karcie 16 GB około 40 tok./s.
  5. Na 5090 model działa z oknem kontekstu 262 tys. tokenów i dwiema równoległymi sesjami agentów; wcześniej — jedna sesja i 131 tys. tokenów.
  6. Poważniejszy sprawdzian: agent steruje przeglądarką, odwiedza trzy strony, zbiera dane i tworzy raport HTML. Na 5060 Ti działa to poprawnie, choć wyraźnie wolniej niż na 5090.
  7. Model uruchomisz też na Apple Silicon, AMD i Intelu; wyłącznie na procesorze — tak wolno, że nie ma to sensu.
  8. Autor prezentuje własne narzędzie Agmentor Agent: rozszerzenie przeglądarkowe z biblioteką promptów i skrótami typu /english oraz /prompt.
  9. Pokazana zostaje strona thefool.im — zbudowana lokalnym modelem narzędzie do interpretowania historii przez arkana tarota w duchu Junga, w ramach projektu społeczności Resonant DAO.
  10. Wniosek końcowy: przy mniejszych zadaniach nie ma różnicy między zestawem za ok. 7000 USD (5090) a zestawem za 1000–1500 USD (5060 Ti).

Redakcyjne tłumaczenie

Znowu kupiłem kartę — i to nie taką, jakiej się spodziewacie

Zrobiłem to znowu: kupiłem nową kartę graficzną i, szczerze mówiąc, nie tę, o której pewnie myślicie. RTX 5060 Ti z 16 GB pamięci. Po co? Bo miałem konkretny problem do rozwiązania. Nagranie, które zaraz zobaczycie, powstało dwa dni temu. Nie wiedziałem wtedy, że całe moje lokalne środowisko AI ma się niebawem radykalnie polepszyć — i że ten film może zmienić też wasze podejście do lokalnych modeli.

Najpierw odrobinę tła. W głównym komputerze siedzi RTX 5090. To bardzo potężna karta: fizycznie dwukrotnie większa, z 32 GB pamięci i przepustowością najwyższą pośród kart konsumenckich — jakieś cztery razy wyższą niż w 5060 Ti. Zanim pójdziemy dalej, dokończmy rozpakowanie i odsłuchajmy, co mówiłem dwa dni temu, bo gdybym wtedy wiedział, co mnie czeka, byłbym o wiele bardziej podekscytowany.

Rozpakowanie: maksimum bez wymiany zasilacza

Nie powiem, żeby było tanio — cena wciąż do niskich nie należy. Zrobiłem to, co robię najlepiej: wydałem pieniądze i mam kartę. Zobaczmy, co ten maluch potrafi. Mogłem kupić mocniejszą kartę, ale realnie to szczyt tego, co uruchomię bez wymiany zasilacza. Te GPU nie są specjalnie wymagające, a jednocześnie przyzwoite: przepustowość pamięci jest o jakieś 50–60 procent wyższa niż w układzie GB10 w DGX Sparku. (Informacja dodatkowa: DGX Spark to kompaktowy stacjonarny komputer AI firmy Nvidia.) Można więc spodziewać się, że małe modele — takie, które mieszczą się w 16 GB — będą generować tokeny o połowę do 60 procent szybciej. Podłączmy i zobaczmy.

Lokalne AI na sprzęcie dla zwykłych ludzi

Ten film jest o lokalnym AI na małym sprzęcie. Nie mam na myśli kosmicznie drogich rozwiązań, tylko coś, na co większość ludzi może sobie pozwolić. RTX 5060 Ti to prawdopodobnie najtańsza karta Nvidii z 16 GB pamięci. A 16 GB pozwala wczytać modele na tyle zwięzłe, że potrafią wykonać sensowną pracę. Jeśli zajmujesz się czymś wąsko wyspecjalizowanym, wystarczy może nawet 8 GB. Ale samo 16 GB to naprawdę niewiele — żeby uruchomić coś porządnie użytecznego, zwykle potrzeba 24 GB albo więcej.

Na 5090 z 32 GB mogę odpalić Qwen 3.8 27B, model o 27 miliardach parametrów. W tej klasie wielkości to najlepsza sieć, jaką dziś znam: można na niej polegać, radzi sobie i z analizą, i z programowaniem. Jest niezwykła — ale za duża, żeby zmieściła się na 5060 Ti. Szukałem więc odpowiedzi na pytanie, jakie AI pójdzie na tej karcie. Odpowiedź brzmiała: Gemma 12B, bardzo dobry model Google i jedna z lepszych opcji dla takiego sprzętu. A potem, zupełnym przypadkiem, trafiłem na coś dużo, dużo lepszego. Na tyle lepszego, że dziś uruchamiam to również na 5090.

Qwen 27B w niejednorodnej kwantyzacji GSQ-RCO

Mówię o Qwen 3.8 27B w wersji GGUF oznaczonej GSQ-RCO — pliku skwantyzowanym niejednorodnie, powstałym z użyciem metod GSQ i RCO. Najważniejsze jest to, że działa on na poziomie wersji bez kwantyzacji, a to robi wrażenie. I, jak można się domyślić, wspominam o nim właśnie dlatego, że mieści się w 16 GB pamięci. W tym jest cała rzecz.

(Informacja dodatkowa: GGUF to popularny format plików modeli do uruchamiania lokalnie, m.in. w llama.cpp; kwantyzacja polega na zmniejszeniu precyzji zapisu wag, żeby model zajmował mniej pamięci.)

Jak działa ta metoda, w skrócie: GSQ wykonuje dokładną, niskobitową kwantyzację skalarną każdego tensora w zadanym typie kwantyzacji, a RCO przydziela tensorom te typy tak, aby zmieścić się w zadanym budżecie rozmiaru. Razem dają niejednorodny plik GGUF o wymaganej objętości. Po ludzku: każdy tensor jest kwantyzowany inaczej. Dzięki temu oszczędza się mnóstwo miejsca, a precyzję zostawia tam, gdzie jest naprawdę potrzebna.

Ile pamięci ten model pochłania

Rozmiary poszczególnych wariantów robią się tu naprawdę ciekawe. Najmniejszy waży 8,4 GB — czyli karta z 8 GB VRAM w ogóle go nie udźwignie. Z 12 GB uruchomisz ten najmniejszy. Dopiero 16 GB pozwala wczytać wariant rekomendowany, opisywany jako bezstratny: potrzebuje on zaledwie 11,8 GB VRAM, do tego 0,9 GB, jeśli dołączysz enkoder wizyjny i projektor do pracy multimodalnej — dodatek praktycznie obowiązkowy. Osobne 0,35 GB zajmuje MTP, czyli multi-token prediction: mechanizm, w którym model przewiduje kilka tokenów naraz i dzięki temu całość pracuje szybciej. Z MTP ten model na karcie 16 GB generuje około 40 tokenów na sekundę. Mówimy o komputerze za jakieś tysiąc dolarów, na którym działa dziś mój ulubiony model lokalny. Trudno w to uwierzyć.

Nie tylko Nvidia

Na wszelki wypadek zapytałem moich agentów z Agmentora, czy ten model pójdzie na sprzęcie innych firm niż Nvidia. Potwierdzenie: tak — na Apple Silicon, na AMD i na Intelu. Da się go też uruchomić wyłącznie na procesorze, ale tak wolno, że nie ma to większego sensu.

Na 5090: dwa razy więcej agentów i dwa razy dłuższy kontekst

Na 5090 uruchamiam dokładnie ten model, z MTP i oknem kontekstu 262 tysięcy tokenów — i mogę prowadzić dwie sesje równolegle. Czyli dwóch agentów pracuje jednocześnie. Wcześniejsza wersja, 27B w kwantyzacji Q6, pozwalała na jednego agenta z kontekstem 131 tysięcy tokenów. Teraz mam podwójnie agentów, podwójne okno kontekstu i do tego 30 tokenów na sekundę więcej.

Sprawdźmy to w praktyce. Prośba: „Napisz opowiadanie na czterysta tokenów”. Model zaczyna od fazy rozmyślania, a po starcie sesji (tzw. zimny start) pierwsza odpowiedź i tak trwa chwilę dłużej. Potem pytam samego modelu, jak szybko pisał: zaobserwowane tempo to około 136 tokenów na sekundę. Robi to wrażenie.

Ten sam test na 5060 Ti

Wracamy do 5060 Ti. Zbudowałem małą aplikację, w której wybieram modele osobno dla 5090 i osobno dla 5060 Ti; na tej drugiej wczytuję wersję z MTP i kontekstem 64 tysięcy tokenów. Obok mam pulpit kontrolny pokazujący, co się dzieje: 5090 stoi bez modelu, bo zajmuje się nagrywaniem wideo, a 5060 Ti ma wczytany model i pobiera 15,1 GB z 15,9 dostępnych.

Daję dokładnie ten sam prompt, w nowej sesji. Start znów jest zimny, więc chwilę to trwa. Nie wiem, czy słychać, że wentylator pracuje wyraźnie głośniej — wrócimy do tego. Samo tempo generowania jest przyzwoite. Pytam model o prędkość: 45,6 tok./s. Jak na tę kartę — bardzo słodko.

Wentylatory zdradzają klasę sprzętu

Kwestia chłodzenia: 5090 ma większe wentylatory i niższy ton pracy, który nie przeszkadza. 5060 Ti wyje wyżej i czuć, że kręci się na pełnych obrotach; jest po prostu bardziej dokuczliwa. Widać gołym okiem, że to karta z niższej półki niż 5090.

Prawdziwy test: agent sterujący przeglądarką

Napisanie opowiadania to jeszcze nie test. Zmierzymy więc model przy sterowaniu przeglądarką. Najpierw poprosiłem jednego z moich agentów o napisanie promptu dla drugiego — żeby próbę uznać za uczciwą. Zadanie: zademonstrować kontrolę nad przeglądarką na trzech publicznych stronach związanych z Agmentor i Resonant. Prompt jest długi: odwiedź trzy witryny, zapisz tytuły stron, wypisz główne nagłówki, streść zawartość, przygotuj lokalny raport HTML z zebranymi danymi, zweryfikuj wyniki; jest tam też sekcja o bezpieczeństwie.

I teraz patrzcie, co się dzieje. Model myśli. Myśli dużo. Myśli potwornie dużo. W końcu rusza: przejmuje stery, mówi wprost, co właśnie robi, analizuje stronę, wyciąga dane, przechodzi na kolejną witrynę — to strona Resonant — znowu analizuje, potem zagląda na stronę Resonant OS i ekstrahuje dane z trzech źródeł. Całość trwa długo, wentylator wyje na całego… a wreszcie pojawia się raport. Dane są poprawne; agent zapisuje na pulpicie plik „resonant websites report” i widać kod, który sam wygenerował. Tempo jest przyzwoite — da się z tym pracować, choć o porównaniu z 5090 nie ma mowy. Ale policzmy: komputer z 5090 to wydatek rzędu siedmiu tysięcy dolarów, jeśli nie więcej — a kupiłem go w naprawdę dobrej cenie. Ten drugi zestaw to najwyżej półtora tysiąca, wcześniej mówiłem wręcz o tysiącu. I zdecydowanie da się na nim pracować.

Ciekawostka: model stwierdził, że plik HTML trzeba zapisać — nie zrozumiał, że sam powinien to zrobić. Musiałem poprosić wprost: „Utwórz ten plik sam”. Trochę irytujące; najwyraźniej trafił na jakąś blokadę zapisu na pulpicie, którą zapewne da się zdjąć.

Agmentor Agent: ten sam agent w przeglądarce i poza nią

Doprecyzujmy, z czym mamy do czynienia: Agmentor Agent to moje dzieło. Możecie go pobrać i zainstalować u siebie; jako silnik wykorzystuje harness deepseek (czyli szkielet do uruchamiania agentów). Wkrótce wydam nową wersję, która doda agenta z dostępem do całego komputera. Pomysł jest taki, że obaj widzą tę samą sesję, ale jeden działa w przeglądarce, a drugi poza nią. Teoretycznie mogę więc zatrzymać tego pierwszego i przekazać prompt temu z pełnym dostępem do systemu, wybierając właściwy model. Ten przyjmuje zadanie — choć zamiast od razu napisać plik, postanawia jeszcze raz sprawdzić tamte strony. Myśli, myśli, aż w końcu ma komplet danych.

Instalacja jest prosta: wchodzicie na agmentoragent.com, kopiujecie prompt i oddajecie wszystko waszemu AI — przeczyta dokumentację i samo wszystko zainstaluje. Na razie to rozszerzenie przeglądarkowe i działa wyłącznie na Chromium; wersje na Firefoksa i Safari są w planie, razem z aktualizacją dodającą tego drugiego agenta. Bardzo podoba mi się, że agenta wywołuję skrótem, mogę zmniejszyć okno i trzymać je z boku.

Druga rzecz, którą uwielbiam: obaj agenci obsługują gotowe prompty pod skrótem. Wpisuję ukośnik i mam listę przygotowanych poleceń. Przykład: chcę poprawić zdanie po angielsku — wpisuję /english, wklejam zdanie, otwieram nową sesję i model je prostuje. Świetnie sprawdza się to przy tworzeniu samych promptów. Gdy mam w głowie zawiły opis zadania — „zbuduj mi stronę, która robi magię” — mówię to do AI, a potem /english albo /prompt porządkuje całość. Kopiujesz, wklejasz i praca dalej toczy się w narzędziu, do którego przywykłeś.

Tę samą funkcję — bibliotekę promptów — mam w ustawieniach: zapisuję tam pod nazwą „prompt” długi tekst, którego zadaniem jest poprawianie promptów. Potem robię z tego system rekurencyjny: /prompt poprawia prompt, który poprawia prompty. Trzeba to jeszcze zweryfikować, ale na razie ufałem mu w ciemno. To zresztą dwaj odrębni agenci, każdy z własnym promptem systemowym — własną tożsamością i opisem roli — działający w dwóch środowiskach.

A raport z wcześniejszego testu? Ściągnięty z GitHuba i wygląda dobrze. Pomyślcie o agencie, który jako osobisty asystent działa na waszym komputerze — to bardzo dobry poziom.

Dlaczego powstało thefool.im: społeczność Resonant DAO

Zanim pokażę, co zbudowałem, wyjaśnię, po co — bo projekt jest dość osobliwy. Powstał dla Resonant DAO, naszej wspólnoty. Jeśli jeszcze w niej nie jesteście, warto dołączyć: to niezwykłe miejsce, gdzie znajduje się ludzi o podobnej wrażliwości, wsparcie i wzajemną wymianę wiedzy. Spotykamy się online codziennie — z wyjątkiem soboty — rozmawiamy, uczymy się, budujemy. DAO to zdecentralizowana organizacja autonomiczna: w chwili dołączenia stajecie się współwłaścicielami, a przy okazji wchodzicie w ruch, który chce zmieniać świat.

Trochę dramatu, skoro jesteśmy przy zmianie świata: świat pędzi, a AI nas wzmacnia. Tą technologią można coś znaczyć. Problem w tym, że pojedynczej osobie trudno konkurować z wielkimi korporacjami — ale grupa może dokonać niezłych rzeczy. Pomyślcie, co sami zdołaliście już osiągnąć, pracując z AI, i co się stanie, gdy połączymy siły. W społeczności mamy już ponad 3400 osób. Dołączcie na Discordzie i zbudujmy coś, co rzeczywiście zmieni świat.

Tarot do mapowania zachowań — pomysł, który miał już Jung

W tym projekcie próbujemy mapować, kto jaki wkład wnosi do wspólnoty, i nagradzać każdy z osobna — oddolnie, czyli nie to, co ktoś z góry zdecyduje, lecz to, co sami zdecydujecie się robić. Wyzwanie: jak rozpoznawać dowolny rodzaj działania. Uważałem się za geniusza, bo wymyśliłem coś naprawdę nieoczywistego. Przez dwa tygodnie wspólnota testowała ten pomysł — a potem okazało się, że powinienem był wiedzieć więcej: dokładnie to samo opisał już Carl Gustav Jung, psychiatra, psychoterapeuta i psycholog, twórca psychologii analitycznej. Człowiek, który zmienił historię psychologii, doszedł do identycznego wniosku — tylko o całe lata wcześniej. (Informacja dodatkowa: w filmie padło „szwedzki”, ale Jung był Szwajcarem.)

Jaki to pomysł? Użycie tarota do mapowania ludzkich zachowań i rozumienia ich wzorców. Nie będę wchodził w szczegóły; ćwiczenie, o które mi chodziło, polegało na zbudowaniu odpowiedniej strony właśnie tym lokalnym modelem.

Witryna jest jeszcze dość surowa, ale ma kilka funkcji. Mogę kliknąć kartę i przeczytać szczegóły. Jest czytelnik kart z AI, któremu zadaję pytanie albo zostawiam puste pole, by dostać ogólne rozdanie — model czyta karty za mnie. Proste, ale coś w tym jest. Najważniejsza jest jednak interpretacja historii: piszecie własną opowieść, a AI odczytuje ją przez pryzmat kart. Nie ma tu nic z wróżenia — to dokładnie to, o czym pisał Jung: tarot może służyć do czytania ludzkich działań, a tę ramę — do rozumienia archetypów, zachowań, wyzwalaczy i sił działających w systemie. Zbudowałem to, żeby samemu lepiej to pojąć. Jeśli macie stronę dziennika albo cokolwiek do przeanalizowania — wklejacie i czytacie interpretację. A ponieważ jesteśmy leniwi, poprosiliśmy model o historyjkę: „opowiedz historię pary, która się rozstała”. Smutne, ale krótkie — w innym razie napisałby mi całą książkę.

Po co ten test strony? Żeby zrozumieć jej możliwości. Bo nie chodziło tylko o napisanie witryny: poprosiłem również o wdrożenie jej na GitHub, o wymyślenie nazwy (ostatecznie wybrałem własną), a potem kazałem AI wejść przeglądarką do serwisu zarządzającego domeną i skonfigurować całość razem z GitHubem. Znów sterowanie przeglądarką — i znów zadziałało.

No dobrze — czytamy opowieść. AI analizuje siły w grze, osobistą rolę bohatera, próg, na którym się znajduje, a na końcu samo pisze opis. To naprawdę wartościowy proces uczenia się: według Junga właśnie tak interpretuje się elementy historii i to, co się w niej działo. Niesamowite, że dwadzieścia dwa arkana mogą służyć nie do magowania, lecz do interpretacji. Strona nazywa się thefool.im — „Głupiec”. Skoro jestem głupcem, brzmi to jak niezła nazwa. Przetestujcie i dajcie znać, co myślicie.

Podsumowanie: mała karta, duża zmiana

Czego się tu uczymy? Ten model pozwala na prawdziwą pracę agentową na 16 GB GPU. Może jestem nowicjuszem w tak małych systemach, ale jestem naprawdę pod wrażeniem. Zmiana jest ogromna: żeby uzyskać to, co mam teraz, jedna 5090 by nie wystarczyła — potrzebowałbym dwóch, a może i to by nie starczyło, bo podwojone okno kontekstu i dwaj agenci zamiast jednego to bardzo dużo. Zawsze powtarzałem, że absolutne minimum to dwóch agentów: jeden robi robotę, a gdy jest zajęty, drugi działa równolegle.

Model wymaga dalszych testów — na razie jest moim codziennym narzędziem, bo chcę go sprawdzić na wszystkim. Budowa strony przebiegła gładko i nie odczułem żadnej różnicy względem Qwen 27B w kwantyzacji Q6, z którego wcześniej korzystałem. Na 5090 pracuje szybciej; przypuszczam, że dzięki większemu niż na 5060 Ti oknu kontekstu radzi sobie też lepiej — rzadziej musi zagęszczać kontekst, czyli mniej podsumowuje, dłużej trzyma surowe dane, a to przekłada się na jakość. Ale przy mniejszych zadaniach różnicy między tym, co osiągam na 5090, a tym, co wchodzi na 5060 Ti, po prostu nie ma.

Tym filmem udowodniłem, że 16 GB pamięci wystarcza do naprawdę poważnej pracy. W opisie znajdziecie link do obszernego artykułu, a w nim odnośniki do wszystkiego, o czym mówię: do modelu, do Agmentor Agenta, do thefool.im — oraz przepis, którego używam, żeby uruchomić tę sieć zarówno na 5090, jak i na 5060 Ti. Jeśli podoba wam się taki rodzaj treści, zostawcie łapkę i subskrypcję. Dziękuję, że dotrwaliście do końca.

10 najważniejszych takeaways — z kontekstem zastosowania

1.16 GB VRAM to dziś wystarczający próg poważnego lokalnego AI

Na czym polega: Model 27-miliardowy w dopracowanej kwantyzacji mieści się na karcie z 16 GB (RTX 5060 Ti) i wykonuje realną pracę agentową: steruje przeglądarką, analizuje strony, tworzy raporty HTML.

Jak stosować: Przy planowaniu zestawu do lokalnego AI zacznij od najtańszej karty z 16 GB zamiast od razu celować w 24 GB czy więcej; wybieraj wariant modelu opisany jako rekomendowany dla 16 GB.

Na co uważać: „Wystarczy” dotyczy konkretnego, sprytnie skwantyzowanego wariantu — nie każdego dużego modelu. Na samym procesorze model działa tak wolno, że traci to sens, a karta klasy 5060 Ti pod obciążeniem bywa głośna.

2.Niejednorodna kwantyzacja (GSQ-RCO) pozwala zmieścić duży model w małej pamięci

Na czym polega: Każdy tensor kwantyzowany jest osobno — GSQ压缩uje z niską liczbą bitów, a RCO przydziela precyzję w ramach budżetu rozmiaru. Oszczędność tam, gdzie jakość nie cierpi; efekt działa na poziomie wersji pełnej.

Jak stosować: Przy wyborze pliku GGUF szukaj wariantów z niejednorodną kwantyzacją zamiast jednolitych Q4/Q6 i porównaj je najpierw na własnych zadaniach.

Na co uważać: Deklarowaną „bezstratność” weryfikuj samodzielnie — jakość bywa zależna od typu zadania. Sprawdź też, czy twój silnik inferencji obsługuje dany wariant.

3.Policz pamięć przed wczytaniem: 11,8 + 0,9 + 0,35 GB

Na czym polega: Rekomendowany wariant zajmuje 11,8 GB VRAM; enkoder wizyjny z projektorem (multimodalność) dokładają 0,9 GB; MTP — 0,35 GB. W teście karta miała zajęte 15,1 GB z 15,9 dostępnych.

Jak stosować: Zestawiaj rozmiar wariantu z realnie wolną pamięcią, a nie z nominalną pojemnością karty; przy 12 GB wybieraj najmniejszy wariant, przy 8 GB ten model w ogóle się nie zmieści.

Na co uważać: Inne procesy — w filmie nagrywanie ekranu — zjadają część VRAM; zaplanuj zapas, zanim dodasz komponenty typu enkoder wizyjny.

4.MTP to tani zastrzyk prędkości

Na czym polega: Multi-token prediction — model przewiduje kilka tokenów naraz; na karcie 16 GB daje około 40 tok./s za cenę zaledwie 0,35 GB pamięci.

Jak stosować: Gdy zależy ci na tempie generowania, włączaj wariant z MTP; pamięć, którą zajmuje, jest pomijalna wobec zysku.

Na co uważać: Pierwsza odpowiedź po starcie sesji (zimny start) i tak trwa dłużej, a w fazie „myślenia” agent może pracować długimi minutami, zanim cokolwiek zobaczysz.

5.Dwóch agentów to minimum — planuj pamięć na dwie sesje

Na czym polega: Mniejszy model na 5090 pozwolił autorowi prowadzić dwie równoległe sesje agentów z kontekstem 262 tys. tokenów, zamiast jednej sesji 131 tys. przy kwantyzacji Q6.

Jak stosować: Gdy model mieści się z zapasem, przeznacz nadwyżkę pamięci na drugą sesję agenta, a nie na większy model „na zapas”: jeden agent wykonuje zadanie, drugi czeka na pracę równoległą.

Na co uważać: Dwie sesje dzielą przepustowość karty, więc tempo każdej spada; na 5060 Ti autor zszedł do jednej sesji z kontekstem 64 tys. tokenów.

6.Większe okno kontekstu poprawia jakość długiej pracy agenta

Na czym polega: Duży kontekst oznacza rzadsze zagęszczanie i podsumowywanie historii rozmowy — agent dłużej pracuje na surowych danych, co według autora przełożyło się na lepsze rezultaty na 5090.

Jak stosować: Przy wieloetapowych zadaniach (przeglądanie stron, raporty) wybieraj konfigurację z większym kontekstem, jeśli pamięć pozwala.

Na co uważać: Większy kontekst kosztuje pamięć i tempo; przy krótkich zadaniach różnicy nie zauważysz.

7.Mierz model realnym zadaniem, nie pisaniem opowiadania

Na czym polega: Test „napisz 400 tokenów” pokazuje wyłącznie tempo (45,6 tok./s na 5060 Ti, ok. 136 tok./s na 5090). Dopiero sterowanie przeglądarką na trzech stronach z raportem HTML obnaża rzeczywiste możliwości.

Jak stosować: Oceniaj lokalny model na własnym, typowym przepływie pracy: nawigacja po witrynach, ekstrakcja danych, zapis plików, weryfikacja wyników.

Na co uważać: Złożone zadania agentowe trwają długo i mocno obciążają kartę (głośne wentylatory); tempo „na papierze” nie mówi nic o czasie całego zadania.

8.Tani zestaw pokrywa mniejsze zadania — zrób audyt potrzeb, zanim zapłacisz za flagowca

Na czym polega: Zestaw za 1000–1500 USD z 5060 Ti wykonał to samo zadanie co maszyna za ok. 7000 USD z 5090 — wolniej, ale poprawnie; przy mniejszych zadaniach autor nie widzi żadnej różnicy.

Jak stosować: Jeśli twoje zadania to krótsze przepływy agentowe, zacznij od budżetowej karty 16 GB, a mocniejszy sprzęt dokup dopiero wtedy, gdy realnie zabraknie ci prędkości lub kontekstu.

Na co uważać: Przy cięższych, długich zadaniach różnica tempa jest wyraźna; tańsza karta bywa głośniejsza i po prostu mniej komfortowa na co dzień.

9.Agent potrafi utknąć na blokadzie — mów wprost, co ma zrobić

Na czym polega: Model poprawnie zebrał dane, ale nie zapisał pliku HTML na pulpicie; dopiero dosłowne polecenie „utwórz plik sam” poskutkowało. Przeszkodą była najpewniej blokada zapisu, którą da się zdjąć.

Jak stosować: W promptach zapisuj wprost czynności końcowe (zapisz plik, podaj ścieżkę, zweryfikuj wynik); gdy agent się zatnie, powtórz instrukcję dosłownie, zamiast zaczynać zadanie od nowa.

Na co uważać: Agent z pełnym dostępem do komputera (poza przeglądarką) jest wygodny, ale to większe ryzyko — kontroluj, co może zapisywać w systemie.

10.Biblioteka promptów ze skrótami to multiplikator codziennej pracy

Na czym polega: W Agmentor Agenckie gotowe prompty wywołujesz skrótem: /english prostuje zdanie, /prompt poprawia same prompty; zapisane teksty działają u obu agentów, a poprawiony wynik wklejasz w dowolnym narzędziu.

Jak stosować: Trzymaj powtarzalne operacje (korekta językowa, doszlifowanie promptów, szablony zadań) jako skróty — to oszczędza przepisywanie tych samych instrukcji od zera.

Na co uważać: Prompt poprawiający prompty też bywa niedoskonały — autor sam zaznacza, że jego długi tekst „trzeba jeszcze sprawdzić”. Rozszerzenie działa obecnie tylko w przeglądarkach Chromium.