O czym jest ten film
- Leon van Zyl przedstawia Smol Coder: darmowego agenta programistycznego o otwartym kodzie, przygotowanego do pracy z lokalnymi modelami AI.
- Wyjaśnia, dlaczego ograniczone okno kontekstu utrudnia korzystanie z takich modeli w narzędziach projektowanych z myślą o większych modelach.
- Pokazuje instalację Smol Codera oraz pobranie modelu przez Ollamę.
- Demonstruje pracę w terminalu i w interfejsie przeglądarkowym, w tym wybór modelu, poziomu rozumowania i uprawnień.
- Buduje prostą przeglądarkową grę w kółko i krzyżyk, a następnie uruchamia ją w przeglądarce wbudowanej w narzędzie.
- Omawia plan zadań, który pomaga agentowi wrócić do pracy po skróceniu historii rozmowy.
- Przy bardziej złożonym projekcie proponuje przygotować specyfikację z pomocą mocniejszego modelu, a wykonanie powierzyć modelowi lokalnemu.
- Pokazuje grę Voxel Mini, zbudowaną w około 20 minut, oraz poprawianie brakujących tekstur na podstawie zrzutu ekranu.
- Zaznacza, że mniejsze modele wymagają jasnych wymagań i kolejnych poprawek, a obsługa obrazów zależy od możliwości wybranego modelu.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Zacznij od sprawdzenia zasobów komputera
Na czym polega: Model działa na własnym sprzęcie, więc jego rozmiar i dostępna pamięć wpływają na to, czy praca będzie możliwa i jak duże okno kontekstu otrzyma agent.
Jak stosować: Przed pobraniem modelu sprawdź jego wymagania. Według autora użyty przez niego model zajmuje około 18 GB i potrzebuje mniej więcej 16 GB pamięci graficznej lub pamięci współdzielonej na Macu.
Na co uważać: Inne uruchomione programy również korzystają z pamięci. W demonstracji Ollama przydzieliła około 131 tysięcy tokenów kontekstu, choć autor mówił o możliwym maksimum 256 tysięcy.
2.Zainstaluj agenta i model osobno
Na czym polega: Smol Coder prowadzi pracę nad kodem, a Ollama lub LM Studio udostępnia model działający lokalnie.
Jak stosować: Zainstaluj Smol Coder poleceniem npm install -g smolcoder@latest, a następnie pobierz wybrany model przez Ollamę poleceniem ollama pull z nazwą modelu. Uruchom go raz przez ollama run, by sprawdzić, czy odpowiada.
Na co uważać: Sama instalacja Smol Codera nie pobiera modelu. Jego wybór musi odpowiadać możliwościom komputera.
3.Otwórz terminal w katalogu właściwego projektu
Na czym polega: Agent pracuje na plikach projektu, w którego katalogu został uruchomiony.
Jak stosować: Utwórz lub wybierz folder projektu, otwórz w nim terminal i wpisz smol. Model wybierzesz poleceniem /models, a poziom rozumowania poleceniem /effort.
Na co uważać: Przed wydaniem poleceń dotyczących plików sprawdź, w którym katalogu pracujesz.
4.Dobierz uprawnienia do zadania
Na czym polega: Smol Coder oferuje tryb tylko do odczytu, tryb edycji oraz tryb pozwalający pomijać pytania o zgodę.
Jak stosować: Do oglądania projektu użyj trybu tylko do odczytu. Gdy agent ma zmieniać pliki, wybierz tryb edycji; uruchomienie polecenia będzie wtedy wymagało Twojej zgody. W terminalu tryby przełącza się kombinacją Shift+Tab.
Na co uważać: W trybie pomijającym pytania agent może zarówno zmieniać pliki, jak i uruchamiać polecenia bez każdorazowego potwierdzenia.
5.Korzystaj z widoku, w którym łatwiej Ci nadzorować pracę
Na czym polega: Smol Coder działa w terminalu i przez przeglądarkę. Widok przeglądarkowy pokazuje projekty, sesje, ustawienia oraz podgląd uruchomionej aplikacji.
Jak stosować: Jeśli wolisz interfejs graficzny, uruchom smol --web, otwórz podany adres i rozpocznij sesję w wybranym folderze.
Na co uważać: Zmiana interfejsu nie usuwa ograniczeń lokalnego modelu ani wymagań dotyczących pamięci.
6.Przy małym modelu pilnuj planu pracy
Na czym polega: Smol Coder zapisuje plan zadań i odznacza ukończone etapy. Po skróceniu historii rozmowy agent może do niego wrócić.
Jak stosować: Przy dłuższym zadaniu sprawdzaj, czy plan obejmuje istotne etapy i czy agent odnotowuje wykonane prace.
Na co uważać: Plan pomaga zachować ciągłość, lecz nie zastępuje kontroli działającego programu.
7.Złożony projekt zacznij od zwięzłej specyfikacji
Na czym polega: Autor ocenia, że mniejszy model lepiej radzi sobie z wykonaniem jasno opisanych zmian niż z samodzielnym ustaleniem wszystkich wymagań na początku.
Jak stosować: Poproś mocniejszy model o plan obejmujący zakres projektu, użyte technologie i najważniejsze funkcje. Gotową specyfikację przekaż agentowi lokalnemu.
Na co uważać: Zbyt długa instrukcja zużywa ograniczone miejsce w kontekście. Opisz to, co niezbędne do wykonania zadania.
8.Uruchom rezultat i obejrzyj go samodzielnie
Na czym polega: Po wygenerowaniu kodu agent może uruchomić serwer deweloperski, a aplikację da się obejrzeć we wbudowanej przeglądarce.
Jak stosować: Poproś agenta o uruchomienie projektu i otwórz wskazany adres. Sprawdź podstawowe funkcje, zanim uznasz zadanie za skończone.
Na co uważać: Port może być już zajęty przez inny program. W demonstracji agent musiał użyć innego portu, aby pokazać grę.
9.Zgłaszaj błędy na konkretnych przykładach
Na czym polega: W demonstracji część tekstur w grze nie wyświetlała się poprawnie. Autor przekazał agentowi zrzut ekranu i krótki opis problemu.
Jak stosować: Pokaż, gdzie występuje usterka, poproś o poprawkę, a potem odśwież aplikację i sprawdź wynik.
Na co uważać: Analiza zrzutów ekranu wymaga modelu obsługującego obrazy. Nie każdy model lokalny ma tę funkcję.
10.Traktuj pierwszą wersję jako punkt wyjścia
Na czym polega: Autor uzyskał działającą grę, ale potrzebował dodatkowej rundy pracy, by naprawić widoczną usterkę.
Jak stosować: Dziel dalsze poprawki na konkretne zadania i sprawdzaj efekt każdej z nich. Gdy brakuje Ci pomysłu na kolejne kroki, możesz poprosić mocniejszy model o dopracowanie planu.
Na co uważać: Działający agent nie gwarantuje poprawnego wyniku. Przy mniejszych modelach trzeba liczyć się z doprecyzowaniem poleceń i kilkoma próbami.
Redakcyjne tłumaczenie
Dlaczego powstał Smol Coder
Stworzyłem agenta programistycznego do pracy z darmowymi modelami uruchamianymi lokalnie. Wiem, że pokazów tworzenia kolejnych gier podobnych do Minecrafta było już wiele. W tym przypadku istotne jest jednak to, że cała widoczna gra, wraz ze zwierzętami i sterującymi ich zachowaniem mechanizmami, powstała przy użyciu bezpłatnego modelu działającego na moim komputerze.
Taką pracę można wykonać bez opłat za korzystanie z API. Komputer może też pozostawać bez połączenia z internetem, ponieważ model działa na własnym sprzęcie użytkownika.
Na kanale pokazywałem już, jak korzystać z lokalnych modeli w różnych agentach programistycznych, między innymi w Claude Code, Pi Agent SDK, DeepSeek Harness i OpenCode. To dobre narzędzia, ale nie powstawały przede wszystkim z myślą o mniejszych modelach uruchamianych na własnym komputerze.
Jednym z ograniczeń jest okno kontekstu, czyli ilość informacji, które model może uwzględnić naraz. W przypadku modelu, którego używam, może ono sięgać 256 tysięcy tokenów, o ile pozwala na to sprzęt. Tymczasem, według moich obserwacji, samo rozpoczęcie pracy w Claude Code zajmuje około 34 tysięcy tokenów. Jeśli komputer pozwala uruchomić model z kontekstem liczącym 128 tysięcy tokenów, tak duży koszt początkowy szybko staje się problemem.
Dochodzi do tego konfiguracja. Chciałem po prostu rozpocząć sesję, wybrać model z listy i pracować dalej. Program powinien sam wykrywać modele dostępne na komputerze, niezależnie od tego, czy korzystam z Ollamy, czy z LM Studio.
Tak powstał Smol Coder. Narzędzie jest bezpłatne, a jego kod jest otwarty. Dostosowałem do lokalnych modeli zarówno instrukcję początkową otrzymywaną przez agenta, jak i zestaw dostępnych narzędzi oraz sposób skracania historii rozmowy. Dodałem też listę zadań, która pomaga agentowi wrócić do właściwego etapu pracy po takim skróceniu. Repozytorium projektu znajduje się w opisie filmu.
Pokażę teraz instalację Smol Codera, pobranie pierwszego modelu na komputer i sposób pracy nad bardziej złożonym projektem.
Instalacja i pobranie modelu
Zacznij od otwarcia terminala albo wiersza poleceń. PowerShell również się nadaje. Smol Coder instaluję poleceniem npm install -g smolcoder@latest. Dopisek @latest służy do pobrania najnowszej wersji. Po zakończeniu instalacji program jest gotowy, ale do pracy potrzebuje jeszcze modelu.
Można go uruchomić przez Ollamę albo LM Studio. W tym przykładzie wybieram Ollamę. Wejdź na stronę ollama.com, wybierz system operacyjny, pobierz program i go zainstaluj. Następnie możesz przejrzeć dostępne modele.
Wybór zależy od sprzętu. Moim zdaniem używany tu model Qwen 3.8 dobrze nadaje się do programowania. Plik modelu ma około 18 GB, a do uruchomienia potrzeba mniej więcej 16 GB pamięci graficznej lub pamięci współdzielonej w przypadku Maca.
Aby go pobrać, skopiuj nazwę modelu z katalogu Ollamy i wpisz w terminalu ollama pull, dodając tę nazwę. Potem sprawdź działanie poleceniem ollama run z tą samą nazwą. Przy pierwszym uruchomieniu trzeba chwilę poczekać, aż model załaduje się do pamięci. Możesz wysłać prostą wiadomość, na przykład „Cześć”, i zobaczyć odpowiedź.
Praca w terminalu
Ze Smol Codera można korzystać na dwa sposoby: w terminalu lub przez przeglądarkę. Jeśli wybierasz terminal, najlepiej najpierw otworzyć go w folderze konkretnego projektu. Tworzę więc katalog demonstracyjny i uruchamiam w nim polecenie smol.
Po otwarciu interfejsu wpisuję /models. Smol Coder wykrywa modele udostępniane przez LM Studio i Ollamę, także wtedy, gdy usługa działa w kontenerze Docker. Wybieram model, którego chcę użyć. Poleceniem /effort ustawiam poziom rozumowania; w demonstracji wybieram wysoki. Gdy wysyłam wiadomość, odpowiedź pojawia się na bieżąco.
W terminalu mogę również przełączać tryby uprawnień kombinacją Shift+Tab. W trybie tylko do odczytu agent może przeglądać pliki projektu, ale nie może niczego zmieniać. W trybie edycji wolno mu modyfikować pliki, natomiast przed uruchomieniem polecenia musi poprosić o zgodę. Jest też tryb, w którym może zmieniać pliki i wykonywać polecenia bez takich pytań. Po zakończeniu pracy wychodzę poleceniem exit.
Widok przeglądarkowy
Jeśli wolisz interfejs graficzny, uruchom smol --web i otwórz adres podany przez program. Po lewej stronie zobaczysz projekty i zapisane sesje. Układ może być znajomy osobom, które korzystały z Claude Code, Claude Desktop albo aplikacji ChatGPT.
Otwieram folder demonstracyjny i rozpoczynam nową sesję. Tak jak w terminalu, mogę wybrać model, ustawić poziom rozumowania i zmienić tryb uprawnień. Zostawiam tryb edycji oraz wysoki poziom rozumowania.
Interfejs pokazuje też wykorzystanie okna kontekstu. Na początku zajęty jest około jeden procent. Dostępny rozmiar wynosi w tej sesji mniej więcej 131 tysięcy tokenów, choć wcześniej wspominałem o możliwych 256 tysiącach. Ollama bierze pod uwagę obciążenie pamięci graficznej i przydziela tyle miejsca, na ile pozwala komputer. Podczas nagrania mam włączony również program do rejestrowania obrazu, który zużywa część tej pamięci.
Wysyłam krótką wiadomość i mogę obejrzeć zarówno przebieg rozumowania udostępniony w interfejsie, jak i odpowiedź modelu. Czas zbudować pierwszy projekt.
Pierwszy projekt: kółko i krzyżyk
Na początek proszę agenta o stworzenie przeglądarkowej gry wieloosobowej w kółko i krzyżyk. Do wiadomości można też dołączyć obraz jako wzór, klikając przycisk załącznika albo wklejając go ze schowka — pod warunkiem że wybrany model potrafi analizować obrazy. Tutaj wystarcza mi polecenie tekstowe.
Po wysłaniu zadania pojawia się plan pracy. Ma on szczególne znaczenie przy lokalnych modelach, które często pracują z mniejszym oknem kontekstu. Gdy historia rozmowy zostaje skrócona, agent może przejrzeć plan, ustalić, co już zrobił, i wrócić do kolejnych kroków. Wykonane zadania są na liście odznaczane.
Gra powstaje szybko. Aby ją obejrzeć, mógłbym otworzyć pliki bezpośrednio, ale proszę agenta o uruchomienie serwera deweloperskiego. Pracuję w trybie edycji, więc przed wykonaniem polecenia program pyta mnie o zgodę.
Smol Coder ma wbudowaną przeglądarkę. Wklejam do niej adres uruchomionej aplikacji. Okazuje się, że wskazany port jest już zajęty przez inną grę działającą na moim komputerze. Informuję o tym agenta, a on uruchamia kółko i krzyżyk na innym porcie. Mogę teraz obejrzeć działającą grę wewnątrz interfejsu albo otworzyć ją w osobnym oknie przeglądarki.
Materiał sponsorowany: Oracle Agent Studio
Zanim przejdę do trudniejszego przykładu, kilka słów o sponsorze filmu. Agent AI może dobrze wypadać podczas pokazu, a mimo to sprawiać trudności przy wdrożeniu w firmie. Trzeba wtedy ustalić, kto ma dostęp do danych, kto zatwierdza zmiany i jak śledzić działania systemu.
Oracle Agent Studio for Fusion Applications pozwala budować agentów działających wewnątrz Oracle Fusion. Według sponsora mogą one korzystać z zasad bezpieczeństwa i mechanizmów kontroli dostępnych już w tej platformie. Przy tworzeniu rozwiązań można używać między innymi VS Code, Cursora, terminala, Gita oraz agentów takich jak Codex i Claude Code.
Oracle udostępnia też publiczne repozytorium z szablonami i przykładowymi aplikacjami pod adresem github.com/oracle/fusion-ai-studio. Sponsor informuje, że dla obecnych klientów Fusion Agent Studio jest dostępne bez dodatkowych opłat, a samo repozytorium jest otwarte dla wszystkich. Więcej informacji znajduje się na stronie Oracle wskazanej w opisie filmu.
Jak zlecić mniejszemu modelowi większy projekt
Usuwam pliki z projektu demonstracyjnego i rozpoczynam nową sesję. Teraz chcę stworzyć grę podobną do Minecrafta.
Przy takim zadaniu trzeba jasno określić wymagania już na początku. Mniejsze modele potrafią wprowadzać zmiany w kodzie, ale trudno oczekiwać od nich takiego samego planowania jak od najmocniejszych modeli ChatGPT czy Claude. Dlatego proponuję najpierw przygotować specyfikację z pomocą mocniejszego modelu, a dopiero później przekazać ją lokalnemu agentowi do wykonania.
Można to zrobić także bez płacenia. W demonstracji korzystam z ChatGPT bez logowania. Proszę go o specyfikację prostej gry przypominającej Minecrafta, którą mniejszy model będzie mógł zbudować w HTML, CSS i JavaScript. Gra ma działać w przeglądarce. Dopuszczam użycie Three.js i proszę o kilka typów terenu, odpowiedni wygląd tekstur, nieba i słońca, parę zwierząt z prostymi zachowaniami oraz nieskomplikowany system wytwarzania przedmiotów.
Zaznaczam przy tym, że instrukcja ma być zwięzła. Lokalny model dysponuje ograniczonym kontekstem, więc specyfikacja powinna zawierać potrzebne szczegóły bez nadmiernego rozrastania się. Otrzymany tekst kopiuję do Smol Codera i uruchamiam pracę.
W interfejsie widzę plan oraz etap, którym agent właśnie się zajmuje. Mogę też rozwinąć albo zwinąć widok jego rozumowania. Komputer jest teraz mocno obciążony, ponieważ model korzysta z dużej części pamięci graficznej, dlatego czekam na wynik.
Wynik i poprawianie błędów
Po około 20 minutach agent kończy pracę nad grą. Przez ten czas nie musiałem ponawiać polecenia ani przypominać mu, żeby kontynuował. W moich wcześniejszych próbach z lokalnymi modelami w innych narzędziach zdarzały się przerwy wymagające takiej interwencji.
Proszę agenta o uruchomienie gry na porcie 1234 i otwieram podany adres. Projekt nosi nazwę Voxel Mini. Po przejściu do widoku pełnoekranowego zauważam jednak, że części tekstur brakuje. Robię zrzut ekranu, wklejam go do rozmowy i piszę, że niektóre powierzchnie nie wyświetlają się poprawnie.
Żeby taka wskazówka zadziałała, model musi obsługiwać obrazy. Używany przeze mnie model potrafi analizować obrazy, korzystać z narzędzi i prowadzić rozumowanie. Przy wyborze innego modelu trzeba sprawdzić, czy ma odpowiednie możliwości.
Przy mniejszych modelach podobne poprawki są czymś zwyczajnym. Warto pokazać konkretny błąd i poprosić o jego naprawę. Po zmianach odświeżam grę: brakujące tekstury znów są widoczne. Mogę dalej sprawdzać działanie projektu, wskazywać kolejne usterki i rozwijać go krok po kroku. Jeśli potrzebowałbym dokładniejszego planu, mógłbym ponownie poprosić o niego ChatGPT albo Claude w dostępnej bezpłatnie wersji.
Tak wygląda mój sposób pracy ze Smol Coderem: mocniejszy model pomaga określić zadanie, lokalny agent wykonuje kod, a ja sprawdzam rezultat i przekazuję mu konkretne poprawki.