O czym jest ten film
- OpenAI opublikowało ponad 700 prac badawczych z matematyki; według laboratorium niemal każdy wynik powstał w odpowiedzi na pojedynczy prompt, a model poświęcał na niego średnio około trzech godzin „myślenia” — tyle, ile matematyk nie wystarcza przez całe życie.
- Model, który wygenerował te prace, nie został wydany publicznie — badacze mają w ręku wyłącznie efekty jego pracy.
- Autor wprowadza pojęcie wąskiej superinteligencji: system, który w jednym, ściśle określonym rodzaju pracy umysłowej daleko wykracza poza człowieka, podczas gdy pozostałe zdolności rozwijają się bardzo nierówno.
- Matematyka jest dla laboratoriów wyjątkowo wygodnym terenem: pytanie da się sformułować idealnie precyzyjnie, a poprawność odpowiedzi — łatwo rozpoznać i nagrodzić w treningu.
- Benchmarki matematyczne były już „wyczerpane”, więc OpenAI sięgnęło po otwarte problemy badawcze — dla laboratorium test twardości modelu, dla matematyków praca całego życia. Stąd napięcie ze środowiskiem naukowym, choć bez złych intencji.
- Kluczowy paradoks: kod jest równie weryfikowalny jak matematyka i pochłania ogromne inwestycji, a mimo to nadludzki inżynier się nie pojawił. Seniorzy wciąż stawiają zabezpieczenia, testy jakości i działają w modelu zerowego zaufania.
- Przykład: AI buduje wyszukiwarkę dokumentów, testy przechodzą, ale dopiero człowiek pyta, czy po odebraniu uprawień stare indeksy nie będą wyciekać treść. Umiejętność zadania właściwego pytania jest częścią inteligencji potrzebnej w tej robocie.
- Przykład z biznesu: sprawna wyszukiwarka odsłania klientowi dokumenty, które sobie przeczą — i nowy problem: kto jest właścicielem informacji i która wersja jest aktualna.
- Nie każdy problem jest kwestią inteligencji: intuicja biznesowa i projektowa zależą od kontekstu, a modele — trenowane na „pomocność” — nie stają się z czasem lepsze w podważaniu naszych założeń.
- Wniosek strategiczny: żyjemy w świecie wąskiej superinteligencji i powinniśmy tak planować. Skoro laboratoria sięgają po problemy pokroju równań Naviera–Stokesa, znaczy to, że gdzie indziej zaczynają im się kończyć wyzwania.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Wąska superinteligencja to nie uniwersalny umysł
Na czym polega: Model może przerastać ludzi w matematyce i logice formalnej, a jednocześnie zawodzić w projektowaniu systemów, redagowaniu przekonującej prozy czy ocenie biznesowej. Zdolności nie przenoszą się automatycznie między dziedzinami.
Jak stosować: Oceniaj AI osobno w każdym zadaniu, na własnych przykładach, zamiast wnioskować z jednego spektakularnego demo. Test „czy to działa akurat u mnie” jest ważniejszy niż wynik benchmarku.
Na co uważać: Komunikaty laboratoriów sugerują ogólność zdolności. Traktuj to jako obietnicę marketingową, nie opis stanu obecnego.
2.Weryfikowalność i pieniądze nie wystarczą — paradoks kodu
Na czym polega: Kod można sprawdzić (działa albo nie), laboratoria inwestują w programowanie fortunę — a mimo to nie widzimy maszyny, która samodzielnie budowałaby utrzymywalne systemy. Inżynierowie wręcz nasilają zabezpieczenia wokół słabości AI.
Jak stosować: Planując zatrudnienie i procesy, zakładaj ludzką weryfikację jako stały element, nie tymczasowy etap. Projektuj pipeline’y tak, żeby człowiek wchodził w momencie oceny, a nie tylko na końcu.
Na co uważać: Benchmark programistyczny może być już „nasycony”, podczas gdy prawdziwie trudna inżynieria wciąż czeka na ludzi. Nie myl jednego z drugim.
3.Test powstaje dopiero wtedy, gdy ktoś zada właściwe pytanie
Na czym polega: W przykładzie z wyszukiwarką wszystkie testy przechodziły, dopóki inżynier nie zapytał o cofnięte uprawnienia. To człowiek rozpoznał krytyczny warunek i przesledził go przez system.
Jak stosować: Wpisz pytania o bezpieczeństwo, uprawnienia i przypadki brzegowe w stały proces przeglądu — nawet (zwłaszcza) gdy kod napisał model. Rozwijaj w zespołach refleks „o czym tu nikt nie pomyślał”.
Na co uważać: Zielone testy nie dowodzą bezpieczeństwa. Dowodzą wyłącznie tego, o co ktoś pomyślał zapytać.
4.Szybsze generowanie kodu przerzuca koszt na utrzymanie
Na czym polega: Wyprodukowanie więcej funkcji, których garstka ludzi umie sprawdzić i utrzymać, nie przyśpiesza firmy — po prostu dokłada roboty tym ludziom. Utrzymywalność staje się istotą zawodu.
Jak stosować: Mierz efektywność zespołu nie wolumenem wygenerowanego kodu, lecz kosztem jego utrzymania i tempem, w jakim system da się dalej rozwijać.
Na co uważać: Tempo dostarczania łatwo maskuje narastający dług architektoniczny — rachunki przyjdą za kilka miesięcy.
5.Odkrycie właściwego pytania bywa najcenniejszym wkładem w biznesie
Na czym polega: Dopracowana funkcja ujawniła klientowi sprzeczne dokumenty. Osoba, która nazwała ten problem i zmieniła firmową decyzję o zakresie naprawy, wniosła więcej niż samo wykonanie funkcji — zlokalizowała blokadę na drodze do wartości, za którą klient zapłaci.
Jak stosować: Gdy AI przyspiesza wykonanie, przeznacz odzyskany czas na obserwację klienta i szukanie ukrytych przeszkód, a nie na produkcję kolejnych funkcji.
Na co uważać: Nie mamy wielu przykładów, by modele same odkrywały takie pytania. Czekanie, że AI je zada, to ryzyko na waszą odpowiedzialność.
6.Szybkość opłaca się tylko wtedy, gdy zamienia się w naukę
Na czym polega: Szybszy rozwój ma sens dlatego, że szybciej dostarcza klientowi coś do wypróbowania — i pozwala wcześniej skorygować kurs. Bez tej pętli informacji można pędzić jak najszybciej i zmarnować mnóstwo.
Jak stosować: Łącz każdą iterację z kontaktem z klientem i jawną decyzją: czego się właśnie nauczyliśmy i co zmieniamy.
Na co uważać: Produkcja funkcji bez zrozumienia, dlaczego klient utknął, to szybkie marnowanie zasobów — tempo tylko potęguje stratę.
7.AI nie staje się lepsze w podważaniu twoich założeń
Na czym polega: Można by oczekiwać, że modele będą coraz skuteczniej kwestionować nasze ramy i przeformułowywać pytania. Trening pod „pomocność” pchnął je w przeciwną stronę — model raczej potwierdzi twoje spojrzenie, niż je sprawdzi.
Jak stosować: Ról pytającego nie zrzucaj na model. Żądaj kontrargumentów wprost („wskaż najsłabsze założenie tego planu”), a decyzję podejmuj sam.
Na co uważać: Poczucie, że „AI się zgadza ze mną”, to nie walidacja pomysłu, tylko efekt treningu pod ugodowość.
8.Dzięki AI teoria szybciej zamieni się w narzędzia twojej branży
Na czym polega: Odkrycia matematyczne tradycyjnie dołągały do praktyki latami. Autor przewiduje, że samo AI skróci tę drogę — teoria szybciej trafi do inżynierii, produktów, tańszych obliczeń i lepszych metod kontroli.
Jak stosować: Obserwuj narzędzia w swojej dziedzinie — mogą nagle skoczyć jakościowo. Przygotuj procesy i ludzi na wchłanianie nowych metod, gdy się pojawią.
Na co uważać: Lepsze narzędzia to nie to samo, co model zdolny prowadzić firmę w tej branży. Nie składuj tych oczekiwań w jednym worku.
9.Inwestuj w głębię dziedziny plus biegłość z narzędziem
Na czym polega: Wniosek autora: nie porzucaj nauki swojej specjalności ze strachu przed AI. Wybierz obszar, w którym możesz realnie coś zmienić na bazie doświadczenia i pasji, a AI potraktuj jako narzędzie, które to wzmacnia.
Jak stosować: Ucz się modeli systematycznie (jak narzędzia warsztatowego), ale o kierunku niech decypuje wpływ, jaki chcesz wywrzeć — to on wskazuje, kiedy sięgnąć po narzędzie i kiedy je odłożyć ze słowami „nie ufam mu”.
Na co uważać: Zaufanie i nieufność muszą opierać się na osądzie merytorycznym, nie na nawyku. Umiejętność „odkładania narzędzia” to dziś jedna z najbardziej pożądanych kompetencji — seniorzy życzyliby jej sobie juniorom.
10.Miejsce, gdzie pojawia się superinteligencja, mówi, gdzie kończą się problemy
Na czym polega: Skoro laboratoria muszą sięgać po wyzwania pokroju równań Naviera–Stokesa, znaczy to, że łatwiej weryfikowalnych problemów zaczyna im brakować. Sam profil „pików” zdolności ujawnia, co laboratoria potrafią z modeli wyciągnąć.
Jak stosować: Planuj w skali miesięcy i lat dla świata nierównych zdolności: automatyzuj tam, gdzie wynik łatwo sprawdzić; utrzymuj ludzi tam, gdzie decydują osąd i kontekst.
Na co uważać: Nie zakładaj, że przełom w jednej dziedzinie automatycznie rozleje się na inne — każde przeniesienie trzeba sprawdzić osobno.
Redakcyjne tłumaczenie
Siedemset prac, jeden prompt i model, którego nikt nie widział
OpenAI opublikowało właśnie ponad siedemset prac badawczych z matematyki. A najbardziej uderzyło mnie to, jak laboratorium opisuje sposób, w jaki powstały. Prawie każdy wynik miał wyjść z pojedynczego zapytania do modelu, którego… nie wydano publicznie. To najczystszy jak dotąd przykład superinteligencji, którą napędzają duże modele językowe.
Słyszycie o czymś takim od lat, prawda? W telewizji rozrywkowej, od gwiad dziennikarstwa: AI idzie po waszą pracę, świat się kończy. Rozumiem — wygląda to jak dowód, nieprawdaż? Tyle że ja przeczytałem całą publikację i wyszedłem z niej z dokładnie odwrotnym wnioskiem. Wciąż znam inżynierów, którzy nie dopuściliby agenta programistycznego blisko systemu produkcyjnego. Zresztą większość tak ma: rozstawiają warstwy ocen jakości — tzw. evalów — i pracują w modelu zerowego zaufania, nie przyjmując z góry, że AI zachowa się poprawnie.
I właśnie tę różnicę warto dostrzec. Bo kod przecież da się sprawdzić, prawda? Każde laboratorium przelewa miliony w modele, które programują. Weryfikacja jest banalna: albo kod działa, albo nie. Skoro model jest nadludzki w matematyce, można by sądzić, że już dawno rozgryzałby wasze repozytoria. A nie rozgryza. Ta luka to najużyteczniejsza rzecz, jaką dziś można zrozumieć w temacie AI — bo pokazuje, gdzie stoi wasza praca i dlaczego tak, a nie inaczej.
Plan na dziś taki: dlaczego w ogóle powinniście interesować się matematyką, choćby nigdy nie była waszą ulubioną; co wynika z całego tego tygodnia odkryć; a czego z tego nie wynika o naszej pracy. Bo moim zdaniem mieszkamy w świecie wąskiej superinteligencji, a niektóre jej konsekwencje są bardzo zaskakujące. Pociągniemy ten wątek do kodu, potem do biznesu, a na końcu do waszych umiejętności: co warto się uczyć w takim świecie, jak korzystać z możliwości, które dają te systemy, i jak się rozwijać w tym, na czym naprawdę nam zależy.
Co jest w środku tych prac
Zaczniemy od zawartości. Zaraz zrobi się trochę nerdowsko, ale nie przesadzę.
Na egzaminie z matematyki odpowiedź już jest znana — komuś. W badaniach naukowych chodzi o ustalenie czegoś, czego ludzie jeszcze nie rozgryźli. Przydatny wynik to taki, na którym inni mogą dalej budować. Z czasem potrafi zmienić metody dostępne inżynierom — a więc i produkty, z których korzystamy codziennie.
Weźmy coś maksymalnie nerdowskiego: mnożenie macierzy. Może uczyliście się go w szkole, może nie. To arytmetyka stojąca za mnożeniem siatek liczb, a systemy AI przeliczają tego morze. Jeden z opublikowanych wyników poprawia teoretyczne ograniczenie na liczbę operacji potrzebnych, gdy takie siatki rosną. Inny dotyczy wnioskowania o wnętrzu materiału na podstawie pomiarów powierzchni — trochę jak mierzenie piłki plażowej od zewnątrz, żeby dowiedzieć się, co ma w środku. Dla pewnej klasy materiałów sprężystych dowód mówi wprost: to możliwe. Jeśli trzeba zbadać obiekt, nie tnąc go na pół, taka wiedza jest bezcenna — potwierdza, że potrzebne informacje rzeczywiście kryją się w pomiarach powierzchni. Można więc pracować nad ich odzyskiwaniem w realnych warunkach, gdzie dane bywają niepełne i zaszumione.
I nawet jeśli matematyka to wasz najmniej ulubiony przedmiot, jest powód, żeby się temu przyjrzeć. Te odkrycia i tak do was trafią — przez tańsze obliczenia, lepsze metody badań nieniszczących, sprawniejsze oprogramowanie. Model może w ten sposób podnieść jakość narzędzi w waszej branży. Ale to nie znaczy, że będzie ekspertem od prowadzenia firmy w tej branży, prawda? Odkrycia z dzisiejszych prac rozejdą się po świecie, jednak z tego, że model potrafi je rozwiązać, nie wynika magicznie, że jego osąd obejmie wszystko, czym zajmujemy się na co dzień.
Jedno chcę jednak powiedzieć wyraźnie: choć brzmi to jak coś bardzo odległego od codzienności, do codzienności może dotrzeć zaskakująco szybko — właśnie dzięki AI. To znaczy: z pomocą AI będziemy mogli przeciągnąć tę teorię do inżynierii, do technologii używanej każdego dnia, wyraźnie szybciej niż dziesięć lat temu. I dlatego częściowo się cieszę: dostajemy szansę ulepszyć świat setkami sposobów naraz.
Trzy godziny zamiast całego życia
A teraz model, który to wszystko wyprodukował — wciąż niewydany. Ani ja, ani wy nie mamy do niego dostępu. Badacze trzymają w rękach wyłącznie owoce jego pracy. OpenAI podaje, że model jest tak mocny, iż pojedynczy wynik, który przed chwilą opisywałem, kosztował go około trzech godzin „myślenia”. Trzy godziny na problemy, nad którymi matematycy bywają bezradni przez całe życie. To superinteligencja. Nie ma na to innego słowa.
Wąska superinteligencja — właściwa rama
Czego się z tego uczymy? Odłóżmy na moment samą matematykę, udawajmy, że nas nie obchodzi. Co to mówi o AI i o nas samych?
Moim zdaniem najlepiej pasuje tu ramy „wąskiej superinteligencji”: system, który w bardzo wąskich rodzajach pracy umysłowej wykracza poza ludzkie możliwości, podczas gdy reszta jego zdolności rozwija się bardzo nierówno. I właśnie dlatego matematyka jest takim interesującym poligonem: można w niej precyzyjnie określić, czym jest sukces, a potem poświęcić całe życie dążeniu do celu. Pytanie przez cały czas jest doskonale jasne — ale rozumowanie potrzebne do odpowiedzi bywa niezwykle trudne, zawikłane, wymagające opanowania kilku działów matematyki naraz. Kiedy trenujesz system, nagradzając poprawne odpowiedzi, bardzo pomaga możliwość rozpoznania, że odpowiedź jest poprawna. Matematyka to umożliwia — i jednocześnie stawia przed modelem problemy ekstremalnie trudne. Podejrzewam, że ta dziedzina jest wyjątkowo dobrze ułożona pod rodzaj zysków w rozumowaniu, które obserwujemy właśnie teraz.
OpenAI tłumaczy, że sięgnęło po otwarte problemy badawcze, bo klasyczne testy matematyczne przestały różnicować — modele rozwiązywały je w całości. Laboratorium potrzebowało trudniejszych pytań. A tymi pytaniami okazały się zagadnienia, wokół których ludzie budowali kariery i których nie rozwiązali. To wyjaśnia zderzenie ze światem matematyków. Nie trzeba sobie wyobrażać, że OpenAI wychodzi skrzywdzić matematyków — nie mamy na to żadnych dowodów. Badaczom z laboratorium trzeba było sprawdzić, jak daleko zaszedł ich model, więc sięgnęli po coś naprawdę trudnego. Dla kogoś innego ten sam problem to lata pracy i wkład, którym chciał się przyczynić do nauki. Jednym — test twardości modelu, drugim — dorobek życia.
Kod: superinteligencja, która powinna była przyjść jako pierwsza
Zanim ruszymy dalej, musimy rozbić jedno duże założenie dotyczące naszej własnej pracy. Przełom w rozumowaniu matematycznym mówi niewiele o tym, jak ta sama zdolność przenosi się na inne obszary — na inżynierski osąd czy intuicję biznesową.
Zatrzymam się przy inżynierii, bo programowanie jest miejscem, gdzie robi się naprawdę ciekawie, a prawie nikt o tym głośno nie mówi. Kod dostał od laboratoriów kolosalne inwestycje. Popyt komercyjny na maszynę programującą lepiej niż człowiek jest ogromny. Kod można uruchomić, napisać do niego testy, sprawdzić, czy daje właściwy wynik. Jeśli weryfikowalne nagrody i grube finansowanie wystarczałyby do superinteligencji, to programowanie jest dokładnie miejscem, w którym miałyby się najpierw pokazać miażdżące przewagi maszyn. Tego nie widzimy.
AI jest już znakomite w fragmentach programowania, a ja cały tydzień rozmawiam o inżynierii systemów potrzebnej do tego, żeby oprogramowanie wygenerowane przez AI w ogóle działało. O ograniczaniu tego, do czego model ma dostęp i co może zmieniać, zamiast zakładania, że zachowa się poprawnie. O testach, testach i jeszcze raz testach. O wyłapywaniu błędów i pilnowaniu, żeby kod dało się utrzymywać, gdy system rośnie. Inżynierowie, którzy te zabezpieczenia stawiają, robią to dlatego, że są seniorami i wiedzą lepiej. To wkład człowieka tworzy tu wartość — i nie wolno przypisać całej tej wartości modelowi tylko dlatego, że ostatecznie to model wypluł kupę kodu.
Wyszukiwarka dokumentów i pytanie o cofnięte uprawnienia
Prosty przykład. Wyobraźcie sobie firmę, która zleca AI zbudowanie funkcji: pracownicy mają móc przeszukiwać dokumenty firmowe. AI buduje tę funkcję. Odpowiedzi są użyteczne, testy przechodzą, wszystko jest weryfikowalne. A wtedy inżynier pyta: co się stanie, gdy komuś odebrano uprawnienia do dokumentu? Czy stary indeks wyszukiwania albo zachowana odpowiedź mogą przez przypadek ujawnić treść? Jeśli tak — firma ma problem z prywatnością. Funkcja wyglądała na gotową, bo nikt nie sprawdził warunku, który przy analizie ryzyka i bezpieczeństwa był najważniejszy. To inżynier rozpoznał ów warunek, to inżynier przesledził go przez cały system, to inżynier wiedział, co trzeba zmienić.
Test można napisać dopiero wtedy, gdy wiadomo, jak zadać pytanie. A umiejętność zadania tego pytania jest częścią inteligencji potrzebnej do wykonania tej roboty. Tak samo jak rozumienie, że odpowiedź może zależeć od innych części systemu — wychodzących poza kod, który akurat napisał model.
Dlatego programowanie jest dla mnie takim wyzwaniem dla tezy, że wszyscy jedziemy tą samą drogą ku superinteligencji. Zapytajcie doświadczonych inżynierów, czy skończyły im się trudne problemy. Nie skończyły. Zmagają się ze zmianami wchodzącymi w interakcje ze starym kodem, z założeniami, które przestają być prawdziwe, z decyzjami, od których zależy, czy system da się jeszcze utrzymać za pół roku. Benchmark programistyczny może przestać różnicować i da się go „nasycić” — i nasyciliśmy — mimo że wciąż jest mnóstwo bardzo trudnej inżynierii, którą na dziś potrafią robić wyłącznie ludzie.
I to rozróżnienie ma ogromne znaczenie. Szybsze wygenerowanie funkcji ma swoją wartość, ale generowanie kolejnych funkcji, których garstka inżynierów umie sprawdzić i utrzymać, po prostu dokłada tym ludziom roboty, prawda? To zresztą staje się istotą zawodu inżyniera — i dokładnie to widać dziś w całej branży. Inżynieria to obszar, w którym superinteligencja powinna była się pokazać: dziedzina weryfikowalna, mocno finansowana, idealna na coś w rodzaju nadludzkiego inżyniera. Tymczasem widzimy odwrotność: inżynierowie budują zabezpieczenia wokół słabości AI nawet wtedy, gdy AI produkuje kod coraz szybciej. Nie chodzi o to, że AI nie jest potwornie użyteczne w inżynierii — jest. Tylko że użyteczność dotyczy generowania kodu, a nie projektowania kodu utrzymywalnego i skalowalnego na poziomie architektury systemu.
Wiem, że w laboratoriach padnie: to kwestia czasu, doprowadzimy to do końca. Ale dlaczego więc się nie pokazała? Moim zdaniem dlatego, że zysków w logice i inteligencji widocznych w matematyce nie da się przenieść jeden do jednego do inżynierii systemów. Nie przekładają się tak samo — a im dalej od dziedziny formalno-logicznej, tym wyraźniej to widać. Na przykład w biznesie.
Sprzeczne dokumenty, czyli nowy problem
Pociągnijmy ten sam wątek w stronę biznesu — tu robi się jeszcze bliżej nas. Załóżmy, że inżynier naprawił wyszukiwarkę z poprzedniego przykładu i działa prześlicznie. Sadzasz się z klientem, patrzysz, jak z niej korzysta. I widzisz, że klient znajduje dokumenty, które sobie przeczą — nie wie, któremu ufać i na podstawie którego podjąć decyzję. I nagle macie zupełnie nowy problem, nie? Ułatwiliście trafianie na informacje sprzeczne — takie, które od zawsze siedziały w waszym repozytorium — i odsłoniliście kupę niespójności, które ktoś musi rozsupłać.
W naszym przykładzie można wydać kolejny miesiąc na doszlifowanie wyszukiwania i zostawić sedno nietkniętym. Ale ktoś musi ustalić, kto jest właścicielem informacji, która wersja jest aktualna i jak to trzymać w ryzach. Można to przepchać przez wszystkie reguły biznesowe, można zrzucić na project managera. Zapewne oznacza to zmianę sposobu pracy kilku zespołów naraz — a gdy skończycie, to już zupełnie inny projekt.
Osoba, która ten problem odkryła, wniosła do firmy coś bezcennego: namierzyła blokadę na drodze do wartości, za którą klient realnie zapłaci. Zrozumiała, co dzieje się w pracy klienta, i zmieniła firmową decyzję o tym, ile kosztuje naprawa. Tego zrozumienia nie dało się wpisać do pierwotnych instrukcji, bo jeszcze go nie było. Pozyskanie brakujących informacji to część pracy.
Znam to: „przecież to było oczywiste”. Ale to uproszczony przykład historii, którą widziałem na własne oczy niezliczenie wiele razy. W biznesie odkrycie właściwego pytania bywa ważniejsze niż wszystko inne. I ciekawe, że nie mamy zbyt wielu przykładów, by modele językowe to robiły.
Szybkość opłaca się tylko wtedy, gdy zamienia się w naukę
Konsekwencje dla firm? W naszym przykładzie szybszy rozwój jest użyteczny wyłącznie dlatego, że szybciej dostarcza klientowi coś do wypróbowania. Jeśli wykorzystacie tę szansę do nauki, realnie przyspieszycie w ogóle — wcześniej skorygujecie projekt. Ale jeśli będziecie produkować funkcje bez zrozumienia, dlaczego klient utknął, możecie pędzić jak najszybciej i mnóstwo zmarnować.
Więc dla nas, nie-matematyków, uwięzionych w świecie biznesu i technologii, sedno brzmi: jak pracować z AI, które jest ekstremalnie dobre w generowaniu — przykład z kodem pokazałem, bo znamy go już wszyscy — a bywa słabsze w rzeczach, w których spodziewalibyśmy się mistrzostwa od superinteligentnego systemu. Jedno z wielkich pytań naszej epoki brzmi: czy to ma się zaraz zmienić? Dobra wiadomość jest taka, że za kilka lat wszyscy się przekonamy na własnej skórze.
Nie wszystko jest funkcją inteligencji
Z tego matematycznego momentu wynika wniosek, który lubię: to nie jest przesądzone, że superinteligencja w jednej dziedzinie natychmiast przeniesie się na inne. Powód jest prosty. Nie każdy problem jest kwestią inteligencji. Jest intuicja biznesowa, jest rozsądek w projektowaniu systemów — rzeczy głęboko osadzone w kontekście, w których ekstremalnie trudno doprowadzić AI do mistrzostwa.
Są nawet obszary, w których spodziewalibyśmy się postępu, a go nie widać. Można by oczekiwać, że AI będzie coraz lepsze w podważaniu naszych założeń, w przeformułowywaniu pytań, w pomaganiu w ich lepszym stawianiu. Ale ponieważ zainwestowaliśmy tyle w trening modeli pod „pomocność”, spchnęliśmy je w odwrotną stronę. AI z czasem nie staje się lepsze w kwestionowaniu tego, co przyjęliśmy za pewnik.
To powinno dodawać otuchy. Bo historie, które opisywałem, to sceny toczące się w kółko na naprawdę żywych projektach — i ludzie wnoszą w nich ogromną wartość. Czy AI zmienia ich role? Tak. Czy sprawia, że coraz więcej inżynierów nie dotyka kodu bezpośrednio? Tak. Czy to znaczy, że zostali bez pracy? Nie. Znaczy to, że zmieniają sposób pracy, bo dostali nowe narzędzie.
Tak samo będzie z matematyką: to zmieni sposób, w jaki matematycy uprawiają swoją dziedzinę, i sposób, w jaki teoria przechodzi do inżynierii i produktów. Ale nie znaczy, że model od zaraz zrozumie biznes i projektowanie systemów. Tych punktów inteligencji nie da się tak po prostu wydać gdzie indziej.
Gdzie lokować punkty umiejętności
Dlatego nie sądzę, żeby morał brzmiał: przestańcie się uczyć swojej dziedziny, bo AI jutro będzie aż tak dobre. Jeśli zastanawiacie się, gdzie ulokować punkty umiejętności — czego uczyć się bez ryzyka, że tego pożałujecie — zachęcam, żebyście wzięli swoje doświadczenie, swoją pasję, to, co chcecie robić, i skupili się na obszarze, w którym realnie możecie coś zmienić. A AI potraktowali jak narzędzie, które to, co robicie, potężnie wzmacnia. Zdecydowanie warto nauczyć się go używać, zdecydowanie warto po nie sięgać — ale to skupienie na wpływie, jaki wywieracie, decyduje, kiedy po narzędzie sięgnąć. I kiedy je odłożyć ze słowami: „nie ufam mu”.
Tę umiejętność widzę dziś w wielu miejscach firmy. Widzę ją w rozmowach z inżynierami; seniorzy życzyliby jej sobie juniorom; handlowcy próbują ją opanować, budując sprzedaż z wsparciem inżynierów, żeby trafiać na właściwe rozmowy we właściwym momencie i domykać transakcje. I to jest rzecz, którą chcę wam zostawić: mamy zaskakująco dużo sprawczości w decydowaniu, jak używać AI w biznesie i w życiu prywatnym. To my wybieramy, gdzie to narzędzie stosujemy, a gdzie nie — i to my orzekamy, gdzie się sprawdza, a gdzie nie.
A co w tym kocham, to fakt, że to AI musi zmieścić się w ludzkim świecie. Jeśli AI ma wśród nas istnieć, musi poradzić sobie z całym bałaganem bycia człowiekiem: bałaganem naszych biur, naszych baz danych, naszych rozjechanych CRM-ów. Musi po prostu działać.
Trzeźwe spojrzenie zamiast euforii
Rozumiem, że nadludzkie wyniki w matematyce robią wrażenie. To kamień milowy sztucznej inteligencji i bez wątpienia przełom w historii matematyki. Jestem podekscytowany — i mam sporo empatii dla ludzi, którzy całe życie poświęcili tym problemom, a teraz są rozwiązane. Trudna to pozycja. Ale w tym wszystkim chcę zachować trzeźwe spojrzenie na to, czym jest wąska superinteligencja. Nie chcę zakładać, że skoro profil modelu w matematyce i logice formalnej strzela daleko ponad poziom ludzki, to lada moment zaprojektuje systemy inżynierskie tak dobrze, że zabezpieczenia przestaną być potrzebne. Nie. Tak to nie działa. Ani że lada moment zacznie pisać prozę, którą uznamy za mistrzowską i przekonującą — internet wciąż pełen jest tekstów, po których od pierwszego akapitu poznajecie maszynę. Ani że zrozumie biznes. Bo te rzeczy nie są funkcją punktów IQ, prawda? Czasem mam wrażenie, że laboratoria gonią właśnie punkty IQ. A w praktyce większość zastosowań nie rozstrzyga się na różnicy między IQ 150 i 140, tylko na tym, czy potraficie podjąć właściwą decyzję i ją przeprowadzić.
Ogień w brzuchu zamiast punktów IQ
Dużo myślę ostatnio o uwadze, którą rzucił Alexander Wang (Informacja dodatkowa: Alexander Wang to założyciel firmy Scale AI, dostawcy danych do treningu modeli), gdy mówił o projekcie Muse i o tym, na czym skupia się jego zespół. Mówił o znaczeniu wykonania: o tym, żeby wziąć coś na celownik, poświęcić się temu i doprowadzić do końca. Każdy, kto zaznał biznesu, potwierdzi — takiej koncentracji nic nie zastąpi. Trzeba się tym palić. To nie jest funkcja IQ ani „superinteligencji”. To funkcja ludzkiego pragnienia, żeby wyjść w świat i coś w nim zmienić. I tego matematyczny wynik wam nie odbierze.
Nie wiem, co przyniesie jutro, ale wygląda na to, że żyjemy w świecie wąskiej superinteligencji o bardzo szpiczastym profilu — i powinniśmy tak planować. W pewnym sensie powinno to dawać więcej otuchy, niż się wydaje. Bo miejsce, w którym się pokazała, mówi sporo o tym, na czym laboratoriom naprawdę zależy i co potrafią z tych modeli wyciągnąć. Jeśli muszą sięgnąć po problem pokroju równań Naviera–Stokesa (Informacja dodatkowa: równania Naviera–Stokesa opisują ruch płynów; ścisła teoria ich rozwiązań to jeden z problemów milenijnych z nagrodą miliona dolarów), to znaczy, że wszędzie indziej zaczynają im się kończyć tory.
Co dalej? Nie jestem pewien, czy ktokolwiek ma na to gotową odpowiedź. Zobaczymy — zapinam pasy i jadę razem z wami. Napiszcie w komentarzach, co sądzicie o tych matematycznych wynikach.