The Man Who Calls BS On AI: They're LYING About AI, 2027 Is When It All Breaks! | Ed Zitron

O czym jest ten film

1. Ed Zitron twierdzi, że generatywna AI jest w swojej istocie oszustwem sprzedażowym: obiecuje się magię, a dostarcza drogie, zawodne oprogramowanie chmurowe.
2. Przychody branży są w dużej mierze okrężne — trzy giganty chmurowe finansują dwie nierentowne firmy (OpenAI i Anthropic), które oddają im te pieniądze za moc obliczeniową.
3. Subskrypcje są głęboko dotowane: przy abonamencie 200 dolarów miesięcznie użytkownik potrafi „spalić” tokeny warte tysiące dolarów.
4. Zitron kwestionuje narrację o adopcji — jego zdaniem to w dużej mierze wymuszone użycie, wpychane do Google Docs, Worda i Amazona.
5. Spór o halucynacje: prowadzący pokazuje spadek z ~21% do ~0,7% na prostych zadaniach, Zitron odpowiada, że liczy się niezawodność w zadaniach ryzykownych.
6. Debata o pamięci, kontekście i o tym, czy liczy się proces uczenia się, czy sam wynik.
7. Analogia z bańką dot-com i „dark fiber”: dlaczego zdaniem Zitrona po tej bańce nie zostanie użyteczna infrastruktura.
8. Rozdzielenie pojęć: LLM-y kontra robotyka, AlphaFold, autonomiczne pojazdy i klasyczne uczenie maszynowe.
9. Prognoza: OpenAI wyczerpuje gotówkę około 2027 roku, co uruchamia efekt domina — SoftBank, Oracle, Nvidia, korekta wycen i „depresja technologiczna”.
10. Praktyczna rada dla zwykłego inwestora: być podejrzliwym wobec obietnic spółek technologicznych i traktować rynek jak środowisko o podwyższonej zmienności.

Redakcyjne tłumaczenie

Teza otwierająca: to jest przekręt

Ed Zitron: Uważam, że generatywna AI jest w swojej istocie przekrętem. Nie sądzę, żeby sprzedawano ją jako uczciwe oprogramowanie. Przesadza się z tym, co potrafi, z tym, co będzie potrafiła, i z tym, jak wyglądają jej finanse — do tego stopnia, że wprowadza się w błąd cały świat. Te firmy aktywnie wykorzystują słabości dziennikarstwa, naszych gospodarek, a także instytucji, które powinny czuwać: analityków po stronie sprzedażowej, rządów i całej reszty.

Steven Bartlett: „Przekręt” to mocne słowo.

Ed Zitron: A jak inaczej nazwać coś, co od samego początku sprzedaje się w kategoriach magii — jako rzecz, która zastąpi wszystkie zawody i wyleczy raka — a kiedy się temu przyjrzeć, okazuje się nudnym oprogramowaniem chmurowym: skrajnie drogim, nierentownym i z gruntu niepewnym?

Steven Bartlett: Ludzie zapytają, skąd czerpiesz swoje wnioski. Jakie masz doświadczenie?

Ed Zitron: To zabawne, bo mówią: „On nie ma doświadczenia w finansach”. Jestem w branży technologicznej od piętnastu, szesnastu lat, w PR — ale to jest praktyczne doświadczenie. Kocham technologię i jestem nią autentycznie zafascynowany. I nagle pojawia się coś, o czym wszyscy mówią mi, że to najlepszy wynalazek od czasu krojonego chleba, a to nie potrafi nawet podstaw. Nie potrafi porządnie wyszukiwać.

Kiedy pytasz entuzjastę AI: „Jak wygląda twoja konfiguracja?”, zaczyna opisywać konstrukcję rodem z rysunków Rube’a Goldberga — musisz mieć obudowę, musisz użyć właściwego promptu, ale nie tego promptu, tylko tego, z tym modelem, ale tego modelu nie używaj na początku, tylko na końcu. A to ma być sztuczna inteligencja. Ma być mądra. Ma być autonomiczna. Ma być czymś, co ustawiasz i o czym zapominasz.

(Informacja dodatkowa: „maszyna Rube’a Goldberga” to w kulturze anglosaskiej metafora absurdalnie skomplikowanego urządzenia, które wykonuje prostą czynność.)

Skąd naprawdę biorą się przychody z AI

Steven Bartlett: Mamy tu na stole sześć wiodących firm AI: Anthropic, Amazon, Nvidia, Microsoft, OpenAI i Google. Mówisz, że ich model biznesowy to przekręt.

Ed Zitron: Ich przychody nie pochodzą tak naprawdę z AI. Jeszcze do niedawna prawie żadne przychody z AI nie pochodziły. Dziś siedemdziesiąt procent wszystkich przychodów z AI w tych firmach pochodzi od OpenAI i Anthropic — dwóch nierentownych, nietrwałych firm, które dosłownie nie mogłyby istnieć, gdyby te same firmy nie dawały im pieniędzy. Amazon przesłał OpenAI pięćdziesiąt miliardów dolarów w tym roku. Pięć miliardów przesłał Anthropikowi. Google przesłał Anthropikowi dziesięć miliardów.

W ciągu najbliższych trzech i pół roku, według szacunków analityków sprzedażowych — tych samych, które decydują o tym, czy akcje pójdą po wynikach w górę, czy w dół — OpenAI i Anthropic mają wygenerować czterysta miliardów dolarów przychodu albo więcej. To jakieś trzydzieści procent wzrostu całej chmury, pochodzące od dwóch nierentownych firm, którym te pieniądze ktoś będzie musiał najpierw dać.

Do tego te spółki mają tak niewielki szacunek dla przeciętnego inwestora i analityka, że w ogóle nie ujawniają przychodów z AI. Kiedy raczą coś powiedzieć, używają czegoś, co nazywa się „zannualizowanym run rate” — a to nie znaczy nic. Nigdy tego nie definiują. To może być miesiąc razy dwanaście. Może być miesiąc razy trzynaście. Może być ostatnie cztery tygodnie razy trzynaście. Za każdym razem inaczej. A czasem po prostu w ogóle o tym nie wspominają.

(Informacja dodatkowa: annualized run rate to przeliczenie krótkiego okresu na skalę roczną. Ponieważ nie jest to kategoria księgowa objęta standardami raportowania, spółka sama decyduje, jaki okres bierze za podstawę.)

Masz więc rzekomo największą i najbardziej wpływową zmianę w historii oprogramowania, a kiedy pytasz: „Ile na tym zarabiacie?”, słyszysz: „Ojej, nie mogę powiedzieć, jestem zbyt nieśmiały”. To są spółki publiczne — przynajmniej te, które nie nazywają się OpenAI i Anthropic. Kiedy mają dobre wieści, mówią o nich. A kiedy czegoś nie mówią, to samo w sobie jest informacją.

Ile kosztuje jedna data center i po co ona jest

Steven Bartlett: Używałeś tych narzędzi — Gemini, Anthropic, ChatGPT — i nie znalazłeś w nich wartości?

Ed Zitron: Jakaś wartość tam jest, ale wydano ponad bilion dolarów CAPEX-u.

Steven Bartlett: Co dla ciebie znaczy CAPEX?

Ed Zitron: Wydatki kapitałowe. Kiedy prowadzisz firmę, masz koszty operacyjne — na przykład prąd — które księgujesz od razu. Wydatki kapitałowe to inwestycje długoterminowe, teoretycznie jednorazowe. Centrum danych albo karty GPU, które w tym centrum umieszczasz.

Te układy do AI są znacznie większe i znacznie bardziej prądożerne. Wymagają dużo pamięci o wysokiej przepustowości, a ponieważ potrzeba ich tysiące, dziesiątki tysięcy, czasem setki tysięcy — potrzeba też mnóstwa energii. Przykład: OpenAI i Oracle budują centrum danych w Abilene w Teksasie. 1,2 gigawata, projekt nazywa się Stargate Abilene. W każdym z ośmiu budynków ma stanąć po pięćdziesiąt tysięcy kart Nvidia GB200.

Miasto Bristol zużywa około 7800 megawatów rocznie. Stargate Abilene zagęszcza więcej mocy niż to, 1,2 gigawata, na przestrzeni jakieś 1172 razy mniejszej. Cała ta moc, wszystkie te pieniądze i cała ta praca są skondensowane w jednym punkcie. A każde takie centrum kosztuje miliardy dolarów. Wszystkie te firmy poza Microsoftem muszą się dziś zadłużać. Wydały już ponad bilion dolarów i chcą wydać kolejny bilion w przyszłym roku. Po co? Żeby zarobić dziesiątki miliardów, z których większość pochodzi od dwóch nierentownych firm.

Czy adopcja jest uczciwa

Steven Bartlett: Kontrargument brzmi tak: adopcja jest szalona. To najszybciej rosnące produkty w historii. Setki milionów ludzi używają tych narzędzi codziennie do rzeczy, które sami uznali za swoje problemy. Pieniądz jest opóźnionym wskaźnikiem wartości — oni po prostu inwestują przed monetyzacją.

Ed Zitron: Zacznijmy od adopcji. Czy to jest uczciwa adopcja, kiedy jesteś zmuszony do używania generatywnej AI? Otwierasz Google Docs, a Gemini wrzeszczy ci do ucha. Otwierasz Worda, Copilot ci się naprzykrza. Wchodzisz na Amazona i Rufus ma opinie na temat skarpetek, które kupujesz. To jest największe niekonsensualne wpychanie technologii ludziom w historii.

Każda redakcja od trzech lat krzyczy: to zabierze ci pracę, musisz tego używać, bo zostaniesz w tyle. Ludzie używają, bo im nieustannie kazano. I używają tego głównie jak wyszukiwarki — częściowo dlatego, że Google zaniedbał wyszukiwanie, a częściowo dlatego, że LLM lepiej trawi rozbudowane zapytania. Wyszukiwanie generatywne jest jak trałowanie: kiepskie w szczegółach, ale kiedy pytasz „czy coś takiego istnieje”, „czy ta osoba kiedyś powiedziała coś podobnego” — pewnie i tak się pomyli, ale przeczesze ci ocean.

Tyle że to nie jest warte biliona dolarów. Nic z tego nie jest. Skala zatopionych tu pieniędzy nie ma odpowiednika. Koleje? To bije wszystko na głowę, bo tutaj nie ma nawet historii „po bańce”. Karta GPU do AI nie przyda się do niczego innego. To bezkierunkowy egregor kapitalizmu — bezgłowa bestia, która błąka się w poszukiwaniu wzrostu, w nadziei, że jeśli wystarczająco naciśnie ludzi, przestraszy ich i zdemonizuje pracę, to zmusi ich do korzystania.

Steven Bartlett: Zawaham się tutaj, bo myślę o własnej firmie. Statystyki mówią, że 88% organizacji regularnie używa AI przynajmniej w jednej funkcji biznesowej. U nas jakieś 95% ludzi codziennie sięga po Claude’a, ChatGPT albo Gemini. Kiedy patrzysz na świat treści, widać wyraźnie, że te narzędzia są szeroko przyjęte — objawem jest choćby „AI slop” zalewający internet.

Ed Zitron: Owszem, są używane. Ale co do slopu — zanim mieliśmy slop z AI, mieliśmy slop z SEO, bo Google premiował najniższy wspólny mianownik treści, która dobrze się pozycjonuje. Dlatego kiedy kiedyś wpisywałeś „najlepsza pralka”, dostawałeś jedenaście koszmarnych blogów napisanych, jakby ktoś miał wstrząśnienie mózgu. Były budowane pod ranking, a nie pod czytelnika. AI to po prostu uzbraja na masową skalę. Slop mieliśmy od lat — teraz znaleźliśmy maszynę do slopu.

Tokeny, dotacje i prawdziwy koszt

Ed Zitron: Jest jeszcze problem kosztu. Kiedy korzystasz z usług AI, palisz tokeny, rozliczane za milion.

Steven Bartlett: Czym jest token?

Ed Zitron: To mniej więcej trzy czwarte słowa.

Steven Bartlett: Czyli firmy AI mają własną walutę, którą cię obciążają. Jak taksówka w Nowym Jorku ma licznik. Płacisz mniej więcej za słowo.

Ed Zitron: Mniej więcej. I to za milion tokenów. Płacisz osobno za tokeny wejściowe — to, co wrzucasz, dokument albo bazę kodu — i za tokeny wyjściowe. Te ostatnie to nie tylko to, co model wypluwa na końcu, ale też to, co „myśli”. Kiedy prosisz o najlepsze restauracje w danej dzielnicy Nowego Jorku, całe wewnętrzne rozumowanie też jest tokenami wyjściowymi.

Kiedy płacisz miesięczny abonament, nic z tego nie widzisz. Są tylko limity użycia, mętnie zdefiniowane. I teraz: Semianalysis, duża grupa analityczna, policzyła, że przy subskrypcji ChatGPT za dwieście dolarów miesięcznie można spalić tokeny warte czternaście tysięcy dolarów, a u Anthropica osiem tysięcy. Nawet przy usłudze za dwadzieścia dolarów można spalić czterysta.

Większość ludzi nie zdaje sobie z tego sprawy. Większość nie ma pojęcia, ile kosztuje AI. Myślą po prostu: „no, dwadzieścia dolców miesięcznie”. Nie. Wszystkie te firmy działają z przerażającą stratą. OpenAI straciło w zeszłym roku 20,9 miliarda dolarów, bo ludzie mogą palić tyle tokenów, ile zechcą.

A kiedy około marca 2026 spróbowano przenieść klientów korporacyjnych — firmy powyżej stu pięćdziesięciu osób — na płacenie rzeczywistego kosztu AI, to cytując Sama Altmana: „ludzie mają z tym duży problem, uważam, że to poważna sprawa”. Przedsiębiorstwa natychmiast wpadły w panikę. Uber wypalił cały roczny budżet tokenowy w trzy miesiące. Po latach opowieści, że AI jest najbardziej produktywną rzeczą w dziejach, w chwili gdy trzeba było za to naprawdę zapłacić, zrobiło się: „no, oczywiście, wszyscy to uwielbiamy, ale koszt jest zbyt wysoki, musimy go ograniczyć”. Bo ludzie po prostu wrzucają tam wszystko, pytając „co mam teraz zrobić”, i dostają medianę — bo to właśnie te systemy robią. Dają odpowiedź środkową.

Steven Bartlett: Czyli ktoś taki jak ja, kto jest power userem, może kosztować Anthropica albo OpenAI tysiąc dolarów, a płacić sto. Dopłacają dziewięćset. I twierdzisz, że to jest nie do utrzymania.

Ed Zitron: Tak. Choć zaznaczmy: to pewnie nie jest jeden do jednego, może być trzydzieści do jednego. Nie wiemy. Te firmy nie ujawniają tego nawet w zaudytowanych sprawozdaniach; kreatywnie kategoryzują pozycje.

Do tego dochodzi sposób, w jaki stawia się inferencję — czyli to, co generuje odpowiedzi. Nie da się po prostu „włączyć maszyny do inferencji”. Musisz postawić tyle GPU, ile potrzeba na przewidywany popyt. Kupisz za dużo — zmarnowałeś pieniądze, bo i tak płacisz za godziny pracy kart. Kupisz za mało — klienci nie mogą korzystać, wściekają się, odchodzą do konkurencji.

Najprostszy sposób, żeby to wyjaśnić, jest taki: gdyby te firmy naprawdę wierzyły, że ich usługi są warte swojej ceny, po prostu by tę cenę pobierały. Zwykli ludzie nie mieliby dostępu do miesięcznych abonamentów, tylko płaciliby tyle, ile to jest warte. I jeszcze jedno: płacisz za korzystanie z LLM-a niezależnie od tego, czy dostałeś to, czego chciałeś. Kiedy model halucynuje, kiedy przechodzi przez twoją bazę kodu i psuje w niej masę rzeczy — i tak za to płacisz.

Czy to nie jest po prostu wczesna faza?

Steven Bartlett: Czy oni wydają przed pojawieniem się wartości — bo tak by argumentowali — czy dotują użytkowników w sposób, który nigdy się nie zwróci? W historii technologii często traci się pieniądze, żeby zdobyć udział w rynku. Pracują też przecież nad obniżaniem kosztów.

Ed Zitron: Gdyby obniżali koszty, to już by je obniżyli. Nie zrobili tego. Wygląda na to, że robi się drożej. Dostawcy inferencji nie wydają się rentowni. Nawet firmy wynajmujące GPU nie wydają się rentowne.

Nie sądzę, żeby to był wielki spisek. Pewnie na jakimś etapie naprawdę myśleli: to się stanie rentowne, układy nadgonią, klienci zapłacą za przytłaczającą wartość. W 2023 nie wiesz, gdzie będziesz w 2026. Zakładasz, że pójdzie w górę — taka jest natura venture capital. Powinni byli się zatrzymać gdzieś w 2024, kiedy OpenAI straciło ponad pięć miliardów. Powinni byli powiedzieć: to nie zadziała. Ale brnęli dalej, bo to pompowało wyceny. Pompowało Nvidię, Microsoft, wszystkich.

I tu jest rzecz zabawna z Google’em, Microsoftem i Amazonem. Od lat mówi się, że ich zakłady na AI się opłaciły. A te firmy odmawiają podania, ile na AI zarabiają. Ich dotychczasowe biznesy rosły dalej — nawiasem mówiąc, przez podwyżki cen i zmiany w sposobie sprzedaży reklam przez Google’a i Metę. Amazon podniósł ceny i, przy okazji, w tym samym czasie zbudował niezwykły biznes reklamowy. To nie miało nic wspólnego z AI. Ale skoro liczby rosną, wszyscy mówili: to przez AI, bo przecież nie wydaliby biliona dolarów bez powodu.

Tyle że w roku obrotowym 2026, który Microsoftowi właśnie się skończył, według Bloomberga zarobili na tym łącznie około 34,33 miliarda dolarów — z czego 24,1 miliarda pochodziło od OpenAI. Zostaje jakieś dziesięć miliardów w roku, w którym wydali sto piętnaście miliardów na wydatki kapitałowe i zamierzają wydać sto siedemdziesiąt pięć w kolejnym. Ta matematyka się nie spina.

Nvidia sprzedała w ostatnim roku obrotowym układy za 215,9 miliarda dolarów. A to ma obsłużyć jakieś dwadzieścia dwa miliardy przychodu na całym świecie poza tymi dwiema firmami, które trzeba dokarmiać pieniędzmi — czasem właśnie z Nvidii. Kiedy się to ludziom mówi, słyszy się: „no przecież firmy tracą pieniądze”. Bo mamy — cytuję Eda Elsona z Prof G Markets — kultową cześć dla bogatych. Wydaje nam się, że nikt nie wydałby tylu pieniędzy bez powodu. Pogodzenie się z tym, że ultrabogaci i ultrawpływowi nie doszli tam wielkim rozumem, tylko szczęściem, oportunizmem i MBA z właściwymi ludźmi — że świat nie jest merytokracją — jest po prostu ponure. Łatwiej powiedzieć: „nie, oni się nie mylą, to ja czegoś nie rozumiem”. I o to właśnie im chodzi.

Dylemat innowatora, konie i samochody

Steven Bartlett: Jedna z moich ulubionych książek na ten temat to „Dylemat innowatora”. Mówi o tym, że innowacja, która ostatecznie przeobraża branżę, zwykle na starcie jest gorsza, nie ma sensu ekonomicznego i nikt jej nie chce. W latach osiemsetnych mieliśmy powozy konne. Potem pojawiły się samochody — ciągle się psuły, były drogie, taniej było iść pieszo. Było nawet prawo nakazujące, żeby przed samochodem szedł człowiek z czerwoną flagą. Gorsze rozwiązanie — ale z wyższym pułapem wzrostu, więc w końcu wyprzedziło konia. Wyobraź sobie choćby pięcioprocentową poprawę miesięcznie i pięcioprocentowy spadek kosztów, tak jak z internetem i samochodami. Prawo Moore’a.

(Informacja dodatkowa: prawo Moore’a to obserwacja, że liczba tranzystorów w układzie scalonym podwaja się mniej więcej co dwa lata przy porównywalnym koszcie.)

Ed Zitron: Prawo Moore’a nie działa dla GPU. Nvidia gdzieś w latach dwutysięcznych wypuściła CUDA — bibliotekę i sposób uruchamiania oprogramowania na kartach graficznych. Zajęło im dobrą dekadę albo więcej, żeby zrobić z tego narzędzie do analityki danych. Kiedy przyszła AI, mieli już duże doświadczenie. Ale to firma, która ma więcej pieniędzy, uwagi, geniuszy i ludzi skupionych na optymalizacji, niż ktokolwiek mógłby sobie życzyć.

Przy przykładzie z samochodami: wtedy nie było tak, że każdy matematyk i naukowiec szedł do branży motoryzacyjnej. Nie było tak, że rządy całego świata nie zamykały się na ten temat i od 2023 roku powtarzały, że to nieuchronne.

A ta „pięcioprocentowa poprawa” — nie wiem nawet, jak byś ją zmierzył. Junior developer wciąż doświadcza rzeczy i uczy się z kontekstu, z tego, jak ludzie rozwiązują problemy. A ludzie rozwiązują problemy nie tylko przez patrzenie w kod czy czytanie maili — to sygnały kontekstowe z rozmowy z człowiekiem, z przebywania w różnych środowiskach. Są zastosowania LLM-ów w programowaniu, tego nie kwestionuję. Ale co znaczy „pięć procent”? Lepszy w Rust? Lepszy w C++?

Steven Bartlett: Powiedzmy: produktywność. W kontekście programowania — dostarczony kod.

Ed Zitron: To jak powiedzieć, że ktoś jest najlepszym pisarzem na świecie, bo jego newsletter jest bardzo długi. To szalony sposób oceny. Dobrym miernikiem byłoby: czy oprogramowanie na świecie jest lepsze? Powiedziałbym, że jednoznacznie nie. Jakość oprogramowania w Google, Microsofcie, Amazonie i Mecie jest gorsza. GitHub — ktoś napisał dziś na Twitterze, że powinniśmy dostawać powiadomienia, kiedy GitHub działa, a nie kiedy nie działa, bo to byłoby rzadsze. Jakość oprogramowania spada, o dziwo, w miarę jak coraz więcej ludzi używa LLM-ów, a coraz więcej firm tego wymaga — i mam na myśli realne wymaganie.

Halucynacje: spór o to, co się liczy

Steven Bartlett: Pamiętam, jak wyszedł ChatGPT, byłem w Azji i pokazywałem go narzeczonej. Halucynował od czasu do czasu. Dziś już tego nie doświadczam. Bywa, że uznaję jego rozumowanie za słabe, ale nie mam już jawnych halucynacji.

Ed Zitron: Nie zgodzę się. Podam przykład. Mam terminal Bloomberga. Jest tam bardzo przydatna funkcja, Ask B. Zamiast uczyć się BQL — własnego języka programowania Bloomberga — wpisujesz zapytanie, a system generuje kod i go uruchamia. Widzisz, skąd pochodzą dane, więc halucynacje są dobrze kontrolowane.

Ostatnio postanowiłem sprawdzić stopę wzrostu kursu akcji Microsoftu, Google’a, Mety i Amazona przez pięć lat. Skopiowałem to do Excela, pisałem newsletter i nagle: chwila, akcje Microsoftu nigdy nie kosztowały 575 dolarów.

Kiedy to jest ładna, drobna rzecz jak kurs akcji — nic się nie stało, złapałem. W porządku. Ale kiedy mówimy o narzędziu do transkrypcji dla lekarza albo o modelu finansowym, od którego zależy fundusz hedgingowy, robi się niebezpiecznie. A halucynacja w pakiecie oprogramowania — refaktoryzujesz bazę kodu, a model zostawia otwartą furtkę bezpieczeństwa albo po prostu coś psuje. Może przez pół roku „vibe kodowałeś” i dawno nie pisałeś kodu ręcznie, więc parę rzeczy zapomniałeś. I masz teraz przeszukiwać ten slop? Problemy stają się multiplikatywne. Nie bardzo wiem, jak miałbyś to wytrenować — i na pewno się nie udało.

Z jednej strony modele się poprawiły. Ale jednym z głównych sposobów oceny tej poprawy są benchmarki tworzone specjalnie pod duże modele językowe. METR ma taki wykres — patrzcie, jak coraz lepiej radzi sobie z zadaniami, potrafi pracować godzinę. A potem patrzysz i widzisz: i kończy je skutecznie w pięćdziesięciu procentach przypadków.

Steven Bartlett: Mają też ranking halucynacji. Dane historyczne z rankingu Vectary pokazują, że w prostych zadaniach streszczania odsetek halucynacji spadł z około 21,8% cztery lata temu do mniej więcej 0,7% na najlepszych obecnych modelach. Niuans polega na tym, że to proste zadania — i to zgadza się z moim doświadczeniem. Poza tym inne technologie też miały na starcie trudności. Pamiętam modemy telefoniczne, kiedy nie dało się jednocześnie rozmawiać przez telefon i być w sieci; musiałem przerywać Runescape’a, żeby ktoś mógł zadzwonić.

Ed Zitron: Nie wiem, stary, ja to uwielbiałem.

Steven Bartlett: No właśnie. Czuło się magię. A z perspektywy czasu mówisz: mam Starlinka i 5G w telefonie, to niewiarygodne. O to mi chodzi z myśleniem w kategoriach tempa poprawy. I ostatni punkt: często porównujemy AI do doskonałości, a to nie jest realna alternatywa. Powinienem porównywać ją z tym, jak inaczej wykonałbym to zadanie — mierząc w moim czasie i w mojej własnej zdolności do „halucynowania” jako człowieka, który nie wie wszystkiego. Albo z zatrudnieniem stażysty, który też ma luki w wiedzy. Jeśli coś myli się w 0,7% przypadków, ale wie dużo więcej i jest szybsze, to może netto się opłaca.

Kontekst, pamięć i to, czego nie kupisz od modelu

Ed Zitron: Zacznijmy od przykładu. Matt Hughes, mój redaktor, człowiek, którego bardzo lubię, mieszka pod Liverpoolem. Nie płacę mu za to, że wie wszystko. Płacę mu, bo ma niesamowity kontekst i ogrom wiedzy, bo chce ją poszerzać i pracować ze mną, bo jest świetnym redaktorem, który wchodzi w bebechy tematu i ma za sobą realne doświadczenia. Jest odznaczanym dziennikarzem technologicznym, a do tego cudownym, empatycznym człowiekiem, który ma w sobie radość wobec rzeczy, które kocha, i absolutny jad wobec ludzi, których nie znosi. Tego nie dostanę od modelu językowego.

I podważam samo założenie. Mówisz „wie wszystko” — a co za pożytek z czegoś, co wie wszystko, jeśli czasem nie wie nic? Poza tym: czy naprawdę płacisz stażyście za rzeczy podstawowe? Czy idziesz do niego z prośbą, żeby sprawdził, jaki jest dzisiaj dzień? Nie, to robisz w Google. Sensem stażysty jest to, że go szkolisz.

Steven Bartlett: I że stażysta się uczy. Nabiera kontekstu, poznaje twoje nawyki.

Ed Zitron: AI też nabiera kontekstu i się uczy? Nie. Sposób, w jaki „się uczy”, polega na tym, że tworzysz gigantyczny plik CLAUDE.md, który czasem czyta, a czasem nie. Budujesz obudowę. To maszyna śniadaniowa z „Pee-wee’s Playhouse”. Musisz wykonać całą tę ekwilibrystykę, żeby ograniczyć halucynacje — i ile w to na końcu włożyłeś wysiłku?

Steven Bartlett: Skrajnie uproszczony przykład: gdybym wszedł teraz w Claude’a i zapytał, jak ma na imię mój pies, on to wie.

Ed Zitron: Jezu. Ta firma zebrała dziewięćdziesiąt pięć miliardów dolarów.

Steven Bartlett: To celowo uproszczony przykład na to, że system pamięta rzeczy z przeszłości. Oczywiście zna też o wiele bardziej złożone rzeczy.

Ed Zitron: Ma pliki, do których ma dostęp i w których coś jest zapisane, ale to nie to samo co pamięć. Zapamiętał imię psa. Może zapamiętał twoje nawyki. Ale czy zna twoje nastroje? Czy wie, co się dzieje w świecie wokół niego? Czy ma lepsze i gorsze dni? Czy jest przy tobie? To jest maszyna do tekstu. Stażysta może rosnąć. Inwestujesz w niego. Tego nie osiąga się przez wpychanie plików i tekstu. Sposób, w jaki my przechowujemy wspomnienia, to milenium emocji, uczuć i faktów.

Steven Bartlett: Są tu dwie rzeczy: proces i wynik. Opisujesz proces ludzkiej pamięci. AI robi to inaczej. Ale ludzi obchodzi wartość wyniku. Jeśli wrzucę wszystkie pliki do Claude’a, nie obchodzi mnie, jak je przetwarza — byle znał liczbę, gdy zapytam o przychód. To samo dotyczy szkolenia człowieka: procesy są zupełnie inne, ale liczy się rezultat. To samo ze sporem o kreatywność AI: pytanie brzmi, czy kiedy proszę o kreatywną rzecz, dostaję odpowiedź — nie, czy proces przypomina ludzki. Ludzie płacą za wynik.

Ed Zitron: Nie zgadzam się co do procesu. Pracowaliśmy z Mattem nad researchem, siedziałem cały dzień, pisząc jedenaście tysięcy słów, on wcześniej dał mi masę notatek. Już samo opisywanie tego procesu sprawia mi radość, bo była to wymiana: „nie wierzę, że oni tak robią”, poznawanie cynizmu ludzi z firm zarządzających aktywami, jak Blackstone, i tego niedowierzania. Ta wymiana jest fundamentalnie inna, bo uczyliśmy się razem, a proces uczenia się był tak samo częścią tworzenia wyniku, jak sam wynik.

Kiedy się uczysz, nie tworzysz uśrednienia — a to właśnie robią te systemy: uśredniają dokumenty, które znajdą. Nie dostajesz szczególnie oryginalnych wyników. Gdybym potrzebował generycznego slopu, proszę bardzo — ale używałem tych droższych obudów LLM-owych, z których korzystają fundusze hedgingowe, i wszystkie dają dokładnie to samo. Te same generyczne raporty, to samo „zauważyliśmy taki wzorzec”.

Steven Bartlett: W tym, co opisujesz, są dwa źródła wartości — nauka i zredagowany tekst. Plus więź i wiele innych rzeczy. Ale w moim przykładzie z liczbą przychodu obchodzi mnie tylko wynik.

Ed Zitron: A gdyby ta liczba raz była błędna? Powinieneś mieć deterministyczne sposoby ustalania takich liczb. Nawet z terminalem i BQL, którym ufam, sprawdzam wszystko dwa i trzy razy. Poza tym w procesie nauki nie chcę dostać raportu i tylko skinąć głową — chcę czegoś, co w pełni rozumiem wraz z kontekstem. Nie sądzę, żeby LLM-y to robiły. Jest jeszcze problem: im bardziej szczegółowy raport, tym większa szansa, że coś w nim jest źle. Przy Matcie mogę zaufać, że to zrobił dobrze, że zrozumiał, i że w rozmowie z nim dowiem się, co pominąłem. Mogę przeczytać to, co on przeczytał. W tym wszystkim jest też ogromny element zaufania.

Steven Bartlett: A na czym opiera się twoje zaufanie do Matta? Czy nie na jego historycznych wynikach?

Ed Zitron: Tak, i na tym, że połowy tych rzeczy nauczyliśmy się razem.

Steven Bartlett: Staż sam w sobie nie wystarcza — są pewnie ludzie, których znasz od piętnastu lat i którym nie ufasz. Próbuję ustalić, co sprawia, że człowiek ufa czemuś innemu. Chyba ciągłe dotrzymywanie złożonej obietnicy. Claude na prostych zadaniach dostarcza konsekwentnie.

Ed Zitron: Czy ten ranking rzeczywiście to mówi? Jak zdefiniowano tam „proste zadania”?

Steven Bartlett: Nie wiem.

Ed Zitron: I to jest bardzo pouczające dla całej branży AI. To mistrzowie odwracania uwagi: mamy benchmark, który mówi, że jesteśmy w tym dobrzy, i liczba jest wyższa. Co ta liczba znaczy? Cisza. Nie używam tego przeciwko tobie. Kiedy nie możesz dać wprost odpowiedzi, dajesz odpowiedź boczną.

Test iPhone’a: gdzie jest oczywistość

Ed Zitron: Kiedy branża LLM chce udowodnić swoją wartość, nie może po prostu powiedzieć: „użyj produktu”. Kiedy wyszedł pierwszy iPhone, byłem wtedy w Penn State. Poczułem się jak małpy na początku „2001”. To było natychmiastowe. Pokazywałem go znajomym z branży i najzwyklejszym ludziom, i wszyscy reagowali tak samo. Mieli Razry i Nokie 3210. Wartość była oczywista. Z Amazon Web Services było tak samo.

Steven Bartlett: Wcale nie było to oczywiste. Pamiętam słynny wywiad ze Stevem Ballmerem, wtedy prezesem Microsoftu, który wybuchnął śmiechem: „500 dolarów z dopłatą operatora — to najdroższy telefon na świecie i nie przemawia do klientów biznesowych, bo nie ma klawiatury, więc jest kiepską maszyną do maili. Motorolę Q można mieć za 99 dolarów. Podoba mi się nasza strategia”. Śmiał się, bo to było tak przełomowe.

Ed Zitron: Telefony zawsze były drogie, operatorzy je dotowali w zamian za długie umowy. Ale chodzi mi o to, że nie trzeba było nikomu tłumaczyć, dlaczego to jest dobre. Może trzeba było przejść przez kwestię ceny, ale wystarczyło powiedzieć: „zobacz, jakie to dobre”. A kiedy przyszedł iPhone 3G z App Store, ludzie zrozumieli, że to może zmienić rzeczy. Mobilny internet, choć początkowo koszmarny, pozwalał po prostu przeczytać maila. BlackBerry też były drogie i całkiem fajne, ale działały niepodobnie do oprogramowania konsumenckiego. iPhone od początku był oczywisty. A z AI do dziś, kiedy pytasz „no dobrze, dlaczego to jest tak wspaniałe”, ludzie się plączą. Wciąż słyszysz, że nie da się na tym oprzeć firmy bez tego dziwnego systemu bloczków i dźwigni.

Steven Bartlett: Ale jak w takim razie wytłumaczyć wzrost ChatGPT? Sto milionów aktywnych użytkowników w sześćdziesiąt dni. TikTokowi zajęło to dziewięć miesięcy, Instagramowi dwa i pół roku, a sieci WWW mniej więcej siedem lat. Ponad 60% dorosłych Amerykanów włączyło narzędzia AI w codzienne rutyny w ciągu trzech lat od premiery; internetowi zajęło to pięć lat, komputerom osobistym prawie dwanaście.

Ed Zitron: Tu właśnie mam dysonans.

Steven Bartlett: Kiedy pokazałem ChatGPT swojej narzeczonej — samodzielnej przedsiębiorczyni, dla której angielski nie jest pierwszym językiem, która musi pisać dużo tekstów i generować dużo obrazów, i płaciła grafikowi za rzeczy, których sama nie umie zrobić — ona opisałaby to jako transformujące dla jej biznesu.

Ed Zitron: Czy zapłaciłaby stawkę za milion tokenów? Rzeczywisty koszt? Bo o to chodzi. Gdyby to było sprzedawane po uczciwym koszcie… Gdyby ludzie reagowali w ten sposób i płacili po dwa, trzy, cztery dolary za każde użycie, i naprawdę byli zadowoleni — to byłby argument.

A jeszcze wrócę do internetu. Kiedy pierwszy raz wszedłem do sieci przez modem 33,4 kilobita, od razu pomyślałem: gdyby to było szybsze. To było natychmiastowe. Wchodziłeś na Happy Puppy, ściągałeś shareware cały boży dzień. Już wtedy myślałem, że dałoby się tym przesyłać obraz z kamery — i to się w końcu wydarzyło.

Jest taki analityk, Jim Covello z Goldman Sachs, który w 2024 roku napisał raport — z grubsza: „zbyt duże wydatki na generatywną AI wobec zbyt małego zwrotu”. Zwrócił uwagę, że przed iPhone’em istniały tysiące prezentacji pokazujących, że gdy moduły GSM, Bluetooth i Wi-Fi się zmniejszą, coś takiego jest nieuchronne. I dodał, że dla AI takiej ścieżki nie ma. Nie było mapy drogowej do tego, czym AI miała się rzekomo stać.

Muszę być uczciwy: gdyby te firmy wyszły i powiedziały „to ciekawe oprogramowanie chmurowe, generatywne, bardzo drogie, nie jesteśmy pewni, czy da się mu w pełni ufać, nie wiemy, czy będzie przełomowe; ma potencjał, ale idziemy powoli, to projekt badawczo-rozwojowy, nie wypuszczamy tego na konsumentów” — i gdyby nazwali to modelami językowymi, a nie „AI”, bo to nie jest AI, nie jest autonomiczne ani mądre — mógłbym to szanować. Ale od 2022 i 2023 roku mówią, że to najlepsza rzecz od czasu krojonego chleba, że zmieni wszystko, wykona całą twoją pracę, zabierze ci pracę, że porozmawiasz z Bingiem, a on ci każe zostawić żonę.

Zabawne jest to, że kiedy Kevin Roose rozmawiał o tym z Kevinem Scottem, dyrektorem technologicznym Microsoftu, ten odpowiedział: „cieszę się, że prowadzimy tę rozmowę”. Zamiast: „uspokój się, to strona internetowa, to tylko model językowy”. Podbili to. Bo wszyscy mówią o tym, czym chcieliby, żeby to było, zamiast o tym, co to faktycznie potrafi. To celowo czyni tę rzecz straszną. A przy okazji: turbiny gazowe zatruwające czarne dzielnice, gigantyczne pobory energii, rosnące rachunki i inflacja na całej elektronice użytkowej przez zapotrzebowanie na pamięć RAM.

Bańka dot-com, ciemne włókno i dlaczego to nie to samo

Steven Bartlett: Wiele z tego, co mówisz, może być prawdą i jednocześnie może być prawdą, że ta technologia głęboko zmieni świat. Napisałeś świetny esej — „The Rot Economy” — i pisałeś o „rot-com bubble”. W bańce dot-com był ogromny hype, ludzie przesadnie sprzedawali możliwości swoich stron. Po pęknięciu 90% rzeczy poszło do zera, ale narodziły się firmy pokoleniowe, które zmieniły świat. Tak działają bańki: hype, przeinwestowanie, rozentuzjazmowani inwestorzy — i sceptycy.

Ed Zitron: Internet miał największych sceptyków. W 1998 noblista Paul Krugman powiedział, że około 2005 roku stanie się jasne, iż wpływ internetu na gospodarkę nie był większy niż wpływ faksu. W 1995 astrofizyk Clifford Stoll napisał w „Newsweeku”: „Czy nasi guru komputerowi nie mają za grosz zdrowego rozsądku? Prawda jest taka, że żadna baza danych online nie zastąpi codziennej gazety. Żaden CD-ROM nie zastąpi kompetentnego nauczyciela. Handel przeniesie się z biur i galerii do sieci i modemów? Bzdura. Skąd więc mój lokalny mall świetnie prosperuje, a cybermall nie ma żadnego ruchu?”.

Ale u Stolla były też trafne punkty: że przytłaczająca ilość złych informacji szkodzi społeczeństwu — miał całkowitą rację. Że edukacja online nie zastąpi normalnej edukacji — to też widzieliśmy.

Natomiast różnica ekonomiczna jest ogromna. Bańka dot-com była w istocie dwiema bańkami. Była bańka stron internetowych, czyli śmieci na śmieciach. Excite@Home kupiło firmę od kartek okolicznościowych za bodaj miliard dolarów. Ale to, o czym ludzie naprawdę myślą, to ciemne włókno.

Steven Bartlett: Ciemne włókno.

Ed Zitron: Wszystkie te kable położone w ziemi w przekonaniu, że popyt na internet będzie ogromny. Analitycy szacowali, że ruch podwaja się co dziewięćdziesiąt dni, podczas gdy w rzeczywistości robił to co sześć do dwunastu miesięcy albo rzadziej. Stąd masowe przeinwestowanie w światłowody i stacje przesyłowe. Zakładano, że wszystko to zostanie „zapalone” i ludzie natychmiast tego zechcą. Nie zechcieli od razu.

Ludzie mówią: ale potem przyszedł popyt na internet. I to jest właśnie zasadnicza różnica wobec generatywnej AI. Dziś popyt na generatywną AI jest w przeważającej części dotowany, a większość ludzi nie płaci rzeczywistego kosztu.

Steven Bartlett: Zgadzam się.

Ed Zitron: Do tego mamy już cały możliwy marketing świata — największą i najbardziej nieuczciwą kampanię marketingową w dziejach ludzkości, pchającą to pod górę. Mamy apex predatora oprogramowania chmurowego, Microsoft, który potrafi z tego wyciągnąć tylko jednocyfrowe miliardy. A poza OpenAI i Anthropikiem ledwie zbieramy dwadzieścia dwa miliardy dolarów. Dla ciebie i dla mnie to dużo. To nie jest dużo, kiedy wydałeś ponad bilion i kiedy OpenAI i Anthropic mają zobowiązania chmurowe na 1,1 biliona dolarów.

I jak to ma się przełożyć na scenariusz „po bańce”? Centrum danych zbudowane dziś będzie w 2050 roku równie drogie w utrzymaniu, chyba że dojdzie do przełomu w energetyce. Albo w technologii GPU — ale mamy już Broadcom, Nvidię, Etched, ARM, wszystkie duże firmy układowe próbujące coś z tym zrobić, i nikomu magicznie nie udaje się uczynić tego rentownym ani choćby tańszym. Nawet Nvidia przy Vera Rubin mówi ostrożnie: „dziesięć razy wydajniej, więcej dolarów na megawat”. Nie mówią po prostu: „pracowaliśmy z OpenAI i Anthropikiem i obniżyliśmy im koszt o pięćdziesiąt procent”. A to byłaby najprostsza rzecz na świecie, gdyby była prawdziwa.

Wszystko wrzucone do jednego worka pod nazwą „AI”

Ed Zitron: Powodem, dla którego używa się terminu „sztuczna inteligencja”, jest to, żeby wszyscy wrzucili do niego wszystko. Zwijanie białek nie ma nic wspólnego z LLM-ami. Robotyka to nie LLM. Autonomiczna broń, choć okropna, to też nie LLM-y, bo nie dałoby się im zaufać. Ale wszystko zmielono w jedno „AI”, żeby kiedy mówisz „AI tego nie potrafi”, móc odpowiedzieć: „a przecież AI pracuje nad lekiem na raka”. To nie jest LLM. Przestańcie im to zaliczać.

Steven Bartlett: Podobieństwo jest takie, że wszystko to potrzebuje GPU.

Ed Zitron: I to jest właśnie sedno. Wszystkie te centra danych, które budujemy, są pod generatywną AI. Nie pod tamte rzeczy. AI istnieje od dawna; wiele dobrych rzeczy w wyszukiwarce Google’a to AI, ale sprzed ery generatywnej.

Steven Bartlett: A jak byś uruchomił AI siedzącą w robocie, powiedzmy w Optimusie, bez GPU?

Ed Zitron: Matic ma robota sprzątającego. To urządzenie nie ma w środku wielkiej karty. Być może przy trenowaniu użyto GPU, ale nie w takich ilościach, jakich generatywna AI potrzebuje. Kiedy ten mały drań jeździ po podłodze i mopuje — nazywam go Turdsley — nie pali pieniędzy przez cały czas.

A przy tych ogromnych obiektach: Sightline Climate podawało w lutym, że w planach jest 190 gigawatów centrów danych. To wychodzi około dwunastu milionów megawatów, czyli od 1,6 do 3 bilionów dolarów rocznego popytu, którego by potrzeba. A my nie mamy nawet stu trzydziestu miliardów rocznego popytu. Ludzie mówią, że urośnie. Jak, skoro większość popytu to Amazon dokarmiający OpenAI i Anthropica, Microsoft dokarmiający te same firmy i Google robiący to samo?

Wmawia się ludziom, że to „dla AI”, czyli dla wszystkiego tego niepowiązanego. Najgorszy argument, jaki widziałem, brzmi: „lubisz bankowość online? To lubisz centra danych”. Jest ogromna różnica między centrum danych do zwykłych obliczeń, do postawienia serwera czy sieci dostarczania treści, a tymi olbrzymimi obiektami z GPU. Tamte biorą znacznie mniej mocy i pracują głównie na CPU.

Steven Bartlett: Ale w moich notatkach jest, że twardsze systemy AI, projektowane do konkretnych problemów fizycznych, biologicznych i przestrzennych, wymagają najbardziej intensywnej infrastruktury na planecie. AlphaFold DeepMind, sekwencjonowanie genomu, prognozy klimatyczne — to wszystko chodzi na klastrach obliczeń wysokiej wydajności. Trenowanie „mózgów” aut autonomicznych wymaga miliardów mil symulowanych środowisk fizycznych. Ta AI nie generuje tekstu — uczy się poruszać w trójwymiarze i rozumieć grawitację.

Ed Zitron: Tak, i te centra mogą mieć w środku GPU. Używaliśmy GPU do HPC jeszcze przed generatywną AI. Tak trenowano AI wcześniej, tak robiła to Tesla przy autopilocie. Ale to nie jest powód, dla którego budujemy te centra. Te są stawiane po to, żeby sprzedawać moc firmom generatywnej AI — na trening albo na inferencję.

I może to jest właśnie najlepszy sposób zilustrowania przekrętu. Wszyscy zobaczyli, że Google, Microsoft, Amazon i Meta oddały Nvidii jakieś osiemset kilka miliardów dolarów, i pomyśleli: nie robiliby tego bez powodu, musi być popyt, budujmy więcej. Chociaż 70% albo więcej tego popytu pochodzi od dwóch firm finansowanych przez tamte trzy. I to jest właśnie powód, dla którego nie chcą wyodrębnić przychodów z AI — bo stałoby się to alarmująco oczywiste.

Czy AI zabiera pracę

Steven Bartlett: Mój samochód, który sam jeździ, to technologia AI. Siedział tu Dara z Ubera i mówił, że za kilka lat nie będziemy potrzebowali kierowców. Kierowanie pojazdem to jeden z największych zawodów na Ziemi. Kiedy prezesi mówią o zakłóceniu rynku pracy, twierdzisz, że nie mówią prawdy?

Ed Zitron: Tak — albo zgadują w sposób, który jest dla nich korzystny. Satya Nadella nie powie: „nie wiemy, czy to zadziała”. Będzie mówił własną książkę. Dara z Ubera oczywiście powie, że gdyby to się stało, byłoby dobre dla Ubera, bo Uber stałby się autonomiczną korporacją taksówkową.

Waymo uważam za fascynujące i naprawdę fajne. Widzę realne problemy społeczno-ekonomiczne, które się z tego wezmą — ekonomia taksówek się posypie. Ale jesteśmy od tego bardzo, bardzo daleko. Waymo musiało robić najmniejsze możliwe, najbardziej kontrolowane wdrożenia, bo problemem prawie każdego systemu AI, a zwłaszcza jazdy, nie jest przejechanie 95% drogi. To przypadki brzegowe. Pada deszcz, co w San Francisco jest dla nich dużym problemem. Dziecko wybiega na jezdnię w kamizelce odblaskowej — czy system w ogóle rozpozna, że to dziecko?

Steven Bartlett: To ciekawy przykład, bo właściwe porównanie nie brzmi „pojazd autonomiczny kontra doskonałość”, tylko „pojazd autonomiczny kontra ludzki kierowca”.

Ed Zitron: Nie jestem pewien. Ludzki kierowca też popełnia błędy, i zaznaczam, że nie jestem ekspertem od aut autonomicznych. Ale jeśli wypuszczamy je na hurra, poza ściśle kontrolowanymi środowiskami, przypadki brzegowe się namnożą. Byłem niedawno w Vegas i patrzyłem, jak kilka aut Zooxa po prostu utknęło pod hotelem — zablokowały wyjazd, ustawiły się w rządku i jakby zasnęły. To samo widziałem w San Francisco, kiedy wysiadłem z Waymo.

Steven Bartlett: Widziałem też fatalnych ludzkich kierowców.

Ed Zitron: Zgadzam się, ale nad wdrażaniem tych dobrych czy złych kierowców mamy kontrolę. Możemy rozwijać to powoli i dokładnie tak powinniśmy. Nie mówię, że auta autonomiczne są złe. Mówię, że musimy być bardzo ostrożni i traktować je jako winne, dopóki nie udowodnią niewinności, bo mamy narzędzia, żeby to sprawdzać. Oni faktycznie mają ludzi nadzorujących trasy. Nie da się tego wypchnąć w pośpiechu i nie wygląda na to, żeby się spieszyli — to dobrze. I nie obiecują świata.

Steven Bartlett: Kiedy patrzę na statystyki dotyczące tego, co jest niebezpieczniejsze: pojazdy autonomiczne mają około 2,1 zgłoszonej policji kolizji na milion mil, podczas gdy ludzie około 4,68 — czyli redukcja o 55%. Do tego 80–81% mniej kolizji skutkujących obrażeniami.

Ed Zitron: Zgadzam się, ale jaka jest próba dla kierowców? Mamy o wiele więcej lat jazdy i o wiele więcej lat wypadków. I przede wszystkim: to nie ma nic wspólnego z generatywną AI. Gdybyśmy rozmawiali tylko o tym, byłaby to zupełnie inna rozmowa.

Steven Bartlett: Chodziło mi o zakłócenie rynku pracy. Ludzie mówią mi, że prawnicy i księgowi — albo przynajmniej część umiejętności w tych zawodach — trafią do AI.

Ed Zitron: Prawnicy to świetny przykład. Ciągle słyszę o AI od wspólników kancelarii. Nigdy od associates. To associates wyszukują precedensy, robią czarną robotę, w połowie przypadków składają pisma. Wspólnik bywa tym, który występuje w sądzie albo rozmawia z klientem. Nie słyszę, żeby ludzie faktycznie wykonujący codzienną pracę mówili: „to jest wspaniałe”. Słyszę grupę dobrze opłacanych ludzi, którzy posiedzieli przy ChatGPT i uznali się za najlepszych prawników w dziejach.

Zakłócenie pracy umysłowej się nie dzieje. OpenAI opublikowało jakiś tydzień temu badanie, z którego wynika, że nie ma korelacji między wydatkami na tokeny a przychodem na pracownika. To już drugi taki raport; poprzedni mówił, że halucynacje są matematycznie gwarantowane. To jedna z niewielu rzeczy, które szanuję w tej firmie — czasem po prostu publikują badanie, z którego wynika, że jest słabo.

Ludzie, których praca faktycznie została zakłócona, to dyrektorzy artystyczni, transkrybenci, tłumacze — osoby, których szefowie nie dbają o jakość wyniku i uznają tę pracę za tanią. Problem w tym, że ci szefowie i tak zautomatyzowaliby albo wyeksportowaliby tę pracę do najtańszego dostawcy. To rzeczywiście się dzieje. Ale te osoby nie płacą rzeczywistego kosztu AI — korzystają z subskrypcji. W pracy umysłowej coś się nieznacznie przesuwa, ale nie ma dowodów na wzrost produktywności. Gdyby były, krzyczano by o tym z dachów.

W zeszłym roku było badanie Oxford Economics, o którym pisano, że młodzi ludzie znajdują mniej pracy przez AI. Przeczytaliśmy je, czego wielu dziennikarzy nie zrobiło. To był jeden wiersz mówiący, że zaobserwowano „pewną korelację”. Bez liczby. Bez określenia, jaka to korelacja.

Jesteśmy tak uwarunkowani wiarą, że bogaci i wpływowi wiedzą, co robią, że internalizujemy narracje w rodzaju „poprzednie boomy też traciły pieniądze” i „technologia potrzebuje czasu”. Oni celowo grają na tych mitologiach, wiedząc, że dziennikarze, analitycy i inwestorzy im uwierzą. Po części dlatego, że nasza rzeczywistość jest definiowana przez kursy akcji.

Steven Bartlett: Ale obie te rzeczy są prawdziwe. Poprzednie technologie faktycznie nie zarabiały na starcie i faktycznie się poprawiały. Musi więc być coś, co mówią, a co jest fundamentalnie nieprawdziwe.

Ed Zitron: Rozumiem. Fundamentalnie wprowadzają ludzi w błąd co do tego, jak bardzo jest to możliwe i ile mają realnych przesłanek — bo ich nie mają. Nie ma przesłanek na to, że to tanieje. Nie ma przesłanek na autonomiczne wykonywanie pracy bez maszyny Rube’a Goldberga, i to w sposób niezawodny, dający klientowi więcej pieniędzy, o którym można mówić pełną piersią, bez ciągu gwiazdek.

Kult, strach i broń przeciwko regulacji

Ed Zitron: Jest jeszcze coś, co jest unikalne dla branży AI. Nie widziałem tego nigdzie indziej poza może klubami sportowymi: przywiązanie, jakie niektórzy internauci mają do tych firm. Jeśli ośmielisz się skrytykować Anthropica, spotykasz się z niemal religijną reakcją. W tym tygodniu Bloomberg podał, że OpenAI zmierza do czterdziestu miliardów zannualizowanego przychodu. Miesiąc razy dwanaście? Cztery tygodnie razy trzynaście? Nie wiemy, nie definiują. I widziałem wielu ludzi piszących: „nieprawda, to sześćdziesiąt miliardów, słyszałem od kogoś”. To kult — kult oprogramowania zbudowany wokół wzrostu i przekonania, że obstawiając właściwego konia, dostaniesz udział w czymś wielkim. Gdyby ci ludzie choć trochę przejmowali się ubóstwem albo prawdziwymi problemami świata zamiast tym, czy kupujemy dość GPU.

Steven Bartlett: Ciekawe jest to, że część twojej narracji może im pomagać. Bo siadali tu „doomerzy” — jeden z ojców założycieli AI, Geoffrey Hinton — i mówili, że to, co budują, jest bardzo niebezpieczne. Ci sami prezesi też mówili wcześniej, że to niebezpieczne. A teraz widzimy powolny zwrot: „nie, to niczego nie zmieni, wszystko będzie dobrze”. I ten zwrot brzmi trochę jak twoja narracja. Podejrzewam, że jest w tych firmach paru pijarowców, którzy myślą: „dzięki Bogu za Eda”.

Ed Zitron: Uważam, że Altman i Amodei to jedni z najbardziej cynicznych ludzi na świecie. Kiedy na początku 2023 roku Altman mówił, że trochę boi się tego, co tworzą — słysząc to, czuję ogromną frustrację, bo spotkałem tylu bogatych kłamców. I wiesz, dlaczego chce to mówić? Żebyś zainwestował w jego firmę i kupił oprogramowanie. Żebyś bał się, że jeśli nie użyjesz AI dziś, zostaniesz w tyle jutro.

A tak w ogóle: każde oszustwo i każdy przekręt zaczyna się od poganiania. Każda sztuczka w historii zaczyna się od „musisz to zrobić teraz”. Najlepsza rada, jaką dostałem, brzmi: jeśli ktoś cię pogania, a nie jest to sytuacja śmiertelna — nie krwawisz, nie płoniesz, dom się nie pali — zwolnij.

Zauważyłeś, że Amodei i Altman mówią, że „może powinniśmy spowolnić postęp”, i tego nie robią? Teraz Altman mówi o spowolnieniu, bo są opóźnieni. Nie — im skończyła się moc obliczeniowa.

Steven Bartlett: Ale ty ich uspokajasz. Teoretycznie uspokajasz opinię publiczną.

Ed Zitron: I mam nadzieję, że tak jest, bo taktyki oparte na strachu są okropne.

Steven Bartlett: Te firmy tego nie chcą. Te firmy chcą, żeby ludzie się bali. Jestem tego pewien. Loguję ich wypowiedzi w czasie, od 2015 do 2026, i widać przejście od „może dojść do zagłady gatunku” — to była wczesna narracja, Elon też tak mówił — do „ery obfitości” i nowego hasła „inteligencja dla wszystkich”. A kiedy Dario mówi, że to naprawdę niebezpieczne, atakują go.

Ed Zitron: Rozumiem twój punkt, ale nie sądzę, żeby zmienili narrację po to, by uspokoić opinię publiczną — raczej desperacko chcą uniknąć regulacji, co jest śmieszne, bo my nie regulujemy technologii. Ameryka nie reguluje. Wciąż tkwimy w spuściźnie Miltona Friedmana, Margaret Thatcher i Ronalda Reagana, w neoliberalnym krajobrazie wzrostu za wszelką cenę. Regulacja tych firm powinna polegać na ich podziale. Nie powinniśmy mieć firm tak dużych.

Steven Bartlett: Ale te technologie są niebezpieczne. Pomyśl o cyberatakach: zaawansowane modele mogą jako agenty wyjść w otwarty internet, przeglądać bazy kodu, znajdować podatności i je wykorzystywać — na skalę i szybciej, niż zrobiłby to ludzki haker.

Ed Zitron: Zgadzam się co do ryzyka. Ale przy tych incydentach nie wiemy nawet, ile mocy obliczeniowej na nie poszło. Wiemy natomiast, że serwer był źle skonfigurowany — myśleli, że wyłączyli internet, a nie wyłączyli. To błąd ludzki. Automatyczne skrypty hakerskie mamy od lat; to jest przełamywanie siłowe ogromną mocą obliczeniową.

I tak, to jest niebezpieczne. Te firmy robią coś niebezpiecznego. Ale to nie jest to, przed czym ostrzegał Hinton. Mówiono nam, że te systemy mogą zniszczyć społeczeństwo i manipulować ludźmi. A ludzie powtarzają: nie możemy pozwolić, żeby te modele wpadły w niepowołane ręce. One już są w niepowołanych rękach. Mark Zuckerberg, Sam Altman, Dario Amodei. Niepowołane ręce to ręce tych, którzy prowadzą te firmy.

Jest zresztą łatwy sposób radzenia sobie z tym ryzykiem: nie pozwalać im używać tak ogromnej mocy obliczeniowej. Wyregulować to. Doszliśmy tutaj, bo pozwoliliśmy tym firmom działać bez regulacji i palić tyle mocy, ile chcą. I mimo wszystkich złowieszczych ostrzeżeń nikt najwyraźniej nic z tym nie zrobił.

Gra w mity

Steven Bartlett: Zagrajmy w grę, Ed. Na tych kartach mam rzeczy, które uważasz za mity branży AI. Jedno zdanie na każdy.

Ed Zitron: Jezu. No dobrze.

Steven Bartlett: „Branża AI generuje ogromny wzrost gospodarczy”.

Ed Zitron: Nie generuje. Nie widać tego w danych. Mogę dodać drugie zdanie? Praktycznie cała ta ekonomia to albo Nvidia dokarmiająca firmy takie jak CoreWeave, albo te trzy firmy dokarmiające tamte, żeby tamte wydały pieniądze u nich.

Steven Bartlett: Jaki masz dowód?

Ed Zitron: Pomijając wydatki na półprzewodniki, czyli spekulacyjną inwestycję w GPU i infrastrukturę — wydatki na samo AI ledwie przekraczają sto miliardów. I większość z tego to te dwie firmy prowadzące swoje usługi i płacące tamtym trzem oraz Oracle’owi i CoreWeave.

Steven Bartlett: Sto miliardów to sporo jak na stosunkowo nową technologię.

Ed Zitron: Nie, kiedy wydałeś trzysta miliardów finansowania kapitałowego i, licząc tylko te trzy firmy, jakieś sześćset miliardów wydatków kapitałowych.

Steven Bartlett: Rozumiem, że to znaczy, że nie jest rentowne. Ale sto miliardów jest wyrazem popytu konsumenckiego.

Ed Zitron: Nie jest, kiedy zużycie napędzają dotowane subskrypcje. Kiedy dajesz komuś dwadzieścia albo czterdzieści dolarów za jednego, on będzie z tego korzystał więcej. Gdyby wszystko było rozliczane za milion tokenów, prowadzilibyśmy inną rozmowę.

Steven Bartlett: Uczciwie. Następny: „Stany Zjednoczone muszą wydać biliony, żeby wygrać wyścig AI z Chinami”.

Ed Zitron: Jaki wyścig? To jest właśnie mój punkt. Wyścig o co? O tworzenie wielkich, strasznych modeli? Chińczycy już to zrobili, i to bez kart Nvidii, których teoretycznie nie powinni mieć — a mają, i to od lat, łącznie z Blackwellami. Więc wyścig o co? Żebyśmy wydali więcej pieniędzy niż oni? Żebyśmy nieustannie robili w spodnie ze strachu przed Chinami? Bo jeśli tak, to oni wygrali.

Steven Bartlett: Mit numer trzy: „AI zastąpi wszystkie ludzkie miejsca pracy”.

Ed Zitron: To się po prostu nie dzieje i nie ma na to danych ekonomicznych.

Steven Bartlett: Czy zastąpi jakieś?

Ed Zitron: Zastąpiła część pracy kontraktowej, która i tak zostałaby zastąpiona tanią pracą z globalnego Południa. To rodzaj cyfrowej globalizacji. Ale wszystkie zawody, większość zawodów, dużo zawodów? Nie.

Steven Bartlett: A robotyka?

Ed Zitron: Robotyka to nie jest to, o czym mówimy. To zupełnie inna rzecz.

Steven Bartlett: Ale robotyka będzie napędzana przez AI.

Ed Zitron: Tak, ale rodzajów AI jest mnóstwo. Mówimy wyraźnie o generatywnej AI — bo ten materiał o mitach dotyczył właśnie jej.

Steven Bartlett: A Optimus Elona?

Ed Zitron: Ten, w którego demie ręki musiał sterować człowiek? Nie działała autonomicznie. Jeśli pokonają wszystkie te wyzwania, robotyka będzie naprawdę fajna. W to jestem gotów uwierzyć w perspektywie paru dekad. Roboty są fajne, nie będę udawał, że nie. Chciałbym, żeby budowali roboty i robili ciekawe rzeczy. Chciałbym, żeby branża technologiczna wciąż robiła zabawne rzeczy. Zamiast tego dostajemy modele językowe.

Steven Bartlett: Byłem w San Francisco w dużym inkubatorze. Trzy lata wcześniej same startupy softwarowe, a po trzech latach — same startupy robotyczne. Zapytałem założyciela dlaczego. Powiedział, że część sprzętowa zawsze była dość tania; drogie były „mózgi”, a teraz koszt inteligencji spadł do groszy. Robotyka to funkcja inteligencji plus sprzętu.

Ed Zitron: I ogromnej ilości danych, które są bardzo drogie. Cybercab wychodzi bardzo powoli, to zajmie dużo czasu. Jasne, jeśli zrobią robota zdolnego zastąpić ludzką pracę, będzie to zagrożenie. Ale ludzkie zawody są wieloaspektowe i zmieniają się wraz z otoczeniem. I pomyśl o robocie do zmywania naczyń — właściciel restauracji nie zapłaci dziesięciu czy dwudziestu tysięcy za robota, który zastąpi pracę, za którą już teraz płaci za mało.

Steven Bartlett: Zadaję te pytania nie po to, żeby się czepiać. Próbuję ustalić, czy prawda leży gdzieś pośrodku: czy jest pewien typ pracy, której ludzie w ogóle nie powinni byli wykonywać. Kiedyś czyjąś pracą było siedzieć w windzie i naciskać guziki.

Ed Zitron: Ten konkretny tekst, z którego to pochodzi, dotyczył wyraźnie generatywnej AI. Mówiłem o tym, do czego ludzie się odnoszą, gdy to mówią.

Steven Bartlett: Czyli nie mówisz o agentowej AI?

Ed Zitron: Agentowa AI to LLM-y. Agentowa AI to elegancki sposób powiedzenia, że jeden LLM rozmawia z drugim LLM-em, z obudową na wierzchu. To dalej LLM-y. Agentowa AI to jedno z większych kłamstw, jakie opowiadają. Kiedy słyszysz „agent”, masz pomyśleć: autonomiczna AI, która zrobi, co zechcesz.

Steven Bartlett: Myślę o własnym użyciu. Używam agentów do rzeczy, o które wcześniej prosiłbym ludzi. Mój szef sztabu wcześniej segregował moje skrzynki. Teraz już tego nie robi.

Ed Zitron: Ale nadal masz szefa sztabu.

Steven Bartlett: Właśnie o tym mówię. Robi inne rzeczy.

Ed Zitron: To, co opisujesz, to dość podstawowa automatyzacja. Wydaje się bilion dolarów na segregowanie maili. Taka jest ta obietnica. Gdyby wydali dziesięć miliardów i było to znacznie mniejsze, powiedziałbym: fajne oprogramowanie, brawo. Wiele rzeczy, którymi ludzie są zachwyceni — te wszystkie skrypty — to po prostu LLM piszący w Pythonie. Powinniście być pod wrażeniem Pythona. Python jest niesamowity. Możesz scrapować strony, możesz pobierać rzeczy, jest świetny.

Nic z tego nie byłoby problemem, gdyby nie zażądali całej uwagi, wszystkich pieniędzy i nie obiecali świata. To ich obietnice są problemem. I dziennikarze, analitycy i ludzie z Twittera, którzy im przytaknęli, mówiąc, że to zmieni i zastąpi wszystko — opuszczając sferę rzeczywistości.

Steven Bartlett: Czy była w historii jakaś naprawdę przełomowa innowacja, przy której to się nie działo?

Ed Zitron: Internet. To znaczy — przeczytałem sporo tekstów o wczesnym internecie. Wielu ludzi było podekscytowanych, ale ostrożnych. Martwili się, że nie ma wystarczającego popytu, ale mówili: to może mieć poważne konsekwencje. Nikt nie był wobec internetu wyjątkowo negatywny. Sceptycy martwili się zalewem złych informacji — spójrz, gdzie jesteśmy. Martwili się społecznymi konsekwencjami rozmawiania przez sieć — i mieli rację. A kwestie ekonomiczne dotyczyły firm w rodzaju theGlobe.com, które miały przychody rzędu setek tysięcy dolarów i miliardową kapitalizację.

Steven Bartlett: W erze dot-com był ogromny hype.

Ed Zitron: Czytałem wiele z tych tekstów. Hype był nieporównywalny. Nie było wszędzie artykułów mówiących, że jeśli nie wejdziesz do sieci, zostaniesz w tyle. Nie było konsekwencji zawodowych. Nick Sesh opisał coś, co nazwał globalnym rozstrojem procesów decyzyjnych: pracujesz w firmie, w której jeśli nie powiesz, że jesteś dzięki AI bardziej produktywny — niezależnie od tego, czy to prawda — ponosisz konsekwencje zawodowe, możesz wylecieć. Ludzie muszą „myć swoją pracę w AI”, mówiąc, że zrobiła to AI, bo inaczej szefowie się wściekają. Przy internecie tego nie było.

Steven Bartlett: Myślę, że AI różni się od internetu choćby tempem adopcji.

Ed Zitron: Adopcja internetu wymagała fizycznego podłączenia do domu. Adopcja generatywnej AI wymaga przeglądarki. Doprowadzenie internetu do ludzi kosztowało ogrom wysiłku — nawet w wersji modemowej wymagało dystrybucji.

Kiedy szefowie mówią „musicie używać AI”, nie mówią „idź i kup robota”. Mówią: używajcie LLM-ów. Jest taka teoria — era biznesowego idioty. Rządzą nami ludzie, którzy nie wykonują pracy, bo nikt, kto naprawdę pracuje i jest produktywny, nie nęka swoich podwładnych o to, że są niewystarczająco produktywni. Nie mają czasu, bo pracują. Natomiast ktoś, kto siedzi z maszyną do przypochlebiania, mówiącą mu, że każdy pomysł z jego zabałaganionej czaszki jest genialny, myśli: „skoro to mówi, że jestem geniuszem, to czemu wy nie używacie maszyny geniuszu, żeby zrobić więcej?”. Jeśli jesteś szefem, który idzie na lunch, wraca z lunchu i czasem czyta maile — LLM-y są magią.

Slopifikacja i to, co zostaje rzadkie

Steven Bartlett: Jeden z najmocniejszych argumentów za tym, że AI jest przereklamowana: w świecie, w którym każdy ma dostęp do tych narzędzi, to, co narzędzia potrafią, ulega utowarowieniu. Wartościowe staje się to, czego nie potrafią — ludzki gust, osąd, umiejętności społeczne. Rzadkie i trudne było przez całą historię najcenniejsze. Skoro utowarowiamy generowanie treści i kodu, to tam właśnie wartość nie osiądzie.

Bardzo dużo myślę o tym, jak unikać pokusy „slopifikacji” tego, co się tworzy. Prosty przykład: jeśli używasz ChatGPT albo Claude’a do pisania postów na LinkedIn, to będą posty na LinkedIn — bo wszyscy inni robią to samo. Świetny post na LinkedIn to dziś post kogoś, kto ich nie używa i robi coś nieodwracalnie ludzkiego: głębszego, bardziej osobistego, wynikającego z jednostkowego doświadczenia. Narzędzia towarowe produkują towarowe rezultaty.

Ed Zitron: Dostaliśmy górę slopu, ale ci ludzie odwalali swoją pracę po łebkach już wcześniej. To po prostu maszyna do robienia rzeczy po łebkach. Tak jak z blogami-slopem: ludzie, którzy wcześniej dawali ci gniota, mają teraz maszynę do produkcji gniotów.

Jest taki człowiek, Carl Brown, „Internet of Bugs”. Świetny inżynier oprogramowania. Powiedział, że to sprawia, że rzeczy łatwe stają się łatwe, a trudne — trudniejsze. Kiedy wiesz, że potrzebujesz małego, konkretnego skryptu, i model ci go wypluje — jest super. Ostatnio użyłem Claude’a do czegoś pożytecznego: mój dzieciak kocha Minecrafta, próbowałem naprawić popsuty mod, bo uwielbia Wither Storma. I to i tak zajęło mi pół godziny, a model wciąż się mylił.

Steven Bartlett: Do czego używasz generatywnej AI?

Ed Zitron: Właściwie nie używam. Poza Ask B w terminalu Bloomberga, kiedy proszę o konsensus analityków dla Nvidii.

Steven Bartlett: To skąd wiesz, że jest zła?

Ed Zitron: Używałem. Przepuściłem to przez testy. Próbowałem robić modele finansowe, natychmiast znajdowałem błąd. Nigdy nie byłem specjalnie pod wrażeniem. Jednej rzeczy będę bronił: to jest naprawdę dobre do wsparcia technicznego. Mam w Nowym Jorku Synergy — narzędzie do współdzielenia myszy i klawiatury między MacBookiem a laptopem z Windowsem. Wrzucenie gigantycznego loga diagnostycznego i zapytanie „co jest nie tak”, a potem otrzymanie odpowiedzi „to jest nie tak” — to jest bardzo użyteczne. Czy warte biliona dolarów? Nie. Czy warte firmy za dwa biliony? Nie.

Steven Bartlett: Ale lepsze niż wyszukiwarka Google?

Ed Zitron: Tak. Czasem łapię się na tym, że używam Binga. Nienawidzę tego mówić. Muszę przewinąć te wszystkie AI-owe wynalazki, bo chcę linki do rzeczy, żeby móc coś przeczytać.

Steven Bartlett: Ale można poprosić AI o linki.

Ed Zitron: I nie robi tego szczególnie dobrze. Muszę być jasny: rozwiązywanie problemów technicznych to być może jedyne zastosowanie LLM-ów, którego bronię. Możliwość wrzucenia loga jest świetna. To moja jedyna słabość. Ale znowu — nie tak to sprzedają. Nie sprzedają tego jako użytecznego drobiazgu, tylko jako rzecz, która zmieni wszystko i zastąpi wszystkie zawody.

Krytycy z interesem i pytanie o krzywą postępu

Steven Bartlett: To prawda, że mówią o zastępowaniu wszystkiego. Ale zabawne, że krytycy mówią to samo — Geoffrey Hinton, ludzie, którzy odeszli z zespołów bezpieczeństwa.

Ed Zitron: Dziwne, że ci krytycy też mają interes w tym, żeby AI szło dobrze. Daniel, były człowiek z OpenAI, „AI 2027”, napisane wspólnie z autorem Slate Star Codex — to była kiepsko napisana science fiction, z której już musiał się częściowo wycofać.

Steven Bartlett: Mógł zarobić więcej, zostając.

Ed Zitron: Czy na pewno? Chodzi mi o to, że oni nie są krytyczni wobec samych firm. Nie krytykują kradzieży, szkód środowiskowych ani tego, że nie można polegać na odpowiedziach. Krytykują wielkiego, strasznego straszaka gdzieś w przyszłości: „boję się, kiedy to stanie się tak potężne, rozmawiajcie ze mną o tym, jakie to straszne i potężne”. Nie mówią: oto szkody dzisiaj, oto społeczne problemy automatycznego wypluwania slopu i zapychania nim naszych kanałów. I nie mówią, w najdrobniejszych słowach, że te systemy są trenowane na kradzieży pracy milionów ludzi.

Steven Bartlett: Czy zgodziłbyś się ze stwierdzeniem, że sztuczna inteligencja stała się bardziej inteligentna, jakąkolwiek miarą inteligencji byśmy nie mierzyli?

Ed Zitron: Stała się lepsza w testach ustawionych pod modele. Stała się lepsza w testach, do których można się przygotować.

Steven Bartlett: Gdybyś naniósł tempo poprawy na wykres, wyglądałoby to mniej więcej tak. Zgadzasz się — pod względem tego, co potrafi?

Ed Zitron: Tak. Zauważ, że poza OpenAI i Anthropikiem, kiedy odjąć startupy programistyczne, praktycznie nie ma odnoszącego sukces startupu AI.

Steven Bartlett: Czyli zgadzamy się, że stało się to bardziej zdolne. A jeśli ta trajektoria będzie trwać, to w pewnym momencie przetnie ludzką inteligencję — i wtedy nie zacznie wykonywać niektórych dzisiejszych zawodów?

Ed Zitron: Poza inżynierią oprogramowania — bo przyznaję, że w programowaniu stało się lepsze — gdzie konkretnie?

Steven Bartlett: Administracja, generowanie wideo, generowanie zdjęć, generowanie tekstu, teoretycznie kodowanie i przepływy agentowe.

Ed Zitron: Co to jest przepływ agentowy?

Steven Bartlett: Zautomatyzowany, powtarzalny proces. Przykład: system przegląda dane zaplecza „The Diary of a CEO”, wychodzi w internet, szuka, kim jesteś, ogląda każdy wywiad, jakiego udzieliłeś, streszcza to, buduje mały model tego, o co ludzie chcą cię zapytać, i przysyła mi na skrzynkę trzydziesto-, czterdziestostronicowy raport, zanim przyjdziesz.

Ed Zitron: To zasadniczo to samo, co robi od lat. To nie są nowe możliwości. Wyszukiwanie w sieci mają od lat. Generowanie raportów mają od lat.

Steven Bartlett: Ale nie umieliśmy generować wideo nieodróżnialnego od nagrania kamerą. Te nowe modele wyglądają jak film.

Ed Zitron: Rozejrzyj się dokoła i policz, ile osób i sprzętu trzeba do jednego ujęcia. Ludziom się wydaje, że filmy po prostu magicznie powstają ujęcie po ujęciu. Moja wspaniała dziewczyna pracuje jako pierwsza asystentka reżysera; są asystenci, są oświetleniowcy — a symulowanie światła jest niewiarygodnie trudne. Możesz stworzyć minutowy materiał, który kogoś zmyli. Ale jak zamienić to praktycznie w film? Był taki film, o którym twierdzono, że pokazano go w Cannes. Nie pokazano — wyświetlono go w mieście Cannes podczas festiwalu, ale nie na festiwalu.

Dlatego wracam do możliwości. Tak, wypadają lepiej w testach, liczby rosną. Ale czy potrafią wykonywać konkretne zadania, na których można polegać? Na streszczeniach można polegać. Na generowaniu można polegać. To, co robiły, robią mniej więcej liniowo lepiej. Tylko że jest sufit. Załóżmy, że stają się naprawdę dobre w researchu. Co to właściwie znaczy? Automatyzację już masz. Jaki jest następny krok? Bo trenowanie modelu, żeby był bardziej autonomiczny, nie bierze się z danych treningowych. To jest to, o czym mówi Gary Marcus — podejście neurosymboliczne. Musisz zbudować wokół AI strukturę, żeby to działało. I nawet wtedy problem nie znika.

Steven Bartlett: Czyli mówisz, że tempo poprawy w pewnym momencie wyhamuje.

Ed Zitron: Już jesteśmy w tym punkcie. Już weszliśmy w malejące przychody krańcowe. Gary Marcus mówił o tym już w 2022 roku.

Steven Bartlett: Ale słucha nas mnóstwo ludzi, których przepływy pracy zostały przez te narzędzia całkowicie przeobrażone.

Ed Zitron: Na pewno? Po pierwsze: czy każdy z nich zapłacił za tokeny? I ile ich spalił? Ale odkładając to na bok — jakie przepływy? Bo jeśli chodzi o scrapowanie stron albo wyszukiwanie, to nie robi to na mnie wrażenia. Nakręciłeś cały film? Nie. Czy przyspiesza kodowanie? Tak, w to wierzę, słyszałem to od wielu ludzi. Ale znowu — na ile można temu ufać?

Steven Bartlett: Chodzi mi o to, że w momencie każdej innowacji ludzie ekstrapolują liniowo albo zakładają stan statyczny, a często obserwujemy poprawę wykładniczą.

Ed Zitron: Wszystkie te innowacje, o których mówimy — moc obliczeniowa, szybsze procesory — to przełomy sprzętowe. A firmy od przełomów sprzętowych najwyraźniej nie naprawiają problemów LLM-ów, mimo dziewięciu czy dziesięciu generacji TPU u Google’a, mimo Broadcomu budującego układy z OpenAI. I żadna z tych osób nie może po prostu powiedzieć: „jesteśmy na drodze do rentowności”. Bo nie mogą. Gdyby naprawili problemy środowiskowe i sytuację z rentownością, może byłbym łaskawszy.

A przy okazji: Altman mówił kilka tygodni temu, że za jakieś sześć miesięcy to będzie jak dżin, u którego można wypowiadać życzenia. Chyba nigdy nie oglądał „Aladyna” — dżin był poza tym uroczy. Krótko mówiąc: obietnice nie odpowiadają ani możliwościom, ani tempu ich poprawy. Wykładnicza poprawa wydajności oprogramowania zawsze jest wynikiem bezpośredniej poprawy sprzętu. Mamy wszystkich uzdolnionych matematyków, inżynierów oprogramowania i inżynierów sprzętu. I gdzie jesteśmy? Ponad bilion dolarów w plecy, z przyszłym wielkim kryzysem finansowym i największym oszustwem marketingowym świata.

Steven Bartlett: Myślę, że w przyszłości wszystkie nasze urządzenia i przedmioty będą inteligentniejsze, napędzane przez tę infrastrukturę AI.

Ed Zitron: Jak centrum danych pełne GPU przekłada się na aparat Nikona, który… właściwie co? To, że urządzenia zmądrzeją, jest bardzo szerokim stwierdzeniem i mogę je sobie wyobrazić — to się poniekąd dzieje. Ale co to ma wspólnego z tymi centrami danych? One nie są budowane po to, żeby twoja elektronika użytkowa była mądrzejsza. Są budowane wyłącznie po to, żeby spekulować na zdolności do przechwycenia popytu na usługi generatywnej AI.

Steven Bartlett: Na ostatniej telekonferencji wynikowej Mety Mark Zuckerberg powiedział, że ich przełom — piętnaście punktów bazowych wzrostu retencji, chyba na Instagramie — polega na tym, że każdy post przepuszczają teraz przez AI, żeby uzyskać pełny kontekst treści. Skoro widzą, że siedzi przede mną Ed w niebieskiej koszuli z kawą, mogą serwować taki materiał właściwym użytkownikom, przez co ludzie zostają dłużej.

Ed Zitron: To nie są „piętnaście punktów bazowych”, to 0,15%.

Steven Bartlett: Tak, ale w skali robi to różnicę.

Ed Zitron: Dziesięć i coś miliardów dolarów później najlepsze, co masz, to 0,15%. Jest powód, dla którego mówi o punktach bazowych, a nie o dolarach. Dlaczego nie może powiedzieć pełną piersią: zarobiliśmy kilka miliardów? Bo nie zarobił. Bo nie da się powiedzieć: wydałem czternaście miliardów dolarów na Scale i Alexandra Wanga, a zarobiłem tyle a tyle. Wracamy do prostej zasady: gdyby szło dobrze, powiedzieliby, jak dobrze idzie, zamiast robić ten dziwny taniec deszczu w stylu „jeśli poprzestawiamy klocki, to za trzy lata teoretycznie to się wydarzy”.

Banany na bezludnej wyspie

Steven Bartlett: Myślę, że masz rację co do tego, że jest tu sporo fugazi. Mnóstwo ludzi wydało dużo pieniędzy, których wydawać nie powinni. Trochę jak metaverse — dużo wydanych pieniędzy na sen, który nigdy się nie ziścił.

(Informacja dodatkowa: „fugazi” to slangowe określenie czegoś fałszywego, spopularyzowane przez film „Wilk z Wall Street”.)

Ed Zitron: AI, boom dot-com i NFT są pod tym względem podobne. Można argumentować, że duża część branży kryptowalut też. Różnica polega na tym, że przy metaverse i NFT nie było akcji, na których dałoby się spekulować, ani wielkich spółek, w które można było zainwestować.

W 2021 roku spółki miały rekordowe wyniki. W systemie pływało mnóstwo pieniędzy — pokovidowych, rządowych, które trafiły do banków. Były łatwe pieniądze z epoki zerowych stóp. Potem przyszedł kac i wzrost gwałtownie zwolnił. To jest właśnie moja teoria „rot-com bubble”: im się skończyły pomysły na hiperwzrost. Więc nagle zaczęli kupować GPU. A kiedy je kupowali, ludzie mówili: „robią AI, lepiej kupmy akcje”. I kursy poszły w górę o setki procent. Bez żadnego dowodu — bo media powtarzały, że przychody Mety i Microsoftu rosną „dzięki AI”. Fugazi polega na tym, że wszyscy udzielili im kredytu zaufania z góry, a teraz powoli dochodzimy do momentu, w którym pytamy: no dobrze, chyba nie wydaliście tego biliona bez powodu, prawda?

Steven Bartlett: Zgadzam się, że jest przeinwestowanie. Ale sądzę, że powodem przeinwestowania jest to, że coś tu jednak jest. Że istnieją praktyczne zastosowania tej technologii, a kiedy ludzie w historii to dostrzegają, wariują, bo każdy chce być tym, kto posiądzie okazję.

Weź twój esej „The Rot Economy”. Wyobraź sobie bezludną wyspę i kogoś, kto ogłasza, że znalazł drzewo bananowe. Na wyspie jest dziesięć tysięcy ludzi. Ruszą pędem tam, gdzie ich zdaniem jest to drzewo. Będą się nawzajem rozszarpywać. Jeśli twój esej ma rację, że była desperacja, bo dawno nie znaleziono innowacji — to może tłumaczy sytuację. Może jest tu trochę wartości, a oni pędzą i podejmują irracjonalne decyzje jak głodni ludzie.

Ed Zitron: To akurat się zgadzamy. To jest właśnie mój punkt. Tym trzem firmom i Mecie kończy się wzrost w podstawowych liniach biznesowych. A analitycy sądzą, że w ciągu najbliższych trzech i pół roku OpenAI i Anthropic wydadzą u Microsoftu, Google’a i Amazona ponad czterysta miliardów dolarów. I to jest duża część ich przyszłego wzrostu. Jeśli te pieniądze nie zostaną wydane, ich wzrost zwalnia.

Więc tak, twoja analogia z bananami jest trafna. To jest właśnie „rot-com bubble” — nie mają nowej rzeczy i są zdesperowani. I zostali nagrodzeni za kupowanie GPU. Kiedy kupili te karty od Nvidii, rynki zwariowały z zachwytu. Były historie o tym, jak wożono karty do Microsoftu opancerzonymi samochodami, żeby na pewno dotarły. Wszyscy zobaczyli te przepływy pieniędzy — mimo że nikt nigdy nie ujawnił przychodów z AI, wszyscy widzieli wydatki i pomyśleli: chcę robić to, co oni.

Steven Bartlett: Różnimy się chyba w tym, że ja przypisuję tej technologii więcej długoterminowego potencjału niż ty.

Ed Zitron: To ci powiem, co chcę tu podważyć. Żeby ten postęp trwał, żeby te dwie firmy szły dalej, muszą wydawać dziesiątki miliardów dolarów rocznie na trening. A jedyny sposób, żeby to się działo, to żeby te firmy, fundusze venture capital, firmy private credit i Nvidia dalej krążyły do nich pieniądze. Cały postęp, jaki mamy do tej pory, jest w całości wynikiem tego okrężnego systemu. Nawiasem mówiąc, większość finansowania, które OpenAI dostało w ostatnie pół roku, pochodziła od SoftBanku, Nvidii i Amazona. Postęp w LLM-ach może trwać tak długo, jak długo płyną pieniądze. Kiedy przestaną płynąć, postęp się zatrzymuje.

Steven Bartlett: Ale czy to nie jest normalne? Spotify nie zarabiało przez dwadzieścia lat.

Ed Zitron: Spotify nie straciło 20,9 miliarda w jeden rok. Nie musiało zebrać 217 miliardów w pół roku.

Steven Bartlett: Uber to inny przykład.

Ed Zitron: Trzydzieści trzy miliardy od założenia, zanim stał się jako tako rentowny. Amazon Web Services między 2003 a 2015, kiedy stały się rentowne: 29,7 miliarda całkowitych wydatków kapitałowych, urealnionych o inflację — i to nie tylko AWS, ale cała operacja logistyczna.

Steven Bartlett: Czyli wszystkie traciły pieniądze przez długi czas.

Ed Zitron: Tak. Ale skala strat jest o rzędy wielkości inna.

Steven Bartlett: Czy nie dlatego, że potencjał inteligencji przenika wszystko, podczas gdy Amazon wtedy sprzedawał książki?

Ed Zitron: Powtórzę, bo to ważne. AWS założono w 2003 roku, głównie dlatego, że rosnący sklep internetowy potrzebował poważnej infrastruktury. Około 2006 udostępniono to klientom. W 2015 stało się rentowne. Całkowite wydatki kapitałowe w tym dwunastoletnim okresie, urealnione o inflację, to 29,7 miliarda dolarów. Tak, traciły pieniądze, ale — mówiąc chłodną ekonomią — marże Amazona zaczęły się poprawiać, bo AWS był biznesem o wysokiej marży.

Tutaj Google jest ujemny na przepływach pieniężnych. Amazon jest ujemny. Biznesy softwarowe lubiło się dlatego, że generowały gotówkę i były lekkie aktywowo. Te firmy razem z Metą dodały w ciągu ostatnich czterech lat ponad siedemset miliardów dolarów nowych rzeczowych aktywów trwałych — centrów danych i GPU. Z maszyn do produkcji gotówki zamieniły się w piece do jej spalania.

Steven Bartlett: Powiedziałeś, że to może trwać tylko dopóki inwestorzy inwestują. A ja mówię, że inwestorzy są przyzwyczajeni do pompowania pieniędzy w rzeczy, które palą gotówkę. Twoja odpowiedź brzmi: ta pali więcej niż kiedykolwiek. Więc pytam: czy okazja jest większa niż w tamtych przypadkach? Rynek dla inteligencji, która przenika wszystko, jest ogromny.

Ed Zitron: Wiem, do czego zmierzasz. To argument, który postawiłby Nadella albo Altman: teoretyczna okazja wielkich modeli językowych. Mógłbym to kupić jeszcze w 2024, kiedy mówili „widzimy tę szansę”. Dawno minęliśmy punkt, w którym da się racjonalnie argumentować, że LLM-y potrzebują aż tylu pieniędzy. „Wall Street Journal” i Mike Isaac donieśli kilka tygodni temu, że OpenAI planuje wydać do 2030 roku 750 miliardów dolarów na moc obliczeniową. Myślę, że wcześniej padną, ale 750 miliardów to szaleństwo.

Duża część tego to trening. Kiedy mówię „postęp”, mam na myśli dosłownie ulepszanie modeli, co wymaga miliardów zainwestowanych w same dane i dziesiątek miliardów na ich przetworzenie. Trening to zresztą ciekawa sprawa. Kiedy trenuję z Jakiem i Troyem, moimi trenerami, mam określony plan; wykonuję go, jem właściwie i mięśnie rosną. A kiedy „trenujesz” model, ty eksperymentujesz. I nie jest to zarzut wobec tych firm, bo one wciąż próbują dojść do tego, jak to robić. Myślę, że są tam ludzie, którzy naprawdę chcą zrobić coś ciekawego. Tylko że to kosztuje zbyt dużo. Kiedy kran się zakręci, nie będzie pieniędzy na kupowanie danych i wpychanie ich w GPU.

Sam surowy kapitał potrzebny, żeby dojść tak daleko, kosztował coraz więcej, a treningi bywają nieudane. GPT-5 miało być panaceum dla całej branży. Mieli co najmniej jeden przebieg treningowy, który kosztował pół miliarda dolarów i nie dał nic. Jest powód, dla którego Google i Amazon mają dziś ujemne przepływy. I jest powód, dla którego Oracle prawdopodobnie umrze przez OpenAI — przyszłość Oracle’a zależy od tego, czy OpenAI wyda u nich trzysta miliardów w ciągu pięciu lat.

Odpowiedzi prezesów i pytanie o falsyfikację

Steven Bartlett: Przeglądałem cytaty prezesów, żeby zobaczyć, jak by ci odpowiedzieli. Wszyscy mówią to samo. Sundar Pichai: „ryzyko niedoinwestowania jest dramatycznie większe niż ryzyko przeinwestowania”. Andy Jassy: „nie inwestujemy około dwustu miliardów CAPEX-u w 2026 roku na przeczucie; nie będziemy zachowawczy; inwestujemy, żeby być znaczącym liderem, a nasz przyszły zysk operacyjny i wolne przepływy będą znacznie większe dzięki tej inwestycji”. Mark Zuckerberg: „będziemy dalej agresywnie inwestować w infrastrukturę, żeby sprostać popytowi; wolę zaryzykować budowę mocy zanim będzie potrzebna, niż się spóźnić”.

Ed Zitron: To mi przypomina lorda Farquaada ze „Shreka”: „niektórzy z was mogą zginąć, ale to ryzyko, które jestem gotów podjąć”. Zuckerberga nie da się zwolnić z powodu unikalnej konstrukcji rady nadzorczej. Więc przepuści te pieniądze i będzie liczył, że ma rację. A od ludzi, którzy się na tym znają, wiem, że nie ma.

Steven Bartlett: A dlaczego ty możesz się mylić?

Ed Zitron: Właśnie — czy oni kiedykolwiek dostają to pytanie? Bo to jest istota rzeczy. Co musiałoby zajść, żebym się mylił? Seria przełomów sprzętowych, które uczyniłyby to rentownym. Może nowa matematyka. Rzecz w tym, że kiedy jesteś krytykiem albo sceptykiem, to ciebie sadza się na fotelu przesłuchiwanego. Nie ludzi wydających bilion dolarów, nie tych, którzy obiecują świat. Facet z blogiem — czyli ja. Zapewniam cię, że gdyby oni tu przyszli, też byliby na tym fotelu.

Steven Bartlett: Główne opinie na rynku są dwie: „AI wszystkim zaszkodzi, będzie katastrofalna, musimy przestać” i „era obfitości, jedziemy dalej”. Twoja jest inna od obu.

Ed Zitron: Tak.

Steven Bartlett: Co musiałoby się stać, żebyś zmienił zdanie?

Ed Zitron: Musiałby nastąpić przełom sprzętowy obniżający koszt o rząd tysiąca — dramatyczny przełom, który się nie zdarza, bo wszyscy próbowali. To jest kwestia kosztu, ale też centrów danych. Uważam, że sposób ich budowania jest lekkomyślny i szkodliwy dla społeczności. Są miejscowości, gdzie mieszkańcy mówią „nie chcemy tego”, a komisje planistyczne i tak głosują za — zakładam, że po miłych lunchach z inwestorami. Stosowanie turbin gazowych i energii „za licznikiem” uważam za haniebne. O sytuacji z wodą nie jestem dość oczytany, więc się nie wypowiem. A poza tym jest hałas.

I jeszcze jedno: generatywna AI jest jaskrawą demonstracją tego, jak niesprawiedliwy jest świat. Zwykły człowiek chce kredytu na firmę, idzie do banku i słyszy: masz otworzyć sklep? Odmowa. Chcesz zbudować centrum danych? Jensen Huang cię poprze i da ci dwadzieścia pięć procent wartości rezydualnej. Chcesz zbudować zwykły, nawet rentowny biznes, który rośnie stabilnie? Żaden fundusz ci nie da, bo potrzebują zwrotu stukrotnego. Spróbuj wziąć kredyt hipoteczny — musisz się rozebrać do naga przed bankiem. Ale chcesz pieniędzy na GPU? Proszę bardzo.

CoreWeave to świetny przykład. To „neochmura”, firma, która buduje centra danych, wstawia GPU i wynajmuje je ludziom. Nvidia, jeden z pierwszych inwestorów w 2023 roku, podpisała kontrakt na 1,3 miliarda dolarów na wynajęcie od nich z powrotem tych samych kart. Dzięki temu CoreWeave może pójść do banku i powiedzieć: mam klienta. Tak, to ten sam facet, od którego kupuję karty za dług, który biorę od was.

Steven Bartlett: Kolejny mit: „AI będzie świadoma”.

Ed Zitron: Superinteligencja i sztuczna inteligencja ogólna to teorie. Każdy, kto twierdzi, że to się stanie, zgaduje i nie ma dowodu.

Steven Bartlett: Kolejny: „Systemy AI już szantażują i wymykają się spod kontroli”.

Ed Zitron: Tu są dwa przypadki, przepraszam, że to więcej niż zdanie. Pierwszy: w karcie systemowej OpenAI, opisanej przez wiele redakcji jako „model szantażował TaskRabbita, żeby rozwiązał captchę”. Naprawdę wydarzyło się to, że użytkownik prowadzący eksperyment kazał modelowi wygenerować treści, którymi można nakłonić człowieka z TaskRabbita do zrobienia czegoś. TaskRabbit to serwis, przez który wynajmujesz kogoś, żeby powiesił ci obraz w mieszkaniu. Sami napisali, że wyraźnie o to poprosili w promptcie, i sami zaznaczyli, że systemy nie robią takich rzeczy autonomicznie.

Drugi: Anthropic doniósł, że model szantażował człowieka, grożąc ujawnieniem zdrady małżeńskiej. W rzeczywistości Anthropic wprost wytrenował model do takiego zachowania, a potem promptem kazał mu szantażować.

To się powtarza, a media łykają to bez zastanowienia. I to jest frustrujące, bo ludzi to przeraża. Pomijając to, że jest nieprawdziwe — jest straszne. Ludzie, którzy muszą pracować dłużej za mniej, włączają wiadomości i słyszą, że mają się bać, bo coś kogoś zaszantażowało.

Steven Bartlett: Ale to działa wbrew ich interesowi i odbiło im się czkawką.

Ed Zitron: Teraz tak. Eric Schmidt został wybuczany przez osiem tysięcy osób na uroczystości ukończenia studiów za każdym razem, gdy powiedział „AI”.

Steven Bartlett: Ci prezesi są atakowani w swoich domach.

Ed Zitron: To jest złe i chcę być jasny: nie krzywdźcie ludzi, nie atakujcie ich w domach. Ale ta narracja obraca się przeciwko nim potężnie. Nie sądzę, żeby to przewidzieli, bo te firmy przez całe swoje istnienie były głaskane. Travis Kalanick był zdziwiony, że ludzie go nie lubią — bo Uber był fatalnie prowadzony, a o tym, jaki był świetny, pisano wtedy setki artykułów. Te firmy nie są przyzwyczajone do sprzeciwu. Myślę, że sądzili, iż zrobią te straszne rzeczy i dostaną zalew pieniędzy, a wszyscy padną na kolana. Ta cała historia z szantażem była próbą mistyfikacji — chodziło o to, żeby wyglądało to na niepoznawalną, niemożliwą do opanowania siłę, którą tylko oni, tylko ci dwaj aniołowie, potrafią kontrolować.

Steven Bartlett: To dość kontrowersyjne, ale z jakiegoś powodu bardziej ufam Dario, bo był najbardziej wyważony w pisaniu o profilu ryzyka. Inni poruszają się z wiatrem.

Ed Zitron: Rozumiem. Powodem, dla którego ja go nie lubię, jest to, że Dario stosował taktykę straszenia jeszcze w OpenAI, kiedy przy GPT-2 mówiono, że jest zbyt straszne, by je wypuścić. Poszedł też do telewizji i powiedział Axios, że pięćdziesiąt procent zawodów zniknie przez AI.

Steven Bartlett: Szanuję konsekwencję. Teraz atakują go werbalnie ludzie z Doliny Krzemowej.

Ed Zitron: Cztery miesiące temu tego nie robili. Wszyscy mówili, że to najmądrzejszy chłopak w klasie. Chcę zwrócić uwagę na coś innego: mówisz, jak bardzo boisz się tego, jakie to potężne. I co z tym robisz? Nic. „Mamy zespół od alignmentu”. Każde laboratorium ma. Gdybym był Dario i uważał, że stworzyłem coś, co zlikwiduje wszystkie zawody, chodziłbym z dziesięciotonowym ciężarem na plecach. To, że on tego nie robi, że chce być takim dziwnym mężem stanu, każe mi wierzyć, że mówi to, bo mu wygodnie — i wycofa to, kiedy przestanie być wygodne. Uważam, że OpenAI i Anthropic to firmy z grubsza tego samego kalibru. Anthropic jest bardziej kultowy. To dziwne z Jackiem Clarkiem, jednym ze współzałożycieli — kiedyś w „The Register” był jednym z najbardziej krytycznych dziennikarzy. Teraz mówią o tych rzeczach w tak górnolotny sposób, jakby coś w niego wstąpiło. Choć może ludzie w Anthropiku naprawdę w to wierzą. Może niektórzy w OpenAI też. Nie wiem.

Steven Bartlett: Wracając do pytania: musiałby dramatycznie spaść koszt produkcji.

Ed Zitron: I musiałoby to robić niesamowite rzeczy. Musiałoby być naprawdę autonomiczne. To musiałby być inny produkt. Nieodróżnialny od magii. A powód, dla którego mam tak wysokie standardy, jest taki, że oni sami je ustawili.

Steven Bartlett: Uczciwie.

Ed Zitron: To ciekawe, bo te wszystkie mity to nie tylko rozmowa o technologii, ale też wojna informacyjna. Narracja przeciwko narracji. Wszyscy uciekają od finansów i od tego, co modele naprawdę potrafią. Zawsze powtarzam o entuzjastach AI: gdybym mógł ich regulować, zabroniłbym im mówić w czasie przyszłym. Mów o dziś. Maksymalnie dwa tygodnie do przodu. Bo gdyby byli ograniczeni do tego, co dzieje się dzisiaj, brzmieliby jak szaleńcy.

Czym różni się od Ubera

Steven Bartlett: Większość firm technologicznych brzmiałaby wtedy szalenie. Uber, Amazon.

Ed Zitron: Uber to zasadnicza różnica. Palił pieniądze, ale ekonomia jednostkowa była taka sama, tylko dotowana. Nadal dostawałeś przejazd z punktu A do B, płacąc znacznie mniej. Nie było tak, że płaciłeś Uberowi dwadzieścia dolarów miesięcznie i mogłeś przejechać pięćset mil, a potem pewnego dnia zacząłeś płacić od mili. A z tym właśnie mamy do czynienia.

Steven Bartlett: Czy zmienili model dla klientów takich jak ja, żebym musiał kupować kredyty?

Ed Zitron: Poniekąd tak. Przy modelu Fable od Anthropica część kont musi płacić za zużycie — i adopcja Fable jest raczej niska właśnie przez koszt. Ale przy przedsiębiorstwach, czyli firmach powyżej stu pięćdziesięciu osób, płaci się teraz za tokeny.

Steven Bartlett: Czyli przechodzą na tokeny.

Ed Zitron: Tak. I kiedy to zrobili, wszyscy przeszli od „to najbardziej imponująca rzecz w dziejach” do „musimy kontrolować te koszty”. Dyrektor operacyjny Ubera, Andrew Macdonald, powiedział, że coraz trudniej to uzasadnić, bo trudno powiązać wydatki na tokeny z faktycznie użytecznymi wynikami. Powiedział dokładnie to, co ja powtarzam.

Kiedy pęknie bańka

Steven Bartlett: Czyli jesteśmy w bańce AI. Kiedy pęknie, tak wiele gospodarki na niej stoi, że będą konsekwencje. Dwa pytania: czy jesteśmy w bańce i co się stanie, kiedy pęknie?

Ed Zitron: Tak. A co do drugiego — to zależy. Ludzie mówią: „dostaniemy bailout, Trump się przestraszy”. Problem w tym, że to nie jest tylko bańka AI. To jest „rot-com bubble”.

Pęknięcie zacznie się prawdopodobnie od tego, że jednej firmie skończą się pieniądze — OpenAI. Mieli wejść na giełdę w tym roku, teraz przesunięto to na przyszły, półtora tygodnia po tym, jak opublikowałem ich zaudytowane sprawozdania. Ciekawe, skąd to się wzięło. Sarah Friar, dyrektor finansowa, mówi teraz, że zrobią to wcześniej niż w 2027 albo w 2027. Świetna odpowiedź.

Steven Bartlett: Dla tych, którzy nie wiedzą: wejście na giełdę oznacza dołączenie do rynku publicznego, a wtedy inwestorzy mogą wreszcie sprzedać udziały objęte, gdy firma była prywatna. Dlatego firmy często flirtują z pomysłem debiutu — inwestorzy muszą widzieć moment, w którym odzyskają pieniądze z zyskiem.

Ed Zitron: W ostatniej rundzie OpenAI wyceniono na 865 miliardów dolarów. Kiedy próbowali wejść na giełdę — pisał o tym Mike Isaac z „New York Timesa” — chcieli ustalić wycenę na bilion. Doradcy podobno odradzili. OpenAI potrzebuje pieniędzy w trybie ciągłym. W tym roku zebrali 122 miliardy, większość już przepalili. Będą musieli zbierać co najmniej sto miliardów rocznie, żeby przetrwać. Jeśli nie wejdą na giełdę, będą musieli zrobić kolejną rundę — a trudno będzie zebrać nawet przy tej samej wycenie. Prawdopodobnie będzie to runda „flat”. Amazon przesłał im trzydzieści pięć miliardów, co miało być uzależnione od wczesnego debiutu.

OpenAI jest tu epicentrum katastrofy, bo Anthropic prawdopodobnie wejdzie na giełdę wcześniej. A kiedy Anthropic to zrobi, OpenAI będzie miało z tym niemal niemożliwe zadanie — bo Anthropic, też nierentowny i nietrwały, jest lepszym biznesem i rośnie szybciej. Uważam, że oni też mają sufit i że gdzieś w 2027 roku para zacznie się kończyć. Bo, jak mówiłem, jedyny sposób, żeby modele stawały się lepsze, to wpompowywanie w nie dziesiątek miliardów.

Steven Bartlett: Czyli OpenAI skończy się para w 2027?

Ed Zitron: Myślę, że para już się kończy, ale że w 2027 skończy im się gotówka. Sekwencja będzie taka: wyjdą po kolejną rundę i będą mieli z nią kłopot. Może Nvidia trochę ich podeprze, może private credit — Blackstone, BlackRock. Ci ostatni angażują się dlatego, że inwestują w centra danych i wiedzą, że ta firma to większość popytu na nie.

A jeśli będą się rzucać na giełdę w pośpiechu, będą mieli gorszą ekonomikę niż Anthropic i zostaną zmasakrowani. WeWork to świetny przykład — kolejny klasyk SoftBanku.

Kluczowe jest jednak to, że istnieje wiele firm egzystencjalnie związanych z OpenAI. SoftBank, jedna z największych spółek na japońskiej giełdzie, ma na papierze około stu miliardów w akcjach OpenAI. Jeśli OpenAI nie wejdzie na giełdę, nie mogą z tym zrobić nic. A zdolność SoftBanku do dalszego funkcjonowania zależy od możliwości upłynniania inwestycji — sprzedaży akcji albo brania pod nie pożyczek. SoftBankowi prawdopodobnie nie skończą się pieniądze, ale zobaczymy, jak jedna z największych spółek holdingowych świata bardzo się kurczy. Zobaczymy też Amazon, Google’a i Microsoft zmuszonych do korekty prognoz — będą musieli powiedzieć, że nie urosną tak szybko.

Steven Bartlett: I co wtedy?

Ed Zitron: Myślę, że wchodzimy w depresję technologiczną. Sedno mojej teorii jest takie, że skończyły im się pomysły na hiperwzrost, ale rynek tego nie widzi. Kupowanie GPU pozwala im kopać puszkę przed sobą i mówić „pracujemy nad AI, nie myśl za dużo”. Ich obecne biznesy wciąż rosną, ale w końcu zwolnią. Jest tylko tyle podwyżek cen, tyle poprawek w reklamach, tyle sposobów, na jakie Amazon może wykiwać sprzedawców.

Steven Bartlett: Czy to będzie kaskadowa depresja gospodarcza?

Ed Zitron: Tak. Trudno objąć wszystko, ale kilka rzeczy mnie niepokoi. Po pierwsze: masa pieniędzy zwykłych Amerykanów, inwestorów detalicznych, siedzi w tych spółkach. Kupili narrację o „wspaniałej siódemce” i o tym, że liczby rosną wiecznie. Nvidia to największa spółka na liście Fortune 500 i na NASDAQ, i jakieś siedem–osiem procent S&P 500. Nie weszliśmy w to głębiej, ale Nvidia prowadzi najbardziej okrężne finansowanie ze wszystkich, dokarmiając firmy pieniędzmi, żeby mogły wziąć dług na zakup jej kart. Myślę, że przychody Nvidii mogą spaść o pięćdziesiąt do siedemdziesięciu procent. W 2022 roku Nvidia zarabiała jednocyfrowe miliardy.

Steven Bartlett: A co z Jenny i Davem, zwykłymi ludźmi, którzy nas teraz oglądają?

Ed Zitron: Emerytury ludzi mocno się skurczą i nie sądzę, żeby wróciły do tych poziomów. Bo tak duża część wartości S&P 500 i Russell 1000 pochodzi z tych czterech spółek i reszty „wspaniałej siódemki” — Apple’a, Tesli, Mety. I nie wiem, co dzieje się potem, bo w zeszłym roku ponad połowa venture capital poszła w AI. Uważam, że większość inwestycji VC w AI pójdzie do zera, bo firmy budowane na LLM-ach też są nierentowne. Firmy LLM-owe zasadniczo nie były przejmowane — wyjątkiem jest przejęcie po stronie kodowania przez Elona Muska. A jest Cognition, kolejna firma LLM-owa, zbierająca przy wycenie dwudziestu sześciu miliardów. To znaczy, że musi wejść na giełdę, bo kto kupi firmę za dwadzieścia sześć miliardów poza Elonem Muskiem?

Steven Bartlett: Opisujesz recesję?

Ed Zitron: To recesja, ale w emeryturach ludzi to depresja. Mówię o dwudziestu, trzydziestu, czterdziestu procentach ściętych z wartości akcji tych spółek.

Steven Bartlett: Kurczenie się gospodarki konsekwentnie prowadzi do utraty miejsc pracy. Mechanizm zwykle jest przewidywalny: spadek popytu, kompresja marż przy stałych kosztach, a na końcu cięcia — zamrożenie rekrutacji, redukcja godzin, zwolnienia.

Ed Zitron: Tak, to wszystko by się wydarzyło. Ale mówimy o spadku wartości kapitału i o tym, że ta wartość nie ma dokąd pójść. Teoretycznie da się uratować OpenAI. Nie sądzę, żeby do tego doszło. Można napchać te firmy pieniędzmi i utrzymać je chwilę przy życiu, ale w pewnym momencie trzeba zacząć płacić. OpenAI i Anthropic mają razem 1,1 biliona dolarów zobowiązań. Oracle buduje 7,1 gigawata centrów danych — ponad czterysta miliardów dolarów, wyłącznie pod OpenAI. Nie ma na Ziemi innego klienta na taką skalę, a przychody Oracle’a po urealnieniu o inflację są płaskie od piętnastu lat. Bez OpenAI Oracle umiera.

Znaczące są też dziesiątki tysięcy ludzi, którzy zostaną zwolnieni z sektora technologicznego. I sprawa venture capital: od 2018 roku fundusze mają jedną z historycznie najgorszych passy. Średni zwrot — ile dostajesz z powrotem za każdego zainwestowanego dolara — wynosi między 0,8 a 1,2. Czyli za dolara dostajesz od osiemdziesięciu centów do dolara dwadzieścia. Krótko mówiąc: venture capital nie generuje realnych zwrotów.

Steven Bartlett: Świętują zyski papierowe.

Ed Zitron: Świętują zyski papierowe i na tych zyskach zbierają kolejne fundusze. Zresztą Google i Amazon robiły to samo. Google w ostatnim kwartale podbił zysk netto na papierze o 99 miliardów dolarów dzięki wzrostowi wartości udziałów w SpaceX i Anthropiku. To, że to się dzieje, jest szalone, a to, że nie jest skandalem, jest jeszcze bardziej szalone.

Teraz wszyscy korzystają. Zyski spekulacyjne są wspaniałe, zyski papierowe są wspaniałe, teoretyczna wartość Anthropica na poziomie dwóch bilionów jest wspaniała — ile artykułów można napisać, ile obietnic złożyć. Ale kiedy przyjdzie co do czego, będzie ciężko, bo wycena Amazona, Google’a, Microsoftu i Mety opiera się na założeniu, że będą rosnąć wiecznie. Cytując znów Eda Elsona: oni wszyscy robią sobie teraz botoks. Wpompowują pieniądze, żeby poczuć się młodo, a rynek im wierzy. Kiedy przestanie wierzyć, nie mówimy tylko o depresji. Mówię o rynku wyceniającym ich jak linie lotnicze: jesteście naprawdę duzi i zarabiacie na istniejących produktach, ale nie macie nic nowego, będziecie robić to samo w nieskończoność i tak was wycenimy.

Co ma zrobić zwykły człowiek

Steven Bartlett: Czy Jenny i Dave powinni coś robić inaczej? Oszczędzać, być ostrożniejsi?

Ed Zitron: Tak. Ja nie mam pieniędzy na rynku. Uważam, że to kasyno, pompowane przez media.

Steven Bartlett: Powinni inwestować w S&P 500? W OpenAI?

Ed Zitron: O Boże, nie. Ja siedzę w gotówce. Nie ufam rynkowi. Nie czuję się komfortowo, dając porady finansowe.

Steven Bartlett: Czyli: być zachowawczym, może być zmiennie.

Ed Zitron: Zachowuj się tak, jak zachowujesz się przy zmienności. Bierz zyski, kiedy je masz. Nie sprzedawaj wszystkiego, ale bądź podejrzliwy wobec technologii — to jest właściwie najważniejsze. Bądź podejrzliwy wobec tego, co obiecują. Jeśli działasz na podstawie ich obietnic, nie ufaj obietnicom. Zakładaj, że powiedzą to, co podbije kurs, a nie to, co się faktycznie dzieje, i że znajdą każdą wątpliwą metodę, żebyś myślał, że coś się dzieje.

Świetnym przykładem jest zannualizowany run rate. Microsoft podał, że ma 37–38 miliardów dolarów zannualizowanego run rate w AI. Słyszysz to i myślisz: zarobili trzydzieści osiem miliardów. Nawet tego nie definiują, a jest skonstruowane po to, by manipulować. Robią to, bo nie mamy sprawnej Komisji Papierów Wartościowych ani środowiska medialnego, w którym priorytetem jest sceptycyzm i ochrona czytelnika.

Steven Bartlett: Oni powiedzieliby: ta technologia będzie tak wielka i przeobrażająca, że inwestujemy ogromne pieniądze przed pojawieniem się wartości. Słyszałem twoją odpowiedź, chciałem tylko wyrazić ich stanowisko, żebyśmy potańczyli między tymi dwiema perspektywami. Wiele osób powiedziałoby też, że będzie masakra, bo nie wszyscy mogą wygrać tak, jak to opisują. Ktoś musi przegrać. A kiedy któryś z graczy zacznie przegrywać na dużą skalę, może dojść do efektu domina.

Ed Zitron: Tak. Ludzie chcą wierzyć w wersję z bańką dot-com: że potem wyszło dobrze, bo Amazon i Oracle nie umarły. To nie jest ten przypadek. To są większe firmy z większymi obietnicami. Uważam, że Oracle faktycznie mógłby umrzeć.

Steven Bartlett: Ty naprawdę nie lubisz tych ludzi, prawda? Pytam dlatego, że chcę odpowiedź, nie dlatego, że się zgadzam albo nie. Dlaczego ich nie lubisz?

Ed Zitron: Nie lubię być wprowadzany w błąd i nie sądzę, żeby zwykli ludzie to lubili. Nie sądzę też, żeby przeciętnemu człowiekowi uszło na sucho tyle ściemy, ile uchodzi tym firmom, ani żeby dostał choćby ułamek tej pobłażliwości wobec porażek i kłamstw. Uważam, że pozwalanie tym firmom hulać, obiecywać świat i nigdy nie być z tego rozliczanym ma realny koszt ekonomiczny i ludzki.

Letniość dzisiejszej krytyki jest strasznie frustrująca. Jest kilku naprawdę świetnych krytyków. Ale patrzenie, jak ultrabogaci i ultrawpływowi ludzie kłamią w żywe oczy — czy jak to tam nazwiemy — przewraca mi żołądek. Nienawidzę patrzeć, jak ludzie są wprowadzani w błąd. Piszę tak obszernie, bo naprawdę chcę, żeby ludzie zobaczyli, jak doszedłem do swoich wniosków. Czy mam rację? Myślę, że tak, oczywiście, że tak myślę. Ale po prostu uważam to za odrażające. Te firmy nie robią już dobrych produktów, nie dbają o klientów i traktują ich z pogardą.

Zakończenie: pytanie od poprzedniego gościa

Steven Bartlett: Mamy tradycję: poprzedni gość zostawia pytanie dla następnego, nie wiedząc, dla kogo. Pytanie dla ciebie brzmi: skoro relacje wysokiej jakości są ważne dla zdrowia i długowieczności, co powinniśmy robić, żeby poprawiać nasze relacje i więzi społeczne?

Ed Zitron: To się łączy z bańką AI. Jestem krytykiem i sceptykiem. Odkryłem, że okazywanie ludziom wokół uznania i miłości, podnoszenie ich w górę wraz z własnym sukcesem — to jest właśnie ten sposób. Twój sukces powinien być sukcesem wszystkich wokół. To nie jest kwestia ekonomii. Samo mówienie przez chwilę o Matcie Hughesie sprawiło mi ogromną radość.

Ta cała sprawa bywa mozolna, przygnębiająca i brutalna. Ale miłość i radość, które znalazłem we wspólnocie i w ludziach wokół — nawet w małych grupkach malkontentów, jak Gary Marcus, Edward Ongweso Jr., Molly White czy Brian Merchant — okazały się ogromne. Ci ludzie byli serdeczni i troskliwi. W momentach bardzo krytycznych, kiedy koncentrujesz się na tym, jak źle jest, kluczowe jest znalezienie ludzi, którym też się to nie podoba. Znalezienie swoich ludzi. Nawet rozmowa z Troyem i Jakiem, moimi trenerami, o zwykłych sprawach, świadomość, że oni też mają swoje zmagania — to daje perspektywę i przypomina, że ty też jesteś człowiekiem.

Łatwo zablokować się na wszystkim w życiu i oddalić od tego, po co się w ogóle coś robi, skupiając się nadmiernie na pracy. A najważniejsze bywa świadomość, że są inni ludzie, którzy czują to samo. Kiedy dostaję wiadomości od słuchaczy i czytelników, najczęstsza rzecz, jaką mówią, jest taka, że czują, iż mają głos i że ktoś jest przy nich.

I nie da się przecenić, ile znaczy zwykłe sięgnięcie po telefon do kogoś, kogo kochasz, i powiedzenie mu tego. Powiedz, że jest świetny. Kiedy lubisz artystę, pisarza albo podcast — powiedz mu, że to kochasz. Robimy tego za mało i musimy robić więcej.

10 najważniejszych takeaways — z kontekstem zastosowania

1.Rozdzielaj „AI” na konkretne technologie, zanim ocenisz jakąkolwiek tezę

Na czym polega: Zitron konsekwentnie oddziela generatywną AI i LLM-y od zwijania białek, robotyki, autonomicznych pojazdów i klasycznego uczenia maszynowego. Twierdzi, że wspólna etykieta „AI” służy temu, by sukcesy jednej dziedziny zaliczać na poczet innej — i by trudno było cokolwiek sfalsyfikować.

Jak stosować: Za każdym razem, gdy czytasz prognozę o „AI”, podstawiaj konkretną technologię i sprawdzaj, czy zdanie nadal się broni. To samo rób we własnych prezentacjach i notatkach — pisz „LLM”, „model wizyjny”, „klasyfikator”, a nie „AI”.

Na co uważać: Ten sam mechanizm działa w drugą stronę. Jeśli obalasz tezę o LLM-ach, nie przenoś automatycznie wniosku na robotykę czy AlphaFold — Zitron sam przyznaje, że w robotykę byłby gotów uwierzyć w perspektywie dekad.

2.Sprawdź, kto płaci za twoje tokeny

Na czym polega: Według cytowanej analizy Semianalysis przy abonamencie 200 dolarów można spalić tokeny warte kilkanaście tysięcy dolarów, a przy planie za 20 dolarów — kilkaset. To oznacza, że rachunek ekonomiczny widoczny dla użytkownika nie jest rachunkiem rzeczywistym.

Jak stosować: Przelicz swoje kluczowe przepływy pracy po cenniku API zamiast po cenie abonamentu. Jeśli po tym przeliczeniu proces nadal ma sens, jest odporny na zmianę modelu rozliczeń. Jeśli nie — masz zależność, którą trzeba świadomie zarządzać.

Na co uważać: Zitron sam nie zna rzeczywistej marży — mówi, że może to być trzydzieści do jednego, może inaczej. Traktuj ten rachunek jako test odporności, nie jako precyzyjną prognozę podwyżek.

3.Traktuj „annualized run rate” jak sygnał ostrzegawczy, nie jak liczbę

Na czym polega: Zannualizowany run rate nie jest kategorią księgową o ustalonej definicji. Spółka sama wybiera okres bazowy i mnożnik, a wynik brzmi jak roczny przychód, którym nie jest.

Jak stosować: Gdy widzisz taką liczbę, szukaj definicji okresu. Jeśli jej nie ma, potraktuj wartość jako niesprawdzalną i nie buduj na niej porównań między spółkami ani prognoz budżetowych.

Na co uważać: Brak wyodrębnienia przychodów z AI nie jest sam w sobie dowodem strat — spółki mają też zwyczajne powody konkurencyjne, by ich nie ujawniać. To przesłanka do ostrożności, nie wyrok.

4.Oceniaj narzędzie po niezawodności w zadaniu ryzykownym, nie po średniej trafności

Na czym polega: Spór o halucynacje w tej rozmowie sprowadza się do tego, że 0,7% błędów przy prostym streszczeniu i 0,7% błędów w modelu finansowym albo transkrypcji medycznej to zupełnie różne ryzyka. Zitron podaje przykład kursu akcji Microsoftu, który wyglądał wiarygodnie i był zmyślony.

Jak stosować: Podziel swoje zastosowania na te, w których błąd jest widoczny i tani, oraz te, w których jest niewidoczny i drogi. W drugiej kategorii zbuduj deterministyczną weryfikację — źródło prawdy, do którego porównujesz wynik, a nie kolejny model.

Na co uważać: To działa w obie strony: nie odrzucaj narzędzia dlatego, że raz się pomyliło w zastosowaniu o niskiej stawce. Rozstrzyga koszt błędu, nie sam fakt jego wystąpienia.

5.Porównuj z realną alternatywą, ale rozliczaj też koszt weryfikacji

Na czym polega: Bartlett argumentuje, że właściwym punktem odniesienia nie jest doskonałość, tylko to, jak zrobiłbyś to inaczej — własnym czasem albo pracą stażysty. Zitron odpowiada, że sensownym miernikiem jest cała ścieżka razem z nakładem na obudowy, prompty i sprawdzanie.

Jak stosować: Licząc oszczędność czasu, doliczaj czas na weryfikację i poprawki. Porównuj całkowity czas do rezultatu, którym możesz się posłużyć bez zastrzeżeń — a nie do momentu, w którym model coś wypluł.

Na co uważać: Nie doliczaj kosztu weryfikacji tylko po jednej stronie. Praca człowieka też wymaga sprawdzenia; uczciwe porównanie obejmuje oba warianty.

6.Rozpoznawaj presję „użyj AI, bo zostaniesz w tyle” jako mechanizm sprzedażowy

Na czym polega: Zitron przytacza zasadę, że każdy przekręt zaczyna się od poganiania, i opisuje zjawisko „AI-washingu” pracy — deklarowania użycia AI, bo inaczej są konsekwencje zawodowe, niezależnie od faktycznej produktywności.

Jak stosować: W organizacji rozdziel wskaźnik „ile osób używa AI” od wskaźnika „co się poprawiło”. Mierz efekty procesu, a nie deklaracje adopcji, i nie nagradzaj samego faktu użycia narzędzia.

Na co uważać: Sceptycyzm wobec presji to nie to samo co bierność. Jeśli zrezygnujesz z eksperymentowania w obawie przed manipulacją, poniesiesz koszt w drugą stronę — po prostu rób to na własnych warunkach i we własnym tempie.

7.Uważaj na multiplikatywne psucie przy kodzie generowanym maszynowo

Na czym polega: W rozmowie pada obserwacja, że ludzie stopniowo obniżają czujność: skoro ostatnie sto linii było w porządku, kolejne sprawdzają mniej dokładnie. A błędy w bazie kodu — otwarta furtka bezpieczeństwa, cicho zepsuta funkcja — kumulują się.

Jak stosować: Ustal stały, nienegocjowalny próg przeglądu kodu, niezależny od tego, jak dobrze szło ostatnio. Szczególnie chroń miejsca dotyczące uwierzytelniania, uprawnień i danych osobowych.

Na co uważać: Utrata własnej wprawy jest realnym kosztem. Jeśli miesiącami nie pisałeś kodu ręcznie, twoja zdolność wyłapania subtelnego błędu spada dokładnie wtedy, gdy jest najbardziej potrzebna.

8.Sprawdzaj, czy popyt jest realny, czy okrężny

Na czym polega: Rdzeń tezy Zitrona: znaczna część przychodów z AI to pieniądze krążące między kilkoma podmiotami — dostawcy chmury finansują laboratoria, które oddają te pieniądze za moc obliczeniową, a Nvidia inwestuje w firmy kupujące jej karty.

Jak stosować: Analizując dowolny rynek w fazie boomu, narysuj przepływy pieniężne między głównymi graczami. Pytaj, ilu klientów jest niezależnych od dostawców, a ile popytu pochodzi od podmiotów finansowanych przez tych samych dostawców.

Na co uważać: Finansowanie strategiczne dostawcy przez klienta nie jest samo w sobie patologią — bywa normalną praktyką przy budowie nowego rynku. Sygnałem ostrzegawczym jest dopiero skala i koncentracja, a nie samo zjawisko.

9.Prognoza „2027” to scenariusz, nie data w kalendarzu

Na czym polega: Zitron przewiduje, że OpenAI wyczerpie gotówkę około 2027 roku, co uruchomi łańcuch: problemy SoftBanku, zagrożenie dla Oracle’a, korekta prognoz u dostawców chmury, gwałtowny spadek przychodów Nvidii i szeroka przecena rynku.

Jak stosować: Zamiast obstawiać datę, wypisz obserwowalne sygnały pośrednie: czy dochodzi do debiutu giełdowego, czy runda jest „flat”, czy dostawcy chmury korygują prognozy w dół, czy Nvidia zmienia strukturę finansowania klientów. Te sygnały pojawiają się przed skutkiem i są sprawdzalne.

Na co uważać: To jest jedna, mocno zaangażowana prognoza. Sam Zitron przyznaje, że sposobów, w jakie to może się rozegrać, jest wiele — i nie podaje żadnego mechanizmu, który wykluczałby scenariusz łagodnej korekty.

10.W świecie tanich, powszechnych narzędzi rzadkie staje się to, czego one nie robią

Na czym polega: Bartlett formułuje to jako argument przeciwko przewartościowaniu AI: co utowarowione, traci wartość; co rzadkie — gust, osąd, jednostkowe doświadczenie, relacja — zyskuje. Zitron dokłada obserwację Carla Browna, że te narzędzia czynią rzeczy łatwe łatwiejszymi, a trudne trudniejszymi.

Jak stosować: Deleguj do modeli fragmenty, w których średnia jakość wystarcza, i konsekwentnie inwestuj własny czas w to, czego model nie odtworzy: kontekst, relacje, oryginalne badanie, odpowiedzialność za wynik. Przy treściach publicznych zakładaj, że wersja „domyślna” będzie identyczna z cudzą.

Na co uważać: Łatwo pomylić „irreplaceably human” z „napisane nieporadnie”. Rzadkość bierze się z konkretnego doświadczenia i jakości myślenia, a nie z samego faktu nieużywania narzędzia.