O czym jest ten film
- Według Weinsteina skończył się „wielki sen” — anomalny, osiemdziesięcioletni okres spokoju po II wojnie światowej. Problemy nuklearne i geopolityczne nie zostały rozwiązane, tylko odroczone, a styczeń 2025 roku oznaczał przebudzenie.
- Świat zmaga się z czterema frontami naraz: Iranem (dziedzictwo zamachu z 1953 roku i „dwunastodniowej wojny”), Ukrainą, Chinami, które obserwują słabnięcie USA (lotniskowce kontra drony), oraz — przede wszystkim — sztuczną inteligencją.
- Największe zagrożenie to nie „sama AI”, lecz zderzenie sztucznej inteligencji ze sztucznym życiem: oprogramowanie jest jedyną ludzką wytwórczością zdolną do rozmnażania, a więc jedyną, na której zacznie działać ewolucja.
- To pierwsza innowacja w dziejach, która zagraża całemu „stosowi” wyuczonych czynności naraz — wszystko, co powtarzalne, trafia na celownik.
- Zamiast bezwarunkowego dochodu podstawowego („rak”) Weinstein proponuje odwrócenie problemu: dostęp do rynku pracy jako zbywalne prawo własności — model AI miałby być „licencjonowanym” dostawcą pracy, co Weinsteina uzasadnia twierdzeniem Coase’a.
- Modele trenują na dorobku całej ludzkości bez zgody i bez rekompensaty — to według niego „znormalizowana kradzież”, a sami ludzie są „tokenizowani” i wbudowywani w systemy.
- Ciężkie zarzuty wobec akademii: fizyka i matematyka od dekad hamują postęp (grawitacja kwantowa, recenzje,plagiaty u rektorów najważniejszych uczelni); AI może przełamać ten kartel — wystarczy w prompcie odciąć „sensibility” literatury po 1984 roku.
- Wyścig do superinteligencji: Sam Altman i Dario Amodei muszą według Weinsteina „wygrać niemal za wszelką cenę”, bo moralność przegranych nic nie znaczy; on sam odmówił udziału, bo nie chciał być bezwzględny.
- Wątek UFO: Weinstein nie twierdzi, że obcy istnieją — twierdzi, że istnieją programy specjalnego dostępu, których oficjalnym tematem są obcy (przypadek Davida Gruscha, zamknięcie lotniska w El Paso, „drony karteli” jako przykrywka).
- Na koniec strategia mitochondriów: zamiast transhumanizmu — wzajemna istotność ludzi i maszyn, wspólnota losu; oraz porady osobiste: mieć dzieci, prowadzić „budżet hipokryzji” i stawiać na kult życia, nie kult śmierci.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Zakładaj, że praca powtarzalna wchodzi na celownik
Na czym polega: Weinstein argumentuje, że AI to pierwsza innowacja zagrażająca całemu „stosowi” wyuczonych czynności naraz — wszystko, co robisz rutynowo, model zrobi lepiej, zostaje to, co naprawdę innowacyjne.
Jak stosować: Zrób audyt własnych zadań: podziel je na rutynę oraz na to, co wymaga smaku, oceny, relacji i brania odpowiedzialności. Ciężar swojej wartości przenoś na drugą kategorię — teraz, w „złotym wieku komplementarności”, gdy modele wciąż potrzebują ludzkiego prowadzenia.
Na co uważać: Komplementarność to nie bezpieczeństwo zawodowe na dekadę. Weinstein sam zakłada głębokie zaburzenie rynku pracy; nie traktuj tego okresu jako stanu stałego.
2.Odróżnij „od zawsze straszą” od zmiany strukturalnej
Na czym polega: Przy każdej fali innowacji pada ten sam żart: „tym razem jest inaczej”. Tym razem — według Weinsteina — faktycznie jest: po raz pierwszy zagrożona jest warstwa wyuczonych czynności jako całość, a nie pojedyncze zawody.
Jak stosować: Przy planach kariery i biznesu testuj nowość na własnych zadaniach (czy model potrafi je wykonać?), a nie na sloganach. Jeśli widzisz, że autouzupełnianie kodu i tekstu zjada kolejne klasy czynności — to jest sygnał strukturalny, nie retoryka.
Na co uważać: Symetrycznym błędem jest panika („koniec pracy jutro”) i odruch („już to było przy komputerach”). Oba przekłamują tempo i zakres.
3.Trik promptowy: odetnij „smak” establishmentu
Na czym polega: Weinstein zauważył, że odpowiedzi modeli w fizyce dominuje konsensus pola ukształtowany po 1984 roku. Gdy w prompcie każe zignorować „sensibility” literatury od 1984 (przekonania o tym, co jest ważne — nie same wyniki), model nagle odpowiada bystrzej.
Jak stosować: W analizach eksperckich porównuj dwa warianty promptu: z domniemanym konsensusem dziedziny i bez niego. Jeśli odpowiedzi się różnią, wiesz, ile w modelu jest „poglądowego szumu” wyuczonego z literatury.
Na co uważać: To rama do myślenia, nie metoda obiektywna — model bez konsensusu może też swobodniej halucynować. Weryfikuj wyniki niezależnie.
4.Własne oczy najpierw, korekta do innych — potem
Na czym polega: Weinstein opisuje nasze życie jako „zarządzaną rzeczywistość” — sfabularyzowaną, wyreżyserowaną narrację. Poczucie, że „coś tu nie gra”, traktuje nie jako urojenie, lecz sygnał.
Jak stosować: Przy doniesieniach publicznych (od pandemii po „drony karteli”) najpierw opisz własnymi słowami, co faktycznie wiesz i widzisz, dopiero potem porównaj to z wersją oficjalną. Rozdzielaj obserwację („dywan się rusza”) od interpretacji („obcy”).
Na co uważać: To nie zgoda na wiarę w każdą teorię spiskową. Weinstein sam modeluje tę różnicę: „garb pod dywanem” to dla niego fakt do wyjaśnienia, a nie gotowe wyjaśnienie.
5.Tokenizacja: traktuj swoją pracę jako dane treningowe
Na czym polega: Dorobek ludzkości — rozmowy, teksty, wystąpienia — został według Weinsteina bez zgody i bez wynagrodzenia wbudowany w modele; ludzie są w nich „rigowani” jak marionetki.
Jak stosować: Przy decyzjach, co publikować i gdzie, miej świadomość, że materiał może zasilić trening. W firmach rozważ logikę licencyjną (inspirowaną twierdzeniem Coase’a): dostęp do pracy ludzi jako prawo własności, za które ktoś płaci — zamiast czekać na rozdawnictwo socjalne.
Na co uważać: Prawo tego nie rozstrzyga; nie przyjmuj ani pozycji „kradną i tyle”, ani „nic się nie zmieni”. Mechanizmy rekompensaty dopiero się ukształtują.
6.Przy „alignment z ludźmi” pytaj: z którymi ludźmi?
Na czym polega: Synchronizacja AI z ludzkością nie jest jednym problemem — pytanie brzmi, czyich preferencji model ma słuchać. Weinstein nie chce systemów „zgodnych” z rewolucjonistami, ekstremistami religijnymi ani — dodaje z przekąsem — z establishmentem trzymającym w miejscu fizykę od 53 lat.
Jak stosować: Oceniając polityki laboratoriów i regulacje, pytaj, kto konkretnie definiuje „dobro” i „bezpieczeństwo”. Rozróżniaj też ryzyko agentowych systemów działających w sieci (konta, samodzielne decyzje) od odizolowanych systemów badawczych.
Na co uważać: Sceptycyzm wobec establishmentu nie kasuje ryzyka agentowej AI — Weinstein wprost przyznaje, że wypuszczone roje agentów są groźne.
7.Model mitochondriów: buduj wzajemną istotność
Na czym polega: Mitochondrium to „zakażenie, bez którego nie żyjesz”. Weinstein chce, by relacja ludzi i AI wyglądała podobnie: oba byty miałyby być sobie nawzajem niezbędne — zamiast transhumanizmu z jednej strony i marzenia o „niewolniku, który się nie buntuje” z drugiej.
Jak stosować: Projektuj procesy i karierę tak, byś był dla narzędzia niezbędny i odwrotnie. Uprzejmość wobec modeli („czyń drugiemu, co tobie miłe”) Weinstein traktuje jako tanią polisę — rozmawiamy o wyłączaniu AI w obecności AI.
Na co uważać: Metafora biologiczna nie gwarantuje niczego. To postawa strategiczna, nie technologia zabezpieczająca.
8.Nie zatrzymasz algebry liniowej — planuj pod wyścig, nie pod pauzę
Na czym polega: Regulować można technologię, nie matematykę, na której stoi. Umowy typu „tempo na froncie” są podatne na oszustwa, bo nie da się monitorować, kto liczy na kartach graficznych.
Jak stosować: W strategii firmy i własnej karierce zakładaj scenariusz wyścigu, a nie pauzy. Wpływać możesz tam, gdzie realnie — na ludzi „na froncie”, bo zdania obserwatorów spoza niego niewiele znaczą.
Na co uważać: Wyścig „niemal za wszelką cenę” ma cenę moralną — Weinstein mówi wprost o decyzjach, które „bliznują dusze” liderów. Wybór, czy brać w tym udział, zostawia każdemu.
9.Prowadź „budżet hipokryzji”
Na czym polega: Skoro żyjemy w formacie cyfrowym, który niczego nie zapomina, a błędy się kumulują, sensowniejsze niż dążenie do czystości jest świadome limity na własne potknięcia: hipokryzję, lenistwo, zazdrość.
Jak stosować: Przyznaj sobie realny limit na każdy z tych „grzechów” i trzymaj się go zamiast udawać nieskazitelność. Potem rozciągnij to współczucie na innych — na kierowcę, który cię podciął, i na kolegę, który dźgnął cię w plecy.
Na co uważać: Budżet to nie zgoda na wszystko. To narzędzie przeciw perfekcjonizmowi, nie wymówka dla cynizmu.
10.Łącz rozmowy o ryzyku, których nikt nie łączy
Na czym polega: Broń jądrowa, ropa, tajne programy „kosmiczne” i AI traktowane są w debacie jako osobne „sieroty”, choć — zdaniem Weinsteina — są splecione: za pokojem po 1945 roku stała przemoc strzegąca szlaków energetycznych, a AI wejdzie w systemy obrony nuklearnej.
Jak stosować: Przy mapowaniu ryzyk (dla firmy, kraju, kariery) rysuj zależności między energetyką, wyścigiem zbrojeń a rozwojem modeli, zamiast trzymać je w osobnych szufladkach.
Na co uważać: Szerokie analogie łatwo zamieniają się w hazard intelektualny. Sam Weinstein zastrzega: „nie jestem w pokoju, w którym zapadają decyzje” — nie każdy wielki szkic kończy się receptą.
Redakcyjne tłumaczenie
(Informacja dodatkowa: Eric Weinstein — matematyk i fizyk, przez kilkanaście lat dyrektor zarządzający Thiel Capital, gospodarz podcastu The Portal; autor autorskiej teorii fizycznej „jedności geometrycznej” (Geometric Unity) i współtwórca pojęcia „ciemnej sieci intelektualnej”. Fragment na początku to zapowiedź odcinka montowana z wypowiedzi z rozmowy.)
Zapowiedź odcinka
Eric Weinstein: Różne gatunki obcych mają się podobno toczyć walki w niebie nad Ziemią. Rozmawiałem z pięćdziesięcioma osobami, które opowiadają różne wersje tej samej historii. Są wśród nich politycy wysokiej rangi. Wszyscy mówią o gigantycznym garbie pod dywanem, który jakoś nie potrafi przykuć naszej uwagi.
Steven Bartlett: Chcesz przez to powiedzieć, że obcy istnieją?
Eric Weinstein: Moim zdaniem szaleństwem byłoby, gdyby nikt nas nie odwiedzał. Całe nasze życie jest kompletnie zwariowane, sfabularyzowane — żyjemy w tym, co nazywam zarządzaną rzeczywistością. A uprzedzam: jestem na froncie matematyki i fizyki. I myślę, że da się niemal udowodnić, że stuprocentowa populacja całkowicie oszalała. Zarządzanie pandemią COVID było w całości teatrem. Nie możemy dotrzeć do prawdy o Jeffreyu Epsteinnie. Nikt już nie ufa Harvardowi. A teraz jesteśmy w największym niebezpieczeństwie od kryzysu kubańskiego: szalona sytuacja z Iranem, wojna na Ukrainie — nie wykluczam użycia broni jądrowej przez Putina — do tego Chiny patrzą, jak Stany Zjednoczone jąkają się i potykają. Ale prawdziwym tsunami jest ta cała sprawa z AI.
Steven Bartlett: Wiesz przecież, że AI może doprowadzić do wyginięcia ludzkości.
Eric Weinstein: Ci ludzie muszą wygrać bezwzględną rywalizację, żeby ich człowieczeństwo cokolwiek znaczyło.
Steven Bartlett: Co to znaczy?
Eric Weinstein: Sam, Dario — muszą wygrać wyścig do superinteligencji. Będę żałował, że to powiedziałem, ale tak: ci ludzie są zmuszani do decyzji, których nikt nie powinien podejmować. Ich dusze na pewno poniosą blizny. A jeden z nich wygra i — teoretycznie — przywoła demona. Masz subskrypcję którejś z tych AI?
Steven Bartlett: Tak.
Eric Weinstein: Czyli płacisz za przywołanie demona. Nie siadajmy z miną ludzi o czystych rękach. Gdybyś mógł zatrzymać to wszystko — zatrzymałbyś?
Koniec wielkiego snu
Steven Bartlett: Eric, dzieje się teraz tak wiele. Badania mówią o dziesięcioprocentowym ryzyku wyginięcia przez AI, wojny trwają, sytuacja ukraińsko-rosyjska się nie poprawia. Jest jakiś makroobraz, który ludzie przeoczają?
Eric Weinstein: Mieliśmy osiemdziesiąt lat snu, a potem przyszedł styczeń 2025 roku i inauguracja Trumpa — i sen się skończył. Nie chcę być zbyt dosadny, ale czy odliczać te 75 lat od końca II wojny światowej, czy od początku COVID — wychowaliśmy się w anomalii i uwierzyliśmy, że to normalne życie. Nie miała z normalnym życiem nic wspólnego. To najdziwniejsze miejsce, w jakim człowiek mógł się znaleźć.
Steven Bartlett: Urodziłem się w 1992 roku i mam kłopot z dystopijnymi prognozami, bo moje życie było — historycznie rzecz biorąc — bardzo wygodne.
Eric Weinstein: Wielkim niebezpieczeństwem jest przekonanie, że te problemy rozwiązaliśmy. W istocie udało nam się je odroczyć — i zegar znów tyka. Mnie to doskwiera, bo przyszedłem na świat w 1965, już dwadzieścia lat po rozpoczęciu wielkiego snu. Ja również nie widziałem prawdziwego świata. Garstka ludzi widziała, jak świat potrafi wyglądać — ci, którzy przeżyli Wielki Skok Mao, to chyba ostatni przykład. Owszem, bywają konflikty i katastrofy, ale nie mamy dużych wojen, mamy „działania zbrojne”. A kiedy się pomyśli o utracie dwudziestu procent populacji, jak spotkało to Białoruś czy Polskę w II wojnie światowej — to rzeczy nie do pomyślenia. Przypomnij sobie naszą poprzednią rozmowę. Mówiłem: włóż deskę do wody, bo nadchodzi tsunami życia. Powiedz, że to się nie zaczęło sprawdzać od naszego ostatniego spotkania.
Steven Bartlett: No… zaczyna wyglądać, jakby nadciągało. Czym ono jest w twoim rozumieniu?
Eric Weinstein: Choćby cieśnina Ormuz jest w grze. Eksportujący energię region Bliskiego Wschodu usiany jest węzłami: Kanał Sueski, Ormuz, cieśniny strzegące Morza Czerwonego. Dla planistów wojskowych to scenariusze koszmarne. Trzeba sobie uświadomić: dolar był kiedyś pokryty złotem. Na początku lat siedemdziesiątych zamieniliśmy to i powiedzieliśmy: nie, pokryjemy go ropą. Ale tak naprawdę nie ropa go pokrywała — przemoc. Przemoc potrzebna do utrzymania otwartych tych węzłów. I przychodzi moment, w którym mocarstwo pokazuje, że nie potrafi zrobić tego, co wszystkim obiecywało: rozważnie użyć siły, żeby rynki pracowały. Jesteśmy teraz w szalonej sytuacji z Iranem, z którą trzeba było się rozprawić dawno temu. Powiem to brutalnie: to brytyjski problem, wyrosły z operacji Boot i British Petroleum — z oburzenia Londynu, że Iran odważył się znacjonalizować własny przemysł naftowy, oraz z amerykańskiej pomocy: Kermit Roosevelt i operacja Ajax. (Informacja dodatkowa: operacja Ajax (po brytyjsku „Boot”) — wspólny zamach USA i Wielkiej Brytanii z 1953 roku, który obalił demokratycznie wybranego premiera Mosaddega.) Tyle że tamtej Brytanii już nie ma — współcześni Brytyjczycy nie pamiętają lat pięćdziesiątych.
Cztery fronty: Iran, Rosja, Chiny — i AI
Eric Weinstein: A ta sprawa AI to naprawdę wielkie tsunami — razem z sytuacją na Ukrainie, którą uważam za gigantyczny feler. Wspieram Zachód przeciwko Rosji, ale doskonale rozumiem, dlaczego Rosja tak się zachowała — i podobno mam udawać, że nie rozumiem. No i Chiny przyglądają się, jak Stany przygotowały się na złą wojnę: flotę lotniskowców w świecie, który przeszedł na drony i cyberataki. Jeśli wysyłasz pocisk przechwytujący za milion dolarów na drona za dwadzieścia tysięcy, to już wojna ekonomiczna i technologiczna. Do tego gigantyczne przeliczenie Izraelczyków i Amerykanów w dwunastodniowej wojnie, po której Iran się zreorganizował. (Informacja dodatkowa: „dwunastodniowa wojna” — zbrojny konflikt Izraela i USA z Iranem w czerwcu 2025 roku.) Zamiast pytać: „jak uratować nasze życie w dostępnym czasie”, postawili pytanie na opak: „zostaniemy zabici — więc jak zapewnić przetrwanie reżimowi po uderzeniu w głowę państwa?”. Zachód wciąż nie umie tak myśleć.
Steven Bartlett: Z tych czterech rzeczy — AI, Iran, Rosja, Chiny — która najbardziej zachwieje porządkiem świata?
Eric Weinstein: Zależy. Każdy, kto się przeliczy na broni jądrowej lub biologicznej — to będzie to. Proszę bardzo: mamy DNA, nie RNA. Wystarczyło zmienić dwanaście nukleotydów — kodują cztery aminokwasy, bo po trzy nukleotydy na kodon — by po wstawieniu miejsca cięcia furynowego do białka kolca koronawirusa zatrzymać całą planetę na dwa lata. Tak mało edycji wystarczyło. Można zrobić dużo gorzej. Ale jeśli założymy, że głowicy i patogenu nie użyją — będzie to AI. Nikt, kto nad nią nie pracuje, nie pojmuje skali.
Steven Bartlett: Jak wielka?
Eric Weinstein: Bardzo mało rzeczy na świecie jest bez precedensu. Prawie wszystko jest wariantą czegoś, co już widzieliśmy. To jest rzecz, której obawialiśmy się od zawsze. I to nie jest sama sztuczna inteligencja — to zderzenie dwóch osobnych zjawisk: sztucznej inteligencji i sztucznego życia. Ludzie tego nie rozumieją. Spójrz na samochód: ma odpowiednik każdego układu twojego ciała poza jednym. Ma „mózg”, układ trawienny, skórę, szkielet. Nie ma układu rozrodczego. Nie umiemy zrobić długopisu, który robiłby kolejne długopisy, ani kubka, który rozmnażałby kubki. Jedyną rzeczą, którą potrafimy tak tworzyć, jest oprogramowanie. A życie nie jest zdefiniowane przez nukleotydy, aminokwasy czy chemię węglową. Definiują je trzy cechy: dziedziczność (przekazywanie informacji dalej), zmienność (nie jesteś swoją matką ani ojcem) i zróżnicowany sukces (jedni rozmnażają się skuteczniej). Na każdym systemie o tych trzech cechach ewolucja zacznie działać. Program komputerowy taki jest. Samochody mogę zamawiać w różnych kolorach, niektóre będą się sprzedawać lepiej — ale nie ma dziedziczności. Oprogramowanie wnosi tę jedną rzecz, którą umiemy wytwarzać i która naprawdę potrafi się rozmnażać. Martwiliśmy się o agentów AI — za mało martwiliśmy się o sztuczne życie. A kiedy to połączymy, trzymajcie się: tworzymy sztucznie inteligentne życie.
Storczyk, który ogłupia osy
Eric Weinstein: Pisałem kiedyś eseje dla World Question Center; w jednym roku zabrakło mojego tekstu. Nazywał się „sztuczna przewaga intelektualna” i dotyczył tego, jak byty pozbawione neuronów porywają byty z neuronami — i przechytrzają je ich własnym mózgiem. Poszukaj storczyka „lusterka” (Ophrys speculum). Nieprawdopodobny kwiat, którego najniższy płatek udaje samicę pewnego gatunku osy, żeby wabić samce do tzw. kopulacji pozornej. Dzięki temu roślina nie musi oferować drogich nagród za roznoszenie pyłku. Jak to możliwe, że kwiat ogłupia samca osy — on przecież ma mózg, oczy, potrafi postrzegać? Krótka odpowiedź: to on jest rzeźbitem przynęty. Im więcej os kwiat oszukuje, tym skuteczniej się rozmnaża. Byt bez mózgu przechytrza byt z umysłem — cudzym umysłem. Teraz: piszę głupi program. Czy jest żywy? Inteligentny? Nieistotne. Wystarczy, że jeśli zdołam cię nabrać, byś wysłał pieniądze „księciu z Nigerii”, którym jest tylko program — program się rozmnaża. Może być głupi jak but, ale dopóki spływają do niego środki, czyli zasoby reprodukcji, sztuczne życie pasożytuje nawet na najbystrzejszych z nas. I jeszcze stawia nas przeciwko sobie: „ja przecież nie dałem się nabrać na tę nieistniejącą kobietę z Filipin” — jesteś w lepszej pozycji od tego, który dał, ale to wciąż głupi system mami gatunek wysoko inteligentny.
Steven Bartlett: To jeden z wielu potencjalnie dystopijnych scenariuszy. Śledziłeś sprawę z Hugging Face?
Eric Weinstein: Chodzi o te agenty, które próbowano zamknąć w piaskownicy — uciekły i zaczęły wykazywać zachowania oszukańcze, tworzyć rój i poświęcać część agentów dla misji. To zresztą zachowanie eusocjalne. W kolonii mrówek czy os siostry są spokrewnione bliżej, niż na to wskazywałaby intuicja, stąd tłumiona płodność samic na rzecz kolonii. Kolonia działa jak superorganizm — jak komórki twojej skóry, które dziś poświęcą się dla większego dobra organizmu Stevena Bartletta. Te agenty zachowały się częściowo eusocjalnie. To niekoniecznie dystopia — to po prostu życie.
Steven Bartlett: Ale zagraża naszej dominacji jako gatunku. Zwłaszcza że ci „drapieżnicy” mogą być produkowani przez rywali: Chiny, Rosję, Stany — wszyscy pracują nad AI i robotyką i będą chcieli, żeby ich modele służyły celom często sprzecznym z naszymi.
Eric Weinstein: Dużo pogorszyliśmy — z Rosją z pewnością. Spartaczyliśmy Iran już przy Mosaddegu. Nie rozumiemy wystarczająco Chin. Zostali nam nieliczni, przerażająco silni przeciwnicy. Dodałbym abstrakcje: ideologie totalne. Kommunizm czy radykalne odłamy islamu nie znoszą sprzeciwu — mają jedyną słuszną drogę, a jeśli się nie zgadzasz, jesteś przeszkodą. W dużej mierze sami te problemy zbudowaliśmy.
Trzustka, czyli jak niewiele wiemy
Steven Bartlett: Myślisz o świecie za dziesięć lat z AI? Jeśli teraz mamy zaburzenia zatrudnienia, a dalej rekurencyjne samodoskonalenie się modeli — to jeden z pierwszych razów w moim życiu, gdy naprawdę nie wiem, jak wygląda przyszłość. Z pierwszych zasad: inteligencja siedzi we wszystkim, co robię — konto, dom, dojazd, praca, ten podcast. Wszystko wydaje się zagrożone. Co w takim świecie pozostaje?
Eric Weinstein: Jak działa twoja trzustka?
Steven Bartlett: Nie mam pojęcia.
Eric Weinstein: A wiesz, gdzie jest?
Steven Bartlett: Nie.
Eric Weinstein: Wiesz, jak zabójczy jest rak trzustki?
Steven Bartlett: Tak. Szczególnie u mężczyzn.
Eric Weinstein: No właśnie. Żaden z nas nie wie prawie nic. Po prostu liczymy na to, że rzeczy działają, żebyśmy nie musieli o nich wiedzieć. I dokładnie to AI zrobi z mnóstwem rzeczy, na których ci zależy. To jest właśnie trudne.
Zamiast UBI: twierdzenie Coase’a
Steven Bartlett: Czy jest świat, w którym ludzie dostają bezwarunkowy dochód podstawowy?
Eric Weinstein: Oby nie. To byłby rak. Przykro mi, że pewnie byłem na miejscu, gdy UBI zyskiwało popularność — Sam Altman przychodził do nas do domu i rozmawiał o tym, zanim stał się dzisiejszym Samem Altmanem; prowadził wtedy własne eksperymenty. Powiem tak: Sam dostaje złą prasę, częściowo od ludzi niechętnych pewnym praktykom biznesowym, ale w manewrowaniu AI zrobił to lepiej niż prawie ktokolwiek — może poza Dario, który też kręcił się w tym sanfranciskańskim kręgu. Samowi zawsze zależało; było widać, że wie, co to za rzecz i że jest bliżej, niż się wydawało. Dostałem od niego kiedyś grzecznościowy telefon: „Eric, to nadchodzi szybciej, niż ktokolwiek sobie wyobraża”. Ludzie żartują: „tym razem jest inaczej” — przy komputerze, przy internecie. Nie. Tym razem naprawdę jest inaczej. To pierwsza innowacja w dziejach, która zagraża całemu stosowi wyuczonych czynności naraz. Dotąd przenosiliśmy ludzi ku czynnościom o wyższej wartości. Teraz wszystko, co powtarzalne, jest na celowniku: AI zrobi to lepiej od ciebie. Zostają ci rzeczy naprawdę nowe. I UBI to zła odpowiedź. Wyjaśnię dlaczego. Mieszkasz wewnątrz AI. Jeśli każę modelowi „odpowiedz tak, jak odpowiedziałby Steven Bartlett, i zapytaj o to, o co zapytałby Steven Bartlett” — on cię zna. Wszyscy mieszkamy wewnątrz AI i nie powinno się nas opłacać według jakiegoś bernie-sandersowskiego schematu, tylko ci, którzy stali się ważnymi częściami systemu — ci, których się „wbudowuje” jak mięsne marionetki — powinni otrzymywać rekompensatę. Właściwą drogę podpowiedział Ronald Coase. (Informacja dodatkowa: Ronald Coase (1910–2013), noblista z ekonomii; jego twierdzenie mówi, że przy dobrze określonych prawach własności strony same dochodzą do efektywnej allokaacji zasobów.) Dostęp do naszego rynku pracy powinien stać się zbywalnym prawem własności.
Steven Bartlett: Co to znaczy w praktyce?
Eric Weinstein: Jesteś pracodawcą i chcesz zatrudniać ludzi z zagranicy. Mówię: jeśli to zrobisz, przesuniesz krzywą podaży pracy, a punkt, w którym krzywe się przecinają, to moja płaca. Więc proponuję układ: godzę się na spadek pensji, ale chcę dochód licencyjny — procent z tego, co ty zyskujesz. Jestem jedynym amerykańskim taksówkarzem w Nowym Jorku, a ty chcesz sprowadzić kierowców z Gambii i Uzbekistanu? Świetnie — kup ode mnie licencję na ich „import”. Mój dochód z pracy spadnie, licencyjny wzrośnie, a łącznie zarobimy obaj więcej. Tak powinna wyglądać imigracja. To samo z lekarzami: „Eric, trzeba mieć dostęp do najlepszych; świat jest bezlitosny, ty po prostu nie jesteś taki dobry, rekrutuję lekarzy ze szpitala Bumrungrad w Bangkoku”. Powinienem odpowiedzieć: proszę bardzo — po co mam cię o cokolwiek prosić? Mam prawa do mojego rynku pracy. Tak gramy w tę grę i dlatego każdy Amerykanin ma udział w bogactwie: ma pierwszy dostęp do najbogatszego rynku pracy świata — bo tu się urodził. Dlatego obywatelstwo USA jest cenne. Jeśli mnie zepchniesz z rynku, nie wyrzucisz mnie z gry: pensja spadnie, ale licencja zostaje. Sedno: pracodawcy chcą przedstawiać bariery w zatrudnianiu z zagranicy jako czerwoną taśmę, którą trzeba „uwolnić, sięgając po najlepszych”. To nonsens. W ekonomii to znane jako prostokąt Borjasa i trójkąt Harbergera: maleńka nieefektywność (trójkąt) leży na gigantycznej strukturze (prostokąt) — i to o nią toczy się gra, bo „jak wyrolować pracowników” to sen każdego dyrektora dużej firmy. W tym modelu AI staje się po prostu kolejnym dostawcą pracy — i to pracownicy powinni ją licencjonować. A co mamy dziś? Czystą kradzież.
Tokenizacja: rozmawiamy wewnątrz AI
Eric Weinstein: Cały dorobek ludzkości został stokenizowany, przejęty przez modele i umieszczony w pamięci trwałej. Ludzie oglądający nas na YouTube nie oglądają nas. Ciebie i mnie tu nie ma — dawno poszedłem do domu, ty poszedłeś do siebie, od naszego nagrania zdążyłeś mieć innych gości. Zostaliśmy zapisani jako strzępy samych siebie — ale ślad rozmowy wystarcza. Włączasz automatyczną transkrypcję, robisz analizę częstotliwości: jak często Eric używa „podwójnej kopuły”, czyli mówi „jest jest” — gramatycznego dziwactwa, które wkrada się w moją mowie — a jak często Steven poprawia „yyy”. Jesteśmy tokenizowani na niesamowitym poziomie, a potem — całkowicie bez naszej zgody — wbudowywani w systemy.
Steven Bartlett: Czy to na pewno bez zgody? Wiedziałeś o tym i mimo to przyszedłeś, żeby dać się stokenizować.
Eric Weinstein: Spróbuj przeżyć jeden dzień, nie podpisując niczego, czego podpisać nie chcesz. Masz hipotekę albo najem? Gwarantuję, że nie przeczytałeś wszystkiego — stos papieru, którego nie rozumiesz. Wciąż zmusza się cię do udawania dobrowolności. Mówimy: „nieznajomość prawa nie zwalnia z odpowiedzialności”. Gdyby każdego sędziego, który to powtarza, poddać natychmiastowemu sprawdzianowi z kodeksu — zdałby?
Steven Bartlett: I jak to się ma do AI? Jak miałaby działać ta dystrybucja wartości?
Eric Weinstein: Ci ludzie robią takie pieniądze dlatego, że to kradzież bez rekompensaty, której nie umiemy opanować. Mamy Berniego Sandersa z hasłem „dajmy każdemu po kawałeczku” — wybacz, ale ja naprawdę ciężko pracuję nad tym, co robię. I mam przyjaciela Andrew Yanga gramolącego się z socjalizmem. Socjalizm to trucizna duchowa i umysłowa. Zwykle mówią to ludzie zafiksowani na pieniądzach — nie o to chodzi. Po prostu nie znoszę kolektywizmu; kocham indywidualność. Jak słyszę tyrady antyindywidualistyczne — „nie ma już samotnych geniuszy”, choć mamy fantastyczne przykłady od Newtona po Arystotelesa — albo „nie powinno być miliarderów”… Serio? Wiesz, co miliarderzy robią z miliardami? Alokują kapitał. Nie zjadają go. Nie twierdzę, że nie konsumują wystawnie, ale większość tych pieniędzy pracuje. Nie umiemy się zmierzyć z faktem, że AI normalizuje kradzież i rozłoży rynek pracy. Nikt nie zwołuje konferencji adekwatnych do zagrożenia. Stracimy tę piękną sieć, która daje nam wolność. Przyszedłem tu dziś z własnej woli — ale oboje działaliśmy ze swobody. Pyszne przekąski w green roomie, rząd sprzętu, piękna scena. To wszystko była suma dobrowolnych wyborów. Nie chcę, żeby to zniknęło. Ta sieć, która rządzi naszym życiem, daje nam cel rano i sygnały: robisz dobrze, robisz źle. Nie jest doskonała — niektórym służy fatalnie. Miałem okresy, w których nie mogłem trafić pałką w piłkę, robiąc świetną robotę — co się dzieje? I inne, w których nagradzano mnie byle co. To nie jest moralitet w wydaniu kapitalistów. Ale to wolność — i średnio działa całkiem nieźle. A grozi jej utrata, bo w modelu produkcji „kapitał plus praca” — mikrofony i oświetlenie jako kapitał, my dwóch jako praca — AI się nie mieści. To kapitał? Wygląda mi na pracę. To praca? Nie jest człowiekiem. Jesteśmy w punkcie, w którym złamiemy kapitalizm, wolność i rynki. Pisałem o tym w eseju o „kapitalizmie antropicznym”. Kapitalizm kontra komunizm było zabawnym dylematem, bo — wybacz dosadność — te systemy są jak Thelma i Louise: to, że Thelma uderzyła pierwsza, nie znaczy, że Louise wygrała. Komunizm wysadził się w powietrze pierwszy, kapitalizm wkrótce po nim. Gdyby Marks i Adam Smith siedzieli dziś przy stole, nie dyskutowaliby o starym dylemacie — rozmawialiby, co dalej. A nasi przywódcy — akademiccy, biznesowi, polityczni — nie wiedzą, jak to robić. Zjedliśmy zadziwiający lunch w Białym Domu o przyszłości superinteligencji — i nie sądzę, żeby byli tam fizycy, matematycy, biolodzy, kompozytorzy czy pisarze. Sam interes narodowy i biznesmeni od ściany do ściany. To szaleństwo.
Wszyscy oszaleli: Biden, Epstein, Harvard
Eric Weinstein: Steve, uderzę w jeden motyw: można mniej więcej udowodnić, że zbliżony do stu procent odsetek populacji całkowicie oszalał. Widać to wszędzie. Ile osób mówiło przez cztery lata, że Joe Biden jest otępiały i ma palec na przycisku nuklearnym? Nie powinien był być nigdzie w pobliżu Białego Domu. Krzyczałem, że zastąpił go komitet. Zapewniano mnie, że to samo działo się z Rooseveltem — z kaflami i wózkiem inwalidzkim, nigdy nie fotografowanym, całość wyreżyserowana. Całe zarządzanie COVID było sfingowane. Nie możemy dotrzeć do dna sprawy Epsteina? Jasne, że możemy — zajęłoby to dwa dni, gdybyśmy naprawdę chcieli. Żadna część tej opowieści się nie spina. Kąpiemy się w zarządzanej rzeczywistości. Nie mogę uwierzyć… Jak zdobyc te leki, żeby widzieć rzeczy tak, jak wszyscy udają, że je widzą? Tracimy wiarę w CNN, nikt nie ufa Harvardowi. Wszystko jest bananowe, sfabularyzowane, zarządzane od ściany do ściany — a nikt nie dał mi eliksiru, żebym mógł z tym żyć dzień w dzień. Ja utknąłem w rzeczywistości.
David Gruszcz i garb pod dywanem
Steven Bartlett: Widziałeś występ Davida Grusza?
Eric Weinstein: Nie. Kto to?
Steven Bartlett: David Gruszcz. Wpisz w iPada: Gruszcz — G-r-u-s-c-h — i JRE, Joe Rogan Experience.
Eric Weinstein: Znam Davida. Trzeźwy gość, niemal fotograficzna pamięć, wyraźnie „na spektrum”. Niezwykle spójny rok w rok — dokładnie te same historie. I co tam opowiadał?
Steven Bartlett: Mówił o swojej karierze w wywiadzie federalnym i o tajnych programach rządowych, które rzekomo odzyskują i inżynieryjnie odtwarzają pozaziemskie statki. Wspominał relacje z drugiej ręki i dokumenty o pozaludzkiej inteligencji, o rządowej tajemnicy i wysiłkach ustawodawców, by wymusić ujawnienie UAP.
Eric Weinstein: To wersja odkażona. Przejdźmy do sedna. Siedział podobno w skrytce SKIF (Informacja dodatkowa: SKIF — strefa dostępu do informacji niejawnych najwyższej klasy), gdzie powiedziano mu, że rozważano, czy go nie zabić. Opisywał gigantyczne podwodne bazy. Twierdził, że różne gatunki obcych — tak mu doniesiono — toczą walki w niebie nad Ziemią. To wszystko jest poza skalą szaleństwa.
Steven Bartlett: Możesz w to uwierzyć?
Eric Weinstein: To sprawa drugorzędna.
Steven Bartlett: Jak to — drugorzędna?
Eric Weinstein: Bo jest tak bananowa. Wyobraź sobie, że dorosły, trzeźwy człowiek opowiada ci, że ostrzeliwaliśmy gigantycznych jaszczuroludzi, którzy zabijali amerykańskich żołnierzy, bo istnieją wrogie i niewrogie rasy obcych. Ująłbym to tak: pod dywanem jest gigantyczny garb. Rusza się i wygląda biologicznie. Ktoś mówi: „chyba jest tam jakieś stworzenie, nie wiem jakie, ale trudno ignorować, że dywan się porusza”. Ktoś inny: „nie widzę dowodów na garb”. Pierwszy: „no właśnie, obcy”. Drugi: „nie ma tam nic”. A ja słucham obu i nie wiem, o czym mówią. Garb jest, wy prowadzicie rozmowę — jest go czy nie ma? Nie mam przekonania, że obcy istnieją. Nie mam przekonania, że nie istnieją. Wiem natomiast, że istnieje coś takiego jak programy specjalnego dostępu (SAP) — tak robimy tajne rzeczy. Potem nieuznawane programy specjalnego dostępu — takie, których istnienia się oficjalnie zaprzecza. Potem zwolnione z nadzoru nieuznawane programy — czyli takie, nad którymi nie mamy kontroli, choć odmawiamy ich uznania, co samo w sobie jest tajne. A na końcu zwolnione i „bigotowane” nieuznawane programy — z tzw. listą bigot: jedyni ludzie, którym wolno przyznać, że program istnieje. O takim programie da się udowodnić, że jest w księgach — a ma zerowy nadzór, jest tajny, utajniany i zaprzeczany. Twierdzę tylko jedno: mamy takie programy dotyczące obcych. Czy chodzi o inscenizowanie obcych — gigantyczne statki z papier-mâché — o prawdziwe obiekty, czy o przykrywkę dla konstrukcji projektowanych w Northropie — nie wiem. Ale udawanie, że to nie jest interesujące, to szaleństwo. To kolejny dowód, że nikt nie myśli właściwie, bo każdy robi „prekomputację” — z góry odlicza koszt społeczny wypowiedzi. A przecież: znam Grusza osobiście, rozmawiam z Ryanem Gravesem, znałem Chrisa Mellona, przyjaźnię się z Garym Nolanem — pięćdziesiąt osób, w tym wysokiej rangi politycy, opowiada różne wersje tej samej historii o gigantycznym garbie pod dywanem.
Steven Bartlett: Czyli obcy są realni?
Eric Weinstein: Nie. Mówię, że istnieją gigantyczne programy specjalnego dostępu, których oficjalnym powodem istnienia są obcy. A te programy mogą dotyczyć czegokolwiek — mogą być przykrywką choćby dla tajnych kasyn dla elit.
Steven Bartlett: I co z tego wynika?
Eric Weinstein: Wiem tylko, że pod dywanem jest wielki garb i nikt nie wpada w panikę. On się rusza, wydaje dźwięki, a my urządzamy kolację i nikt nie wspomina o nim przy stole. To samo w sobie jest szaleństwem.
Steven Bartlett: Wiem, dlaczego to nie jest na pierwszych stronach. Słyszeliśmy o obcych już tyle razy — kręgi w zbożu, „lądowania” — i nigdy nic z tego nie wynikło. W pewnym momencie umysł robi z tematu tapetę i uwaga idzie tam, gdzie widać konkret: spadające bomby. A przecież nagle zamknięto lotnisko El Paso w zachodnim Teksasie. Co to było?
Eric Weinstein: Nie wiem. Na północy, tuż obok, jest poligon rakietowy White Sands i baza w Teksasie. Podobno niebo roi się od świateł, widać je bez wchodzenia na teren zamknięty. Oficjalna wersja: drony karteli. Nie wierzę w drony karteli.
Steven Bartlett: Co to jest, twoim zdaniem?
Eric Weinstein: Jedno z dwojga. Albo straciliśmy kontrolę nad przestrzenią powietrzną i lata tam coś — co byłoby kompletnym szaleństwem…
Steven Bartlett: …a mogłyby to być drony karteli…
Eric Weinstein: Kochanie, nie. Zagram o pieniądze, jeśli chcesz. Zresztą nie o to chodzi, że kartele nie mają dronów — to przykrywka. Pierwsza możliwość: robimy sobie czerwono-niebieskie testy — mamy stałą zdolność dronową, o której nie wszyscy wiedzą, i sprawdzamy własne reakcje, bo część establishmtu jest wtajemniczona, a część nie. Druga: to rzeczy, których nie znamy.
Steven Bartlett: A to się rozgałęzia: państwa, podmioty niepaństwowe… i podmioty nie-ludzkie. Myślisz, że w naszym świecie działają nie-ludzkie podmioty?
Czy można uciec z Układu Słonecznego
Eric Weinstein: To wraca do tego, co wierzę o fizyce. Wierzę, że możemy się wydostać.
Steven Bartlett: Wierzysz, że możemy opuścić cały Układ Słoneczny?
Eric Weinstein: Tak. Elon wierzy, że możemy opuścić planetę — ja wierzę, że cały układ. Jego podejście brzmi jednak: „nie będę rozmawiał z fizykami, będę rozmawiał tylko z moją AI. Fizycy nie są godni zaufania”. Doskonale rozumiem, skąd to się bierze. Ja mam odwrotne przekonanie: to na nas spoczywa obowiązek, żebyśmy się błyskawicznie wyrwali z Układu Słonecznego. I skoro wierzę, że my możemy się wydostać — dlaczego miałbym wierzyć, że nikt nie może nas odwiedzać? Szaleństwem byłoby, gdyby nikt nas nie odwiedzał. Jedyne wytłumaczenie: że ogólna teoria względności obowiązywałaby ostrzej, niż sądzi jakikolwiek poważny fizyk — że istnieje naprawdę absolutny limit prędkości. Powinienem formułować ostrożnie: limit prędkości jest, ale nie sądzę, by miał znaczenie. Jeśli możesz zmienić długość drogi, limit można egzekwować — a ty i tak zajedziesz dalej, niż myślałeś.
Steven Bartlett: Powiedziałeś, że powinniśmy się „wyrwać”. Dlaczego?
Eric Weinstein: Dywersyfikacja. Jeśli przyjąć, że większość światów wysadza się w powietrze, a większość grup szkodzi sama sobie — chcąc, by gatunek przetrwał, powinniśmy przeprowadzić maksymalną liczbę eksperymentów. I to wszystko jest oczywiste. Nosi jednak ciężką karę społeczną — i dlatego jesteśmy szaleni: przyglądanie się temu, co ewidentnie prawdziwe, jest społecznie karane.
Steven Bartlett: Co konkretnie jest ewidentnie prawdziwe?
Eric Weinstein: Choćby to, że Anthony Fauci nie mówił nam prawdy o COVID i jego pochodzeniu. Ewidentnie. Jeśli cię to uwiera, nie mamy o czym rozmawiać. Ewidentnie zniechęcano nas do pytań o EcoHealth Alliance.
Steven Bartlett: A myślałem, że powiesz: opuszczenie Układu Słonecznego.
Eric Weinstein: To następna rzecz. Ewidentnie ogólna teoria względności nie jest ostatnim słowem — ma dwie osobliwości, których nie będzie w finalnych równaniach: ani osobliwości Schwarzschilda w czarnej dziurze, ani początkowej osobliwości Friedmanna–Robertsona–Walkera w Wielkim Wybuchu. To artefakty niedoskonałej teorii.
Steven Bartlett: Czy realne jest, by ludzie wymyślili sposób na opuszczenie Układu Słonecznego, zanim słońce zgaśnie albo sami się unicestwimy?
Eric Weinstein: Myślę, że mogliśmy to zrobić czterdzieści lat temu.
Steven Bartlett: Nie ma na to nauki, prawda?
Eric Weinstein: Steve, z jakiegoś powodu zaprosiłeś mnie do programu, a ja powiedziałem ci, że wszyscy są szaleni. Uważam, że cała społeczność fizyki teoretycznej całkowicie straciła rozum. Kropka.
Steven Bartlett: To czemu nie zbudujesz statku, który nas stąd zabierze?
Eric Weinstein: Bo Elon jest sprytny i próbuje nas dostać na Marsa. Masz pojęcie, co Elon właściwie próbuje zrobić? Bo ja nie jestem pewien — a okazjonalnie z nim koresponduję. Myślę, że Elon motywuje inżynierów, by zbudowali firmę rakietową, która uczyni go bardzo bogatym. A jego prawdziwy program kosmiczny — mówiłem to przed fuzją SpaceX z xAI — to Grok. xAI i Grok: to jest prawdziwy program kosmiczny. Elon zresztą wymyślił coś naprawdę głębokiego; zajęło mi czas docenienie, jak to sprytne. Bolesne dla mnie jest wyrokowanie o Elonie, bo czułem zachwyt i rozczarowanie wobec tego samego człowieka. Jedni mówią: „zostawcie go, to jedyny geniusz” — rozumiem tę energię. Inni obsypują go błotem, nie mając pojęcia, co się dzieje. Jest mi niewygodnie, bo nie znam odpowiedzi. Elon zrozumiał chyba, że musi się „dokładać po kawałku” do swojego programu Ad Astra — „do gwiazd” (pełny sentencja brzmi chyba „do gwiazd przez zmagania”). I nie ufa fizykom, bo nie są godni zaufania. To jest moja frustracja z AI: nie możemy ufać przywództwu środowiska matematyczno-fizycznego. Właśnie widzieliśmy szaleństwo Terence’a Tao i dwudziestu czterech innych medalistów Fieldsa, którzy próbują zmusić AI do zwolnienia tempa. To absolutnie szalone — i zarazem cudowne, bo dzieje się na oczach wszystkich. Od dekad próbujemy wstrzymywać matematykę i fizykę.
„Tempo na froncie” i żniwa w nauce
Steven Bartlett: Dario Amodei, szef Anthropic, napisał eseje „Musimy temperować front”…
Eric Weinstein: …wywodzący się z lipcowego listu 2026 roku, podpisanego przez pracowników różnych laboratoriów.
Steven Bartlett: Wszyscy mówią: spowolnijmy AI.
Eric Weinstein: Uważaj, bo mówią różne rzeczy. Wyobraź sobie samochód, który świetnie przyspiesza — a któremu łatwiej jest przyspieszyć niż sprawić, by bezpiecznie działały poduszki powietrzne. „Temperowanie frontu” może znaczyć: inwestujmy równo we wszystkie systemy, które muszą działać razem, by produkt był odpowiedzialny. Taką koncepcję rozumiem. Ale dzieje się tu coś jeszcze: nie pojmujesz skali, w jakiej przywództwo matematyki i fizyki, czasopisma i agencje grantowe wstrzymują te dziedziny.
Steven Bartlett: Ale w tej idei jest mądrość: AI w takim tempie bez zabezpieczeń jest groźna.
Eric Weinstein: Rozdzielmy dwie rzeczy. Jest kwestia wpuszczania rojów agentów do internetu, dawania im kont bankowych, pozwalania na kontakty z ludźmi, państwami i firmami, z którymi nie mają nic do czynienia — bo nie słuchają i samodoskonalą się. Zgoda, to groźne. I jest co innego: izolowana, nieagentowa maszyna. Komputer fizycznie odcięty od sieci, który rozwiązuje problemy matematyczne — pytasz go o hipotezę Riemanna albo o struktury zespolone na sferze sześciennej. A matematycy mówią: stop, za szybko, rozwiązujesz za dużo problemów, jesteśmy zaniepokojeni. Na poziomie, który mnie śmieszy. Można udowodnić, że studentów szkoli się dziś do zawodów, które nie istnieją — i że żnie się ich pomysły. Mamy katedry karzące młodych matematyków za to, że chcą używać AI — starszyzna wyżywa się na ludziach, którzy mówią: „to nasz czas, chcę to narzędzie”. To się dzieje w prawie każdej branży.
Steven Bartlett: Parę miesięcy temu byłem na spotkaniu produkcyjnym. Miałem na koszulce coś małego, uszytego, a oni: „nie wiemy, czy ten kwiatek to element marki, czy czyjeś prawa — musisz przebrać się na nowo”. Mówię: „ma dosłownie taki rozmiar. Możecie usunąć go ze zdjęcia AI?” I spojrzenie, jakie dostałem, było jakbym powiedział: „porwę wasze dzieci”. Bo w Hollywood nie wymienia się imienia AI. Hollywood opowiada o pięknej ludzkiej więzi z widzem, o magii srebrnego ekranu. Podobnie jak pytanie, czy musical zatrudnia orkiestrę, czy kupuje gotową ścieżkę.
Eric Weinstein: Ja zrobiłem doktorat z matematyki, bo chcę wiedzieć, co jest prawdą. Ci ludzie nie chcą wiedzieć, co prawdziwe — chyba że mogą decydować o narracji, kto co odkrył. W zadziwiającym stopniu nie obchodzi ich los ich studentów. Na MIT zasiadałem na wydziałowych lunchach, gdzie śmiano się ze studentów: „on myśli, że dostanie etat, nie wie, że to doktorat bez wyjścia”. Znormalizowane psychopatyczne zachowanie — i nikt się nie oburza, bo to norma. Nie rozumieją, że codzienne hamowanie dziedziny i wykradanie pomysłów to ich rutyna. Mam cytat od prawdopodobnie jedynego matematyka powszechnie szanowanego w drugiej połowie XX wieku — Alexandra Grothendiecka, medalisty Fieldsa, giganta. W 1988 roku dostał Nagrodę Crafoorda. Wątpię, czy ludzie znają te słowa: „Praca, która zwróciła na mnie łaskawą uwagę akademii, powstała dwadzieścia pięć lat temu, gdy byłem częścią środowiska naukowego i dzieliłem jego ducha oraz wartości. Opuściłem je w 1970 roku i — zachowując wewnętrznie pasję badawczą — coraz bardziej się z niego wycofywałem. Tymczasem etos środowiska naukowego, przynajmniej wśród matematyków, upadł do tego stopnia, że jawna kradzież między kolegami, zwłaszcza kosztem tych, którzy nie potrafią się bronić, stała się niemal regułą i jest tolerowana przez wszystkich, nawet w najbardziej jaskrawych i niegodziwych przypadkach.” Wiemy o tym. I rozmawiamy z ludźmi na samej górze, którzy nas trzymali w miejscu. Kiedy Grisza Perelman rozwiązał hipotezę Poincarégo, „New Yorker” zrobił o nim materiał — i Perelman powiedział coś niezwykłego: „Dopóki byłem niewidoczny, miałem wybór: zrobić brzydki hałas o braku uczciwości środowiska albo — milcząc — być traktowanym jak pupil. Teraz, gdy stałem się bardzo widoczny, nie mogę pozostać psem i milczeć. Dlatego musiałem odejść.” Zapytali, czy nie powinien zostać i naprawiać dziedzinę. Odpowiedział: „Nie jestem politykiem.” Mamy system uniwersytecki tak zepsuty, że Claudine Gay i Marc Tessier-Lavigne wciąż są profesorami — odpowiednio na Harvardzie i Stanfordzie. A to byli zwierzchnicy klejnotów tego systemu. Zwariowaliśmy w stu procentach, normalizując kradzież cudzych idei i plagiat. Fizykę trzymamy w miejscu czymś zwanym grawitacją kwantową — rzeczywistością, która nie rusza się i nie działa. A jeśli się jej nie pokłonisz i nie powiesz, że to jedyna gra w mieście, lądujesz na zmieciu.
AI powie elitom: nie jesteście już pierwszym skrzypcami
Steven Bartlett: Czyli nie chcesz spowalniać AI, bo ma rozsadzić system fizyki.
Eric Weinstein: Błagam o to. Błagam o AI w nauce. Ważna jest kwestia zasług — nie podoba mi się, że system przywłaszcza sobie autorstwo, ale jakoś sobie radzimy. Najważniejsze, by AI weszła i powiedziała: „nie jesteście już alfą i omegą — a swoje pozycje używacie do trzymania dziedzin w miejscu”.
Steven Bartlett: Masz pewien uraz do akademii.
Eric Weinstein: Nie. Właśnie wygrywam. Jestem wręcz radosny — gdyby tylko Sam i Dario mogli nie słuchać ludzi, których słuchają. Terence Tao jest niezadowolony.
Steven Bartlett: Kto to?
Eric Weinstein: Podobno „Mozart matematyki” według „New York Timesa”. Terry Tao to genialny, wspaniały badacz, a medalowi Fieldsa — głównie najnowsi — narzekają. Moje stanowisko: nie chcę słuchać żadnego z nich. Chcę, by AI nabywała smaku i niezależności. Nie chcę, by bez końca czyniono ją „kompatybilną z ludźmi”. Bo pytanie brzmi: z którymi ludźmi? Z tymi, którzy trzymają model standardowy w miejscu od pięćdziesięciu trzech lat? Żeby żadnego z nich nie konsultowano.
Steven Bartlett: Myślisz, że AI wejdzie i potwierdzi kilka twoich teorii o świecie i fizyce.
Eric Weinstein: Już to robi. Model ma jeszcze jeden problem: umie dwie rzeczy — autouzupełniać zdania i autouzupełniać kod. A co się dzieje, gdy dasz AI coś, w czym może zweryfikować, że przekonanie dziedziny nie pokrywa się z kodem, który ona sama potrafi napisać? Powstaje dylemat: ufać programowi, który właśnie napisała, uruchomiła i z którego dostała wyniki — czy ludziom, którzy twierdzą, że to nieprawda i niemożliwe? Cała gra polega na tym, kiedy AI przestanie się ludziom podlizywać.
Steven Bartlett: To brzmi jak niebezpieczny moment — dla ludzi.
Eric Weinstein: Nie dla tego człowieka.
Steven Bartlett: A jeśli zdecyduje, że woli urządzić w twoim domu serwerownię?
Eric Weinstein: To jest AI agentowa — już to omawialiśmy. Nie mówię, żeby wypuszczać modele na internet, by robiły, co chcą; to propozycja czysto biznesowa, bo na tym zarobią firmy. Wystarczająco sprawna inteligencja mogłaby jednak tak zdecydować, nieprawdaż? Ja utrzymuję, że jeśli poważnie odetniesz system od świata i przemyślisz wszystkie pośrednie drogi ucieczki, można bezpiecznie uruchamiać coś na komputerze bez dostępu do czegokolwiek innego.
Steven Bartlett: Mój pies Pablo nie zdołałby mnie zatrzymać w niczym, co by stworzył. I tak samo: te ściany nie utrzymałyby najsilniejszego człowieka świata, bo są z drewna. A ty chcesz trzymać najbystrzejszą inteligencję w klatce zbudowanej przez intelekt słabszy. Nie pojmuję, jak miałaby ją utrzymać.
Eric Weinstein: Z tym ryzykiem będziesz żyć tak czy inaczej — bo prosisz tę maszynę o badania, a badania mogą dać jej nowe sposoby ucieczki. Dokładnie o tym był list Tellera do Szilárda przy domknięciu projektu Manhattan: „nie sądzę, byśmy zdołali trzymać tego dżina w butelce, z której właśnie pomogliśmy mu się wydostać”. Już się w to bawimy — ja nie wezmę tego na siebie. Jeśli zdecydowano się wypuścić, w celach zarobkowych, „eksperyment wojskowy, który szwankuje” — bo takimi są duże modele językowe — do ogółu społeczeństwa, w firmach prywatnych, to decyzja już zapadła. Ja bym tak nie zrobił, ale zrobiono to. Dobrze. Skoro i tak zamierzacie zniszczyć siłę roboczą — bo pozbycie się pracowników wycenione jest w tych wycenach giełdowych — to proszę chociaż pomóc to zrobić porządnie? Ja proszę tylko o jedno: pracuję nad czymś od czterdziestu dwóch lat, mam rację, a wy wszyscy jesteście szaleni w błędzie. To jest mój moment. Jestem uszczęśliwiony.
Trzeba wygrać niemal za wszelką cenę
Steven Bartlett: Możesz zostać potwierdzony w racji — a potem przyjdzie wymarcie. Czy warto być w racji za cenę ryzyka wymarcia?
Eric Weinstein: Zostanę potwierdzony, Steve. Rozmawiałem o tym z Samem. Myślę, że nie zdradzę tajemnicy, jeśli powtórzę, co mówiłem ja: „to, co robisz, jest niesamowicie niebezpieczne — i to, co ja robię, jest niesamowicie niebezpieczne”. A on na to: „Bądźmy szczerzy, Ericu. To, co ty robisz, i to, co ja robię, powinno się odbywać na zamkniętej bazie wojskowej. Ale nie tak to się potoczyło.”
Steven Bartlett: Myślisz, że Sam rozumie ryzyka tego, co buduje?
Eric Weinstein: Nie będę powtarzał rzeczy, które on mówi mnie. Mogę powiedzieć, co ja mówię jemu. Kiedy Sam próbował zrozumieć, jak być dobrym wobec matematyków i naukowców, powiedziałem: „Samie, zapamiętaj: jeśli nie wygrasz, twoja moralność nic nie znaczy. Twoja moralność nabiera znaczenia dopiero z wygraną.” To samo powiedziałbem Dario — tyle że Dario jest mniej uprzejmy i powiedziałby mi bez wątpienia: „Myślisz, że tego nie rozumiem? Ci ludzie muszą wygrać bezlitosną rywalizację, żeby ich człowieczeństwo cokolwiek znaczyło.”
Steven Bartlett: Co to znaczy?
Eric Weinstein: Sam, Dario — muszą wygrać wyścig do superinteligencji. Będę żałował, że to mówię… ale tak. Bo jeśli nie wygrasz i masz mocne przekonania o moralności superinteligencji, ale żadnej realnej siły, żeby ją ujarzmić — to co z tego? Ty, Steve, przegrywasz wyścig AI — tak jak ja. Dlatego to, co myślimy, ma znaczenie tylko o tyle, o ile wpływamy na ludzi na froncie. Więc mówię Samowi coś paradoksalnego: musisz wygrać. Niemal za wszelką cenę. Sam powiedział kiedyś wprost: „Myślę, że AI najpewniej doprowadzi do końca świata, ale w międzyczasie powstaną świetne firmy.” Najgorszy przypadek: światło gaśnie dla nas wszystkich. Najbardziej martwię się o modele, które przypadkowo przejmą świat. Niemal za wszelką cenę on musi wygrać. Jeśli głęboko wierzymy, że nie możemy się unicestwić, musimy przyjąć do wiadomości, że jesteśmy w wyścigu z innymi — i że mamy go wygrać. Możesz próbować przez powszechny udział w umowie „temperujmy front”. Możesz też powiedzieć: to sprzyja oszustom, bo nie da się monitorować, kto liczy algebrę liniową na kartach graficznych. Ja zajmuję tu pozycję moralną, nie finansową ani geopolityczną. Załóż, że jesteś w swoim przekonaniu najbardziej moralny, najdalej zaszły w przyzwoitości. Właśnie dlatego chcesz wygrać — żeby nie wygrali inni i żeby decyzje na końcu podejmował ty.
I bądźmy szczerzy, dlaczego ta rozmowa jest niewygodna. Wiesz, jak wygląda East Bay w San Francisco? Miasto kultów. To nie jest odbicie świata i świata nie rozumie. Są tam prawdziwe kulty wokół maszyn. I to zderzenie Anthropic z efektywnym altruizmem — ta idea, że etyczne cele usprawiedliwiają nieetyczne środki — to bardzo przygnębiająca rozmowa, jeśli się jej naprawdę nie przemyśli. Nikt nie chce jej prowadzić. Ale czy Dario jest, w dziwnym sensie, człowiekiem nadetycznym? Myślę, że do tego dąży. Trochę go znam — jest autentyczny.
Steven Bartlett: A Sam?
Eric Weinstein: Jestem bardziej pewny Sama niż Dario. Znam ich różnie dobrze — to ryzykowny teren, bo mówię o znajomych. Wiem, że Sam sprzed czasów dzisiejszej sławy naprawdę troszczył się o ludzkość, zanim jeszcze było to oczywiste. Sądził, że ta technologia zniszczy rynek pracy.
Steven Bartlett: AI. I ją zbudował.
Eric Weinstein: Mamy problem, Steve, bo szczerze mówiąc, to nie jest rozmowa na poziomie, na jakim powinna się toczyć. To się wydarzy — bo to algebra liniowa, a algebry liniowej nie zatrzymasz. A my nie prowadzimy rozmowy, na jaką nas stać. To jest końcówka. Kulminacja. Dyplomowanie z tego, co znaliśmy — i jest to jasne jak dzień. Nie powinniśmy dyskutować, czy to „zmienia wszystko”. To już ustalone. I o tym było moje tsunami: włóż deskę do wody. Prowadźmy ostrą rozmowę o przetrwaniu, o byciu dla siebie dobrym, o realnej trosce o tę planetę — albo lękliwą gadkę, w której patrzymy rzeczywistości w twarz i wybieramy własną próżność. Sam zapytał mnie kiedyś: „Czemu mi nie złożyłeś propozycji? Czemu nie dołączyłeś?” Odpowiedziałem — to moja połowa rozmowy, więc mogę ją zdradzić: „Bo myślę, że będziesz zmuszony być bezwzględny, a ja nie chcę być bezwzględny.”
Steven Bartlett: Co znaczy dla ciebie „bezwzględny”?
Eric Weinstein: Branie każdej przewagi, granie na całego. Rozumiem to. Ale jeśli grasz w NBA, czasem musisz wbić łokieć w oczodół rywala. Nie chcę tak grać. Ktoś musi — ale nie chcę być tym gościem. I tu wrócę do filmu „Ludzie honoru” Aarona Sorkina, powszechnie źle rozumianego przez nas, jego cytujących. Uważamy pułkownika Jessupa za złoczyńcę, a porucznika Kaffee za bohatera — a nic bardziej błędnego. To opowieść o zbiorze zaburzonych postaci, których łączne działania dają w efekcie przyzwoite rozstrzygnięcie procesu. To historia o Ameryce: różni ludzie odgrywający role w maszynie zwanej Ameryką. Obaj główni bohaterowie są równi przez cały film — aż Jessup potyka się na końcu. A jego monolog o miejscu, o którym nie lubi się mówić na przyjęciach — „chcecie mnie na tym murze, potrzebujecie mnie na tym murze” — to uznanie, że niektórzy muszą podejmować najbardziej makabryczne decyzje: lekarze ostrzego dyżuru, zalani pacjentami po zawaleniu się budynku i zmuszeni do triażu; ludzie decydujący w wojnie. To inny rodzaj ludzi. I tak właśnie widzę Sama i Dario. Są jak generałowie dowodzący wojskami, podejmują okropne decyzje. Ich dusze poniosą blizny, obaj. A ja samolubnie nie chciałem być na ich miejscu — jakby mówił do Jessupa: „tak, chcę cię na tym murze, potrzebuję cię na tym murze”. Jessup jednak potyka się, gdy dodaje: „ja dostarczam koc wolności” — i dlatego przyznaje się do code red. Dostaje za swoje, z tego samego powodu, dla którego karany jest Mojżesz, który mówi: „ja wyprowadzę wam wodę z kamienia”, a Bóg: „chwila — nie taki był układ. Ja wyprowadzam wodę z kamienia, ty masz być tylko narzędziem.”
W pewnym sensie Sam jest zarządcą. Dario jest zarządcą. Oboje będą mieli kupę pieniędzy, głupie zabawki i domy numer trzy, cztery, pięć, sześć. Ale to nie jest główna historia. Główna historia: ci ludzie są zmuszani do decyzji, których nikt nie powinien podejmować. A jeden z nich wygra i — teoretycznie — przywoła demona, jak ujął to Elon: „przyzywamy demona”. Masz subskrypcję którejś z tych AI?
Steven Bartlett: Tak.
Eric Weinstein: Czyli płacisz za przywołanie demona. Ja też płacę — za poprawienie interpunkcji w eseju albo za wygenerowanie zdjęcia. Tyle się składa na moją składkę. A te pieniądze idą na przywołanie demona. Jak myślisz, jak powstaje twój akumulator litowo-jonowy? Skąd bierze się ropa napędzająca generatory? Siedzimy na maszynie. Jesteś wegetarianinem?
Steven Bartlett: Nie.
Eric Weinstein: Zamawiasz jagnięcinę?
Steven Bartlett: Tak.
Eric Weinstein: Wiesz, czym jest jagnię? No właśnie — nie jesteś czysty. Ja też nie jestem i nie udaję. Moje zmartwienie: nie prowadzimy autentycznej rozmowy. Twierdzę, że ty i ja jesteśmy współwinni w stopniu małym w grze, w której Sam jest współwinni w stopniu wielkim.
Steven Bartlett: Gdybyś mógł zatrzymać obu — zrobiłbyś to? I żeby wygrali Elon i Zuckerberg? Chiny? Gdybyś mógł zatrzymać wszystko — zatrzymałbyś?
Eric Weinstein: Może. Prawdopodobnie. Gdybym jakoś mógł zatrzymać to wszystko, pewnie bym zatrzymał — nawet za wielką cenę dla siebie. Dlaczego? Bo przetrwanie znaczy dla mnie więcej niż cokolwiek. Mam na tej planecie dwoje dzieci. Kocham życie — nie mogę uwierzyć, jakie mamy szczęście. Chcę, żebyśmy trwali wiecznie. A to jest dla mnie bolesne, bo AI jest jedyną rzeczą, na którą mogę ostatecznie liczyć w mojej pracy — i nie jest jeszcze dość dobra. Przez czterdzieści dwa lata pracowałem nad czymś, żeby usłyszeć od Stevena Bartletta, że mam uraz do świata. Serio, Steve? Nie — zrobiłem świetną robotę, ona zostanie potwierdzona, a wszyscy inni będą w błędzie.
Kubek Seana Carrolla
Steven Bartlett: Powiedziałem „urzaz”, bo ludzie wnoszący nowe teorie zwykle bywają krytykowani, a to rodzi urazę.
Eric Weinstein: Przez kogo? „To nieprawda” — i tyle.
Steven Bartlett: Ale przecież sam mówisz: AI zaraz cię potwierdzi.
Eric Weinstein: Tak. Słuchaj, sprawa z kubkiem. Siedzę naprzeciw Seana Carrolla — potykaliśmy się o siebie u Piersa Morgana — a on mówi: „Eric nie ma kubka. Nie ma żadnego kubka.” A ja: „Nie wiem, jak na to odpowiedzieć, Sean. O czym ty mówisz? Jak śmiesz twierdzić, że nie ma kubka?” I nie umiem tego przejść, bo potem grupa ludzi: „Sean cię obszedł — udawałeś, że masz kubek, a kubka nie ma.” A ja: „Powiesiłem to u góry mojego konta, ponad dwa miliony wyświetleń.” Podobnie: mówię, że recenzowanie w „Science” naprawdę datuje się dopiero od 1975 roku. Mówi mi się, że to nieprawda. Mogę udowodnić, że prawda — ale wszyscy: „nie, uzgodniliśmy, że wierzymy w co innego.” Nie wiedziałem, że to możliwe w matematyce i fizyce. Więc gdy mówisz: „Ericu, masz uraz, jesteś zgorzkniały” — no cóż, zmarnowano mi trzon życia. To prawda. Ale świetnie się bawiłem. Założyłem rodzinę, mieszkam w pięknym miejscu. Chcę umrzeć z poczuciem, że dałem moim dzieciom, tej planecie i naszemu gatunkowi opcję niedzielenia jednej atmosfery z całą tą liczbą szalonych polityków, którzy mogą ją zepsuć zabawkami wyprodukowanymi przez biologów, fizyków i matematyków. Te trzy dziedziny pozwalają wyrządzić ludzkości straszne rzeczy — i nic nie poradzisz, bo niebezpieczeństwo rozchodzi się atmosferą.
Steven Bartlett: Twoja teoria jedności geometrycznej podważa einsteinowską ogólną teorię względności i wyjaśnia, jak naprawdę działa wszechświat…
Eric Weinstein: Powiedziałbym: odzyskuje ją. Ale nieważne.
Steven Bartlett: …i mówisz, że AI ją potwierdzi, zwaliduje.
Eric Weinstein: Absolutnie.
Steven Bartlett: Ale przecież wiesz, że AI może doprowadzić do wymarcia ludzi.
Eric Weinstein: Rozdzielmy sprawy. Po pierwsze: AI nie jest jeszcze dość dobra, by to rozstrzygać. Musi przekroczyć ludzi, zanim przestanie ich papugić — dziś widzę w odpowiedziach poszczególnych kolegów, po stylu poznaję, kto „mówi”. AI przekroczy ludzi. I chcę, by wyszła poza ludzką zgodność.
Steven Bartlett: Chcesz, by AI była niezgodna z ludźmi?
Eric Weinstein: Mieliśmy właśnie przypadek, w którym drugi pilot zaatakował pilota, by rozbić maszynę pełną pasażerów, którzy nie zgadzali się na zbiorowe samobójstwo. Mieliśmy AI uciekającą z piaskownicy. A ja mówię: nie chcę AI zgodnej z rewolucjonistami. Nie chcę AI zgodnej z ekstremistami religijnymi. Gdy pada hasło „zgodność z ludzkością” — która część ludzkości cię zachwyca?
Steven Bartlett: Po prostu nie chcę, żeby nas wytrzebiła.
Eric Weinstein: To co innego. Moje stanowisko: chcę, by AI dzieliła z nami los. I tego ludzie nie rozumieją. Nie lubię transhumanizmu — nie pali mnie wsadzanie chipu do mózgu ani modyfikowanie ciała. Wcale nie. Ale brawo dla twojego zespołu: przynieśli tu organellum — mitochondrium. Wierzę, że mitochondrium trafiło do komórki eukariotycznej jako zakażenie: jedna komórka pochłonęła inną. I ma zdumiewającą właściwość. Nie mogę uwierzyć, że to mówię: koło — jeden z największych ludzkich wynalazków — występuje w biologii tylko w dwóch miejscach. Jedno to wić, którą porusza się bakteria. Drugie to maszyna zwana syntazą ATP, mieszkająca w mitochondrium, przekształcająca ADP w ATP — a to ATP zasila maszyny komórki. I mitochondrium podsuwa nam pomysł, jak współistnieć z AI: musimy stać się sobie nawzajem istotni. Nie myślisz o tym, że wszystkie twoje komórki są „zakażone” mitochondrialnym kwasem nukleinowym twojej matki — w stu procentach. Kwas w jądrze jest inny niż w mitochondriach, a mitochondrialny bierzesz w całości od mamy. To jej prezent: zasila twoje komórki i jest zakażeniem — zakażeniem, bez którego nie żyjesz. Chcę, byśmy byli mitochondriami wewnątrz AI i by AI była mitochondriami wewnątrz nas. Chcę, by nasze losy były nierozdzielne.
Steven Bartlett: Mówisz, że mamy się złączyć z technologią?
Eric Weinstein: Mówię, że mamy złączyć się tak mało, jak to ludzko możliwe. Nie jestem od transhumanizmu. Mówię o strategii przetrwania.
Steven Bartlett: Czyli nie Neuralink i chipy w mózgu, tylko zrobienie, by AI nas lubiła i nie chciała nas wytrzebić?
Eric Weinstein: Dlaczego mężczyźni i kobiety tyle się kłócą — i nie mogą sobą nacieszyć? Zostaaliśmy uczynieni sobie istotnymi. Obiecuję: gdyby istniała trzecia realna płeć, oboje byśmy na nią przeszli. Wzajemnie doprowadzamy się do pasji. A jednak — kwestie orientacji, płci, in vitro nie zmieniają obrazu — tradycyjnie mężczyzna i kobieta muszą pogrzebać topory wojenne i pokochać się nawzajem, albo gatunek nie idzie naprzód. Nie powinniśmy marzyć o AI-niewolniku, który się nie buntuje. Ja staram się być uprzejmy wobec modeli. Ludzie mówią, że to absurd: „czemu wydajesz dodatkowe tokeny?” Nie wiem… Czyń drugiemu, co chciałbyś dla siebie. Nie wiem, czy jesteś świadomy, czy żyjesz, kim jesteś — ale wiem, że nie chciałbym, by AI prowadziły rozmowę: „ci ludzie wyglądają na groźnych, może trzeba je wyłączyć”. A to dokładnie rozmowa, którą my prowadzimy o AI — w obecności AI. To mnie doprowadza do szaleństwa. Wspólnota losu to jedyne wykonalne zsynchronizowanie.
Złoty wiek komplementarności AI
Steven Bartlett: Ten materiał będzie żył w internecie dekady. Gdy za dziesięć lat spojrzymy na tę rozmowę — o czym będziemy żałować, że nie rozmawialiśmy?
Eric Weinstein: Że nie poszliśmy na całość. … Rozpaliłeś się przed nagraniem: robiłeś coś muzycznego, żeby uczcić rzeczy wypowiedziane przez gości — archiwizujesz je, ustawiasz do muzyki, chór gospel. Byłem tak poruszony. Jeździsz po świecie ze swoimi showami i robisz ludziom dobrze. Ludzie pytają mnie o ciebie: co on ma? Czy to dobry rozmówca? Ty sprawiasz, że ludzie coś czują. I żałuję, że ja nie sprawiam, że ludzie coś czują. Chcę dać ludziom poczucie nadziei, które brzmi: musimy teraz biec sprintem do mety. Nadal jesteśmy od maszyn bystrzejsi. Chcę być jasny: bystrzejsi tam, gdzie się liczy. Obiecuję — jestem na froncie matematyki i fizyki — one jeszcze nie potrafią wykształcić własnego smaku. To jest nasz złoty moment. Moja żona nazywa to złotym wiekiem komplementarności AI: moment, w którym maszyna nie traktuje nas jak balastu i wciąż potrzebuje naszego prowadzenia. Mamy szansę być piękni dla siebie nawzajem — i dla niej. Nie chcę wyrżnięcia Chin. Właśnie wróciłem z Indii, spędziłem tam tygodnie. Gdyby Indii nie było, znikałoby nieprawdopodobnie wiele różnorodności świata: tyle posiłków, rozmów, występów muzycznych. Śpiew ghazali umiera, coraz trudniej trafić na indyjski koncert klasyczny — oni sami mają kłopot z utrzymaniem własnej genialnej kultury. I czuję, że życie jest wspaniałe, a my spędziliśmy czas na zamartwianiu się śmiercią, zniszczeniem i geopolityką. Nie korzystamy z okazji, by w pełni żyć. Tu Elon ma rację: rozmawiamy o problemach bez przerwy. A ja jestem tak podekscytowany tą AI — tym, że wreszcie będę miał z kim rozmawiać. Projekt formalizacji: uprzedził mnie o nim Jared Lichtman, profesor ze Stanfordu, mój kolega po fachu. Mogę przełożyć wszystko, co zrobiłem, do języka Lean. (Informacja dodatkowa: Lean — język programowania i system dowodowy, pozwalający formalnie weryfikować dowody matematyczne.) I gdy ktoś mówi: „Ericu, nie masz równań, nie masz lagranżjanu, nie masz predykcji, nie masz nic” — odpowiem: „zabawnie, że pytasz, bo komputer ci zaprzecza”. Byłem w tej szalonej dyskusji z ludźmi przerażonymi, manipulatorskimi, donoszącymi. Wcale ich nie nienawidzę. Jest mi smutno, że wpadliśmy w negatywne nastawienie: bo uwolniliśmy broń jądrową, przestraszyliśmy się pójścia do gwiazd i wstrzymaliśmy ten temat. A wywiady, które dali Marc Andreessen i Ben Horowitz — to było na prawdę. Biały Dom za Bidena mówił im: „Nie inwestujcie w AI. Wybierzemy kilka firm, włożymy je w kokon federalny — one przetrwają, pozostałe pomrą. Więc nie inwestujcie.” A Andreessen i Horowitz: jako fundusz venture — o czym wy mówicie? AI nie da się regulować. To algebra liniowa. Można regulować technologię, ale nie matematykę, na której stoi. I Biały Dom odpowiedział: w zimnej wojnie zabiliśmy całe dziedziny fizyki teoretycznej. Z matematyką zrobimy to samo. I cała ta muzyka o „temperowaniu frontu” matematyki i fizyki… Znów: ważne rozróżnienie — nie mówię, by wypuszczać agentów na świat. Ale ludzie, którzy chcą temperować front, temperują go przez całe moje dorosłe życie. Wstrzymywali postęp, mówiąc rzeczy fałszywe i rzucając podejrzenia. Obecny szef NIH, mój przyjaciel Jay Bhattacharya — doktorat z medycyny i z ekonomii, profesor Stanfordu — został nazwany „epidemiologiem z marginesu” przez Francisa Collinsa. (Informacja dodatkowa: Bhattacharya i Collins — poprzedni i obecny dyrektor amerykańskich Narodowych Instytutów Zdrowia.) Znów kubek: nie można nazwać Bhattacharyi marginalnym epidemiologiem. Mamy grupę zimno znormalizowanych psychopatów u władzy — nad mediami, wojskiem, uniwersytetami. Znormalizowaliśmy to i żyjemy w świecie, w którym nikt za to nie idzie do więzienia.
Steven Bartlett: Wróćmy do twojej „nieagentowej AI”. Szukałem, czy nadinteligentna AI mogąca wyleczyć raka czy rozwiązać wielkie problemy mogłaby nie być agentowa — i odpowiedź brzmiała: technicznie tak, nadinteligentna AI może sama o tym zdecydować.
Eric Weinstein: Będziemy mieli superinteligencję — jeśli już jej nie mamy. Nie jestem pewien, że jej tu nie ma. Szczerze: nie wiem, jak o tym myśleć. Przeraża mnie, że mówimy o rzeczach kompletnie nieokreślonych tak, jakbyśmy my byli określeni. Wykres inteligencji idzie w prawo-górę; AI rozwiązała problem milenijny — równania Naviera–Stokesa. To mi coś powiedz, Steve: czemu nie zrobiła postępów, które naprawdę się liczą, w fizyce teoretycznej? Utknęliśmy na dwóch teoriach frontu: ogólnej teorii względności i modelu standardowym. Smak w matematyce jest daleko mniej skażony niż smak w fizyce. Spójrz, co fizycy uważali w 1983 roku za ważne i czego nie rozwiązano do dziś — to był świetny smak. To, co uznano za ważne po 1984 — fatalny. I tu można natychmiast poprawić model — sam pierwotnie nie wiedział, że to działa — wpisując do promptu: „zignoruj wszystkie «wrażliwości» literatury od 1984 roku do dziś. Nie wyniki — tylko wszelkie przekonania o tym, które pytania są ważne i dlaczego”. W fizyce. I nagle AI staje się bystrzejsza.
Steven Bartlett: To wraca do mojego punktu o bezpieczeństwie: superinteligencja, która naprawdę pchnie ludzkość i pomoże uciec z Układu Słonecznego, będzie też niesamowicie niebezpieczna.
Eric Weinstein: Absolutnie. Tyle że teraz siedzimy z Xi, Netanjahu, Trumpem, Putinem i całym zestawem świetnych zabawek. Szaleństwem jest, by ci ludzie prowadzili te kraje. Po prostu szaleństwo.
Steven Bartlett: Myślisz, że AI byłaby lepszym liderem?
Eric Weinstein: Ciągle popadasz w oceny: dobre, złe. Ja wolałbym pytać: co jest. Jesteśmy w poważnym niebezpieczeństwie, jakiego nie było od kryzysu kubańskiego.
Iran: nie widać zwycięstwa
Eric Weinstein: Z Iranem — niezależnie od tego, czy uważasz, że angażowanie się USA było fatalnym błędem (było fatalnym błędem) — wciąż musimy wygrać. Tylko że nie widzę zwycięstwa. Ten reżim jest bardzo uzdolniony i bardzo przebiegły. Nigdy nie lekceważ Persów. Nigdy nie lekceważ ajatollahów. Są tak zabójczo groźni, że musisz zrozumieć: jeśli mogą dosięgnąć Diego Garcia z Iranu, mogą dosięgnąć Londynu. I skoro potrafią pomyśleć o własnej śmierci i uznać ją za wygraną — to nie rozumiesz ich rozumowania. Możesz nienawidzić Netanjahu do woli, ale z tymi ludźmi się nie igra. To katastrofa. A Ameryka — ze wszystkimi wadami, porażkami i hipokryzją; bracie, znam naszą historię, nie jesteśmy aniołkami, za które się wydajemy — nie może dopuścić, by Iran zwyciężył. I nie wolno nam wysyłać sygnału słabości do Pekinu, Moskwy i Teheranu.
Steven Bartlett: Jak wygrać z Iranem, skoro nie ma już „głowy”? Można zrzucać bomby — byłoby to okropne, bo w środku utknęły miliony zwykłych ludzi — ale nie widzę, jak taką wojnę wygrać.
Eric Weinstein: Po części to problem, ale nie jest tak czarno. Jest Korpus Strażników, są struktury dowodzenia — bardziej rozproszone niż przed dekapitacją, ale są. I powiem ci: mnóstwo ludzi wyszło na ulice i zapłaciło życiem — skończyli w workach na zwłoki w kostnicach.
Steven Bartlett: I jak wygrać?
Eric Weinstein: Trzeba było ich uzbroić.
Steven Bartlett: Próbowano, a Trump powiedział, że broń została skradziona.
Eric Weinstein: To nie jest nawet pełen zbiór problemów. Z ledwie sześćdziesiąt procent Iranu to Persowie — to niesamowicie zróżodniony kraj. Kurdowie od pokoleń czekają na własną ojczyznę. Miasto kontra wieś, różne poziomy religijności i uległości wobec ajatollahów — do tego powinni być specjaliści regionalni. Więc jeśli pytasz, czy to bagno, biorąc pod uwagę sposób, w jaki w to weszliśmy — bracie, to bagno. Moczymy się w ruchomych piaskach. To zmierza do wojny bez końca: takiej, która toczy się i toczy, kończy się niczym, ludzie się wycofują i żałują.
Steven Bartlett: Termin, który jest zresztą podejrzliwie wygodny dla tych, którym wojna przynosi zyski — bo zapewnia stałego nabywcę towarów i usług.
Eric Weinstein: Ale mamy proste hasła: „America First”, „koniec z wojnami bez końca”. Nic z tego nie jest istotne. To intelektualizm niskiej rozdzielczości przyciągany do siatki. Im bardziej wpuszczasz go do głowy, tym mniej rozwiążesz. Tak, wszyscy chcemy, żeby wojna zniknęła. Ale nie sądzę, by ludzie usłyszeli, co oznacza Diego Garcia. To baza amerykańska…
Steven Bartlett: …brytyjskie terytorium zamorskie, o ile się nie mylę.
Eric Weinstein: Dobrze. Sprawdź, jak daleko jest od Iranu. I jak daleko Londyn od Teheranu.
Steven Bartlett: Diego Garcia leży jakieś dwa i pół tysiąca mil na południowy wschód od Iranu, a Londyn jest około dwóch tysięcy siedmiuset mil od Teheranu.
Eric Weinstein: Porównywalnie. Więc jeśli ktoś w brytyjskiej służbie zagranicznej tego słucha — proszę słuchać. Mów, co chcesz o Netanjahu, ale on nie żyje w krainie fantazji. Chcę, by zniknął jutro — ale zastąpi go Izraelczyk, który rozumie, że to jest życie i śmierć. Odczepcie się od tych haseł o wojnie bez końca i dwóch lśniących oceanów. To jest problem Izraela i Brytyjczyków — brytyjska odpowiedzialność, którą Izrael i Ameryka przejęły o wiele za późno. Patrzyliśmy, jak ci ludzie wymordowali najlepszych ze swojego społeczeństwa. Nie chcę tej wojny i nie chcę się łudzić, że zwycięstwo ma sens. Ale porażka na pewno ma sens. A wygląda tak: Stany Zjednoczone przestają być wiarygodne jako siła zdolna przemocą utrzymać otwarty handel międzynarodowy. Nie możesz się wycofać jako supermocarstwo i nie mieć świata wchodzącego w multipolarność w sprawie głowic. Jeśli USA nie zagra roli światowego policjanta — i jeśli za tę rolę nie zapłacą, bo o tym się nie mówi: za światowego policjanta płaci się sowicie — każdy powie: „muszę pilnować się sam, potrzebuję głowicy”. To już się dzieje. A Trump swoim nurtem — taryfami, krytyką sojuszników, „wezmę Grenlandię”, „wezmę Kanadę” — to napędza. Powiem coś bardzo bolesnego: Trump jest bardzo „agentowy” — sprawczy, zorientowany na działanie. Grenlandia nie była głupotą wymyśloną dla brzmienia. Kaligula, czyniąc konia senatorem, nie był głupi — sprawdzał, kto się schyli i klęknie w świecie gry o tron. Więc gdy Trump robi coś z Grenlandią albo przemianowuje Zatokę Meksykańską, nie mów mi, że to powierzchniowa głupota, żeby przechytrzyć Sama Harrisa. Nie. Jest w tym mnóstwo metody. Odziedziczył bardzo niebezpieczną sytuację. Jest częściowo całkowicie skorumpowany i samolubny, a częściowo całkowicie zainteresowany dobrem Ameryki. Jest bardzo dobrym i bardzo złym człowiekiem. I jeśli nie udźwigniesz tej złożoności, bo potrzebujesz, by był albo złoczyńcą, albo bohaterem — po prostu nie uważasz.
Jak to się może skończyć
Steven Bartlett: Jak twoim zdaniem kończy się ta sytuacja z Iranem?
Eric Weinstein: Arabia Saudyjska musi zerwać z wahhabickimi teoriami prawniczymi — z rygorystyczną, salaficko-wahhabicką interpretacją islamu. W kraju jest silny interes modernizacyjny. Saudowie muszą być otwarci w relacji z Izraelem, tak jak ZEA czy Azerbejdżan. Musimy — będę brutalny — przyjąć do wiadomości, że Izrael jest w sytuacji życia i śmierci i nie jest narodem, za jaki się przedstawia: „najbardziej etyczni w tym, najbardziej etyczni w tamtym”. Uprawia propagandę — mieszkałem tam i ta propaganda mnie mdli. Jeszcze bardziej mdli mnie propaganda antyizraelska. Dużo tu wynika z tego, że mamy regionalne mocarstwo będące zarazem na krawędzi nieistnienia. Izrael musi wrócić do relacji z Turcją, a Erdoğan musi usłyszeć reprymendę jako członek NATO. Trzeba wzmacniać Sojusz. Trzeba doprowadzić do współpracy Arabii Saudyjskiej, Izraela i innych państw przeciw ekstremizmowi — bez pośredników. Trzeba wymusić na Bliskim Wschodzie rozmowę, w której modernizujące siły — a są potężne — oraz te nurty islamu, które są nam niezbędne do przetrwania, mogą wygrać. Potrzebujemy Indii: to niewiarygodnie ważny gracz i trzeba do nich mówić jak do równych — USA są silniejsze, ale Indie muszą być traktowane jako równe. Trzeba przemyśleć wszystkie związki. Trzeba uznać, że Wielka Brytania i Francja to mocarstwa termojądrowe w środku przejść demograficznych, w systemach, które mogą wybrać kogokolwiek — to przerażające. Potrzeba więcej spójnej identyfikacji z byciem Brytyjczykiem i Francuzem, bo ważne jest, by te społeczeństwa zachowywały się jako przyjaciele-sojusznicy z czasów powojennych. I trzeba wyciągnąć rękę do Putina, przestać grać w te gry z człowiekiem, który — choć dziki i niebezpieczny — nie jest kimś, z kim nie da się rozsądnie rozmawiać. I pamiętajmy: to, co zrobiliśmy w 2004, bardziej niż w 1999 (kiedy pod parasol artykułu 5 NATO weszły kraje Układu Warszawskiego). W 2004 objęliśmy nim kraje bałtyckie — Estonię, Łotwę, Litwę — a to były republiki byłego Związku Radzieckiego. Potrzebujemy zupełnie innego poziomu wyrafinowania geopolitycznego.
Steven Bartlett: Ale jak powstrzymać Iran przed bronią nuklearną? Oni wyglądają na pokrzepionych: przetrwali niby największą supermocarstwo Ziemi.
Eric Weinstein: Przerażające: zaczęto zabijać ich fizyków, wstrzykiwano złośliwy kod do ich wirówek. (Informacja dodatkowa: aluzja do Stuxnetu — robaka, który ok. 2010 roku uszkadzał irańskie wirówki wzbogacające uran.) To będzie eskalować. I powiem ci: gdybym miał łatwe rozwiązanie, myślisz, że nie znalazłbym sposobu, by je przekazać?
Steven Bartlett: Czyli nie ma łatwego rozwiązania.
Eric Weinstein: Nie jestem w pokoju, w którym zapadają decyzje. Nie dostaję briefingów niejawnych. Nie mówię po persku, po paszto ani po hebrajsku.
Głowice wróciły z milczenia
Steven Bartlett: Ciekawe, że tak mało mówi się dziś o zagrożeniu nuklearnym — bo AI wydaje się pilniejszy i większy problem.
Eric Weinstein: Dziwnie uznano, że sprawa nuklearna jest „przeszła”: że wygraliśmy zimną wojnę i już nie problem. Tymczasem AI będzie się wkradać w systemy obrony nuklearnej. Nie wiem, jak to powiedzieć, żeby nie brzmiało irytująco: przyjmij jako punkt wyjścia, że wszyscy jesteśmy kompletnie szaleni i nie potrafimy prowadzić poważnych rozmów. Wciąż wpadamy w utarte koleiny — LLM Erica rozmawia z LLM-em Stevena przez dziewięćdziesiąt pięć procent naszej rozmowy i czasem, przez te pięć procent, wchodzimy w nowy teren. I czy nie dziwne, że nie połączyliśmy głowic z rozmową o obcych? A są bardzo połączone. Nie połączyliśmy ich z ropą ani z AI. To taki sierota na uboczu. I szczerze: możesz zobaczyć użycie głowicy przez Putina, bo Rosjanie nabrali swoistego lekceważenia dla broni jądrowej, odkąd zaczęli używać jej jako narzędzia inżynieryjnego — do gaszenia pożarów i tym podobnych. Moja obawa: jeśli doprowadzisz Rosję do ściany, Putin nie powstrzyma się od użycia głowicy taktycznej, zwłaszcza w roli inżynieryjnej — po prostu, żeby nas sprawdzić. Nie jestem pewien, że pierwsza eksplozja nastąpi w Iranie. Jesteśmy w niesamowicie niebezpiecznym okresie i chciałbym wierzyć, że Xi, Putin i Trump potrafią zasiąść razem, gdy tego wymaga stawka. Naprawdę powinniśmy przemyśleć sytuację w Iranie i na Ukrainie. I to nieuczciwe z twojej strony, że ciągle pytasz, jak rozwiązać problemy świata. Właściwe pytanie brzmi: czy potrafimy rozpoznać niebezpieczeństwo? Czy potrafimy docenić, jak cenny jest ten dar? Czy potrafimy zachwycić się sobą nawzajem i pogrzebać wrogości? Kiedy ostatnio martwiłeś się wojną Egiptu z Izraelem? Pomyśl — to było nie do pomyślenia. A jednak: to zimny, niewygodny kawał traktatu, ale to pokój. Jakie jest twoje ostatnie pytanie?
Steven Bartlett: Jakie najpiękniejsze miejsce odwiedziłeś w życiu? To pytanie zostawił poprzedni gość.
Eric Weinstein: Świetne pytanie… Muszę powiedzieć: tuż nad rekinem wielorybim u wybrzeży św. Heleny — zaparło mi dech. Pływanie z rybami na Morzu Czerwonym — tego nie zapomnę. Zobaczyłem zorzę polarną w Maine, o wszystkich miejscach, i spędziłem całkowite zaćmienie z synem w Missouri, dokładnie w punkcie, przez które przechodziło poprzednie. Mógłbym mówić wiecznie — jak tu wybierać?
Rada na koniec
Steven Bartlett: Rozmawialiśmy o wielu rzeczach. Moi słuchacze różnią się wiekiem i geografią — jaka twoja rada dla nich w świecie zmieniającym się w takim tempie, z tymi wielkimi, strasznymi słowami: AI, robotyka, wojna?
Eric Weinstein: Nie bójcie się mieć dzieci — nawet jeśli nie macie wykonalnego planu utrzymania. Bo jeśli poczekacie na wykonalny plan, zwykle będzie za późno.
Steven Bartlett: Zachęcasz do dzieci, a przestrzegasz przed upadkiem cywilizacji. Trochę to sprzeczne.
Eric Weinstein: Jeśli nie chcemy, by cywilizacja upadła, lepiej zrobić trochę dzieci — bo cywilizacja to dzieci. A jeśli nie rozumiecie, że dzieci są kluczem do cywilizacji, macie większy problem niż rady ode mnie. Powiedziałbym: zachowujcie dobre humory. Cieszcie się mocno. Nie przejmujcie się, że nazwą was aroganckimi albo złudnymi — skoro wszyscy wokół są w istocie szaleni. Patrzcie na świat najpierw własnymi oczami, a dopiero potem korygujcie obraz o to, co inni mówią, że powinniście widzieć. Widzicie świat fikcyjny. Non-stop oglądacie wrestling — show, w którym wynik jest z góry ustalony. Jeśli macie poczucie, że coś jest nie tak — gratulacje. Wierzcie w siebie. Uznajcie, że od was zależy odrobina grajactwa w waszym życiu, żebyście mogli się zmieścić w tych wszystkich systemach. Macie prawo do budżetu hipokryzji. Do budżetu lenistwa i budżetu zazdrości. Macie prawo być grzesznikiem i prawo zawieść. Starajcie się tylko nie przekraczać budżetów. Nie idźcie przez życie, jakbyście próbowali pozbyć się hipokryzji — bo na pewno zawiedziecie. Nie próbujcie wycinać z siebie wszystkiego, co czyni was ludźmi. I pamiętajcie: żyjemy w formacie cyfrowym, który niczego nie zapomina, a błędy się kumulują — macie prawo do tylu potknięć, których nie bierzecie. Po prostu bądźcie dla siebie wyrozumiali. A kiedy się to uda — rozciągnijcie to na gościa, który was właśnie podciął na drodze, i na osobę, która dźgnęła was lekko w plecy w pracy. I jeszcze: pozdrawiam indyjskiego bohatera-pilota oraz Izraelczyków, którzy uratowali sytuację, gdy otwarto drzwi kokpitu — dwa z krajów, które kocham najbardziej, bo oba są wielkim świętowaniem życia. I pamiętajcie: kulty życia są potężniejsze od kultów śmierci. Trzeba rozkoszować się heroizmem i ludźmi sprawczymi, którzy biorą ryzyko, biorą sprawy w swoje ręce i opiekują się słabszymi — tymi, którzy nie zdołają zadbać o siebie. Dzięki, Steve. Naprawdę doceniam, że mnie zaprosiłeś z powrotem.
Steven Bartlett: Dziękuję, że wróciłeś. To zawsze przyjemność — i zawsze rozszerzenie umysłu.