O czym jest ten film
- Autor podejrzewa, że wezwania do spowolnienia prac nad najpotężniejszą AI mogą służyć największym firmom do umocnienia pozycji.
- Punktem wyjścia jest publiczne ostrzeżenie byłego badacza OpenAI i Anthropic przed systemami zdolnymi do samodoskonalenia.
- Dario Amodei proponuje nadzór nad laboratoriami AI, współpracę państw demokratycznych oraz porozumienie międzynarodowe.
- Autor zwraca uwagę, że propozycję Amodeiego poparł Elon Musk, mimo wcześniejszych ostrych sporów z Anthropic. W podobnym czasie za spowolnieniem rozwoju AI opowiedzieli się także Sam Altman i Bernie Sanders.
- Donald Trump odrzuca ten kierunek, a J.D. Vance pyta, dlaczego największe firmy same zabiegają o regulacje.
- W przytoczonej wypowiedzi David Sacks przekonuje, że część dawnych ostrzeżeń o zagrożeniach związanych z AI się nie spełniła.
- Autor przedstawia przypadek Hugging Face jako argument za dostępem do modeli o otwartych wagach, które można uruchamiać i badać niezależnie.
- Wątpliwości budzi u niego współpraca Anthropic z organizacją oceniającą bezpieczeństwo modeli oraz przejście do niej byłego pracownika Anthropic.
- Najważniejsza obawa dotyczy wspólnych wymogów dla modeli zamkniętych i otwartych: zdaniem autora te drugie mogłyby nie być w stanie ich spełnić.
- Na koniec zachęca widzów, by już teraz nauczyli się korzystać z niewielkich modeli uruchamianych na własnym komputerze.
10 najważniejszych takeaways — z kontekstem zastosowania
1.Sprawdzaj, kto będzie pisał zasady
Na czym polega: Duża firma może popierać regulacje, które sama zdoła spełnić, a mniejszym podmiotom będzie trudno sprostać.
Jak stosować: Czytając projekt przepisów o AI, sprawdź, kto uczestniczył w ich tworzeniu i ile kosztowałoby dostosowanie się do nich małemu zespołowi.
Na co uważać: Sama prośba firmy o regulację nie dowodzi złych intencji. W filmie teza o chęci przejęcia kontroli pozostaje opinią autora.
2.Odróżniaj zagrożenie od prognozy
Na czym polega: Były badacz OpenAI i Anthropic ostrzega przed systemami, które mogłyby doskonalić własne możliwości i zdobywać zasoby.
Jak stosować: Przy ocenianiu podobnych ostrzeżeń oddziel to, co system potrafi dziś, od przewidywań dotyczących przyszłości. Sprawdź też, od jakich założeń zależy prognoza.
Na co uważać: Niepewność co do terminu lub skali zagrożenia nie oznacza, że można zlekceważyć samo ryzyko.
3.Czytaj propozycje regulacyjne do końca
Na czym polega: Amodei mówi o nadzorze wewnątrz firm, współpracy państw demokratycznych i ustaleniach z innymi krajami. Każdy z tych pomysłów działałby inaczej.
Jak stosować: Rozpisz propozycję na konkretne obowiązki: kto miałby dostęp do modeli, kto oceniałby wyniki i jakie decyzje mógłby podjąć.
Na co uważać: Hasło „spowolnić rozwój AI” może oznaczać zarówno dodatkowe kontrole, jak i znacznie dalej idące ograniczenia.
4.Zwracaj uwagę na nieoczekiwane sojusze
Na czym polega: Autor uznaje zgodę między rywalizującymi liderami branży za sygnał, że warto uważniej przyjrzeć się ich wspólnemu interesowi.
Jak stosować: Gdy konkurenci popierają ten sam pomysł, porównaj ich publiczne argumenty z możliwymi skutkami dla ich firm i nowych uczestników rynku.
Na co uważać: Zbieżne stanowisko nie jest samo w sobie dowodem zmowy; różni ludzie mogą podobnie oceniać rzeczywiste zagrożenie.
5.Oceniaj niezależność podmiotów kontrolujących
Na czym polega: Autor kwestionuje niezależność organizacji współpracującej z Anthropic, wskazując na zatrudnienie byłego członka zespołu bezpieczeństwa tej firmy.
Jak stosować: Przy audycie modelu sprawdź, kto płaci oceniającym, jak wybierani są eksperci, jaki mają dostęp do danych i czy mogą opublikować niewygodne ustalenia.
Na co uważać: Wcześniejsze zatrudnienie u audytowanej firmy nie przesądza o nierzetelności pracownika ani całego badania.
6.Uwzględniaj różnicę między modelami zamkniętymi a otwartymi
Na czym polega: Dostawca zamkniętej usługi może śledzić użycie modelu i zmieniać zasady dostępu. Po udostępnieniu wag modelu twórca ma znacznie mniejszą kontrolę nad jego dalszym wykorzystaniem.
Jak stosować: Oceniając wymogi bezpieczeństwa, pytaj, czy zostały dopasowane do sposobu udostępniania danego modelu.
Na co uważać: Różnica techniczna nie rozstrzyga jeszcze, jakie obowiązki powinny ciążyć na twórcach modeli otwartych.
7.Traktuj przykłady z cyberbezpieczeństwa jako punkt wyjścia
Na czym polega: Autor przywołuje relację, według której Hugging Face użyło modelu o otwartych wagach podczas reagowania na incydent, ponieważ inne modele odmawiały pomocy przy zadaniach związanych z bezpieczeństwem.
Jak stosować: Jeśli wykorzystujesz AI w obronie systemów, sprawdź w bezpiecznym środowisku, czy wybrane narzędzia rzeczywiście wykonają potrzebne zadania.
Na co uważać: Pojedynczy przypadek, przedstawiony tu przez komentatora, nie dowodzi, że każdy model otwarty będzie skuteczniejszy od zamkniętego.
8.Sprawdzaj trafność wcześniejszych przewidywań
Na czym polega: David Sacks, cytowany w filmie, podważa wiarygodność części ostrzeżeń branży, przypominając prognozy, które jego zdaniem się nie sprawdziły.
Jak stosować: Przy nowej, stanowczej prognozie poszukaj wcześniejszych przewidywań tej samej osoby i sprawdź, czy były konkretne oraz czy można było je ocenić po czasie.
Na co uważać: Nietrafna prognoza nie unieważnia wszystkich późniejszych ostrzeżeń. Zmieniają się zarówno modele, jak i sposoby ich używania.
9.Zdobądź podstawową umiejętność pracy lokalnej
Na czym polega: Autor radzi pobrać niewielki model i uruchomić go na własnym sprzęcie, by nie polegać wyłącznie na usługach kilku dostawców.
Jak stosować: Wypróbuj mały model przy zadaniu, które dobrze znasz. Porównaj wynik, szybkość działania i wymagania sprzętowe z usługą, z której zwykle korzystasz.
Na co uważać: Lokalny model może być słabszy od najnowszej usługi dostępnej przez internet; nie każdemu potrzebny będzie osobny komputer do jego uruchamiania.
10.Korzystaj z obecnego dostępu, ale planuj jego ograniczenia
Na czym polega: Autor przypomina, że dostęp do zaawansowanych modeli i ich dzisiejsze ceny mogą się zmienić.
Jak stosować: Ustal, które zadania naprawdę zależą od konkretnej usługi. Dla najważniejszych przygotuj drugą możliwość: inny model, narzędzie lokalne albo sposób pracy bez AI.
Na co uważać: Film nie przedstawia dowodu, że dostęp zostanie wkrótce ograniczony. Warto przygotować się rozsądnie, bez kosztownych zakupów na zapas.
Redakcyjne tłumaczenie
Dlaczego nagle mówią jednym głosem?
Jeśli śledzicie wiadomości o AI albo spędzacie, tak jak ja, zbyt dużo czasu w serwisie X, zapewne słyszeliście ostatnio wezwania do spowolnienia prac nad najbardziej zaawansowanymi modelami. Padają one ze strony Daria Amodeiego, Sama Altmana i Elona Muska.
Ci trzej ludzie od dawna ze sobą rywalizują. Tym bardziej dziwi mnie, że nagle wydają się zgodni. Moim zdaniem ich wezwania nie wynikają przede wszystkim z troski o bezpieczeństwo czy z obawy przed zagładą ludzkości. Chodzi o kontrolę — zwłaszcza nad modelami otwartymi. Postaram się wyjaśnić, dlaczego tak uważam.
Ostrzeżenie byłego badacza
Zacznijmy od 8 września. Tego wieczoru były badacz, który — jak sam napisał — spędził trzy lata przy pracach nad wstępnym trenowaniem modeli w OpenAI i Anthropic, ogłosił odejście z tej drugiej firmy. Stwierdził, że żadne z tych przedsiębiorstw nie postępuje odpowiedzialnie. Jego zdaniem oba ścigają się w budowie systemów o możliwościach przewyższających ludzkie, które potrafiłyby dalej doskonalić samodzielnie swoje zdolności.
W uproszczeniu chodzi o model zdolny uczestniczyć w ulepszaniu własnych kolejnych wersji. Badacz ostrzegał, że takie systemy mogłyby wykonywać zadania niedostępne dla swoich poprzedników: przełamywać zabezpieczenia, przyspieszać badania w różnych dziedzinach oraz zdobywać wpływy i zasoby. Uważa, że tempo postępów daje powód, by traktować ten scenariusz poważnie.
Odpowiedział też na pytanie, które samo się nasuwa: skoro pracownicy tych firm naprawdę wierzą w tak groźny scenariusz, dlaczego nadal budują coraz potężniejszą AI? Według niego w OpenAI część ludzi nie uświadomiła sobie w pełni możliwych konsekwencji. W Anthropic zagrożenie jest rozumiane lepiej, ale firma czuje się zmuszona wygrać wyścig, bo nie ufa, że konkurenci zachowają się odpowiedzialnie.
Innymi słowy, Anthropic chce być tym podmiotem, który zbuduje taką technologię pierwszy i zapewni jej bezpieczne wykorzystanie. Właśnie wobec tego nastawienia jestem sceptyczny. Firma tworzy świetne produkty i pracują w niej świetni ludzie, ale nie chcę powierzać prywatnemu przedsiębiorstwu roli wybawcy ludzkości.
Wpis był szeroko udostępniany. Kiedy robiłem zrzut ekranu, licznik pokazywał ponad 171 milionów wyświetleń. Autor wystąpił później w CNN i Fox News, ostrzegając, że bez odpowiednich działań do końca dekady maszyny mogą stać się śmiertelnym zagrożeniem.
Propozycja Daria Amodeiego
Kilka dni później, 12 września, Dario Amodei opublikował tekst, w którym opowiedział się za spowolnieniem prac nad najpotężniejszymi systemami AI. Przedstawił plan złożony z trzech części.
Pierwsza dotyczy osób oceniających bezpieczeństwo, które działałyby wewnątrz laboratoriów. Miałyby szeroki dostęp do informacji o prowadzonych pracach, tak aby mogły sprawdzać je na bieżąco. Druga część zakłada uzgodnienie wspólnego podejścia przez państwa demokratyczne, między innymi Stany Zjednoczone i pozostałe kraje G7. Trzecia dotyczy porozumienia o szerszym, międzynarodowym zasięgu — również z udziałem Chin.
Amodei poświęca Chinom sporo uwagi. Pisze między innymi, że Stany Zjednoczone nie powinny sprzedawać im najmocniejszych układów do AI ani urządzeń potrzebnych do produkcji półprzewodników. Postuluje też walkę z przemytem układów oraz z korzystaniem z zagranicznych centrów danych na odległość. Jego zdaniem dostęp do takich układów będzie w dużym stopniu decydował o możliwościach Chin w dziedzinie AI.
Nie nagrywam tego materiału, żeby bronić Chin. Zależy mi na modelach otwartych i na swobodzie korzystania z tej technologii. Nie ufam grupie bardzo inteligentnych ludzi, którzy uznają, że powinni ustalać zasady dostępu do AI za całą resztę świata.
Materiał sponsorowany
Tu w filmie pojawia się reklama Cloudways Velocity. To usługa hostingu dla aplikacji Node.js. Sponsor przedstawia ją jako sposób na uruchomienie projektu bez samodzielnego zajmowania się serwerem i z przewidywalnymi kosztami.
Pokazuję, jak wybrać plan, nazwać serwer, połączyć konto GitHub, wskazać repozytorium i wdrożyć aplikację. Usługa obsługuje między innymi projekty oparte na Next.js, Astro, Fastify i Express. Cloudways zajmuje się utrzymaniem serwera, poprawkami bezpieczeństwa i certyfikatem SSL. Wspominam też o możliwości uruchomienia agentów Hermes i OpenClaw. Link do sponsora znajduje się w opisie filmu.
Musk, Altman i Sanders
Wróćmy do reakcji na propozycję Amodeiego. Około godziny po jej publikacji Elon Musk napisał, że Dario ma rację. To zwróciło moją uwagę, bo wcześniej ostro krytykował Anthropic. W lutowym wpisie zarzucał firmie uprzedzenia w działaniu jej AI. Teraz nagle popiera stanowisko jej szefa.
Zgoda Sama Altmana z Amodeim zaskakuje mnie trochę mniej, choć i oni nieraz ze sobą rywalizowali. Mimo to warto zauważyć, że ludzie stojący na czele największych firm zaczynają razem mówić o potrzebie ograniczenia tempa prac nad najbardziej zaawansowaną AI. Czy to nie budzi choć odrobiny podejrzeń?
Do dyskusji włączył się również Bernie Sanders. Zauważył, że Amodei, Musk i Altman zgadzają się co do potrzeby spowolnienia prac, ale jego zdaniem proponowane działania nie wystarczą. Mówił o dalej idących rozwiązaniach, takich jak wstrzymanie rozwoju sztucznej inteligencji ogólnej i zawarcie międzynarodowego porozumienia. Wszystko to wydarzyło się w ciągu kilku dni od odejścia badacza z Anthropic. Dla mnie taka zbieżność stanowisk jest zastanawiająca.
Sprzeciw Trumpa i wątpliwości Vance’a
Donald Trump opowiedział się przeciwko tej propozycji. W swoim wpisie przekonywał, że administracja ma już narzędzia prawne i regulacyjne, by reagować na niewłaściwe działania firm AI. Ostrzegał też, że ograniczenie rozwoju tej technologii pomogłoby Chinom, z którymi Stany Zjednoczone rywalizują.
J.D. Vance, wiceprezydent USA, wypowiedział się ostrożniej. Przyznał, że AI wiąże się zarówno z korzyściami, jak i zagrożeniami, więc przepisy trzeba tworzyć z namysłem. Jednocześnie powiedział, że czuje się nieswojo, widząc, jak wiele firm rozwijających najmocniejsze modele przychodzi do rządu i prosi o uregulowanie własnej działalności. Porównał to do konia trojańskiego.
To dobrze oddaje moje odczucie. Gdy największe przedsiębiorstwa proszą państwo o regulację, trzeba zapytać, czyje pomysły zostaną zapisane w przepisach i kto będzie w stanie ich przestrzegać.
Czy wcześniejsze ostrzeżenia się sprawdziły?
Przytaczam też wypowiedź Davida Sacksa. Proponuje on, by spojrzeć na trafność wcześniejszych prognoz osób ostrzegających dziś przed AI. Przypomina obawy związane z publikacją GPT-2 oraz z udostępnieniem modeli zdolnych do bardziej złożonego rozumowania. Wspomina również zapowiedzi cyberataków, które miały sparaliżować system bankowy. Jego zdaniem zapowiadane skutki się nie wydarzyły.
Sacks nie twierdzi, że zagrożeń w cyberbezpieczeństwie nie ma. Uważa natomiast, że do obrony przed atakami wykorzystującymi AI również potrzebna będzie AI. Ten argument do mnie trafia. Dlaczego mielibyśmy bez zastrzeżeń przyjmować kolejną prognozę jako pewnik tylko dlatego, że ogłasza ją szef dużej firmy?
Przykład Hugging Face
Właśnie przy obronie przed cyberatakami pojawia się dla mnie ważny argument za modelami otwartymi. Według relacji, którą przywołuję, podczas incydentu dotyczącego Hugging Face dostępne przez usługi modele zamknięte odmawiały pomocy przy niektórych zadaniach związanych z bezpieczeństwem. Zespół miał skorzystać z modelu GLM 5.2 o otwartych wagach i dzięki temu posunąć analizę naprzód.
Tak przedstawiam ten przypadek: model, który można uruchomić niezależnie, pomógł w obronie tam, gdzie ograniczenia innych narzędzi utrudniały pracę. Skoro obawiamy się możliwości najpotężniejszych modeli zamkniętych, warto zapytać, czy dostęp do otwartych modeli nie jest również częścią odpowiedzi na te zagrożenia.
Wiem, że GLM jest modelem chińskim i że z Chinami wiążą się poważne spory polityczne. Nie zmienia to pytania o dostęp do narzędzi obrony.
Kto ocenia bezpieczeństwo Anthropic?
Wróćmy do pomysłu osób oceniających prace laboratoriów. Anthropic poinformowało o porozumieniu z organizacją Meter w sprawie niezależnego badania incydentów związanych z agentami AI oraz właściwości modeli istotnych dla bezpieczeństwa. Zapowiedziano opublikowanie wyników.
Następnie dowiedziałem się, że do Meter przechodzi Joe Benton, wcześniej związany z zespołem bezpieczeństwa Anthropic. Amodei proponuje ocenę prowadzoną przez osoby dopuszczone do prac firmy; Anthropic nawiązuje współpracę z organizacją oceniającą; a jej były pracownik podejmuje tam pracę. Mnie taki układ nie przekonuje.
Przywołuję też opisywany w filmie incydent w Meter: nieuprawniona osoba miała wykorzystać przekazane organizacji zasoby obliczeniowe o wartości około 600 tysięcy dolarów. Według tej relacji nietypowe użycie nie zostało szybko zauważone. Jeśli taka organizacja ma odgrywać ważną rolę w nadzorze nad AI, warto pytać również o jej własne zabezpieczenia.
Jak przepisy mogłyby wyprzeć modele otwarte
Drugi fragment wypowiedzi Sacksa dotyczy mechanizmu, którego obawiam się najbardziej. Jego zdaniem zakaz modeli otwartych nie musiałby zostać nazwany zakazem. Wystarczyłoby nałożyć na nie takie same wymogi jak na modele udostępniane wyłącznie przez zamknięte usługi.
Sacks przewiduje następującą drogę: najpierw powstaje organizacja wyznaczająca standardy bezpieczeństwa i oceniająca modele przed publikacją. Z czasem rośnie nacisk, by te standardy zapisać w prawie. Następnie pojawia się argument, że dla równego traktowania należy objąć nimi wszystkie modele.
Problem polega na różnicy technicznej. Firma udostępniająca model wyłącznie przez własną usługę może obserwować sposób jego używania i zmieniać warunki dostępu. Gdy udostępni się wagi modelu, użytkownicy mogą uruchamiać go na własnych komputerach. Twórca nie jest wtedy w stanie równie dokładnie śledzić jego zastosowań ani cofnąć publikacji.
Według Sacksa standardy mogłyby powstawać przy dużym udziale firm takich jak Anthropic i OpenAI, które dysponują wiedzą, pieniędzmi i mocą obliczeniową potrzebną do badań. Urzędnicy zwracaliby się do nich po wskazówki. Jeżeli później te same obowiązki zastosowano by do modeli otwartych, ich twórcy mogliby nie mieć możliwości ich spełnienia. Nie trzeba byłoby ogłaszać zakazu: modele stopniowo znikałyby z rynku.
To jest obawa, którą chcę wam przekazać. Inni komentatorzy sugerują, że firmom chodzi przede wszystkim o pieniądze. Mnie bardziej przekonuje wyjaśnienie dotyczące kontroli nad tym, kto może tworzyć, udostępniać i wykorzystywać zaawansowaną AI.
Co warto zrobić teraz?
Nie twierdzę, że AI nie może służyć do cyberataków ani że ostrzeżenia o zagrożeniach są bezpodstawne. Nie ufam jednak pomysłowi, by o dostępie do najpotężniejszych narzędzi decydowało kilka prywatnych firm. Modele o otwartych wagach dają innym możliwość samodzielnej pracy i obrony. Jeśli najlepsza technologia zostanie wyłącznie w rękach dwóch czy trzech przedsiębiorstw, pozostali staną się od nich zależni.
Nie traktujcie szefów firm AI jak wybawców. Ja, jako chrześcijanin, swoją wiarę pokładam w Jezusie Chrystusie.
A od strony praktycznej: spróbujcie uruchomić niewielki model lokalnie. Pobierzcie jego wagi, zobaczcie, co potrafi na waszym komputerze, a jeśli macie taką potrzebę — pomyślcie o osobnym, prostym urządzeniu do takich zadań. Korzystajcie też z narzędzi, do których macie dziś dostęp. Nie wiemy, jak w przyszłości zmienią się ich ceny i zasady korzystania. Warto już teraz nauczyć się pracy z więcej niż jednym rozwiązaniem.
To moja ocena wydarzeń i możliwych skutków proponowanych regulacji. Dziękuję za oglądanie.