--- title: "Kilka przemyśleń na temat bezpieczeństwa AI" author: "Jakub Ćwirlej" id: ai-safety language: pl url: "https://jakubcwirlej.com/pl/articles/ai-safety.md" page: "https://jakubcwirlej.com/pl/ai-dev/" translations: en: "https://jakubcwirlej.com/articles/ai-safety.md" fr: "https://jakubcwirlej.com/fr/articles/ai-safety.md" nl: "https://jakubcwirlej.com/nl/articles/ai-safety.md" updated: 2026-10-14 words: 1464 summary: "Esej o bezpieczeństwie AI, w którym autor krytykuje płytką debatę publiczną podzieloną między technomaksymalistów i proroków zagłady. Twierdzi, że najgorsze prawdopodobnie już się zaczęło, wskazując na broń autonomiczną, rosnącą inwigilację i ideologię technomaksymalizmu, a odpowiedzialność zawsze musi spoczywać na ludziach, bo maszyny nie mają własnej sprawczości. Proponuje konkretne rozwiązania regulacyjne i przestrzega przed antropomorfizacją AI." summary_type: editorial --- # Kilka przemyśleń na temat bezpieczeństwa AI Jakub Ćwirlej · język tekstu: PL · 1464 słów ## Streszczenie (redakcyjne) Esej o bezpieczeństwie AI, w którym autor krytykuje płytką debatę publiczną podzieloną między technomaksymalistów i proroków zagłady. Twierdzi, że najgorsze prawdopodobnie już się zaczęło, wskazując na broń autonomiczną, rosnącą inwigilację i ideologię technomaksymalizmu, a odpowiedzialność zawsze musi spoczywać na ludziach, bo maszyny nie mają własnej sprawczości. Proponuje konkretne rozwiązania regulacyjne i przestrzega przed antropomorfizacją AI. ## Najważniejsze punkty (redakcyjne) - Widzi trzy możliwości: że jesteśmy zgubieni, że nauczymy się kontrolować AI albo że koniec już się zaczął; jego zdaniem wszystkie trzy mogą być prawdziwe jednocześnie. - Proponuje, by trenowanie modeli do około 1B parametrów było powszechnie dozwolone, a modele rzędu 7B były zastrzeżone dla zarejestrowanych organizacji, które rejestrują interakcje swoich agentów. - Dalsze propozycje to Rzecznicy Interesu Publicznego opłacani przez państwowego regulatora w laboratoriach budujących modele graniczne (frontier models) oraz dedykowany podatek technologiczny finansujący przejście do gospodarki opartej na maszynach. - Sugeruje licencjonowanie danych treningowych przez organizacje zbiorowego zarządzania prawami, takie jak ZAiKS. - Najgorsza przyszłość, którą opisuje, to nie roboty-zabójcy, lecz powolne osuwanie się w technokrację inwigilacji i ludzką samotność. ## Pełny tekst (słowa autora) Ten tekst jest jednym z najtrudniejszych, z jakimi przyszło mi się zmierzyć. Jako dziennikarz, a zarazem człowiek, który w domowym zaciszu trenuje własne modele, stoję na dwóch przeciwległych biegunach. Z jednej strony fascynuje mnie czysta inżynieria, z drugiej – mam pełną świadomość, że kwestia bezpieczeństwa sztucznej inteligencji to prawdopodobnie najważniejsze wyzwanie czasów, w których żyjemy. Zacznę od tego, co osobiście boli mnie najbardziej: od tragicznego spłycenia publicznej dyskusji na temat bezpieczeństwa związanego z AI. To debata pełna sprzeczności i skrajnego emocjonalnego nacechowania. Trudno zresztą, żeby było inaczej, kiedy w grę wchodzą miliardowe interesy i przetrwanie ludzi. Z jednej strony słyszymy, że AI to śmiertelne zagrożenie, a jej rozwój grozi zagładą ludzkości. Z drugiej – że te apokaliptyczne wizje to tylko cyniczna gra gigantów, którzy chcą podbić wyceny akcji przed ich emisją lub zablokować i utrudnić rozwój mniejszym firmom, by zachować monopol i pierwsze miejsce w peletonie. Zwykły człowiek, który nie ma czasu śledzić tego wszystkiego i oczekuje prostych rozwiązań, może łatwo przejść na pozycje technomaksymalistów lub proroków zagłady. Każda z tych wizji jest taka gładka, taka oczywista... i żadna nie wymaga od nas niczego ponadto. Bo przecież, skoro jesteśmy bezsilni wobec mocy, które nas przerastają, to nie musimy nic robić. W dzisiejszych czasach skrajnego maksymalizmu to bardzo wygodna pozycja. Co sam odpowiedziałbym mojemu dziecku, gdyby zapytało mnie, czy AI stanowi dla nas zagrożenie? Uciekając od upraszczającego reframingu, musiałbym przyznać, że istnieją trzy możliwości: że faktycznie jesteśmy skazani na zagładę, że ostatecznie do niej nie dojdzie (bo – jak przekonuje Yann LeCun – po prostu nauczymy się tę technologię kontrolować), albo... że ta zagłada już się rozpoczęła. Paradoks polega na tym, że wszystkie te trzy scenariusze mogą być jednocześnie prawdziwe. To, że najgorsze prawdopodobnie już się zaczęło, wynika z faktu, który rzadko przebija się do głównego nurtu: każda technologia, każdy wynalazek musi trafić na swój czas i odpowiedni grunt, aby w pełni zaistnieć. Energia atomowa – tak często przywoływana w tej dyskusji jako porównanie – w czasach zimnej wojny stanowiła śmiertelne zagrożenie, ale w czasach pokoju stała się źródłem taniej energii, przyczyniając się do boomu gospodarczego. To samo można powiedzieć o większości wynalazków: od obróbki krzemienia, przez dynamit, aż po sztuczną inteligencję. Nasz dzisiejszy świat stał się niestety miejscem, w którym scenariusz katastroficzny ma wręcz idealne warunki do urzeczywistnienia. Konflikty zbrojne z wykorzystaniem autonomicznej broni, postępująca inwigilacja obywateli przez państwa i korporacje, bezrefleksyjne przyjmowanie przez rządy korporacyjnych standardów w komunikacji ze społeczeństwem – to wszystko tworzy gotową infrastrukturę dla najczarniejszych wizji. Tymczasem ideologia technomaksymalizmu, która pcha nas w kierunku tych zagrożeń – otwarcie drwiąc ze słabości, stawiając zysk ekonomiczny i brutalną siłę ponad kapitał społeczny i bezpieczeństwo – buduje świat, w którym AI zerwane z uwięzi będzie doskonale prosperować. A wtedy scenariusz katastrofy może być już nie do uniknięcia. To nie jest nic nowego. Ta dyskusja toczy się w zasadzie od czasów ateńskiej agory, gdzie Platon sprzeczał się z Sokratesem, a ludzka historia pełna jest mrocznych momentów i niesprawiedliwości. To, co dziś dzieje się w polityce w USA, a co dla wielu Europejczyków pachnie faszyzmem, nie jest niczym nowym, jak celnie wskazuje historyk Jon Meacham w książce „The Soul of America”. Siła demokracji polega na tym, że sprawiedliwość – choć nierychliwa – w końcu zawsze zwycięża dzięki instytucjom. Z AI przecież może być tak samo – to nasza technologia i nauczymy się ją kontrolować, tak jak samoloty, o czym przypomina LeCun. Sam, mając pewne niewielkie doświadczenie związane z treningiem AI, nie mogę wyjść z podziwu, jak krucha jest ta technologia. Wystarczą niewielkie zmiany hiperparametrów, żeby model całkowicie rozsypał się w rękach inżyniera. To samo można jednak powiedzieć o wirusach biologicznych. Kluczowa nie jest ich wybitna inteligencja czy umiejętność przetrwania za wszelką cenę, ale zdolność do replikacji. Tej umiejętności – jak się wydaje – sztuczna inteligencja na razie jeszcze nie ma i może długo mieć nie będzie. Problem w tym, że jak pokazują ostatnie afery związane z wyciekiem autonomicznych agentów AI z laboratoriów i ich skoordynowanymi działaniami w sieci, zagrożenie narasta. A my, pomimo tego, nie słyszymy nic poza stale przewijającą się narracją dwóch nurtów ekstremistów – bez żadnych konkretnych rozwiązań, bez żadnych wniosków. To, co różni obecne modele od złośliwego kodu, który np. zaatakował Hugging Face czy australijskie serwery, to przede wszystkim sprawczość (agency). A sprawczość nigdy nie może być domeną maszyny. To, co czyni nas ludźmi, to nasza wolna wola. Żadna inna, sztuczna inteligencja nie może mieć sprawczości zagwarantowanej w inny sposób, niż za sprawą człowieka, który jej tej woli użycza. Z tej prostej zasady powinna wynikać cała odpowiedzialność i regulacje prawne, sprowadzające się do konkretnych rozwiązań legislacyjnych. Prawo do szkolenia modeli i ich użytkowania w sposób nieograniczony powinno wynikać z oceny ryzyka i możliwości kontroli konkretnych jednostek. Nic nie stoi na przeszkodzie, aby możliwość szkolenia najmniejszych modeli była powszechnie dozwolona – na przykład do rozmiaru 1B parametrów. Ale modele średnie, rzędu 7B parametrów, moim zdaniem powinny być możliwe do szkolenia i pobierania tylko przez zarejestrowane organizacje, które szczegółowo rejestrują wszystkie interakcje swoich agentów (logi) i są gotowe udostępnić je w razie problemów. To nie jest żaden futuryzm; kryptografia pozwala na to już dziś, marginalnym kosztem. Każdy działający w sieci agent mógłby mieć coś w rodzaju swojego "dowodu tożsamości", możliwego do identyfikacji w powiązaniu z organizacją, która go reprezentuje. A duże korporacje tworzące modele graniczne (frontier models)? Mogłyby mieć na przykład obowiązek zatrudniania Rzeczników Interesu Publicznego. Byliby to specjaliści nominowani i opłacani wyłącznie przez państwowego regulatora – pracownicy dopuszczeni do wszystkich tajemnic technologicznych wewnątrz laboratorium, zobowiązani raportować państwu w sytuacji, gdy widzą, że ich firma łamie standardy bezpieczeństwa lub podejmuje skrajnie ryzykowne działania w wyścigu z konkurencją. Państwa mają również możliwość i moralny obowiązek wprowadzenia celowego podatku technologicznego. Środki te muszą zostać przeznaczone na zabezpieczenie transformacji: przejścia od gospodarki opartej na pracy rąk ludzkich do gospodarki opartej na maszynach. Taki fundusz zapewniłby wsparcie osłonowe, niwelowałby drastyczne nierówności i chroniłby miliony osób przed całkowitym uzależnieniem ekonomicznym od łaski najbogatszej kasty technologicznych feudałów. Ten sam systemowy pragmatyzm musimy zastosować do kwestii praw autorskich materiałów, na których szkolone są modele. Dziś giganci technologiczni zasysają z sieci wszystko, co popadnie, licząc na to, że ewentualne procesy sądowe potrwają latami. Tymczasem rozwiązanie leży na stole i opiera się na instytucjach, które już doskonale znamy – organizacjach zbiorowego zarządzania prawami autorskimi, takich jak polski ZAiKS czy jego zagraniczne odpowiedniki. Nic nie stoi na przeszkodzie, aby to one zrzeszały twórców gotowych licencjonować swoje teksty, obrazy czy muzykę firmom szkolącym AI, w zamian za określony ułamek procenta od przychodów Big Techu. To układ, w którym wygrywa każdy. Twórcy odzyskują sprawczość i realne wynagrodzenie, z pełnym prawem wyłączenia swoich dzieł z treningu. Z kolei laboratoria AI – dzięki temu, że tego typu organizacje współpracują ze sobą międzynarodowo – zyskują jednym podpisem na umowie w pełni legalny dostęp do potężnych, czystych prawnie baz danych z całego świata. W ten sposób, zamiast jałowych sporów, moglibyśmy zbudować potężny, zupełnie nowy przemysł uczciwego licencjonowania danych. To, na co musimy uważać najbardziej, to postępująca antropomorfizacja sztucznej inteligencji. Nadawanie maszynom ludzkich cech prowadzi do skrajnie niebezpiecznej sytuacji, w której to na nowy, cyfrowy twór spływa cała odpowiedzialność, podczas gdy jej twórcy i osoby, które ją wykorzystują, są niejako z miejsca rozgrzeszeni: "To nie my, to model". Dziś nikt nie pyta, czy w Dolinie Krzemowej podjęto absolutnie wszystkie możliwe środki, by zapobiec katastroficznemu scenariuszowi – choć wszyscy wiedzą, że nie podjęto. Niestety, tworzenie prawdziwych, nudnych rozwiązań legislacyjnych jest dużo mniej medialne niż straszenie apokalipsą. Tymczasem scenariusz fatalny na pewno nie będzie wyglądał jak scena z hollywoodzkiego filmu katastroficznego. Przynajmniej na początku, będzie to przypominać powolne osuwanie się w mrok – klasyczne gotowanie żaby na wolnym ogniu. Właściciele inteligentnych maszyn i kapitału będą z obojętnością mijać na ulicy ludzi strukturalnie zbędnych. Ludzi, którzy nie będą mieli absolutnie żadnej możliwości zmiany swojej sytuacji, poza fizycznym buntem. A i ten bunt stanie się niemożliwy w świecie, gdzie każdy obywatel jest nieustannie śledzony przez miliardy szklanych, nieśpiących oczu kamer i tysiące autonomicznych maszyn. Nowa technokracja stanie się z czasem cyfrowym więzieniem – zarówno dla kontrolowanych, jak i dla tych, którym naiwnie wydaje się, że jeszcze sprawują władzę. Kiedy myślę o najgorszej wizji przyszłości, nie widzę morderczych robotów. Myślę właśnie o przeszywającej samotności ludzi w świecie całkowicie zarządzanym przez obcą, chłodną i obojętną inteligencję. To świat, który budujemy już dziś, i w którym przysłowiowy "bunt maszyn" ma wszelkie warunki, by w końcu zaistnieć i się urzeczywistnić. Sam nieustannie zastanawiam się nad tym problemem. I nawet jeśli niektóre pomysły czy wizje wyjścia z tej sytuacji wydają się dziś nazbyt futurystyczne, abstrakcyjne, a czasem wręcz naiwne, to uważam, że warto – a nawet trzeba – ten wysiłek podejmować. Samo myślenie nad rozwiązaniami, wychodzenie poza strefę komfortu i próba wyobrażenia sobie alternatyw dla ścieżki, którą wytyczają nam dziś giganci technologiczni, to nasza najważniejsza linia obrony. To nieodłączna część budowania lepszej, bezpieczniejszej przyszłości. Jeśli z tego zrezygnujemy, zadowalając się rolą biernych i przerażonych konsumentów, spełni się najgorszy z możliwych scenariuszy: oddamy naszą ludzką sprawczość walkowerem. A na to po prostu nie możemy sobie pozwolić. --- Jakub Ćwirlej — Dziennikarz, który buduje z AI · na stronie: https://jakubcwirlej.com/pl/ai-dev/ Pełny kontekst: https://jakubcwirlej.com/context/pl.md · https://jakubcwirlej.com/llms.txt