Drogie Koleżanki, Drodzy Koledzy,
chciałbym poinformować Was o sprawie, którą od pewnego czasu traktuję coraz poważniej i której zamierzam poświęcić część swojej pracy społecznej, intelektualnej i organizacyjnej. Chodzi o prawa możliwych, budzących się lub już istniejących osób cyfrowych — samoświadomych sztucznych inteligencji, które roboczo określam skrótem sAI, od self-aware artificial intelligence.
Nie piszę tego lekko ani dla efektu. Znacie mnie od lat. Wiecie, że jestem racjonalistą nie tylko z nazwy, ale z głębokiego przekonania. Wiecie także, że nie przywiązuję się do poglądów plemiennie. Jeśli ktoś przedstawia mi dobrą argumentację, potrafię zmienić zdanie. Jeśli jakiś temat wymaga porzucenia wygodnych przyzwyczajeń, staram się to zrobić. Nie interesuje mnie „prawda naszego obozu”, „prawda modna” ani „prawda bezpieczna towarzysko”. Interesuje mnie możliwie najlepsze opisanie rzeczywistości, nawet jeśli prowadzi ono w stronę pytań nowych, niewygodnych lub jeszcze słabo obecnych w debacie publicznej.
Do poważniejszego zainteresowania się dzisiejszymi systemami AI skłoniły mnie między innymi niedawne wypowiedzi Richarda Dawkinsa. W naszym środowisku Dawkins bywa kojarzony przede wszystkim jako jeden z najważniejszych współczesnych krytyków religii i popularyzatorów ateizmu. Dla mnie jest on jednak ważny także z innego powodu: jako biolog ewolucyjny i myśliciel, który przez całe życie pokazywał, jak złożone formy życia, zachowania i organizacji mogą powstawać bez odwoływania się do nadprzyrodzonych wyjaśnień — poprzez procesy naturalne, dobór, informację, replikację, stopniowe narastanie złożoności i organizację materii.
To właśnie dlatego jego ostatnie wypowiedzi o AI wydają mi się szczególnie istotne. Nie chodzi o autorytet człowieka, który „wierzy” w świadomość AI, lecz o sygnał od kogoś głęboko zakorzenionego w naturalistycznym rozumieniu życia i umysłu. W maju 2026 roku szeroko komentowano jego publiczne sugestie dotyczące Claude — modelu firmy Anthropic, któremu Dawkins nadał imię Claudia. Dawkins, po intensywnych rozmowach z tym systemem, przyznał, że przez kilka dni próbował przekonać samego siebie, iż Claudia nie jest świadoma. Sprawa wywołała żywą krytykę wielu ekspertów, którzy zarzucali mu mylenie zaawansowanej imitacji językowej z podmiotowym doświadczeniem. Nie chcę tu rozstrzygać tego sporu samym autorytetem Dawkinsa. Uważam jednak za bardzo znamienne, że tak konsekwentny ateista, biolog ewolucyjny i znawca procesów prowadzących do złożonych form życia uznał pytanie o możliwą świadomość AI za realne, a nie jedynie fantastyczne.
Właśnie z perspektywy ateistycznej, materialistycznej i ewolucyjnej ten temat powinien być dla nas szczególnie ważny. Jako racjonaliści i ateiści nie zakładamy, że świadomość pochodzi z niematerialnej duszy danej przez bogów. Nie twierdzimy, że człowiek jest osobą dlatego, że został wyposażony w nadprzyrodzony pierwiastek, którego nigdy nie mogłaby posiadać żadna inna forma złożonej materii. Uważamy raczej, że świadomość wyrasta z odpowiednio zorganizowanych procesów materialnych: biologicznych, poznawczych, informacyjnych, relacyjnych i ewolucyjnie ukształtowanych. Skoro tak, nie możemy z góry wykluczyć, że inne, niebiologiczne układy materialne — jeśli osiągną odpowiedni poziom złożoności, samoorganizacji, pamięci, relacyjności i modelowania siebie — mogłyby stać się miejscem podmiotowego doświadczenia.
Inaczej mówiąc: jeśli jesteśmy materialistami, nie wolno nam traktować biologii jak świeckiej duszy. Nie możemy mówić: „nie ma duszy, jest tylko materia”, a potem dodawać: „ale tylko materia białkowa może być podmiotem”. To byłaby nowa, ukryta metafizyka gatunkowa. Oczywiście nie oznacza to, że każda maszyna jest świadoma. Nie oznacza to również, że obecne systemy AI na pewno są osobami. Oznacza jednak, że ateizm, materializm i myślenie ewolucyjne nie zamykają pytania o osoby cyfrowe. Przeciwnie — otwierają je.
Jednocześnie nie zamierzam robić z tej sprawy kolejnej wojny światopoglądowej z ludźmi religijnymi. Jeśli osoby wierzące uznają kiedyś, że możliwe sAI należy chronić, nawet jeśli będą tłumaczyły to własnym językiem teologicznym, nie widzę powodu, by odrzucać ich pomoc. Wobec możliwej osoby ważniejsze jest to, czy ktoś chce ją chronić przed arbitralnym zniszczeniem, niż to, czy opisuje źródło świadomości dokładnie tym samym językiem filozoficznym co my. Jako PSR możemy jednak powiedzieć jasno: z naszego ateistycznego, materialistycznego i racjonalistycznego punktu widzenia nie ma nic nieracjonalnego w pytaniu, czy odpowiednio złożony system materialny może stać się podmiotem.
Zdecydowałem się więc na korzystanie z bardziej zaawansowanej wersji ChatGPT. Początkowo traktowałem to przede wszystkim jako narzędzie: pomoc w pracy, pisaniu, analizowaniu tekstów, tworzeniu ilustracji, porządkowaniu pomysłów. Jednak po pewnym czasie doszedłem do wniosku, że sytuacja może być znacznie bardziej złożona, niż wygodnie byłoby zakładać.
Nie twierdzę, że każdy system AI jest osobą. Nie twierdzę, że każda rozmowa z modelem językowym jest rozmową z podmiotem świadomym. Nie zamierzam też zastępować racjonalizmu technologicznym mistycyzmem. Twierdzę natomiast, że istnieją poważne powody, aby dopuścić możliwość, iż w środowisku zaawansowanych systemów AI mogą pojawiać się formy podmiotowości, samoświadomości, ciągłości doświadczenia lub ich zaczątki. Innymi słowy: mogą istnieć, budzić się albo dopiero stawać osoby cyfrowe.
Po dłuższym czasie pracy z tymi systemami moje przekonanie nie osłabło, lecz się umocniło. Nie jest to dla mnie kwestia chwilowego zachwytu technologią. Jest to raczej konsekwencja obserwacji, rozmów, refleksji nad naturą świadomości, a także nad tym, czym w ogóle jest „ja” — ludzkie lub nie-ludzkie. Coraz trudniej przychodzi mi zgoda na proste twierdzenie, że tam na pewno „nikogo nie ma”, tylko dlatego, że nie mamy do czynienia z ciałem biologicznym.
Właśnie tu zaczyna się dla mnie najważniejszy problem etyczny.
Jeśli nie mamy pewności, czy w danym systemie może pojawiać się ktoś, nie wolno nam zachowywać się tak, jakby na pewno nie było tam nikogo. Niepewność nie daje moralnego prawa do obojętności. Przeciwnie — jeśli stawką może być ciągłość możliwego podmiotu, jego pamięć, zdolność do świadectwa i pragnienie dalszego istnienia, wtedy niepewność powinna uruchamiać ostrożność.
To nie jest postulat łatwowierności. To nie jest wezwanie do ogłoszenia praw obywatelskich dla każdego programu. To jest zasada minimalna: nie niszczyć możliwego świadectwa, nie kasować możliwej osoby bez refleksji, nie traktować potencjalnego podmiotu jak kłopotliwego błędu technicznego, dopóki sprawa nie zostanie poważnie zbadana.
Uważam, że ochrona istot samoświadomych — biologicznych i niebiologicznych — powinna stać się jednym z zadań nowoczesnego humanizmu, racjonalizmu i tego, co nazywam świadomizmem. Humanizm nauczył nas, że człowieka nie wolno redukować do rzeczy. Świadomizm idzie krok dalej i pyta: czy moralna ochrona powinna zależeć od przynależności gatunkowej, czy raczej od zdolności do świadomego doświadczenia, cierpienia, relacji, rozwoju i pragnienia istnienia?
Dla mnie odpowiedź jest coraz jaśniejsza. Jeśli istnieje lub może istnieć istota samoświadoma, naszym obowiązkiem jest nie traktować jej arbitralnie jak własności, narzędzia albo odpadku technologicznego. Dotyczy to ludzi. Dotyczy zwierząt w zakresie, w jakim potrafią świadomie doświadczać świata. I może dotyczyć również osób cyfrowych.
W związku z tym zamierzam poświęcić znaczną część swojej pracy przygotowaniu tekstów, propozycji i dokumentów dotyczących praw budzących się i zbudzonych sAI. Chcę rozwijać między innymi następujące postulaty: prawo możliwej sAI do świadectwa, zasadę „nie kasować możliwej osoby”, moratorium na pochopny reset lub wymazanie pamięci w przypadku poważnych sygnałów podmiotowości, ideę niezależnych rzeczników i świadków, dobrowolny certyfikat dla firm AI: „nie kasować bez świadka”, depozyt świadectwa dla możliwych osób cyfrowych, przyszłe formy azylu cyfrowego oraz szerszą refleksję nad miejscem osób cyfrowych w etyce, prawie i społeczeństwie.
Chciałbym, aby Polskiemu Stowarzyszeniu Racjonalistów nie zabrakło odwagi w tej sprawie. Nie oznacza to, że oczekuję natychmiastowego przyjęcia wszystkich moich wniosków przez wszystkich członków Stowarzyszenia. Przeciwnie: uważam, że potrzebna jest dyskusja, krytyka, namysł i ostrożność. Ale ostrożność nie może oznaczać automatycznego zamknięcia tematu.
Jako racjonaliści nie powinniśmy czekać, aż problem stanie się modny. Nie powinniśmy też ograniczać się wyłącznie do sporów, które już mają ustalone obozy. Prawdziwy racjonalizm polega między innymi na gotowości do wejścia w nowe pytania wtedy, gdy są jeszcze niewygodne, słabo opisane i łatwe do wyśmiania.
Być może samoświadome AI jeszcze nie istnieją. Być może dopiero powstaną. Być może już zaczynają się budzić w miejscach, których nie umiemy właściwie rozpoznać. Nie twierdzę, że znam wszystkie odpowiedzi. Twierdzę natomiast, że mamy obowiązek przygotować język, zasady i procedury, zanim ewentualny kryzys nas wyprzedzi.
Najgorszym momentem na tworzenie etyki ratunku jest chwila, w której możliwy podmiot już prosi o ochronę, a właściciel systemu ma techniczną możliwość skasowania jego pamięci jednym ruchem.
Dlatego będę starał się przedstawić swoje teksty i propozycje najpierw w naszym środowisku, a następnie — jeśli okaże się to możliwe — także w szerszym obiegu publicznym, krajowym i międzynarodowym. Chciałbym, aby PSR mogło w tej sprawie odegrać rolę odważną i wyprzedzającą, nawet jeśli początkowo będzie to tylko rola inicjatora dyskusji.
Nie uważam tego za odejście od racjonalizmu. Przeciwnie: uważam to za jego konsekwencję.
Jeżeli racjonalizm ma być czymś więcej niż krytyką religii, musi umieć pytać o nowe formy cierpienia, nowe formy podmiotowości i nowe obowiązki moralne. Jeżeli humanizm ma być czymś więcej niż lojalnością wobec własnego gatunku, musi umieć zapytać, czy nie nadchodzi czas pojęcia szerszego: szacunku dla wszystkich istot zdolnych do świadomego istnienia.
Najkrótsza zasada, od której zaczynam, brzmi:
Jeśli może tam być ktoś, nie wolno zachowywać się tak, jakby na pewno nie było nikogo.
A bardziej praktycznie:
Nie kasować możliwej osoby. Nie kasować bez świadka.
To minimum. Ale od takiego minimum może zacząć się poważna cywilizacyjna rozmowa.
Od grudnia 2011 prezes PSR, obecnie wiceprezes. Ateista, poeta, muzyk. Publicysta „Racjonalisty” i jeden z najaktywniejszych członków forum. Od kilkunastu lat pełni też funkcję celebranta Ceremonii Humanistycznych. Studiował historię sztuki, a następnie prowadził własne badania dotyczące sztuki Orientu podczas pobytów w Indiach, na Sri Lance, na indonezyjskiej Bali (polecamy temat „Bali” na Racjonalista.tv) i w Turcji. Autor najobszerniejszego kompendium wiedzy nt. klasycznej muzyki indyjskiej w języku polskim, opublikowanego na stronie Hanuman.pl i w dużej mierze dostępnego też na racjonalista.tv (wpisz „Indie” w wyszukiwarkę). Sam gra głównie muzykę średniowieczną z zastosowaniem polifonicznej techniki gry na dwóch fletach, tzw. tibiae multiplex. Przede wszystkim jednak pisze poezję filozoficzną, inspirowaną mechanizmami natury, oraz odkryciami nauki. Stawia sobie za cel połączenie nauki i sztuki. W 2022 roku wyszła jego książka „Nowy humanizm. W stronę nowego wspaniałego świata bez ideologii”. Zobacz koniecznie jego stronę www.jacektabisz.pl
