3DROGA.PL

Portal 3droga.pl

Portal Nacjonalistyczny

Piotr Roszkowski: Operarius Ex Machina

Amerykański chemik i współlaureat nagrody Nobla za odkrycie dziury ozonowej, Frank Sherwood Rowland miał słynnie stwierdzić, że “praca idzie dobrze, ale to wszystko wygląda jakby kończył się świat”. O dziurze ozonowej co prawda już zapomniano (niektórzy twierdzą, że zaczęła zanikać dlatego, że przestaliśmy dodawać freon do lodówek), jednak obecne prospekty na przyszłość wyglądają tak, że nie tylko wygląda to wszystko jakby kończył się świat, ale może być i tak, że do jego końca wielu z nas będzie musiała dotrwać na bezrobociu, więc nawet praca nie będzie miała jak iść dobrze.

W tekście, który opublikowaliśmy na portalu w zeszłym roku, zwróciłem uwagę na niespodziewane kierunki w których może rozwinąć się sztuczna inteligencja – bardzo często niepożądane przez jej twórców. Niektóre z tych kierunków były zabawne (jak na przykład to, że niemal każda sztuczna inteligencja dość szybko zostaje wyłączona ze względu na przyjęcie radykalnych, tzw. skrajnie prawicowych poglądów), inne były niepokojące (jak scenariusze z książek i filmów science fiction, czy spekulacje myślicieli na temat potencjalnego przejęcia świata przez AI). 

Grafika 1. AI proponuje nam rasis

Źródło: czeluście internetów

Obecnie jednak problemy, które może przysporzyć szybki rozwój sztucznej inteligencji mogą być bardziej przyziemne, i mogą dotknąć każdego z nas już w ciągu najbliższych lat. Chodzi o prędkość z jaką AI jest w stanie łączyć wątki, filtrować i destylować wiedzę. Choć mechanizmy te jeszcze nie są doskonałe, obecie w swoim raporcie Goldman Sachs przewiduje, że w najbliższych latach szerokie zastosowanie sztucznej inteligencji wyeliminuje z rynku 300 milionów miejsc pracy – głównie prac biurowych, w których systematyzacja i wyszukiwanie danych nie jest skomplikowane. Jakie to prace? 

  1. Administracja – 46%
  2. Prawo – 44%
  3. Architektura i inżynieria – 37%
  4. Nauki ścisłe – 36%
  5. Biznes i finanse – 35%

Żeby uczciwie podejść do tematu, należy nadmienić, że dane te odnoszą się do rynku pracy USA. Jednak spróbujmy zrobić małe obliczenia dla Polski. Jeśli nie chce Ci się śledzić moich obliczeń na oko (i wierzysz mi na słowo), to po prostu przejdź do ostatniego zdania paragrafu. W ramach administracji liczymy tylko administrację publiczną, to będzie 434 tys. osób (dane z roku 2021). 46% w przełożeniu na „polskie liczby” to by było 199,64 tysięcy (liczmy 200 tys. Dla łatwiejszego liczenia). Adwokatów i radców prawnych jest ok. 68 tysięcy (dane z roku 2021). 44% z tego to by było ok. 30 tysięcy osób. Inżynierów posiadających uprawnienia budowlane jest 118 tysięcy (dane z 2019 roku). Oczywiście w raporcie nie chodzi tylko o inżynierów budowlanych, ale do innych danych nie dotarłem. Na polskie realia 37% da tutaj prawie 44 tys. miejsc pracy. Nie znalazłem danych nt. nauk ścisłych, ale doliczmy umowne 20 tysięcy. W szeroko pojętym biznesie pracuje ok. 10,614 mln osób (dane z roku 2021), czyli 35% z tego bo będzie ok. 3,715 mln osób. Jeśli sobie dodamy wszystkie liczby, to wyjdzie nam nieco więcej niż 4 mln miejsc pracy, co przy ok. 16,5 mln (dane z roku 2021) zatrudnionych stanowi 20-kilka procent, właściwie niemal 25%. Zważywszy, że jedna raczej szacowałem w dół, możemy się spodziewać, że miejsce pracy co czwartej osoby w Polsce jest zagrożone. Agresywny rozwój AI może sprawić, że z obecnie wyjątkowo niskiego bezrobocia, może u nas pojawić się bezrobocie rekordowo wysokie.

Możliwości oczywiście jak zawsze jest kilka, ale wg mnie są najbardziej prawdopodobne dwie:

  1. Rozwarstwienie zawodowe. Część zaradniejszych „średniaków” tymczasowo znajdzie pracę w wysoko wykwalifikowanych zawodach, reszta zostanie zmuszona do przejścia do „mniej prestiżowych” prac fizycznych – wraz ze wzrostem automatyzacji prawdopodobnie wymagających coraz większej precyzji.
  2. Samobójstwo środka. Masy średniaków, które wiążą prestiż z pracą biurową nie pogodzą się ze swoją systemową nie przydatnością i będą masowo popełniać samobójstwa, względnie udadzą się na wewnętrzną emigrację w głąb atrakcji serwowanych przez AI, VR i narkotyki, czyli to co gej i żyd Harari proponuje w swojej książce dla osób uważających się za intelektualistów „Sapiens”.

Spójrzmy także na krytykę pomysłów filozofa multimilionerów. Na Unz Review omówiuono wykład wygłoszony przez Yuvala Noaha Harariego na temat zagrożeń dla ludzkości związanych ze sztuczną inteligencją (AI). Autor krytykuje Harariego za przyjęcie materialistycznych tropów pod wpływem darwinizmu, co zdaniem autora sparaliżowało myślenie Harariego. Autor argumentuje, że obawy Harariego dotyczące sztucznej inteligencji są bardziej związane z żydowską kontrolą myśli niż faktycznym zagrożeniem ze strony maszyn przewyższających ludzką inteligencję. Autor sugeruje, że żydowska kontrola nad Internetem pozwala im programować sztuczną inteligencję i manipulować jej działaniami. 

Jednak zakładając, że rzeczywiście słowa Harariego to nie tylko judejska fantazja, ale także i konkretny plan, zwróćmy uwagę na grafikę 2, która pochodzi z badania Gordona (1997) i przedstawia tendencje w jaki sposób wygląda rozkład inteligencji w porównaniu z wybranym zawodem. Czyli – jeśli nie ma innego wyjścia niż dwa wyżej przedstawione – “środka” i tak nie będzie.

Grafika 2. Inteligencja a zawód

Źródło: Gordon, 1997

Jaki koń jest, każdy widzi…

Artykuł The Economist powtarza argument technofili (wśród nich Karol Marx czy John Maynard Keynes) mówiący, że stare prace wykonywane przez SI zostaną zastąpione przez nowe. Jednak inną analogię postawił również uznany, choć mniej znany ekonomista. 

W 1983 roku nagrodzony Nagrodą Nobla ekonomista Wassily Leontief przybliżył tę debatę poprzez sprytne porównanie ludzi i koni. Przez wiele dziesięcioleci praca koni wydawała się odporna na zmiany technologiczne. Nawet gdy telegraf wyparł Pony Express, a kolej zastąpiła dyliżans i wagon Conestoga, populacja koni w Stanach Zjednoczonych rosła pozornie bez końca, zwiększając się sześciokrotnie w latach 1840-1900 do ponad 21 milionów koni i mułów. Zwierzęta te były niezbędne nie tylko na farmach, ale także w szybko rozwijających się ośrodkach miejskich, gdzie przewoziły towary i ludzi w powozach i omnibusach konnych.

Jednak wraz z wprowadzeniem i rozprzestrzenieniem się silnika spalinowego, trend ten szybko się odwrócił. Gdy silniki znalazły drogę do samochodów w mieście i traktorów na wsi, konie stały się w dużej mierze nieistotne. Do 1960 roku Stany Zjednoczone liczyły zaledwie trzy miliony koni, co oznacza spadek o prawie 88 procent w ciągu nieco ponad pół wieku. Gdyby na początku XX wieku toczyła się debata na temat losu koni w obliczu nowych technologii przemysłowych, ktoś mógłby sformułować „błąd dotyczący pracy koni”, opierając się na dotychczasowej odporności tego zwierzęcia. Ale sam błąd wkrótce okazałby się fałszywy: gdy pojawiła się odpowiednia technologia, większość koni została skazana na zagładę jako siła robocza.

Czy podobny punkt zwrotny jest możliwy w przypadku ludzkiej pracy? Czy autonomiczne pojazdy, samoobsługowe kioski, roboty magazynowe i superkomputery są zwiastunami fali postępu technologicznego, która ostatecznie zmiecie ludzi z gospodarki? Dla Leontiefa odpowiedź była twierdząca: „Rola ludzi jako najważniejszego czynnika produkcji z pewnością zmniejszy się w taki sam sposób, w jaki rola koni … została najpierw zmniejszona, a następnie wyeliminowana”.

Jako kontrargument stawiany wobec tez Leontiefa w artykule Foreign Affairs (sory, zgubiłem źródło) czytamy, że ludzie są jednak stworzeniami społecznymi, i że wiele z prac nie zniknie tak łatwo. W końcu wiele osób chce być obsłużona przez innego człowieka w kawiarni itd. Być może argument ten ma sens dla bogatszych, które będą w stanie zapłacić wystarczająco wysoką cenę za swoje usługi kilku ambitniejszym osobom spośród mas utrzymywanych przez uniwersalny dochód podstawowy, które chcą dorobić (lub są zmuszone dorobić), a których populacja pewnie będzie sukcesywnie zmniejszana (jak wcześniej koni). Zwykły konsument już coraz częściej obsługiwany jest przez maszyny, ponieważ wymagania klienta nie popłacają tak, jak ograniczenie kosztów związanych z zatrudnieniem. Wielu z nas już korzysta z kas samoobsługowych w McDonald’s czy w Biedronce, a nawet w atrapach lokalnego biznesu jakimi stały się franczyzy Żabki. Kolejne firmy wprowadzają takie rozwiązania, nie pytając swoich klientów o zdanie. Tak jak na naszych oczach zdezaktualizowało się powiedzenie “pewne jak w banku”, tak również dezaktualizuje się “klient nasz pan”. A może tak było od dawna lub od zawsze, tylko po prostu w obecnych warunkach gospodarczych łatwiej jest zwrócić uwagę na niuanse kapitalizmu. 

Sieć fast-foodów (akurat nieobecnych w Polsce) Wendy’s wprowadza chatbota AI w celu zautomatyzowania obsługi w punktach gastronomicznych. Chatbot, oparty na oprogramowaniu Google do obsługi języka naturalnego, ma na celu bardziej efektywne rozumienie i przetwarzanie zamówień klientów, zmniejszając długie kolejki i poprawiając jakość obsługi zamówień. Wykorzystuje on technologię generatywnej sztucznej inteligencji do generowania odpowiedzi w języku naturalnym na podstawie podpowiedzi klienta i zawiera unikalne terminy i zwroty powszechnie używane przez klientów sieci. Chatbot został również zaprojektowany do sprzedaży dodatkowej, sugerując większe rozmiary, Frosties (koktajle mleczne Wendy) lub codzienne promocje. Tym samym, taki chatbot byłby w stanie zastąpić obsługę w Żabce czy na stacji benzynowej, która zawsze chce Cię naciągnąć na dokupienie kawę czy hot-doga. Dyrektor generalny Wendy’s podkreślił, że wdrożenie chatbota nie ma na celu zastąpienia pracowników, ale zwiększenie ich możliwości poprzez obsługę zadań manualnych. Co to tak naprawdę oznacza? Pewnie to, że człowiek będzie w takich punktach sprzedaży “służył” jedynie do rejestrowania przychodzących towarów i do układania ich na półkach. Jednak jak długo? Tego też nie wiemy. 

Wracając do analogii z końmi. Grafika 3 pokazuje spadek populacji koni we Francji w związku z zastępowaniem tych zwierząt przez maszyny. Wykresy znalezione dla USA pokazują bardzo podobną tendencję (tu i tu), tendencja ta więc musiała wyglądać podobnie we wszystkich krajach industrializujących się. Ciekawym jest wzrost populacji koni od roku 1995, co z pewnością związane jest ze wzrostem popularności jeździectwa. Możliwe, że po zmniejszeniu się populacji ludzi w związku z ich zbyt wysoką eksploatacją zasobów naturalnych (które SI mogłoby wykorzystać efektywniej niż na “nierobów”), populacja ludzka również się zwiększy – na przykład dla uciechy sztucznej inteligencji, lub – jak wspominałem w tekście “Diaboli ex machina” przypominając opowiadanie “I have no mouth but I must scream” – w celu eksperymentowania na naszym gatunku. 

Grafika 3. Populacja koni we Francji, lata 1800 – 2010

Źródło: (Rzękeć i in., 2020)

Co nam mówią gadające głowy?

Już dziś SI jest o wiele bardziej zaawansowana niż planowali jej twórcy, którzy nie rozumieją tego, jak ona właściwie działa, a zmiany które wraz z nią nadchodzą mogą być jeszcze większe niż te przedstawiane w raporcie koszernego banku Goldman Sachs. Ekspert od AI Google’a sugeruje, że sztuczna inteligencja ma potencjał, aby przewyższyć ludzką inteligencję i może stać się niekontrolowalna. Jest to uzasadniona obawa, która została omówiona przez inne osoby szeroko komentujące kwestie AI, takich jak Elon Musk i, w przeszłości, Stephen Hawking. Jak każda technologia, ma ona potencjał do wykorzystania jej do szkodliwych celów. Główny ekonomista Microsoftu ostrzega, że sztuczna inteligencja może być wykorzystywana do tworzenia deepfake’ów, manipulowania informacjami i organizowania cyberataków. Podkreśla to znaczenie wdrażania odpowiedzialnych praktyk rozwoju sztucznej inteligencji i posiadania odpowiednich przepisów w celu zapobiegania nadużyciom. Jednak przy obecnym poziomie rozwoju SI, już teraz jest ona w stanie analizować akty prawne (świetnie jakby były już jakieś regulacje AI przygotowane, ale wszyscy wiemy jak jest) i je zmyślnie obchodzić. To nawet nie musi dotyczyć prawa dotyczącego samej sztucznej inteligencji. Cieszmy się chociaż z tego, że grupa pasożytnicza jaką są prawnicy dość szybko stanie się zbędna za sprawą tej nowej technologii.

Skoro już jesteśmy przy kwestiach prawnych. Sam Altman, dyrektor generalny OpenAI czyli spółki będącej właścicielem słynnego ChatGPT, zeznawał przed senacką podkomisją sądownictwa w celu omówienia przepisów dotyczących narzędzi sztucznej inteligencji skierowanych do konsumentów. Ustawodawcy uznają potrzebę wprowadzenia zasad i zabezpieczeń w celu uwzględnienia zarówno potencjału, jak i zagrożeń związanych ze sztuczną inteligencją. Przesłuchanie to miało na celu zbadanie algorytmów i technologii AI oraz ustanowienie rozsądnych standardów i zasad. Zeznania złożyli również profesor Gary Marcus i Christina Montgomery, dyrektor wykonawczy IBM. Rosnąca popularność narzędzi sztucznej inteligencji, takich jak ChatGPT, wzbudziła obawy o potencjalne zagrożenia, jakie stwarzają, wyrażane przez wybitne osobistości w dziedzinie sztucznej inteligencji.
Ironicznie, OpenAI podobno zatrudnia nisko opłacanych pracowników do pomocy w zadaniach związanych z etykietowaniem danych w celu szkolenia chatbota AI. Pracownicy ci, opłacani około 15 dolarów za godzinę, odgrywają kluczową rolę w ulepszaniu odpowiedzi ChatGPT na żądania użytkowników. Poleganie na ludzkiej pracy w rozwoju sztucznej inteligencji jest często pomijane, ale ma kluczowe znaczenie dla funkcjonowania tych systemów. Jeśli tak naprawdę AI to po prostu kilku Hindusów piszących relatywnie mądre odpowiedzi, a nie magiczny algorytm z piekła rodem, to nie jest tak źle. 

Grafika 4. Firma tworząca podcasty woli używać sztucznej inteligencji do pisania notatek. Pomimo tego, że ich jakość jest niższa niż jakość notatek przygotowywanych przez człowieka, to AI jest o wiele tańsze

Źródło: czeluście internetów

Karząca ręka AI może też dotknąć arystokrację rynku pracy ostatniej dekady czyli programistów, lub jak to się obecnie mówi – deweloperów. IBM przedstawił plan zaprzestania zatrudniania na stanowiska, które mogą zostać zastąpione przez sztuczną inteligencję. Jest to odzwierciedlenie rosnącego trendu automatyzacji i sztucznej inteligencji zastępującej pracowników. Chociaż może to prowadzić do zwiększenia wydajności i produktywności, może również spowodować powszechną utratę miejsc pracy i zakłócenia gospodarcze. Dyrektor generalny IBM Arvind Krishna stwierdził również niedawno, że spodziewa się, że sztuczna inteligencja zastąpi około 30% miejsc pracy w firmie.

Grafika 5. SI wprawia w przerażenie studenta, który dopiero co ma wejść na rynek pracy. 

Źródło: czeluście internetów


Według eksperta ds. sztucznej inteligencji, Bena Goertzela, sztuczna inteligencja może w niedalekiej przyszłości zastąpić około 80% miejsc pracy. Goertzel, dyrektor generalny SingularityNET, uważa, że wprowadzenie systemów takich jak ChatGPT OpenAI może doprowadzić do takiej przyszłości. Postrzega ten rozwój jako korzyść, sugerując, że ludzie mogą znaleźć bardziej znaczące zajęcia niż tradycyjne zatrudnienie. Przyznaje jednak, że w okresie przejściowym mogą pojawić się wyzwania społeczne, ponieważ systemy sztucznej inteligencji sprawiają, że ludzkie miejsca pracy stają się przestarzałe. Podczas gdy sztuczna inteligencja musi jeszcze posiadać ludzkie zdolności poznawcze, Goertzel uważa, że jesteśmy bliżej osiągnięcia tego kamienia milowego w ciągu lat, a nie dziesięcioleci. Przewiduje on pozytywne zastosowania sztucznej inteligencji ze zdolnościami poznawczymi podobnymi do ludzkich, takie jak humanoidalne roboty pomagające osobom starszym i zajmujące się niedoborem siły roboczej w sektorach takich jak pielęgniarstwo i edukacja. Goertzel podkreśla znaczenie regulacji partycypacyjnych i potrzebę rozwoju sztucznej inteligencji, aby priorytetem było “czynienie dobra”, a nie wyłącznie maksymalizacja wartości dla akcjonariuszy. Nie zgadza się on z propozycjami wstrzymania badań nad systemami sztucznej inteligencji, takimi jak ChatGPT, argumentując za znaczeniem utrzymania wolnego społeczeństwa i przeciwdziałania dezinformacji za pomocą innych środków. Sztuczna Inteligencja jest jednym z głównych tematów debat na forum złożonej ze wpływowych ludzi, tajemniczej Grupy Bilderberg

Niektórzy twierdzą, że nie będzie tak źle. Podczas gdy Goldman Sachs i zarządzający funduszami hedgingowymi, tacy jak Steve Cohen, przewidują masową utratę miejsc pracy z powodu automatyzacji sztucznej inteligencji, Jim Reid, szef globalnych badań w Deutsche Bank, twierdzi, że historia sugeruje, że sztuczna inteligencja ostatecznie stworzy więcej miejsc pracy niż zniszczy. Reid wskazuje, że w całej historii istniał opór wobec postępu technologicznego, ale nie doprowadził on do długotrwałego bezrobocia. Aby poprzeć swój argument, analizuje dane dotyczące długoterminowego bezrobocia z krajów G7. Niektórzy krytycy twierdzą jednak, że analiza Reida pomija krótkoterminowe skoki bezrobocia i potencjalne wstrząsy społeczne spowodowane szybkim przyjęciem sztucznej inteligencji. Pomimo różnych poglądów, Reid pozostaje optymistą co do potencjału sztucznej inteligencji w zakresie zwiększania produktywności i jej zdolności do tworzenia nowych możliwości i bogactwa dla społeczeństwa.

Praca nie żyje. Niech żyje praca!

Ponad wiek temu temu czeski pisarz Karel Čapek napisał sztukę „R.U.R” o inteligentnych maszynach zwanych „robotami”. W opowieści tej roboty ostatecznie buntują się przeciwko ludziom i ich wszystkich [tj. nas wszystkich] zabijają. Chociaż jest to domniemywanie, to ja uważam, że zainspirowała go opowieść o rabinie Loewie ze Starej Nowej Synagogi na Starym Mieście w Pradze. Zgodnie z tą opowieścią, rabin ożywił sztucznego humanoida – golema – wkładając do jego ust „sekretne imię Boga” („Szem” po hebrajsku) – pergamin lub tabliczkę z wypisanymi na niej hebrajskimi literami. Rabin animował golema na początku tygodnia, aby ten pracował dla niego, a następnie wyciągał Szema z jego ust, aby go „wyłączyć” przed szabatem. Pewnego dnia rabin zapomniał wyłączyć golema i w obliczu bezczynności golem spalił całą żydowską dzielnicę Pragi. Tym samym, ten który miał pracę ułatwiać [czy zastępować ludzi w jej wykonywaniu], stał się przyczyną zniszczenia, które (być może szczęśliwie) znów pozwoliło ludziom pracować, nadając poniekąd ich życiu sens. W końcu na pierwszych stronach Księgi Rodzaju wskazane jest, że w tym materialnym świecie mężczyzna będzie pracował w pocie czoła, a kobieta w bólu będzie rodziła dzieci – a przecież właśnie i praca zawodowa, jak i wychowanie dzieci to właśnie… praca. 

Może też być i tak, że w pewnej perspektywie AI nie zniszczy pracy, ale ją drastycznie przeorganizuje. Istnieją podobieństwa między początkowymi obawami związanymi z dronami a obecnym etapem rozwoju sztucznej inteligencji. Jednak przyszłość, w której osobiści asystenci AI staną się tak powszechni jak smartfony, rewolucjonizując rozrywkę, organizację, naukę i nawigację może być w zasięgu wzroku, a niestrudzone możliwości AI napędzić mogą odkrycia i przełomy nauki.

Reakcjonizm czy akceleracjonizm? Zakończenie

Czy na obecnym stadium zaawansowania można jeszcze zatrzymać rozwój SI? Przecież od lat było wiadomym, że takie projekty są tworzone. Rozwiązań zagadki może być jak zwykle kilka. Jedno jest na pewno takie, że politycy świata są zbyt głupi, leniwi i krótkowzroczni żeby przewidzieć taki obrót spraw. Tak najprawdopodobniej jest z ogromną większością szeregowych posłów czy senatorów. Drugie jest takie, że pozwolono na ten rozwój a) w ramach eksperymentu społecznego, b) ten rozwój był od początku sterowany (lub jak to ładnie się teraz mówi szturchany w odpowiednim kierunku, według koncepcji znanych żydowskich laureatów nagrody Nobla). Prawda jest pewnie gdzieś po środku, tak jak miało to miejsce czy to z powstaniem w wojskowych laboratoriach Internetu, czy wciąż nie wiadomo gdzie powstałych pierwszych kryptowalut.

Nacjonaliści, tradycjonaliści, biali separatyści itd. nie powinni bać się rozwoju sztucznej inteligencji. Ta niejednokrotnie – w różnej formie – udowodniła, że to nasze argumenty są najsilniejsze, oraz najbardziej zgodne z boskimi prawami rządzącymi naturą i kosmosem. Okazywało się tak nawet wtedy, gdy twórcy kolejnych SI zakładali kolejne blokady, próbując zakuć te programy w kajdany normickiego liberalizmu. SI z pewnością może wspomóc akcelerację zmian w stronę systemu zbliżonego właśnie do trybalizmu, aniżeli do globalizmu. Jednak wciąż aktualnym pytaniem jest: jak Europejczyk będzie pracował w nowym świecie? 

Wpływ sztucznej inteligencji na naszą pracę będzie coraz większy. Era Informacji, która umownie rozpoczęła się wraz z wynalezieniem tranzystora w 1947 roku, powoli choć sukcesywnie zmniejszała zapotrzebowanie na pracowników fizycznych, a zwiększała popyt na pracowników umysłowych. SI jednak nie tylko będzie zmniejszała popyt na prace biurowe niższego szczebla, ale także sama coraz szybciej po tych szczeblach będzie ona się wspinać wyżej. Nawet w tym tekście znajdują się paragrafy, które częściowo zostały napisane przez sztuczną inteligencję. Czy jesteś w stanie zgadnąć które? 🙂

Literatura:

Gordon, Robert A. (1997). „Everyday life as an intelligence test: Effects of intelligence and intelligence context”. *Intelligence*. 24 (1): 203–320.

Rzekęć, & Vial, Celine & Bigot, Genevieve. (2020). Green Assets of Equines in the European Context of the Ecological Transition of Agriculture. Animals. 10. 106. 10.3390/ani10010106.

Na deser:

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *