ZADOMOWIENIE

 

ZADOMOWIENIE

 

www.antoniorzech.eu

 
 

 

 

 

 

 

 

 

Pogrywanie ze sztuczną inteligencją

 

 

HENRY A. KISSINGER  - pokojowa Nagroda Nobla

Trzy lata temu w programie konferencji poświęconej kwestiom transatlantyckim pojawił się temat sztucznej inteligencji. Poważnie rozważałem, czy nie pominąć tej sesji, gdyż wykraczała poza obszar moich zainteresowań, jednak początek prezentacji przyciągnął moją uwagę. Mówca opisywał funkcjonowanie programu komputerowego, który wkrótce miał zmierzyć się z międzynarodowymi mistrzami gry go. Zdumiało mnie, że komputer w ogóle potrafi opanować jej zasady - to jest bardziej skomplikowane od szachów. Dwaj zawodnicy na przemian kładą na pustej początkowo planszy kamienie (każdy ma ich 180 lub 181, zależnie od wybranego koloru). Wygrywa ten, kto podejmuje lepsze decyzje strategiczne i dzięki skuteczniejszemu panowaniu nad terytorium odbiera rywalowi możliwość ruchu.

Prelegent utrzymywał, że owej zdolności nie dałoby się zaprogramować. Jak twierdził, maszyna nauczyła się gry w go samodzielnie, poprzez doświadczenie. Rozegrała olbrzymią liczbę partii sama ze sobą, wyciągała wnioski z pomyłek i odpowiednio ulepszała algorytmy. Z czasem przerosła swych mistrzów - ludzi. Kilka miesięcy po konferencji wykorzystujący sztuczną inteligencję program AlphaGo odniósł miażdżące zwycięstwo nad najwybitniejszymi światowymi graczami.

Gdy słuchałem prelegenta opiewającego postęp technologiczny, zebrało mi się na rozważania. Jako historyk i człowiek od czasu do czasu parający się polityką zastanawiałem się, jaką rolę w dziejach odegrają maszyny zdolne do samouczenia, pozyskujące wiedzę w szczególny, sobie tylko właściwy sposób i wykorzystujące ją w celach, których ludzie być może nigdy nie zdołają zrozumieć. Czy owe maszyny zaczną komunikować się między sobą? W jaki sposób będą podejmowały decyzje? Czy to możliwe, że ludzkość skończy jak Inkowie, którzy nie potrafili pojąć kultury hiszpańskich kolonizatorów? Czy stoimy u progu nowej epoki?

Zdając sobie sprawę z moich ograniczonych kompetencji w tym zakresie, zorganizowałem cykl nieformalnych debat i spotkań. Korzystałem z wiedzy i pomocy znajomych, zarówno humanistów, jak i osób zajmujących się nowymi technologiami. W efekcie moje obawy tylko się nasiliły.

Do tej pory wynalazkiem, który w największym stopniu odmienił bieg nowożytnej historii, była powstała w XV wieku prasa drukarska. Dzięki niej poszukiwania wiedzy empirycznej zastąpiły doktrynę liturgiczną, a Wiek Religii musiał stopniowo ustąpić Wiekowi Rozumu. Nauka, indywidualne dociekania oraz odkrycia zajęły miejsce wiary, stając się dla ludzkiej świadomości głównym kryterium poznania. W coraz szybciej rozrastających się bibliotekach zaczęto gromadzić i systematyzować informacje. To właśnie Wiek Rozumu zrodził idee i trendy, które ukształtowały obecny globalny porządek.

Nowa rewolucja technologiczna ten porządek zachwiała, nie potrafimy się zmierzyć z jej skutkami. W efekcie pewnego dnia możemy obudzić się w świecie maszyn - napędzanych danymi i algorytmami, obojętnych na normy etyczne czy filozoficzne.

 

żyjąc w epoce internetu, mierzymy się z problemami, które wraz z rozwojem sztucznej inteligencji tylko się pogłębią. Oświecenie chciało poddać tradycyjne reguły osądowi wyzwolonego, analitycznego umysłu, w internecie natomiast wiedza zostaje usankcjonowana poprzez gromadzenie nieustannie przyrastających informacji i manipulowanie nimi. Ludzkie poznanie traci wymiar osobisty. Człowiek jest redukowany do danych, a dane zyskują władzę.

Użytkownicy internetu przedkładają pozyskiwanie i przetwarzanie informacji ponad ich kontekstualizację czy też namysł nad ich znaczeniem. Rzadko kiedy oddają się dociekaniom historycznym lub filozoficznym - z reguły pożądają informacji istotnych z punktu widzenia swoich bieżących, praktycznych potrzeb. W ramach owego procesu algorytmy wyszukiwarek zyskują zdolność przewidywania preferencji poszczególnych osób i personalizowania wyników, które następnie udostępniane są innym podmiotom w celach politycznych albo komercyjnych. Prawda staje się kwestią względną, informacja zyskuje prymat nad mądrością.

Po pierwsze: zastosowanie sztucznej inteligencji może mieć nieprzewidziane skutki. W utworach z gatunku science fiction od dawna kreślono scenariusze, w których AI zwraca się przeciwko swym twórcom. Bardziej jednak prawdopodobne jest, że po prostu błędnie zinterpretuje ludzkie polecenia, gdyż z samej swej natury nie zna ich kontekstu. Słynny przykład z niedalekiej przeszłości to chatbot Tay. Miał on generować sympatyczną konwersację, wykorzystując wzory charakterystyczne dla języka dziewiętnastoletniej dziewczyny. Maszyna nie potrafiła jednak zrozumieć reguł "przyjaznego" i "akceptowalnego" języka zainstalowanego przez programistów - zamiast tego jej odpowiedzi i reakcje stały się rasistowskie, seksistowskie i skandaliczne. Niektórzy znawcy twierdzą, że eksperyment został niewłaściwie przeprowadzony. Mimo to dobrze ilustruje on zasadniczą kwestię: do jakiego stopnia da się sprawić, by sztuczna inteligencja rozumiała kontekst wydawanych jej poleceń? Jak można było pomóc Tay, by sama nauczyła się definiować, co jest "obraźliwe", skoro ludzie również nie są przecież zgodni co do definicji tego pojęcia? Czy da się na odpowiednio wczesnym etapie poprawić program sztucznej inteligencji, którego działanie nie spełnia naszych oczekiwań? A może sztuczna inteligencja pozostawiona sama sobie nieuchronnie zacznie dokonywać pewnych drobnych odstępstw, te zaś z czasem skumulują się i dadzą katastrofalny rezultat?

Po drugie: niewykluczone, że nawet jeśli sztuczna inteligencja osiągnie wyłącznie zamierzone cele, doprowadzi przy okazji do zmiany ludzkich procesów myślowych oraz ludzkich wartości. AlphaGo pokonała wybitnych graczy, stosując nieznane dotąd strategie. Podejmowała decyzje, jakie nikomu wcześniej nie przychodziły do głowy. Obecnie zawodnicy nie potrafią się przed nimi bronić. Czy wyzwanie to wykracza poza możliwości ludzkiego mózgu? A może z czasem człowiek zrozumie strategie zademonstrowane mu przez nowego mistrza?

Zanim sztuczna inteligencja zaczęła grać w go, zawodnicy stawiali sobie różne cele. Gracz pragnął nie tylko zwyciężyć, ale też opanować nowe strategie, mające potencjalne zastosowanie w innych sferach życia. Natomiast sztuczna inteligencja chce jedynie wygrywać. "Uczy się" w sposób nie konceptualny, lecz matematyczny, poprzez nieustanne korygowanie swoich algorytmów. Zwycięża w go, bo gra inaczej niż ludzie, a przy tym zmienia zarówno istotę gry, jak i jej oddziaływanie. Czy tego rodzaju jednotorowe myślenie zawsze będzie charakteryzowało sztuczną inteligencję?

Inne systemy sztucznej inteligencji wpływają na zmiany w ludzkim myśleniu dzięki generowaniu określonych odpowiedzi na pytania. Oprócz pytań dotyczących faktów (na przykład "Jaka dziś temperatura na dworze?") istnieją też głębsze pytania - o naturę rzeczywistości albo sens życia. Czy chcemy, aby dzieci poznawały wartości za pośrednictwem nieposkromionych algorytmów? Czy powinniśmy chronić naszą prywatność, uniemożliwiając sztucznej inteligencji uczenie się zbyt wiele na temat osoby stawiającej pytanie? A jeśli tak, to jak to osiągnąć?

Skoro sztuczna inteligencja uczy się wykładniczo szybciej niż człowiek, musimy oczekiwać, że również w postępie geometrycznym będzie u niej przebiegał charakterystyczny dla ludzkiego poznania proces nauki metodą prób i błędów. W związku z tym będzie też znacznie szybciej popełniała błędy - i to błędy o poważnych konsekwencjach. Możliwe że - wbrew zapewnieniom badaczy - nie da się temu zapobiec przez wprowadzanie ograniczeń programowych, dopuszczających wyłącznie "etyczne" lub "rozsądne" wyniki. Wiele dyscyplin akademickich powstało wszak na skutek sporów o to, czym w ogóle jest "etyczność" lub "rozsądek". Czy sztuczna inteligencja powinna stać się arbitrem w tej kwestii?

Po trzecie: nawet jeśli sztuczna inteligencja osiągnie zamierzone cele, być może nie będzie potrafiła uzasadnić swych działań. W pewnych obszarach jej zdolności już teraz przekraczają możliwości człowieka. Wkrótce, w miarę przyrostu mocy obliczeniowej, będzie mogła przeprowadzać optymalizacje w inny sposób niż ludzie - prawdopodobnie znacząco inny. Czy zdoła nam wówczas wytłumaczyć, dlaczego te akurat działania są optymalne, czy też jej procesy decyzyjne będą dla nas zbyt skomplikowane i niedające się opisać ludzkim językiem? Wszystkie ludzkie cywilizacje istniejące w ciągu wieków tworzyły własne sposoby objaśniania świata. W Średniowieczu rolę tę odgrywała religia, w Oświeceniu rozum, w XIX wieku historia, w wieku XX zaś - ideologia. Najtrudniejsze, a zarazem najważniejsze pytanie na temat przyszłości, ku której zmierzamy, brzmi następująco: jaki los czeka ludzką świadomość, jeśli sztuczna inteligencja zyska większą zdolność tłumaczenia rzeczywistości i społeczeństwa nie będą już mogły interpretować otaczającego ich świata w dostępnych dla człowieka kategoriach? Jak w ogóle definiować świadomość w świecie maszyn, które sprowadzają ludzkie doświadczenie do interpretowanych poprzez ludzką pamięć danych matematycznych? Kto odpowiada za działania sztucznej inteligencji? Kogo obarczyć odpowiedzialnością za jej błędy? Czy stworzony przez ludzi system prawny zdoła dotrzymać kroku sztucznej inteligencji, czy też zostanie przez nią prześcignięty?


termin "sztuczna inteligencja" może ostatecznie okazać się nietrafny. Owszem, mówimy o maszynach zdolnych rozwiązywać złożone, na pozór abstrakcyjne problemy, dostępne dotąd wyłącznie ludzkiemu umysłowi. Niemniej maszyny owe nie "myślą" w żadnym z dotychczasowych sposobów rozumienia tego wyrazu - raczej dokonują obliczeń i zapamiętują na niespotkaną wcześniej skalę. Skoro w oczywisty sposób radzą sobie z tym lepiej, wygrają każdą grę, do której z nimi zasiądziemy. Jednak dla człowieka gry nie sprowadzają się wyłącznie do zwycięstw i porażek. Chodzi w nich o myślenie. Jeżeli potraktujemy proces matematyczny jak proces myślowy i będziemy starali się także zacząć myśleć matematycznie, grozi nam utrata zdolności będącej istotą ludzkiego poznania.

Skutki tej ewolucji ilustruje zaprojektowany niedawno program komputerowy AlphaZero. Gra on w szachy lepiej niż arcymistrzowie, i to w sposób, jakiego dotąd nie widziano. Potrzebował zaledwie paru godzin rozgrywek z samym sobą, by wejść na poziom, który człowiek osiągałby przez tysiąc pięćset lat. Twórcy przekazali AlphaZero wyłącznie podstawowe reguły, poza tym ludzie - ani żadne wygenerowane przez ludzi dane - nie brali udziału w procesie uczenia. Skoro AlphaZero w tak krótkim czasie nabrał tak wielkiej wprawy, to jakie możliwości sztuczna inteligencja osiągnie w przeciągu najbliższych pięciu lat? Jak wpłynie na ludzką zdolność poznania? Jaką rolę w tym procesie, który sprowadza się wszak do przyspieszenia procesów decyzyjnych, ma odegrać etyka?

Pytania te z reguły pozostawia się technologom i ekspertom w zakresie odpowiednich nauk ścisłych. Filozofowie i humaniści, którzy niegdyś pomagali kształtować wizje świata, są dziś na gorszej pozycji, gdyż brak im wiedzy o działaniu sztucznej inteligencji lub też są przytłoczeni i zaniepokojeni jej możliwościami. Tymczasem środowisko naukowe jest zmuszone zgłębiać techniczne możliwości sztucznej inteligencji, zaś środowisko technologiczne zajmuje się głównie perspektywą zastosowań komercyjnych na niesłychaną skalę. W obu przypadkach opłaca się dokonywanie coraz to nowych odkryć, a nie refleksja nad ich znaczeniem. Wreszcie - rządy, zamiast analizować dalsze kierunki transformacji kondycji ludzkiej, skupią się prawdopodobnie przede wszystkim na wykorzystaniu sztucznej inteligencji w celach wywiadowczych i służących zapewnianiu bezpieczeństwa.

Epoka Oświecenia rozpoczęła się od upowszechnienia refleksji filozoficznej za pomocą nowych technologii. Obecnie zmierzamy w zupełnie przeciwnym kierunku. Stworzyliśmy technologię, która może nad nami zapanować, lecz u podstaw której nie leży żadna filozofia. Inne kraje sztuczną inteligencję traktują jak projekt narodowy pierwszej wagi, natomiast w Stanach Zjednoczonych nie zaczęto nawet uczyć się o jej podstawach. Tymczasem zagadnienia te - zwłaszcza spojrzenie na sztuczną inteligencję w świetle tradycji humanistycznej - powinny stanowić kwestię priorytetową.

Twórcy sztucznej inteligencji są równie niedoświadczeni w dziedzinie polityki i filozofii, jak ja w dziedzinie technologii. Warto więc, by zadali sobie przedstawione powyżej pytania i spróbowali wypracować odpowiedzi, które mogłyby ukierunkowywać ich dalszą pracę. Jedno nie ulega wątpliwości: jeśli będziemy zwlekać, wkrótce przekonamy się, że jest już za późno. 

Esej ukazał się w ósmym numerze miesięcznika "Pismo. Magazyn opinii" pod tytułem "Jak kończy się Oświecenie".  

--------------------------------------------------------------

 

 

 

 

 

 

 

 

 

BLOG

          

2009  6 7 8 9 10 11 12  

 

2010  1 2 3 4 5 6 7 8 9 10 11 12

 

2011  1 2 3 4 5 6 7 8 9 10 11 12

          

2012  1 2 3 4 5 6 7 8 9 10 11 12

 

2013  1 2 3 4 5 6 7 8 9 10 11 12

 

2014  1 2 3 4 5 6 7 8 9 10 11 12

 

2015  1 2 3 4 5 6 7 8 9 10 11 12

 

2016  1 2 3 4 5 6 7 8 9 10 11 12

 

2017  1 2 3 4 5 6 7 8 9 10 11 12

 

2018  1 2 3 4 5 6

__________________________________

 

 

NOWE

 KRÓTKA HISTORIA

  NASZEGO OSIEDLA W OBRAZKACH

__________________________________

 

MOJA HISTORIA OSIEDLA

__________________________________

 

PRELEKCJE

historia  religia  filozofia

_________________________________ 

 

OPOWIADANIA

__________________________________

 

 

ESEJE

 

__________________________________  

 

WIERSZE

__________________________________

 

PEDAGOGIKA

___________________________________

 

TŁUMACZENIA

___________________________________

 

REBUSY

__________________________________

 

PRZEPISANE

____________________

FRANCISZEK

 Misericordiae vultus  Laudato si

__________________________________

 

SKAŁKI

__________________________________

 

PSY

__________________________________

 

DRZEWA

__________________________________

 

NOWE

DAWNO TEMU W PAWŁOSIOWIE

__________________________________

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 
monitoring pozycji