Paradoksai sulig dirbtiniu intelektu. Lithuanian

Sistemingas variantų perrinkimas vienu metu buvo laikytas kūrybinio proceso pagrindu. Tuo principu ir buvo konstruojami kibernetiniai žmogaus priešininkai, pvz., šachmatų programos. Tačiau pradžioje jos pralaimėdavo net gana silpniems žaidėjams. Tai nenuostabu – juk perrenkamų pozicijų kiekis milžiniškas (reikalai pasikeitė ypač išaugus kompiuteriniams pajėgumams bei patobulinus algoritmus). O kai kurie žmonės sugeba puikiai žaisti šachmatais – vadinasi, jie sugeba kažkaip atsijoti netinkamus variantus. Juk kokios nuostabios būdavo Merfio ar Fišerio kombinacijos.

Bet grįžkime prie Taubės¹⁾, ką jis manė apie tai, kas įmanoma, o tiksliau, kas neįmanoma, kompiuteriams:
„Milžiniškas dirbtinis protas, verčiančios, apsimokančios mašinos, žaidžiančios šachmatais, suprantančios ir pan., užplūdę mūsų literatūrą, savo buvimu priklauso žmonėms, kuriems nebūdinga tariamoji nuosaka. Tą žaidimą žaidžia taip. Pradžioje pareiškia, kad neatsižvelgiant į nežymias inžinerines detales, mašininę programą galima sutapatinti su pačia mašina. Tada programos blokschemą sutapatina su pačia programa. Ir galiausiai pareiškimas, kad galima sukurti blockschemą dar neegzistuojančios programos neegzistuojančiai mašinai, jau reiškia pačios mašinos egzistavimą“.

Taigi, mašinai svetima intuicija. Ką ji daro, tai tik formaliai. Kalbos neįmanoma pilnai formalizuoti, kad ir todėl, kad ji apima visą matematiką, kuri nesusiveda į formalią sistemą. Amerikiečių mokslininkas R. Kurantas²⁾ sako:
„Matematika savyje turi valingos veiklos, mąstymo ir estetinio tobulumo siekio bruožų. Jos pagrindiniai ir kartu priešingi elementai – logika ir intuicija, analizė ir konstrukcija, bendrumas ir konkretumas. Kaip besiskirtų požiūrio taškai, maitinami vienų ar kitų tradicijų, tik bendras šių poliarių pradų veikimas bei kova už jų sintezę užtikrina matematikos mokslo gyvybingumą, naudingumą ir aukštą vertę“.

Mortimeris Taubė laiko, kad „dėl kalbos ir prasmės neformalumo, tyrimai mašininio vertimo srityje turi ne mokslinių, o romantinių paieškų pobūdį... Mūsų inžinieriams-elektronikams ir skaičiavimo mašinų entuziastams reiktų nutraukti plepalus apie tai arba prisipažinti, kad jie kuria mokslinę fantastiką siekdami pakutenti skaitytojams nervus vaikantis lengvų pinigų ir pigaus populiarumo“.

Dirbtiniu intelektu (DI) pasitikima vis labiau. Jis valdo lėktuvus, automobilius, ieško nusikaltėlių, diagnozuoja ligą, sprendžia, ar priimti žmogų į darbą, o gal jį padėti į amžiną „juodą sąrašą“... Nuo DI vis labiau priklauso mūsų gyvenimas. Mokslininkai įsitikinę: jei DI suklysta, tai čia tik laikinai. Išmokysime mašiną, įdėsime galingesnį procesorių, - ir viskas bus gerai.

Ne! – 2022- ais pasakė Kembridžo tyrinėtojai. Dirbtinis intelektas turi trūkumą, kurio niekada nepavyks pašalinti, nes jį sukelia ne „geležies“ ar programinės įrangos netobulumas, o fundamentalūs matematikos dėsniai. DI šventai įsitikinęs savo neklystamumu ir niekada neprisipažins padaręs klaidą. Jis tiesiog neturi savikritikos ir blaivaus požiūrio į dalykus. Robotas primena tokį įžūlų viršininką, kuris, net priskaldęs malkų, laiko, kad kalti kiti, o ne jis.

Bet negi neįmanoma išmokyti mašiną suprasti padarius klaidas? Va ir ne!? Dar 20 a. pirmoje pusėje A. Tiuringas ir K. Giodelis susirūpino, kodėl kai kurios matematikos aksiomos lieka neįrodytomis. Pasirodo, kad matematikoje yra sritys, liekančios neaiškiomis ir neapibrėžtomis, kad ir kaip dėl jų stengtumėmės, nes tokie dėsniai. 20-me amžiuje tas paradoksas padėjo sukurti įvairius algoritmus, nuspėjančius vieno ar kito įvykio tikimybę. Tačiau tada nebuvo pakankamo DI, - ir žmogus galėjo įsikišti į procesą bet kuriuo momentu.

Tačiau, nepriklausomai nuo to, kokie tikslūs duomenys, niekada negausite idealios informacijos neuroninio tinklo sudarymui. Mašina greičiau atspėja nei žino, tačiau savo spėjimą priima kaip nepajudinamą tiesą.

Tačiau į šias mintis vargu ar kas įsiklausys. Korporacijos veiklos „kozyriu“ renkasi dirbtinį intelektą, nes tai milžiniški pinigai, užsakymai ir grantai tyrimams. Tas tokios išvados bus skelbiamos „nemokslinėmis“, o „progreso nesustabdysi“ – ir gal net išsipildys niūrios fantastų prognozės, kad žmonės pateks į savimi pasitikinčios, nemandagios mašinos vergiją.

Gal čia Taubė kiek ir persūdė su savo pesimistinėmis prognozėmis (vis tik šiomis dienomis „Google“ vertėjas, kad ir koks netobulas būtų, dažnai padeda). Bet vis tik paradoksai išlieka esminiu išbandymu mūsų mąstymui.

Sunkumus, susijusius su nenutrūkstamo judėjimu ir begalybe, aptarinėjo jau gilioje senovėje. Išeičių ieškoti vertė Zenono apriorijos, iracionalių skaičių atradimai. Imta ieškoti griežto neprieštaringo pagrindimo visiems loginiams ir geometriniams teiginiams. Bet 17-e amžiuje graikiškas grynos aksiomatikos ir dedukcijos idealas pritemo mokslininkų akyse. Atsidavę intuityvioms spėlionėms integralinio ir diferencialinio skaičiavimo pionieriai atvėrė naują matematinį pasaulį. Bet 19 a. naujosios matematikos pagrindai revizuoti, vėl atgijo griežto įrodymo idealas. Tačiau čia vėl pasipylė naujas paradoksų srautas, mokslininkai ėmė paniškai blaškytis, - ir toji krizė tebesitęsia iki šiol...

Atsiverskime nuostabią A. Vialcevo³⁾ knygą „Diskretinis erdvėlaikis“ (1965):
„Šiuolaikinę matematinę analizę teisėtai galima pavadinti nenutrūkstamų procesų teorija. Nenutrūkstamo judėjimo galimybė priimama kaip kažkokia duotybė iš aukščiau. Iš esmės visais atvejais kalbama apie judančių kūnų sugebėjimą pasiekti protingą tikslą. Pakanka čia prisiminti Diogeną, kuris į Zenono pareiškimą, kad nenutrūkstamas judėjimas negalimas, ėmė vaikščioti pirmyn ir atgal priešais savo statinę... Matematinėje analizėje protingų tikslų pasiekimo faktas įkūnytas ribinio perėjimo sąvokoje. Būtent šią savybę reikia laikyti pagrindine matematinės analizės panaudojimo fizikoje priežastimi, taigi ir pripažinti, kad nenutrūkstama analizė fizikos problemas sprendžia grynai diogeniškai“.

Diferencialinių skaičiavimų taikymas skaičiuojant elektrinį kūnų krūvį ar atomų branduolių radioaktyvaus skilimo periodą, kaip ir kitų trūkių procesų charakteristikas, duoda puikius rezultatus, nors nei atomistine elektros teorija, nei radioaktyvaus spinduliavimo diskrečiąja prigimtimi niekas neabejoja. Šis pritaikomumas gali dingti, kai diskretiškumas taps svarbiausia pasaulio savybe.

Čia vėlgi mums įdomūs ne tiek keliai, kuriais nueis ateities matematika, kiek pats faktas: matematika, kaip ir logika, niekad nebus kažkuo išbaigtu, sustingusiu, daugiau nesivystančiu. Mes esame ties automatikos amžiaus slenksčiu – žmogus ketina sukurti mąstančią mašiną.

Tam reikia ištirti, kaip dirba žmogaus smegenys (apie tokius tyrimus skaitykite >>>>>). B. Raselas ir K. Giodelis apie mąstymo technologiją mažai ką daugiau galėjo pasakyti už Zenoną ir Aristotelį. Mes galime pasakyti, kas seka po šūksnio „Eurika!“, bet kiek mažai žinome, kas vyko iki jo... Ir neveltui anglų mokslininkas Dž. Tomsonas⁴⁾, skambiai priimtos knygos „Numatoma ateitis“ autorius, yra pareiškęs: „Mūsų amžius žymi mokslo apie mąstymą pradžią“.

O kaip vis tik su paradoksais? Negi matematikos ir kibernetikos ribotumas neįveikiamas?

Vietoje atsakymo pateiksime pamokamą paradoksą, 5-o dešimtm. pradžioje pasirodžiusį ir nuo tada bent dešimtį kartų aptartą solidžiame filosofijos žurnale „Mind“, leidžiamą Didžiojoje Britanijoje.

Kadaise gyveno piratas Juodoji barzda. Ilgą laiką baimė kaustė prekinius laivus. Vieną dieną garsusis piratas atsidūrė už grotų. Ji nuteisė mirties bausme pakariant. „Bausmė bus įvykdyta vidurdienį, vieną kažkurią iš ateinančios savaitės septynių dienų“, - nusikaltėliui pranešė teisėjas. – „Ir mes tau parengėme nedidelį siurprizą: tu iš anksto nežinosi, kurią dieną tave nutemps į kartuves. Apie tai tau praneš tik tos lemiamos dienos rytą. Tad tavęs lauks netikėtas atpildas“.

Tesėjas garsėjo žodžio laikymusi. Ir Juodoji barzda nuliūdo, puikiai įsivaizduodamas, kokia kankinanti netikėtos mirties nežinomybė. Dabar jau nepavyks jam užmigti nė vieną naktį. Ach, koks jis žiaurus, tas teisėjas!

Tačiau pirato advokatas tik šaipėsi. „Nenukabink nosies! –paplojo per petį, kai liko dviese. – Nuosprendžio neįmanoma įvykdyti”. Juodoji barzda išplėtė akis. „Taip, taip, - tęsė advokatas. – Visiškai akivaizdu, kad jie nepajėgs tavęs pakarti kitą šeštadienį. Nes šeštadienis – paskutinė savaitės diena. Nes jei liktum gyvas penktadienį iki vidurdienio, tikrai žinotum, kad tau turėtų būti įvykdyta bausmė – t.y. kitą dieną, t.y. šeštadienį. Tai yra apie mirties dieną sužinotum anksčiau nei tau būtų pranešta, kas būtų šeštadienio rytą. Tada lieka penktadienis. O dabar vėl pamastom – juk penktadienis yra paskutinė diena prieš šeštadienį. Šeštadienį tavęs nekars. Bet penktadienį tavęs nekars, nes tu vėl apie tai sužinai jau ketvirtadienį... Ir taip toliau iki pat rytdienos. Tačiau rytoj tavęs nekars, nes u jau šiandien žinai, kad ryt turi tave pakarti. Tad ramiai eik miegoti ir būk ramus: nuosprendis neįvykdomas“.

„Tūkstantis velnių! – nudžiugo piratas, sukrėstas geležinės advokato logikos. – Nebūsiu Juodąja barzda, jei jūs neteisūs, sere!“

Senasis plėšikas netikėtai išvengė mirties – taip bent laikė daugelis mokslininkų iki pat 1951 m., kai staiga ... to paties „Mind“ žurnalo liepos numeryje pasirodė logikos profesoriaus Maiklo Skriveno⁵⁾ straipsnis. Štai jo esmė, perteikta tokiu pat stiliumi.

Iš tikro, o kokiu pagrindu? Nejaugi suklydo advokatas, įvairiausių kazusų specialistas? Ne, neklydo. Jo samprotavimai buvo nepriekaištingi. Iš jų neišvengiamai seko išvada, vadinama loginiu prieštaravimu – paradoksu, Tačiau... Ach jau tas visur sutinkamas „bet“. Be to neapsieita ir čia – ir žmogiškoji tikrovė pasirodė stipresnė už loginį paradoksą.

Kai advokatas įtikino piratą nebaudžiamumu, Juodoji barzda, įsitikinęs logine teisėjo klaida, liovėsi laukęs jam skirto atpildo. Taigi, budelio apsilankymas buvo tikru netikėtumu jam! Dar kartą perskaitykite nuosprendį ir įsitikinsite, kad jis įvykdytas teisėtai, - ir ne tik teisiškai, bet ir logiškai.

Tai ar ne tokia liūdna baigmė laukia ir dabarties paradoksų? Ar jiems mirties nuosprendžio neišrašys ateities mokslas?

„Ne!“ – skelbia sveikas protas, aklai paklūstantis šiuolaikinei logikai ir besąlygiškai kapituliuojantis prieš paradoksus.

Taip samprotauja ir Mortimeris Taubė, kurio išvados kai kas apskelbė „velnio advokato prieštaravimais“.

Tačiau juk lygiai taip samprotavo ir savimi pasitikintis Juodosios barzdos advokatas! Ir susidirbo, prigriebtas gyvos tikrovės.

Beje, apie „velnio advokatą“. Pagal katalikų bažnyčios reikalavimus, šventiesiems gali būti priskirtas tik tasai, kuris dar iki savo mirties spėjo padaryti du stebuklus. Ir tada gerbiami bažnyčios vyrai rengė kanonizacijos procesus, kuriose dalyvavo „velnio advokatas“, kuris kėlė abejones dėl stebuklų, reikalavo jų įrodymų. Būtent taip skeptikas Taubė abejoja kibernetikos sėkmėmis ir reikalauja kibernetinių „stebuklų“ (vaizdžiai pateiktų daugelyje knygų ir straipsnių) įrodymų.

Entuziastai, aišku, nemėgsta skeptikų. Bet kritika ne kartą padėjo suformuoti griežtesnes formuluotes ir išvadas – ir buvo naudinga mokslui.

1900 m. Paryžiuje vyko tarptautinis matematikų kongresas, kuriame D. Hilbertas pateikė 30 neišspręstų problemų sąrašą. Jos buvo formuluojamos labai paprastai ir populiariai. Slinko dešimtmečiai, per kurios nemažai jų buvo išspręsta, o spręsdami jas matematikai dažnai turtino teoriją naujais metodais. Ar kada nors neateis laikas ir paradoksų išsprendimui? Juk B. Raselo sukurta „tipų teorija“ kažkiek „nukenksmino“ „barzdaskučio paradoksą“.

Ir tikrai, kad prasidėtų judėjimas, tereikėjo ištarti: „Judėjimo nėra!“

Filosofija dirbtinio intelekto eroje

„OpenAI“ prognozuoja, kad per ateinantį dešimtmetį iškils superprotas, - DI, lenkiantis žmogaus sugebėjimus. Susidaro įspūdis, kad jie norėtų išvengti Di, pradėsiančio karą su žmonija – kaip „Terminatoriuje“ (1984), kur, keistu sutapimu, A. Švarcnegeris išsiunčiamas į praeitį 2029-ais. Todėl, „OpenAI“ kviečia prisijungti geriausius mašininio mokymosi tyrėjus ir inžinierius, kad padėtų išspręsti šią problemą.

Bet kuo galėtų prisidėti tokia sena disciplina kaip filosofija?! Bet prisiminkime, kad ji buvo svarbi nuo pat dirbtinio intelekto (DI) ištakų. Viena pirmųjų DI sėkme buvo Allen Newell’o⁶⁾ ir Herbert Simon’o⁷⁾ sukurta kompiuterinė programa „Logic Theorist“ (Logikos teoretikas), įrodinėjanti matematines teoremas panaudojant teiginius iš „Principia Mathematica“ (1910), A.N. Whitehead’o ir B. Russell’o tritomio. Ir būtent padidintą DI dėmesį logikai lėmė diskusijos tarp matematikų ir filosofų.

Tai prasidėjo 19 a. pabaigoje, kai G. Frėgė į logiką įvedė kintamuosius, išvengiant objektų (pvz., žmonių ar stalų) naudojimo – ir tai leido ne tik teigti, kad „Nausėda yra prezidentas“, bet išsakyti bendresnius teiginius, pvz., „egzistuoja toks X, kad X yra prezidentu“.

Tada 20 a. 4-e dešimtm. K. Giodelio teoremos apie pilnumą ir nepilnumą palietė ribas to, ką galima įrodyti, o lenkų logikas A. Tarskis pateikė „tiesos neapibrėžtumo įrodymą“, t.y., kad teisingumas negali būti nustatytas jokios formalios sistemos vidinėmis priemonėmis (pvz., aritmetikos teisingumas negali būti patvirtintas aritmetikoje). Tuo 1936 m. pasirėmė A. Tiuringo abstrakčios skaičiavimo mašinos idėja, dariusi didelę įtaką ankstyvojo DI vystymuisi. Susilietimas

Tad jei tasai geras senas simbolinis DI jautė skolą logikai ir filosofijai, tai „antros bangos“ DI, besiremiantis giliuoju mašininiu apsimokymu daugiau „semia“ iš inžinerijos pasiekimų, susijusių su milžiniškų duomenų kiekių apdorojimu. Bet ir čia filosofija turi savo vaidmenį! Paimkim, pvz., LLM, maitinančius „ChatGPT“, sukuriantį suvokiamą tekstą. Tai milžiniški modeliai su milijardais parametrų, apmokyti milžiniškais duomenų kiekiais (neretai, nemaža Interneto dalimi). Tačiau savo esme jie suseka ir panaudoja statistinius kalbos naudojimo dėsningumus – o tai kažkas panašaus į L. Vitgenšteino suformuluotą idėją: „žodžio prasmė yra jo panaudojimas kalboje“.

Bet ir šiuolaikinei filosofijai kyla klausimai dėl DI. Ar gali LLM iš tikro suprasti apdorojamą kalbą? Ar DI gali įgyti sąmonę? Tai labai gilūs filosofiniai klausimai… Mokslas iki šiol nesugebėjo atsakyti į klausimą, kaip sąmonė susidaro smegenyse? Laikoma, kad tai tokia „sunki problema“, kad neišsitenka mokslo ribose ir reikalauja filosofijos įsikišimo.

Panašiai galime klausti, ar vaizdus generuojantis DI iš tikro yra kūrybiškas? Pvz., Margaret Boden⁸⁾, užsiimanti ir DI filosofiniais klausimais, teigia, kad nors DI ir gali sugeneruoti naujas idėjas, jam bus sunku jas įvertinti taip, kaip tai daro kūrybiški žmonės. Ji taip pat tikisi, kad tik hibridinė architektūra, panaudojanti tiek loginius metodus, tiek gilųjį mašininį apsimokymą su dideliais duomenų kiekiais, gali pasiekti bendrą dirbtinio proto lygį.

Taigi, „OpenAI“ susirūpinimas rodo, kad tai ne tik techninė, bet ir socialinė problema, - o tai reikalauja (be sociologų, teisininkų, politikų ir kitų) ir filosofijos įtraukimo. Pvz., britų advokatas Jamie Susskind’as⁹⁾ mano, kad jau atėjo laikas steigti „skaitmeninę respubliką“, nuversiančią tą politinę ir ekonominę sistemą, turi technologijų kompanijoms suteikė tokią didelę įtaką.

Bet yra ir kita medalio pusė. Juk mes taip pat galime paklausti, o kaip DI paveiks filosofiją? Formaliosios logikos ištakos siekia Aristotelį. O 17 a. G. Leibnicas nuspėjo, kad kažkada turėtų atsirasti „racionalusis skaičiuotojas“ – mašina, padėsianti mums atsakymus į filosofinius ir mokslo klausimus kvazi-orakuliniu būdu. Negi mes jau ties tuo slenksčiu, nes kai kurie autoriai ima propaguoti „skaičiavimų filosofiją“, koduojančia prielaidas ir iš jų išvedančią teiginius. Tada belieka atlikti faktinį ir vertybinį rezultatų įvertinimą. Pvz., „PolyGraphs“ imituoja informacijos apsikeitimą socialiniuose tinkluose, o vėliau pataria, kaip mums geriau formuoti savo nuomonę.

¹⁾ Mortimeris Taubė (Mortimer Taube, 1910 – 1965) – garsus amerikiečių bibliotekininkas, sukūręs koordinuoto indeksavimo sistemą ir kompiuterinių paieškų pradininkas. Buvo labai aktyvus asmuo, turėjęs daug domėjimosi sričių: tenisas, filosofija, buriavimas, muziką ir tapybos kolekcionavimas.

²⁾ Ričardas Kurantas (Richard Courant, 1888-1972) – lenkų žydų kilmės amerikiečių matematikas. Garsi jo su H. Robinsu parašyta knyga „Kas yra matematika?“. Pagrindiniai jo pasiekimai konforminių atvaizdavimų teorijoje, matematinės fizikos lygčių su ribinėmis sąlygomis.

³⁾ Anatolijus Vialcevas – rusų fizikas. 1951 m. baigė MGU, 1954 m. apsigynė kandidatinę disertaciją.

⁴⁾ Džordžas Tomsonas (Sir George Paget Thomson, 1892-1975) – anglų fizikas, Nobelio premijos laureatas (1937) „už elektronų difrakcijos kristaluose atradimą“ (kartu su Dž. Devisonu).
Po pirmojo pasaulinio karo ėmė dirbti Aberdino un-te, kur nustatė bangines elektrono savybes.
4 dešimtm. susidomėjo branduoline fizika ir manė, kad urano skilimas perspektyvus taikymuose (ypač kariniuose) ir įtikino vyriausybę bandymams nupirkti toną urano oksido. 1940-41 m. priėjo išvados, kad įmanoma sukurti atominę bombą. Vėliau vyko į Kanadą, kur buvo glaudžiai susijęs su JAV atominės bombos kūrimu.

⁵⁾ Maiklas Skrivenas (Michael John Scriven, g. 1928 m.) – australų mokslininkas, filosofas, labiausiai žinomas savo darbais įvertinimų teorijai ir praktikai. Didesnę karjeros dalį praleido JAV. Taip pat prisidėjo prie filosofijos, psichologijos, kritinio mąstymo, matematikos sričių vystymo.
Paskelbė per 400 straipsnių. Minimam kontekstui skirtas jo straipsnis M. Scriven. Paradoxical Announcements// Mind 60 (239):403-407 (1951).

⁶⁾ Alenas Niuvelas (Allen Newell, 1927-1992) – amerikiečių mokslininkas kompiuterijos ir kognityvinių mokslų bei dirbtinio intelekto srityse. Dalyvavo IPL kalbos kūrime ir (kartus su H. Saimonu) dviejų ankstyvųjų dirbtinio intelekto programų „Logic Theory Machine“ (1956) ir „General Problem Solver“ (GPS, 1957) kūrime – antroji me tik įrodinėjo teiginius, bet ir mokėjo žaisti šachmatais ir Hanojaus bokštų žaidimą. Vėliau tapo vienu kognityvios architektūros „Soar“ kompiuterinės programos (apie 1990 m.) kūrėju.

⁷⁾ Herbertas Saimonas (Herbert Alexander Simon, 1916-2001) – amerikiečių politinių mokslų mokslininkas, įtakojęs ekonomikos, dirbtinio intelekto (šioje srityje bendradarbiaujant su A. Niuvelu), kompiuterijos, kognityvios psichologijos sritis. Buvo vienas pirmųjų, išanalizavęs sudėtingumo architektūrą ir pasiūlęs preferencinio prisijungimo mechanizmą aiškinant laipsninį dėsnį (power law). Sukūrė EPAM teoriją, vieną pirmųjų mokymosi teorijų, realizuotų kompiuteriais.

⁸⁾ Margarita Boden (Margaret Ann Boden, g. 1936 m.) - anglų mokslininkė, Sasekso un-to profesorė, užsiimanti darbais dirbtinio intelekto, psichologijos, filosofijos ir kompiuterinių mokslų srityse.

⁹⁾ Džeimis Saskindas (Jamie Susskind, g. 1989 m.) - žydų kilmės britų baristeris ir rašytojas futuristiniais klausimais. Išleido „Ateities politiką: gyvenimas technologijų transformuotame pasaulyje“ (2019) ir „Skaitmeninę respubliką“ (2022), aptariančią technologijų atnešamas grėsmes.