Budou stroje někdy chytřejší než lidé?

Když jsem byl dítě, fas­ci­no­va­la mě myš­len­ka, že by někdy mohlo být možné zkon­stru­o­vat po­čí­tač, který by byl chytřej­ší než my, lidé. Poz­dě­ji jako te­e­nager za­jí­ma­jí­cí se o ma­te­ma­ti­ku a pro­gra­mo­vá­ní jsem stvo­řil tzv. chat­bo­ta, ne­bo­li pro­gram, se kte­rým si mů­že­te po­ví­dat (pí­še­te zprá­vy a on Vám od­po­ví­dá). Můj chat­bot měl sadu před­při­pra­ve­ných od­po­vě­dí na různé otáz­ky a do­kon­ce i sys­tém nálad, díky kte­ré­mu se od­po­vě­di mě­ni­li na zá­kla­dě toho, jak se k němu uži­va­tel cho­val.

Úrov­ně sou­čas­ných chat­bo­tů ale zda­le­ka ne­do­sa­ho­val. Alan Tu­ring, otec mo­der­ní in­for­ma­ti­ky, před­po­vě­děl, že v roce 2000 budou spe­ci­a­li­zo­va­né po­čí­ta­čo­vé pro­gra­my během pě­ti­mi­nu­to­vé­ho pí­sem­né­ho roz­ho­vo­ru schop­ny ošá­lit 30% lid­ské po­pu­la­ce a pře­svěd­čit je, že jsou ve sku­teč­nos­ti lidé. A vskut­ku se tak stalo: chat­bot jmé­nem Eu­ge­ne Go­ostman byl scho­pen pře­svěd­čit 33% roz­hod­čích v sou­tě­ži chat­bo­tů, že je sku­teč­nou oso­bou (zá­znam zku­šeb­ní kon­ver­za­ce v an­g­lič­ti­ně si mů­že­te pře­číst zde).

Ať je to jak chce, Eugen je v prin­ci­pu pouze so­fis­ti­ko­va­něj­ší verze mého vlast­ní­ho chat­bo­ta. Není scho­pen žád­ných sku­teč­ných in­te­li­gent­ních úvah – jeho vý­vo­já­ři pouze im­ple­men­to­va­li kom­pli­ko­va­ný sys­tém pře­dem při­pra­ve­ných od­po­vě­dí.

Pře­mýš­le­jíc o způ­so­bu, kte­rým můj vlast­ní chat­bot fun­gu­je, mé nác­ti­le­té já do­spě­lo k ná­sle­du­jí­cí­mu (zcela chyb­né­mu zá­vě­ru):

Proč je tato myš­len­ka mylná? Pro­to­že před­po­klá­dá, že in­te­li­gent­ní vý­tvor musí mít in­te­li­gent­ní­ho tvůr­ce, ale z ži­vo­čiš­né říše víme, že to není prav­da. Je-li in­te­li­gen­ce při­ro­ze­ně či uměle upřed­nostňována, každá nová ge­ne­ra­ce bude v prů­mě­ru chytřej­ší a chytřej­ší, což bylo přímo po­zo­ro­vá­no na­pří­klad na psech.

V pod­sta­tě každý kus soft­wa­ru, který v po­čí­ta­či máte – ať je to ope­rač­ní sys­tém či webo­vý pro­hlí­žeč – byl na­pro­gra­mo­ván řádku po řádce pro­gra­má­to­rem. Exis­tu­je ovšem stále více al­go­rit­mů, které jsou pří­liš slo­ži­té na to, aby je na­pro­gra­mo­val člo­věk, na­pří­klad au­to­ma­tic­ké roz­po­zná­va­ní ne­mo­cí na sním­cích zís­ka­ných mag­ne­tic­kou re­zo­nan­cí.

In­for­ma­ti­ci při­šli s ge­ni­ál­ním ře­še­ním: nech­me po­čí­ta­če, aby se samy učily. Exis­tu­jí různé pří­stu­py k to­mu­to tzv. stro­jo­vé­mu učení; zde se za­mě­ří­me na neu­ro­no­vé sítě. Stej­ně jako lid­ský mozek je v jis­tém smys­lu po na­ro­ze­ní prázd­nou schrán­kou, bez zna­los­ti ja­zy­ka a ne­vy­ka­zu­jí­cí žádné znám­ky vyšší in­te­li­gen­ce, je možné vy­tvo­řit vir­tu­ál­ní neu­ro­no­vou síť, která má při­bliž­ně správ­ný „tvar“, ale která se te­pr­ve učí pra­co­vat se vstu­pem, který do­stá­vá. To nás vede k myš­len­ce č. 2:

Tento pří­stup nám již v prin­ci­pu umožňuje vy­tvo­řit po­čí­ta­čo­vý pro­gram, který bude stej­ně in­te­li­gent­ní jako člo­věk (v sou­čas­nos­ti na to sice ne­dis­po­nu­je­me do­sta­teč­ným vý­po­čet­ním vý­ko­nem, ale to je jen otáz­kou času). Ta­ko­vý­to pro­gram by ale měl nad lidmi jednu ob­rov­skou vý­ho­du:

Pokud bychom ta­ko­vé­to umělé by­tos­ti po­skyt­li tvůr­čí svo­bo­du, mohli bychom se do­stat ještě mno­hem dále. Jak I. J. Good po­zna­me­nal již v roce 1965, takto stvo­ře­ná umělá in­te­li­gen­ce (která by díky rych­los­ti učení bylo in­te­li­gent­něj­ší než ja­ký­ko­liv člo­věk) by mohla daný pro­ces ne­o­me­ze­ně­krát opa­ko­vat (Go­o­dův výrok jsem si do­vo­lil pře­lo­žit z an­g­lič­ti­ny):

A zde za­čí­ná být celý pro­ces po­měr­ně dě­si­vý. Jakmi­le jed­nou za­počne, ne­zís­ká­me tím jen „ky­ber­ne­tic­ké nad­li­di“. Za krát­kou dobu zde budou umělé by­tos­ti tak in­te­li­gent­ní, že je­jich du­šev­ní po­cho­dy vůbec ne­bu­de­me schop­ni chá­pat. Z hle­dis­ka in­te­li­gen­ce pro ně ne­bu­de­me o moc více než pouhé bak­te­rie.

Otáz­ka ja: Stane se to? To zá­le­ží pouze na nás – my bu­de­me ti, kdo bude muset stvo­řit první su­per­i­n­te­li­gent­ní by­tost. Ra­y­mond Kur­zweil, ame­ric­ký vědec a ex­pert na pro­ble­ma­ti­ku stro­jo­vé­ho učení, od­ha­du­je, že k tzv. Sin­gu­la­ri­tě (in­te­li­genč­ní ex­plo­zi po­psa­né výše) by mělo dojít kolem roku 2045. Vět­ši­na z nás tou dobou bude stále na­ži­vu. Jste při­pra­ve­ni?