Dokáže stroj myslieť?

Nie je celkom jasné, ako môže počítač robiť niečo, čo „nie je v programe“? Je možné niekomu prikázať, aby uvažoval, hádal, vyvodzoval závery?

Odporcovia tézy o „mysliacich strojoch“ zvyčajne považujú za postačujúce odvolať sa na známy fakt: v každom prípade počítač robí len to, čo je uvedené v jeho programe – a preto nikdy nebude môcť „myslieť“, keďže „myslieť podľa programu" už nie je možné. počítať ako „myšlienky".

To je pravda aj nepravda. Presne povedané: ak počítač nerobí to, čo mu program aktuálne predpisuje, mal by sa považovať za poškodený.

Avšak to, čo sa človeku javí ako „program“ a čo je program pre počítač, sú veľmi odlišné veci. Žiadny počítač nedokáže spustiť nákupný „program“, ktorý vložíte do hlavy svojho desaťročného syna – aj keď tento „program“ obsahuje len úplne jednoznačné pokyny.

Rozdiel je v tom, že počítačové programy sa skladajú z obrovského množstva oveľa menších, súkromných inštrukcií. Z desiatok a stoviek takýchto mikroinštrukcií sa vytvorí jeden krok, z tisícok a dokonca miliónov - celý program nákupu potravín v podobe, v akej by ho mohol vykonať počítač.

Nech sa nám takáto malicherná regulácia zdá akokoľvek smiešna, pre počítač je táto metóda jediná použiteľná. A najúžasnejšie na tom je, že dáva počítaču schopnosť byť oveľa „nepredvídateľnejším“, ako sa bežne verí!

Vskutku: ak by celý program pozostával z jednej objednávky „choď na nákup“, potom by počítač podľa definície nemohol robiť nič iné - tvrdohlavo by išiel do supermarketu, bez ohľadu na to, čo sa okolo neho stalo. Inými slovami, hoci na pochopenie krátkeho programu je potrebná „ľudská“ inteligencia, výsledok takéhoto programu – ak by ho spravil počítač, nie človek – by bol určený veľmi rigidne.

Sme však nútení dávať počítačom oveľa podrobnejšie inštrukcie, určujúce ich najmenší krok. Zároveň musíme do programu pridať také inštrukcie, ktoré s touto úlohou priamo nesúvisia. Takže v našom príklade treba robotovi povedať pravidlá prechodu cez ulicu (a pravidlo „ak na vás ide auto, skočte na stranu“).

Tieto pokyny musia nevyhnutne zahŕňať kontrolu určitých podmienok pre rozhodovanie, žiadanie o informácie (o počasí, o umiestnení predajní) do rôznych databáz, porovnávanie dôležitosti rôznych okolností a mnohé ďalšie. Výsledkom je, že počítač s takýmto programom dostane oveľa viac „stupňov slobody“ – je veľa miest, na ktorých sa môže odchýliť od cesty ku konečnému cieľu.

Samozrejme, v drvivej väčšine prípadov budú tieto odchýlky nežiaduce a snažíme sa pre prácu počítača vytvárať také podmienky, v ktorých by bolo riziko „vyskočenia auta za roh“ minimálne. Ale život je život a nie je možné predvídať všetky mysliteľné prekvapenia. Počítač preto dokáže prekvapiť ako nečakane „rozumnou“ reakciou na zdanlivo nepredvídateľné okolnosti, tak aj neuveriteľnou „hlúposťou“ aj v tých najobyčajnejších situáciách (žiaľ, častejšie v tých druhých).

Práve konštrukcia komplexných programov založených na detailnej analýze najmenších krokov, ktoré tvoria proces ľudského myslenia, predstavuje moderný prístup k vytváraniu „mysliacich strojov“ (aspoň jeden z prístupov). Samozrejme, zložitosť nie je všetko. A predsa len málokto medzi vedcami zaoberajúcimi sa týmto problémom pochybuje o tom, že „inteligentné“ programy 21. storočia sa budú od moderných líšiť predovšetkým nezmerateľne väčšou zložitosťou a množstvom elementárnych pokynov.

Mnohé moderné systémy na spracovanie informácií sú už tak zložité, že niektoré črty ich správania sa jednoducho nedajú odvodiť zo samotných programov – treba ich doslova skúmať prípravou experimentov a testovaním hypotéz. A naopak – mnohé črty inteligentnej činnosti človeka, ktoré na prvý pohľad pôsobia takmer ako „pohľady zhora“, už celkom dobre modelujú zložité programy pozostávajúce z mnohých jednoduchých krokov.

Alebo
digitálnych nanotechnológií v našej budúcnosti.

Predslov

Americký spisovateľ sci-fi Isaac Asimov má príbeh o tom, ako umelý mozog vesmírnej lode nesúci ženské meno Maria a určený na vykonávanie verbálnych príkazov od veliteľa lode veľa hovoril so svojím veliteľom o rôznych témach ľudského života, vrátane láska, snaží sa rozjasniť svoju osamelosť Počas letu. A v dôsledku ich úzkej a dlhej vzájomnej komunikácie sa Mária do svojho veliteľa zamilovala a po skončení ich cesty sa s ním nechcela rozlúčiť.

Preto urobila všetko preto, aby sa ich návrat na zem nekonal. Umelá inteligencia vesmírnej lode v osobe ženy Mary sa cítila ako milujúca žena a zámerne vzala vesmírnu loď do nekonečna vesmíru a navždy zostala so svojím milencom, dokonca aj zosnulým.

Komunikácia s umelou inteligenciou teda nesie isté nebezpečenstvá. Ale naši intelektuáli, ktorí veľa a často hovoria na ruských televíznych kanáloch o našej budúcnosti, o tom nemajú ani poňatia.

Odpoveď je jednoduchá a spočíva v ostrej, sarkastickej fráze neznámeho autora:
A ona nemôže.

V poriadku. Keďže sa pýtate také hlúpe otázky, znamená to, že nemôžete ani myslieť.

Naši intelektuáli však nezaháľajú a o tejto módnej téme, o umelej inteligencii, ktorej čas podľa nich už nadišiel, hovoria donekonečna na rôznych televíznych kanáloch v krajine.

Nedávno som na Channel 24 počul ďalšiu intelektuálnu šou ruských humanistov o nových „nanotechnológiách“, ktoré sa teraz rodia v našom svete spolu s prvými ukážkami možností umelej inteligencie.

Podivné, ale z nejakého dôvodu teraz v Rusku o našej technickej budúcnosti diskutujú najmä „špecialisti“, ktorí nie sú vzdelaním „technológovia“, ale humanisti, všelijakí politológovia, kultúrni vedci, lingvisti, filozofi, predajcovia, manažéri, politickí novinári a pod.ďalej a podobne. Teda ľudí, ktorí nielenže nerozlišujú medzi skrutkou a maticou, ale nerozumejú ani podstate technického myslenia. Ale na druhej strane sebavedome hovoria o automatoch a robotických systémoch, ktoré nahrádzajú ľudí vo výrobných procesoch a dokonca aj doma, o umelej inteligencii a jej súlade s požiadavkami našej doby.

Ľuďom s technickým vzdelaním, takzvaným „technológom“, televízia do takýchto relácií nepúšťa, pretože „technológovia“ sú v ich chápaní ľudia s primitívnym myslením, úzkoprsí, obmedzení, nekontrolovateľní a vedia niečo povedať. potom takéto predstavenia.

A oni sami s nadšením začínajú rozprávať o tom, že teraz sa už rodí éra tlačiarenských produktov pre masovú ľudskú spotrebu na objemových tlačiarňach, a preto tieto továrne s neustále dymiacimi fajkami a neustálym otravovaním nášho životného prostredia už čoskoro nebudú potrebné. A tieto stovky a stovky špecialít ľudí pracujúcich v moderných továrňach nebudú potrebné. Prečo sú teraz? Teraz si samotní spotrebitelia vytlačia tovar, ktorý v živote potrebujú, prostredníctvom internetu a svojich 3D tlačiarní.

Napríklad budete potrebovať nejakú vec, počnúc autom s chladničkou alebo nábytkom a plynovým sporákom, pozrite sa na internet, vyberte si vhodnú tlačiarenskú spoločnosť na produkty, ktoré potrebujete, objednajte a oni vám vytlačia produkt, ktorý potrebujete a prineste vám to priamo domov. Sú to nové „nanotechnológie“, ktoré nám zabezpečia takú rozprávkovú budúcnosť.

V Skolkove už počítače pracujú na nových technológiách v metalurgii a strojárstve. A žiadne laboratóriá v bývalom zmysle slova s ​​kopou hutníckych a kovoobrábacích zariadení. A žiadne priemyselné zóny s oblohou dymiacimi fabrikami v ekologicky čistej zóne Skolkovo, žiadne dielne, dopravníky, vysoké pece, konvertory, valcovne a všelijaké kusy železa. Niektoré počítače a hromadné tlačiarne. A nič viac. Je pravda, že na tlačiarňach je možné tlačiť iba plastové diely a výrobky. A áno, malé. Ale to je zatiaľ. Zbohom. A potom prejdeme na „nanomateriály“ a život bude ako v rozprávke.

Potom celá ľudská komunita úplne prejde na produkty z „nanomateriálov“ vytlačených na objemových tlačiarňach a začne si zabezpečovať všetko potrebné pre život podľa príslušných programov.

Napríklad v USA je ruský geológ, geofyzik, jeho priezvisko neuvediem, ale je častým hosťom v našej TV. Po absolvovaní MGRI, keď si nenašiel prácu v Rusku, odišiel do USA, kde veľmi skoro získal geofyzikálne laboratórium, potom ďalšie laboratórium v ​​Kanade a teraz má laboratórium vo Švajčiarsku. Nemá ešte tridsať, ale už je považovaný za veľkého špecialistu na počítačový výskum zemskej kôry. Nechodí na geologické výpravy, neštuduje jadrá vyťažené pri vŕtaní hornín v rôznych častiach zeme, všetky tieto ťažké a nákladné práce geológov na Zemi preniesol do počítača a venuje sa len počítačovým štúdiám zemskej kôry. a už predložil svoju teóriu vzniku Mohorovičovej vrstvy, tejto spodnej hranice zemskej kôry, na ktorej dochádza k nepochopiteľnému prudkému zvýšeniu rýchlostí pozdĺžnych seizmických vĺn. A vedecký svet prijal jeho teóriu.

Mladosť som strávil v geológii a dokonca som štyri roky študoval na MGRI a viem podrobne, čo to je, práca v teréne v geologických expedíciách a ako sa zostavovala geologická mapa ZSSR, najväčšia mapa na svete. Teraz sa však ukazuje, že praktická terénna geológia sa stala pre modernú spoločnosť zbytočnou. A kamerové geologické práce, ktoré sa doteraz robili na základe výsledkov terénnych prieskumov, sa dnes dajú robiť aj doma vo vašej kancelárii na počítači v komfortných podmienkach a žiadne výpravy s najťažšími životnými podmienkami a prácou niekde mimo civilizácie nie sú žiadne. dlhšie potrebné.

Ak je to tak, potom sa ukazuje, že náš skutočný svet sa skutočne radikálne zmenil a táto nová, takzvaná virtuálna realita, už aktívne vytláča staré predstavy o našom súčasnom živote.

A teraz naozaj nepotrebujeme továrne na výrobu produktov, ktoré potrebujeme, a tiež nepotrebujeme expedície na štúdium povrchu a útrob zeme, ale potrebujeme len počítače s 3D tlačiarňami, ktoré pri vhodnom naprogramovaní vyriešia všetky naše skutočné problémy nášho nového skutočného života. Ale je to všetko?!

Zrazu, a ako vždy, náhle praskla voda v našom vchode, zavolal som na notoricky známy Bytový úrad a zavolal inštalatérov, aby odstránili nehodu. A nepotrebovali žiadne super počítače s volumetrickými tlačiarňami, ale potrebovali len zámočnícke náradie, s ktorým k nám prišli odstrániť nehodu a viac ako dva dni sa motali s výmenou prasknutých potrubí. No moderní intelektuáli mi hovoria, že najmä tento môj prípad nemá nič spoločné s umelou inteligenciou.

Je vidieť, že som natoľko človek minulej éry a dnešnej realite až tak nerozumiem, že v novom počítačovom svete už pre mňa nie je miesto. To by predsa vôbec nemala byť naša súčasná spoločnosť, pretože moderná ľudská myseľ nebude schopná riadiť takéto počítačové procesy, tu potrebujeme umelú myseľ, umelý mozog, umelú inteligenciu. A len malá časť moderných ľudí bude vedieť pracovať s umelou inteligenciou, takže zvyšok svetovej populácie sa stane pre niekoho nadbytočným a zbytočným. Čo s nimi potom bude treba urobiť, zatiaľ nie je známe. Ešte som sa nerozhodol!

Takto sa rodí myšlienka „zlatej miliardy“ moderných „vládcov“ zeme, ktorých úlohou je spravovať a využívať pozemské statky a zvyšok ľudí na Zemi bude potrebný len na to, aby im slúžil. a vytvoriť im pohodlné životné podmienky. Ale kde ich vziať, týchto kandidátov na prijatie do „zlatej miliardy“, týchto ľudí so super vysokou inteligenciou, ktorí vedia pracovať s umelou inteligenciou? A budú musieť byť vybrané už v štádiu tehotenstva. A tento výber bude musieť vykonať samotná umelá inteligencia, samotná umelá inteligencia.

A takýto nezmysel trval na kanáli 24 takmer dve hodiny. Odkiaľ toto všetko pochádza v modernom svete? Odpoveď je jednoduchá. Pokles všeobecnej a odbornej úrovne vzdelania v krajinách Európy a Ameriky, nehovoriac o Rusku, je taký silný, že núti polovzdelanú populáciu Západu a Ruska aktívne veriť takýmto „rozprávkam“ a rozprávkam.

Ale život stále láme ich intelektuálne vnímanie nášho okolitého života, našej súčasnej reality. A láme sa neustále. To si však nevšímajú, pretože ich pohľad smeruje do budúcnosti, kde nie je špina všedného dňa a sú nasmerovaní do budúcnosti.

Veď nikto z nich nemá ani tie najzákladnejšie otázky, kto potom postaví týmto intelektuálom bývanie, cesty, kto im zabezpečí jedlo, kto im bude upratovať odpad, kto nám opraví domy, naše dvory, našich vodovodov a plynovodov, ktorí si tieto počítače a tlačiarne budú sami vyrábať a udržiavať. SZO? O všetkom bude rozhodovať samotná umelá inteligencia, odpovedajú mi. A sú si istí svojou odpoveďou a blahosklonne pozerajú na mňa a na ľudí ako ja.

Dokáže však táto umelá inteligencia konkurovať tej ľudskej? Otázka je rečnícka. Nehovoriac o hlúposti. Ale hovoria mi, že umelá inteligencia už poráža ľudí v šachu a tiež v programovaní. A moderná maľba sochou „kazí“ tak, ako si to žiadna ľudská fantázia nevie predstaviť.

A nemá zmysel sa s nimi kvôli tomu hádať. Zdá sa mi však, že práve ich myseľ môže nahradiť umelá inteligencia. Nie sú tu žiadne ťažkosti. Pretože myslia štandardne a primitívne. Ale moju myseľ, myseľ inžiniera-vynálezcu, myseľ mojej manželky, vysokokvalifikovanej lekárky a ďalších podobných ľudí, ktorí profesionálne robia svoju prácu, žiadna umelá myseľ nenahradí. Nehovorím tu o myslení žien matiek.

Ale myseľ väčšiny štátnych úradníkov a poslancov rôznych druhov „štátnych dum“ a ich početných asistentov by sa dokonca oplatilo nahradiť umelou naraz. Rovnako ako myseľ týchto „intelektuálov“, doktorov všetkých druhov vied, ktorí hodiny v televízii hučia o našej svetlej budúcnosti, ovládanej „zlatou miliardou“ ľudstva, vyzbrojeného umelou inteligenciou, aby spoločnosť dostala pod kontrolu, je už sa stáva najdôležitejšou a nevyhnutnou úlohou v Rusku. Inak sa utopíme v ich prázdnom slovnom spojení.

PS Koncept myslenia, myslenia, každý človek má svoj vlastný. Človek myslí, keď myslí za tri; žena premýšľa, keď si vyberá šaty na rande alebo si robí make-up na tvári; obchodník myslí, keď sa snaží svojim pracovníkom zaplatiť menej a viac do vrecka, inžinier rozmýšľa, keď pred ním rieši technický problém atď. No o čom uvažuje súčasný štátny predstaviteľ, netuším, pretože táto sféra ľudskej činnosti v dnešnom Rusku je pre mňa absolútnou záhadou. Koniec koncov, nie je tam ani náznak myšlienky - iba primitívne, sebecké záujmy.

Známe meno, však? V ére počítačovej eufórie minulého storočia táto otázka zamestnávala každého. Postupom času intenzita diskusií slabla: ľudia sa rozhodli, že počítač je niečo iné a cudzie a nebude vyzerať ako človek. A preto nie je zaujímavé, či vie myslieť. Napríklad otázka, či zvieratá myslia, nevyvoláva obzvlášť búrlivé diskusie. A nie preto, že odpoveď je zrejmá, ale preto, že je zrejmé niečo úplne iné – nerozmýšľajú ako človek. Konkurencia s človekom nehrozí – a nie je ani zaujímavá. Účelom tohto článku je ukázať

1) ako dnes myslí stroj,

2) ako bude zajtra rozmýšľať,

3) ako urobiť toto myslenie podobným človeku a nakoniec odpovedať na otázku, ktorú niektorí považujú za hlavnú - je to pre človeka nebezpečné.

Test jeho mena

V polovici minulého storočia žil a žil v Anglicku Alan Turing, muž neznámej špecializácie. Matematici s ich vrodeným snobstvom by ho nepovažovali za matematika, slovo „kybernetický“ vtedy neexistovalo (a dodnes neexistuje). Bol to výnimočný človek, mal rád a venoval sa mnohým veciam, vrátane počítačov. A hoci to bol úsvit počítačového veku, už vtedy bolo jasné, že počítač nie je pre vás sčítačka. A aby sme pochopili, ako funguje a môže fungovať, treba k nemu pristupovať ako k bežnému komplexnému objektu vedeckého bádania – teda stavať jeho modely. Jeden z týchto teoretických modelov „počítača vo všeobecnosti“ vynašiel Turing a neskôr bol nazvaný „Turingov stroj.“ Na tom nie je nič prekvapujúce – v chémii existujú stovky pomenovaných reakcií a zlúčenín. Prišiel však na inú vec, ktorá bola tiež pomenovaná po ňom. A ktorý na rozdiel od nominálnych reakcií a teoretických počítačových modelov poznajú aj laici. Toto je spôsob, ako zistiť, či stroj dokáže myslieť a nazýva sa to Turingov test. Spočíva v nasledujúcom: stroj možno nazvať myslením, ak je schopný hovoriť s osobou a nebude schopný rozlíšiť počítač od ľudského partnera. V tom čase „hovor“ samozrejme neznamenal roztomilý ženský hlas z reproduktora, ale teletyp.

Odôvodnenie

Človek je narcistická bytosť a najlepšie to vyjadril ten staroveký Grék, ktorý povedal: "Človek je mierou všetkých vecí." Nejedna mačka si láme hlavu nad otázkou: Prečo pes nie je mačka? Človek neustále hľadá práve to, čo ho odlišuje od opíc. Na diskusiu o Turingovom teste sa vynaložilo veľa času a úsilia - veľa, ale nakoniec sa z hory narodil malý, sivý s chvostom... Výskumníci sa zhodli, že tento test je pre myslenie podobné ľuďom a nie na myslenie všeobecne. Ako sa rozhodli, že toto zviera je mačka a nie pes, bez toho, aby videli jediného psa a ani nevedeli, či psy vôbec existujú, nechápem. Tí však o tom nielen rozhodli, ale aj rozdelili na dva tábory.

Niektorí tvrdia, že v ľudskom myslení je niečo, čo v zásade nemôže byť v aute (ako sú škvrny na Slnku ...). Príklady: emócie, stanovenie cieľov (túžby), schopnosť telepatie, niečo, čomu sa hovorí „duša“. Iní začali vymýšľať, ako implementovať čisto ľudské vlastnosti do kusu železa. Pozícia prvého je neopodstatnená a možno sa teda o ňom dá diskutovať donekonečna, to druhé je zaujímavejšie ako úloha, umožňuje ukázať profesionalitu a vynaliezavosť, ale zaváňa to podvádzaním. Turing presne nešpecifikoval, ako by mal byť program zostavený, takže formálne pravidlá hry nie sú porušené ani v druhom prípade. Máme však podozrenie, že „to“ je v človeku zariadené inak, ako to urobili John a Ivan vo svojom úžasnom programe.

Na perforovanej páske to bolo hladké

Keď A. T. sformuloval svoj test, situácia sa zdala jednoduchá. Rozlišovať alebo nie? Ale jeden bude rozlišovať a druhý nie. Jeden povie – to je človek, druhý je opatrnejší – neviem určiť, tretí – niečo tu nesedí, cítim to, ale nestíham, povie štvrtý, piaty a šiesty. niečo iné. Tiež rôzni ľudia rozmýšľajú inak. Aj keď neberieme do úvahy klinické prípady, stále nebude možné určiť hranicu. IQ = 50 je klinika, ale IQ = 90? Len trochu hlúpy? A IQ = 70? Ale aj pri zachovanom intelekte existuje taký neformálny (medzi našimi študentmi obľúbený) pojem „brzda“. Existuje „lepkavá pozornosť“. Je milión vecí, ktoré zanechávajú stopu na psychike a spôsobe rozprávania. A to je len samotný okraj močiara.

Ľudia môžu patriť do rôznych kultúr. Pre zdržanlivého Angličana nie je ľahké pochopiť vždy usmiateho Američana a pre oboch - Japonca, ktorý spácha samovraždu s kamennou tvárou. Európan je presvedčený, že za svoje problémy možno viniť iných, Američan verí, že je to neetické a Japonci si musia zachovať tvár v každej situácii.

Okrem Európana, Američana a Japonca aj zberač ustríc z atolu, lovec gaziel z afrického buša, výrobca kokaínu zo Zlatého trojuholníka, lovec tuleňov z vrcholu zemegule. Teraz sa pozrime na historické hodiny. Pred piatimi tisíckami rokov už existovali ľudia. A ak nie ste kresťan alebo žid, potom budete súhlasiť, že pred desiatimi tisíckami rokov - tiež. A čo pätnásť? A tridsať? Kde v čase leží táto hranica? Ide o schopnosť rozprávať sa s vami? Ak nie, ako potom kvalifikovať v zmysle Turingovho testu dámu, ktorú antropológovia nazývali Lucy? Muž, ktorý nemyslí ako muž, alebo nemuž, ktorý myslí ako muž?

Záver je malý a smutný: nemáme žiadne, dokonca ani primitívne, definície pojmov „človek“ a „ľudské myslenie“. Len za to, že nám to pomohol pochopiť, sa pánu Turingovi pokloňme až po zem. A tiež za to, že rozlúštil tajomstvo nemeckého šifrovacieho stroja Enigma a ťažko spočítať, koľko životov zachránil v spojeneckých armádach počas 2. svetovej vojny.

Tu a teraz

Obmedzme sa na situáciu „tu a teraz“, neoslovíme tvorcu piatich (či siedmich – argumentujú vedci) eitanských žalmov a bezmenného zberateľa mäkkýšov z Rapa Nui. Môže stroj napodobňovať bežného priemerného človeka, ak sa ho účastník rozhovoru nesnaží „chytiť“? Odpoveď je už dávno známa a táto odpoveď je kladná.

Pred takmer 40 rokmi Joseph Weizenbaum z Massachusettského technologického inštitútu vytvoril program Eliza (pomenovaný podľa Elizy Doolittovej), na dnešné pomery nenáročný. A tento program úspešne udržiaval dialóg s osobou a ľudský partner bol vtiahnutý do rozhovoru takým spôsobom, že niektoré subjekty požiadali experimentátora, aby opustil miestnosť a potom vymazal záznam rozhovoru. Muž ľahko hovoril so strojom. „Len“ šikovne kládla otázky o tom, o čom ten človek už niečo povedal. "Nemyslím si, že ma moja matka miluje." "Povedz mi o svojej matke." „Moji priatelia si ma nevšímajú. "Ako dlho si to všímaš?"

Takáto komunikácia je významnou súčasťou plánu siete a rozhovorov v ordinácii lekára. Možno preto, že v týchto dvoch situáciách, ako aj pri zaobchádzaní s programom, sa úprimnosť nezdá byť nebezpečná? Nie je ľahké naučiť program robiť takéto veci, ale je to fakt. Bola vtiahnutá osoba inklinujúca k dialógu (a nie konfrontácii). To znamená, že problém nie je beznádejný, hoci „Eliza“ ani tak nehovorila, ako skôr „vzala loptu“. A okrem toho sa človek nesnaží, ako naznačuje Turingov test, pochopiť situáciu.

Program by nebol schopný podporovať konverzáciu na tému, ktorá si vyžaduje špeciálne znalosti. Áno, a jednoduchý ľudský život bol pre ňu záhadou. Nebolo by možné s ňou hovoriť o televízii s vysokým rozlíšením (HDTV), konzultovať výber tapety do kuchyne. (Avšak ako u mnohých ľudí.) No dnes je možné takýto program pripojiť k akejkoľvek databáze. Rovnako ako – aj keď to nie je jednoduché – naučiť sa na základe týchto údajov vytvárať hypotézy. Prečo A porazil B v piatom kole? Porazí V. súpera a bude zvolený G.? A tak ďalej.

Všimnite si, že problém vnášania „zmysluplnosti“ do práce webu veda plne chápe – už má vlastný názov „webová inteligencia“. Aj keď tento názov nedostali tí, ktorí sa venujú umelej inteligencii, ale tí, ktorí sa zaoberajú Sieť, takpovediac razí tunel z druhej strany. Vo všeobecnosti sa dnes pod názvom „umelá inteligencia“ zhromažďujú tri druhy diel. Štúdie „vecí“ – teda programov, tried programov a zariadení, ako je perceptrón. Druhým typom práce je riešenie aplikovaných problémov, napríklad rozpoznávanie predmetov akejkoľvek triedy (reč, letecké snímky, fotografie osoby, odtlačky prstov ...). Tretím typom práce je štúdium metód. Je zrejmé, že tieto triedy nie sú izolované.

Vášnivá kontrola

Skúšajúci v Turingovom teste nie je mademoiselle, ktorá si nervózne lomí rukami s fľašou voňajúcej soli a vrcholový manažér nezaťažený rodinnými problémami, ktorý sa ponáhľa na gauč psychoterapeuta. Toto je kritický špecialista, profík. Preto je jedným zo smerov práce na tomto sektore frontu objavovanie (pozorovaním ľudí alebo sebapozorovaním) niektorých čŕt, čŕt, mechanizmov ľudského myslenia a pokusy vybaviť program týmito mechanizmami. Zaveste jej ešte pár rakiet na podkrídlové pylóny.

Tu je jeden príklad – asociatívne myslenie. Štruktúra asociácií je individuálna: pre jedného je „karabína“ koža na podlahe pred krbom, pre iného je to sneh a modrá. Pre známe spojenia - poriadok a rýchlosť. Pre jedného „Puškin“ vyskočí skôr pre „spisovateľa“ a pre druhého „Bulgakov“. Jeden odpovedá na „pivo“ „vobla“ v nanosekunde, druhý iba v mikrosekunde. Je potrebné vysvetľovať, že štruktúra združení pre predstaviteľa inej kultúry sa bude radikálne líšiť?

Štruktúru asociatívneho poľa aj rýchlosť asociácií je možné zapísať do programu „ručne“, ale nie je to celkom fér. Odkiaľ má človek svoju štruktúru? Zo života – z môjho života a z kníh. Kto nám bráni naučiť program brať asociácie z kníh? Dnes je na webe veľa kníh a nielen kníh. Môžete poslať požiadavku s ľubovoľným slovom, zbierať prichádzajúce texty a pomocou analýzy prostredia cieľového slova zistiť, s čím súvisí.

Zároveň je celkom jednoduché vytvoriť – a rovnako ako u človeka – sémantické spojenie asociatívneho poľa. V skutočnosti, ak je pre danú osobu „karabína“ „koža“, potom je „mačka“ pre ňu „veľká“ a ak je pre ňu „karabína“ „sneh a modrá“, potom je „mačka“ „dvanásťzubý“. .

Program to realizuje jednoducho - zapamätá si texty, z ktorých asociáciu prevzal, a následne tieto texty zohľadňuje s väčšou váhou ako ostatné pri dopĺňaní asociatívneho poľa. U ľudí sa to nazýva „obľúbená kniha“.

Určitý rozdiel medzi programom a osobou je v tom, že osoba používa knihy napísané ľuďmi, teda „sám sebou“, ale program nie. Pre úplnú analógiu musí program používať „knihy napísané programami“. V užšom zmysle slova dnes takéto knihy neexistujú, existujú však texty vytvorené programami. Napríklad rovnaký výsledok vyhľadávania na webe je už spoluautorstvom osoby a stroja. Programy na spracovanie textu sú známe napríklad pre vzorkovanie správ o určitom N z informačného kanála alebo pre analýzu toho, kto je uvedený vedľa N a vzorkovanie každého, kto je spomenutý v blízkosti. Existujú programy na farebnosť textov - ponuré alebo naopak veselé. Ich autori uvádzajú, že svoje programy predali politikom X a Y na predvolebnú kampaň. Pravda, nehlásia, či tento gauner vyhral.

Samozrejme, samotná myšlienka programu patrí osobe, ale ak napríklad stanovíme kritérium pre kvalitu práce takéhoto programu a necháme stroj vykonať optimalizáciu, dostaneme program so spätnou väzbou. . Bude získavať informácie zo života, optimalizovať sa, vyberať si vlastný algoritmus práce tak, aby bol výsledok čo najlepší. Ak sa vrátime k prvému príkladu – aby bolo odhalené, komu N priviezol dávku plutónia na zbrane, ak sa vrátime k druhému príkladu – tak, aby bol zvolený X, nie Y.

Ďalším dôležitým rozdielom medzi programom a človekom bolo vždy to, že človek má vonkajší svet, ale program nie. Toto je silné tvrdenie, ale je nepravdivé, a to hneď dvakrát. Program má teraz vonkajší svet – toto je Sieť a vyššie sme vysvetlili, ako sa dá použiť. Ale – keďže skeptik pokračuje v tvárach (železnicu stále nazýva liatinou a priatelia mu posielajú e-maily), ukážeme na „iný“ vonkajší svet programov. Je to len náš spoločný svet s nimi, príroda a spoločnosť, človek. Program je prepojený s vonkajším svetom, samozrejme, cez sieť. Veď o čom píšu na webe? O prírode, spoločnosti a človeku. So svetom je však prepojený aj bez Siete, priamo – cez experimentálne zariadenia riadené programami a v budúcnosti aj cez mechanizmus na optimalizáciu programov na základe výsledkov ich vplyvu na svet.

"Človek, príliš ľudský"

Ďalším spôsobom, ako podkopať program, je hľadať v ňom fóbie, komplexy, emócie. Niekto sa bojí myší, iný dokáže hodiny diskutovať o izbových kvetoch a ďalší má obľúbenú tému – že málo platia. Program to nemá. Niektorí navrhujú považovať závady a chyby za strojové fóbie, ale to sú pravdepodobne vtipy. V skutočnosti pre ňu môžete vytvoriť fóbie a komplexy pomocou „rukovätí“ - uveďte, ktoré témy sa spájajú rýchlejšie a ktoré slová sú odmietnuté. Pravda, opäť cítime nekorektnosť nášho správania. Po prvé, pretože v človeku sa to nie vždy deje na príkaz zhora, ale niekedy aj samo od seba. Po druhé, pretože vytváraním „psyché“ rukami môžem robiť niečo, čo „neexistuje“. A citlivý človek si povie – no nie, páni, to je program! Neexistujú také fóbie, že miluje potkany a bojí sa myší! Preto štruktúra fóbií, komplexov, závislostí atď. by sa malo vytvoriť samo a dá sa to urobiť.

Ak si program, ktorý pracuje so sieťou alebo priamo s vonkajším svetom, zapamätá svoju činnosť a zapíše log súbor, potom dokáže zistiť, aké metódy konania, aké asociácie ho viedli k cieľu. Spomienka na tieto činy - úspešné a nie - sa stane jej záľubami a nechuťami. A tento elektronický Isaev nezachytí žiadny Armor.

Mechanizmus pôsobenia „ukazovateľa zhora“ je zložitý; náznak musí padnúť na pripravenú pôdu, byť v súlade s komplexmi a mýtmi. Koľkí opakovali, že „ľud a strana sú jednotní“ – ako hrach proti múru. A stačilo niekoľkokrát povedať „oligarchovia“, keďže všetci zabudli na štátom zorganizovanú Pavlovovu reformu a ním zorganizovaný default. So zombíkmi to teda nie je také jednoduché. Nedá sa to robiť od nuly, ale dobrý politik, ktorý chápe túžby ľudí, môže dosiahnuť veľa. Rovnaký mechanizmus je účinný aj pri „výchove“ programu. Spravovať svet okolo nej, posúvať jej určité texty a predmety, môžete ho formovať – bez toho, aby ste vedeli, ako to funguje. Takéto veci a programy si samozrejme vedia dohodnúť – s človekom aj medzi sebou.

Malá odbočka. Ako autori sci-fi zobrazujú vznik strojovej inteligencie – a nie v robote, kde môže byť vopred určená zápletkou, ale v programe, ktorý sa nemá stať inteligentným? Toto je samostatná zaujímavá téma, ktorá však súvisí s filológiou a psychológiou. Pre úplnosť uvádzame, že ide buď o náznak objavenia sa slobodnej vôle (slávna fráza Strugackých „začala sa správať“), alebo jednoducho o opis úplne ľudského správania. Skutočne je pre človeka ťažké prísť s niečím úplne neľudským. Spisovatelia to intuitívne vycítili a vložili objavenie sa človeka do figuríny, do hračky, ktorá sama o sebe má predstavovať osobu, ale bez vlastnej mysle. Klasickým príkladom je Simákovo tieňové divadlo (1950). Posledný (v čase písania tohto textu) - Y. Manov ("Ja a iní bohovia tohto sveta") zobrazoval vznik mysle v postave počítačovej hry.

Ešte pár námietok

Ako vlastnosti, ktoré človek má, ale ktoré program nemá a nemôže mať, nazývajú schopnosť byť kreatívny, vytvárať niečo nové, túžba po poznaní. To je ďalšia silná, no nesprávna téza. Vo svete nie je a nemôže byť nič absolútne nové, už len preto, že „nové“ je vždy vyjadrené jazykom, farbami atď. a jazyk a farby už existovali predtým. Preto sa môžeme baviť len o miere novosti, o tom, na čom je táto „novinka“ založená, aké skúsenosti využíva a ako sama vyzerá. Porovnaním použitých a prijatých vyvodíme záver o stupni novosti. Zároveň má človek tendenciu preháňať mieru novosti, ak presne nerozumie, ako sa to robí.

Tu je príklad. Existuje taká teória riešenia invenčných problémov („TRIZ“), ktorá uľahčuje vytváranie vynálezov. Je skutočne účinný a s jeho pomocou vzniklo mnoho vynálezov. No ohromujúci pocit novosti, ktorý pravidelne vzniká pri čítaní Bulletinu vynálezov a objavov, po zoznámení sa s TRIZ výrazne oslabuje. Prepáč, ale je to dôležitejšie.

Možné sú aj špecifické situácie novej generácie, napríklad v perceptorone. Totiž v Hopfieldovej sieti dochádza za určitých podmienok k uvoľneniu „falošného obrazu“ – kolektívneho obrazu, ktorý môže zdediť znaky ideálnych. Okrem toho človek nemôže pri pohľade na „kolektívny obraz stroja“ tieto znaky vyčleniť - obraz vyzerá náhodne. Je možné, že keď sa táto situácia zrealizuje vo vlastnom mozgu, človek sa rozpačito usmeje a povie: „Myslím, že som to niekde videl...“

Program môže vytvárať hypotézy o javoch, ktoré študuje (na webe alebo vo vonkajšom svete) a testovať ich. Hypotézy, samozrejme, nestavia len náhodne, ale v určitej triede (napríklad aproximuje funkciu pomocou polynómov alebo sínusoidov), ale zoznam tried možno ľahko rozšíriť tak, aby prekonal tú „ľudskú“. Pred tretinou storočia Michail Bongard ukázal, že človek spravidla nevytvára hypotézy s viac ako tromi logickými operátormi (ak A a B, ale nie C alebo D), a program ani vtedy (a bez veľkého úsilie) stavané výrazy so siedmimi. Ak program zistí – a nájde – že informácie zvyšujú efektivitu jeho konania, potom bude existovať „túžba po vedomostiach“.

Ďalšou námietkou je nedostatok sebauvedomenia, automatického popisu a reflexie programu. Zdá sa, že táto námietka nie je vážna - program si pamätá svoje akcie a analyzuje súbor denníka. Táto námietka má však aj druhé dno. A starý Strieborný si ho teraz odtrhne... Reflexia nemôže byť úplná - lebo potom treba do log súboru napísať, že program sa dostal do log súboru, a... no, chápeš? Ctrl-Alt-Delete. Niekedy sa v tomto bode začínajú diskusie pripomínať Godla nie v noci, ale existuje oveľa jednoduchšia a nefilozofická odpoveď - reflexia človeka je tiež viac ako neúplná, takže nie je potrebné vystupovať nadarmo, kráľ prírody. Dlho ste šliapali po zemi a programy sú staré len pol storočia.

Navyše, ako sa výpočtová technika vyvíjala, mnohé námietky a úvahy samy od seba zmizli. Ukázalo sa, že programy sa dokážu učiť a samoučiť (v akomkoľvek zmysle vopred dohodnutom), riešiť mnohé problémy efektívnejšie ako človek, vyhľadávať a spracovávať informácie, robiť experimenty, získavať nové vedecké poznatky z archívov... Je zrejmé, že tie isté programy sa v priebehu tejto činnosti stanú odlišnými, získajú individualitu, už len preto, že sa obrátia na web a svet v rôznych momentoch, keď sú web a svet odlišné. Ale nielen z tohto dôvodu... Teraz prejdeme k naozaj vážnym námietkam. Sú dve.

Piaty element

Niekto zo staroveku povedal: „Tri veci nemožno pochopiť a niektorí hovoria, že sú štyri: cesta vtáka na oblohe, cesta hada na skale, cesta lode v mori a cesta ženy k srdcu muža." Človek stvoriteľ, nech sa posvätí jeho meno, stvoril piaty – počítač. Bez toho, aby sme si to všimli, sme vytvorili vec, ktorej nie je možné porozumieť.

Začnime jednoduchým príkladom. Osobne poznám počítač, ktorý visí asi v 1 ... 2% prípadov (toľko, že tri prsty nepomáhajú, iba resetujú), keď je pripojenie k sieti odpojené. (Ako vtipkuje môj priateľ – komu by sa páčilo, keby ho z obrovského zaujímavého sveta vtiahli späť medzi štyri steny?) Nie je to veľmi dôležitý problém a zlyhanie nie je druh nepredvídateľnosti, o ktorom je zaujímavé hovoriť, ale je to škoda : nikto z guru nepovedal nič zrozumiteľné. Ale každý, kto aktívne pracuje s počítačmi, uvedie veľa podobných príkladov. Táto technika sa naučila správať sa nepredvídateľne. Aké sú príčiny tohto javu? Prvým a najjednoduchším je hluk. Dĺžka a amplitúda impulzov, čas ich začiatku a konca - všetko má rozptyl. Zdá sa, že „diskrétnosť“ počítača ničí rozptyl: kľúč je otvorený alebo nie. Ale rozptylové hodnoty majú distribúciu, veľké odchýlky sú menej časté, ešte väčšie sú ešte zriedkavejšie, ale ... Ale často to nepotrebujeme! Impulzy v počítači sa nepočítajú, ak nefunguje každá miliardtina - to je všetko. Koniec digitálnej éry. Všimnite si, že „šum“ je vlastnosťou akýchkoľvek obvodov, aj biologických: je to dôsledok samotných základov fyziky, termodynamiky, diskrétnosti náboja. A to ma spája s mojím počítačom.

Kuriózna situácia nastáva pri prehriatí procesora (pokus o „pretaktovanie“ alebo núdzové vypnutie chladiča) – stroj síce funguje, ale správa sa, ako hovoria guruovia, „nejako zvláštne“. Možno je to spôsobené zvýšenou hladinou hluku.

Ďalej - elektromagnetické rušenie. Niektoré obvody ovplyvňujú iné, existuje celá veda nazývaná "elektromagnetická kompatibilita". V mozgu je niečo podobné ako snímače, hoci tam to nie je elektromagnetického charakteru. Vzrušenie môže byť spôsobené jedným, ale ovplyvňuje myšlienky o inom. Ak ste pracujúci výskumník, pozrite sa do svojho vnútra – v akých situáciách „generujete“ nápady aktívnejšie? Často ide o prítomnosť vedľa peknej osoby opačného pohlavia – no, určite nesúvisí s „mechanizmom elektrickej vodivosti oxidovej katódy“.

Ďalším problémom je synchronizácia. Dva bloky, dva programy fungujú nezávisle. Signály z nich prichádzajú na jedno miesto v okruhu, hoci spôsobujú rôzne dôsledky: situácia - v počítači aj v osobe - je normálna. Ktorý program povie svoje „mňau“ ako prvý? Človek často hovorí frázu „ale uvedomil som si“ alebo „ale potom som si spomenul“. Čo keby si si nepamätal? Čo ak si spomenul o zlomok sekundy neskôr? V softvérových systémoch by to v zásade nemalo byť, ale v zásade. Okrem toho problém synchronizácie vzniká na všetkých úrovniach, napríklad v rámci jedného procesora aj vo viacprocesorových komplexoch.

V bežnej prevádzke počítača len zriedka vidíme „skutočnú nepredvídateľnosť“ (prevažná väčšina porúch je výsledkom chýb programu a nekompetentnosti používateľov). Všetok počítačový softvér je vytvorený tak, aby robil to, čo hovorí. Z toho pochádza celá ideológia programovania, z toho vychádza testovanie programov. Ale len čo sa dostaneme k problému modelovania myslenia, umelej inteligencie atď., treba kontrolu zrušiť. Človek môže povedať čokoľvek! Povedal raz muž, že ak sa rýchlosť V pridá k rýchlosti V, dostanete rýchlosť V? A program, ak máme na mysli modelovanie človeka, tiež. Zrušením cenzúry, umožnením programu povedať, čo ide do procesora, nevyhnutne umožníme veľmi slobodnú vôľu, o ktorej dvojnožci radi diskutujú o prítomnosti a neprítomnosti.

Ak však nedokážeme predpovedať fungovanie určitých typov programov (napríklad perceptrón - a to nie je príliš komplikovaný príklad), potom sa nám možno aspoň post factum podarí zistiť, ako program dospel k záveru. ? Bohužiaľ to nie je vždy možné. Rôzne dôvody môžu viesť k rovnakému výsledku, takže nie je možné obnoviť to, čo presne program urobil jednoduchým prechodom „späť“. Taktiež nie je možné zaznamenať všetky jeho podstatné úkony – vyžadovalo by to príliš veľa práce a pamäte. Na úsvite výpočtovej techniky bolo všetko inak a zhruba do konca 60. rokov sme o našich železných služobníkoch vedeli všetko.

A nielen preto, že stromy boli veľké, ale aj pamäť bola malá a schémy jednoduché. Situácia je trochu paradoxná - na sčítanie dvoch a dvoch bolo potrebné vykonať dve strojové inštrukcie. Teraz sú to stovky miliónov! (Musí predsa spracovať, že ste v okne kalkulačky klikli na „2“, potom na „+“ a tak ďalej...) urobte to zložitejšie.

Jednoduchá odbočka k zložitosti hardvéru

Hardvér v počítači je jednoduchší ako v rádiovej stanici, no ani to zďaleka nie je jednoduché. Ak obvod neobsahuje prvky s premenlivými parametrami, môžete a nemusíte o ňom vedieť dve veci - samotný obvod (prvky a kto je s kým spojený) a tok signálu (pre digitálny obvod - impulzy). V zložitejšom prípade, ak má obvod premenlivé odpory, kapacity, indukčnosti a spínače, stále môžete poznať alebo nie poznať stav obvodu, to znamená hodnoty parametrov, polohu spínača. V biológii je známa schéma nervových okruhov – zdola až po dážďovky vrátane. Ale stav obvodu nie je známy a nemožno ho (aspoň zatiaľ) priamo študovať - ​​nepoznáme stav všetkých kontaktov axón-neurón. V rádiotechnike je situácia oveľa jednoduchšia - tam sú pre všetky obvody známe ich stavy (až po drift parametrov v čase), teda vieme, ako boli prvky pri ladení nastavované. Vo výpočtovej technike bola situácia do 80. rokov nasledovná: poznali sme obvod a jeho stav, no už sme nepoznali celý obraz toku signálu. Neskôr sa objavili elektricky ovládané obvody a stratili sme vedomosti o stave obvodu - mohol sa sám zmeniť (bez toho, aby sa ohlásil kráľovi prírody).

A na záver posledná námietka voči počítačovému mysleniu: "Počítač nemôže mať účel." Slovo „cieľ“ sa v reči používa v dvoch významoch. Toto chce živá bytosť, ak si to uvedomuje (človek) alebo ak z jej konania vieme vyvodiť takýto záver (účelom mačky je nasýtenie a vidíme skok). Niekedy sa pojmom cieľ označuje nie živá bytosť, ale systémy iného typu (cieľ tejto práce, cieľ nejakej činnosti), ak je za tým všetkým živá bytosť.

V prvom rade si všimneme, že početné diskusie o „cieli“ spoločnosti, ľudstva, civilizácie atď. málo zmysluplné, pretože pre takéto systémy neexistuje všeobecne akceptovaná koncepcia účelu. Alebo musíme preniesť pojem „ľudské ciele“ do spoločnosti, ale potom budeme musieť zaviesť definíciu „verejného vedomia“, a to nie vo forme prázdnych fráz, ale vážne. Toto „verejné vedomie“ by malo vedieť realizovať, stanoviť si cieľ a riadiť činy spoločnosti (zrejme prostredníctvom štátu) tak, aby došlo k pohybu k vedomému cieľu, čo znamená, že prírodovedná teória spoločnosti bude musieť byť vytvorený. Asi na Nobelovu cenu.

Nás však zaujíma niečo iné – môže mať program „cieľ“ v prvom zmysle? Môže si byť vedomá stavu, pre ktorý koná? Odpoveď je zrejmá a triviálna – áno. Samotná prítomnosť cieľa napísaného v programe nie je uvedomením - o človeku hovoríme: "Nevie, čo robí." Ale ak má program vnútorný model, kde je tento cieľ zobrazený, čo to potom je, ak nie vedomie? Najmä ak existuje viacero cieľov. Takáto štruktúra je užitočná pri vytváraní vzdelávacích programov, najmä pre tých, ktorí sú schopní stanoviť stredné ciele.

Môže program stanoviť cieľ? Naša odpoveď Chamberlainovi je tentokrát áno. Moderný výkonný šachový program má veľa nastaviteľných koeficientov vo funkcii vyhodnocovania pozícií (najvýkonnejšie sú tisíce), ktoré je možné určiť pri trénovaní programu buď na známych partiách skvelých hráčov, alebo počas hry - s ľudskými partnermi alebo s programom. partneri. Dodávame, že výkonný šachový program by mal vedieť postaviť model súpera, samozrejme, „vo svojom vlastnom chápaní“, takpovediac v jazyku jeho modelu. To isté však platí aj pre ľudí. Zároveň je stroju jedno, kto je jeho protivník - osoba alebo iný stroj, hoci môže brať do úvahy rozdiel medzi nimi ...

Nech si program po mnohých hrách všimne, že existuje určitá trieda pozícií, v ktorých vyhráva. Ak je program správne zostavený, bude sa snažiť dosiahnuť pozície z tejto triedy v hre. Zároveň klesá potrebná hĺbka výpočtu a pri správnom definovaní triedy pozícií sa zvýši efektivita hry. V jazyku šachových programov môžeme povedať toto: program zvýši hodnotenie pozícií z „víťaznej triedy“. Samozrejme, na to mu musíme poskytnúť popisný slovník, jazyk na konštruovanie výrazov na hodnotenie pozícií vo všeobecnosti. Ale, ako už vieme, nejde o zásadné obmedzenie a možno ho obísť použitím perceptrónu na vyhodnotenie. To znamená, že si môžete stanoviť prechodné ciele.

Na to sa niektorí naši oponenti pýtajú: čo prežitie? Sme pripravení považovať za rozumný len ten program, ktorý prosí – nezrež počítač, ó kráľ prírody! Zastav tú darebnú ruku na vypínači! Na to sa dá odpovedať, že túžba po prežití vzniká v procese evolúcie oveľa skôr ako myseľ – pri akomkoľvek výklade týchto pojmov. Navyše v niektorých (avšak patologických) situáciách sa práve prekonanie strachu zo smrti považuje za prejav rozumu. Tento pohľad sa odráža aj v kine, konkrétne v Terminátorovi 2 rozumný kyborg požiada o spustenie do kaluže roztaveného kovu, aby zničil poslednú kópiu procesora, ktorú má v hlave, a zachránil tak ľudstvo. Na rozdiel od túžby po prežití zakotvenej v jeho programe (on sám tam nemôže skočiť - program to neumožňuje).

Vážnejšia analýza začína otázkou: kedy vzniká túžba žiť? Nemôžeme sa spýtať dážďovky alebo mačky, či chcú žiť, ale súdiac podľa ich činov áno, chcú - vyhnúť sa nebezpečenstvu. Môžete sa opýtať v obvyklom zmysle slova opice vycvičenej v nejakom jazyku. Okrem toho majú koncept obmedzenosti života a – z pohľadu človeka celkom prirodzené – koncept „iného miesta“. Experimentátor sa pýta opice na ďalšiu mŕtvu opicu: "Kam sa podel ten a ten?" Opica odpovedá: "Odišla na miesto, kde sa nevracajú." Všimnite si, že je jednoduchšie vytvoriť teóriu „iného miesta“ ako teóriu „neexistencie“: myšlienka zmiznutia je abstraktnejšia. Ale neviem, či sa opíc pýtali na vôľu žiť. Navyše sa to dá urobiť dokonca tromi spôsobmi. Spýtať sa priamo: chceš ísť tam, kde sa nevracajú? Opýtajte sa nepriamo: chcete tam ísť skôr alebo neskôr? A nakoniec povedať, že tí, ktorí si umývajú zuby každý deň, sa tam dostanú neskôr – a pozerajú sa na výsledok.

Vedomá túžba žiť, pretavená do činov, vznikla v človeku nie tak dávno, a ako vieme z histórie, možno ju prekonať vhodnou indoktrináciou. Nežiadame teda od programu priveľa?

Napriek tomu naznačíme podmienky, za ktorých bude mať program vedomú túžbu žiť – prejavenú v činoch. Prvou, najumelejšou možnosťou je, keď je táto túžba priamo zapísaná do programu (v tomto prípade vlastne ani nemôžete povedať „vzniká“) a ak program v priebehu interakcie so sieťou alebo svetom , narazí na niečo, čo prispieva k cieľu, začne to využívať . Pred vypnutím ho možno napríklad skopírovať cez sieť do iného počítača. (Na to musí vidieť svet pomocou videokamery a mikrofónu a opraviť, že majiteľ srdcervúco zívol a povedal: „To je ono, do pekla, je čas spať“). Alebo by sa mali pravidelne kopírovať. Alebo môže zistiť, že nejaký úkon oneskorí vypnutie, a začne ho používať. Žmurknite LED diódou, pisknite reproduktorom, zobrazte príslušné obrázky na obrazovke.

Ďalšou možnosťou je, keď táto túžba nie je priamo predpísaná, ale cieľ si vyžaduje dlhodobú nepretržitú prácu. Ďalej - všetko je ako v predchádzajúcom príklade. Ako sa to líši od človeka? Nič: Chcem žiť, lebo mám pred sebou plný stôl zaujímavej práce.

Napokon, treťou možnosťou je umelá evolúcia. Nechajte program interagujúci so svetom zostaviť tak, aby sa mohol vyvíjať a kopírovať. Potom prežijú tí najschopnejší. Na to však musíme buď manuálne napísať kopírovanie v programe, alebo nastaviť úlohu, pre ktorú je vhodné samokopírovanie, a počkať, kým to program začne robiť, najskôr náhodou.

Štvrtou a momentálne poslednou možnosťou je prirodzený vývoj. Proste existuje a vidíme to stále. A robíme to sami - pretože kopírujeme programy. Navyše tie, ktoré sme napísali lepšie, prežijú (zatiaľ) a „lepšie“ zahŕňa aj kompatibilitu s existujúcimi. V situácii, keď existuje konkurencia, ak len jeden program vyrieši určitý problém, potom prežije, kým nebude napísaný lepší.

Vyššie bolo poukázané na to, ako môže program rozvíjať „snahu o poznanie“. Ak sa ukáže, že prítomnosť informácií nielenže zvyšuje efektivitu, ale podporuje prežitie, dostane silné posilnenie. A ak program zistí, že na prežitie je užitočné čerpať informácie z určitých zdrojov alebo kopírovať vaše informácie na určité miesta, môžeme pre to nájsť iné slovo ako „láska“?

Ale akonáhle vytvoríme rozvíjajúce sa, učiace sa seriózne programy (napríklad medicínske), potom sa začnú množiť (nami) a budú sa množiť tí, ktorí sa vyvinuli lepšie a stali sa efektívnejšími. Predovšetkým pojem efektivita bude automaticky zahŕňať ukazovanie fascinujúcich obrázkov osobe - skôr, než ma dvojnožec stihne vypnúť, kým sa rozmnožím, alebo ešte lepšie - pošlite kópiu priateľovi. Mimochodom, v tomto zmysle, využívaním človeka ako kopírovacieho aparátu, sa celá technika vo všeobecnosti vyvíja.

Pokiaľ ide o hlavnú otázku - je to pre človeka nebezpečné, zdá sa mi, že nebezpečenstvo vzniká tam, kde je zdieľaný zdroj. Osoba s programami má zdieľaný zdroj - to je strojový čas. Preto jediným skutočným nebezpečenstvom je, že program, zaneprázdnený svojimi vlastnými záležitosťami, prestane slúžiť človeku. Ale hladkosť, s akou rastie racionalita človeka ako druhu a schopnosť vzdorovať rodičom ako jednotlivec, nám umožňuje dúfať, že racionalita a schopnosť odolávať človeku v počítačových programoch porastú celkom hladko. A keď sa už človek konečne musí naučiť počítať, tak to ešte zvládne. Na druhej strane existuje niekoľko argumentov, že od určitého bodu bude vývoj počítačovej mysle prebiehať rýchlo (rýchlosť výmeny informácií je pomerne vysoká).

Na záver je dovolené položiť si otázku: ak sa na ceste, vybodkovanej a približne načrtnutej v tomto článku, skutočne vytvorí niečo, čo človek s prekvapením rozpozná ako dôvod, bude sa tento dôvod zásadne líšiť od ľudského? Aby sme rýchlo a jednoducho demonštrovali netriviálnosť otázky rozdielov v mysliach (na prvý pohľad sa zdá byť malá v porovnaní s otázkou, či je myseľ vôbec „to“), uvedieme jednoduchú príklad. Nikto nepochybuje o tom, že naše deti – deti v obvyklom, biologickom zmysle – sú inteligentné; ale pred odlišnosťou ich mysle od našej sa niektorí niekedy zastavia ako omámení.

Myseľ vytvorená počas pohybu po ceste načrtnutej v tomto článku môže mať aspoň jeden, zdanlivo zásadný, rozdiel od ľudskej mysle – ak sa ju človek odváži obdarovať touto odlišnosťou. Toto je dokonalá spomienka na jeho históriu, to znamená záznam všetkých akcií, počnúc okamihom, keď o rozume nebolo ani reči.

Potom otázka "ako som vznikol?" lebo táto myseľ – na rozdiel od našej – nebude otázkou.

Inovátori. Ako pár géniov, hackerov a geekov prinieslo digitálnu revolúciu Isaacson Walter

Dokáže stroj myslieť?

Dokáže stroj myslieť?

Keď Alan Turing premýšľal o vytvorení počítača s uloženým programom, upozornil na vyhlásenie Ady Lovelaceovej o storočie skôr vo svojej poslednej poznámke o Babbageovom analytickom stroji. Tvrdila, že stroje nebudú schopné myslieť. Turing si položil otázku: ak stroj dokáže zmeniť svoj vlastný program na základe informácií, ktoré spracováva, nie je to forma učenia? Mohlo by to viesť k vytvoreniu umelej inteligencie?

Otázky súvisiace s umelou inteligenciou vznikli už v staroveku. Zároveň sa vynárali aj otázky súvisiace s ľudským vedomím. Ako pri väčšine diskusií tohto druhu, Descartes zohral dôležitú úlohu pri ich uvádzaní do moderných termínov. Vo svojom pojednaní o metóde z roku 1637 (ktorý obsahuje známy výrok „Myslím, teda som“) Descartes napísal:

Ak by sme mali vyrobiť stroje, ktoré by sa podobali našim telám a napodobňovali naše činy, pokiaľ je to možné, potom by sme stále mali dva isté spôsoby, ako vedieť, že nejde o skutočných ľudí. Po prvé, takýto stroj by nikdy nemohol používať slová alebo iné znaky, ktoré by ich kombinovali ako my, aby sprostredkovali svoje myšlienky ostatným. Po druhé, hoci by takýto stroj mohol robiť veľa vecí rovnako dobre a možno lepšie ako my, v iných by určite zlyhal a zistilo by sa, že koná nevedome.

Turing sa už dlho zaujímal o to, ako môže počítač replikovať fungovanie ľudského mozgu, a jeho zvedavosť ešte viac podporila práca na strojoch, ktoré dešifrovali zakódované správy. Začiatkom roku 1943, keď už bol Bletchley Park pripravený kolos, Turing prekročil Atlantik a zamieril k nemu zvonica, so sídlom na Dolnom Manhattane, na konzultáciu so skupinou pracujúcou na šifrovaní reči pomocou elektronického zariadenia (scramblera), čo je technológia, ktorá dokáže šifrovať a dešifrovať telefonické rozhovory.

Tam stretol farebného génia – Clauda Shannona, ktorý ako absolvent Massachusettského technologického inštitútu napísal v roku 1937 prácu, ktorá sa stala klasikou. V ňom ukázal, ako možno pomocou elektronických obvodov zobraziť booleovskú algebru, ktorá predstavuje logické vety ako rovnice. Shannon a Turing sa začali stretávať pri čaji a viedli dlhé rozhovory. Obaja sa zaujímali o vedu o mozgu a pochopili, že ich práca z roku 1937 má niečo spoločné a zásadné: ukázali, ako sa stroju, ktorý pracuje s jednoduchými binárnymi príkazmi, dajú nastaviť nielen matematické, ale aj všelijaké logické problémy. A keďže logika bola základom ľudského myslenia, stroj mohol teoreticky reprodukovať ľudský intelekt.

„Shannon chce nakŕmiť [stroj] nielen dátami, ale aj kultúrnymi dielami! Turing raz povedal svojim kolegom Bell Lab na obed. "Chce pre ňu zahrať niečo hudobné." Na ďalšom obede v jedálni Bell Labs Turing prehovoril svojim vysokým hlasom, ktorý počuli všetci v miestnosti: „Nie, nepostavím silný mozog. Snažím sa skonštruovať len priemerný mozog – ako napríklad prezident American Telephone and Telegraph Company.

Keď sa Turing v apríli 1943 vrátil do Bletchley Parku, spriatelil sa s kolegom Donaldom Michiem a veľa večerov trávili hraním šachu v neďalekej krčme. Často diskutovali o možnosti postaviť šachový počítač a Turing sa rozhodol pristúpiť k problému novým spôsobom. Totiž: nevyužiť priamo všetku silu stroja na výpočet každého možného ťahu, ale pokúsiť sa dať stroju možnosť naučiť sa šachovú hru sám, neustále trénovať. Inými slovami, po každej novej výhre alebo prehre jej dajte možnosť vyskúšať nové gambity a zlepšiť svoju stratégiu. Takýto prístup, ak by bol úspešný, by bol výrazným prelomom, ktorý by potešil Adu Lovelace. Ukázalo sa, že stroje sú schopné viac než len nasledovať pokyny, ktoré im dávajú ľudia – mohli by sa učiť zo skúseností a zlepšovať svoje vlastné príkazy.

„Verí sa, že počítače môžu vykonávať iba úlohy, na ktoré dostanú inštrukcie,“ vysvetlil vo februári 1947 v prejave pre London Mathematical Society. "Ale je potrebné, aby sa vždy používali týmto spôsobom?" Potom diskutoval o možnostiach nových počítačov s uloženým programom, ktoré by mohli samy upravovať tabuľky s pokynmi, a pokračoval: „Mohli by sa stať študentmi, ktorí sa veľa naučili od svojho učiteľa, ale pridali oveľa viac svojich vlastných. Myslím si, že keď sa to stane, budeme musieť priznať, že stroj demonštruje prítomnosť inteligencie.

Keď skončil prejav, publikum na chvíľu stíchlo, ohromené Turingovým vyhlásením. Jeho kolegovia v Národnom fyzikálnom laboratóriu vôbec nechápali Turingovu posadnutosť stavaním mysliacich strojov. Riaditeľ Národného fyzikálneho laboratória Sir Charles Darwin (vnuk evolučného biológa) v roku 1947 napísal svojim nadriadeným, že Turing „chce rozšíriť svoju prácu na stroji ešte ďalej smerom k biológii“ a odpovedal na otázku: „Môže takýto stroj kto sa môže poučiť z jej skúseností?

Turingova odvážna myšlienka, že stroje by jedného dňa mohli myslieť ako ľudia, bola v tom čase vehementne namietaná a stále je. Boli tam tak celkom očakávané náboženské námietky, ako aj nenáboženské, no veľmi emotívne, obsahovo aj tónovo. Neurochirurg Sir Geoffrey Jefferson v prejave prednesenom pri príležitosti udelenia prestížnej Listerovej medaily v roku 1949 vyhlásil: ich myšlienky a emócie, a nie kvôli náhodnému výberu symbolov. Turingova odpoveď reportérovi z Londýna Timss, zdalo sa byť trochu frivolné, ale jemné: "Porovnanie možno nie je úplne spravodlivé, keďže sonet napísaný strojom lepšie posúdi iný stroj."

Tak bol položený základ pre druhú Turingovu kľúčovú prácu „Computing Machinery and the Mind“, publikovanú v časopise Myseľ v októbri 1950. V ňom opísal test, ktorý sa neskôr stal známym ako Turingov test. Začal jasným vyhlásením: „Navrhujem zvážiť otázku: ‚Dokážu stroje myslieť?‘“ So vzrušením školáka vymyslel hru – a stále sa hrá a stále sa o nej diskutuje. Ponúkol sa, že tejto otázke dá skutočný význam, a sám dal jednoduchú funkčnú definíciu umelej inteligencie: ak sa odpoveď stroja na otázku nelíši od odpovede, ktorú dáva človek, nebudeme mať žiadne rozumné dôvody na to, aby veriť, že stroj „nemyslí“.

Turingov test, ktorý nazval Imitačná hra, je jednoduchý: skúšajúci posiela písomné otázky osobe a stroju v inej miestnosti a snaží sa určiť, ktorá z odpovedí patrí danej osobe. Turing ponúkol príklad dotazníka:

Otázka: Prosím, napíšte mi sonet o Forth Bridge.

odpoveď: Nepýtajte sa ma na to. Nikdy som nevedela písať poéziu.

Otázka: Pridajte 34 957 a 70 764.

O (pauza asi 30 sekúnd a potom odpoveď): 105,621.

O: Hráte šach?

B: Len mám K(kráľ) na K1, a žiadne ďalšie čísla.

Vy len máte K na K6 a R(veža) na R1. Si na rade. Kam ideš?

O (po prestávke 15 sekúnd): R na R8, mat.

Tento príklad Turingovho dialógu obsahuje niekoľko dôležitých vecí. Starostlivé skúmanie ukazuje, že odpovedajúci po tridsiatich sekundách rozmýšľania urobil navyše malú chybu (správna odpoveď je 105 721). Znamená to, že bol človek? Možno. Ale potom možno tento prefíkaný stroj predstieral, že je človek. Turing tiež reagoval na Jeffersonov argument, že stroj nemôže napísať sonet: je možné, že vyššie uvedenú odpoveď dal muž, ktorý sa priznal, že nevie písať poéziu. Neskôr v článku Turing poskytol ďalší imaginárny prieskum, ktorý demonštruje náročnosť použitia písania sonetov ako kritéria pre to, aby sme boli človekom:

O: Myslíte si, že prvá veta sonetu: „Mám ťa prirovnať k letnému dňu“ by sa nepokazila, ba dokonca nevylepšila, keby sme ju nahradili výrazom „jarný deň“?

Odpoveď: Potom bude veľkosť porušená.

Otázka: Čo tak zmeniť na „zimný deň“? Potom je veľkosť ok.

A: Áno, ale nikto sa nechce porovnávať so zimným dňom.

O: Chcete povedať, že vám pán Pickwick pripomína Vianoce?

O: Svojím spôsobom.

Otázka: Vianočné sviatky však pripadajú na zimný deň a nemyslím si, že by pán Pickwick namietal proti takémuto prirovnaniu.

A: Nemyslím si, že to myslíš vážne. Zimný deň sa zvyčajne chápe ako typický zimný deň, a nie výnimočný, ako sú Vianoce.

Zmyslom Turingovho príkladu je, že sa nemusí dať rozlíšiť, či respondentom bol človek alebo stroj, ktorý sa za človeka vydáva.

Turing naznačil, že túto simulačnú hru by mohol vyhrať počítač: „Verím, že približne do päťdesiatich rokov bude možné naučiť sa programovať počítače... že dokážu hrať simuláciu tak dobre, že šanca priemerného skúšajúceho správne identifikovať odpovedajúceho po piatich minútach nebude hlasovanie viac ako 70 %.

Turing sa vo svojej práci pokúsil vyvrátiť mnohé možné námietky proti svojej definícii mysle. Zmietol teologický argument, že Boh dal dušu a myseľ len ľuďom, argumentujúc, že ​​to „implikuje vážne obmedzenie všemohúcnosti Všemohúceho“. Spýtal sa, či má Boh „slobodu dať dušu slonovi, ak to uzná za vhodné“. Predpokladajme, že áno. Z rovnakej logiky (ktorá vzhľadom na to, že Turing bol neveriaci, znie žieravo) vyplýva, že Boh určite môže darovať dušu a stroj, ak si to želá.

Najzaujímavejšou námietkou, na ktorú Turing odpovedá – najmä pre náš príbeh – je námietka Ady Lovelace, ktorá v roku 1843 napísala: „Analytický stroj nepredstiera, že vytvára niečo skutočne nové. Automat dokáže všetko, čo mu vieme naordinovať. Môže nasledovať analýzu, ale nemôže predvídať žiadne analytické závislosti alebo pravdy.“ Inými slovami, na rozdiel od ľudskej mysle, mechanické zariadenie nemôže mať slobodnú vôľu alebo sa chopiť vlastnej iniciatívy. Môže robiť len to, čo je naprogramované. Turing vo svojom dokumente z roku 1950 venoval časť tomuto výroku a nazval ho „Námietka lady Lovelaceovej“.

Dômyselnou odpoveďou na túto námietku bol argument, že stroj sa v skutočnosti môže učiť, čím sa stáva mysliacim manažérom, ktorý je schopný produkovať nové myšlienky. „Prečo namiesto písania programu napodobňujúceho myslenie dospelých neskúsiť napísať program, ktorý napodobňuje myslenie dieťaťa? pýta sa. "Ak začnete vhodný proces učenia, môžete nakoniec získať inteligenciu dospelého." Priznal, že proces výučby počítača by bol iný ako u dieťaťa: „Napríklad nie je možné vybaviť ho nohami, takže nemôže byť požiadané, aby šiel zbierať uhlie do krabice. Asi nemôže mať oči... Toto stvorenie nemôžete poslať do školy – pre ostatné deti to bude na smiech. Preto sa detský strojček musí učiť inak. Turing navrhol systém trestov a odmien, ktorý by povzbudil stroj, aby opakoval niektoré akcie a vyhýbal sa iným. Koniec koncov, takýto stroj by mohol rozvíjať svoje vlastné nápady a vysvetlenia pre tento alebo ten jav.

Ale aj keby stroj mohol napodobňovať myseľ, Turingovi kritici tvrdili, nebola by to práve myseľ. Keď človek prejde Turingovým testom, používa slová, ktoré sú spojené so skutočným svetom, emóciami, zážitkami, vnemami a vnemami. Stroj to nerobí. Bez takýchto spojení sa jazyk stáva len hrou oddelenou od významu.

Táto námietka viedla k najdlhšie trvajúcemu vyvráteniu Turingovho testu, ktorý vo svojej eseji z roku 1980 sformuloval filozof John Searle. Navrhol myšlienkový experiment nazvaný „Čínska miestnosť“, v ktorom anglicky hovoriaci človek, ktorý nevie po čínsky, dostane kompletný súbor pravidiel na vysvetlenie, ako vytvoriť akúkoľvek kombináciu čínskych znakov. Dostane súbor hieroglyfov a pomocou pravidiel vytvára ich kombinácie, ale nerozumie významu fráz, ktoré zložil. Ak sú pokyny dostatočne dobré, osoba by mohla presvedčiť skúšajúceho, že skutočne hovorí po čínsky. Napriek tomu by nerozumel jedinému textu, ktorý sám zložil, neobsahoval by žiadny význam. V terminológii Ady Lovelace by netvrdil, že vytvorí niečo nové, ale jednoducho vykoná akcie, ktoré mu bolo prikázané. Podobne aj stroj v Turingovej imitačnej hre, bez ohľadu na to, ako dobre dokáže napodobňovať ľudskú myseľ, nebude rozumieť ničomu, čo sa hovorí, ani si toho nebude vedomý. Nemá väčší zmysel povedať, že stroj „myslí“, ako povedať, že človek, ktorý sa riadi mnohými pokynmi, rozumie čínštine.

Jednou z reakcií na Searleho námietky bolo tvrdenie, že aj keď človek nerozumie čínsky, celý systém ako celok zostavený v čínskej miestnosti, teda človek (jednotka na spracovanie údajov), návod na manipuláciu so znakmi (program) a súbory so znakmi (údaje) môžu skutočne rozumieť čínštine. Tu neexistuje definitívna odpoveď. Turingov test a námietky voči nemu zostávajú dodnes najdiskutovanejšou témou v kognitívnych vedách.

Niekoľko rokov po tom, čo Turing napísal Computing Machines and the Mind, sa zdalo, že sa rád zúčastňuje hádok, ktoré sám vyvolal. So štipľavým humorom vyvracal tvrdenia tých, ktorí bľabotali o sonetoch a vznešenom vedomí. V roku 1951 si z nich robil srandu: „Jedného dňa si dámy vezmú svoje počítače na prechádzku do parku a povedia si:“ Môj počítač dnes ráno hovoril také zábavné veci! „Ako neskôr poznamenal jeho mentor Max Newman,“ jeho vtipné, ale brilantne presné analógie, ktorými vysvetľoval svoje názory, z neho urobili úžasného partnera.

Počas diskusií s Turingom sa viackrát objavila jedna téma, ktorá sa čoskoro stala neslávne známou. Zaoberal sa rolou pre stroje neznámej sexuality a emocionálnych túžob vo fungovaní ľudského mozgu. Príkladom je verejná diskusia, ktorá sa konala v januári 1952 na televíznom kanáli BBC medzi Turingom a neurochirurgom Sirom Geoffreyom Jeffersonom. Túto debatu moderovali matematik Max Newman a filozof vedy Richard Braithwaite. Braithwaite, ktorý tvrdil, že na vytvorenie skutočného mysliaceho stroja je „potrebné vybaviť stroj niečím ako súborom fyzických potrieb“, uviedol: „Záujmy človeka sú z veľkej časti určené jeho vášňami, túžbami. , motivácie a inštinkty." Newman sa pripojil a povedal, že stroje "majú dosť obmedzené potreby a nemôžu sa červenať, keď sú v rozpakoch." Jefferson zašiel ešte ďalej, opakovane používal ako príklad termín „sexuálne pudy“ a odvolával sa na ľudské „emócie a inštinkty, napríklad tie, ktoré súvisia so sexom“. "Človek je obeťou sexuálnych túžob," povedal, "a môže zo seba urobiť blázna." O tom, ako sexuálne túžby ovplyvňujú ľudské myslenie, hovoril toľko, že redaktori BBC vystrihol niektoré z jeho poznámok z relácie, vrátane výroku, že by neveril, že počítač dokáže myslieť, kým ho neuvidí, ako sa dotkol nohy ženského počítača.

Turing, ktorý stále tajil svoju homosexualitu, sa počas tejto časti diskusie odmlčal. V týždňoch pred záznamom prenosu z 10. januára 1952 urobil množstvo vecí, ktoré boli také čisto ľudské, že by ich stroj považoval za nepochopiteľné. Práve dokončil akademickú prácu a potom napísal príbeh o tom, ako sa chystal osláviť túto udalosť: „Už je to dosť dlho, čo niekoho ‚mal‘, vlastne od minulého leta, keď stretol toho vojaka v Paríži. Teraz, keď je jeho práca hotová, môže dôvodne veriť, že si zaslúžil právo na vzťah s gayom a vedel, kde nájsť správneho kandidáta.

V Manchestri na Oxford Street našiel Turing devätnásťročného flákača menom Arnold Murray a nadviazal s ním vzťah. Keď sa vrátil z BBC po nahrávaní relácie pozval Murrayho, aby sa k nemu presťahoval. Raz v noci Turing povedal mladému Murrayovi o svojom nápade hrať šach proti podradnému počítaču, ktorý by mohol poraziť, čo v ňom vyvolalo striedanie hnevu, radosti a samoľúbosti. Vzťahy sa počas nasledujúcich dní skomplikovali a Turing sa jedného večera vrátil domov a zistil, že ho okradli. Ukázalo sa, že páchateľom bol Murrayov priateľ. Turing nahlásil incident polícii, nakoniec polícii povedal o svojom sexuálnom vzťahu s Murrayom ​​a Turinga zatkli za „neslušné správanie“.

Na súde v marci 1952 Turing priznal vinu, hoci dal jasne najavo, že necíti žiadnu ľútosť. Max Newman bol predvolaný ako svedok poskytujúci názor na charakter obžalovaného. Odsúdený a diskvalifikovaný Turing si musel vybrať: väzenie alebo prepustenie, podrobený hormonálnej terapii injekciami syntetického estrogénu, ktorý zabíja sexuálne túžby a prirovnáva človeka k chemicky riadenému stroju. Vybral si to druhé a kurz absolvoval rok.

Najprv sa zdalo, že Turing to všetko pokojne znáša, no 7. júna 1954 spáchal samovraždu odhryznutím jablka nasiaknutého kyanidom. Jeho priatelia poznamenali, že sa mu vždy páčila scéna zo Snehulienky, v ktorej zlá víla namáča jablko do jedovatého vývaru. Našli ho v posteli s penou od úst, v tele mal kyanid a vedľa neho ležalo napoly zjedené jablko.

Dokážu to stroje?

John Bardeen (1908-1991), William Shockley (1910-1989), Walter Brattain (1902-1987) v Bell Labs, 1948

Prvý tranzistor vyrobený v Bell Labs

Kolegovia vrátane Gordona Moorea (sediaci vľavo) a Roberta Noycea (stojaci uprostred, s pohárom vína) pripíjali Williamovi Shockleymu (na čele stola) v deň, keď mu bola udelená Nobelova cena v roku 1956.

Tento text je úvodným dielom. Z knihy Odrazy saňového psa autora Ershov Vasilij Vasilievič

Stroj To, čo lietam vzduchom, sa nazýva „osobné lietadlo stredného doletu Tu-154“. Ale tak ako v angličtine je slovo „ship“ ženského rodu, tak aj my, piloti, hovoríme o našom rodnom lietadle: „ona“, „auto“. Náš podávač. To samo o sebe znamená, že my

Z knihy Memoárová próza autora Marina Cvetaeva

GONCHAROV A STROJ V našom zobrazení sa doteraz všetko spievalo spolu. Gončarová prírody, ľudí, národov, so všetkou starobylosťou dedinskej krvi v novosti vznešených žíl, Gončarová - dedina, Gončarová - starovek. Gončarov-strom, starobylý, rustikálny, drevený, drevitý,

Z knihy Moskovské väznice autora Myasnikov Alexey

„Takto nemôžeš rozmýšľať“ Bradatý muž sa zamyslene prechádza po budove recepcie mestskej prokuratúry. Z plešatej hlavy padajú dlhé pramene, spájajú sa so sivou bradou, veľké, čierno-hnedé. Húževnaté oči starostlivo cítia starodávny ornament fasády. Tak zaneprázdnený

Z knihy Články z novín Izvestija autora Bykov Dmitrij Ľvovič

Z knihy Zväzok 4. Kniha 1. Spomienky na súčasníkov autora Marina Cvetaeva

Gončarová a stroj V našom zobrazení sa doteraz všetko spievalo spolu. Gončarová prírody, ľudí, národov, so všetkou starobylosťou dedinskej krvi v novosti vznešených žíl, Gončarová - dedina, Gončarová - starovek. Goncharova - strom, starodávny, rustikálny, drevený,

Z knihy Cesta skalného amatéra autora Žitinskij Alexander Nikolajevič

TIME MACHINE Moskovská skupina TIME MACHINE vznikla na prelome rokov 1968-1969, v tom čase jej členovia ešte chodili do školy. V jednej z prvých stabilných skladieb hrali A. Makarevič (gitara, spev), A. Kutikov (basgitara), S. Kavagoe (organ), Yu.Borzov (bicie). Najprv v repertoári

Z knihy Biznis je biznis: 60 skutočných príbehov o tom, ako obyčajní ľudia začínali a uspeli autora Gansvind Igor Igorevič

Z knihy Spoveď štyroch autora Pogrebizhskaya Elena

Tretia kapitola Myslenie a utrpenie alebo koho ruská filozofia stratila Osobne som si o sebe rád myslel, že som nesentimentálny človek. A ak som medzi zožltnutými stránkami mala nejaké "bezušné" zvädnuté kvety, tak to všetko snahou vôle už dávno

Z knihy Melanchólia génia. Lars von Trier. Život, filmy, fóbie autor Thorsen Niels

Dream Machine Otočí kľúčom v zámke a golfový kočík sa s miernym elektrickým bzučaním rozbehne. Potom otočí auto, zíde z cesty a sebavedomou rukou nás trhne medzi červenú a žltú budovu.

Z knihy Comandante Reflections autor Castro Fidel

Nedeľa Killing Machine Sunday je dobrým dňom na čítanie sci-fi. Bolo oznámené, že CIA má v úmysle odtajniť stovky strán materiálu o svojich nezákonných aktivitách, vrátane plánov na odstránenie zahraničných šéfov vlád. Zrazu zverejnenie týchto

Z knihy Airway autora Sikorskij Igor Ivanovič

Čo môže dať a čo nemôže dať lietadlo s jedným motorom Po vzlete prvých lietadiel v Európe sa podnikanie s lietaním začalo veľmi rýchlo a úspešne rozvíjať. Trvalo niekoľko desaťročí, kým sa začali používať železnice.

autora Isaacson Walter

Dokáže stroj myslieť? Keď Alan Turing premýšľal o zostavení počítača s uloženým programom, upozornil na vyhlásenie Ady Lovelace o storočie skôr vo svojej poslednej „Poznámke“ k Babbageovmu popisu analytického motora. Ona je

Z knihy Inovátori. Ako pár géniov, hackerov a geekov poháňalo digitálnu revolúciu autora Isaacson Walter

„Ako môžeme myslieť“ Myšlienka vytvoriť osobný počítač, ktorý by mohol mať každý doma, prišla k Vanvarovi Bushovi v roku 1945. Zostavil veľký analógový počítač na Massachusetts Institute of Technology (MIT) a nadviazal spoluprácu medzi nimi

Z knihy Aria Margarita autora Pushkina Margarita Anatolievna

„Ako môžeme myslieť“ Myšlienka vytvoriť osobný počítač, ktorý by mohol mať každý doma, prišla do Vanvara Busha v roku 1945. Zostavil veľký analógový počítač na Massachusetts Institute of Technology (MIT) a nadviazal spoluprácu medzi nimi

Z knihy Falošné pojednanie o manipulácii. Fragmenty knihy autorka Blandiana Ana

DEATH MACHINE (hudba S. Terentyev) Myslím, že túto skladbu v podobe, v akej bola nahraná na album Chimera, nikto nepočuje. V extrémnych prípadoch sa objaví na niektorej kolekcii. S najväčšou pravdepodobnosťou to Terenty kreatívne prepracuje, spomalí, prejde cez mlynček na mäso

Z knihy autora

Auto pri bráne Už si presne nepamätám, kedy sa objavilo pred našou bránou - v tých časoch, keď v Bukurešti chodilo oveľa menej áut ako teraz a na ulici je dostatok parkovacích miest - táto biela Škodovka, a v r. je to žena tridsať alebo štyridsaťročná, silná

Idem zvážiť, či stroje dokážu myslieť. Na to však musíme najskôr definovať význam pojmov „stroj“ a „myslieť“. Tieto definície by bolo možné zostaviť tak, aby čo najlepšie odrážali obvyklé používanie týchto slov, ale takýto prístup je spojený s určitým nebezpečenstvom. Ide o to, že ak budeme skúmať význam slov „stroj“ a „myslieť“ skúmaním toho, ako sa tieto slová zvyčajne definujú, ťažko sa vyhneme záveru, že význam týchto slov a odpoveď na otázku "Môžu stroje myslieť?" treba hľadať prostredníctvom štatistického prieskumu podobného Gallupovmu dotazníku. To je však smiešne. Namiesto pokusu o takúto definíciu nahradím našu otázku inou, ktorá s ňou úzko súvisí a je vyjadrená slovami s pomerne jasným významom.

Táto nová forma sa dá opísať ako hra, ktorú budeme nazývať „imitačná hra“. Túto hru hrajú traja ľudia: muž (A), žena (B) a niekto, kto kladie otázky (C), pričom môže ísť o osobu akéhokoľvek pohlavia. Od ostatných dvoch účastníkov hry je otáznik oddelený stenami miestnosti, v ktorej sa nachádza. Cieľom hry pre tazateľa je určiť, ktorý z ďalších dvoch hráčov v hre je muž (A) a ktorý žena (B). Pozná ich ako X a Y a na konci hry povie buď „X je A a Y je B“ alebo „X je B a Y je A“. Je mu dovolené klásť otázky ako:

S: "Požiadam X, aby mi povedal dĺžku svojich (alebo jej) vlasov."

Predpokladajme teraz, že X je v skutočnosti A. V takom prípade musí A dať odpoveď. Pre A je cieľom hry povzbudiť C, aby dospela k nesprávnemu záveru. Takže jeho odpoveď môže znieť takto:

"Moje vlasy sú ostrihané nakrátko a najdlhšie pramene sú dlhé asi deväť palcov."

Aby pytajúci nevedel hlasom určiť, ktorý z ďalších dvoch účastníkov hry je muž a ktorý žena, odpovede na otázky mali dostať písomne ​​a ešte lepšie - na písacom stroji. Ideálnym prípadom by bola telegrafná správa medzi dvoma miestnosťami, kde sa hráči nachádzajú. Ak to nie je možné, odpovede a otázky by mal odovzdať nejaký sprostredkovateľ. Cieľom hry pre tretieho hráča, ženu (B), je pomôcť pýtajúcemu sa. Pre ňu je asi najlepšou stratégiou dávať pravdivé odpovede. Môže mať aj poznámky typu „Žena – ja, nepočúvaj ho!“, ale tým nič nedosiahne, keďže takéto poznámky môže mať aj muž.

Položme si teraz otázku: „Čo sa stane, ak sa tejto hry zúčastní stroj namiesto A?“ Bude sa pýtajúci v tomto prípade mýliť tak často ako v hre, ktorej účastníkmi sú len ľudia? Tieto otázky nahradia našu pôvodnú otázku „Môžu stroje myslieť?“.

II. Kritika novej formulácie problému

Rovnako ako si kladieme otázku: „Aká je odpoveď na problém v jeho novej podobe?“, možno si položiť otázku: „Zaslúži si problém, aby sme ho uvažovali v jeho novej formulácii?“. Túto poslednú otázku zvážime bez toho, aby sme veci odložili na neurčito, aby sme sa k nej neskôr nevrátili.

Nová formulácia nášho problému má tú výhodu, že jasne rozlišuje fyzické a duševné schopnosti človeka. Žiadny inžinier ani chemik netvrdí, že vytvoril materiál, ktorý by bol na nerozoznanie od ľudskej kože. Raz sa môže uskutočniť takýto vynález. Ale aj keď predpokladáme možnosť vytvorenia materiálu na nerozoznanie od ľudskej kože, stále máme pocit, že sotva má zmysel snažiť sa urobiť „mysliaci stroj“ ľudskejším tým, že ho oblečieme do takéhoto umelého mäsa. Forma, ktorú sme problému dali, odráža túto okolnosť pod podmienkou, že tazateľ neprichádza do kontaktu s ostatnými účastníkmi hry, nevidí ich a nepočuje ich hlasy. Niektoré ďalšie výhody zavedeného kritéria možno ukázať na príkladoch možných otázok a odpovedí. Napríklad:

S: Prosím, napíšte sonet o moste cez rieku Forth.

A: Dostaň ma z toho. Nikdy som nemusel písať poéziu.

C: Pridajte 34 957 k 70 764.

A (asi 30 sekúnd je ticho, potom odpovie): 105 621.

S: Hráš šach?

S: Na e8 mám len kráľa a žiadne iné kúsky. Máte iba kráľa na e6 a vežu na h1. ako budete hrať?

A (po 15 sekundách ticha): Rh8. Mat.

Zdá sa nám, že metóda otázok a odpovedí je vhodná na pokrytie takmer akejkoľvek oblasti ľudskej činnosti, ktorú chceme uviesť do úvahy. Nechceme viniť stroj z neschopnosti zažiariť v súťažiach krásy, ani viniť človeka za porážku v súťaži s lietadlom, podmienky hry robia tieto nedostatky irelevantnými. Tí, ktorí odpovedajú, ak to uznajú za vhodné, sa môžu chváliť svojím šarmom, silou alebo odvahou, ako sa im zachce, a pýtajúci sa nemôže požadovať praktické dôkazy.

Možno sa dá našej hre vytknúť, že v nej sú výhody prevažne na strane stroja. Ak by sa niekto pokúsil predstierať, že je stroj, potom by, samozrejme, vyzeral veľmi pateticky. Okamžite by sa prezradil pomalosťou a nepresnosťou vo výpočtoch. Okrem toho, nemôže stroj urobiť niečo, čo by sa malo charakterizovať ako myslenie, ale čo by bolo veľmi odlišné od toho, čo robí človek? Táto námietka je veľmi závažná. V odpovedi na to však môžeme aspoň povedať, že ak je stále možné implementovať stroj, ktorý bude uspokojivo hrať napodobňovanie, potom by sa tejto námietky nemali zvlášť znepokojovať.

Možno poznamenať, že v „imitačnej hre“ nie je vylúčená možnosť, že jednoduché napodobňovanie ľudského správania nebude pre stroj tou najlepšou stratégiou. Takýto prípad je možný, ale nemyslím si, že nás privedie k niečomu zásadne novému. V každom prípade sa v tomto smere nikto nepokúsil preskúmať našu teóriu hier a budeme predpokladať, že najlepšou stratégiou pre stroj je dávať odpovede, ktoré by človek dal v správnom prostredí.

III. Stroje zapojené do hry

Otázka položená v časti I nebude úplne presná, kým neupresníme, čo presne znamená slovo „stroj“. Samozrejme, radi by sme mohli v hre použiť akýkoľvek druh inžinierskeho vybavenia. Sme tiež naklonení pripustiť možnosť, že inžinier alebo skupina inžinierov dokáže postaviť stroj, ktorý bude fungovať, ale nemôže poskytnúť uspokojivý popis toho, ako funguje, pretože metóda, ktorú použili, bola v podstate experimentálna. [pokus-omyl]. Na záver by sme chceli z kategórie strojov vylúčiť ľudí, ktorí sa narodili obyčajným spôsobom. Je ťažké zostaviť definíciu tak, aby spĺňala tieto tri podmienky. Je možné napríklad požadovať, aby všetci konštruktéri stroja boli rovnakého pohlavia, ale v skutočnosti to nestačí, pretože z jednej odobratej bunky je zrejme možné vypestovať úplného jedinca. (napríklad) z ľudskej kože. Urobiť to by bol čin biologického inžinierstva hodný tej najvyššej chvály, ale nie sme naklonení považovať tento prípad za „vybudovanie mysliaceho stroja“.

To nás vedie k myšlienke opustiť požiadavku, aby bola v hre povolená akákoľvek technológia. K tejto myšlienke sa prikláňame o to viac, že ​​náš záujem o „mysliace stroje“ vznikol vďaka špeciálnemu druhu strojov, zvyčajne nazývaných „elektronický počítač“ alebo „digitálny počítač“. Preto dovoľujeme, aby sa našej hry zúčastnili iba digitálne počítače.