Просмотр кода страницы 7.1.1 История человеческих страхов перед машинами

<span id="история-человеческих-страхов-перед-машинами"></span>

Интересно, что страхи людей перед «умными машинами» возникли задолго до того, как человечеству удалось приблизиться к возможности их создания.

Знаменитая легенда о големе имеет истоки в раннем иудаизме. В Талмуде (трактат «Сангедрин» [<span dir="rtl">‏סנהדרין‏</span>‎], от греч. συνέδριον — собрание) создание голема [<span dir="rtl">גולם</span>] является одним из этапов создания человека: «''В первый час собрал Всевышний прах со всей Земли. Во второй час — сделал голема (грубую форму). В третий — оформил части тела. В четвёртый — вдохнул в него душу…''» и так далее<ref>Эссас Э. (2001). О Трактате Санѓедрин / Еврейский сайт из Ерусалима. Ежедневный лист Талмуда // https://evrey.com/sitep/talm/index.php3?trkt=list&amp;menu=37_43</ref>.

Создание голема (как прислуги для работы по дому) в XI в. приписывают еврейскому поэту и философу Шломо бен Иехуде ибн Гвиролю, а в конце XII – начале XIII в. в трактате «Секреты таинств» (<span dir="rtl">רזייא סודי</span>, Sodei Razaya)<ref><span dir="rtl">סודי רזיא - אלעזר בן יהודה, מגרמיזה</span> / HebrewBooks.org // https://www.hebrewbooks.org/pdfpager.aspx?req=39230&amp;st=&amp;pgnum=18</ref>, написанном раввином Элеазаром бен Иудой бен Калонимосом из Вормса, приводится самое раннее письменное руководство по созданию голема.

Но наиболее известна история (впервые встречающаяся в анонимном манускрипте первой половины XVII в.) о том, как рабби Элияху бен Аарон Иегуда из Хелма создал голема. Начертанное на лбу глиняного существа слово «эмет» (<span dir="rtl">אמת</span>, в переводе с иврита — «истина») оживляло голема, а для «отключения» нужно было стереть первую букву алеф — тогда «эмет» превращалось в «мет» (<span dir="rtl">מת</span>, что означает «мёртвый»)<ref>Kerstein B. (2010). The Golem: Universal and Particular / Jewish Ideas Daily, September 14, 2010 // https://www.jewishideasdaily.com/718/features/the-golem-universal-and-particular/</ref><sup>,</sup> <ref>Zucker R. (2011). “Sefer Yetsirah” and Jewish Mysiticsm Time Line // http://www.emol.org/kabbalah/seferyetzirah/timeline/16to20thcentury.html</ref>. Созданный рабби голем всё увеличивался и увеличивался в размерах, и тогда создатель испугался, что голем может уничтожить весь мир, и стер букву алеф, но не успел вовремя отскочить в сторону. Голем обрушился на рабби и убил его (согласно другому варианту легенды лишь травмировал, оставив на лице шрам).

По другой версии, для оживления голема использовался тетраграмматон (четырёхбуквенное непроизносимое имя бога), который нужно было написать на листе бумаги и либо поместить в рот голема, либо приложить ко лбу, тем самым оживив его. Именно поэтому рабби Элияху и получил почётное имя Ба’ал-Шем («владеющий именем», «шем» [<span dir="rtl">‏השם‏</span>‎] значит «имя», это одно из слов, используемое для замены тетраграмматона). Это «канонический» способ оживления голема — им же пользовался и ибн Гвироль.

Также создание голема приписывается мыслителю и мистику Йехуде Лёву бен Бецалелю из Праги и другим авторитетным раввинам<ref>Blau L., Jacobs J., Eisenstein J. D. (1906). Golem / Jewish Encyclopedia // http://jewishencyclopedia.com/articles/6777-golem</ref>.

[[File:image314.jpeg|642x856px]]

Голем был не единственным огромным боевым человекоподобным роботом в человеческой мифологии. За тысячи лет до него воображение древних греков будоражили сказания о гигантском бронзовом роботе Талосе, искусственной женщине Пандоре и их создателе боге Гефесте.

«''Наша способность представлять искусственный интеллект восходит к древним временам,'' — говорит историк античной науки Адриенна Майор. — ''Задолго до того, как технический прогресс сделал возможными самодвижущиеся устройства, идеи о создании искусственной жизни и роботов были исследованы в древних мифах''».

Впервые темы искусственного интеллекта, роботов и самодвижущихся объектов появляются в работах древнегреческих поэтов Гесиода и Гомера, которые жили где-то между 750 и 650 гг. до н. э. История Талоса, которую Гесиод впервые упомянул около 700 г. до н. э., представляет собой одну из самых ранних концепций робота.

Миф описывает Талоса как гигантского бронзового человека, построенного Гефестом, греческим богом изобретений и кузнечного дела. Зевс, царь греческих богов, поручил Талосу защитить остров Крит от захватчиков. Талос трижды в день обходил остров дозором и бросал валуны в приближающиеся вражеские корабли (не в этом ли мифе черпал вдохновение Пушкин, рассказывая о дружине Черномора, охранявшей остров царевича Гвидона?).

Сквозь тело гиганта — от головы до одной из ног — проходила вена, несущая таинственный божественный источник жизни, который греки называли ихором. Другой древний текст, поэма «Аргонавтика» (Ἀργοναυτικά), датируемый III в. до н. э., описывает, как колдунья Медея победила Талоса, вынув медный гвоздь на его лодыжке, в результате чего ихор вытек из вены — и жизнь оставила гиганта.

Ещё один пример мифического искусственного существа — Пандора, первое упоминание о которой встречается в «Теогонии» Гесиода. Хотя более поздние версии мифа изображают Пандору невинной женщиной, которая неосознанно открыла ящик со злом, у Гесиода Пандора — это злая искусственная женщина, созданная Гефестом и посланная по приказанию Зевса на землю, чтобы наказать людей за похищение огня.

По словам Майор, «''можно утверждать, что Пандора была своего рода ИИ-агентом. Её единственная миссия заключалась в том, чтобы проникнуть в человеческий мир и открыть сосуд с несчастьями''».

[[File:image315.jpeg|642x481px]]

Помимо Талоса и Пандоры, Гефест создал и другие человекоподобные машины. Например, автоматических слуг, которые выглядели как женщины, но были сделаны из золота. Согласно Гомеру Гефест дал этим искусственным женщинам знания богов.

Майор отмечает, что ни в одном из этих мифов отправка искусственных существ на землю не заканчивается добром. Можно сказать, что лейтмотивом античных сказаний об искусственных существах является мысль о том, что неплохо, когда такие существа используются богами, но как только эти продукты божественной технологии взаимодействуют с людьми, мы получаем хаос и разрушение<ref>Shashkevich A. (2019). Greek myths have some scary ideas about robots and A.I / Futurity, March 5th, 2019 // https://www.futurity.org/artificial-intelligence-greek-myths-1999792/</ref><sup>,</sup> <ref>Mayor A. (2020). Gods and Robots: Myths, Machines, and Ancient Dreams of Technology. Princeton University Press // https://books.google.ru/books?id=2cy4DwAAQBAJ</ref>.

Развитие механических вычислительных машин в XIX в. с новой силой пробудило страхи людей перед развитием технологий. Вот, к примеру, что писал в 1847 г. преподобный Ричард Торнтон, редактор религиозного журнала ''Primitive Expounder'' [Простой Толкователь]: «''Ум… опережает сам себя и расправляется с необходимостью собственного существования, изобретая машины, которые должны вместо него мыслить… Как знать, однако, не замыслят ли таковые машины, будучи доведены до большого совершенства, устранить все свои недостатки, а затем напечь идеи, недоступные разуму простого смертного!''»<ref>Thornton R. (1847). The Age of Machinery / Primitive Expounder, Devoted to Theoretical and Practical Religion, Expounded in Its Primitive Purity, Excellence and Loveliness by R. Thornton &amp; J. Billings, Vol. 4 // https://books.google.ru/books?id=ZM_hAAAAMAAJ</ref><sup>,</sup> <ref>Рассел С. (2021). Совместимость: как контролировать искусственный интеллект. — М.: Альпина нон-фикшн // https://www.google.ru/books?id=OacEEAAAQBAJ</ref>

В 1863 г., через четыре года после того, как Чарльз Дарвин опубликовал «Происхождение видов», писатель Сэмюэл Батлер под псевдонимом Cellarius в статье «Дарвин среди машин» (Darwin among the Machines)<ref>Cellarius (1863). Darwin Among the Machines[To the Editor of the Press, Christchurch, New Zealand, 13 June, 1863.] // http://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html</ref> высказал идею о том, что эволюционирующие машины рано или поздно вытеснят человечество как доминирующий вид. Батлер предлагал немедленно уничтожить все машины, чтобы избежать этого печального исхода. Он писал:

''Мы имеем в виду вопрос: какими скорее всего будут существа, которые станут доминирующим видом на Земле после людей. Мы часто слышали об этом споре; но нам кажется, что мы сами создаём собственных преемников; мы ежедневно добавляем красоту и тонкость их физической организации; мы ежедневно наделяем их большим могуществом и с помощью всевозможных изобретательных приспособлений снабжаем их той саморегулирующейся, самодействующей силой, которая будет для них тем же, чем стал интеллект для человеческого рода. С течением времени мы обнаружим себя в роли низшей расы. &lt;…&gt; День ото дня машины набирают силу; день ото дня мы становимся более подчинёнными им; всё больше людей ежедневно приковываются к ним, как рабы, чтобы ухаживать за ними, всё больше людей ежедневно посвящают энергию всех своих жизней развитию механической жизни. Результат — это просто вопрос времени, но то, что наступит время, когда машины будут иметь реальное превосходство над миром и его обитателями, — это то, в чём ни один человек с истинно философским складом ума не может ни на мгновение усомниться''.

Статья заканчивается пламенным призывом: «''Против них должна быть немедленно объявлена смертельная война. Каждую машину любого рода должен уничтожить тот, кто желает добра своему виду. Пусть не будет никаких исключений, ни на йоту; давайте же немедленно вернёмся к первобытному состоянию нашей расы''».

В 1872 г. Батлер (вновь анонимно) публикует сатирический роман-антиутопию под названием «Едгин, или За пределом» (Erewhon: or, Over the Range)<ref>Butler S. (2017). Erewhon, Or Over the Range. CreateSpace Independent Publishing Platform // https://books.google.ru/books?id=d6x9tAEACAAJ</ref> (слово ''Erewhon'', обозначающее вымышленную страну, в которой происходят действия романа, это анаграмма слова ''nowhere'', т. е. «нигде», поэтому по-русски её иногда передают как «Едгин»). В этом романе машиноненавистнические идеи Батлера получают дальнейшее развитие. В 1901 г. выходит продолжение романа под названием «Спустя двадцать лет первооткрыватель страны и его сын возвращаются в Едгин» (Erewhon Revisited Twenty Years Later, Both by the Original Discoverer of the Country and by His Son)<ref>Butler S. (2019). Erewhon Revisited Twenty Years Later, Both by the Original Discoverer of the Country and by His Son. Good Press // https://books.google.ru/books?id=8sPCDwAAQBAJ</ref>. Именно в честь Батлера автор вселенной «Дюны» писатель Фрэнк Герберт назвал крестовый поход человечества против компьютеров, мыслящих машин и наделённых разумом роботов Батлерианским джихадом<ref>Hsu S. (2016). The Butlerian Jihad and Darwin among the Machines / Michigan State University, Spartan Ideas, March 29, 2016 // https://spartanideas.msu.edu/2016/03/29/8624/</ref>.
<references />
<comments />