Н. Н. Григорьев, проф. кафедры технических средств судовождения им. проф. Е.Л.Смирнова, Государственный университет морского и речного флота им. адм. С.О.Макарова

А. Н. Григорьев, инженер-механик судовых ядерных энергетических установок, директор по развитию ООО «РТС»

Компьютерные соблазны

«Как сделать сокровенное, мудрое, важное тривиальным и надоевшим? Очень просто. Его надо все время повторять и тиражировать». И, как писал В. Маяковский: «Слова у нас, до важного самого, в привычку входят, ветшают как платье». «Как сделать блестящее изобретение обыденным и привычным? Ну, конечно, снизить цены и начать использовать самым примитивным образом» [1].

От ряда конференций по синергетике сейчас остается такое же впечатление. Употребление красивых терминов или магических формул не гарантирует, что доклад имеет к ней какое-то отношение. После того, как авторам этих строк в прошлом году довелось услышать, что "Бах офракталивал свои произведения" и что "синергетику надо внедрять в культуру и культуру в синергетику", стало ясно – для синергетики опасность "растворения" и утраты смыслов вполне реальна.

За последние два с небольшим столетия естественные науки и математика сделали огромный скачок. Это очень любопытно проследить, перечитав гегелевскую «Энциклопедию философских наук». С одной стороны, глубокие и оригинальные суждения об эстетике, религии: «Атом на деле сам представляет собой мысль, и понимание материи, как состоящей из атомов, есть, следовательно, метафизическое ее понимание» [2] Великий философ не осознавал пределов своей парадигмы. Пути естественных и гуманитарных наук начали быстро расходиться. Физика, химия, математика стремительно двинулись по пути специализации. И уже со второй половины века "физик" (физика полупроводников, моря, земли, плазмы, Солнца, элементарных частиц и прочая, и прочая, и прочая) на физических факультетах стало так много, что коллеги сейчас часто весьма приблизительно представляют и математический аппарат, и экспериментальные методики, используемые на соседней кафедре. А ведь еще в начале века Д.И. Менделеев, обсуждая университетское образование, предлагал готовить специалистов по математике, физике, химии и биологии на одном факультете» [1].

К сказанному можно добавить: модным стало прилагательное от слова квант – квантовая психология, квантовая кулинария. Список слов, стремительно «ветшающих» можно продолжить.

То же самое случилось с искусственным интеллектом (ИИ). ИИ наделяют любое действие, в котором не принимает участие человек. Уже стал привычным «человечек» на колесах, который прокатывается по выставочным залам и заводит разговоры с посетителями на примитивные темы из повседневного быта. И вовсе не факт, что он сам ведет эти разговоры. Издревле известны автоматы, играющие в шахматы.

Происходит нечто такое, когда, наделяя изобретение мощными крыльями, вовсе лишают их смысла.

Очевидность обманчива

Галилей сделал открытие - Земля вращается вокруг Солнца, за что был вызван на папский суд. Папа потребовал, чтобы Галилей изменил это утверждение в книге, поскольку оно противоречит христианству. Библия говорит, что Солнце вращается вокруг Земли, и это подтверждается опытом каждого: видимым образом Солнце утром встает на востоке, а вечером садится на западе, и, обойдя круг, утром вновь появляется на востоке. «Мы не ощущаем, что Земля вращается вокруг Солнца. Поэтому Библия просто высказывает всеобщий опыт, а не нечто научное».

Природа мироздания такова, что «очевидность» и теория вступают в противоречие. Папа потребовал: «Ты должен изменить это предложение, потому что Библия - святая книга, написанная Богом: он не может ошибаться».

На что Галилей ответил: «Никаких проблем. Я изменю это предложение, но, Ваша Честь, помните, что изменение предложения не изменит факта: Земля будет продолжать вращаться вокруг Солнца. Вы можете меня убить, вы можете сжечь мои книги, но это никак не повлияет на движение Земли. Она будет продолжать вращаться вокруг Солнца» [3].

Приведенный диалог свидетельствует о «преступности» столь значимого для человека качества, отличающего его от животного, - мышления. «Ни одно общество не хочет, чтобы его члены мыслили. Мышление опасно. Общество хочет роботов, которые просто делают все, что бы им ни говорили, которые не могут сказать "нет", - это для них невозможно. Они – машины.

Не случайно каждое развитое общество заменяет людей машинами. Машины послушны, никогда не мятежны. Ты когда-нибудь слышал о машине, которая была бы революционером или бунтарем? До сих пор никогда не случалось такого, чтобы нам пришлось распять машину. Машины - очень респектабельный народ. Я не машина. [3].

И подобное происходит всегда, «когда недостаток знания заменяется излишним усердием, и при этом страдает логика и создаются нелепости» [4].

Важное значение для создании искусственного интеллекта имеет переход от субъективного восприятия к объективному.

Диаметр Солнца, находящегося в зените и находящегося на горизонте, существенно отличается. Солнце, находящееся на горизонте, существенно больше, чем тогда, когда оно находится в зените. Ошибочность суждения открывается при измерении его диаметра при помощи секстана – диаметр в обоих случаях одинаковый. И что примечательно - объективность не ведет к устранению субъективности. В интернете можно найти объяснения такому субъективному восприятию, но они туманны и неубедительны и подаются в виде версий.

Если сфотографировать Солнце, находящееся в зените и на горизонте, то диаметр в обоих случаях будет тот же самый. ИИ, несомненно, должен пользоваться объективной информацией, при этом ему будет чуждо субъективное восприятие. Более того, эта грань перехода от субъективного восприятия к объективному для ИИ будет непреодолима.

Возможно, что тест Тьюринга искусственный интеллект и одолеет, но это будет лишь субъективным мнением экспертов. Разница в восприятии информации человеком и ИИ станет камнем преткновения на пути создания ИИ, равного интеллекту человека. Это подобно ситуации с искусственным медом: сладкий, тягучий и прочее, но не мед. Нейлоновые рубашки – лучше по многим качествам, но не хлопок. «Слова нельзя проституировать безнаказанно» [5].

При создании ИИ не удастся избежать неполноты информации. «Самый тяжкий грех – поверхностность» [там же]. Поверхностность проявляется уже в том, что не дается определение самого термина «интеллект», определения нет, быть не может.

«Возникает ощущение, что мы имеем в руках сокровище, но не очень-то понимаем, как им распорядиться. И как любой очень большой дар, этот дар может быть опасен. Встает естественный вопрос, как им разумно воспользоваться» [1].

«Человек может понять и принять такую теорию и такое учение, до которого он дорос». Увы, на практике «иногда бывает усердия больше, чем разума» [4].Телевизионное шоу «Удивительные люди» и другие подобные передачи наглядно свидетельствуют, что человек еще далеко не исчерпал свои возможности. Чем же объяснить, что людей, обладающих удивительными способностями, не так уж и много? Это подобно ситуации с ночным костром на лесной поляне, когда страх мешает выходить за пределы круга освещенности. Такой же страх мешает человеку выходить за пределы обыденности. Выходить за пределы «круга» – это удел одиночек. Потребности прогресса, в сочетании с недоверием самому себе, привели к потребности замены некоторых интеллектуальных функций человека искусственными - механистическими. Термин «искусственный интеллект» стал настолько расхожим, что его употребляют к месту, и не к месту. Этому способствует стремление быть на гребне волны успеха и популярности, что не всегда оправдано, поскольку вносит сумятицу в реальное состояние проблемы по созданию искусственного интеллекта.

Интеллект и искусственный интеллект

Современные технологии позволяют решать грандиозные задачи, но увлечение и очарование компьютерными возможностями зашло далеко - в область человеческой психики, когда человек теряет свою индивидуальность, что чревато потерей свободы и воли. Слепое доверие механизмам с низведением роль человека до примитивных действий, приводит к стагнации мыслительных процессов, к деградации личности.

В последнее время прогресс все чаще увязывается с ИИ. Но прежде, чем перейти к понятию «искусственный интеллект», полезно выяснить, а что такое «интеллект»?

«Интеллект (intelligence) - умственная способность человека или потенциал рациональной мысли и поведения. Природа и измерение интеллекта - одна из наиболее дискуссионных тем в социальных науках. Основной вопрос касается того, что мы обозначаем данным понятием. Ранние теории принимали очень узкий диапазон когнитивных способностей - абстрактное рассуждение, понимание и память, хотя и делали акцент на существовании общего фактора интеллекта, присущего всем видам мастерства (например, Спирмен), противопоставляя его множеству различных первичных умственных способностей (например, Терстоун).

Современные ученые склоняются к расширению понятия, чтобы охватить практические решения проблем и творческий потенциал. Второй вопрос - в какой мере интеллект наследуется биологически или приобретается в результате освоения опыта среды и социализации. Для его прояснения было изобретено множество методов, включая изучение идентичных близнецов и приемных детей, но соотношение воздействия наследственности и окружающей среды остается не выявленным. Важное значение для образовательных процессов имеют модели характера интеллекта. Одна из них находит выражение в когнитивных теориях развития, подчеркивающих роль интеракции между унаследованным потенциалом и влиянием среды. Этот подход иллюстрируется в работах Пиаже (1932) и Брунера (1968), где оба автора идентифицируют качественно разные стадии умственного развития и усвоения. Они оказали значительное влияние на структуру образования в последние десятилетия».

И, как следствие не вполне вразумительного определения, логичным представляется переход к термину ИИ. «Искусственный интеллект и искусственное сознание (artificial intelligence and artificial consciousness) – «интеллектуальная» способность, подобная человеческой, присущая, как утверждалось, некоторым машинам, особенно компьютерам, которые основаны на подражании поведению нейронов. Фрэнсис Крик в «Удивительной гипотезе» (1994) доказывает: если поведение реальных нейронов - основа сознания, тогда целесообразно начать разработку искусственного сознания посредством искусственных нейронов. Однако такие прогнозы спорны ввиду сложности человеческого мозга и взаимосвязи его сознания и эмоций, включая волю». [6].

По-настоящему может творить только человек, наделенный интеллектом. И вот тут начинается самое примечательное – а что же такое интеллект? Однозначного ответа на этот вопрос нет.

Ближе всего к ответу на этот вопрос подошли эзотерики.

«Начала, составляющие человека, следующие: 1 — физическое тело; 2 — эфирный, или флюидический, двойник; 3 — жизненный принцип, или астральное тело; 4 — низший, или инстинктивный, ум; 5 — высший ум, или интеллект — рассудок, 6 — духовный ум, или чувствознание — интуиция; и 7 — дух — наша бессмертная сущность — высшее я человека.

Первые четыре начала, т.е. физическое тело, эфирный двойник, астральное тело и низший ум, человек разделяет со всем животным миром. Эти начала образуют низшую природу человека. Пятое начало - рассудок, или интеллект, дающий способность самопознания и познания сущности вещей через рассуждение и логическое мышление, вместе с влияниями четвертого принципа и более высокого шестого образуют среднего человека — его душу. Шестой принцип — чувствознание, интуиция, или духовный ум, — дает человеку способность прозрения, способность проникать в сущность вещей не путем рассуждения или логического мышления, но путем мгновенного озарения, и вместе с седьмым принципом составляет высшую природу человека, его эго, истинную, безначальную и бесконечную сущность, то, что называют частицей Божества, то, что есть наш дух».

Благодаря тому, что жизнь человека, как сказано выше, протекает в трех мирах, никогда не прекращающееся взаимодействие органов восприятия, составляющих человека, его различных оболочек, создает весьма сложный комплекс умственных и духовных проявлений человеческой сущности. Можно сказать, что на настоящей ступени развития человек обладает тремя видами ума: низшим умом, или инстинктом, средним умом, или рассудком, и высшим умом, или способностью прозрения. Эти три вида ума тесно связаны между собой, между ними нет резкой границы, они, обладая многими оттенками, незаметно переходят один в другой.

Исключительно инстинктивным умом пользуются существа, находящиеся на низшей ступени развития, как-то: животные, дикари, дети. Поэтому можно сказать, что инстинктивный ум у человека современного развития — это ум прошлого, рассудок — ум настоящего и способность прозрения — ум будущего.

По мере развития в человеке интеллекта инстинкты постепенно уступают место рассудку, но и человек с развитым интеллектом пользуется и долго еще будет пользоваться этим умом, ибо функции его весьма разнообразны и для человека весьма необходимы» [4].

Здесь вполне уместен вопрос – можно ли все это (еще не до конца осознанное) создать в искусственном интеллекте? Своеобразной «липе» - искусственным меде, имитирующим мед натуральный.

Поэтому задача современных создателей ИИ – создавать «липу». Ничего плохого в этом нет, но термин «искусственный интеллект» требует замены на понятия, более адекватные сути - «автоматизированные системы управления», «роботы». Это более щадящий вариант для человеческой психики. Человек должен знать, что он является вершиной творения, и эта вершина должна непрерывно расти. В человеке должно присутствовать понимание «зазора» между вершиной ИИ и интеллектом человека.

Из приведенного определения явствует, что каждый человек является единственным и неповторимым носителем интеллекта, который не является чем-то застывшим, а находится в непрерывной динамике. И при всем множестве путей развития интеллекта, цель одна.

Да, сама по себе мятежность машины исключена, но она может быть запрограммирована даже таким невинным способом как отсутствие моральных критериев. Машина, которую все чаще наделяют искусственным интеллектом, будет искать оптимальный вариант решения поставленной задачи, пренебрегая экологическими принципами безопасности человека и окружающей среды. И это будет происходить не потому, что машина безнравственна, а потому что к вопросам нравственности машина безразлична. Любому искусственному интеллекту, при всей скрупулезности программирования, будет присуща поверхностность суждений, а поверхностность – самый страшный порок.

Данные определения, как и другие из иных источников, ясности не внесут. Удивляться этому не приходится. Если границы имен существительных, обозначающих предметы, вполне определены, то термины, касающиеся нематериального мира, границ не имеют. А именно к таким терминам и относятся слова «интеллект» и «сознание», которые коррелируют.

Магия терминологии

Не будучи способной охватить проблему целиком, наука прибегает к стандартному приему: целое разлагается на части, полагая, что, подобно голографии, часть содержит в себе целое.

Несмотря на современные успехи в области квантовой физики, механистическое мировоззрение продолжает доминировать в сознании ученых, занятых прикладными задачами, в частности, в области искусственного интеллекта. Известен тезис Лапласа: «существо, способное охватить всю совокупность данных о Вселенной в любой момент времени, могло бы не только предсказать будущее, но и до мельчайших подробностей восстановить будущее». Представление о Вселенной как о простой и однородной оказывало и продолжает оказывать влияние на мышление научных работников, которые в рамках классической физики берутся решать проблемы, лежащие в области квантовой физики.

Все это удается в условиях детерминированного протекания процессов, поскольку в рамках классической физики традиционная наука сконцентрирована на однородности, которой свойственна устойчивость и равновесие. К рассмотрению принимаются главным образом замкнутые системы, в которых доминируют линейные соотношения, при которых на малый сигнал на входе система реагирует малым откликом на выходе.

Совсем иной представляется парадигма Ильи Пригожина, акцентирующая внимание на аспектах нелинейности соотношений, когда даже малый сигнал на входе может вызвать сколь угодно сильный отклик на выходе.

Применительно к морским профессиям допустимо считать, что деятельность судового механика происходит в замкнутой системе, где процессы при исправности оборудования носят детерминированный характер. В то же время работа капитана (вахтенного помощника капитана) сопряжена с нелинейными процессами, привносящими неопределенность в принятие управленческого решения. И это становится камнем преткновения при создании автоматизированных систем управления – беспилотном судоходстве.

По мнению И. Пригожина, замкнутые системы составляют лишь малую долю физической Вселенной. Большинство же систем открыты, и к их числу принадлежат биологические и социальные системы, а это означает, что «любая попытка понять их в рамках механистической модели заведомо обречена на провал» [7].

На подступах к искусственному интеллекту

Попытки заменить живые организмы и даже человека механическими аналогами предпринимались с библейских времен. В текстах о царе Соломоне упоминается трон, к которому вело со всех четырех сторон по шести ступеней. На каждой ступени стояло по бокам по два золотых льва, которые при нажатии на ступени при восхождении царя начинали двигаться. Золотой орёл на четвертой ступени надевал венец на голову монарха, а на самом верху, над троном, золотой голубь брал из ковчега свиток торы и клал на колени Соломону. В «Одиссее» Гомера бог Гефест выковал собак, чтобы они охраняли дворец царя Алкиноя.

Речь, понятно, идет об автоматах. Термин «автоматон» происходит от греческого слова андроид - «человек, мужчина» с суффиксом oid - «подобие» - «человекоподобный». Автоматоны широко использовались в ритуальных целях в Древней Греции. Во время ежегодных Элевсинских мистерий были задействованы механические скульптуры богов. Геродот упоминает о говорящих фигурах на входе в храмы.

В III века до н. э. Египет был могущественной державой, где правила династия Птолемеев, поборников искусства и науки. При Птолемеях Александрия стала центром научных исследований и родиной автоматических машин. Остались описания великолепных по масштабу и грандиозности процессией 279-278 г. до н. э., представляющих собой парад экзотических существ, костюмированных танцоров и потрясающих автоматических повозок. Вот как описывает это инженерное чудо Калликсен: «Следом за ними шестьдесят человек влекли четырехколесную повозку в восемь локтей ширины, на которой возвышалась статуя сидящей Нисы в восемь локтей высоты; одета она была в желтый хитон, шитый золотом, поверх был накинут лаконский гиматий. Эта статуя сама вставала без прикосновения рук, совершала возлияние молоком из золотого фиала и садилась обратно». Автомат достигал в высоту чуть больше трех с половиной метров, когда Ниса сидела, и четырех с половиной, когда она стояла. Логичным выглядит предположение, что появлению этого грандиозного автомата предшествовали автоматы меньшие по размерам. [8].

В 1920 г. Карел Чапек написал пьесу «R.U.R.», в которой наделил машины способностью стать двойниками человека, и назвал их «роботами», полагая, что они будут работать за человека подобно рабам. Наделив роботов искусственным разумом, автор пришел к логичному заключению - от рабов следует ждать восстаний. Так зарождается страх перед машиной, в основе которого лежит комплекс классовых противоречий – комплекс Спартака.

Дельнейшую судьбу человека, утратившего когнитивные способности и передоверившего свою судьбы компьютеру в мире современных технологий, образно описал М. Волошин:

Был нужен раб, чтоб вытирать ей пот,

Чтоб умащать промежности елеем,

Кормить углем и принимать помет.

И стали ей тогда необходимы:

Кишащий сгусток мускулов и воль,

Воспитанных в голодной дисциплине,

И жадный хам, продешевивший дух

За радости комфорта и мещанства».

[М. Волошин «Машина» из цикла «Путями Каина»].

С появлением механических часов в Европе стали появляться механические игрушки, способные выполнять действия, подобные действиям человека. Было существенно примитизировано само понятие человек. Высказыванием: «Для меня человек – это механизм» Рене Декарт заложил основу появления искусственного интеллекта. С той поры разработчики ИИ неукоснительно следуют этому принципу. Сам же термин появился позже, очертив границы, которые и стали камнем преткновения к постижению интеллекта. Впервые термин «искусственный интеллект» применил Ален Тьюринг, а укоренился он с легкой руки Стивена Спилберга после выхода в прокат его фильма «Искусственный разум». За термин «уцепились», и он стал «трендом». Исходя из аксиомы Пьера-Симона Лапласа, что все в мире детерминировано, и может быть описано математическими уравнениями, люди начали создавать искусственный интеллект. Тем самым, примитивизировав интеллект человека до уровня слепого (зависимого) потребителя. Верховенство компьютера над человеком исходит из того, что быстродействие современных компьютеров намного превосходит быстродействие человека при выполнении как поисковых, так и математических действий. Перебор вариантов и отыскание оптимального из них, например, в шахматах, позволило говорить о превосходстве искусственного интеллекта над интеллектом человека. «Под шумок», искусственным интеллектом начали называть и самые примитивные действия роботов. На технических выставках бродячий робот вступает в разговоры с посетителями, поворачивая на голос «головы качан», демонстрируя при этом элементарные навыки, и он уже – искусственный интеллект! В действительности все не так уж и просто.

Границы интеллекта

В докладе, посвященном шестисотлетию Венского университета, В. Франкл раскрывает причину стремительного натиска ИИ на интеллект: «Колесо развития нельзя повернуть вспять. В наше время, для которого характерна групповая научно-исследовательская работа, мы еще меньше, чем когда бы то ни было, можем обойтись без специалистов. Но ведь опасность заключается отнюдь не в специализации как таковой, да и не в недостатке универсализации, а скорее в той кажущейся тотальности, которую приписывают своим познаниям столь многие ученые в заявляемых ими претензиях на «тотальное знание» (Ясперс). Тогда, когда это происходит, наука превращается в идеологию. Что касается, в частности, наук о человеке, то биология превращается при этом в биологизм, психология - в психологизм и социология - в социологизм. Как мы видим, опасность совсем не в том, что исследователи занимаются специализацией, а в том, что специалисты занимаются генерализацией. Мы все знаем так называемых любителей упрощать. Рядом с ними можно поставить и любителей обобщать, как я бы их назвал. Любители упрощать все упрощают, они все мерят одной меркой. Но любители обобщать даже не довольствуются своей меркой, а обобщают свои результаты». Далее В. Франкл цитирует: «Человек - это не более чем биохимический механизм, приводимый в движение системой процессов окисления, питающих энергией компьютеры» [9].

В. Франкл, так комментирует это высказывание: «Как невролог, я ручаюсь, что вполне правомерно рассматривать компьютер как модель, скажем, центральной нервной системы. Ошибка заключена лишь в словах «не более чем», в утверждении, что человек не представляет собой ничего, помимо компьютера. Да, человек - это компьютер, но одновременно он нечто бесконечно большее, чем компьютер, большее в ином измерении. Нигилизм не выдает себя разговорами о Нечто, а маскируется словосочетанием «не более чем». Американцы называют это редукционизмом. Как выясняется, редукционизм не только редуцирует у человека целое измерение; он укорачивает человека ни много ни мало на специфически человеческое измерение» [10].

«Укорачивая человека на целое человеческое измерение», разработчики ИИ не отдают себе отчета, что за «целым человеческим измерением» стоит беспредельность, а применительно к мореплаванию - безопасность обретает реальные очертания.

Как все искусственное, ИИ имеет границы. Гомункулус, обращаясь к Вагнеру, восклицает:

«А, папенька! Я зажил не шутя,

Прижми к груди свое дитя!

Но – бережно, чтоб не разбилась склянка,

Вот неизбежная вещей изнанка:

Природному Вселенная тесна,

Искусственному же замкнутость нужна!» [В. Гете «Фауст»].

Про эту замкнутость сторонники ИИ говорят крайне неохотно, а говорить надо. Превознося пользу ИИ, не забывать и о его вреде.

Параметры современных компьютеров. Техническая сторона

В книге «Мозг освобожденный. Как предотвратить перегрузки и использовать свой потенциал на полную мощь» доктор медицины Тео Компернолле пишет: «Скажу сразу: компьютерам так же далеко до человеческого мозга, как бактериям - до людей. Единственное, что компьютеры умеют делать лучше нас, - это обрабатывать большие массивы информации, особенно связанные с числами. Чтобы сымитировать работу человеческого мозга даже на самом примитивном уровне, потребуется компьютер, который будет весить 40 000 тонн и потреблять такое количество электроэнергии, какое вырабатывается тремя мощными АЭС. А заключенный в нашей черепной коробке комок мозгового вещества обладает несоизмеримо большей вычислительной мощностью, весит при этом чуть больше одного килограмма и потребляет всего 30 ватт» [11].

Источники

1. Капица С.П., Курдюмов С.П., Малинецкий Г.Г. «Синергетика и прогнозы будущего», Москва: УРСС, 2003

2. Гегель Г.В.Ф. Энциклопедия философских наук. т. 1. М., 1974, с.240.

3. Бхагаван Шри Раджниш (Ошо). Путь мистика СПб.: ИГ «Весь», 2013.

4. Клизовский А.И. Основы миропонимания новой эпохи Изд.: Амрита, 2019 г.

5. А. Камю Шведские речи Электронная библиотека RoyalLib.com

6. David Jary, Julia Jury. Collins Dictionary of Sociology. Vol. 1

7. Пригожин И., Стенгерс И. Порядок из хаоса: Новый диалог человека с природой М.: Прогресс, 1986

8. Речкин А. «Троицкий вариант - Наука» № 11(330), 1.06. 2021 г.

9. Perry London «The Modes and Morals of Psychotherapy»

10. В. Франкл. Человек в поисках смысла Москва, Прогресс, 1990 г.

11. Тео Компернолле. Мозг освобожденный. Как предотвратить перегрузки и использовать свой потенциал на полную мощь. Москва: Альпина Паблишер, 2015