Мозг и разум. Границы сознания
Сравнение ИИ с интеллектом человека явно преждевременное. Человек обладает еще и сознанием, что ИИ несвойственно. Поэтому ИИ находится в самом начале большого пути к интеллекту человека.
Термин «сознание» – это емкое понятие, которое в естественной среде не имеет границ. По мнению Со Ёсона, сознание – это субъективная сущность. В более приземленном варианте: «Человеческое сознание есть специфическая форма сознания, создающая модель мира и затем моделирующая его поведение во времени, оценивая прошлое и моделируя на его базе будущее. Это требует усреднения и оценки множества обратных связей с целью принятия решения и достижения цели» [Каку Митио. Будущее разума].
Что же такое сознание? У науки нет ответа на этот вопрос. Известно, что сознание – это интегрированная совокупность работы нескольких частей мозга, а не какой-то его отдельной области. Вероятно, что в процессе мышления происходит некая перегруппировка между частями мозга со сменой доминантной области. Поэтому важно понять, какая именно часть мозга за что отвечает и как работают триггерные схемы управления нервной системой. Не менее важным является то, как за счет интеграции и обработки большого количества информации, а также фокусировки на нужное и блокирования ненужного мы реагируем на сенсорные входящие потоки, что позволяет различать, что реально, а что – нет. Очевидно, что ИИ предстоит сложный путь к обретению сознания, конечно же искусственного. Для этого потребуется научиться прогнозировать поведение человека, как детерминированного, в рамках замкнутых систем, так и спонтанного (эвристического) в разомкнутых системах.
По мнению Стивена Хокинга: «Однажды поведение человека также можно будет прогнозировать и в рамках исследований головного мозга. Однако все еще невозможно подробно описать все добавляемые переменные, комбинации или взаимодействия нейронов, формирующие начальные условия поведения человека». Такую способность ИИ прогнозировать поведение человека он называл «эффективной теорией», но при этом физические теории в данном контексте С. Хокинг считает ограниченными.
Квантовая механика, в области которой происходят процессы, включающие в работу сознание, признавая многогранность реальности, не отрицает свободу воли человека. Наличие воли выводит человеческое поведение на новый непредсказуемый уровень и тем самым ограничивает возможности ИИ.
Итак, камнем преткновения при создании ИИ становится преодоление барьера, отделяющего тело от сознания. Собственно об этом пишет Стивен Хокинг в своей «эффективной теории», где признает ограниченность физических теорий: «Первоначально всеобъемлющая модель, также называемая эффективной теорией, конечно, может использоваться, но она подробно не описывает всех явлений. Это обусловлено тем, что тело состоит из атомов и молекул, но уравнения и отношения между ними не могут быть полностью воспроизведены» [Ёсон Со. Мозг и разум в эпоху виртуальной реальности].
Идея создания ИИ носит рекуррентный характер, поскольку вновь вернулись к обсуждению возможности того, что человеческое сознание и его умственную деятельность можно представить в виде физической теории. Эту точку зрения отстаивали Лаплас и Декарт. С их точки зрения, «люди похожи на механизмы». Прогресс будущего представляется в образах виртуальной реальности. Однако детерминистическая природа классической физики отрицается научной философией: «Суть жизни не может быть объяснена ни вскрытием и изучением внутренних органов тела, ни существующими физическими или химическими законами», поскольку сознание присуще только человеческому организму.
Проблемы ИИ в мореплавании
Одним из основополагающих Правил МППСС-72 является Правило 5 МППСС-72 «Наблюдение».
Согласно квантовой механике, сам акт сознательного наблюдения объекта исследования представляет собой и рассматривается на том же уровне, что и наблюдаемый объект, а такое сознание заключает в себя субъективную смысловую связь.
Сознательный акт наблюдения – а он, несомненно, сознательный, – с позиций вахтенного помощника капитана (ВПКМ), базируется на субъективной смысловой связи. А иначе и быть не может. Субъективная смысловая часть зарождается на способностях восприятия, которое частью базируется на генетических особенностях личности, а частью – на приобретенных навыках и опыте.
Реальность, созданная посредством осмысления семантических связей в рамках имеющихся вероятностей, представляет собой органический синтез, на основании которого и принимается управленческое решение. Сами же предпосылки принимаемого решения зависят от корреляции с другими факторами, включенными в ситуационную зависимость, которая определяется прежним опытом, интерференцией навыков, усталостью и другими состояниями психики человека, которые более известны под общим названием «человеческий фактор».
Реальность, созданная посредством осмысления ситуации, всегда будет носить вероятностный характер, поскольку целостной картины не будет вследствие фильтрации поступающей информации от внешних объектов. Сознание должно выбрать ту, которая является наиболее важной в сложившейся ситуации.
Здесь важно понимать, а что же такое сознание?
Определенного ответа на этот вопрос нет. Можно только предполагать, ссылаясь на научные авторитеты, что ответ находится в области квантовой физики. Неопределенность порождает вероятность, которая характеризует двойственность состояния электрона, который может предстать частицей или волной, и что зависит от наблюдателя. Наблюдая за развивающейся ситуацией, ВПКМ должен быть сконцентрирован, чтобы воспринимать ее в динамике. При адекватном восприятии ситуации и принятии адекватных управленческих решений она не перерастет в аварийную. Восприятие ситуации строится на основе органического синтеза. А, как справедливо отмечает Со Ёсон, применительно к ИИ: «Природа указанного выше органического синтеза понимается в его отношении к целому, и тем не менее пока все еще до конца нельзя определить, что представляет собой органический синтез, и из-за того, что это – сущность вероятности, его взаимосвязи с другими объектами и его положение в рамках целого тесно связаны.
Если считать, будто поведение людей действительно подчиняется законам природы, то кажется разумным следующий вывод: результат определяется столь сложно и со столь многими вариациями, что делать какие-либо прогнозы относительно поведения людей практически невозможно».
Как отмечают специалисты по созданию виртуальных тренажеров для военно-морских сил США, прогнозировать поведение человека можно только в пределах замкнутого пространства и не более чем на несколько секунд упреждения [Гиннес А. Протез любви].
При построении ИИ важно, чтобы он (ИИ) был способен воспринимать картину в целом (органический синтез), а затем отфильтровал наиболее значимую часть информации, что сделать весьма непросто, особенно в условиях интенсивной качки, которой подвергается судно в штормовых условиях.
Другой проблемой является выполнение Правила 14 МППСС-72 «Ситуация сближения судов, идущих прямо друг на друга».
Примером неопределенности может служить ситуация, когда суда оказываются на встречных или почти встречных курсах.
На основании проведенного тестирования слушатели курсов повышения квалификации при выполнении Правила 14 МППСС-72 по-разному отреагировали на ситуацию, когда линия относительного движения (ЛОД) находилась справа от курса. В то же самое время, если ЛОД проходит слева, то действия вполне предсказуемые [Григорьев Н., Наконечный М. Правила МППСС-72: неопределенность при принятии решения. Морской флот. 2016. № 05].
Неопределенность порождается тем, что вероятность адекватной ответной реакции со стороны ВПКМ, находящегося на встречном судне, непредсказуема. При этом фильтрацией информации занимаются личности разного уровня подготовки, менталитета, различных психотипов.
По мнению С. Хокинга: «Для полновесного компьютерного прогнозирования поведения человека в экстремальной ситуации нужно знать начальное состояние каждой из тысячи триллионов молекул человека и решить такое же количество уравнений. Это займет не один миллиард лет, и предпринимаемые действия запоздают».
Поэтому: «Несмотря на то что психические процессы в мозге исследуются с помощью физических механизмов, а деятельность разума рассматривается как объект этих исследований, как утверждается в рамках квантовой теории, Вселенная расширяется неравномерно, а в нашей разумной деятельности еще и наблюдаются субъективные свойства, все это вместе делает невозможным познание Вселенной». А мозг человека – это непознанная и непознаваемая Вселенная.
«На планете Земля, появившейся в результате Большого взрыва, появляется идея жизненной силы. Что-то еще происходит во время перехода от материи к живому организму, именно оно вливает в нее силы, которые не объясняются химией или физикой (курсив авторов). В частности, деятельность и строение головного мозга контролируются генами. <…> Кроме того, современные генетики считают, что мозг следует указаниям генов, что он развился из более примитивных органов тела, интерпретирующих информацию. Гены влияют на поведение и предопределяют определенные склонности или черты человека независимо от внешних раздражителей. Когда активируется ген миндалины, который хранит память, даже если попытаться проследить этот процесс через фМРТ (функциональную магнитно-резонансную томографию), трудно четко разобрать, как происходит данный процесс [Ёсон Со. Мозг и разум в эпоху виртуальной реальности].
В настоящее время создатели ИИ, несмотря на употребление таких терминов, как, например, «нейронные сети», по-прежнему осваивают лишь уровни классической физики, которые не отражают глубины человеческого мировоззрения. Классическая физика объясняет следствия многих явлений вполне успешно, но при этом не может объяснить их причины, например природу магнетизма или гравитации. Многое стало доступным на уровне квантовой физики, «которая прекрасно справляется с «подробностями», но не может объяснить мир целого».
Неоспоримым фактом является то, что в принятии управленческого решения участвуют эмоции человека, чего лишен ИИ. Безусловно, что эмоции могут способствовать принятию как успешного решения, так и неадекватного. При этом важную роль играет активность нейронов, а для регулирования активности нейронов необходимо участие эмоций, без которых фильтрация поступающей информации становится бессмысленной. Ведь на основе всей совокупности поступающей информации принять адекватное управленческое решение не представляется возможным, поскольку при отсутствии фильтрации вся информация приобретает нивелированный характер. И, следовательно, наиболее значимая ее часть растворяется в целом.
Негативное влияние современных технологий
Вопросы негативного влияния современных технологий на интеллектуальную деятельность человека – это не праздные рассуждения.
Бруно Беттельгейм в книге «Просвещенное сердце» пишет о влиянии современных технологий на интеллектуальные способности человека, что, передоверяя свои функции автомату, человек утрачивает когнитивные способности. При этом – в экстремальных ситуациях – он не способен воспроизвести эти же самые функции на более низком техническом уровне, которые ранее им же были хорошо освоены в процессе приобретения навыков управления, например, морским судном. В случаях возникновения острой необходимости даже для тех, кто уверенно владел набором навыков, столь резкий переход из сферы высоких технологий (в аварийных ситуациях) к «примитивным» классическим приемам дается уже с трудом. А, учитывая степень проникновения в сознание современного человека всесилия и отстраненности от понимания принципов работы современных средств навигации, только само возникновение экстремальной ситуации уже катастрофа, прежде всего нравственная. Человек, не совладавший с аварийной ситуацией, терпит нравственное крушение в оценке своих когнитивных способностей. Уповая на информацию, полученную от приборов, и не умея ее анализировать, человек расписывается в своей некомпетентности. Это происходит уже сейчас, задолго до появления ИИ, хоть сколько-нибудь приближенного к природному интеллекту человека. Одно дело – повторяемость обычных действий, другое – невозможность предугадать последствия действий, совершаемых в постоянно меняющемся контексте.
Сближение интеллекта и ИИ – это реальность, но перерастание ИИ в интеллект – невозможно. ИИ не преодолеть барьер, отделяющий его от интеллекта человека, так как этот барьер представляет собой скачок из области классической физики в область квантовой физики – к сознанию, которым никогда не будет наделен ИИ. Сам термин «сознание» неприменим к ИИ.
Вряд ли когда-либо ИИ будет способен подняться до уровня, позволяющего ему оперировать на уровне сознания, тем более подсознания, в котором находится большая часть информации и навыков ее восприятия. То, что понятия восприятия интеллекта и ИИ весьма далеки друг от друга, наглядно демонстрируют тренажеры виртуальной реальности, в которых упрощения сведены к минимуму информации для создания ситуации, отобранной создателями тренажеров. При этом создатели тренажеров не всегда являются профессионалами в области, для которой тренажер создается. Они консультируются у профессионалов, которые часто владеют скрытыми знаниями, но при этом не способны эти знания донести до компьютерщиков, создающих программы, а те, в свою очередь, не понимают глубины процесса, который требуется для полноты картины, позволяющей достичь сопричастности ИИ с интеллектом. На стыке двух интеллектов находится сознание, которое вряд ли когда-либо зародится у ИИ, учитывая, что сам термин «сознание» не имеет этимологических границ, поскольку даже предпосылок к этому нет. Так на стыке двух интеллектов (ИИ и интеллекта человека) возникает непреодолимый барьер.
Было бы опрометчивым отбрасывать возможности ИИ влиять на человека. Риски применения ИИ велики. «Десятки известных ученых, предпринимателей и инвесторов, чья деятельность связана с ИИ, подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной полезности разработок в области ИИ. Среди них основатель компаний SpaceX и Tesla Илон Маск и астрофизик Стивен Хокинг.
Письмо и сопроводительный документ, составленный общественной организацией «Институт будущего жизни» (Future of Life Institute, FLI), появились в обстановке растущей обеспокоенности по поводу влияния ИИ на рынок труда и даже на долгосрочную перспективу выживания человечества в условиях безудержного роста возможностей машин.
«Потенциал ИИ огромен, поэтому очень важно исследовать возможности его оптимального использования и того, как избежать сопутствующих ловушек, – говорится в письме FLI. – Нужно, чтобы наши системы ИИ делали ровно то, чего мы хотим от них».
По мнению И. Маска, неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».
Успехи современных компьютеров. Тьюринг – музыка – шахматы
Как говорилось выше, сегодня на выставках представляют роботов, которых уже за то, что он повернул «кочан головы» и произнес трафаретные фразы, называют искусственным интеллектом. И вот тут начинается самое интересное. Всё, от самого примитивного до самых продвинутых компьютерных программ, валят в общую кучу. Правомерно ли это? Если рассматривать вопрос создания искусственного интеллекта с обывательских позиций, то существенной разницы нет. В шахматы ИИ играет, и даже вполне успешно. Ведь победила компьютерная программа Deep Blue чемпиона мира Г. Каспарова. И вот тут внимание (!): после окончания турнира репортеры брали интервью – вопреки сложившейся практике – не у победителя – Deep Blue, а у побежденного Г. Каспарова. Deep Blue заточена под одну задачу: путем перебора множества вариантов и при высоком быстродействии выбрать наиболее оптимальный вариант.
Да, скорость современного компьютера во много раз превосходит скорость мышления человека, но человеческое мышление отличается от машинного тем, что человек улавливает ситуацию целостно [Гарднер Говард. Структура разума. Теория множественности интеллекта]. Так, например, шахматисты видят ситуацию на шахматной доске. Примечательно, что если фигуры на доске расставлены в произвольном порядке, а не появились в результате игры, то шахматистам не представляется возможным ее запомнить.
При нынешнем состоянии развития технологий следует рассматривать ИИ не как замену интеллекта, а как продолжение способностей человека. Как это уже давно происходит. Когда хотим рассмотреть очень мелкое, то используем микроскоп, а пытаясь рассмотреть далекое – телескоп.
Попытки подменить интеллект ИИ первым предпринял Ален Тьюринг. В 1950 году он опубликовал статью Computing Machinery and Intelligence («Вычислительные машины и разум»), где применил новый термин – artificial Intelligence (искусственный интеллект). При создании «умной машины» Тьюринг составил программу для компьютера MADAM, запрограммированную на написание любовных писем. В результате компьютер выдал стихи вполне разумного содержания.
Он же создал тест, названный его именем. Суть теста заключается в том, что ИИ должен убедить экспертов, что с ними общается живой человек, в то время как они общаются с компьютером. До сих пор тест компьютером не пройден. Причина в том, что ИИ способен имитировать только уже существующее, но не создавать новое.
Были и другие попытки заменить человека компьютером. Например, искусственный интеллект закончил симфонию № 10, которую Густав Малер не успел закончить при жизни, базируясь на основе музыкального стиля автора. Используя современные методы компьютерных технологий, ученые попытались «воскресить» дух умершего композитора. Была создана нейросеть, которая, проанализировав первые шесть минут Десятой симфонии Малера, выдвигала свои варианты ее продолжения. Компьютер предлагал четыре варианта, которые состояли из десяти нот, а человек выбирал из них самый лучший. ИИ снова анализировал музыку и предлагал свою последовательность нот. Так, с использованием рекуррентного метода, музыкальное произведение было завершено. Опрос зрителей показал, что многие из них заметили, когда закончилось оригинальное произведение и началась часть, сгенерированная искусственным интеллектом. По их мнению, «в произведении перестала чувствоваться эмоциональная глубина». Создатели программы признают, «что хоть программа и проанализировала достаточный массив данных, ей не удается воссоздать типичные черты композитора, и слушатели могут легко заметить подвох».
«Работая над этой технологией, ученые задались вопросом, может ли быть ИИ настолько умным, чтобы самостоятельно создавать целые музыкальные произведения с нуля или же это прерогатива только человека? Пока таких программ не создано, ИИ до сих пор нуждается в человеческом контроле, чтобы «сочинить» что-то действительно стоящее. Создатели сравнивают такую функцию ИИ с написанием картин с помощью программного обеспечения: даже с появлением специальных программ картины хороших художников не теряют популярности».
Как уже отмечалось выше, сегодня попасть в семейство ИИ просто, чему активно и очень охотно способствуют СМИ. В действительности же вопросы ИИ гораздо глубже. Картезианские упрощения здесь неуместны.
Человеческая мысль «рассыпается» через синапсы подобно ртути, которая разливается из разбитой колбы, и последствия этих перемещений непредсказуемы. Из всего множества реакций мозг выбирает, путем фильтрации, те, которые неким образом связаны с деятельностью или интересами человека. При этом если человек контролирует ход своих мыслей, то некоторые из них, испугавшись, он отбросит как «крамольные». Если бы так поступали поэты, то вряд ли бы родились есенинские строки: «Выткался над озером белый свет зари…». Поток сознания в процессе творчества – это и есть подсознание, или даже сверхсознание. Только таким путем смогли мистики Индии прийти к глубинам понимания строения материи, к которым материалисты-физики пришли в ХХ веке и обнаружили, что все это, но только в иных терминах уже давно известно. Заслуга Гейзенберга и Бора заключается не только в том, что они пришли к идеям квантовой физики, но и в том, что усмотрели связь с Ведами Древней Индии. Переход от физики Ньютона к квантовой физике ознаменовал переход грани между материальными и духовными знаниями. Этот переход показал, что детерминированные процессы физического мира зарождаются в условиях хаоса, а накопление информации служит этому переходу. Следовательно, ИИ предстоит из «завалов информации», которые еще следует разместить внутри него, выстроить порядок, приемлемый для принятия адекватного решения. Здесь важную роль будут играть интеллектуальные возможности Архитектора ИИ, именно Архитектора, а не его Создателя, поскольку, при всех талантах, его разум (разум Архитектора) ограничен рамками все тех же познаний, которые он сумел накопить.
А теперь представим, что задачи по обеспечению безопасности мореплавания решают два и более ИИ от разных Архитекторов, каждый из которых усмотрел свое видение проблемы. А иначе и невозможно, ведь полученные сигналы (информация) пройдут через фильтры, которые применил Архитектор (хорошо, если он имеет морское образование и опыт работы на судах). На почве «непонимания» возникнут проблемы восприятия информации. В качестве примера может служить текст МППСС-72. Прошли десятилетия, но единого мнения по их применению нет, да и не будет. Вопросы правомерности применения Правил решают эксперты в суде, отталкиваясь от субъективных мнений, которые зародились в хаосе подсознания.
Важно понять: способности робота были и останутся продолжением способностей человека. Чтобы рассмотреть микромир, изобрели микроскоп, но ведь это не искусственный глаз. Чтобы изучать глубины космоса, изобрели телескопы.
Границы ответственности искусственного интеллекта
С внедрением беспилотного судоходства на морском флоте обязательно встанет вопрос ответственности за аварии, которые неизбежны. Уже есть примеры аварий с беспилотными автомобилями. Аварии в любой отрасли неизбежны – это плата за прогресс.
Реалии применения заключаются в том, что ИИ способен выполнять только те задачи, на которые его запрограммировали. Компьютер Deep Blue после одержанной победы над Каспаровым разобрали. В проведении матча-реванша Каспарову было отказано. Это породило сомнения в реальности победы компьютера над человеком. Каспаров еще неоднократно играл с компьютерами разных производителей и свел игры вничью.
Заключение
«Удобство» современных технологий – это обоюдоострый меч. Помогая и высвобождая человека от рутинных занятий, они одновременно ограничивают его когнитивные и мыслительные способности. Виртуальная реальность вытесняет настоящую реальность. Люди уподобляются крысам, которые следуют за музыкантом, повинуясь его мелодии, которую он исполняет на волшебной флейте. «Убаюкивание» ведет к росту «цифровых наркоманов», которые отдают на откуп реальный мир виртуальному, при этом физические и умственные способности утрачиваются. Критическое мышление заменяется слепым доверим, а реальность подменяется иллюзией.
Овации в адрес ИИ преждевременные. Сегодня речь может и должна идти об автоматизированных системах управления, которые являются продолжением способностей человека заглянуть за горизонт, не теряя при этом способности обозревать горизонт.
Бесспорно, что сумма частей никогда не будет равна целому, а целое – это и есть интеллект. А как он поведет себя и какие будут последствия этого поведения, будет зависеть от сознания, которое сформирует социум.
Полностью передоверять функции человека компьютеру опасно, потому что, поддавшись внушению о своей беспомощности, человек становится по-настоящему беспомощным.
А исходя из реального состояния вопросов применения современных технологий на морском флоте, об использовании ИИ и речи не может быть. Правильно и уместно вместо термина «искусственный интеллект» применять иную терминологию – «автоматизированные системы управления» того или иного уровня.
Применительно к использованию ИИ на морском флоте уместно высказывание Ф. Тютчева: «Мысль изреченная есть ложь», а ложь имеет глубокие последствия для умов незрелых и поверивших в нее.