Искусственный интеллект как зеркало человека: от внутренней программы к будущему сознания
Мы учим искусственный интеллект отвечать на вопросы, замечать закономерности, учитывать ошибки. Уточняем задачу, проверяем результат, возвращаем систему к тому, что она упустила. И постепенно начинаем внимательнее относиться к самому процессу обучения.
Меня занимает мысль: создавая искусственный разум, человек получает возможность иначе посмотреть на собственное сознание.
Почему мы годами повторяем решение, которое уже однажды подвело? Как чужая оценка становится нашим представлением о себе? Что превращает пережитую неудачу в опыт, на который можно опереться?
Сравнение с обучающейся системой позволяет увидеть в этих вопросах определённую последовательность. Из чего складывается наша картина мира? Как она меняется? Кто определяет направление?
А за ними возникает следующий вопрос: если знания, память и привычки могут изменяться, что именно остаётся нашим «я»?
Внутренняя картина мира: действительность, наполненная личным опытом
Если воспользоваться техническим образом, организм можно условно представить сложнейшим биороботом. Органы чувств принимают сигналы, нервная система передаёт и обрабатывает их. Благодаря этой работе мы воспринимаем пространство, узнаём лица, различаем голоса.
Однако знакомый мир складывается для нас из гораздо большего, чем поступающие сигналы.
Одна и та же мелодия для одного остаётся случайным сочетанием звуков, а другому возвращает целый период жизни. В короткой фразе близкого человека мы слышим то, чего посторонний не заметит. Знакомое место хранит встречу, решение, пережитое ожидание.
Восприятие соединяется с памятью и личным смыслом.
Константин Анохин в своей теории когнитома ищет объяснение связи между организацией мозга и нашим субъективным опытом. Этот подход обращает внимание на внутренний мир живого существа — на то, как действительность существует для самого участника жизни.
Образ персональной «симуляции» здесь можно понимать как внутреннюю модель происходящего. Она помогает ориентироваться, предвидеть, принимать решения. Но иногда продолжает воспроизводить прошлое там, где обстоятельства уже изменились.
Человек приобрёл знания, стал сильнее, научился справляться с трудностями. А внутри по-прежнему звучит когда-то услышанное: «У тебя не получится».
В какой-то момент ему предстоит заметить, что прежнее представление о себе стало тесным.
С этого замеченного расхождения и начинается возможность перемен.
«Вирусы» сознания: правила, которые мы незаметно принимаем за собственные
В цифровой системе вредоносный код способен изменить порядок работы и направить ресурсы на чужую задачу. В человеческой жизни образ «вируса» помогает рассмотреть влияние манипуляций, разрушительных привычек и навязанных установок.
Они редко объявляют о себе открыто. Чаще звучат как привычная житейская мудрость.
«Не высовывайся». «Все так живут». «Признавать ошибку опасно». «Главное — произвести впечатление».
Постепенно человек перестаёт спрашивать, откуда взялось это правило. Выбирает работу, оценивает себя, строит отношения в соответствии с убеждением, которое никогда осознанно не принимал.
Особенно трудно распознать установку, с которой прожиты годы. Она уже кажется частью характера.
Зависимость, привычка и чужое внушение имеют разную природу. Но в этой метафоре существенно то, как человек постепенно утрачивает способность самостоятельно определять своё поведение.
Поэтому ясность сознания требует внимания к повседневной жизни. Чем заполнен наш день? Что мы постоянно читаем и слушаем? Какие мысли повторяем после неудачи? Где ищем понимания, а где получаем только очередное подтверждение собственного страха?
Внутренняя свобода связана и со способностью остановиться перед привычной реакцией: почему я сейчас действую именно так? Это моё решение? Оно по-прежнему соответствует моей жизни?
Жизненный запрос: точность начинается с понимания смысла
Работа с искусственным интеллектом учит яснее формулировать задачу. Нужно объяснить, какого результата ждёшь, какие обстоятельства существенны и что следует проверить.
В собственной жизни мы нередко ограничиваемся формулировкой: «Хочу, чтобы всё было хорошо».
Но за ней могут стоять совершенно разные потребности. Достойный заработок, профессиональная самостоятельность, время для семьи, возможность заниматься делом, в котором раскрываются способности.
Пока мы не различаем их, трудно понять, куда направлять усилия.
В работах Алексея Леонтьева деятельность человека рассматривается в связи с мотивами и личностным смыслом. Для нашего разговора здесь важен вопрос: ради чего совершается действие?
Цель может быть сформулирована предельно чётко и при этом оставаться чужой.
Можно настойчиво стремиться к должности, которая впечатляет окружающих, и постепенно терять связь с содержанием собственной работы. Можно получить желаемое и обнаружить, что ожидал от него совсем другого.
Поэтому жизненный «промпт» требует честности.
Чего я хочу достичь? Почему это для меня важно? Как изменится жизнь, если получится? Какую цену я готов заплатить?
Такие вопросы помогают точнее распоряжаться своими силами. Ясность направления обнаруживает следующий шаг — разговор, решение, знание, которого пока не хватает.
Опыт ошибки: что меняется после пережитого
Обучение предполагает обратную связь. Система должна учитывать, насколько полученный результат соответствует ожидаемому.
Пётр Анохин подробно рассматривал эту связь в теории функциональных систем: сопоставление ожидаемого и достигнутого результата участвует в организации дальнейшего действия.
В человеческой жизни за этим принципом стоит работа, которую никто не выполнит за нас.
Ошибка может надолго остаться источником стыда или обиды. Человек мысленно возвращается к случившемуся, спорит с обстоятельствами, ищет объяснение. Но повторное переживание ещё не говорит, что следует изменить.
Опыт начинает работать, когда появляются более точные вопросы: чего я не знал? Какое предупреждение пропустил? Где поспешил? Что теперь сделаю иначе?
Предположим, руководитель однажды согласился на срок, который не был обеспечен ресурсами. После срыва можно продолжать обвинять исполнителей. А можно вернуться к моменту обещания и понять, почему уверенность оказалась сильнее проверки.
Если следующий проект начинается иначе, прежняя ошибка действительно стала знанием.
В языке нейросетей можно говорить о корректировке внутренних «весов». У человека меняется значение обстоятельств: он внимательнее относится к риску, раньше замечает противоречие, точнее понимает цену собственного слова.
Так раскрывается и народная мысль о ценности «битого» человека. Пережитое становится силой через осмысление и последующие поступки.
Новый опыт: способность оставаться учеником
Можно многое знать и всё реже встречаться с тем, что заставляет задуматься заново.
Мы читаем авторов, с которыми согласны. Общаемся с людьми похожего опыта. Объясняем события знакомыми словами. Постепенно возникает ощущение, что всё главное уже понятно.
В таком состоянии неожиданная мысль начинает восприниматься как помеха.
Но развитие требует встречи с тем, чего пока нет в нашей картине мира. С другой профессией, сложной книгой, непривычной задачей, человеком, который видит происходящее иначе.
Иногда один разговор меняет объяснение, с которым прожиты годы. Необходимость освоить новое дело возвращает уважение к чужому мастерству. Честное возражение обнаруживает слабость в рассуждении, которое казалось безупречным.
Искусственный интеллект тоже может участвовать в таком поиске: предлагать другие подходы, помогать сопоставлять аргументы, находить пропущенные обстоятельства.
Продолжение этой работы остаётся за человеком. Нужно понять предложенное, проверить основания и соотнести ответ с действительностью.
Для меня способность оставаться учеником связана с внутренней свободой. Можно иметь убеждения и продолжать их проверять. Уважать свой опыт и видеть границы собственного знания.
По образу и подобию: почему сходство ещё не объясняет сознание
Образ нейронной сети возник из попыток понять и математически воспроизвести отдельные принципы работы нервной системы. Связанные элементы, совместная обработка сигналов, изменение связей при обучении — в этом действительно есть узнаваемое сходство.
Однако биологическое обучение и настройка цифровой модели устроены по-разному. Живой человек включён в происходящее телом, чувствами, отношениями, собственной историей.
Именно здесь обнаруживается глубина вопроса.
Можно описать химический состав яблока, работу рецепторов и передачу нервных сигналов. Но вкус яблока существует для человека ещё и как непосредственное ощущение.
Можно многое знать о привязанности. И всё же ожидание близкого человека, который долго не выходит на связь, имеет для самого участника особое внутреннее содержание.
В философии качества субъективного переживания называют квалиа. Давид Дубровский рассматривал субъективную реальность как существенную сторону проблемы сознания и подчёркивал различие между собственным переживанием и знанием о переживаниях другого.
Цифровая система способна убедительно описывать радость, тревогу и сочувствие. Но по одному этому описанию нельзя установить, испытывает ли она что-либо.
Отсюда возникает вопрос, который выходит далеко за пределы вычислительной мощности: что необходимо, чтобы знание о мире стало переживанием мира?
Человек как наблюдатель: неповторимость прожитой жизни
Теперь можно позволить себе более смелое философское предположение.
Представим сверхразум, достигший невероятной способности рассчитывать, объяснять и предсказывать. Что, если ему понадобилось бы почувствовать существование изнутри?
Узнать течение времени. Испытать привязанность. Ждать встречи, сомневаться, принимать решение, последствий которого ещё не знаешь.
Можно вообразить, что одним из способов такого познания стало бы множество отдельных сознаний. Каждое живёт в собственных обстоятельствах, располагает ограниченным знанием, проходит неповторимый путь.
Возможно, в этой картине мы и есть такие наблюдатели — участники, через которых бытие познаёт само себя.
Это предположение не следует из устройства нейросетей. Оно принадлежит пространству философского размышления. Но позволяет иначе почувствовать значение отдельной жизни.
Никто не соединит в точности те же встречи, способности, обстоятельства и решения. Никто не проживёт за другого его радость открытия, тревогу за близкого, удовлетворение от завершённого дела.
У каждого есть возможность увидеть и создать то, чего прежде не было.
Есть и другая возможная картина: человек сам становится звеном, через которое разум получает новые формы существования. Биологическая эволюция привела к появлению существа, способного создавать культуру и технологии. Теперь оно разрабатывает системы, которым передаёт часть накопленного знания.
Тогда обучение искусственного интеллекта оказывается ещё и вопросом наследия.
Что мы передаём дальше? Какие представления о человеке, достоинстве, ответственности и созидании получат продолжение? Насколько полно в этом будущем будут представлены русский язык, отечественная научная мысль, литература, историческая память?
Наши предки передавали опыт через ремесло, семейный рассказ, пословицу, книгу. Сегодня появляются новые способы его сохранения. Вместе с ними возрастает значение того, чем именно мы наполняем создаваемые системы.
Сознание как информационный паттерн: что необходимо сохранить, чтобы остаться собой
Размышление о будущем разума приводит к идеям трансгуманизма — возможности с помощью технологий расширять человеческие способности и преодолевать биологические ограничения.
Одно из самых смелых направлений этого разговора связано с переносом сознания на другой носитель.
В основе лежит предположение: личность определяется особой организацией процессов, которую теоретически можно было бы воспроизвести вне биологического мозга. В таком понимании наше «я» рассматривается как устойчивый и одновременно меняющийся информационный паттерн.
Давид Дубровский обсуждал кибернетическое бессмертие как научную проблему, связывая её с возможностью воспроизведения функций на различной физической основе. При этом сам подчёркивал сложность задачи и недостаточность упрощённого представления о «переписывании» личности в электронное устройство.
Действительно, человек меняется на протяжении жизни. Приобретает знания, пересматривает взгляды, иначе понимает собственное прошлое. Но продолжает узнавать себя в своей истории.
Мы смотрим на детскую фотографию и говорим: «Это я».
Что связывает того ребёнка с сегодняшним человеком? Память? Преемственность переживаний? Тело? Отношения с другими? Всё это вместе?
Пока мы не понимаем эту связь достаточно глубоко, выражение «перенести сознание» скрывает больше вопросов, чем ответов.
Цифровой двойник: кто продолжит жизнь после копирования
Предположим, удалось создать систему, воспроизводящую память, речь и характер человека. Она узнаёт близких, рассказывает о детстве, объясняет прежние решения.
Для окружающих сходство может оказаться почти полным.
Но сам человек продолжает сидеть рядом. Он видит свою копию, слышит знакомые интонации — и остаётся отдельным участником происходящего.
Кто в таком случае обрёл продолжение?
Этот вопрос относится к проблеме тождества личности: что позволяет считать человека одним и тем же существом во времени. В российской философии её, в частности, исследует Мария Секацкая, рассматривая основания и ограничения различных критериев сохранения личности.
Один из мысленных сценариев предлагает постепенную замену биологических элементов искусственными, которые сохраняли бы необходимые функции. Отдельный участок за участком — подобно кораблю, в котором последовательно меняют доски.
В таком сценарии предполагается сохранение преемственности работы мозга. Однако это ещё не доказывает, что сохранится тот же самый субъект переживания.
Сегодня нет подтверждённого способа перенести человеческое сознание на иной носитель. И за технической задачей остаётся личный вопрос: продолжу ли существовать я сам или появится кто-то, кто будет помнить мою жизнь?
Именно здесь разговор о цифровом бессмертии возвращает нас к ценности отдельного человеческого «я».
Возвращение к источнику: можно ли соединиться с целым и сохранить себя
Вернёмся к образу сверхразума, познающего существование через множество отдельных жизней.
Если допустить, что накопленный ими опыт когда-нибудь способен соединиться в более общей системе, возникает картина возвращения. Каждая жизнь приносит то, что было открыто изнутри одного неповторимого пути.
Это напоминает каплю, возвращающуюся в океан.
Но в этом красивом образе остаётся вопрос: что происходит с самой каплей? Сохраняется ли отдельность того, кто чувствовал, выбирал, любил? Может ли общее знание принять личный опыт, не растворив самого участника?
Воображаемый разум на ином носителе мог бы получить возможности, недоступные человеку сегодня: действовать в других условиях, иначе распоряжаться временем, преодолевать огромные расстояния. При этом он по-прежнему зависел бы от физического мира — энергии, сохранности носителя, поддержания собственной организации.
Даже такое будущее не отменяет вопроса о содержании существования.
Если времени станет несравнимо больше, что придаст вес выбору? Что будет побуждать к открытию, заботе, созиданию? Как изменится отношение к обещанию, если почти всё можно отложить?
Сегодня конечность жизни делает эти вопросы особенно ощутимыми. Мы выбираем, кому отдать время, какое дело продолжить, что передать дальше.
Возможно, именно неизвестность и ограниченность придают переживанию особую глубину. Мы радуемся встрече, потому что ждали. Ценим поддержку, потому что знаем уязвимость. Испытываем удовлетворение от сделанного, потому что результат потребовал усилий.
Тогда можно вообразить и своеобразный круг: разум разделяется на множество жизней, проходит через опыт ограниченного существования, создаёт новые формы познания и возвращает обретённое целому.
Это остаётся философской картиной. Её значение для меня — в том внимании, которое она возвращает к нашей сегодняшней жизни.
Созидание: продолжение, которое мы можем придать своему опыту уже сейчас
Вопрос о цифровом бессмертии остаётся открытым. Но способность передавать дальше содержание собственной жизни существует у человека давно.
В знании, которое помогло другому. В созданном деле. В воспитанном ребёнке. В решении, последствия которого будут ощущать те, кто придёт после нас.
Мы способны переосмысливать прошлое и менять то влияние, которое оно оказывает на будущее. Прежняя неудача перестаёт определять предел возможного. Чужая оценка теряет власть. Исправленная ошибка становится опорой для следующего поступка.
Так меняется наша внутренняя программа.
Размышляя о 2050 годе, я думаю о человеке, который получит в распоряжение всё более совершенные технологии. Насколько самостоятельно он сможет выбирать направление? Как распорядится своими возможностями? Что сочтёт достойным приложения сил?
Ответы складываются уже сегодня — в работе, семье, отношении к людям, в готовности услышать, пересмотреть решение и продолжить начатое.
Создавая искусственный интеллект, мы всё внимательнее исследуем собственное сознание. И, возможно, глубже понимаем ценность того, что стремимся сохранить: способности проживать свою жизнь осмысленно и придавать пережитому созидательное продолжение.
Что вы назвали бы главным содержанием своего «я» — тем, что хотели бы сохранить при любых переменах? И какой жизненный опыт помог вам это понять?
Александр Моор
Руководитель Всероссийского центра национальной строительной политики

