«От искусственного интеллекта к искусственному сознанию»: часть 1


«От искусственного интеллекта к искусственному сознанию»: часть 1 13 октября на фестивале науки NAUKA 0+ прошла панельная дискуссия “Смогут ли андроиды грезить об электрических овцах? От искусственного интеллекта к искусственному сознанию”. Член- корреспондент РАН, доктор Медицинских наук Константин Анохин, доктор биологических наук, профессор СПбГУ Татьяна Черниговская и кандидат физико-математических наук Сергей Шумский обсудили, что такое интеллект, разум и сознание? Что нужно, чтобы у машин появилось сознание? Действительно ли мы хотим этого? “Лаборатория” подготовила конспект беседы.

Константин Анохин: Искусственный интеллект сегодня всюду. Мы решили обратиться к будущему искусственного интеллекта. Нам бы хотелось обсудить вопросы, которые, с одной стороны, давно интересуют писателей-фантастов и рассматриваются в целой серии художественных фильмов, с другой — обсуждаются учеными и специалистами в области искусственного интеллекта. Например, может ли искусственный интеллект обладать человекоподобными разумом и сознанием? Через какое время это произойдет? Есть разные цифры. Одни ученые говорят, что это случится очень быстро, другие думают, что для этого понадобятся десятилетия. Но все сходятся в том, что мы не очень понимаем, как это сделать. В связи с этим возникает несколько вопросов, которые стали предметом сегодняшнего обсуждения. Оно будет построено следующим образом. Название темы сегодняшней дискуссии — это парафраз культовой книги Филиппа Дика “Мечтают ли андроиды об электроовцах?”. Недавно по телевизору показывали фильм “Бегущий по лезвию”.
Мы разделили нашу дискуссию на три вопроса. Где мы? Каково состояние развития искусственного интеллекта сегодня? Сделали ли мы уже машины, обладающие прообразами разума и сознания? Кто мы? Что мы можем сказать о природе разума и сознания? Что потребуется, чтобы у машин появились эти свойства? Куда мы идем? Хотим ли мы, чтобы машины стали обладать разумом и сознанием? Как может изменить нашу жизнь появление машин с такими свойствами? Каждый из нас расскажет о разных аспектах искусственного интеллекта. Мой коллега Сергей Александрович Шумский — специалист в области машинного обучения и современных технологий в области искусственного интеллекта. Он расскажет о том, где мы в этой области находимся сегодня. Ваш покорный слуга нейрофизиолог. Я постараюсь рассказать о том, что такое сознание и разум в представлении когнитивной науки и нейронауки. Какими свойствами должна обладать физическая система, чтобы обладать сознанием и разумом? Наконец, Татьяна Владимировна Черниговская, специалист в разных областях когнитивной науки, расскажет о том, куда мы идем и насколько это для нас важно или опасно. После этого мы перейдем к дискуссии.

Сергей Шумский: Где мы? Я считаю, что мы сегодня находимся в самом разгаре научной революции, сравнимой с научными революциями Коперника, Галилея и Ньютона, которые привели к появлению науки Нового времени. Коперник предложил новую научную парадигму, новый взгляд на природу Солнечной системы, Галилей изобрел многие полезные инструменты, в частности телескоп, в рамках этой новой парадигмы, Ньютон создал общую теорию, ставшую основой для науки на следующие 200 лет. Я думаю, что мы находимся на стадии Ньютона. Сейчас поясню, что я имею ввиду.
В науке всегда было две точки зрения. Первая (до сих пор она доминировала) касается того, что искусственный интеллект можно запрограммировать. То есть, можно понять работу человеческого разума и запрограммировать машину нужным образом. Первые 50 лет наука шла этим путем и мало чего добилась. Современные компьютеры мало чего умеют, но этого недостаточно, чтобы называться искусственным интеллектом. Вторая, новая, касается машинного обучения. Согласно этой точке зрения, нельзя и не нужно программировать разум. Во-первых, мы не знаем, как он устроен, во-вторых, он очень сложный. Его нельзя понять извне, а изнутри его можно вырастить, воспитать. То есть разум может появиться автоматически в процессе обучения, надо только научить машину учиться. Эта точка зрения изменила отношение к искусственному интеллекту во всем мире. За последние пять лет ученым удалось сделать больше, чем за предыдущие 50. Сегодня полностью решена проблема машинного зрения, компьютеры могут распознавать и генерировать речь, музыку и картины.
Сегодня есть прорывы в двух областях: первая — сенсорный интеллект (то есть, искусственные органы чувств), и стратегический (то есть, стратегия достижения цели в борьбе с противником). В последней области прорыв очень заметен. Машина обыгрывает человека во все стратегические игры (такие как шахматы, покер и пр.).

«…следующий шаг после сенсорного и стратегического интеллекта будет создание искусственной психики роботов. … это будет «зверушка» с интеллектом, как у млекопитающего, который мы будем «доводить» до уровня человека»

Мы живем с компьютерами лет 70. Они постепенно приникали в нашу жизнь и были нашими помощниками и игрушками. В последние несколько лет произошел фазовый переход. Компьютеров стало настолько много, они стали настолько мощными, что их потенциальная способность принимать решения сравнялась с человеческой. Не поЫ качеству, конечно, а по объему (то есть количество человек на планете, их способность накапливать информацию в течение жизни и скорость накопления этой информации). В 2012 году произошел «слом», когда потенциальная мощность компьютеров стала больше, чем у людей. Это делает компьютеры самым большим экономическим ресурсом. Однако он не используется. Почему? Потому что для того, чтобы его использовать, необходимо, чтобы компьютеры могли принимать решения, делать то же, что делают люди. Это и есть искусственный интеллект. Искусственный интеллект — это та технология, которая превращает компьютер из потенциальной мощности в реальную. Машинный интеллект решает проблемы лучше, быстрее и дешевле, чем человеческий. Началась гонка за искусственным интеллектом. Размер вложений в исследования искусственного интеллекта – это десятки миллиардов долларов. Сегодня армия из 300 тыс. человек уже исследует искусственный интеллект и все возможные области его применения. Появляются домашние помощники, умные дома и пр. Эта армия прирастает на 50-70% в год. Она делает неизбежной научную революцию. Думаю, что следующий шаг после сенсорного и стратегического интеллекта будет создание искусственной психики роботов. Полагаю, это произойдёт в течение следующих 4-5 лет. То есть, это будет зверушка с интеллектом, как у млекопитающего, который мы будем «доводить» до уровня человека.

Константин Анохин: Я полностью согласен с Сергеем Александровичем в том, что мы находимся на пороге крупнейшей в мире научной революции. В ее конце мы получим ответы на вопросы «Кто мы?», «Как мы познаем окружающий мир?», «Что такое знание?». Все эти знания будут иметь непосредственное отношение к технологиям. То есть, научная революция должна будет ответить на вопросы о сознании и разуме. Мы должны будем понять не просто работу мозга как органа (такого как сердце или печень), но и ответить на вопрос, почему нейроны мозга продуцируют мысли, чувства, желания. Сегодня есть две темы, которые привлекают большое количество ученых. Первая – сознание (то, что по-английски называется consciousness). Вторая тема – это разум. По-русски это называется психика, по-английски – mind.
И так, кто мы? Для того, чтобы понять это необходимо определить, во-первых, сознание операционально и универсально (неважно, кто его обладатель – человек, осьминог, инопланетянин, машина, искусственный интеллект)? Во-вторых, что требуется для получения сознания у искусственного интеллекта? В-третьих, какая может быть от этого польза. В-четвертых, неизбежно ли эволюция искусственного интеллекта должна привести к возникновению у него сознания? И наконец, если возможна эволюция искусственного интеллекта без сознания, то хотим ли мы, чтобы оно у него было? Зачем на нужно знать ответы на эти вопросы? Мой ответ: чтобы знать, как сделать искусственный интеллект, который не (!) будет обладать сознанием. Татьяна Владимировна, возможно, будет дальше говорить об опасностях, связанных с искусственным интеллектом. Но я думаю, что важно знать, как сделать искусственный интеллект без сознания.
Что такое сознание? Сознание – это Я в этот момент. Многие исследователи (те, кого мы относим к когнитивной науке первого поколения, хотя они были философами и психологами) понимали, что сознание – это процесс в мозге. Выпускник Московского университета Иван Михайлович Сеченов был первым нейрофизиологом, который попытался выяснить, как протекает этот процесс в мозге. Сегодня таких исследований очень много. Нейрофизиологи, психологи, философы определяют сознание как любой субъективный опыт. Он может включать намерения, эмоции, боль, бодрствование и пр.
Доминирующий подход в исследовании сознания – это поиск в нервной системе минимального набора механизмов [нейрокоррелятов сознания, – прим ред.], которого было бы достаточно для любого субъективного опыта. Если нейрофизиологи смогут их найти, то они поймут, как устроено сознание. Я считаю этот подход редукционистским и не описывающим явление полностью. Почему? Потому что есть ряд вопросов, на которые нельзя ответить при помощи нейрофизиологических нейрокоррелятивных экспериментов. Почему в активность одних и тех же структур мозга в какие-то моменты связана с субъективным опытом, а в какие-то – нет. В какой момент жизни человека появляется сознание? Имеет ли сознание недоношенный ребенок? Имеют ли сознание такие существа, как осьминоги, у которых нервная система совсем не похожа на нервную систему человека? И, наконец, как понять есть ли сознание у машины?
Для всего этого мало нейрофизиологических экспериментов. Нужна большая обобщающая теория. Мы работаем над такой. Мы называем ее гиперсетевой теорией мозга. Я расскажу о ней в двух словах. Во-первых, согласно этой теории, чтобы понять природу сознания, нужно сначала понять, что такое разум. Теория говорит, что разум – это очень сложная структура, но она материальна. В ней протекают различные процессы. Это как улицы в городе, по которым ездят автомобили. Если есть такая структура, есть трафик. Нам сначала нужно понять, как устроена эта структура. После этого, можно будет разобраться, как протекают эти процессы. Чтобы ответить на вопрос «Что такое разум?», нужно прежде понять, кто мы. Для этого нужно учесть три концепции (аспекта): психика (mind), память (memory) и Я (me). Теория должна обобщить все исследования, проведенные в рамках этих концепций. Во-вторых, нужно отказаться от двух предрассудков, которые существуют в науке. Первый, что психика нематериальна. Согласно теории, психика – это материальная высокоорганизованная структура. Второй, что мозг – это низкоматериально устроенный объект, как любой другой орган. Мозг имеет более сложную структуру, его клетки связаны с личным опытом и т. д.
В заключении, мне бы хотелось согласиться с тем, что сказал Сергей Александрович. Согласно теории, сознание, которое является гиперсетью над нейронной сетью, возникало в процессе эволюции много раз. И мы, млекопитающие, и умные птицы (например, вороны), и осьминоги обладаем разумом. Это значит, что у разума (раз он есть у разных видов) есть базовые признаки. Согласно нашей теории, этих признаков всего три. То есть, у живого организма должно быть всего три свойства для появления разума? Во-первых, он должен обладать функциональной системой, которая будет определять его потребности, мотивации, интересы и пр. Во-вторых, у него должна быть нервная система (нейронная сеть), в которую «заселятся» эти функциональные системы, определяющие мотивации и будут управлять поведением всего организма. В-третьих, он должен обладать способностью к обучению и долговременной памятью. Таким образом разум появляется в биологической системе, и также мы можем вырастить разум и психику в искусственной системе.
Если такое произойдет, и система будет способна к обучению, то приведет ли это к появлению разума. Мой ответ – нет. Потому что то, что происходит во время машинного обучения, не похоже на то, что происходит во время обучения людей. Для того, чтобы живой организм обрел разум, он должен иметь мотивацию. Он должен хотеть. У него должны быть мотивация, желания, цели. Без них нет ни разума, ни сознания. Спасибо за внимание!

Татьяна Черниговская: Добрый день! Мы давно знакомы с Константином Владимировичем. Раньше я почти во всем с ним соглашалась, сегодня это меняется. Недавно мы обсуждали тему, которую обсуждаем сегодня. Возник вопрос: «Может, прекратим это все, раз это так опасно?». И ответ Константина Владимировича был «Нет. Чтобы не допустить появления бесконтрольного разума».
Начну с того, что в нашей жизни чувства и эмоции играют огромную роль. Это не сенсорные чувства, то есть не то, что мы слышим или видим. Когда я узнала название этой дискуссии, я прочитала эту книгу и посмотрела фильм. Там много пугающих вещей. Например, там есть модулятор настроений Пенфилда. Там также упоминается, что андроидам не удается общаться с животными, потому что для этого нужна эмпатия. Не стану пересказывать книгу, прочитайте ее сами. Я веду к тому, что мы можем не понять, перед нами сидит робот или живой человек (это есть и в книге, и в фильме). Кроме того, герои книги не всегда уверены, сами они люди или андроиды. Возникает вопрос, всем ли живым существам свойственна эмпатия? Есть ли, например, эмпатия у муравьев? Подозреваем, что есть, поскольку они живые. Но разве у нас есть способ об этом узнать?
Далее. А что такое «живое» вообще? Не думайте, что я задаю совсем простой вопрос. Биологи занимаются этим вопросом и дают разные ответы. Однако и в книге, и в фильме есть утверждение, что, если в биологическом теле есть рефлексы, то оно живое. А если рефлексы будут в искусственном теле, то должны ли мы будем признать наличие жизни в цифрах (ведь речь же идет о программах)?
С Декарта идет «Я мыслю, значит я существую». Верно ли это? Даже в наше время, когда речь идет о мыслящих машинах. Может, верно другое «Я чувствую, значит я существую?». Все те машины, о которых говорил Сергей Александрович, обыграли нас не только в шахматы, но и в покер, игру с неполными данными, блефом и жульничеством. То есть, машины ступили на нашу территорию. Картину «Крик» Мунка, я поместила на слайд, поскольку он упоминается в книге. Один из андроидов говорит, что он увидел картину, на которой изображен человек, заполненный криком, намекая на то, что он сам андроид и есть такое существо, у которого нет выхода наружу.
Я была на выставке под названием «Звучащее вещество», которая проходила в Мраморном дворце в Петербурге. Одну композицию я сфотографировала. В продолжении фильма «Бегущий по лезвию 2049» городской пейзаж изображен таким же однообразным и серым. То есть, это перестает быть фантазией художников. Я надеюсь, что мы избежим такого в реальной жизни.

«…какая цивилизация будет после цивилизации людей? Ведь никто не обещал, что мы последние цари природы»

Так или иначе, я хочу спросить, а зачем разум природе? Ей он не нужен. Он ей, я бы сказала, вреден. Не говоря уже о сознании. Самое сложное, конечно, понять, что такое сознание. У ученых есть разные ответы на этот вопрос. Джон Серль, один из крупнейших философов, изучавших эту тему, говорил, что сознание реально и нерудуцируемо. То есть, что невозможно провести различие между иллюзией и реальностью, так как для сознания иллюзия и есть реальность. Дени Дидро говорил, что, раз сознание – это продукт мозга, то его можно разобрать и собрать обратно. В 1957 году Джулиан Хаксли (брат писателя Олдоса Хаксли) ввел термин трансгуманизм, утверждая, что с помощью научно-технического прогресса можно будет усовершенствовать человека (улучшить его физические, умственные способности и пр.).
Встает вопрос, а какая цивилизация будет после цивилизации людей? Ведь никто не обещал, что мы последние цари природы. Появляется такое понятие как citizen cyborg (киборг-гражданин, личность). Наша цивилизация абсолютно к этому не готова. Во многих странах используют термин non-human subject – субъект, который не является человеком. Это, например, дельфины, слоны, шимпанзе.
Может ли существовать искусственный интеллект? Вопрос в том, сможем ли мы понять, что у него есть самосознание, то есть Я или самость. Но как это узнать? У живых существ, у которых есть сознание, есть этика. А будет ли этика у машины? Возможно ли это? И какая это будет этика?
Все говорит о том, что мы можем влиять на свою эволюцию. Особенно последние достижения генетики. Но мы не знаем, что из этого выйдет. Маршал Маклюэн считал, что будет надбиологичкий вид homo sapience autocreator, то есть вид, который будет сам себя воспроизводить.
Мы уже находимся в другом мире. Это не просто важнейшая научная революция, а слом всей цивилизации. Это сверхбыстрый мир, и он нечеловекомерный. В наносекундах и нанометрах живое не живет. Это прозрачный мир, в котором все про всех все знают. Перед нами стоит выбор между свободой и безопасностью.
Станислав Лем писал, что к нам приходит новый бог. Этот бог – случайность. Если раньше, пишет он, война плохо идет, надо поменять военачальника на Кутузова. Для этого понадобились бы недели и месяцы. А сегодня все происходит за наносекунду. Решение может быть принято мгновенно, и мы об этом даже не узнаем.
Нам место есть еще в этом мире? И какое это место? Сегодня мы имеем умные пылесосы и кофеварки. Но это не искусственный интеллект. Мы не знаем, хотим ли мы попасть в мир искусственного интеллекта. Базовые этические нормы рухнут. Мы готовы к этому? И зачем нам это? Может, для того, чтобы они за нас все делали. Я за! Очень поддерживаю! Хотелось бы знать, чем займется остальное человечество. Когда мне говорят, что в таком мире люди будут занимать креативным вещами такими, как музыка и живопись, то у меня это вызывает скепсис. Более того, это называется цивилизация праздности. Уже были цивилизации, которые рухнули из-за праздности, но не так глобально, как можем рухнуть мы.
Итак, мои вопросы. А что такое глупый человек? Мозг может глупый быть? Если, конечно, речь не идет о патологии. Мозг даже самого низко интеллектуального человека все равно сложнее всего на свете и так же сложен, как вселенная? А что такое гениальный мозг? Гениален мозг или человек? Есть ли логика у самого мозга? Подчиняется ли мозг законам Ньютона? Подчиняется вроде бы! Поскольку он физический субстрат. А как быть с каузальностью? Она в мозге есть?
Если верить таким «провокаторам», как Роджер Пенроуз, то сознание – это квантовые скачки. Если квантовые скачки, значит квантовый мир. Мы берем данные томографов и делаем вывод о строении мозга. Но верны ли эти выводы? Нет математики, чтобы описать процессы в мозге. А физика есть? Какая? Говорят, нужно найти алгоритмы мозга и с их помощью создать искусственный интеллект. А в мозге есть алгоритмы? Конечно, нет!
Людвиг Витгенштейн придумал метафору ковра, на который люди смотрят одинаково, но каждый вынимает свои нити. Каждый человек трактует то, что видит, слышит, обоняет совершенно по-разному. Музыка возникает не в ушах, которые улавливают звуковые волны, а в мозге, который должен обладать знаниями, чтобы ее понять.
Мы действительно на пороге нового мира. Возвращаясь к фильму и книге, хочу сказать, что больше всего меня пугает то, что мы можем и не узнать, произошли эти изменения или нет. Как одна из героинь книги, которая не знала, что она робот, а воспоминания ей установили, как программу. Спасибо за внимание!

Фото: Игорь Анисимов
Читать часть 2