Часть 5 серии «Введение в общий искусственный интеллект»

«Поиски искусственного разума искусственным интеллектом превратили тайну сознания в философию с установленными сроками».

- Доктор Макс Тегмарк, профессор Массачусетского технологического института

И снова здравствуйте! Прошло некоторое время с тех пор, как я публиковал последний раз, но я надеюсь снова набрать скорость и выпускать эти истории по крайней мере раз в две недели. Имея это в виду, добро пожаловать в пятую часть этой серии статей, посвященной общему искусственному интеллекту (AGI)! Если вы пропустили первые четыре части, ознакомьтесь с ними здесь, начиная с Части 1. На этой неделе мы рассмотрим сознание: этот неуловимый, неправильно используемый и сбивающий с толку термин, который имеет тенденцию вызывать экзистенциальные кризисы ...

В частности, на этой неделе мы собираемся обсудить следующие вопросы:

  1. Что такое сознание?
  2. Связано ли сознание с мышлением о мышлении?
  3. Что такое разум и чем оно отличается от сознания?
  4. Сознательны ли нынешние ИИ?

На следующей неделе, в части 6, мы начнем поиски практических возможных способов создания AGI (или прото-AGI), и будем иметь дело в основном с невероятно увлекательным миром когнитивных архитектур.

Новый пост будет выходить каждую неделю / раз в две недели в серии (я надеюсь), и не стесняйтесь писать по электронной почте ([email protected]) с вопросами, комментариями или разъяснениями. Наслаждаться!

Заявление об ограничении ответственности: несомненно, есть те, кто более квалифицирован, чтобы глубоко говорить о проблемах и темах, которые я затрону, от эмоций до нейроморфных вычислений. Для этих людей эта серия должна быть введением по этим темам, поэтому приносим извинения, если что-то опущено или сокращено для краткости. Я действительно просто хотел, чтобы эта серия и класс, который ее вдохновил, послужили обзором соответствующих тем AGI, которые обычно не преподаются, когда кто-то изучает ML или AI. Также обратите внимание: эта серия никоим образом не связана с MIT или его брендом - я просто люблю писать по выходным о вещах, которые меня интересуют, и MIT официально не поддерживает мнения, изложенные здесь.

Часть I: Что такое сознание?

Предупреждение, спойлер: никто не знает.

«Я существую, вот и все, и меня это тошнит».

- Жан-Поль Сартр, Бытие и ничто

Я действительно думаю, что мы живем в золотой век вычислительной нейробиологии. Новые мощные модели зрения, понимания, внимания и языка появляются с головокружительной скоростью, и по мере того, как они становятся более похожими на людей, неизбежно возникает вопрос: «Просто насколько они похожи на людей? ” появляется. Обратите внимание, что это довольно сложный вопрос, и подобие человека может означать много разных вещей; однако я интуитивно чувствую, что, когда большинство людей задают этот вопрос, он склоняется к принятию коннотации сознания. То есть по мере того, как эти модели становятся более сложными, приближаются ли они к чему-то… сознательному?

Этот пост представляет собой попытку выйти за рамки шумихи об ИИ и сознании и дать хороший обзор того, какие вопросы задают реальные лаборатории ИИ и нейробиологии, а также попытаться устранить некоторые «волнения рук» в обсуждениях ИИ и сознания. В нашей Лаборатории даже шутят, что мы не говорим о сознании, потому что это очень емкий термин, который часто используется без строгой дисциплины в отношении того, на что на самом деле ссылаются.

При исследовании и попытке понять сознание я имел в виду две вещи:

  1. Любой, кто пытается утверждать, что понял природу сознания или раскрыл его секреты, скорее всего ошибается и / или пытается что-то вам продать.
  2. Чем больше вы его изучаете, тем чаще вы ошибаетесь в слове «сознание».

Первый пункт - это пересказ д-ра Патрисии Черчленд [1], и он важен, потому что по состоянию на сентябрь 2021 года мы абсолютно не знаем, что такое сознание, из чего оно состоит и откуда оно взялось; мы с трудом можем его определить, не говоря уже о воспроизведении. У нас есть несколько теорий, которые все еще нуждаются в эмпирической проверке, но на них нет однозначного ответа.

Я знаю, что этот ответ не совсем "сексуальный", но я не могу добросовестно дать вам наполовину готовый ответ или "ура" - наука сейчас просто не знает, и было бы неправильно утверждать, что это так.

Однако с феноменологической точки зрения мы можем описать, что значит быть сознательным и не быть. Такое ощущение, что ты и есть эта штука, когда ты смотришь этими двумя глазами, контролируешь тело и думаешь. Как уже говорилось, «сознание» - очень емкое слово, и люди могут иметь в виду множество разных вещей, когда они его упоминают, например, чувства, осознанность, самосознание, мышление и переживание. Некоторые нейробиологи считают, что сознание - это эмерджентное свойство чрезвычайно сложных систем, а это означает, что оно просто… вроде как появилось, когда мозг стал достаточно сложным. Многие люди, в том числе и я, тянутся к этому, потому что это огромный пробел в наших знаниях о мире, и нам еще предстоит сделать большой прогресс и выявить факты. Традиционно сознание было изгнано в сферу неопровержимых гипотез из-за общеизвестно сложной проблемы даже попытки создать конкретную теорию. Итак, в связи со сложной природой термина «сознание» само, мы попытаемся распечатать некоторые общие «типы».

Первое (и, возможно, самое большое) различие между типами сознания, которые мы собираемся провести, - это внимание и феноменологическое (или a против p). Вкратце, внимательное сознание относится к осознанию определенных стимулов, и во многих когнитивных архитектурах реализован именно этот механизм. Я знаю, что пишу этот пост, который час, что сейчас делают мои руки и т. Д. С другой стороны, феноменологическое сознание относится к квалиа [2]; то есть, каково это, используя терминологию Нагеля, быть летучей мышью? Каково было бы испытать себя в симуляции? Этот тип перекликается как с квалиа, чувствами, так и с проблемой разума и тела - всем, что мы обсуждали в этой серии лекций. Итак, многие системы прото-AGI теперь обладают вниманием, но настоящее развлечение носит феноменологический характер.

Другой «тип» или различие слова «сознание» исходит от Антонио Дамасио и составляет core v. Extended. Ядро сознания похоже на переключатель включения / выключения, который включается, и организм бодрствует и осознает одно мгновение, сейчас, и одно место, здесь [3]. Организм бдителен, но не озабочен будущим или прошлым и не осознает себя. С другой стороны, расширенное сознание - это то, что мы имеем в виду, когда обычно говорим о сознании: бдительном и озабоченном прошлым и будущим. Обычно это считается исключительно человеческим; Вы, вероятно, могли бы возразить, что такие животные, как свиньи и коровы, обладают внутренним сознанием, но было бы труднее утверждать, что они расширились.

Наконец, последнее различие сознания, о котором мы поговорим, довольно хорошо известно, а именно различие между бессознательным, подсознательным и предсознательное. Эти типы конкретно и обычно относятся к типам внимательного сознания:

  1. Бессознательное обычно указывает на отсутствие сознания, независимо от причины [3].
  2. Предсознательное обычно представляет собой подмножество бессознательного и обычно указывает на то, что влияет на сознательное поведение [3].
  3. Подсознание для нас - то же самое, что и предсознание [3].

Вот хороший пример: бессознательное состоит из вещей, которые человек видит и слышит, но не обрабатывает сознательно. Подсознание может затем хранить эту информацию для последующего извлечения сознательным умом, и когда мы сможем доказать это научно, тогда это будет считаться предсознательным [3].

Итак, мы раскрыли некоторые загруженные термины, касающиеся сознания. Какое место занимает наука в выяснении того, что это такое, откуда она взялась, или, что еще более интересно, в том, как ее воспроизвести? Давайте рассмотрим три основные теории, которые пытаются это объяснить:

Интегрированная теория информации [4]: ​​

  1. Предложено Тонони и защищено Кристофом Кохом.
  2. Вкратце, это функционалистская теория, которая опирается на нечто, называемое интегрированной информацией, которая представляет собой измеримую степень, в которой сеть влияет на себя. Это грубое упрощение, но оно показало замечательные перспективы как в лабораторных условиях, так и в клинических применениях.
  3. Вещи с большим количеством фи (интегрированной информации) более сознательны.
  4. Чтобы прочитать и узнать больше, я настоятельно рекомендую книгу Коха Ощущение самой жизни.

Теория глобального / нейронного рабочего пространства [5]

  1. Предложен Бернардом Баарсом и сильно повлиял на развитие когнитивной архитектуры, а также на психологическое и поведенческое моделирование.
  2. По сути, это способ бессознательного процесса конкурировать, основанный на важности осознания внимания - более важные стимулы - это те, о которых вы начинаете осознавать.
  3. P-сознание немного сложнее, и текущий G / NWT в значительной степени уклоняется от того, как реализовать феноменологическое сознание.
  4. Мы вернемся к этой теме на следующей неделе, когда поговорим о когнитивных архитектурах.

Теория схемы внимания

  1. Предложено нейробиологом из Принстона Майклом Грациано.
  2. Материалистическая теория утверждает, что p-состояния конструируются из схемы внимания, как и GWT. Узнайте больше здесь: Теория схемы внимания: механистический учет субъективной осведомленности (nih.gov)

Я знаю, что информации было много; однако люди проводят всю свою жизнь, изучая сознание, а у нас всего несколько тысяч слов. Не бойся. Важно познакомиться с некоторыми фундаментальными концепциями, чтобы мы могли понять очевидное применение сознания к ОИИ.

Также важно отметить, что это модели / предложения о том, как различные авторы думают, что сознание (p и a) может быть реализовано - эти модели нуждаются в дальнейшей проверке, данных, исследованиях и / или фальсификации. Вот что действительно сложно в отношении сознания и почему многие современные нейробиологи, когнитивисты и исследователи искусственного интеллекта испытывают нерешительность в отношении этого термина - это сложно определить опровергнуть проверяемую гипотезу, которая может быть подтверждена эмпирически в больнице, лаборатории или с помощью модели искусственного интеллекта. Тем не менее, IIT делает большие успехи в этой области, и если вам интересно, см. [6] и [7] для получения более подробной информации.

Часть 2: Связано ли сознание с размышлениями о мышлении?

Или в нашем случае думать о мышлении о мышлении?

- Пуаро, - сказал я. "Я думал."

«Замечательное упражнение, мой друг. Продолжай ».

- Агата Кристи, Peril at End House

Может ли моя собака сидеть и размышлять о своих действиях? Может ли он спроецировать себя в будущее, чтобы обдумать, как я могу отреагировать, если, скажем, он решит прогрызть мою туфлю или съесть великолепную булку с оленьими фекалиями? Большинство людей, вероятно, возразят, что нет, даже собаки не обладают этой способностью, и что это исключительно человеческий навык, и, судя по тому, что моя собака не избегает оленьих какашек, я, скорее всего, согласен. Эта способность размышлять, думать на более высоких или более абстрактных уровнях и думать о самом познании - это метапознание, то есть мышление о мышлении. Более конкретно, метапознание:

  1. Это фундаментальная концепция, которая относится к любому знанию или когнитивному процессу, который относится, отслеживает или контролирует любой аспект познания [8].
  2. Реализуется или разрабатывается многими когнитивными архитектурами и считается краеугольным камнем способности разума, по крайней мере, в высших умах [9].
  3. Часто она написана как программа «наблюдатель», которая может смотреть на ситуацию, контролировать входные данные и жизненно важные системы и соответствующим образом реагировать. Мы обсудим больше в лекции по когнитивной архитектуре на следующей неделе.
  4. Вопрос в том, нужно -сознание, чтобы иметь возможность размышлять и думать о себе?

Последний пункт - настоящий приверженец, и это бельмо на боку для многих людей, исследующих этот вопрос. Похоже, что для того, чтобы по-настоящему задуматься о своих действиях и мотивах, у вас должна быть какая-то внутренняя модель, которая представляет вас как феноменологическое существо: то есть, чтобы думать о себе, должна быть я в первую очередь ... глубокий материал!

Но, если отбросить шумиху, метапознание глубоко связано и переплетается как с сознанием p, так и с a, и мы, к сожалению, не до конца понимаем ни природу, ни масштабы этих отношений.

Часть 3: Что такое разум и чем оно отличается от сознания?

Быстрый обход, чтобы избежать путаницы

«Действительно ли возможно рассказать кому-нибудь о своих чувствах?»

- Лев Толстой, Анна Каренина

Два очень часто неправильно используемых и смешанных термина - это разум и сознание, даже в литературе по нейробиологии и искусственному интеллекту. Я изо всех сил старался найти наиболее распространенные темы от исследователей, которые развязали эту путаницу, и изложить их ниже:

  1. Разумность сама по себе означает просто способность чувствовать или ощущать вещи. Разумный, с другой стороны, означает разумный в человеческом смысле [10].
  2. Что-то может быть разумным, но не осознающим, например, моя собака (в данном случае базовое сознание, но не расширенное сознание).
  3. Может ли корова почувствовать боль, испытать, что значит быть запертой в клетке или быть приведенной к смерти? Я думаю, что да, хотя я собираюсь предположить здесь и скажу, что это не то же самое, что мы могли бы испытать их, но более «сырое» - то есть они могут чувствовать, но не совсем подумайте об этих чувствах.
  4. Как правило, все согласны с тем, что разум - это путь к сознанию: все, что находится в сознании, должно быть разумным, но не обязательно наоборот [10]. Для вас, ботаников-философов, разумность необходима для сознания, , но не достаточна.

Мне нравится думать об этом проще всего в терминах собак. Я и многие другие люди, вероятно, будут утверждать, что собаки очень разумны, то есть они чувствуют такие вещи, как боль и грусть. Однако они не сознательны в том смысле, в каком мы, потому что нет временного аспекта «меня с течением времени» или мысли, которая проносится в их голове вроде « вау, знаешь, я бы действительно мог использовать хороший рулет из оленьих какашек. Если я сделаю это быстро, Майк даже не заметит! ». Они просто переживают вещи здесь и сейчас и чувствуют вещи, основанные на этом опыте.

Часть 4: Сознательны ли нынешние ИИ?

No.

«Есть идея Патрика Бейтмана, какая-то абстракция; но нет настоящего меня, только сущность, что-то иллюзорное. И хотя я могу скрыть свой холодный взгляд, и вы можете пожать мне руку и почувствовать, как плоть сжимает вашу, и, возможно, вы даже почувствуете, что наш образ жизни, вероятно, сопоставим, меня просто нет ».

-Патрик Бейтман, Американский психопат (1991)

Я боролся с тем, чтобы включить цитату американского психопата не потому, что она неуместна, а потому, что Патрик Бейтман - отвратительный человек. Опять же, в этом и заключалась цель книги: выявить уродливые стороны стереотипной субкультуры яппи-бро с Уолл-стрит в Америке 80-х. Я думаю, что Брет Истон Эллис пригвоздил это, и я также думаю, что он прибил это иллюзорное и мимолетное ощущение себя, которое существует даже у людей - что происходит, когда у вас есть человек, который во всех смыслах кажется нормальным, но где это чувство метапознания или отражения отсутствует? Если нам, людям, трудно понять, когда в этом отношении не хватает другого человека, как мы сможем точно оценить животное или даже машину?

Хорошо, вернемся к моей литературной теме: ИИ нигде не приблизились к полномасштабному р-сознанию. Можно и нужно привести доводы в пользу того, что некоторые передовые когнитивные архитектуры обладают сознанием внимания, но пока еще ничто не реализовало р-сознание. Я не выдвигаю много твердых аргументов, но это то, что я поддерживаю и готов обсудить.

Когда большинство людей обсуждает «ИИ и сознание», не совсем ясно, какой именно ИИ они имеют в виду: простую ИНС прямого распространения? Байесовская машина логического вывода? Линейный классификатор? Периодические всплески нейронной сети? Итак, хотя этот ответ довольно скучен, просто знайте, что ИИ не осознают (пока) и, вероятно, не будут в течение некоторого времени. Однако я лично верю, что мы взломаем этот код и однажды создадим машину с искусственным сознанием; но пока человечеству, вероятно, придется придерживаться старомодного способа создания сознательного разума :)

TL;DR

Современная нейробиология не знает, что такое сознание, но у нас есть несколько теорий о том, из чего оно может состоять. Чтобы действительно знать, необходимы дополнительные испытания, проверки, данные и работа, но на данный момент «искусственный интеллект» не является сознательным и, скорее всего, не будет в ближайшее время.

Другие вопросы для размышления:

  1. Что вы думаете о гипотезе о эмерджентном свойстве сложных систем о сознании?
  2. Как вы думаете, сможете ли вы когда-нибудь формализовать (т.е. математически представить) сознание?
  3. Еще раз: как вы думаете, сможем ли мы когда-нибудь реализовать феноменологическое сознание в компьютере (то есть в машине Тьюринга)?

«Я не могу притвориться, что я без страха. Но преобладающим моим чувством является благодарность. Я любил и меня любили; Мне дали много, и я кое-что дал взамен; Я читал, путешествовал, думал и писал.

Прежде всего, я был разумным существом, мыслящим животным на этой прекрасной планете, и это само по себе было огромной привилегией и приключением ».

- Оливер Сакс, Благодарность

Использованная литература:

  1. Черчленд, Патрисия Смит. Прикосновение к нерву: Я как мозг. W.W. Norton & Company, 2014 г.
  2. - Epiphenomenal Qualia, The Philosophical Quarterly, Vol. 32, №127. (Апрель 1982 г.), стр. 127–136.
  3. Нуньес, Пол Л. Новая наука о сознании: изучение сложности мозга, разума и «я». Книги Прометея, 2016
  4. Https://iep.utm.edu/int-info/
  5. Https://onlinelibrary.wiley.com/doi/10.1002/9781119132363.ch16
  6. Https://www.frontiersin.org/articles/10.3389/fnhum.2018.00042/full
  7. Https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6703193/
  8. Уилсон, Роберт А. и Фрэнк К. Кейл. Энциклопедия когнитивных наук Массачусетского технологического института. MIT Press, 1999.
  9. Франклин, Стэн и Ума Рамамурти. «Мотивации, ценности и эмоции: 3 стороны одной медали». Материалы шестого международного семинара по эпигенетической робототехнике, Париж, Франция, сентябрь 2006 г., Когнитивные исследования Лундского университета. №128. 2006 г.
  10. РИЗ, БИРОН. ЧЕТВЕРТАЯ ВЕКА: умные роботы, сознательные компьютеры и будущее человечества. Книги ATRIA, 2019.

об авторе

Майк Фергюсон - разработчик вычислительных исследований (ML / AI) в DiCarlo Labs в Массачусетском технологическом институте. Он работает над Brain-Score, инструментом для измерения того, насколько похожи на мозг искусственные нейронные сети. Весной 2021 года он окончил Университет Вирджинии со степенью бакалавра в области компьютерных наук и прикладной математики, а также со степенью бакалавра в области когнитивных наук и философии. Он является участником книги Недельное испытание и за три года прочитал более 155 книг об ИИ, философии и о том, что значит быть человеком. Он живет в Мелроузе, Массачусетс, со своим коренастым бойцом Уинстоном, бернским зенненхундом, и Шэдоу, приемным бордер-колли.