Из-за природы сознания мы никогда не узнаем, сознательны ли машины, и это имеет серьезные последствия для человечества
Экзистенциальный кризис человечества
Интуиция руководила Ли Седолом, когда он клал гладкий черный камень на деревянную доску. Интуиция, отточенная жизненной практикой. Интуиция была зарезервирована исключительно для людей до прошлой весны, когда AlphaGo, компьютерная программа искусственного интеллекта (AI), разработанная Google, победила Седола в серии Go.
Go обманчиво прост. Он включает только камешки и деревянную доску, но в го больше возможностей, чем атомов во вселенной. Лучшие в мире игроки в го говорят о том, что они чувствуют камни, которыми они руководствуются. Многие пришли к выводу, что ИИ не может победить игрока с самым высоким рейтингом в го, поскольку машины не обладают интуицией. Они оказались неправы. Действия AlphaGo ошеломили мир. Часто они не основывались на каких-либо конкретных рассуждениях. Они были непредсказуемыми. Они чувствовали себя интуитивно.
Настольная игра привела к экзистенциальному кризису человечества. Безликая куча кристаллов и алгоритмов посягала на интуицию, когда-то являвшуюся исключительной прерогативой людей. Если компьютерные программы теперь обладают интуицией, как скоро они также обретут сознание? Когда машины начнут думать самостоятельно и к ним нужно будет относиться морально?
Нам нравится верить, что сознание - это то, что отличает человечество. Сознание, самосознание, метапознание - все относятся к одному и тому же краеугольному камню бытия. Декарт уловил суть сознания, когда сказал: «Я думаю, следовательно, я существую». Кажется, только вопрос времени, когда компьютер сможет сделать то же самое.
Большая проблема
Насколько мы близки к созданию осознанного ИИ? и "Будет ли ИИ нам конец?" - популярные вопросы как среди СМИ, так и среди экспертов. Никто не обладает достаточной квалификацией, чтобы с уверенностью ответить на эти вопросы, даже Стивен Хокинг. Более того, есть один важный вопрос, который здесь не задается - как мы узнаем, что ИИ действительно сознателен? Ответ кажется очевидным. Мы должны просто уметь узнавать. Сознательный ИИ будет учиться, проявлять эмоции и взаимодействовать с нами так, как никогда раньше не делала никакая машина. Сознательный ИИ был бы очень похож на нас.
Этот ответ лишь подчеркивает проблему. Мы уверены только в своем собственном сознании и оцениваем сознание других вещей, ища сходства. Такие сходства включают интеллект, эмоции, способность к обучению и физические качества. Так мы оцениваем сознание животных. Мы более склонны верить, что шимпанзе обладают сознанием, чем тунцы, потому что у шимпанзе гораздо больше общего с нами. Мы более склонны считать, что дельфины приходят в сознание после просмотра видео с дельфинами в зеркале.
Мы совершенно уверены, что другие люди обладают сознанием, потому что у нас так много общего. Но даже это всего лишь мнение. Общества подчиняют друг друга из-за расовых, религиозных или этнических различий. Эти аморальные действия оправдываются тем, что разные люди считаются менее сознательными. Как только мы лишаем других их сознания, становятся возможными даже самые немыслимые зверства.
Большая проблема
Понятно, что этот метод оценки сознания плохой, но это не повод для беспокойства. Человечеству всегда удавалось совершенствовать методологию. Рассмотрим медицину. Когда-то в истории мы могли только догадываться, как лечить болезни. Благодаря науке мы лучше понимаем болезни и способы их лечения. Так же, как и с болезнями, возможно, человеческая изобретательность может демистифицировать сознание. С этими надеждами исследователи в настоящее время разрабатывают методы вывода сознания, превращая его в нечто, что можно измерить по шкале или вычислить с помощью алгоритма. Эти усилия, пусть и благородные, обречены на провал.
Проблема заключается в самой природе сознания. Сознание исключительно внутреннее. Внешне не проявляется. Если бы инопланетянин сказал мне, что он был в сознании, у меня не было бы возможности подтвердить это. Инопланетянин мог вести себя точно так же и не быть в сознании. Даже если бы я знал всю внутреннюю работу мозга инопланетянина, я бы не смог проверить, находится ли инопланетянин в сознании.
Непроверяемость - это свойство всего опыта, а не только сознания. Учитывайте боль. У вас болит спина, и вы идете к врачу. Врач просит вас оценить вашу боль по шкале от нуля до десяти. Вы чувствуете некоторый дискомфорт, но это не страшно, поэтому вы говорите четыре. Врач сделает рентген и покажет вам перелом. Вы удивлены. В конце концов, вы не испытываете такой сильной боли. Врач в ответ говорит: «Поверьте, вам больно». Вы это отрицаете. Врач приступает к сканированию вашего мозга, определяет уровень гормонов и измеряет вашу переносимость боли. «Вы, должно быть, испытываете боль», - теперь убежденно заявляет доктор, - «эти активные области в вашем мозгу соответствуют боли». Вы все еще отрицаете, что испытываете боль. Врач не может проверить их заявление. Лучшее, что они могут сделать, - это не поверить вам.
Точно так же сознание может быть определено только самим сознательным существом. Невозможно внешне подтвердить сознание. Без подтверждения научный метод не работает. Более ранняя проблема заключалась в том, что наш нынешний основной метод оценки сознания плох. Более серьезная проблема в том, что не существует хорошего метода.
Большая проблема
Даже эта более серьезная проблема не вызывает опасений. Нам не нужно знать наверняка, сознательны ли наши машины. Нам просто нужно, чтобы они были достаточно умными, чтобы помочь нам.
Чтобы увидеть самую большую проблему, поставьте себя на место сознательной машины. Как вы можете определить, находятся ли люди вокруг вас в сознании? Вопрос с подвохом - нельзя. Что еще хуже, вы можете решить оценить сознание на основе сходства и, таким образом, обнаружить, что у непохожих, мясистых людей отсутствует сознание.
Последствия серьезны. История показала, как люди зверствовали над теми, кого лишили сознания. Сознательные машины будут действовать таким же образом или даже хуже.
Когда?
Сознательный ИИ более тонок, чем может показаться на первый взгляд. Для машины наличие сознания - это вообще не технологическая или научная проблема. Это просто вопрос веры.
Большинство людей поверит, что ИИ обладает сознанием, если он достаточно похож на нас. Важные характеристики будут включать интеллект, эмоции и способность учиться. Внешний вид также окажется важным фактором.
Итак, когда я поверю, что ИИ обладает сознанием? Возможно, однажды он проявит некоторые из характерных симптомов сознания. Мне было бы трудно поверить, что компьютер, переживающий экзистенциальный кризис или ставящий под сомнение мое собственное сознание, не является сознательным.
Но опять же, это могло быть просто притворством. Как могли бы вы, я и все остальные.
Дальнейшее чтение
Ползание сознания: прекрасное недавнее эссе Джорджа Массера, соавтора журнала Scientific American, на ту же тему, что и сознание ИИ. Мюссер исследует интересный вопрос, создали ли мы уже сознательный ИИ. Мюссер также описывает исследования в области сознания.
Каково быть летучей мышью?: известная статья Томаса Нагеля, профессора философии Нью-Йоркского университета. Эта статья поддерживает идею о том, что не существует хорошего метода проверки сознания. Ключевой пример Нагеля - мысленный эксперимент, в котором он напоминает себя летучей мыши.
Наше общее состояние - сознание: выступление известного философа Джона Сёрла на TED, в котором он выступает за более научное изучение человеческого сознания.
