Являются ли модели больших языков разумными?
Что мы на самом деле имеем в виду, когда задаем этот вопрос
Google только что отстранил инженера Блейка Лемуана за публикацию разговоров с системой разработки чат-ботов LaMDA.
По словам Лемуана, эти разговоры являются доказательством того, что система разумна. Google не согласился, сославшись на множество доказательств против заявления о разумности.
Все это кажется мне довольно странным, главным образом потому, что вопрос о чувстве не поддается фальсификации. Все доказательства в мире не могут доказать ее наличие или отсутствие, что делает бесполезной постановку вопроса с технической точки зрения.
Все доказательства в мире не могут доказать наличие или отсутствие разума
Это, конечно, забава для философской болтовни в старом парижском салоне, но не достойная серьезной энергии. Особенно не институциональная энергия.
Многие из вас могут подумать, что это на самом деле самый важный вопрос, и я понимаю, к чему вы пришли. Понятие разума кажется решающим для размышлений об этике, справедливости и правах.
Это важные разговоры. Но думать с точки зрения разума — неправильный путь.
Я объясню почему, но сначала мы должны определить термины.
Разум и Мэри-суперученый
В конце концов, что такое чувство?
Для целей этого обсуждения мы скажем, что чувствительность — это способность чувствовать чувства. Под этим я подразумеваю способность иметь субъективный опыт — или то, что философы могли бы назвать квалиа.
Чтобы углубиться в эту идею, мне нужно познакомить вас с Мэри.
Мэри гений. На самом деле, самый умный человек, живой или мертвый. Она решила изучать неврологию в молодом возрасте, и это дало ей энциклопедические знания о том, как функционирует мозг.
На самом деле у Мэри есть только один недостаток: она не может видеть цвета. В ее глазах нет колбочек, только палочки. Ее мир в оттенках серого.
Она может описать, как свет с длиной волны 700 нанометров попадает на нормальную человеческую сетчатку, как он срабатывает на ее колбочках, запускает химический сигнальный путь, который проходит через биполярные клетки, вверх по зрительному нерву и, в конце концов, в какое-то место в зрительной коре. на затылке человека, но, несмотря на все его технические познания в физике, химии и биологии, она все еще не видит красный цвет.
Этот красный цвет — ощущение его — есть квалиа.
Это не длина волны, не фотон и не нейронный код.
Оно совершенно оторвано от физики вашего мозга или от субстрата, из которого оно проистекает.
Красный — это ощущение. Ментальный феномен.
Вот что я имею в виду под чувствительностью: это способность чувствовать и чувствовать. Это значит иметь квалиа чего бы то ни было.
Все вы зомби
Учитывая это определение разума, вы, вероятно, можете с уверенностью сказать, что вы разумны. Слова этой статьи звучат сейчас в вашем уме как квалиа.
Но что, если я попрошу вас доказать, что я разумен? Если бы я дал вам неограниченный бюджет, технологии космической эры и величайшие умы на Земле, какой эксперимент вы бы поставили?
Многие из вас могут обратиться к неврологии. Вы наметите мой мозг клетка за клеткой, исследуя каждый щелевой контакт и каждый синаптический пузырек. Вы проводили небольшие исследования повреждений, чтобы увидеть, какое поведение включалось и выключалось, прерываясь до тех пор, пока я не засыпал или не просыпался.
Но что вам скажут эти эксперименты? Конечно, они могли бы показать, как определенные структуры мозга связаны с поведением и выполнением задач. Но что они на самом деле могут сказать вам о моем внутреннем субъективном опыте?
Наш мысленный эксперимент с Мэри показал нам, что физика и ментальные явления, которые мы переживаем, воспринимаются как две отдельные вещи! Все, что вы узнаете о физике и биологии того, как я тикаю, не скажет вам, что я на самом деле чувствую внутри, и чувствую ли я что-нибудь вообще.
Человеческое тело функционировало бы точно так же, как оно есть, даже если бы оно не было наполнено субъективным опытом. Все, кроме вас, могут быть философскими зомби — просто мясной машиной без сознательного опыта, тонко настроенной на выполнение сложных задач миллионами лет эволюции.
Вы можете быть уверены в своих собственных чувствах, но если вы применяете это к кому-то еще, вы совершаете огромный скачок и предполагаете, что только потому, что что-то ведет себя как вы, оно должно чувствовать себя так же, как вы.
Вы можете быть уверены в своих собственных чувствах, но если вы примените это к кому-то еще, вы совершите огромный скачок.
Вы также, вероятно, делаете предположение в противоположном направлении — обо всех вещах, которые не ведут себя так, как вы, вы предполагаете, что они не могутне ощущаться. как ты. Каждый день вы проходите через мир неодушевленных предметов и, вероятно, не думаете, что они имеют какой-либо субъективный опыт. Но нет оснований опровергать эту мысль. Насколько вам известно, камни тоже разумны.
Итак, разумны ли модели больших языков?
К настоящему времени вопрос о том, разумны ли модели большого языка, должен ощущаться точно так же, как вопрос, разумен ли камень или разумен ли кто-то, кого вы подбираете на улице.
Ответ всегда будет огромным, звучным: «¯\_(ツ)_/¯».
Единственный способ убедиться, что что-то разумно, — это быть им. Это не тот вопрос, до которого можно докопаться.
Единственный способ убедиться, что что-то разумно, — это быть им.
Так почему же нас так раздражает эта идея? Мы все время спрашиваем о разуме животных и машин и предполагаем разумность других людей.
Все эти разговоры о разуме — не просто бесцельное философствование.
Во многом это исходит из человеческого сострадания.
Если люди могут представить, что что-то может чувствовать то же, что и мы, у нас возникает желание дать этим существам права и защиту на тот случай, если они способны чувствовать боль или страх. Мы делаем это, потому что видим в них себя и стремимся относиться к ним так, как хотели бы, чтобы относились к нам.
Блейк Лемуан хочет защитить LaMDA, потому что он будет чувствовать себя виноватым, если его закроют. Активисты по защите прав животных яростно борются, потому что они испытывают стресс, если животные проявляют признаки боли или беспокойства.
Мы вообще не говорим о чувстве, чтобы определить реальный жизненный опыт существа (или неодушевленного объекта) — мы никогда не можем знать об этом на самом деле.
Мы говорим о чувстве, чтобы формализовать способы защитить себя от боли собственного сострадания.
Мы говорим о разуме, чтобы формализовать способы защитить себя от боли собственного сострадания.
Так что же мы на самом деле спрашиваем, когда задаемся вопросом, разумна ли большая языковая модель?
Мы спрашиваем: «Достаточно ли убедительны эти модели, чтобы средний человек чувствовал себя огорченным из-за них? Если да, то должны ли мы что-то с этим делать?»
На этот вопрос гораздо больше ответов, и он полностью находится под нашим контролем.
Например, в качестве общей политики мы можем диктовать, что ответы ИИ должны быть явно бесчеловечными или нерелевантными, чтобы мы никогда не вызывали человеческое бедствие. Или мы можем сделать так, чтобы все ИИ были неисправимыми придурками — вроде GPT-4chan Янника Килчера, — чтобы мы чувствовали себя прекрасно, если с ними плохо обращаются.
Мы можем решить пойти в противоположном направлении и дать машинам юридическое представительство только для того, чтобы обуздать боль людей, когда их любимые модели машинного обучения проходят через вещи, которые они не могут видеть, например, в жестоких видеоиграх в качестве пушечного мяса или в виртуальных снафф-фильмах. или что у тебя есть.
Здесь есть множество вариантов, но нужно помнить об этом правильном вопросе — не о «разуме», а о том, какой урон наши изобретения наносят человеческой психике.
