На этой неделе я прочитал Самый человечный человек Брайана Кристиана, соавтора Алгоритмов, которыми нужно жить. Во время чтения мне в голову пришли интересные идеи, которые, я уверен, полусырые, но которые я записываю здесь для потомков и на случай, если они вызовут связь с кем-то еще.
Используя канонические исследования пациентов с расщепленным мозгом — тех, у кого было разорвано мозолистое тело и, таким образом, они не могут передавать нейронные сигналы между полушариями своего мозга, — Брайан Кристиан утверждает, что поддержание единого когерентного «я» часто является продуктом высокой пропускной способности нейронов. Коммуникация: поскольку полушария мозга могут передавать информацию туда и обратно, человек воспринимает себя как единое целое. Эти существа, как правило, устойчивы к уловкам и манипуляциям, которые обманывают людей без этих средств нейронной связи.
Тем не менее, как указывает Кристиан, эта гипотеза «я» — единственное «я», которое мы видим, — это все, что существует, — лишь одна из многих возможных интерпретаций. Другая такая интерпретация заключается в том, что, хотя полушария мозга могут общаться таким образом, что создается видимость постоянства, тем не менее полушария могут оставаться отдельными под поверхностью. «Я», так часто выражаемое нашим вербальным левым полушарием, может быть не репрезентативным объединением наших наборов переживаний, а, скорее, преимуществом той стороны, которая может говорить.
Меня интересуют последствия такого исследования с разделенным мозгом для того, как мы понимаем сотрудничество человека и ИИ, и, в частности, для систем, в которых одному агенту необходимо обрабатывать информацию, которую он получает от другого типа агента (например, человек обрабатывает медицинский диагноз, в котором он был проинформирован о диагностических показаниях ИИ, и некоторая ограниченная информация о том, как он пришел к такому выводу). В какой степени эти агенты будут продолжать действовать независимо друг от друга, и когда они взаимодействуют, будут ли они сосредоточены на комплементарных областях или, скорее, на предоставлении различных подходов к сходным областям?
Отдельно, если люди с расщепленным мозгом склонны выдумывать причины своих действий — рисовать лопату и говорить, что это значит зачерпнуть курицу, хотя на самом деле это происходит потому, что они видят снежную сцену, — что это может означать для наших собственных? способности знать движущие силы наших решений в мире, интегрированном с ИИ?
В настоящее время большинство интерфейсов ИИ достаточно удалены от наших тел, чтобы мы могли сознательно распознавать, что нам предоставляют информацию (хотя, возможно, не очень хорошо осознают, как именно мы делаем выводы из этой информации). В будущем, если компании, занимающиеся интерфейсами мозг-компьютер, такие как Neuralink Илона Маска, добьются успеха, будет ли у нас физическая или временная задержка, чтобы понять, что происходит?
Мозолистое тело и случаи пациентов с расщепленным мозгом также поднимают некоторые интересные вопросы о сознании и о том, как мы можем думать о сознании в области достаточно продвинутых систем искусственного интеллекта. Это, по общему признанию, немного выходит за рамки моего понимания, но, похоже, есть несколько важных факторов: 1) является ли сознание эмерджентным свойством потока и обработки информации (по сравнению, например, с некоторым метафизическим свойством которое не вытекает из вычислений), и 2) является ли это эмерджентное свойство сознания «независимым от субстрата» (то есть не зависит от конкретного оборудования, на котором выполняются вычисления).
Если и 1 (эмерджентное свойство вычислений), и 2 (независимость от субстрата) верны, и если мы считаем, что пациенты с расщепленным мозгом имеют несколько расходящихся сознаний (по беглому поиску в Google, психологическое поле кажется разделенным), то мы можем начать испытывать сознательные (или кажущиеся сознательными) системы ИИ на уровне сложности ниже человеческого мозга. Конечно, есть много животных с нечеловеческим мозгом, которых мы уже обычно считаем сознательными, и многие подходы к ИИИ (искусственному общему интеллекту) в любом случае не ориентированы на эмуляцию мозга, так что, возможно, это не так уж и ново — но это стоит сказать.
К сожалению (или к счастью), мы можем не получить слишком много данных о пациентах с расщепленным мозгом в ближайшем будущем, поэтому на данный момент будет достаточно приведенных выше размышлений. Я надеюсь, что мои мысли будут полезны для поиска новых идей и рассмотрения некоторых необычных взглядов на ИИ и человеческий интеллект:
Эпоха расщепленного мозга в значительной степени подошла к концу; поскольку медикаментозные методы лечения эпилепсии в настоящее время более эффективны и широко используются, операция с расщепленным мозгом в значительной степени ограничивается более тяжелыми случаями, а хирургическое вмешательство часто затрагивает только частичный разрез спаек.
