«Есть только два предмета, которые стоит изучать: физика и нейробиология»
-Демис Хассабис (генеральный директор Deepmind)
Если мы рассматриваем наш разум как черный ящик, мир делится на две части, разделенные размытой границей, которая время от времени колеблется: внешний мир - Вселенная и внутренний - Разум. Снаружи мы знаем много (не все), развитие физики в 20-м веке было чудесным, никогда раньше такого экспоненциального роста в понимании внешнего мира не было ни за одно столетие или тысячелетия с момента зарождения. Человечество. Изнутри ну не особо.
В Природе мы находим множество разумных существ, от муравья до синего кита, от червя до человека, диапазон биологического интеллекта огромен. В последнее время мы начали исследовать перспективы небиологических форм разума, то есть ИИ. Теперь давайте проясним: Сознание не равно Интеллекту. Определить, что такое сознание, сложно, но в Википедии первые несколько строк определяют его как:
Сознание, в простейшем случае, - это разум или осознание внутреннего и внешнего существования. [1] Несмотря на тысячелетия анализов, определений, объяснений и дебатов философов и ученых, сознание остается загадкой. и противоречиво, [2] является одновременно самым знакомым и [также] самым загадочным аспектом нашей жизни.
Странные петли
В книге Дугласа Хофштадтера Гедель, Эшер, Бах: вечная золотая коса странные петли определены как:
Странный цикл - это циклическая структура, которая проходит несколько уровней в иерархической системе. Он возникает, когда, двигаясь по системе только вверх или вниз, человек оказывается там, где он был начат.
Если это слишком много для понимания, не волнуйтесь, это так. Я проясню это немного позже.
Это утверждение неверно.
Приведенное выше утверждение - простейший пример странного цикла. Обратите внимание, как мы анализируем утверждение, как оно влияет на его подлинность, что приводит к парадоксальной ситуации. Теоретическая информатика имеет свою версию странного и запутанного парадокса в «Проблеме остановки». У математики есть знаменитый парадокс Рассела. Теперь сначала мы должны взглянуть на то, что такое теория SET, чтобы действительно понять значение этой концепции.
Теория множеств
Теория множеств выросла из побуждения поставить математику на абсолютно строгую основу - логическую основу, даже более надежную, чем сами числа. Теория множеств начинается с множества, не содержащего ничего - нулевого множества, которое используется для определения числа ноль. Затем число 1 можно построить, определив новый набор с одним элементом - нулевым набором. Число 2 - это набор, который содержит два элемента - нулевой набор (0) и набор, содержащий нулевой набор (1). Таким образом, каждое целое число можно определить как набор предшествующих ему наборов. Как только целые числа размещены, дроби могут быть определены как пары целых чисел, десятичные дроби могут быть определены как последовательности цифр, функции на плоскости могут быть определены как наборы упорядоченных пар и так далее.
В результате вы получаете сложные структуры, которые представляют собой набор вещей, которые представляют собой набор вещей, которые представляют собой набор вещей, вплоть до металла, до пустого набора внизу, - сказал Майкл Шульман. , Математик из Университета Сан-Диего.
Парадокс Рассела
Бертран Рассел, философ, логик и математик, выявил критический недостаток в этой ранней версии теории множеств, он отметил, что Рассел отметил, что некоторые множества содержат себя в качестве члена. Например, рассмотрим набор всего, что не является космическим кораблем. Этот набор - набор не космических кораблей - сам по себе не космический корабль, поэтому он является его членом.
Рассел определил новый набор: набор всех наборов, которые не содержат самих себя. Он спросил, содержит ли этот набор сам себя, и показал, что ответ на этот вопрос порождает парадокс: если набор действительно содержит себя, то он не содержит самого себя (потому что единственными объектами в наборе являются наборы, которые не содержат самих себя). . Но если он не содержит себя, он содержит себя (потому что набор содержит все наборы, которые не содержат самих себя). Здесь возникает своего рода странная петля.
Теория типов
Бертран Рассел создал теорию типов, чтобы разрешить парадокс в теории множества. В этой Системе вместо SET используется тщательно определенный объект, называемый «типом».
Теория типов Рассела начинается с совокупности объектов, как и теория множеств, и эти объекты могут быть собраны в «тип», называемый SET. В теории типов тип SET определен так, что ему разрешено собирать только те объекты, которые не являются коллекциями других вещей. Если коллекция действительно содержит другие коллекции, она больше не может быть SET, вместо этого она может рассматриваться как MEGASET - новый тип типа определен конкретно как набор объектов, которые сами по себе являются коллекциями объектов.
Отсюда вся система упорядоченно возникает. Можно представить, например, тип с именем SUPERMEGASET, который собирает только объекты, являющиеся MEGASETS. В этих жестких рамках становится незаконным, так сказать, даже задавать парадоксальный вопрос: «Содержит ли набор всех множеств, которые не содержат самих себя?» В теории типов SETS содержат только объекты, не являющиеся коллекциями других объектов.
Странные циклы возникают, когда кто-то выходит из «типа» и начинает делать утверждения о «себе», что в теории типов недопустимо, поскольку мы можем делать утверждения только об объекте в более низкой иерархии, таком как мы.
Общая разведка
Но почему мы рискнули затронуть эти абстрактные математические темы, когда обсуждали интеллект? Причина в том, что этот выход из системы является характеристикой общего интеллекта.
В отличие от искусственного узкого интеллекта, такого как темно-синий, компьютерная программа, которая обыграла Гарри Каспарова в шахматах, Общий искусственный интеллект не специализируется на какой-то одной конкретной задаче, это средство решения общих проблем, гибкое, опасное и чрезвычайно полезное. Он может использовать различные узкие интеллектуальные программы в своих интересах.
Мысли о себе, работая в системе, рассуждая об этой системе, это то, что составляет разумный общий интеллект. Представьте себе компьютерную программу, вы запускаете ее, она будет выполнять код, на котором она выполняется, она никогда не решится выйти за пределы программы, чтобы изменить свой код! Но вы даете человеку утомительную повторяющуюся задачу, он будет проводить некоторое время в «системе», выполняя задачу, а затем ему станет скучно, и он начнет размышлять о «скучной системе», и, вероятно, ему это надоест и он уйдет. или автоматизировать сам процесс. Такое мышление за пределами предпочтительного «типа» или вообще выход за пределы системы еще не достигается искусственно. Биологические системы смогли достичь общего интеллекта у ряда организмов, некоторые из которых являются примитивной формой общего интеллекта, а некоторые развиты, как люди.
После создания AGI сможет выполнять любую выполнимую задачу, которую «Человек» когда-либо может потребовать. Это будет универсальная машина, которая будет иметь возможность использовать все ресурсы, доступные людям, и будет иметь возможность производить еще больше ресурсов, используя предыдущие ресурсы. Почему я это говорю? Из-за одного-единственного факта: самосовершенствования.
Не антропоморфизируйте AGI
Одна ошибка, которую делает каждый, кто думает об AGI вначале, - это гуманизация AGI. Дело в том, что General Intelligence может быть любой формы и размера. Это не обязательно должно быть чем-то отдаленно похожим на человеческий разум. Для аналогии: сверхзвуковой истребитель представляет для вас такую угрозу, как никакая птица, но у обоих есть крылья, и оба летают.
Пространство всех возможных умов огромно, и где-то внутри у вас есть пространство всех возможных умов, которые может создать биологическая эволюция, и где-то внутри у вас есть пространство умов, которые действительно существуют, а где-то внутри у вас есть человеческий разум. Итак, человеческий разум на самом деле представляет собой крошечную точку на крошечной точке на крошечной точке на крошечной точке! AGI, который мы, возможно, построим, будет совсем не таким, как мы могли себе представить! Так что очень заманчиво антропоморфизировать AGI в большей степени, чем в других контекстах, таких как птичий, потому что это вещь, которая строит планы, предпринимает действия в реальном мире точно так же, как люди, но ей не нужно думать ни о чем, как мы, и думать об этом как о человек - ошибка.
Роль философии в ОИИ
Философия была одним из важнейших начинаний человечества. Но его применение в реальном мире до сих пор было ограничено, тогда, скажем, физика, можно возразить, что все предметы, такие как физика и математика, являются разновидностью философии, но я говорю о специальности философия, которая занимается вопросами, на которые нет правильных ответов, о человеческой философии. этических и моральных рассуждений. С развитием AGI нам необходимо тщательно сформулировать всю человеческую философию без каких-либо мелких недостатков. Потребность в этом сейчас более важна, чем когда-либо прежде, потому что нам может потребоваться жестко запрограммировать всю человеческую философию в ОИИ, который мы в конечном итоге построим.
Опасности AGI
Вымирание человечества, но мало чем отличается от сценария вымышленного терминатора, нах ... что-то гораздо более жестокое и апатичное.
В следующей части блога я расскажу об опасных аспектах AGI, а также объясню, как AGI может вести себя как функция оптимизации.
ИСПОЛЬЗОВАННАЯ ЛИТЕРАТУРА
Ограничения человеческой модели в понимании искусственного интеллекта
Вселенная разума
Https://www.quantamagazine.org/univalent-foundations-redefines-mat Mathematics-20150519/
Смертельная правда генерала ИИ? - Компьютерил
