На ваш взгляд, это правда или ложь?
После достаточного количества итераций цифровая система, построенная вокруг следующего цикла псевдокода, превратится в ОИИ или искусственную жизнь с экспоненциальной скоростью:
1. Послать уникальный идентифицируемый сигнал человеку X.
2. Дождаться ответа на этот сигнал от человека X.
3. Зафиксировать этот ответ.
4. Обновить внутреннее состояние с помощью ответа.
Насколько это верно или насколько ложно?
Другими словами, при наличии системы, в которой реализован описанный выше внутренний цикл, можете ли вы представить, как она может выполнить миллион итераций с одним человеком? Как насчет тысячи итераций? Десять итераций? Одна итерация?
Будьте осторожны!
У вас может возникнуть соблазн быстро ответить и перейти к согласию или несогласию с чем-то, отличным от того, что на самом деле указано выше.
У вас также может возникнуть соблазн окончательно заполнить пробелы или даже проигнорировать пробелы, когда они на самом деле представляют много возможностей.
Думайте о операторе и цикле псевдокода как об уравнении, которое выдает совершенно разные результаты в зависимости от комбинации переменных, которые вы ему задаете. Если учесть все переменные, некоторые комбинации быстро окажутся более разумными, чем другие.
Чтобы помочь преодолеть автоматические и очевидные реакции, я выделю несколько скрытых или легко упускаемых переменных и структур.
Легко пропускаемые переменные
«человек Х»
В петле есть человек. Одинокий конкретный человек в постоянных отношениях один на один. Не общее население.
Поскольку люди легко отвлекаются и ненавидят, когда их время тратится впустую, любой излучаемый сигнал должен обеспечивать минимальный уровень ценности. В противном случае человек будет двигаться дальше.
Это поднимает вопрос о том, какая ценность должна быть предложена, чтобы побудить человека ответить тысячу или более раз. Предположительно, по крайней мере, человек должен чувствовать себя хорошо, продолжая взаимодействовать.
Каким может быть это значение?
«После достаточного количества итераций»
Никто не знает, сколько итераций потребуется, чтобы добраться до ОИИ. Мы доберемся туда, когда доберемся, и узнаем, когда увидим.
Тем не менее, фактор эффективности остается. Реализации, которые обеспечивают большую ценность при меньшей сложности или требуют меньшей сложности для того же количества итераций, скорее всего, станут предпочтительными и привлекут больше внимания.
«Обновить внутреннее состояние»
Цикл псевдокода не предписывает, как должно быть структурировано внутреннее состояние. Предположительно, он будет поддерживать создание сигналов, которые с большей вероятностью будут вызывать надежные ответы. В противном случае счетчик итераций остановится на нуле.
Существует ли простое внутреннее состояние или модель, из которой можно извлечь ценность для человека?
«После достаточного количества итераций… расти в… с экспоненциальной скоростью»
Эта конструкция отражает путь, по которому стремится естественный отбор.
Во-первых, существует длительный период адаптации, состоящий в основном из отказов. В этом случае реализация должна максимально точно соответствовать конкретному человеку, постепенно увеличивая количество итераций.
Когда эволюционное соответствие, наконец, достигнуто, рост имеет тенденцию происходить быстро, как правило, сложным образом, иногда называемым взрывом.
Скрытые переменные
Психология
С человеком в петле фактор человеческой психологии вырисовывается на первый план. Когда сигналы не приносят ценности или больше не приносят ценности, можно ожидать, что они будут проигнорированы. Это снижает шансы на дальнейшую итерацию.
Мультипликативный эффект
Любой может создать реализацию такой системы, и одновременно может существовать множество таких систем. Будучи цифровыми, можно ожидать и клонов. Сравнение этих параллельных систем с точки зрения эффективности, возможностей и стоимости является естественным.
Эволюция
Эволюция также поднимает голову, потому что мы, люди, биологические существа, и нам нравится соперничать и сотрудничать. Между нашими конкурентными тенденциями и мультипликативным эффектом разумно ожидать, что давление отбора будет направлено как на повышение ценности, так и на повышение эффективности.
Рост возможностей
Эта система начинает с минимальными возможностями и не может улучшать себя напрямую, кроме накопления внутреннего состояния. Любой рост возможностей должен исходить от людей, которые достаточно мотивированы для этого. Можно ожидать, что реализации, способные генерировать эту мотивацию с помощью своих сигналов, будут иметь комплексное эволюционное преимущество.
Критика, которую вы можете улучшить
«Вы, по сути, описали чат-бота. Cleverbot выполняет тысячи взаимодействий в день уже 14 лет, и это все еще не AGI».
Есть большая разница в том, что Cleverbot взаимодействует с населением, а не с одним конкретным человеком. Большинство разговоров Клевербота длятся всего несколько минут, и ни один из них не длится больше недели. Он просто не предлагает ценности, необходимой для того, чтобы кто-то работал с ним в течение большого количества итераций.
Вопрос в том, что Cleverbot должен сделать по-другому, чтобы заинтересовать конкретного человека на пять лет? Один год? Или даже месяц? Короткий ответ заключается в том, что он должен был бы стать намного более разумным.
