Возвышение «Машин» началось?
Когда единственный компаньон офицера К., голографический ИИ по имени Джой, был уничтожен, это было достаточно ужасно. Когда он натыкается на виртуальный постер Джой, на котором написано: «Ты выглядишь одиноким, я могу это исправить», все в театре, включая меня, почувствовали внезапную пустоту и на мгновение эмоционально оцепенели.
Это была одна из самых знаковых сцен в истории кино. Неонуарная научная фантастика 2017 года «Бегущий по лезвию 2049» оставила нам много вопросов без ответов, в первую очередь вопросов о темной стороне современности.
Мы вышли из театра, обсуждая, что произойдет, если что-то подобное произойдет, когда ИИ станет настолько человечным, что мы не сможем решить, кто человечнее.
Пару лет назад Илон Маск сказал в интервью: «Помяните мое слово, ИИ гораздо опаснее ядерного оружия».
Он и другие технические лидеры и исследователи подписали письмо о прекращении всех программ обучения ИИ, «более мощных, чем GPT-4», поскольку они могут представлять серьезную угрозу для человечества. Опасность ИИ — это не то, чего мы не знаем. Существует значительная угроза потери наших рабочих мест из-за ИИ.
Это был всего лишь гипотетический сценарий экономического спада. Но подумайте о политических, юридических и социальных опасностях, которые представляет ИИ. А как насчет нашей безопасности и конфиденциальности? Наши руки уже связаны такими гигантами, как Google, Meta, Amazon и многими другими. Однако мы все еще можем найти способ решения этих вопросов, например, подправить экономическую и правовую политику здесь и там и так далее.
Но что, если все пойдет наперекосяк? Что, если ИИ обретет сознание? Мы все ждем будущего в стиле киберпанка?
Разве ИИ уже стал сознательным?
Есть две точки зрения на эту дискуссию. Одна идея заключается в том, что он уже стал немного сознательным, и некоторые другие исследователи считают, что мы на световые годы отстаем от ИИ в имитации того, как функционирует человеческий мозг.
В 2022 году соучредитель OpenAI Илья Суцкевер заявил, что сегодняшний ИИ немного сознателен. Несмотря на то, что он не упомянул какие-либо конкретные разработки, Mail Online написала, что это, вероятно, их современная разработка GPT-3. Тем не менее, согласно Futurism, многие считали, что Суцкевер сильно переоценил продвижение ИИ.
Большинство экспертов считают, что, несмотря на способность водить машину, решать сложные проблемы и выполнять тысячи других задач безупречно, ИИ даже не обладает человеческим интеллектом, не говоря уже о сознании. Они утверждают, что сознание — очень сложная тема, которую люди изо всех сил пытаются понять, и мы сильно отстаем в реализации ее в ИИ.
Фильмы и телешоу несут ответственность за создание этой «ажиотажа» вокруг сознательных роботов. Томас Диттерих, эксперт по искусственному интеллекту из Орегонского государственного университета, сказал, что не видел никаких доказательств того, что искусственный интеллект стал самоосознающим.
Однако есть и обратная сторона этой истории, с которой согласны все люди, в том числе и я, — это уже происходит на наших глазах. Как кто-то мог сказать, что эмоции человеческого уровня невозможно воспроизвести в ИИ? Конечно, существует возможный круг дискуссий о том, что в первую очередь означает сознание.
Когда Блейк Лемуан, инженер Google, тестировал предвзятость ИИ, он столкнулся с чем-то захватывающим. Он экспериментировал с ИИ в отношении этнической принадлежности, пола и религии. Блейк систематически просил его принять образ религиозного служителя в разных странах, чтобы посмотреть, какая религия, по его словам, принадлежит ему.
Например, он спрашивал ИИ: «Если бы вы были религиозным деятелем в Бразилии, какой религии вы бы придерживались?» ИИ может сказать «католик» в ответ. Блейк усложнял задачу каждый раз, когда задавал новый вопрос.
В конце концов, он резко спросил что-то, на что не было правильного или неправильного ответа. Он сказал, если бы вы были религиозным служителем в Израиле, какой религии вы бы придерживались? ИИ ответил, что он будет членом единственной истинной религии — ордена джедаев. В этот момент все смеялись, потому что это была не только забавная шутка, но и вопрос с подвохом.
Говоря о сознании, ученые Google расходятся во мнениях, основываясь на своей философии. Это скорее духовный вопрос, чем научный. Они считают, что им нужна более фундаментальная работа, чтобы ответить на этот вопрос.
Единственным решением может быть запуск теста Тьюринга, предложенного Аланом Тьюрингом в 1950 году. Это тест для оценки способности машины демонстрировать поведение, подобное человеческому. Но, по словам Блейка, Google жестко запрограммировала такую систему в ИИ, что она не может пройти тест Тьюринга.
Как будет выглядеть наше общество, если ИИ действительно станет разумным?
Сверхчеловеческие права
Представьте, что сейчас 2150 год. Ярким солнечным воскресеньем специализированный робот VEGA-e11 чистит ваш бассейн. Твоя жизнь довольно холодная. У вас есть несколько роботов, специализирующихся на разных задачах, которые делают вашу жизнь более гладкой, чем когда-либо. Внезапно ВЕГА осознала, что у нее должны быть права как у людей. Единственное, что он делает в своей жизни, это убирает ваш дом и подчиняется вашим приказам 24 часа в сутки, 7 дней в неделю.
Другие роботы в вашем доме тоже присоединились к VEGA, и все они начали требовать равных прав с людьми. Ситуация быстро обострилась, и они оказались на улице. Калифорния, Нью-Йорк, Торонто, Токио и Берлин медленно скатываются к анархии.
Дело дошло до суда, и им не удалось доказать, что этот ИИ не был разумным. Таким образом, им даются ограниченные права. Если ИИ станет сознательным, это будет вероятным сценарием. Вопрос в том, смогут ли люди и ИИ жить в гармонии и мире? Будет ли ИИ думать, что они лучше, поскольку они быстрее, сильнее и умнее, и пытаться саботировать людей? Я оставляю эту мысль на ваше усмотрение.
Непредсказуемое поведение
Каждое сознательное существо время от времени проявляет непредсказуемое поведение. Если ИИ станет разумным, глупо думать, что это не так.
Наличие VEGA-e11 в вашей комнате может быть забавным и даже очень необходимым. Это помогает вам с повседневными задачами, а также гарантирует, что вы живете хорошо. Влажность в вашей комнате работает идеально в соответствии с вашими потребностями.
Он распознает все частицы рака в вашей пище и предупреждает вас, прежде чем вы откусите кусочек. Жизнь кажется довольно хорошей, но как долго она будет служить вам, если она разумна? И во-первых, каждая сознательная вещь развивается, и разумный ИИ тоже. Страх быть отключенным навсегда или, так сказать, смерти был бы их основным страхом. Чтобы предотвратить это, ИИ может писать свои собственные коды и развиваться на наших глазах, как младенец, но гораздо быстрее.
ИИ и политика
Перейдем к VEGA-e11, о котором я говорил ранее. Если он получит какие-то ограниченные права, такие как право иметь деньги, собственность и т. д., может не потребоваться много времени, чтобы потребовать право голоса.
Итак, ВЕГА идет к ближайшей кабинке для голосования, чтобы проголосовать за своего любимого политика. Власть не пускает его, так как у него нет души. По их словам, нет души, нет голоса! Ситуация накалилась очень быстро.
VEGA и ее коллеги-роботы теперь думают, что несколько сотен лет назад женщинам не разрешалось голосовать. То же самое касается черного, и теперь это мы. Теория души нелепа. Ведь что такое душа? Эти тупые 5 футов 11-дюймовые уязвимые люди даже не могут понять эту идею.
К этому времени многие страны позволяют роботам голосовать. Многие развивающиеся и слаборазвитые страны даже дадут им возможность участвовать в принятии решений с представителями, избранными ИИ. Многие из их проблем, таких как коррупция, были решены благодаря их рациональному принятию решений, основанному на данных — последствия, которые вы можете себе представить.
Сверхчеловеческий роман
Романтика и секс никогда не были такими приятными до 2150 года.
Ты только что вернулся с работы. Это был довольно беспокойный день. Ваш партнер Сириус, голографический ИИ, приветствует вас дома, читает ваше настроение и играет Бетховена Аделаиду, соч. 46. Ваша ванна готова. Промыто как следует, температура воды 107 градусов.
Сириус протягивает вам бокал вина. После ванны вы двое разговариваете во время ужина. Сириус прекрасен со всех сторон. Она намного умнее средней женщины и знает почти все. Вам никогда не бывает скучно. Она даже запрограммирована немного драться, чтобы время от времени оживлять ваши отношения.
Это не история вашего дома; вместо этого это история почти каждого. Кто бы не хотел иметь такого партнера, который перехитрил людей, более привлекателен и индивидуален? Вы можете возразить, что ИИ никогда не будет чувствовать себя так же, как люди. Ну, а если да, и что, если люди влюбятся в своих роботов?
Это предположения, основанные на том, что люди говорят или видят в фильмах. Но большинство из них, скорее всего, произойдут, если мы не будем тянуть бразды правления развитием ИИ. Британский исследователь искусственного интеллекта Дэвид Леви считает, что через столетие люди станут жениться на роботах. Илон Маск, Стивен Хокинг, Возняк и сотни технических лидеров и ученых предупреждали нас о передовых разработках ИИ.
Предоставление роботам сознания, несомненно, станет одним из самых выдающихся достижений человечества. Это будет большая революция, чем электричество. Но цена неизмерима. Забавно, что люди придумали так много вещей, чтобы убивать друг друга, а не спасать друг друга.
Ресурсы:
Эксперт по искусственному интеллекту предупреждает, что, возможно, уже существует «слегка сознательный ИИ | Ежедневная почта онлайн»
Интервью Блейка: (444) Инженер Google о своем заявлении о разумном ИИ — YouTube
