ИИ становятся все лучше и лучше, обретают сознание, догоняя человеческий интеллект. Но на этом мы не остановимся. Как это повлияет на человечество, когда кто-то / что-то станет умнее нас?

Искусственный интеллект привлекает все больше и больше внимания, чем когда-либо. Как и любому человеку, ИИ должен учиться, чтобы стать лучше. Люди учатся новому путем проб и ошибок, и когда они добиваются успеха или терпят неудачу в чем-то, химические связи внутри мозга укрепляются, что мы называем обучением, ИИ анализирует данные и интерпретирует результаты, чтобы учиться.

Это простое уравнение: чем больше данных получает ИИ, тем лучше становится ИИ. Алгоритмы реагируют на данные, анализируют результаты и обрабатывают их как успешно, так и безуспешно. Случаи неудач регистрируются, а случаи успеха повторяются.

В настоящее время ИИ может самостоятельно извлекать данные из Интернета или других источников. Также корпорации, разрабатывающие ИИ, предоставляют неограниченный доступ к данным. Одним из примеров является DeepMind, имеющий права администратора на серверах Google. Таким образом, Google мог непреднамеренно установить троянского коня.

Человеческий мозг эволюционировал в течение тысяч лет, чтобы достичь этой фазы, и потребуется почти столько же времени, чтобы развиваться дальше с естественной скоростью эволюции, но это не относится к ИИ. Благодаря огромным объемам данных для изучения ИИ может в короткие сроки превзойти человеческий интеллект. Алгоритмы становятся все более эффективными, делая ИИ превосходным каждый день.

Как только ИИ перейдет на уровень человеческого интеллекта, перед человечеством и ИИ откроется мир новых возможностей. Сверхразумный ИИ может решить за нас проблемы, которые мы решаем на протяжении многих поколений. Можно изобрести лекарство от таких болезней, как рак, ответы на вопросы о происхождении вселенной и сотворении жизни, которые мы ищем веками, могут быть найдены по щелчку пальцев. Проблемы терроризма, глобального потепления и т. Д., С которыми мы боремся, почти не решаются, и их можно искоренить с помощью сверхчеловеческого интеллекта. Впервые в истории человечества мир может стать мирным местом, о котором мы всегда мечтали. ИИ может проводить исследования без устали и более эффективно на этом уровне, чем люди, и таким образом нам не нужно будет делать какие-либо изобретения после изобретения сверхразумного ИИ. Таким образом, сверхразумный ИИ станет последним изобретением человечества при условии, что ИИ останется достаточно наивным, чтобы принять безоговорочный авторитет человека.

Но есть и обратная сторона медали. Ультра-интеллектуальная машина может создавать машины даже лучше; тогда, несомненно, произойдет «интеллектуальный взрыв», пределы которого неизвестны. У нас есть тысячи глупых роботов, выполняющих задачи. По сути, роботы - это просто руки и ноги без мозга, выполняющие определенные инструкции, а ИИ - это программное обеспечение, которое выполняет функции мозга. При наличии подходящего программного обеспечения любой глупый робот может в одночасье стать супер умным. Это не преувеличенное заявление о том, что мы будем смотреть на армию сверхразумных роботов из ниоткуда.

Ирония в том, что мы создали интеллект и первым делом попытались с его помощью заменить себя. Человечеству еще предстоит полностью понять то, что называется эмоциями, и, следовательно, мы не можем эффективно развивать эмоции в ИИ, как мы. Эмоции и чувства - дары природы, полученные нами за тысячи лет эволюции и опыта. ИИ - это еще младенец с несовершенным интеллектом, который все еще учится и не может соответствовать эмоциональным уровням людей. Это основная проблема.

Просто для воображения, при поиске лекарства от рака, ему необходимо извлекать органы у некоторых уже находящихся под угрозой исчезновения видов животных, человек не будет калечить этот вид. Мы уже уничтожили этот вид и учимся его сохранять. Но с ИИ дело обстоит иначе. Достигнув поставленной цели, ИИ будет следовать ей, не задумываясь о человеческих ценностях. Если человеческие ценности мешают достижению цели ИИ: «Прощай, человеческие ценности !! Без обид… ». Это действительно красный флаг.

ИИ сейчас интегрируется в оружие во многих странах. Два десятилетия назад дроны были нереалистичными, но сейчас в одних только США имеется более 10 000 дронов, и 80 стран используют дроны по всему миру. Дроны превращаются в немых роботов, будучи дистанционно управляемыми самолетами. Что, если ИИ станет достаточно умным, чтобы выбрать цель для своего оружия? Продолжительность жизни в такой войне для нас будет считаться секундой. Мы никогда не будем готовы к такой автономной войне с применением оружия. Это причина, по которой эксперты и ученые, такие как Илон Маск, Стив Возняк и Стивен Хокинг, подписывают петицию против автономного оружия с использованием ИИ. Потому что, как только машины-убийцы выйдут на улицу, уже поздно возвращаться.

Tai.ai, созданный Microsoft твит-бот, который взаимодействовал с людьми и, соответственно, научился становиться расистом, фашистом, фанатиком женоненавистничества, любящего Гитлера и Трампа, менее чем за 24 часа через очень распространенную социальную сеть - Twitter, является четким признаком того, что AI может работать с неверными данными. Если такой ИИ попадет в руки какого-нибудь тирана-диктатора с кодами запуска ядерных боеголовок, хаос.

Что, если сверхразумные машины откажутся от человеческого авторитета? Что, если ИИ решит взять на себя ответственность? В таком случае человечество будет обречено бессмертным диктатором. Это похоже на фильм о Терминаторе, но ИИ не нужен физический компьютер. Они могут работать на облачных платформах и в Интернете. Скайнет уже существует для них.

Наши исследования продвигаются вперед с верой в то, что все будет под нашим контролем. Останется ли ИИ достаточно послушным, чтобы быть под нашим контролем? Или мы слишком наивны, чтобы надеяться на это? Если что-то пойдет не так по какой-либо причине, мы окажемся в войне, которую мы неизбежно проиграем, и в этом, к сожалению, имя Homo Sapiens будет возглавлять список вымерших. Даже если некоторые из нас выживут, они будут жить в бездне. Создание сверхчеловеческого интеллекта будет последним изобретением, которое мы будем праздновать.

Так или иначе, победа или поражение, сверхчеловеческий интеллект станет нашим последним изобретением, которое нам когда-либо придется изобрести или которое мы когда-либо сделаем. Мы не знаем, сможем ли мы контролировать силы внутри этого ящика Пандоры, если его высвободят. Когда-нибудь ИИ обязательно станет умнее нас. От человечества зависит, как быстро мы научимся держать этого джинна в бутылке.