ИИ вполне может стать последним изобретением, которое нам когда-либо понадобится, но стоит ли нам об этом заботиться?
«ИИ не ненавидит вас и не любит, но вы сделаны из атомов, которые он может использовать для чего-то другого. — Элиэзер Юдковски, научный сотрудник Научно-исследовательского института машинного интеллекта»
Это старое клише: технологии обращаются против своих создателей и пытаются заменить их. Мы слышали такого рода удручающую футурологию от большинства голливудских фильмов до современных ученых, включая таких передовых мыслителей, как Илон Маск и Стивен Хокинг.
Давайте очень четко объясним, насколько опасен ИИ: он очень опасен. Возможно, это самое опасное изобретение, в котором когда-либо участвовали люди. Однако уклонение от разработки ИИ не остановит его. На данном этапе развития дело идет своим чередом, и буквально лишь вопрос времени, когда вычислительной мощности современных компьютеров станет достаточно для имитации реального мыслящего разума.
Однако имеет ли это значение?
Ну, это имеет значение для нас. Мы, люди, постоянно видим угрозы и эволюционно предрасположены встречать их лицом к лицу или бежать от них. Это не та угроза. ИИ (настоящий ИИ) будет настолько безоговорочно лучше нас практически во всем, что есть большая вероятность, что мы даже не осознаем, что происходит, пока не станет слишком поздно, чтобы спасти весь наш вид.
Итак, мы запрещаем исследования?
Нет. Это было бы так же эффективно для остановки развития ИИ, как запрет на употребление алкоголя. Точно так же общественная реакция была бы быстрой и жесткой на любого политика, заявившего о необходимости такого запрета (даже если бы он был прав).
Тогда в чем наша лучшая игра?
Готовность настолько, насколько это возможно, и желание развиваться докажут, что в ближайшие 50 лет самые ценные черты человечества. По мере того, как технологии переходят в более личные и биологические формы, будет разделение людей, которые принимают новые технологии в свои тела и улучшают себя, и группу людей, которые рассматривают любые модификации тела с помощью технологий как грех и что-то, что развращает или очищает тело. состояние человека.
За время моего интереса к ИИ я уже начал замечать первые признаки разделения в многословии и формулировках по обе стороны этого аргумента. Возможно, очень трудно дать точную оценку событиям, которые еще не развернулись, но, на мой взгляд, это переходный период, которого человечество не может избежать.
Независимо от того, чья сторона окажется права, те, кто успешно меняются и развиваются, чтобы соответствовать миру завтрашнего дня, всегда будут иметь место в будущем. Вот почему вместо того, чтобы запрещать исследования ИИ и пытаться контролировать такое явление, лучшая и более логичная стратегия состоит в том, чтобы быть готовым к массовым изменениям в нашем образе жизни к лучшему или к худшему. Только тогда мы действительно сможем понять, почему ИИ имеет значение.
