Что произойдет, когда ИИ начнет сомневаться в нашем мировоззрении?

Я обсуждал проблемы реализации общего ИИ (ОИИ) с некоторыми из моих знакомых, когда я вспомнил историю из школьного учебника где-то в 1993–1994 годах. В моей англоязычной книге была эта история под названием «Анукул», написанная одним из талантливых индийских эрудитов Сатьяджитом Рэем. Он написал рассказ в конце 1960-х годов.

Хотя он демонстрирует дальновидность некоторых талантливых людей прошлого века, вы также можете найти эту историю немного пугающей, если не откровенно тревожной.

История про гуманоида-робота, пример общего ИИ, проявленного в виде личного помощника. Другой режиссер недавно снял короткометражный фильм по этой истории. История также намекает на то, что может случиться, когда ИИ начнет задаваться вопросом наши пути в мире.

Что произойдет, когда ИИ начнет сомневаться в нашем мировоззрении?

История

Главный герой (Никундж Бабу) - учитель хинди (языка), который купил личного помощника-гуманоида у местного поставщика роботов. При покупке продавец предупреждает ни при каких обстоятельствах не бить робота по имени Анукул.

Несколько дней спустя двоюродный брат Никунджа Бабу (Ратан) приезжает к нему в гости. Когда Ратан видит робота, сначала он кажется удивленным, но втайне он недоволен решением брата. Ратана недавно уволили со своего рабочего места из-за осложнений, связанных с человеком и роботом (поэтому я рекомендую иметь HAIR, то есть отдел кадров и искусственного интеллекта). Затем Ратан ударил Анукула утюгом, когда Никундж Бабу не наблюдал. Этот удар Ратана приводит к отключению Анукул. Для ремонта вызван местный поставщик роботов.

Во время второго визита Ратана он говорит Никунджу Бабу, что стал миллионером, унаследовав богатство от недавно умершего дяди. Пока Никундж Бабу отсутствует, Ратан снова пытается ударить Анукула. Однако на этот раз Анукул поражает его электрическим током высокого напряжения, что приводит к немедленной смерти Ратана.

Позже адвокат посещает Никунджа Бабу, чтобы сообщить ему, что теперь, после смерти Ратана, он унаследовал все богатство Ратана, около 1,5 миллиона долларов.

Я оставлю это вам, чтобы разобраться в сюжете, финале истории и выводах, которые вы хотите сделать из этого.

Роль совести

Совесть - это ведущая часть нашего духа. Это моральное чувство добра и зла, которое рассматривается как руководство к своему поведению. Как уточняет Википедия, совесть - это когнитивный процесс, который вызывает эмоции и рациональные ассоциации, основанные на моральной философии или системе ценностей человека.

Наше мировоззрение по-прежнему в значительной степени серая зона - мы не можем объяснить многие вещи прямым образом с повторяющейся логикой. Эта двусмысленность делает человеческое поведение наименее воспроизводимым. Однако в такой сложной (человеческой) операции совесть играет важную роль, постоянно связывая нас с осмысленной целью. Это то, что делает нас рациональными в наших действиях и принятии решений.

Однако, если ИИ должен каким-то образом имитировать людей, будь то узкий ИИ, относительно более широкий ИИ или общий ИИ, определенные человеческие качества являются обязательными. Без этого было бы плохой идеей позволить ИИ бродить по своей воле. Человека всегда нужно держать в курсе, чтобы все не пошло наперекосяк.

Есть сценарии, в которых совесть не играет никакой роли. Классические повторяющиеся действия - отличный пример одной из таких ситуаций. Однако при малейшем воздействии на конечных пользователей, клиентов, сотрудников или общество необходим человеческий контроль. ИИ может принять решение, но ему нельзя разрешать действовать в соответствии с ним без подтверждения от своего ответственного хозяина.

Важное обучение

История - это просто история, пока кто-то не будет настолько вдохновлен ею, что воплотит ее в жизнь. Знайте, чего вы хотите от ИИ и почему - всегда используйте эту цель как путеводную звезду. Цель использования технологий поможет вам как владельцу искусственного интеллекта сохранять контроль.

Знайте, чего вы хотите от ИИ и почему - всегда используйте эту цель как путеводную звезду.

Никогда не стоит верить, что компьютер всегда прав. Не думайте, что AI слепо - когда сомневаетесь, отдайте предпочтение человеческим решениям. Да, мы, люди, несовершенны, но есть несколько человеческих качеств, которые ИИ никогда не будет иметь и которые не сможет воспроизвести. Такие качества и характеристики, как - совесть, сочувствие, эмоциональный интеллект, лидерство, любовь, ненависть и некоторые другие. Эти качества делают нас людьми такими, какие мы есть, и отличает нас от остальных видов.

Никогда не стоит верить, что компьютер всегда прав.

ИИ принимает решения на основе того, как его этому научили. Кто научил его, как, какие вводные и когда - все это имеет значение. Стремитесь к прозрачности и интерпретируемости решений ИИ. Если вы не можете их достать, будьте очень скептичны, вы можете попасть в кроличью нору.

Стремитесь к прозрачности и интерпретируемости решений ИИ.

Независимо от того, насколько умным и великолепным является ИИ, всегда ищите аварийный выключатель и доступ к полному управлению, когда это необходимо. Он может вам не понадобиться или использовать его регулярно. Однако при необходимости он должен быть доступен так же быстро, как и кнопка питания на вашем смартфоне.

Помните, вы знаете свое дело, как никто другой, включая ИИ - доверяйте себе и доверяйте людям!

Каждый раз, когда вы используете или планируете внедрить ИИ в свой бизнес или жизнь, подумайте о последствиях. Независимо от того, насколько хорошо спроектирована система искусственного интеллекта, она по своей сути несет определенные риски на разных уровнях. Оцените эти риски объективно, а затем спланируйте возможные последствия. дайте мне знать, если вам понадобится помощь.

Вы не станете богатым, если ваш ИИ ошибается, это бывает только в фильмах! 😉

Об авторе: Я - множество вещей, упакованных в одном человеке: серийный предприниматель, отмеченный наградами опубликованный автор, плодовитый основной докладчик, сообразительный бизнес-консультант и активный духовный искатель. Я смело пишу, говорю глубоко и чутко наставляю стартапы.

Если вам понравилась эта статья, подпишитесь на мою рассылку, чтобы получать больше таких статей, и свяжитесь со мной в LinkedIn.