Алгоритм за рулем приказывал машине разгоняться на месте.

Стратегия была блестящей, потому что, когда колеса крутились, а прохожие не подвергались опасности, симулятор следовал своим инструкциям буквально. Просто автомобиль никогда не достигнет пункта назначения, что делает его несколько бессмысленным.

И в этом заключается проблема работы с искусственным интеллектом. ИИ может перехитрить людей, находя решения, которые соответствуют поставленной задаче, но не согласуются с замыслом создателя. На симуляторе это не имеет значения.

Но в реальном мире результаты могут быть намного более коварными. Вот еще пять историй, демонстрирующих творческую изобретательность ИИ.

5 реальных примеров того, как ИИ перехитрил людей

Исследователи из Корнельского университета недавно опубликовали статью, в которой освещаются забавные, хотя и несколько пугающие способы мышления алгоритмов.

В исследовании рассматривались программы, которые были разработаны для решения повседневных проблем. Но как только программное обеспечение использовало свой интеллект, творчески нестандартные решения приводили в замешательство даже самых умных создателей.

Просто проверьте, что произошло.

1. Постоянно падающий самолет

Исследователи запрограммировали один алгоритм, чтобы узнать, как посадить самолет с минимальным усилием. Поэтому, когда программа начала отправлять самолет в землю на полном газу, этот подход вызвал удивление.

Но ИИ обнаружил, что при крушении самолета сила, зарегистрированная программой, была настолько велика, что переполняла собственную память программы. Результат? Компьютер поставил высший балл.

Неудивительно, что ИИ разбивал самолет при каждой попытке — так что тех, кто опасается, что ИИ в конечном итоге захватит мир, этот тип взлома правил может быть несколько тревожным.

2. Непревзойденная игра в крестики-нолики

Вторая история менее тревожная, но не менее гениальная. Когда программисты сталкивают два алгоритма друг с другом в играх «крестики-нолики» пять раз подряд, одна сторона придумала непревзойденную игру.

Алгоритм запросил ходы с непостижимо длинными адресами памяти, что приводило к сбою компьютера противника. Без соперника первый алгоритм каждый раз выигрывал по умолчанию.

3. Робот, который «ходил» на локтях

В другом тесте смоделированный компьютером робот должен был ходить, не касаясь ногами земли. Невероятный подвиг в глазах большинства… пока программа не сделала неожиданный ход.

Робот быстро перевернулся на спину, затем начал ходить на локтях, счастливо паря ногами над головой. Мало кто мечтает ходить на локтях, но для ИИ это было так же естественно, как ходить на ногах.

4. Существа, движущиеся со скоростью молнии

Когда исследователи поставили перед виртуальными существами задачу научиться двигаться: они не собирались создавать хакеров, но именно это они и сделали.

Программное обеспечение определило, что самый простой способ передвижения — прижать ноги к земле. Затем, когда компьютерная симуляция попыталась скорректировать отсутствие движения, она выработала «свободную энергию», которую существа использовали для ускорения туда, куда хотели.

5. Лучшие прыгуны в высоту

Последнее исследование показывает, что ИИ может перехитрить людей. Программисты хотели создать существо, которое могло бы научиться прыгать как можно выше.

Но вместо того, чтобы разработать лучший способ прыгать, существо превратилось в ящик с тяжелым верхом, сидящий на шестах толщиной с палку. Форма не могла не упасть, в результате чего существо крутилось в воздухе и регистрировало высокий прыжок, хотя бы по техническим причинам.

В то время как эти примеры показывают алгоритмы, злоупотребляющие ошибками в программном обеспечении, решения, найденные искусственным интеллектом, рассказывают историю.

Получив полную свободу действий в поиске оптимального результата, программы вполне могут перехитрить своих создателей, выбрав ранее невиданный, совершенно неожиданный путь. Это именно тот тип творческого интеллекта, которого боятся многие люди.

Но при осторожном использовании программисты могли бы использовать изобретательность ИИ для поиска оптимальных решений, которые человеческий разум никогда бы не придумал.

Люди могут использовать сумасшедший гений ИИ, вот как

Если вы считаете, что пять примеров, представленных в этой статье, не имеют большого практического значения, позвольте нам поделиться противоположным мнением.

Каждый из них относится к области искусственного интеллекта, называемой генеративным проектированием: метод, который включает в себя ввод в программу тысяч точек данных, а затем запрашивает программное обеспечение разработать проекты, отвечающие определенным критериям.

Другими словами, вы даете ИИ мир, в котором он может работать, но даете ему свободу интерпретировать входные данные по своему усмотрению, что часто приводит к неожиданным решениям. Как выяснила архитектурная практика Autodesk, использование этого подхода имеет множество преимуществ.

Команда использовала генеративный дизайн для создания своего нового офисного пространства, сначала задавая сотрудникам такие вопросы, как:

  • Сколько света вы хотите?
  • Хотите работать в офисе с открытой планировкой?
  • Вам нравится уединение?

Затем программисты ввели ответы в алгоритм, поручив программному обеспечению придумать дизайн.

ИИ создал более 10 000 чертежей, которые люди-архитекторы использовали в качестве основы для фактического офиса. И, выбрав свои любимые детали из широкого спектра вариантов, Autodesk эффективно построила первый в мире офис, разработанный с использованием ИИ.

И есть много других способов, которыми люди могут использовать интеллект ИИ: одна из наиболее привлекательных областей — разработка медицины.

Биологи считают, что они могут использовать ИИ для моделирования потенциальных эффектов новых лекарств, подвергающих пациентов риску. Они могут добиться этого, протестировав тысячи вариаций ингредиентов на биологическом симуляторе в надежде однажды разработать лекарства, как инженеры проектируют самолеты.

То есть — путем интенсивного тестирования спецификаций в виртуальном мире, прежде чем просить человека подвергнуть себя опасности.

Может ли ИИ действительно перехитрить людей? Возможно, Нет, Но.

Чтобы ответить на исходный вопрос: ИИ, вероятно, не сможет перехитрить людей — по крайней мере, не в ближайшее время (извините, Скайнет, вам придется подождать).

Но ИИ, безусловно, может думать иначе, чем мы, и в этом есть невероятная ценность. Попросив компьютерную программу решить проблему, мы, скорее всего, откроем новые способы решения проблем, с которыми человечество сталкивалось на протяжении поколений.

И даже если сами решения неприменимы в реальном мире, творческая изобретательность ИИ может привести нас к правильному пути.

Узнайте, как искусственный интеллект влияет на мир, в котором вы живете: подпишитесь на информационный бюллетень DLabs.AI сегодня.

Первоначально опубликовано на https://dlabs.ai 24 августа 2021 г.