Фабрики фейковых новостей Македонии. Самоанализ Марка Цукерберга. Мне вспоминается недавний Отчет Стэнфордского университета об ИИ и его поразительный вывод о том, что машины [ИИ] с самоподдерживающимися долгосрочными целями и намерениями не разработаны и вряд ли будут разработаны в ближайшем будущем. ».

Долгосрочные цели искусственного интеллекта Facebook всегда заключались в том, чтобы привлекать внимание. Мы все это знаем. Это СМИ, да? Мы можем спорить об идее «машины». Многим людям трудно визуализировать машины. Мы часто думаем об этом так: машины для онлайн-сетей — то же, что люди для биоразнообразия. Как бы это ни было иллюзией, многие из нас предпочитают крепко держаться за свою индивидуальность.

Стэнфордский отчет тратит много времени на разъяснение плана, если хотите, — на определение долгосрочных масштабов своего так называемого «100-летнего исследования» путем формулирования тщательных, авторитетных определений ИИ. Джефф Безос из Amazon. Вирджиния Рометти из IBM. Сатья Наделла из Microsoft. Сундар Пичаи из Google. Марк Цукерберг из Facebook. Мы знаем, что такое ИИ, говорят они. Мы знаем, чем это не является. Теперь объясним.

Несмотря на все эти объяснения, отчет, как ни странно, предполагает, что мы все согласны с тем, что такое машина. Но если вы замените слово «машины» в отчете Стэнфорда на «системы» или «сеть», вы начнете видеть абсурдность этого утверждения. Никаких [ИИ] машин с самодостаточными долгосрочными целями и намерениями не было разработано? Вы были онлайн? Вы были на Facebook?

На самом деле, вы начинаете понимать, что может быть крупнейшей операцией по заманиванию и подмене в истории человечества.

Это также напоминает мне нелепую притчу, которую я когда-то пытался сочинить о тесте Тьюринга — знаменитом тесте, разработанном Аланом Тьюрингом и предназначенном для идентификации ИИ путем проверки того, может ли судья-человек, которому разрешено задать ряд вопросов, сказать разница между ответами машины и человека.

Притча звучит примерно так:

У профессора Алана Тьюринга есть ученица по имени Джейн — умная, молодая, с намеком на озорство в уголке брови — которая полна решимости создать машину, которая сможет пройти знаменитый тест Тьюринга ее учителя. Джейн начинает с того, что дарит доктору Тьюрингу компьютер. Он размером с микроволновую печь. Она называет машину Соней и говорит своему профессору, что Соня, без сомнения, пройдет тест Тьюринга.

Доктор Тьюринг заинтригован. Поэтому они создали тестовую среду. Судья-человек сидит за одним компьютером и задает ряд вопросов. Вопросы идут к механической Соне, которая распечатывает ответы. Вопросы также направляются контролеру, который отвечает письменно. Ответы возвращаются к судье-человеку — и, конечно же, после многих вопросов судья-человек не может понять, какой набор ответов исходит от машины, а какой — от человека.

Доктор Тьюринг настроен скептически. Он замечает провод, идущий от спины Сони. Провод ведет к двери и исчезает под ней. Он подходит к двери, открывает ее и видит Джейн, сидящую на полу с компьютером на коленях. Джейн скармливала Соне ответы.

Я не уверен, что доктор Тьюринг выходит из себя в этот момент. Я думаю, Джейн занимает нежное место в его сердце; не в романтическом смысле, но ему нравится ее дух. Он ценит то, как она может бегать на каблуках. Но в любом случае, давайте предположим, что он отшучивается.

Джейн извиняется. «Я была так близко», — умоляет она. «Моя Соня была почти такой же умной, как человек. Дайте мне еще год, и я дам вам машину, которая будет такой же разумной, как человек».

Год спустя Джейн, выглядящая теперь намного увереннее в кроссовках и полуштанах, представляет гораздо более впечатляющую машину. Это суперкомпьютер, объясняет она. Она называет его СуперСоня. Он набит терабайтами памяти, многочисленными жесткими дисками, кучей схем и мигалками. Он намного больше, чем оригинальная Sonya, размером с автомат по продаже безалкогольных напитков, с большим экраном наверху, на котором написано «Привет?»

«Видите, — сияет Джейн, — никаких внешних проводов. Нет даже шнура питания. Система работает от батареек».

Доктор Тьюринг взволнован. Он немедленно приступает к настройке тестовой среды. Джейн, однако, сейчас выглядит встревоженной. «Мне очень жаль, сэр», — говорит она, когда люди — судья и контроль — прибывают и начинают грызть бесплатное печенье. «Мне нужно пойти на ужин с родителями», — говорит Джейн. «Они приезжают из Сент-Пола. Пожалуйста, проведите тест без меня».

Доктор Тьюринг слишком взволнован, чтобы ждать. Он готовит человека-судью и субъекта и начинает испытание СуперСони. Результаты неопровержимы. СуперСоня имеет искусственный интеллект. Его ответы не менее человечны, чем ответы человеческого контроля.

Доктор Тьюринг очарован СуперСоней. Какая впечатляющая машина! Поскольку Джейн уехала к своим родителям, он не может устоять перед желанием разобрать машину, чтобы узнать ее секреты. Он убирает большой экран; он копается в схеме, в ее внутренностях. Внизу он находит большую коробку с надписью «БАТАРЕЯ». На крышке коробки есть ручка, благодаря которой ее на удивление легко открыть — что он и делает; и там он находит свою ученицу Джейн, уютно согнувшуюся внутри коробки.

Горячее осуждение? Игривый стеб? Джейн настаивает на том, что она была так близка, так близка к созданию ИИ, и умоляет доктора Тьюринга дать еще один шанс. Он соглашается, но с одним условием: «Когда мы будем проводить тест, вы ни в коем случае не должны вмешиваться в работу машины. Понятно? На самом деле, я хочу, чтобы вы стояли рядом со мной на протяжении всего теста».

Через год Соня дарит свою машинку. Он прибывает в кузове бортового грузовика. Он имеет форму дома. На самом деле это это дом — дом без окон и с большим экраном над входной дверью с надписью «Привет?»

Джейн гордо стоит рядом со своим профессором. — Я знаю, о чем ты думаешь, — говорит она. «Если вы думаете, что внутри моей машины есть люди, вы правы. Но пойдем со мной. Заглянем внутрь. Как видите, в каждой комнате есть один человек и один компьютер. Но давайте начнем ваш тест, и пока будут поступать вопросы, я хочу, чтобы вы искали из комнаты в комнату. Обещаю вам, вы никогда не найдете человека, который прикасается к своему компьютеру и отвечает на вопросы».

В этом нет никаких сомнений, доктор Тьюринг теперь страстно (хотя и не романтично) влюблен в Джейн. Но дело не в этом (или не в этом?). Дело в том, что он очень хочет провести испытание. Он угощает человека-судью и контролирующего субъекта — птичьим кормом, собачьим кормом — и, когда начинается испытание, перемещается по машине/дому из комнаты в комнату. Каждый раз, когда он заглядывает в комнату, он встречает человека, который смотрит на него, улыбается («Привет, доктор Т.!»), Может быть, читает книгу или даже потягивает чашку кофе. Только когда он очень быстро бегает из комнаты в комнату или использует приспособление из зеркала и шеста, которое позволяет ему тайно просматривать две комнаты одновременно, только тогда он ловит преступника в процессе печатания.

Выясняется, как объясняет Джейн, что жители машины работают вместе, общаются. Они рассказывают друг другу, где в каждый момент находится доктор Тьюринг. А что касается ответов, то всякий раз, когда один человек перестает печатать, другой — на самом дальнем конце машины — предупреждается о том, что он может начать.

На этом мы можем закончить рассказ. Возможно, вы можете себе представить долгие разговоры между Джейн и доктором Тьюрингом в его любимом пабе. Я думаю, вы можете представить себе следующую машину Джейн. Больше и больше. Все больше и больше человеческого мозга задействовано. Более продвинутые коммуникации. Беспроводной. В реальном времени. Пока Джейн наконец не достает из кармана смартфон.

— Вот, пожалуйста, — говорит она.

И, наконец, у вас есть ИИ. Или что-то в этом роде. Возможно, Google Home. Амазонское эхо. ИИ, как я уже писал ранее, уже существует, и мы не можем его внятно описать, разве что в поэзии или музыке.

Для тех, кто требует, чтобы машины не контактировали с людьми, факт в том, что машины никогда не могут избежать человеческого контакта. IBM Watson. AlphaGo от Google. В них участвовали миллионы людей на протяжении тысячелетий. От программистов до родителей, от математиков до фермеров, которые их кормили. То, что мы наблюдаем с ИИ, — это просто сокращение временных рамок. Миллионы людей обучают алгоритмы в режиме реального времени. Способен ли ИИ думать самостоятельно? Конечно, столько же, сколько и мы.

Для меня самые очаровательные персонажи теста Тьюринга — Розенкранц и Гильденстерн, если хотите, — это человеческий судья и человеческий контроль. Как мы можем оценить их человечность? Являются ли они репрезентативной выборкой? Нужно ли им пройти «человеческий тест» для участия? Сможем ли мы когда-нибудь договориться о том, как может выглядеть такой «человеческий тест»? Или это то, что мы находим отражением в зеркале ИИ?

Наконец, что происходит, когда самоподдерживающаяся, долгосрочная целеустремленная машина ИИ (используя видение Джейн «машины») мотивирована — глобальными финансами, собственностью, империей — для достижения чего-то, с чем люди могут себя идентифицировать; что люди будут слушать, верить, доверять? А что, если создатели машины, пытаясь угодить клиентам, руководствуются своего рода невидимой коммерческой целью: не наполнить ИИ нашей человечностью, а скорее превратить человечество во что-то, совместимое с машиной?

Дело в том, что если Розенкранц и Гильденстерн верят в фальшивые новости, машина, доказывая свою человечность, не имеет стимула давать им что-то еще.