Илон Маск хочет сделать искусственный интеллект открытым исходным кодом
Взято из статьи Wired двухмесячной давности:
Сегодня утром OpenAI выпустит первую партию программного обеспечения для искусственного интеллекта, набор инструментов для создания систем с искусственным интеллектом с помощью технологии, называемой обучение с подкреплением — одной из ключевых технологий, которая, среди прочего, способствовала созданию AlphaGo, искусственного интеллекта Google, который потряс мир, освоив древнюю игру Го. С помощью этого инструментария вы можете создавать системы, которые симулируют новое поколение роботов, играют в игры Atari и, конечно же, осваивают игру в го.
Он представляет OpenAI как современное воплощение Xerox PARC, технологической исследовательской лаборатории, которая процветала в 1970-х годах. Подобно тому, как в значительной степени открытые и неограниченные исследования PARC привели к появлению всего, от графического пользовательского интерфейса до лазерного принтера и объектно-ориентированного программирования, Брокман и его команда стремятся еще глубже погрузиться в то, что мы когда-то считали научной фантастикой. PARC принадлежала, да, Xerox, но она кормила так много других компаний, в первую очередь Apple, потому что такие люди, как Стив Джобс, были причастны к ее исследованиям. В OpenAI Брокман хочет, чтобы все были причастны к его исследованиям.
Но вместе с таким обещанием приходит и глубокая тревога. Маск и Альтман опасаются, что если люди смогут создать ИИ, способный на великие дела, то они смогут создать и ИИ, способный на ужасные вещи. Они не одиноки в своем страхе перед роботами-повелителями, но, возможно, вопреки интуиции, Маск и Альтман также считают, что лучший способ борьбы со злонамеренным ИИ — не ограничивать доступ к искусственному интеллекту, а расширять его. Это часть того, что привлекло команду молодых гиперинтеллектуальных идеалистов к их новому проекту.
Отказ от контроля — суть идеала открытого исходного кода. Если достаточное количество людей посвятит себя коллективной цели, конечный результат превзойдет все, что вы придумываете втайне. Но если ИИ станет таким мощным, как было обещано, уравнение изменится. Мы должны обеспечить, чтобы новые ИИ придерживались тех же эгалитарных идеалов, которые привели к их созданию. Маск, Альтман и Брокман верят в мудрость толпы. Но если они правы, однажды эта толпа перестанет быть полностью людьми.
Полный текст можно прочитать здесь.
Первоначально опубликовано на сайте alokgupta.me 21 июня 2016 г.
