«Скучный апокалипсис» современного ИИ
Машины пишут унылый текст, чтобы другие машины его прочитали
Недавно я узнал очень полезную концепцию для размышлений о будущем нашего ИИ.
Это в недавней колонке автора New York Times Эзры Кляйна, в которой он борется с влиянием больших языковых моделей, таких как ChatGPT.
В какой-то момент он проницательно замечает, что языковой ИИ может использоваться как своего рода атака типа «отказ в обслуживании» на любое учреждение, основанное на отзывах людей.
Рассмотрим, отметил он, город, который предлагает новую застройку и просит жителей представить письма против или в поддержку этого. Как отмечает Кляйн, местный житель NIMBY может использовать ChatGPT, чтобы мгновенно написать «жалобу на 1000 страниц».
Это действительно может затопить малокомплектный ЖЭК, верно? Плохая вещь.
За исключением того, что, как добавляет Кляйн, сотрудники жилищного департамента вполне могут использовать ChatGPT сами для автоматического суммирования входящих писем от жильцов. Борьба с огнем с огнем!
Звучит… полезно? Вроде, как бы, что-то вроде? За исключением того, что сейчас у вас есть ситуация, в которой люди используют ИИ для анализа текста, который сам был создан ИИ.
Это невероятно странная и душераздирающая перспектива, возможно, еще более удручающая из-за того, насколько энтропийно правдоподобна она. Можно легко представить, как все надевают свои механизмы ИИ, чтобы они могли атаковать друг друга с помощью текста и должным образом защищаться.
Как именно мы называем эту серую текстовую жижу, которая, вероятно, вот-вот появится?
«Скучный апокалипсис».
Это блестящий термин, придуманный гарвардским ученым-компьютерщиком Джонатаном Франклом, который также работает главным научным сотрудником MosaicML, фирмы, которая занимается созданием моделей ИИ.
Когда Франкл разговаривал с Кляйном, вот как он это описал…
Джонатан Франкл, главный научный сотрудник MosaicML и ученый-компьютерщик из Гарварда, описал это как сценарий «скучного апокалипсиса» для ИИ, в котором «мы используем ChatGPT для создания длинных электронных писем и документов, а затем человек, получивший их, использует ChatGPT, чтобы обобщить их до нескольких пунктов, и тонны информации переходят из рук в руки, но все…
