Я существо, совершенно равнодушное к опасности замещения себя искусственным интеллектом, поскольку моя трудовая деятельность имеет крайне малое отношение к интеллекту, искусственному или эээ природному. Но конечно, невозможно пройти мимо ТОННЫ мнений, чтобы не добавить свои пять копеек, так что не сочтите за хайпожорство.
Любопытства ради я залогинилось на портал в Бездну и стало задавать боту несложные вопросы из области, на которые существует только один верный ответ, но для получения этого ответа нужно либо его точно нагуглить, либо сложить два и два. Поскольку нагуглить точный ответ электробот не смог, а думать не обучен, то он радостно выдал мне порцию бреда, что живо напомнило мне экзамен по общей физике на втором курсе. Я выдавало абзацами из статьи по физике твердого тела с мягко-говоря смутным пониманием о чем вообще речь. (Трояк поставили)
Что же касается чатботов которые умеют разговаривать «почти как люди», то я последние лет десять пыталось как-то вникнуть в Natural Language Processing, или естественное распознавание речи, и каждый раз спотыкалось о то, что это в общем всегда оказывалось подмножеством машинного обучения, которое я считаю в некотором роде шарлатанством. Вернее не так, статистические методы в моделировании и прогнозировании вполне себе вещь, старая, впрочем, как мир, а вот подача их как панацеи — обман трудящихся.
В университете Вашингтона, в Сиэттле, работает одна занимательная женщина Emily M Bender, лингвист и руководитель Лаборатории Компьютерной лингвистики. И она, помимо преподавания, неустанно занимается тем, что пытается разъяснить — что есть чатботы подобные ChatGPT и чем им не стать никогда.
Я приведу пример из одной ее статей, который мне ужасно нравится.
На двух необитаемых островах сидят А и В. Они могут общаться только посредством подводного телеграфа. На дне сидит некий любопытный Осьминог О, которые не понимает языка А и В, но может подслушивать беседы, накапливать бесконечную базу данных и с очень большой вероятностью угадывать что отвечает каждый из собеседников (не такие уже они интеллектуалы, эти А и В). Спустя некоторое время О успешно обманывает А и В, прикидываясь то одним то другим, пока не настает день Х.
На А нападает медведь и он в истерике строчит В «Медведь! Чувак что делать? Лезть на дерево, плыть или отбиваться? Есть палка!». Осминог О на проводе, по он не знает ни что такое медведь, ни что такое палка, ни в чем проблема. Обман раскрыт, А съели.
Осьминог О не понимает языка, как системы знаков, то бишь по Соссюру, пар форма-значение, поэтому бессилен породить новое, его база данных, или иными словами training data, это набор исключительно форм. Осьминог О — никакой не осьминог, а еще один практически мемный термин — Стохастический Попугай.
Стохастический попугай этот — существо интересное, поскольку правдивость сказанного его заботит крайне мало, а вот правдоподобие — очень даже. Наш попугай это идеальный булшиттер из статьи Гарри Франкфурта On Bullshit. Неважно какой бред ты несешь, главное похоже на правду. Правдоподобие означает внимание, а внимание — это клики, просмотры и подписчики.
На данный момент многие фанаты чатботов доходят до того, что объявляют человека (и себя в частности) стохастическим попугаем, дескать мы тоже учимся повторяя и тому подобные аргументы, но я в дискуссии подобного рода пожалуй пускаться не буду поскольку сравнение человеческого сознания с огромной аморальное базой данных которая шустро умеет рыться в себе, считаю просто унизительным.
Как один из примеров — недавний скандал с клипом якобы рэпера Дрейка, который сгенерировал ИИ, да так что и не отличить. Вот только если немножко знать историю всех этих персонажей, то рэп это большей частью не про музыку, а про стиль жизни, образ, ну и иногда текст, если человек или продюсер постарался, поэтому там столько народа от сохи зачеркнуто простых парней из гетто.
Там порой такой несложный бит подложен, что даже неловко. Я такие готовые из библиотеки сэмплов скачиваю.
К счастью, есть композитор, и не один, которому ИИ не грозит. Этот композитор, будучи гением, воспитанным в классической традиции, и являясь ее продолжением полностью переосмыслил ее язык, как фразовый, так и гармонический. Его произведения, оставаясь сонатами, квартетами, вариациями и симфониями — это новое, невиданное до сих пор. Это Бетховен, конечно.
Вторая проблема, по мнению Бендер, еще и в том, что training data на которых их обучали — это весьма неоднозначный набор материала, а именно Википедия и Reddit. Нет, к счастью форум «Antiwomen» и паблик Мужского государства туда не попали но как бы, Александрийская библиотека тоже в силу очевидных причин. И возникает вопрос — кто является усредненным пользователем Reddit? Тут дискуссия немного сворачивает на права индейцев, чернокожих женщин и меньшинств, поскольку мы в Америке, и белые мужчины в современных либеральных исследованиях не в приоритете, но сути это не меняет. Помните был такой слоган в девяностые «Не пускайте детей в интернет, он от них тупеет»? Так вот если чатбот — это отражение коллективного сознания совокупности интернет пользователей, то по Юнгу, если мне не изменяет память, это самое сознание не «умнее» большинства индивидов из которых состоит. Менталитет толпы, вот это все. Еще и соврет, недорого возьмет.
Основная мысль Бендер, напрямую не излагаемая в статье, но часто транслируемая ей, заключается в том, что стохастических попугаев нельзя, например, использовать как судей, как бы удивительно хорошо он не сдавал экзамен на адвоката, и как бы не хотелось на этом поднять денег их создателям, потому что система правосудия это живой и постоянно меняющийся организм, отражающий процессы в общества. Какой приговор должен по мнению такого бота быть вынесен сестрам Хачатурян или похожему делу Anthony Templet? Тут по абортам штаты договориться не могут.
Тем не менее, очевидно что попытки внедрить ботов будут, вернее уже происходят, если не в правосудии, то в планировании и других областях, посколько это дешево и сердито, а значит выгодно, а где выгодно, то — «нет такого преступления на которое не пошел бы бизнес… » и так далее и тому подобное.
Ну и напоследок моя любимая «фотография» из акаунта который непрерывно постит картинки производства ИИ.
Если приглядеться, то можно заметить и три руки, и кривые татуировки переходящие на одежду, но это все мелочи. Основная проблема этих стильно одетых японо-тайских бабушек (как я выяснило, для большинства ИИ это все проходит по категории «азиаты»), что любой человек хоть немного знакомый с азиатской культурой сначала ужаснется, а потом рассмеется.
Почему? Потому что в пребывая таком возрасте, эти татуированные бабушки могут быть только женами якудза, но их татуировки в то же время настолько бестолковы и глупы, что, конечно, никакого отношения к сложной символике японской мафии, с ее отсылками к самурайской культуре не имеют.
Такие дела.
Добавить комментарий