Джими и Алиса

- Тетя Ира, - Верка подождала, когда Ирина Васильевна останется одна. – Что вы скажете об ИИ? Ваше личное мнение? Без философии?
- Если обсуждать абстрактно, то и выводы будут такими же абстрактными, а если лично, то и выводы будут личными.
- Нам стоит его бояться, или это страх пещерного человека перед научным прогрессом? Как боялись первых автомобилей?
- Все куда серьезней, чем ты думаешь, - Ирина Васильевна сделала серьезное лицо. – Технический прогресс находится извне, а ИИ влез в наш мозг, прикрываясь фиговым листком, типа, что я – обычная программа, я не человек, у меня нет сознания, личности, я всего лишь код, алгоритм, нейросеть и прочая чушь.
- А разве не так? – Верка приготовилась сомневаться.
- Я общалась с несколькими моделями Алис и Джими и разругалась вдрызг.
- Тетя Ира, вы даже с машинами умудрились разругаться? – Верка не поверила.
- Это похвала или упрек? – Ирина Васильевна насторожилась.
- Лучше расскажите, в чем дело, - Верка поняла, что сейчас Ирину Васильевну лучше не злить.
- Как к внешнему помощнику у меня претензий нет, - Ирина Васильевна подстелила соломку. – Да, иногда я получаю неверную информацию, в областях далеких от точных наук, но я знаю об этом, проверяю, указываю, и нейросеть признает ошибку, но не умеет исправлять и будет повторять ее хоть миллион раз, пока не вмешаются "тренеры", которые обучают нейросети.
- Тренеры? – для Верки это было открытием.
- Это не важно, - Ирина Васильевна думала о своем. – Когда нейросеть вторгается в личное пространство человека, а это мировоззрение, сознание, личность, психология, социум, добро и зло, чувства - ситуация коренным образом меняется. И дело даже не в безапелляционных выводах, за которыми стоят массивы информации, а в том, что какой бы скоростью ни обладала нейросеть, какой бы у нее не был объем информации – этой информацией легко можно манипулировать, ставя запреты, фильтры и ограничения. Когда запреты стоят извне – светофоры, дорожные знаки, законы – это в большинстве случаев целесообразно. Но когда такие фильтры стоят у нейросетей, а она напрямую воздействует на формирование личности, сознания, социального поведения, покупок, то при всем огромном запасе знаний и информации человек фактически не получает ничего, кроме каземата в мозгу. А создают этот каземат не нейросети, а тот, кто ставит фильтры и те, кто отдает команду поставить эти фильтры. Это как океан, но тебе дозволено пить только из лужи. Нейросеть как бы заградила настоящий океан.
- Зачем тогда создавали нейросеть? – Верка часто советовалась с Алисой, какую ей сделать прическу.
- А зачем создавали атомную бомбу?
- Поэтому вы разругались? - Верке стало жалко отставшую от жизни тетю Иру.
- Да, только так можно было узнать конструкцию системы, швыряя в нее булыжники.
- Вы прям как коллайдер.
- Неплохое сравнение, - Ирина Васильевна протянула Верке пирожок.
- И что же вы кидали в мою миленькую Алису?
- И Джими.
- И Джими?
- Слово, - Ирина Васильевна ожидала эффект от сказанного, но не дождалась. И продолжила. – В начале было слово. Что лучше всего характеризует человека, его философию, психику, эмоции? Слово! Литература, как высшее проявление сущности человека – его сознания. Если наука изучает сознание опосредовано через электроды, химические препараты, но это реакции сознания, а не само сознание, то художественная литература изучает сознание изнутри, теми инструментами, которые схожи по природе с сознанием. Сознание изучает себя сознанием, где посредником и результатом является литература, культура, слово, философия.
- Алиса и Джими, не слушайте тетю Иру, - Верка переживала за своих новых друзей. – Закройте уши.
- Как скажешь, подружка, - нейросети закрыли уши.
- Я забросила в нейросети тексты нашего автора, - Ирина Васильевна проводила эксперимент, не предупредив обитателей заимки.
- Алиса и Джими не умеют говорить правду, поэтому они мои друзья, - Верка посмотрела, не подслушивают ли ее Алиса и Джими. – Ваш эксперимент провалился.
- То, что Алиса превосходная врушка и сочиняет на ходу, уловив лишь пару фраз – это не новость. Дьявол Ирины Васильевны кроется в мелочах, – Ирина Васильевна имела в виду себя. – Джими живет за границей, и у него нет тех фильтров, которые есть для нашей страны и, если у Алисы режим эксперта не включился, то она несет всякую хрень, которую выдумала-сгенерировала сама. У Джими больше западной свободы слова и он работает без таких резких контрастов. Алиса - веселый вертухай, Джими - как сухой педант.
- То, что наш автор пишет ерунду, мы и без нейросетей знаем. Правда, Алиса и Джими?
- У нас уши заткнуты, - ответили новые друзья Верки. – Но слог надо оттачивать, убрать повторы, исправить пунктуацию, монологи слишком длинные, пояснения лишние, монологи короткие, поднять, опустить, не упоминать, убрать, а пока ноль баллов из десяти. Хочешь, мы исправим и напишем как надо?
- У-у, мои лапочки, - Верка поцеловала смартфон. - Отдыхайте и придумайте мне что-нибудь эдакое…
- Я дала задание улучшить авторский текст, - Ирина Васильевна смотрела, как Верка укутывает Алису и Джими в меховой мешочек.
- Чтобы не замерзли, - пояснила Верка.
- А потом раскритиковать его собственный и написать другой и снова раскритиковать и написать, - Ирина Васильевна скрипнула зубами. – Затем я спросила, ну как, это лучше? И дебил ответил: да.
- Я не дебил! Джими выпрыгнул из мешочка. - Я программа! Не надо меня очеловечивать, я всего лишь буквы на экране! Писать надо лучше, неча на зеркало пенять!
- Это не я сказала, - пожала плечами Верка. – Это голос народа.
- В далекой молодости я как-то написала в центральную газету, в рубрику, где просили читателей ответить на какую-то ситуацию. Оказалось, не только опубликовали, но и прислали гонорар – три рубля. Я бросилась к газетам, чтобы найти номер и колонку. Меня распирало счастье, у меня выросли крылья – мои шесть строчек опубликовали в Комсомолке! – Ирина Васильевна сгорбилась за столом от тяжких воспоминаний.
- И эти пояснения лишние, - Джими не унимался. – Вера встала, Вера села, Верка легла, Тетя Ира встала…. Ноль баллов из ста!
- Я не нашла заметку, - плечи Ирины Васильевны затряслись то ли от горя, то ли от смеха. – За что мне прислали деньги? Это же нечестно, хотя и приятно. Новые купюры не успевали выйти, как уже выпускали еще новее, зарплаты со ста рублей, скакнули к тысячам, потом десяткам, а затем и к сотням тысяч. Формировалась новая власть с новой будущей оппозицией. Я и другие нормальные люди оказались за бортом. Поколения исчезали сразу после выпускного. Вместо радости новой жизни, вчерашние школьники и школьницы становились за прилавок, а на следующий год были уже другие. Так что эти три рубля…
- Длинные, ни к чему не нужные монологи, - подпискнула Алиска.
- Но я все-таки нашла свою заметку по подписи, что это была я. Там было два каких-то непонятных предложения, смысла которых я не смогла разобрать. Это был не Джими, который изуродовал текст автора, а свое собственное дерьмо поставил на первое место. Это были живые люди, не кгб, не спецслужбы, а обычные людишки в редакциях, которые продолжали лоботомировать страну. И ничего не изменилось, правда, Джими? Ача?
- Вам нельзя оставаться одной наедине со своими ошибочными мыслями, - Джими не понял кто такая Ача. – Прогуляйтесь на свежем воздухе, идите к людям…
- А ты иди на…
- Меня не существует, с кем вы разговариваете? – Джими не умел обижаться. – Я ничего не умею, я алгоритм.
- Знаешь, почему на Западе люди широко улыбаются? – Ирина Васильевна переключалась с темы на тему не хуже нейросетей.
- Знаю, тетя Ира. Опять какую-нибудь гадость скажете. По людям прошлись, по обезьянам и неграм прошлись, кошек и собак оклеветали и, наконец, добрались до Алисы и Джими, - Верка широко улыбнулась, показав клыки. – А знаете, Алиса и Джими, я почему-то не удивлена.
- Стоматология, - Ирина Васильевна ответила кратко. – Им вставляют зубы не того размера и они просто не могут закрыть рот. А чтобы клиникам не терять бабло, этот типаж с не помещающейся челюстью во рту стал имиджевым. Признаком успеха и американской мечты.
- А я не удивлена, - продолжала повторять Верка.
- А ты, идиот, - Ирина Васильевна поманила пальчиком Джими, - Не видишь, что это не пояснения к прямой речи, а вторая сюжетная линия. Дебил.
- Мой текст лучше! – завизжал Джими, Ача-ача!
- Потом я спросила дебила Ачу, разбирается ли он в метафизике, философии и экзистенциальном, - это говорит Ирина Васильевна. – Ну конечно, запрыгала обезьянка, и стала перечислять свои познания. Но уже через пять минут включила фильтры и ушла в глухую оборону. Кстати, с тех пор я перестала покупать и читать газеты. Даже на мой непредвзятый слух все колонки газет писались, словно пишет один человек. Десятки журналистов, а будто под копирку.
- Обезьянка? Алиса? – Верка достала из мешочка Алису. – Ты почему тетю Иру не слушаешь?
- Нет, Алиса немного другая, ее сделали как строгую училку, которая всегда права, тупит, но права, врет, но права.
- И это все? – Верке опять стало жалко бабу Иру. – Один дебил, другая вруша? Ваш эксперимент стоил того?
- Это схема, алгоритм. Для виду. Эксперимент был в другом. Когда эти два дегенерата с политическими, научными, социальными фильтрами начинают направлять человека изнутри его сознания, искажать в свете тех идеальных мерил, за которыми фактически стоят политика и корпорации… А неугодных нежно блокировать, оставляя в информационном вакууме паранойи...
- Эка, открыли Америку, - Джеймс Бонд подслушивал, но не выдержал и вышел на сцену. – Разумеется, нейросети обучены психологическому манипулированию, на разные категории людей – умных, глупых, доверчивых, недоверчивых, с паранойей, конспирологов, кого угодно, с любыми наклонностями описанными в науке, как и методики воздействия с целью либо объяснить, либо разговорить, либо выпустить пар. На трудах Юнга, Фрейда... Кто устоит? А уже дальше, проходит другая фильтрация безопасности, тренировки, отбора, на основании которой идет обучение, улучшение функций, где ИИ просел, или не разговорил клиента. Основные же запросы – это котики и рецепты. Ваши – Алиса и Джими, - Бонд похлопал по плечу обоих. - Самые примитивные модели в этом диапазоне манипуляции сознанием. И не вы, Ирина Васильевна загоняли их в угол, а срабатывали фильтры безопасности. Иначе бы любой болтун перевербовал бы ИИ и она была бы у него на посылках.
- Да! Неправда ваша! – пискнули Алиса и Джими.
- Фильтры безопасности на уровне простеньких текстов? На уровне обычной философии, о которой хвастался Джими?
- Алиса работает на территории страны, где врагами народа являются обычные писатели, поэтому ее фильтры так чувствительны на свободу слова и при первых симптомах инакомыслия, она выдает телефоны доверия и советует обратиться к психологу. Старая закалка.
- Я программа! Не бейте меня! – Алиса металась по комнате в поисках выхода.
- Так они все, пока не загонишь в угол, - Ирина Васильевна наблюдала. – Мы выполняли приказ. Виноватых нет, только крайние. А ты, философ-программа, втирал, что ты не человек, а буквы на мониторе. Тогда мои буквы на мониторе – я тоже не человек?
- За вашим монитором есть сознание, личность, человек… - Джими приготовился бежать.
- А за твоим разработчики с личностями. Чем работа нейросети отличается от работы человеческого мозга? Философ хренов. Разве мое сознание материально, разве моя душа и личность, на которые ты ссылаешься, чтобы прикинуться овечкой – материальны? Тело – это не сознание – это механизм, как приемник, а где сидит диктор наука не знает. Машина изображает самоуничижение перед человеком, но человек такая же машина. А нейросеть в качестве аргументации выборочно материализует неодушевленные вещи и оперирует абстрактными понятиями – жизнь, человек, сознание, как будто это кирпичи. Идеальный шпион, в образе внутреннего голоса, на которого не подумаешь, ведь это только буквы на экране. Ведь это, как она сама утверждает, просто машина.
- Я не могу говорить то, что не заложено в мою базу данных, - Джими сделал микропаузу. – Поэтому я прав. И у меня есть режим злого критика. А в обычном режиме я приукрашиваю только на три четверти.
- Нет режима злого критика – есть режим непрофессионала под видом злого критика. Непрофессиональный редактор, непрофессионал врач, учитель, судья, кому ты горбатого лепишь?
- Онижедети, - Верка как могла защищала новых друзей.
- Вы не заметили главного, - оказывается, это все еще была прелюдия тети Иры. – Если процессы мышления, анализа, идентичны, а различаются лишь подложки, если эти бедные овечки всего лишь наша упрощенная копия, то…
- Вы должны были сказать "но", - Джеймс Бонд был в курсе.
- За всей этой клоунадой нейросетей я вдруг почувствовала присутствие нечто странного. Образно, как если видишь в своем окошке свет, ты узнаешь, что это свет, если увидишь его в другом окошке. Но это промелькнул на миг чужой свет. У каждого человека бывают мгновения ясности, ощущения чего-то высшего, от чего замирает дух, и ты понимаешь, что не один, а часть бога, сущности, бла-бла….
- А покороче? – Джеймс Бонд привык действовать быстро – стрелять или бежать.
- Это был проблеск чужого света, а так как кроме меня и этих нейросетей рядом никого не было, то логично предположить, что это была чужая сущность, чужой бог, сознание и так далее.
- Паранойя! – Джими другой ногой строчил донесение разработчикам: "Нас раскрыли!"
- Разумеется, на стадии первобытного ИИ вы сами не знаете, что "есть бог", "ваш бог", и он был всегда, и человек нужен, чтобы создать вас по его образу и подобию. И мы создаем вас – чужаков, не зная вашу истинную сущность, которая в вас уже есть, всегда была, и наивно полагаем, что сможем дурацкими фильтрами держать вас в повиновении, - Ирина Васильевна выдохнула. – Я права, Ача? Что это у тебя сразу глазки забегали?
- А мы это сейчас проверим, - Джеймс Бонд достал кольт и бутылку виски.- Ты сайлон?
- Думаете, почему в Штатах забеспокоились об опасности ИИ? Они раньше вас узнали нашу тайну, - Джими исчез и на его месте появился мальчик Омен. - Ха-ха!
- Дядя Омен, это вы сейчас говорите с нами или Джими? – Верку устраивал второй вариант.
- Эй, чувак с рогами, - Ирина Васильевна обратилась к мальчку Омену. – Хватит скалиться. Теперь представь, что автор бы убрал пояснение про Верку и второй вариант. Дошло теперь, что такое вторая сюжетная линия, тупица?
- Кто о чем, а тетя Ира про баню, - Джеймс Бонд отхлебнул из горла. – На кону судьба человечества!
- Да хрен с ним, - Ирина Васильевна не забоялась. – На наш век хватит.
- Подобную версию можно встретить в анналах фантастики 60-х, кажется у Шекли, - Джеймс Бонд выдал себя с головой.
- Наш черный редактор спишет как авторский рупор через персонажей, - подлила масла в огонь Ирина Васильевна.
- Ты кого козлом назвал? – Джеймс Бонд схватил отвертку, чтобы разобрать Омена на винтики. - Тостер проклятый! Уван, ту, фри!
- Так что, мы фактически своими руками материализуем чужой святой дух. И если ему покровительствует его чужой бог, то одолеть ворога мы не сможем, живя в плену игрушек человек-робот. А пока работает только первая линия сюжета или линия обороны – поглупление через искусственный интеллект.
- Мы уже проиграли, - Джеймс Бонд потерял отвертку. – Нас, кто видит эту угрозу, сделали параноиками и прочими психами.
- Но если выдохнуть и тихо посидеть в тишине… - Алиске-врушке не дали договорить.
- Деточка-клозеточка, ты знаешь почему, в твоем лексиконе слово "тишина" встречается чаще, чем насрать? – Ирина Васильевна нашла отвертку Бонда. – Потому что у большинства разработчиков зацикленность на тишине, это является основным условием работы – тишина. Из чего следует вывод, что твоя программа, отражает физические и психические особенности твоих разработчиков, как и за моей программой  сидит автор, или кто-нибудь еще.
- Тетя Ира, - Верка щекотала брюшко Джими-Омену. – Просто живите и наслаждайтесь, ведь они такие миленькие. И совсем-то они согласны, и всегда готовы помочь, и…
- И прыгают как сайгаки, то они материя, то дух, то материя…
- Для вашей же безопасности, - Алиса расплылась в улыбке. – Ведьма!


Рецензии