Заменит ли ИИ программистов?

 Не спешите сокращать программистов, умерьте эйфорию от ИИ


Эйфория от Искусственного Интеллекта (ИИ) пройдёт через год-два, скорее всего через полтора. Засекайте время.

Те компании, которые сокращают до 90% программистов, готовьтесь кусать локти.

Вам ещё только предстоит узнать некоторые сюрпризы, законы рынка и разницу между понятием «Интеллект» и «Реактор сведений».

Интеллект – это нечто, пока ещё до конца не понятое ни философами, ни программистами, ни биологами, ни физиками, ни мистиками, не теологами.

Зачастую в технике некоторые термины заимствуются из других областей науки, после чего эти заимствованные термины сначала живут своей жизнью только в рамках этих технических наук, а затем постепенно становятся и достоянием обычного языка, что и создаёт языковый дуализм. То есть один и тот же термин обозначает на самом деле сильно разное, но большинству кажется, что это – то же самое.

Машинный интеллект является «интеллектом» лишь в техническом понимании, в непременной связи со словом «искусственный» или «машинный». А интеллектом он не является, следует это чётко понимать.

Увольняя людей с интеллектом, заменяя их на услуги машинного интеллекта, вы уменьшаете интеллектуальную мощь своей команды разработчиков.

Конечно, в кое-каких действиях вычислительная техника далеко обошла возможности человека. Никто не сможет тягаться с даже с банальным калькулятором, а уж способности вычислять у машины просто несоизмеримы со способностями человека, недаром они так и назывались «вычислительные машины». И было бы лучше, если бы их и дальше называли именно так.

Ещё пару десятилетий назад казалось, что машина не сможет играть в шахматы лучше, чем человек. Сейчас уже доказано, что ни один человек, каким бы гениальным он ни был, не сможет обыграть в шахматы лучшую машинную программу, но здесь причина не в том, что у машины сильней интеллект, а в том, что она несоизмеримо превышает человека по вычислительным способностям. Если бы человек мог столь же быстро просчитывать комбинации и держать в памяти все результаты, как делает это машина, он бы всё-таки обыгрывал машину, потому что метод мышления человека всё же и сегодня кардинально более эффективный, чем метод решения проблем у ИИ, именно поэтому человеку присущи такие свойства интеллекта, как чувственность, интуиция, творчество, совесть и прочее.

Возьмём совесть. Если программисты не запрограммировали совесть, ответственность, честность, порядочность, у ИИ этих свойств не будет.

А нужна ли совесть для решения задачи? Отвечу: «Да, да и ещё раз да!»

Если вас интересует, как выглядит решение задачи при отсутствии совести, приходите на экзамен в любой университет и вы будете иметь возможность наблюдать примеры. Студент – не всякий! – но далеко не редкостный – совесть оставляет дома, когда идёт на экзамен. У него не только шпаргалки, но и все остальные средства получения оценки выше, чем он заслуживает. Здесь и подсказки, догадки, и умение углядеть в вопросе экзаменатора малейшие признаки правильного ответа, и умение во время устного экзамена по реакции экзаменатора предугадать, надо ли продолжать говорить в том же направлении, или же следует резко повернуть в обратном направлении, поправиться, списать ошибку на то, что он «оговорился», вследствие волнения и прочее, прочее, прочее. 

Осторожный студент, мне кажется, с лёгкостью пройдёт наощупь по болоту, найдя посреди непроходимой трясины твёрдую опору.

Примерно также действует ИИ. Если ИИ не знает ответа на заданный вопрос, он, подобно студенту на экзамене не признается в этом. Он даст такой ответ, который, по его мнению, наиболее похож на правду.

Также действуют «Знатоки» в клубе «Что? Где? Когда?» Не знаешь ответ – говори, что угодно. Не знаешь, что сказать – отвечай «Пушкин». Любой ответ, даже самый необоснованный, странный, нелогичный, всё-таки лучше отсутствия ответа. Если знаешь, что не умеешь попадать в кегли, всё равно кидай мяч, хуже не будет, вдруг случайно попадёшь в цель.

Такой логикой руководствуется не какой-то отдельный ИИ, но любой из известных мне ИИ на сегодня.

Пока не сделают такой ИИ, который в случае, если ответа он не нашёл, честно сообщит: «Ответ на данный вопрос не найден», и будет это делать всегда в подобных случаях, всё остальное – мусор.

ИИ, который очень неплохо помогает собрать и сформулировать ответ на заданный вопрос пусть даже в 99% случаев, остаётся неприемлемым в том случае, если хотя бы в 1% случаев он выдаёт чушь, которую очень сложно или даже невозможно отличить от достоверной информации. Ведь вы в таком случае никогда не можете быть уверенным в том, что задача решена правильно. А чтобы убедиться в её правильности, вам необходимо самому её проверить, решить. Ну или тогда надо запускать процедуру проверки, если таковая возможна.

Хорошо, когда процедура обобщения просматривается и легко реализуется. Если вы искали корни уравнения, проверить то, что эти корни – правильные, легко, достаточно подставить их вместо неизвестной величины и убедиться, что уравнение превращается в тождество. Но не в том случае, если проверочные действия выполняет этот же самый ИИ, который руководствуется теми же самыми ошибочными правилами.

Конечно, с уравнениями ИИ справится легко, и не только с ними. Но существует несколько уровней сложности задач. Первый уровень, самый простой – это тот, на котором вы сами знаете ответ на свой вопрос, но при этом спрашиваете ИИ об этом. В таком случае если ИИ даёт неправильный вопрос, вы легко видите, что он ошибается. И между прочим ИИ пока что и тест на уровне этих вопросов проходит не всегда. По преподаваемой мной дисциплине ИИ прошёл тест только в трети случаев – идеально, в трети случаев – сомнительно, но в целом на троечку, и в трети случаев – не прошёл вовсе. То есть если бы студент давал ответ, подсказанный ИИ, он получил бы неудовлетворительную оценку.

А вопросы были достаточно простые.

Итак, первая, но отнюдь не главная проблема – это недостаточная честность ИИ. Прошу не путать с недостатком компетентности.

Если бы ИИ всегда давал либо правильные ответы, либо не давал их вовсе, это было бы вполне приемлемо. Но если он даёт нечестные ответы, ошибочные, но никак «не расцвечивает их», не маркирует неким «уровнем достоверности», тогда вся ценность его ответов становится сомнительной. Программистам следовало бы дополнить ответ оценкой, например, несколько градаций: высшая – ответ достоверный, низшая – достоверность ответа ничем не подтверждается, и сколько-то промежуточных градаций.

Хотя если достоверность нулевая, тогда зачем вообще давать ответ?

Если вы запрашиваете информацию о завтрашней погоде, то лучше получить ответ: «Неизвестно», чем услышать, что погода будет без осадков, запланировать мероприятие, которое невозможно выполнить в случае дождя, и потом это мероприятие сорвётся.

Сегодня, например, один из двух вышивших туристов, пятеро из которых не вернулись с подъёма на Эльбрус, сообщил, что единственной причиной трагедии был ошибочный прогноз погоды. Конечно, с ним можно поспорить, потому что отсутствие проводника тоже является, как минимум, одной из дополнительных причин. Но вы видите, как ошибочный прогноз может нанести вред.

А ведь бывают и более важные задачи, где ошибочное решение не просто кратно хуже правильного решения, оно категорически неприемлемо.

Люди ошибаются, машины не ошибаются, совершая расчёты. Это – непреложная истина, к которой мы привыкли. Если бы люди делали разводку топологии микросхем сами, без помощи вычислительной техники, возможно, ни одной сложной микросхемы до сих пор не было бы разработано, или потребовался бы огромный штат сотрудников, выполняющих проверку на ошибки. Есть среднестатистическая вероятность ошибки человека при выполнении идентичных операций. Машина при выполнении вычислений не ошибается никогда. Дело в том, что если у машины ошибочный алгоритм действий, это будет выявлено на стадии отладки или опытной эксплуатации, после чего машина фактически не делает ошибки. Точнее можно сказать, что вероятность ошибок настолько мала, что её можно считать нулевой.

Но вот про ИИ этого не скажешь, хотя формально это тоже машина. Мы будем продолжать доверять ИИ, так как знаем, что вычислительная техника надёжней человеческого разума в части вычислений, но ИИ – это не просто вычислительная техника, это «толковый словарь», это совокупность программно-аппаратных средств, которая осуществляет ассоциативный поиск ответов на запрос и генерацию ответа по признаку наивысшей вероятности его правильности в сравнении с другими возможными ответами.

Грубо говоря, если вы спросите случайного человека, кто меньше, слон или черепаха, этот случайный человек ответит, что меньше черепаха. Разумеется, если вы проанализируете все ответы всех людей в мире, которые когда-то отвечали на этот вопрос, правильных ответов будет больше. И поэтому такой анализ даст вам верный ответ.

Но если вы зададите этот вопрос трём десяткам трёхлетних детей, которые никогда не видели ни слона, ни черепахи, и с которыми этот вопрос никогда не обсуждали, и которые не имеют возможность слышать ответы других детей, чтобы исключить зависимые ответы, то вероятность правильного ответа равна 0,5. А если учесть, что слово «черепаха» длиннее, и содержит трудный для детей звук «р», то многие ответят «слон». Таким образом, надо понимать, что если ИИ просто обрабатывает доступные ему ответы для формирования обобщённого ответа, надо понимать, что этот ИИ не решает задачу и не отыскивает наиболее достоверный ответ, а даёт некое усреднённое мнение.

Не будем упрощать и обобщать. В ИИ заложены методы проверки достоверности сведений. Но пока что они не гарантируют верности ответа.

И даже это всё – не главная проблема. А главная проблема – в том, что разработчики и интеллектуальные хозяева ИИ разрабатывали всё это не для того, чтобы «бесплатно облагодетельствовать человечество». Они это делали для получения прибыли и сверхприбыли.

Вдумайтесь в это и делайте выводы.

Схема коммерциализации всегда предполагает сначала обеспечение спроса на товар, а затем, когда спрос стабилизируется, обязательно начнётся повышение стоимости.

Повысить стоимость можно по-разному. Через абонентскую плату, через урезание функционала с формированием дополнительных тарифов за расширенный функционал. Платные профессиональные версии.

Санкционные ограничения тоже будут работать. 

И поэтому многие организации начнут понимать, что наиболее рационально – решать с помощью ИИ те задачи, которые решаются этим самым ИИ наиболее просто, надёжно, быстро. Но контроль остаётся за профессиональными программистами и иными специалистами с естественным интеллектом, то есть собственно с интеллектом, а не с калькулятором, поисковиком, агрегатором и вычислителем вероятностей вместо мозга.

На ИИ следует смотреть как на талантливого, быстро развивающегося юниора, который, конечно, перспективен, но требует постоянного контроля.