О преподавании в области ИИ

С понятием искусственного интеллекта (ИИ) я познакомился ещё в 2007 году, когда будучи доцентом Казанского государственного института культуры, мне дали читать курс интеллектуальные информационные системы. Не удивляйтесь, что такой предмет был в учебной программе института культуры. Всё объясняется просто. Я тогда работал на кафедре информатики информационно-библиотечного факультета, который выпускал библиотекарей и специалистов информационно-коммуникационных систем.  В те годы государство к библиотекам и качеству библиотекарей относилось ещё серьёзно и широкое распространение получило направление автоматизированных библиотечных систем АБИС. Оцифровка и автоматизация огромного объёма информации хранящегося в библиотеках требовали не только создания баз данных, но и компьютерных приложений для работы с ними. И вместе с этим квалифицированных специалистов. Не случайно, что наши выпускники были нарасхват не только в библиотеках, но и в банковской сфере, госучреждениях, куда они распределялись более охотно.

Всё это было частью одного глобального процесса перевода аналоговых данных в цифровую форму. Тогда вошли в употребление термины «Большие данные» (Big Data), экспертные системы, базы знаний. В библиотеках стали применяться АБИС, причем созданные нашими программистами, такие как «Ирбис», «Руслан», но само понятие искусственный интеллект было неприменимым и малопонятным. Скорее всего потому, что не было практических примеров.

Об искусственном интеллекте тогда мало кто знал у нас в России, особенно у нас в институте. Как пример из истории были отдельные направления исследований в отдельных институтах.  В 1965-1980 гг. зарождается новая научная школа ситуационного управления (соответствует представлению знаний, в западной терминологии) под руководством профессора Поспелова Д. А. Были разработаны специальные модели представления ситуаций – представления знаний.
При том что отношение к новым наукам в советской России всегда было настороженное, наука с таким «вызывающим» названием тоже не избежала этой участи и была встречена в Академии наук в штыки. Впрочем, чему удивляться, если до этого и генетика являлась «продажной девкой империализма». К счастью, среди членов Академии наук СССР нашлись люди, не испугавшиеся столь необычного словосочетания в качестве названия научного направления. Только в 1974 году при Комитете по системному анализу при президиуме АН СССР был создан Научный совет по проблеме «Искусственный интеллект». По инициативе Совета было организовано пять комплексных научных проектов, которые были возглавлены ведущими специалистами в данной области. Проекты объединяли исследования в различных коллективах страны: «Диалог» (работы по пониманию естественного языка, руководители А. П. Ершов, А. С. Нариньяни), «Ситуация» (ситуационное управление, Д. А. Поспелов), «Банк» (банки данных, Л. Т. Кузин), «Конструктор» (поисковое конструирование, А. И. Половинкин), «Интеллект робота» (Д. Е. Охоцимский).
В 1980-1990 гг. проводятся активные исследования в области представления знаний, разрабатываются языки представления знаний, экспертные системы (более 300). В Московском университете создается язык РЕФАЛ. В 1988 году создается Ассоциация искусственного интеллекта. Ее членами являются более 300 исследователей. Президентом Ассоциации единогласно избирается Д. А. Поспелов, выдающийся ученый, чей вклад в развитие ИИ в России трудно переоценить. Крупнейшие центры – в Москве, Петербурге, Переславле-Залесском, Новосибирске. В научный совет Ассоциации входят ведущие исследователи в области ИИ - В. П. Гладун, В. И. Городецкий, Г. С. Осипов, Э. В. Попов, В. Л. Стефанюк, В. Ф. Хорошевский, В. К. Финн, Г. С. Цейтин, А. С. Эрлих и другие ученые. В рамках Ассоциации проводится большое количество исследований, организуются школы для молодых специалистов, семинары, симпозиумы, раз в два года собираются объединенные конференции, издается научный журнал. Начиная с 80-х гг. на прикладных работах начинает сказываться постепенное отставание в технологии.
«Официальная» же история искусственного интеллекта в России началась в январе 2019 года, когда президент страны Владимир Путин дал поручение правительству разработать подходы к национальной стратегии развития искусственного интеллекта ИИ и представить соответствующие предложения. В середине октября президент подписал указ, которым утвердил стратегию развития ИИ в стране до 2030 года. Согласно документу, Россия должна занять одну из ведущих позиций в мире в этой сфере, так как лидер в области ИИ станет, по мнению российского президента, «властелином мира». Затраты развитых стран, особенно США, Китая, а также Евросоюза, на технологии искусственного интеллекта растут. Между тем, вплоть до последнего времени Россия оставалась едва ли не последней из крупных стран, не имеющих собственной стратегии развития технологий ИИ. Ситуация начала меняться лишь в конце 2019 года, когда была утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года».

Но это сейчас, а тогда в далёком 2007-м пришлось учиться и осваивать новые знания вместе с развитием этого направления и найденной информацией в Интернете. До этого я был уверен, что искусственного интеллекта без знаний математики и программирования не бывает. Отчасти это так, но программирование оказалось не главным, хотя и необходимым условием. Обратившись к истокам, тогда я и открыл для себя имена Джорджа Буля, Чарлза Сандерса Пирса и Фердинанда де Соссюра, заложившими теоретическую базу формализации знаний. Про Соссюра, как одного из основателей науки семиотики, вместе с Пирсом вообще мало что известно.  Дело в том, что Соссюр на эту тему ничего не написал. В 1907-1911 гг. он прочитал три курса лекций, на которые записались в общей сложности 29 человек (посещало, видимо, меньшее число). В 1913 г., через год после смерти Соссюра, Ш. Балли и А. Сеше решили реконструировать прочитанный курс, для чего были использованы конспекты одиннадцати слушателей и черновые записи Соссюра (два полных конспекта были обнаружены в 1930-е гг.). И концы с концами в изданном в 1916 г. тексте не сходятся никак, но он стал тем, что, тем не менее, называется, соссюровской семиотикой, которая стала потом основой франкоязычной семиотики как самостоятельного направления мировой семиотики. Прочтение Пирса в более-менее семиотическом контексте началось только в середине 90-х. Суть в том, что он рассматривает отношения между любыми предметами как знаковые отношения в любом случае, если один предмет может обозначать другой предмет. Стул может рассматриваться как знак человека, который на этом стуле сидел. Такие отношения могут образовываться как угодно и носят чисто ситуативный характер. Поэтому оказывается, что семиотические отношения абсолютно универсальны, а семиотика – абсолютно универсальная дисциплина. Дальше Пирс вводит типологию знаков. Такие знаки, как «табуретка – как знак человека, который на ней сидел», для него не очень-то интересны. Помимо таких знаков-индексов он выделяет иконические знаки, когда речь идет об уподоблении означающего означающему, и знаки-символы, примерно в том смысле, в каком их понимают в математике. Такими символами оказываются у Пирса и слова естественного языка. Какая же, вы спросите связь между семиотикой и искусственным интеллектом. дело в том, что семиотика является основой для новой области знаний – когнитивистики. Когнитивистика или когнитивная наука – общий термин, описывающий научное направление, начавшее свое формирование в 1950-е годы и занимающееся вопросами, связанными с разумом на различных уровнях описания.  Эти вопросы включают в себя, как и напрямую связанные с работой мозга (как работает мозг? Какова связь между мозгом и разумом?), так и более общие, касающиеся поведения разумных агентов, их взаимодействия с друг другом и окружающей средой, а также способов обработки различного вида информации. Без неё создание искусственного интеллекта было бы невозможно. Она включает в себя компьютерные науки (в особенности машинное обучение, искусственный интеллект и робототехнику).

Теперь вернёмся к Джорджу Булю, считающимся отцом математической логики. Он был, вероятно, первым после Джона Валлиса математиком, обратившимся к логической проблематике. Ещё в 1848 году была опубликована статья Джорджа Буля по началам математической логики – «Математический анализ логики, или опыт исчисления дедуктивных умозаключений», а в 1854 году появилась главная его работа – «Исследование законов мышления, на которых основаны математические теории логики и вероятностей». В этих трудах говорилось о возможности изучения свойств математических операций, осуществляемых не только над числами. Ученый рассуждал о символическом методе, который он применял как к изучению дифференцирования и интегрирования, так и к логическому выводу и теоретико-вероятностным рассуждениям.

Именно он построил один из разделов формальной логики в виде некоторой «алгебры», аналогичной алгебре чисел, но не сводящейся к ней. А также создал своеобразную алгебру – систему обозначений и правил, применяемую к различного рода объектам — от чисел до предложений. Использование этой системы позволяло закодировать высказывания (утверждения, истинность или ложность которых требовалось доказать) с помощью символов своего языка, а затем управлять ими, как математическими числами. Основными операциями булевой алгебры представлены: конъюнкция (И), дизъюнкция (ИЛИ), отрицание (НЕ). После смерти Джорджа Буля его систему стали применять для описания электрических переключателей схем. Говоря простым языком, ток в цепи может либо протекать, либо отсутствовать, подобно тому, как утверждение может быть либо истинным, либо ложным. Спустя несколько десятилетий ученые решили объединить созданный Джорджем Булем математический аппарат с двоичной системой счисления для описание двух состояний: утверждение истинно – утверждение ложно, лампочка горит – лампочка не горит, т.е. бит – двоичную единицу информации, заложив тем самым основы для разработки компьютера.

Что же объединяет работы этих великих мыслителей и ученых, а также других последователей, как например Алана Мэтисона Тьюринга. Рискну предположить, что они стали фундаментом теоретических основ формализации информации, которой оперирует человек, а именно знаниями. Знания он получает только и только органами чувств, и все они в конечном итоге аккумулируются и преобразуются в нашем мозге, а вот их передача может быть самой что ни на есть разнообразной.
Сегодня мало кто упоминает имена в материалах по ИИ имена этих великих мыслителей.  Дело в том, что с появлением компьютера и вместе с ним сонма не менее гениальных ученых, таких как Норберт Винер, Джон фон Нейман, Дональд Олдинг Хэбб – (один их создателей нейронный сетей) и многих других, нынешняя интерпретация звучит как проблема «запихнуть» знания в компьютер и вывести в удобоваримой форме. Неважно какие. Определений и классификаций знаний множество.
Но моя работа не является попыткой обзора развития ИИ, хотя без этой части было бы трудно объяснить, с чем пришлось столкнуться при разработке и ведения курса интеллектуальные информационные системы. Скорее это методология преподавания студентам-гуманитариям той области знаний, о которой в нашей стране знали только узкие специалисты-математики. Целью было практическое создание прототипа экспертной системы (ЭС) «Интеллектуальная библиотека». Тем более, что такие системы уже получили в мире широкое распространение, и они являлись самостоятельной частью исследований по искусственному интеллекту.
В качестве примера:
 
DENDRAL – это старейшая, самая разработанная экспертная система, определяющая строение органических молекул по химическим формулам и спектрографическим данным о химических связях в молекулах. Была создана в Стэнфорде в конце 1960-х г.г. (Э. А. Фейенбаум и Дж Ледерберг);

Ваал(R) (http://www.vaal.ru/) позволяет прогнозировать эффект неосознаваемого воздействия текстов на массовую аудиторию, анализировать тексты с точки зрения такого воздействия, составлять тексты с заданным вектором воздействия, выявлять личностно-психологические качества авторов текста, проводить углубленный контент-анализ текстов и делать многое другое. Система разрабатывается с 1992 г.
 
CLIPS. Суть технологии CLIPS заключается в том, что язык и среда CLIPS предоставляют пользователям возможность быстро создавать эффективные, компактные и легко управляемые экспертные системы. При этом пользователь применяет множество уже готовых инструментов (встроенный механизм управления базой знаний, механизм логического вывода, менеджеры различных объектов CLIPS и т. д.) и конструкций (упорядоченные факты, шаблоны, правила, функции, родовые функции, классы, модули, ограничения, встроенный язык COOL и т. д.). Так же CLIPS предоставляет возможность разбиения базы данных и решения задачи на отдельные независимые модули. Экспертная система CLIPS применяется как в системах, ориентированных на различные игры, так и в нечётких системах для формализации знаний. 
Основным назначением ЭС является разработка программных средств, которые при решении задач, трудных для человека, получают результаты, не уступающие по качеству и эффективности решения, решениям получаемым человеком-экспертом. ЭС используются для решения так называемых неформализованных задач, общим для которых является то, что: задачи не могут быть заданы в числовой форме;
цели нельзя выразить в терминах точно определенной целевой функции;
не существует алгоритмического решения задачи;
а если алгоритмическое решение есть, то его нельзя использовать из-за ограниченности ресурсов (время, память).

Кроме того, неформализованные задачи обладают неполнотой, неоднозначностью и противоречивостью как исходных данных, так и знаний о решаемой задаче. Экспертная система - это программное средство, использующее экспертные знания для обеспечения высокоэффективного решения неформализованных задач в узкой предметной области.
Основу ЭС составляет база знаний (БЗ) о предметной области, которая накапливается в процессе построения и эксплуатации ЭС. Накопление и организация знаний – важнейшее свойство всех ЭС.

Если лекции студенты переносили философски, благодаря четырехлетнему накопленному опыту сидения на занятиях, то на практике я столкнулся с антагонизмом, скрытой агрессией и полным непониманием. Некоторые посчитали меня выжившим из ума преподом, с которым нужно вести себя осторожно, из опасения быть укушенным. Тема была «знакомство с технологией Wiki». Тогда Википедия уже существовала, и я даже был редактором одной области знаний. Необходимо было выбрать четверостишие любимого стихотворения, на каждое слово поставить гиперссылку и связать с его смыслом на отдельной странице. Казалось бы, чего проще. Но главная трудность, как оказалось, была в самом выборе четверостишия, потому, что кроме стихотворения Агнии Барто «Наша Таня громко плачет…», большинству студентов ничего не приходило на ум. Осознание к ним пришло только на следующем занятии. На нём, предварительно переварив информацию, они поразили меня знанием поэзии и описанием предметной области, а именно слов. Из этого я заключил, что мозгу студента необходимо время, чтобы переварить плохо формализованную задачу и далее руководствовался этим принципом.

Далее шло знакомство с чат ботом. Он был нам нужен для интеграции в нашу ЭС. Был выбран самообучающийся чат бот Киса - открытый проект лаборатории bot.su. Чат бот Киса был написан в 2006 году группой программистов в знак признательности создателям фильма }{0TT@БЬ)Ч. В создании чат бота приняли участие специалисты лаборатории bot.su и члены сообщества hottabych.net. По мере развития чат бота стало формироваться и расти сообщество его разработчиков. В 2007 году "Чат бот Киса" стал самостоятельным проектом и продолжает совершенствоваться. Для моих студентов общение с чат ботом было взрывом мозга. В конце концов они обучили несчастный бот всему плохому, что знали. В этот день мой предмет зауважали, и я стал пользоваться заслуженной, но дешевой популярностью.
Шло время, сессии, и мы, вместе со студентами всё глубже погружались в эту малоисследованную, стремительно развивающуюся на наших глазах и оттого очень интересную область знаний. Мы открывали для себя новые профессии, как например инженер по знаниям (англ. knowledge engineer; синонимы: инженер знаний, когнитолог, специалист по ИИ) – специалист по ИИ, проектирующий и создающий экспертную систему. Он занимается встраиванием современной логики в компьютерные системы, созданием семантической модели, описывающей предметную область, чтобы попытаться симулировать принятие решений человеком и когнитивные задачи высокого уровня. Инженер по знаниям предоставляет некоторые или все «знания», которые в конечном итоге встроены в технологию. На западе такой специалист получал бешеные деньги, в США, к примеру, около 100 тыс. долларов в год в зависимости от компании, у нас 50 000 р. в месяц.

В процессе преподавания выяснилось, что не обладая знаниями о мозге или о его когнитивных функциях, невозможно создать полноценную интеллектуальную систему. Пришлось часть лекций посвятить строению человеческого мозга и его когнитивным функциям. Из определения википедии – когнитивными (познавательными) функциями называются наиболее сложные функции головного мозга, с помощью которых осуществляется процесс рационального познания мира и обеспечивается целенаправленное взаимодействие с ним: восприятие информации; обработка и анализ информации; запоминание и хранение; обмен информацией, построение и осуществление программы действий. Не случайно первым создателем теории нейронных сетей считается выдающийся канадский физиолог и нейропсихолог Дональд Олдинг Хэбб. В области нейроинформатики он известен своими работами, приведшими к пониманию влияния нейронов на процесс обучения. Хебб предложил один из первых работающих алгоритмов их обучения. Несмотря на значительный прогресс в изучении головного мозга в последние годы, многое в его работе до сих пор остается загадкой. Функционирование отдельных клеток достаточно хорошо объяснено, однако понимание того, как в результате взаимодействия тысяч и миллионов нейронов мозг функционирует как целое, доступно лишь в очень упрощенном виде и требует дальнейших глубоких исследований. Это позволило некоторым разработчикам ИИ сделать вывод, что нейронные сети, про которых сегодня много говорят и успешно применяют, не подходят для создания ИИ высокого уровня. То есть, если хотите стать серьёзным специалистом в области ИИ, слезайте с нейронных сетей и занимайтесь разработкой собственного языка, как это делают в секретных лабораториях корпораций, занимающихся ИИ всерьёз. И, скажу по секрету, у них там сейчас гонка.

Ученые определили уровни развития Искусственного Интеллекта в зависимости от мощности решаемых задач.

ANI – Artificial Narrow Intelligence – ограниченный искусственный интеллект.
AGI – Artificial General Intelligence – близкий к уровню человека искусственный интеллект.
ASI – Artificial Super Intelligence – превосходящий человека искусственный интеллект.

Мы сейчас находимся на уровне ANI, там, где машину научили анализировать получаемую информацию и алгоритмически находить наиболее оптимальный результат. Примерами ANI являются алгоритмы работы поисковиков, которые уже анализируют ваши предпочтения для выдачи результатов, появившиеся боты в виде электронных секретарей на различных сайтах, программы по игре в шахматы, программы по игре на бирже, системы электронного управления автомобилем, работу по спам фильтров в почте или определение спам-звонков. Это еще не все, что делают современные алгоритмы. Тем не менее, считается, что Ограниченный Искусственный Интеллект ограничен одной задачей и не возможностью планировать, решать проблемы, различать образы, тексты, звуки, учиться на опыте. Именно последнее сейчас активно изучается различными компаниями. Термин Machine Learning это уже наша реальность.
Второй уровень AGI - это Искусственный интеллект, который подобен человеческому (или Сильный Искусственный Интеллект). Для ее включения надо понять законы психологии и мышления человека. Поэтому работы у ученых еще много, так как большая часть механизма когнитивных функций еще не раскрыта. Простейшие функции, которые человеческий разум делает с легкостью, даются невероятно сложно для машины. Но уже сейчас мы видим промышленных роботов, передвигающихся по закрытому пространству и понимающих его ограничения (пылесосы), бегающих роботов -собачек, преодолевающих барьеры. Увеличение вычислительных мощностей и добавление ума (как совокупность психофизических свойств) выведут нас на новые пороги Искусственного интеллекта. Раймонд Курцвейл (Raymond Kurzweil), один из ведущих футурологов планеты, давал прогноз развития AGI к 2025 году, а ASI - к 2045 году. Другие ученые в своих средне-оптимистичных прогнозах говорят о 2040 и 2060 гг. соответственно.

Третий уровень - ASI - это эпоха сверхразума, которая равносильна Богу. Считается, что заставив машину учиться и решать проблемы, машина станет неуправляемой. В ее возможностях будет решение глобальных задач по победе голода на земле, изобретению лекарств рака, управлению выбросами углекислого аза и сокращению озоновый дыр, изобретение и применение новых видов энергии, сделать человека бессмертным. Вместе с тем, машина сможет кодировать и взламывать любые системы, вводить социальную инженерию и управлять человеком, а как самый мрачный прогноз - уничтожение человеческого вида как соперника. Потому уже сейчас ведутся конференции, на которых освещаются риски этого суперинтеллекта и предлагаются нормы этики для разработчиков. Считается, что если взять IQ 130 для обозначения хороших интеллектуальных способностей человека как уровень AGI, то уровень ASI будет в сто раз выше, 13000 или еще дальше. Отсюда можно сделать логический вывод - что человеческий мозг такого придумать просто не в состоянии, а тем более научить. Тогда это может быть гений, наделённый сверхразумом (можно предположить как в кино, человека, продавшему душу дьяволу, за что он наделит его способностями создать сверхразум, который поработит человечество. Уничтожить его и так средств достаточно и обладать умом совершенно не требуется) или клон сверхчеловека. А это уже более правдободобно. Сегодня усилия науки сконцентрированы в этом направлении. И хотя клонирование человека запрещено международными конвенциями, но, как известно, деньги решают всё.

Наконец пришла пора сдачи практических работ, зачетов, экзаменов, защиты курсовых и дипломных. Мои ребята, открыв для себя поистине новый мир, область знаний и по мере способностей научившиеся кое-чему на практике, к моему удивлению, выдали «на-гора» работы, удивившие меня, как например работа одного студента «Создание экспертной системы учета топлива на бензозаправочной станции компании АКОС». Я уже не говорю об интеграции в собственные сайты и обучении ставшего нашим виртуальным другом и собеседником чат бота «Киса». Остались для сегодняшних мемуаров и мои работы:
 
Волков О.И. Создание прототипа экспертной системы «Интеллектуальная библиотека» / О.И. Волков // Вестник Казанского государственного университета культуры и искусств. – 2008.- № 3 – С. 101-107.

Волков О.И. Применение лингвистического анализа в изучении дисциплины «искусственные интеллектуальные системы» студентами Казанского государственного университета культуры и искусств / О.И. Волков // Духовно-нравственный потенциал современного общества в подготовке специалистов социокультурной сферы третьего тысячелетия: материалы Междунар. науч.-практич. конференции в 2-х ч. / сост. Р.С. Валеев и др.; Казань, гос. ун-т культуры и искусств, 2011. – ч. 2 – С. 3-5.

Волков О.И. Когнитивные технологии и преобразование информационной среды вуза / О.И. Волков // Информационно-коммуникационные технологии и образовательная среда гуманитарного вуза / Т.И. Ключенко и др. – Казань.: Медицина, 2012. – С. 101-108.

В конце своей карьеры, я пришел к нескольким выводам: чтобы преподавать что-то связанное и искусственным интеллектом, нужно быть немножко сумасшедшим, а если хочешь создать ИИ, то полностью больным на голову, каковыми являлись многие его родоначальники; необязательно быть для этого математиком и те паче программистом и главное – необходимо быть творческим и гуманным человеком.

PS. Я пишу данную статью, как говориться, в ногу со временем. И вот 30 ноября 2022 года появился ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией Open AI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. Это конечно не наш "Киса". Он сразу привлёк внимание своими широкими возможностями: написание кода, создание текстов, возможности перевода, получения точных ответов и использование контекста диалога для ответов, хотя его фактическая точность и подверглась критике. В начале февраля 2023 года Reuters со ссылкой на швейцарский холдинг UBS сообщило, что за 2 месяца аудитория активных пользователей ChatGPT достигла 100 млн человек.

И как вы догадываетесь именно в России студент защитил диплом, написанный с помощью нейросети ChatGPT. Компания Open AI объявила о успешной защите диплома написанного их Искусственным Интеллектом. Комиссия, которая оценивала диплом, высоко оценила его и счела его примером высокого уровня развития нейронных сетей в области написания текстов. Теперь нетрудно угадать, что будет дальше. Не хочу показаться нытиком и старым брюзгой, но при нашем уровне образования нетрудно догадаться, что он найдёт широкое применения в среде студентов. Нет сомненй, что в дальнейшем чат-бот будет только совершеннее, чего нельзя сказать о студентах, для которых сейчас получение диплома является главной причиной учебы в вузе и они, уверен, будут его широко использовать, как и посредственные журналисты, как и многие другие в своих сферах деятельности.

Могу подвести итог: Нас погубит не ИИ, а собственная глупость и лень.