Искусственный интеллект и проблема образования

Сегодня в связи с бурным развитием нейросетей встал вопрос если не о бунте машин, хотя и такое паническое восприятие действительности имеет место, то во всяком случае о возможной деградации человеческого мышления под давлением искусственного интеллекта.
Прежде чем попытаться описать реальное положение вещей в деле конкуренции или сотрудничества Человека и Искусственного интеллекта, необходимо сказать несколько общих слов, о том насколько мы обладаем тем, что могло бы деградировать, и насколько этим обладают системы искусственного интеллекта, я имею ввиду Разум. Для начала заметим, что сегодня в массовом сознании и в информационных источниках обсуждается не Искусственный интеллект вообще, а лишь его частная технология ставшая модной, то есть технология нейросетей, а само понятие Искусственного интеллекта существенно шире. Например, существует технология создания игр с полной информацией на основе алгоритма минимакса и оценочной функции, на совести которой сильные игровык программы в шахматы и не только. Некоторое время назад была популярна идея экспертных систем имитирующих логический вывод. Нейросеть вырвалась вперед вследствие своей особой архитектуры напоминающей архитектуру нашего мозга, но хочу отметить, лишь напоминающей, и даже не в первом приближении.
 
Вообще говоря, изначальная идея нейросети – это особое устройство, состоящее из нейронов, реализующих совершенно иную, не компьютерную архитектуру. Теоретическая конструкция Персептрона Розенблатта как и другие пионерские идеи имели мало общего  с компьютерными технологиями обработки информации. Но проблема в том, что цифровые компьютеры, имеющие в своей основе модель Тьюринга, это все что мы сегодня имеем реально. Поэтому современный ИИ, это модель, построенная на классических принципах Электронно-вычислительных машин. Я специально использую именно это изначальное название, как своего рода намек, что красивое слово «Компьютер»  означает тоже самое что и менее изящное - ЭВМ. Это в свою очередь означает, что принципиальные ограничения глубокого идейного характера присущие ЭВМ автоматически есть и ограничения нейросетей. И для появления настоящей нейросети потребуется серьезный технологический прорыв, появление аппаратуры построенной на принципиально иных принципах. Когда это случится совершенно не ясно.

Так ли велика интеллектуальная мощь ИИ
 
Есть еще одно существенное ограничение возможностей ИИ – это требование  обучаемости. Основа интеллектуальной мощи ИИ, реальной или кажущейся это алгоритмы обучения  созданные человеком. Хочу заметить, что иногда можно услышать, что нейросеть умеет только то, на что ее запрограммировали. Это конечно очень упрощенный взгляд на вещи. Ее способность к обучению более объясняется структурами данных, получаемыми в процессе обучения, нежели кодом, написанным программистом, поэтому сегодня и получили такое развитие технологии машинного обучения и даже есть весьма развитая математическая теория, описывающая этот процесс.

Сказанное наводит на очевидную мысль. У нас есть большая и хорошая математическая теория машинного обучения, но нет ничего подобного для человеческого мышления, хотя история изучения мышления человека намного длиннее истории машинного обучения. Если историю исследования нашего мышления отсчитывать хотя бы от логики Аристотеля, то и тогда уже это уже две тысячи лет.
Следовательно, называя машинный процесс мышлением, мы подменяем понятия и что-то очень сложное, заменяем на более простое и прозрачное, а недостающее понимание заменяем ресурсами. Больше скорости вычислений, больше носителей данных, более изощренные алгоритмы поиска нужных комбинаций данных и т.д. Да мы действительно можем создать компьютер, играющий на гроссмейстерском уровне в шахматы. Но для победы над человеком он должен будет перебирать гигантское количество вариантов.

А так ли играет в шахматы человек. Есть легенда, что на вопрос – на сколько ходов вперед вы просчитываете игровое положение, Хозе Рауль Капабланка, один из величайших шахматистов планеты, ответил – на один ход.
Это конечно легенда, тем не менее, главное преимущество человека состоит в способности организовать процесс мышления в условиях недостатка информации. И наиболее развитое мышление – это мышление использующее не максимальные, а минимальные ресурсы. Учтем два момента. Мы, сейчас упиваемся мощью информационных технологий и аппаратуры их поддерживающих. Но, во-первых, совершено не факт, что эта мощь будет расти неограниченно. А во-вторых, совершенно не факт, что количественный рост возможностей будет достаточен для любой возможной интеллектуальной проблемы. 

Это принципиальный вопрос, на решение которого в обозримом будущем нет особой надежды, так как он уже получил свой ответ в системах маркетинга IT – корпораций. Некоторое время назад, Илон Маск заявил, что человек ничего не сможет противопоставить ИИ в миллион раз более мощному, нежели человеческий разум. Компания Antropic перед выходом на биржевое IPO предупредила, что их продукция опасна для человечества, а компания Open AI оказывается, проводит консультации с богословами на предмет того, как привить нейросетям представления о человеческой морали. А более всего умиляет сообщение инженеров той же Open AI, если конечно это не журналистская придумка, что нейросеть уже близка к разрешению проблемы Ходжа. То есть сегодня для того, чтобы закрыть математическую проблему фундаментального характера, достаточно заявления технического персонала коммерческой компании. Ясно, что все это не более чем маркетинговые идеи, но они уже прочно засели в массовое создание и определяют наше отношение к искусственному интеллекту, как чему-то совершенно невероятному.

Есть ли нам что терять в борьбе с ИИ

Вопрос вот в чем. Не слишком ли мы переоцениваем качество своей интеллектуальной деятельности, в том смысле есть ли нам от чего отучаться и куда деградировать. Сегодня популярно утверждение, что системы ИИ отучают человека думать. Несложные наблюдения говорят о другом. Человек, живущий в рамках идеологии общества потребления, на самом деле не стремится к глубокому мыслительному процессу, ибо конкуренция за материальные ресурсы требует быстрого принятия решения и моментальной его коррекции в случае ошибки, а не  исследования фундаментальных проблем. Поэтому, ученики всех уровней системы образования, всегда, где только можно ограничиваются зубрежкой минимально необходимого материала и хорошо известными шпаргалками.

Чем собственно отличается хорошая шпаргалка или возможность списать, от помощи нейросети. Только технологическим уровнем, что совершенно не принципиально. Можно предположить, что учащийся школы и студент вуза, в личности которого зашита ценность знания, не будет пользоваться интеллектуальным суррогатом, любого технологического уровня. А если шпаргалка или нейросеть есть условие удачной учебы, то виновно здесь не агрессивное поведение цифровых технологий, а система личностных ценностей. Этим я хочу сказать, что угроза ИИ несколько преувеличена и более следует обратить внимание на инфантильность нашего разума. А отсюда следует главный вывод, - ИИ подсвечивает проблему нашего собственного развития, а не противоборства человека с ИИ и вопрос что мы теряем в этой борьбе, по крайней мере, пока не стоит. Нет у нас этой конфронтации, а есть древняя, как сама педагогика проблема интеллектуального развития, как отдельного человека, так и общества в целом.

Может ли ИИ  обогнать нас в развитии

Добросовестное критическое мышление обязано признать такую возможность, как гипотезу. Но надо  не забывать – гипотеза не есть теория. Сейчас же усилиями псевдонауки и псевдожурналистики стремящейся подзаработать на апокалиптических сценариях истории человечества развивается настоящая паранойя ожидания конца света и гибели нашей цивилизации под гнетом искусственного интеллекта.   
Но пока это только возможность и возможность недоказанная, хотя и регулярно подкрепляемая заявлениями весьма авторитетных в нашем мире людей. Вспомним, уже упоминавшееся утверждение Илона Маска об ИИ в миллион раз превосходящее человеческий разум.

Напомню еще раз, что даже «аппаратно» наш мозг построен на совершенно иных, намного более сложных принципах, нежели современный компьютер. И как следствие этой разницы, наш разум способен к так называемому творчеству и интуиции. Напомню также, что мы даже не очень понимаем, как работает наш мозг, в отличие от архитектуры цифровой техники, которую мы понимаем очень хорошо. А ИИ это не более чем программная надстройка над классической аппаратурой.
Поэтому, пока почти все что может предъявить ИИ в борьбе с нами – это ресурсы памяти и быстродействия. Его алгоритмы, чтобы не понималось в этом случае под термином «алгоритм» явно слабее наших. А хорошая организация всегда имеет шансы в борьбе против ресурсов. Воюют, так сказать, не числом, а умением.

Можно конечно утверждать, что  для ИИ приобрести способность к творческому мышлению это вопрос времени, при столь бурном развитии технологии. На это я могу напомнить, что гипотеза несколько отличается от доказанной теории. Откуда собственно известно, что современный темп технологического развития сохранится надолго, откуда известно, что нашему типу технологии по силам любые задачи. И самое главное, откуда известно, что творческое мышление и интуиция могут иметь различные уровни развития. А что если наш уровень развития это вообще максимум того, что возможно и, тогда, никто и никогда нас не перегонит. Этим я хочу сказать, что мысля критически и добросовестно, мы не можем утверждать что превосходство ИИ над человеком в его главной способности неизбежно. Это моя гипотеза, она также не имеет доказательной базы и в этом она равна гипотезе об окончательном проигрыше Человека Искусственному Разуму.

Разумеется, есть  сферы как бы мыслительной деятельности, в которых, цифровые технологии нас существенно опережают, но разве это проблема? Никто ведь не переживает, о том, что атомная станция дает больше энергии, чем домашняя печь, что автомобиль едет быстрее человека, и что самолет способен летать, умение для нас вообще недоступное. В общем, я  сомневаюсь в возможном превосходстве ИИ, но попробуем признать таковую возможность просто как гипотезу.   
Я сейчас не буду рассуждать о возможности привития машинам наших представлений о морали, о наших ресурсах по  контролю над ИИ и возможностях по организации сотрудничества и создании киберчеловечества как симбиоза машинного и человеческого разума, когда никто никого не будет угнетать и уничтожать. Допустим, что ИИ все же конкурент.

Наш нераскрытый потенциал

Вопрос вот в чем. ИИ бурно развивается. Почему мы этого боимся? Да потому, что как нам кажется, наша собственная эволюция уже завершена. Пусть это так в биологическом смысле.  Но человек существо не только и даже не столько биологическое, сколько социальное. А завершена ли наша социальная эволюция? Думаю, что нет. Даже более того, это практически очевидно что нет.
Сегодня наше интеллектуальное развитие ограничивается идеологией и  целеполаганием общества потребления. Что бы мы не говорили о творческом развитии молодых поколений, фактически школьное образование сводится к очень небольшому объему знаний. Выпускник школы, безусловно, умеет читать, писать, считать, на что собственно и была направлена во все времена классно-урочная система. Он владеет отрывочными знаниями в областях естественных и гуманитарных наук. И по большей степени, современная школа решает задачу социализации, состоящую в  умении жить в потребительском обществе и школа нужна как переходный этап к учреждению профессионального образования, которые уже прямо готовят молодого человека к зарабатыванию средств к существованию, желательно в полезной для общества сфере.

То есть система образования, если честно, готовит не мыслящего человека, а способного выполнять определенные трудовые и в более общем смысле, гражданские обязанности.
Но ведь вполне возможен и иной подход. Полагаю, что потребительское отношение к жизни действительно имеет объективную основу, то есть «Общество потребления» это не хорошо и не плохо. Это просто этап нашего социального развития. Люди сотни лет жили для того, чтобы обеспечить себе приемлемый материальный уровень существования. Соответственно этой задаче развивался и психологический тип человека. Потребляя, он должен был вносить и свой вклад. Общество и государство в принципе всегда следило, чтобы получаемые блага более, менее соответствовали этому вкладу. Можно конечно спорить об уровне социальной справедливости, но в принципе это так. И уровень получаемых благ почти всегда был не слишком высок.
Сейчас же мы достигли очень высокого уровня производительных сил, и он продолжает расти, а психологически человек застрял в голодном средневековье, и образно говоря, никак не может наесться.

Если же мы сменим психотип, и знания плюс творческая деятельность станет жизненной ценностью, то совершенно ясно и наши личные возможности и наши возможности как сообщества людей будут другими. И тогда потенциально возможный конфликт  между машинами и людьми станет вопросом педагогики, ее возможностей в деле раскрытия потенциала человеческого разума.

Хочу подвести итог. Боязнь атомной энергии, генетических исследований, космических перелетов, развития ИИ это боязнь слабого безвольного, не желающего развиваться существа, стремящегося сохранить уютную среду обитания, как будто она дана навечно. Реально человеку необходимо развивать свой интеллектуальный и физический потенциал, о пределе которых мы еще мало что знаем. Необходимо лишь соблюдать некоторый паритет между развитием техносферы и человека, чтобы последняя как-нибудь все же не вышла из под контроля. Но чем уровень нашего развития будет выше, тем выше окажется  уровень паритета, и тем мы будем сильнее как цивилизация. А это означает, что педагогика, как наука и система образования, как технология развития должны стать нашим главным ресурсом. Но это уже задача совершенного другого уровня, который видимо неспособно понять и принять общество потребления.