Развитие искусственного интеллекта с античных врем

А.Н. ХОДЖИБАЕВ, А.А. КАДЫРХОДЖАЕВ

ПОСТУПАТЕЛЬНОЕ РАЗВИТИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С
 АНТИЧНЫХ ВРЕМЁН И ДО ЭПОХИ ИНДУСТРИАЛЬНОГО СОЦИУМА.
ЧАСТЬ 4.
Развитие науки и технологий в первой половине XX века является кануном появления искусственного интеллекта. Первая половина XX века стала переломным ключевым рубежом формирования научных и технологических предпосылок, заложившие фундаментальные основы, которые, в дальнейшем привели к созданию вычислительной техники, кибернетики и искусственного интеллекта. В этот период наряду с величайшими системообразующими открытиями в логике математике, физике, зарождались первичные технологические формы вычислительных устройств, которые приведут к тому, что процессы мышления будут формализованы и воспроизведены техническими средствами.
Данный период был ознаменовалось настоящей научной революцией особенно в физике, радикально изменившая представления о вселенной, а именно о: - материи, энергии, пространстве и времени. Альбертом Эйнштейном были сформулированы и опубликованы специальная (1905) и общая (1915) теория относительности, которые показали, что время и пространство не являются абсолютными категориями, а зависят от скорости наблюдателя, движения объектов и гравитационного поля.
Параллельно активно развивалась квантовая механика (1920), раскрывшая поведение элементарных частиц и атомов в микромире. Исследования Нильса Бора, Макса Планка, Эрвина Шрёдингера, Вернера Гейзенберга отобразили чрезвычайную сложность процессов, происходящих в природе.
В математике и логике 1930-е годы были насыщены сенсационными открытиями австрийского математика Курта Гёделя, который сформулировал теоремы о неполноте, утверждавшие, что внутри собственной системы даже самые строгие формальные системы имеют внутренние ограничения и не способны полностью доказать все истинные утверждения.
Развитие логики и теории вычислений. Одновременно с открытиями в физике и математике в 1920-1930-х годах происходила «революция в логике», которая трансформировала её из философской дисциплины в точную математическую науку, формулирующая процессы рассуждения, вычислений и принятия решений в виде строгих формальных правил и алгоритмов. Прогрессирующее развитие разделов логики таких как: - математическая логика, теория алгоритмов, формализованные языки и методы символической записи вычислений явились миру важнейшей предпосылкой будущего программирования и компьютерных технологий.
Особую роль на этом поприще сыграл английский математик Алан Тьюринг, который в 1936 году, в статье «On Computable Numbers» (1936) Тьюринг презентовал абстрактное устройство, способное выполнять любой алгоритм через последовательность элементарных операций. Устройство или модель вычислений, ныне известная как машина Тьюринга доказало, что вычислительные устройства теоретически могут решать любые формализуемые задачи, включая интеллектуальные, что стало теоретическим прообразом всех современных компьютеров. Результаты исследований Рассела, Гёделя и Тьюринга радикально изменили понимание вычислений.
Вычисления, процессы мышления и анализ информации уже рассматриваются не только как математическая операция, но и как универсальный процесс обработки информации, который может быть формализован и реализован машиной
Технологические предпосылки: механические и электромеханические устройства. В первой половине XX века продолжалось конструирование сложных механических и электромеханических устройств. Уже в 1920-1930-х годах были созданы механические калькуляторы, арифмометры, сумматорные машины, электромеханические счётные устройства, способные выполнять арифметические операции быстрее, чем счетовод. Набирали обороты первичные формы автоматизации, в промышленности внедрялись контрольно-измерительные приборы и автоматические регуляторы, поддерживающие заданные параметры процессов без вмешательства человека.
Развитие связи и информационных технологий. С развитием вычислительных устройств стремительно прогрессировали средства связи, технологии передачи и обработки информации. В начале XX века совершенствовалась радиосвязь, которая позволила передавать сигналы на большие расстояния без проводов. В 1920-1930-х годах были разработаны технологии беспроводной передачи сигналов на значительные расстояния, а в конце 1930-х зародилось телевидение, предопределившее массовое распространения визуальной информации и коммуникации. Человечество шаг за шагом переходило от локального хранения информации к её оперативной передаче, обработке и массовому распространению. Новаторские средства массовой информации и технологии коммуникации формировали информационное общества, позже определившее естественную среду развития ИИ. К концу второй мировой войны и началу второй половины ХХ века появились прообразы первых электронных вычислительных машин таких как ENIAC, EDSAC, UNIVAC.
Первая половина XX века создала прочную научную, технологическую и культурную базу, без которой невозможны были бы последующие разработки в области искусственного интеллекта. В этот период были сформулированы ключевые математические и логические концепции, созданы ранние вычислительные и автоматические устройства, а также развивались технологии связи и информационные системы, которые позже объединились для создания настоящих ИИ-систем. Важно подчеркнуть, что в рассматриваемый период еще не существовало ни одного из известных электронных вычислительных устройств, которые явились непосредственным предшественником современного ИИ.
Вторая половина XX век: от формализации мышления к первым системам искусственного интеллекта. В истории развития ИИ вторая половина XX века ознаменовалась кардинальным взлётом: - древние философские идеи и размышления о разуме, механические аналогии и логические конструкции впервые обрели строгую математическую основу и техническую реализуемость. Мышление окончательно было переосмыслено как процесс восприятия и обработки информации, а интеллект определили как потенциально моделируемую функцию, которую можно и нужно трансформировать и формализовать на язык формул и схем.
В работе «Computing Machinery and Intelligence» в 1950 году британским математиком, логиком и криптографом Аланом Тьюрингом был задан феноменальный вопрос: «Может ли машина мыслить?». К вопросу был сформулирован практический критерий или тест Тьюринга, в котором интеллект машины определялся её способностью вести диалог, неотличимый от человеческого. Тест Тьюринга символизировал коренной переход от философских рассуждений к экспериментальной проверке интеллектуальных качеств машин.
Развитие теоретических основ ИИ сопровождались конструированием и появлением первых электронных вычислительных устройств: ENIAC, EDSAC, UNIVAC, которые заложили физическую платформу реализации алгоритмов, ранее существовавших лишь в абстрактной форме. Вычислительные арифметические устройства эволюционировали в компьютер — универсальный процессор обработки информации.
Следующий шаг был ознаменован развитием кибернетики, связанный с именем Норберта Винера, который разработал основы понимания обратной связи, адаптации и саморегуляции. Впоследствии разработанные основы явятся составным компонентом интеллектуальных систем.
Одновременно развивалась нейрофизиологические исследования Уоррена Мак-Каллока и Уолтера Питтса, которые привели к созданию первой математической модели нейрона. Модели показали, что нейронные сети способны воспроизводить логические функции, что открыло путь к созданию искусственных нейронных сетей.
В 1950-х годах прошлого столетия идеи Тьюринга вдохновили Кристофера Страчи и Норберта Винера на создания первых программ ИИ-системы для шахмат и логики. Кульминацией взлёта критерия Тьюринга ознаменовался 1956 год, связанный с Дартмутской конференцией, организованной Джоном Маккарти, Марвином Минским, Клодом Шенноном и Натаном Рочестером. На Дартмутской конференции официально родилась дефиниция : «Artificial Intelligence» — «Искусственный Интеллект» (ИИ) основа экспертных систем и машинного обучения, которая предопределила взрывной рост в XXI веке. На конференции инициативная группа учёных предопределила стратегию развития ИИ, когда каждый аспект интеллекта, мышления и обучения может и должен быть адаптирован, аккумулирован и воспроизведен настолько точно, насколько способна воспроизвести машина на текущий момент времени.
Первые ИИ-программы были разработаны в конце 1950-х — начале 1960-х годов, одна из которых Logic Theorist (1956), Аллена Ньюэлла и Герберта Саймона, была способна автоматически не только корректно доказывать теоремы математической логики, но в ряде случаев находила изящные не традиционные решения, оказывающее неизгладимое впечатление на научное сообщество.
Следующий шаг был ознаменован разработкой экспертных систем — программ, симулирующих рассуждения, факты и доводы специалистов в узких предметных направлениях. Наиболее известная экспертная система, предназначенная для диагностики инфекционных заболеваний и подбора антибиотиков, известная как MYCIN, была разработана в начале 1970-х годов. Появление экспертных систем показало, что при наличие собранной базы знаний и правил логического построения плюс формализованный опыт специалиста может быть перенесён на машинные носители. Особые исследования второй половины XX столетия было связано с моделированием структуры функционирования человеческого мозга, которые привели к созданию Фрэнком Розенблаттом перцептрона  (1957) — первой формализованной модели искусственной нейронной сети. Зачаточные нейро-сетевые модели изначально были ограничены вычислительными (техническими) ресурсами и теоретическими трудностями, но сама по себе модель обучения машины, основанная на базе знаний и правил логического построения, явилась ключевой точкой дальнейшего развития ИИ.
Таким образом, во второй половине XX веке ИИ эволюционировал из абстрактной логической модели к уже реальным программным системам, которые в состоянии: обучаться, доказывать теоремы, воспринимать правила, принимать решения и решать интеллектуальные задачи. Материализация идей во второй половине XX веке завершила эпоху предтеч, заложив путь поступательного и целенаправленного конструирования ИИ на самых разнообразных электронных носителях, — путь определяемый философией, вычислительными возможностями, алгоритмами, расширением и углублением информативных баз данных.
Нейросети, машинное обучение и массивы в базах данных (поздний XX — начало XXI века). Период становления ИИ в конце XX — начала XXI столетия характеризуется эволюцией от жёсткого символического ИИ, от экспертных систем и баз данных к самообучающимся моделям, которые, усваивая информацию способны обобщать, продуцировать скрытые закономерности, эволюционировать, раскрывать свои способности и генерировать новые возможности. Реанимация нейросетьевых моделей ознаменовалась устранением ограничений, связанных с вычислительными ресурсами и теоретическим восприятием перцептронов, которые были сняты благодаря алгоритму обратного распространения ошибки (backpropagation) Дэвида Румельхарта, Джеффра Хинтона и Рональда Уильямса. В результате, в конце второй половине XX века нейросетьевые модели получили второе дыхание, позволяющие обучать многослойные нейронные сети, корректировать связи на основе ошибок вывода, начать адаптацию биологических нейронных систем. Нейросети трансформировались в универсальные аппроксиматоры , моделирующие нелинейные зависимости распознавания образов, речи и прогнозирования.
Одновременно с реанимацией нейросетьевых моделей формировалась параллельное научное направление — машинное обучение (ML - machine learning). Машинное обучение определись алгоритмами подобные деревьям решений и SVM (поддерживающих опорных векторов) обработки массивов данных в базах, в которых акцент сместился с программирования правил на обучение по данным. В машинном обучении формализуются три парадигмы:
• обучение с учителем,
• обучение без учителя,
• обучение с подкреплением.
Теория машинного статистического обучения и метода опорных векторов (SVM) связана с реализацией идей Владимира Вапника, работы которого показали, что способность модели к обобщению важнее точности на обучающей выборке. Данный тезис заложил строгую математическую основу оценки интеллектуальных алгоритмов.
В 1990-х появились первые большие данные (big data) — хранилища вроде реляционных БД (SQL) и NoSQL. Это позволило ИИ анализировать миллионы записей: от рекомендаций Netflix до предсказаний погоды.
Переход к эпохе больших данных. В 1990- е годы XX и в начале XXI столетия происходит технологический прорыв, вызванный экспоненциальным ростом объёмов цифровой информации. Интернет, сенсорные системы, мобильные устройства, спутники, социальные сети и корпоративные базы данных сформировали феномен «Big Data» — технологической среды, в которой интеллект машины определяется не только алгоритмом, но и масштабным объёмом данных. Наличие больших массивов неоднородной, разно-векторной информации позволило нейросетям начать генерировать свой потенциал. Алгоритмы начинают обучаться не на сотнях, а на миллионах и миллиардах примеров, что приводит к резкому росту точности в задачах:
• распознавания изображений и лиц,
• машинного перевода,
• синтеза и понимания речи,
• интеллектуального анализа текстов.
Глубинное обучение и новый виток эволюции ИИ. Стартовав в начале XXI века ИИ оформляется в направление глубинного обучения (deep learning), основанное на использовании глубоких многослойных нейронных сетей, которые имитируют работу мозга, обрабатывая данные слой за слоем. Весомый вклад в развитие «deep learning» внесли Ян Лекун, Йошуа Бенджио и Джеффри Хинтон, которых называли «отцами глубинного обучения». В данный отрезок времени глубинные сети анонсируют и демонстрируют способность ИИ автоматически формировать иерархии признаков — от простых элементов к сложным абстракциям. ИИ перестаёт просто считать, но начинает интерпретировать, иллюстрируя тождественность машинного и человеческого восприятия информации.
Таким образом, развитие ИИ как функции данных, алгоритмов и вычислительной мощности в конце XX — начале XXI столетия окончательно утверждается, финализируется в качестве синтеза трёх факторов:
1. Алгоритмов глубинного обучения — «deep learning»;
2. Больших массивов информации — «Big Data»,
3. Высокопроизводительных вычислений.
От античности и средневековья, когда интеллект визуализировался в механические аналогии, к формальным вычислительным и логическим конструкциям в XIX и XX столетиях, и наконец становление эмерджентных  качеств сложных обучающихся систем в начале XXI века. На рубеже XX–XXI веков визуализируется и раскрывается переход к современной стации — фазе глобальных и всеобъемлющих интеллектуальных платформ, когнитивных моделей и универсальных ИИ-систем.
Масштабные модели, универсальный ИИ и когнитивные платформы (2010–2025). Период с 2010 до 2025 годов был ознаменован качественным переходом в развитии искусственного интеллекта от специализированных прикладных решений к универсальным интеллектуальным системам, способным взаимодействовать с огромными разнородными массивами информации, эффективно их обрабатывать, обучаться на них и контактировать с человеком на доступном уровне и в комфортных для него условиях. В этот этап ИИ окончательно выходит за рамки лабораторных экспериментов и становится неотъемлемым структурным элементом глобальной цифровой цивилизации — от повседневных сервисов до стратегических отраслей экономики. Разработанные технологии снизили барьер входа, позволив обучать сети с миллионами параметров на доступном оборудовании.
Глубинное обучение как индустриальный стандарт. К началу 2010-х годов глубокие нейронные сети, ранее считавшиеся вычислительно чрезмерными из-за огромных требований к ресурсам, обрели-таки практическую реализуемость. Подобное стало возможным благодаря развитию графических процессоров (GPU), таких как NVIDIA CUDA распределённых вычислений и масштабированной облачной инфраструктуры (например, AWS, Google Cloud). Новые технологии снизили барьер входа, позволив обучать сети с миллионами параметров на доступном оборудовании.
Ключевым рубежом и катализатором глобального бума «deep learning» стала победа архитектуры AlexNet (авторы: Алекс Крижевский, Илья Суцкевер, Джеффри Хинтон) на соревновании ImageNet Large Scale Visual Recognition Challenge в 2012 году. Нейросеть AlexNet, с 8 слоями и свёрточными фильтрами, снизила ошибку классификации изображений с 25% до 15,3%, обойдя всех конкурентов. Эти достижения были опубликованы на конференции NeurIPS, после чего методы глубокого обучения стали доминирующими в задачах компьютерного зрения, распознавания речи и обработки естественного языка = стартовала «эра глубокого обучения». Методы глубокого обучения стремительно доминируют в ключевых областях:
- Компьютерное зрение: свёрточные нейронные сети (CNN) вроде VGG (2014), ResNet (2015) и EfficientNet (2019) решают задачи распознавания объектов, сегментации и генерации изображений.
- Распознавание речи: рекуррентные сети (RNN) и LSTM, эволюционировавшие в Transformer (2017), обеспечивают точность выше 95% в системах вроде Google Speech-to-Text.
- Обработка естественного языка (NLP): от seq2seq-моделей (2014) к BERT (2018) и GPT-3 (2020), способным понимать контекст и генерировать связный текст.
В данном периоде ИИ претерпевает фундаментальные трансформации:
• от ручного извлечения признаков (hand-crafted features) — к автоматическому через end-to-end обучение;
• от узких алгоритмов с фиксированной логикой — к обобщающим моделям, способным к transfer learning и zero-shot inference;
• от академических прототипов — к промышленному внедрению в продуктах миллионов пользователей (Siri, 2011; Google Translate с нейросетями, 2016; Tesla Autopilot, 2019).
Фундаментальные трансформации закладывает основу перехода к масштабным моделям следующего поколения, где объём данных и параметров становится определяющим фактором мощности ИИ.
Революция трансформеров и языковых моделей. В 2017 году была разработана архитектура Transformer, изменившая обработку последовательностей, таких как текст, речь и код, сгенерировав новый класс моделей обработки последовательностей. Ключевая фишка — механизм внимания (attention), позволивший моделям "видеть" весь контекст целиком, а не последовательно - не слово за словом по порядку. Модели стали работать точнее и в разы быстрее. На основе архитектуры Transformer появились крупные языковые модели (LLM ), такие как GPT-4o (OpenAI), Llama 3 (Meta), Gemini (Google), Claude 3 (Anthropic) и Mistral, которые обучаются на огромных корпусах данных — миллиардах предложений из интернета, книг и кода. Принципиальное отличие LLM (LLM — Large Language Models) от предшествующих систем заключается в том, что они:
- не опираются на жесткие правила грамматики.
- строят внутреннее "понимание" языка через статистику и смысл.
- генерируют новый текст, обобщают знания и применяют их в новых ситуациях (например, GPT переводит код на другой язык, а Llama генерирует научные статьи). Искусственный интеллект впервые начинает продуцировать почти все человеческие способности: понимает контекст, ведет связный разговор (Claude в чатах), понимает намерения собеседника и аргументирует выводы (Gemini в анализе данных). Языковые модели (LLM — Large Language Models) явились пред течью чат-ботов, автопереводчиков и генераторов контента.
Мульти-модальность и когнитивная интеграция. Уже к 2020-м годам XXI столетия происходит качественный переход ИИ от узкоспециализированных, преимущественно текст-ориентированных систем к мультимодальным моделям, способным единовременно обрабатывать и параллельно интерпретировать различные типы данных, среди которых: текстовая информация; изображения; аудиосигналы, видеопотоки, структурированные и табличные формы информации. Качественный переход в развитии ИИ проявляет новую глубинную тенденцию — формирование единого цифрового когнитивного пространства обработки, интерпретации и выдачи информации, в котором разно векторные каналы восприятия не изолированы, а взаимосвязаны и дополняют друг друга. Ранние системы ИИ взаимодействовали с социумом в пределах отдельных модальностей (только текст, только звук, только изображение), а мультимодальные устройства интегрируют разнородные данные: распознаёт контекст, уточняют и понимают смысл, кратно повышая точность интерпретации.
В результате ИИ начинает формировать единое когнитивное пространство, максимально приближенное к человеческому восприятию, где различные каналы информации не разделены, а интегрированы в восприятие индивида, для которого характерно:
одновременное задействование нескольких сенсорных каналов,
прямая и контекстуальная интерпретация информации,
синтез разнородных, разно векторных сигналов в единое смысловое представление. Например, анализируя изображение одновременно с текстовым описанием или аудио сопровождением, мультимодальная система, формируя более глубокое понимание происходящего, интерпретируя сцену, событие, процесс.
В перспективе развитие мульти-модальности сгенерирует систему, способную всеобъемлюще распознавать окружающую среду и принимать комплексные, выверенные решения в условиях сложной и неоднородной информационной среды.
ИИ как инфраструктурный конструкт социума. Нынешний период развития ИИ характеризуется действенным изменением его роли, т.е. ИИ из отдельной технологии превращается в инфраструктурный конструкт социума, пронизывающий практически все сферы хозяйственной деятельности социума:
- в науке — ИИ используется для моделирования сложных природных и техногенных процессов, анализа огромных массивов данных, выявления скрытых закономерностей и генерации новых гипотез;
- в медицине — диагностирует заболевания, анализирует медицинские рентген снимки и изображения, выписывает рецепты, выдаёт персонализированные схемы лечения, прогнозирует течение заболеваний;
- в промышленности:
1. воплощается в виде цифровых двойников и систем мониторинга,
2. оптимизирует: производственные процессы, управление ресурсами, предиктивное обслуживание оборудования ;
- в образовании — формирует адаптивные обучающие среды , подстраивающиеся под индивидуальные особенности курса в целом и обучаемого в частности: — его темп, уровень подготовки и когнитивный профиль;
- в управлении и аналитике — используется как инструмент поддержки принятия решений, стратегического планирования, анализа рисков и прогнозирования социально-экономических процессов.
В период с 2010 по 2025 гг. ИИ эволюционирует в универсальную когнитивную платформу, которая обеспечивает функционирование и прогресс нынешней цифровой экономики социума, превратившись в когнитивный движитель личности который:
- раздвигает пределы и приумножает возможности анализа и обработки информации,
- кратно увеличивает точность прогнозирования,
- вариантно ускоряет принятие решений,
- продуцирует новые знания, концепции и идеи.
Интерпретируемость, ответственность и границы ИИ
Одновременно с ростом функциональных возможностей ИИ обостряются фундаментальные научные, философские и этические вопросы, связанные с его поступательным окутыванием социума в целом и отдельной личности в частности.
1). Цивилизационная проблема является проблема интерпретируемости, поскольку, основанные на глубоких нейронных сетях современные модели, часто функционируют как «чёрный ящик», который осложняет понимание механизмов принятия решений и порождает злободневные вопросы:
• может ли обучающаяся система быть полностью прозрачной и объяснимой;
• где проходит граница между имитацией и подлинным пониманием;
• кто несёт ответственность за решения ИИ и в какой степени результаты ИИ можно считать надёжными и обоснованными;
• возможен ли переход от узкого ИИ (ANI - Artificial Narrow Intelligence) к общему ИИ (AGI - Artificial General Intelligence).
2). Значимым восприятием ИИ является проблема ответственности:
• кто ответственен за решения, принятые ИИ — разработчик, пользователь или сама система;
• каким образом распределяются риски при ошибках алгоритмов;
• кто и каким образом обеспечит контроль и верификацию решений в критически важных областях таких как: медицина, транспорт, управление.
3). Актуальны вопросы связанные с границами развития ИИ:
• возможен ли переход от узкоспециализированных систем (Narrow AI) к общему искусственному интеллекту (AGI — Artificial General Intelligence);
• где находятся пределы масштабирования современных моделей;
• сохраняется ли принципиальное различие между человеческим и машинным мышлением.
Откликом на поступательное окутывания ИИ социума и отдельной личности являются новые сформированные научные и прикладные направления такие как::
• ответственный искусственный интеллект (Responsible AI) — разработка систем, учитывающих социальные и этические последствия;
• безопасный ИИ (AI Safety) — обеспечение устойчивости и предсказуемости поведения моделей;
• интерпретируемые модели (Explainable AI) — создание алгоритмов, позволяющих объяснять принятые решения;
• согласование целей (Alignment) — обеспечение соответствия поведения ИИ человеческим ценностям и задачам.
История поступательного развития ИИ резюмирует, что ИИ — это не завершённая конструкция, а процесс, развивающийся во времени, вписанный в эволюцию знаний социума. Если в античности интеллект выражался через миф и механизм, в эпоху возрождения — через формулу и машину, в XX веке — через алгоритм, то в XXI веке ИИ проявляет уже эмерджентное свойство сложных обучающихся систем, которые зависят от:
• масштаба информационных данных,
• архитектуры многофункциональных, многоуровневых моделей,
• развивающихся вычислительных ресурсов,
• пространственно-временного контекста обучения.
Таким образом, нынешний период развития ИИ характеризуется не только его непрерывной эволюцией, технологическим прогрессом, но и необходимостью философского осмысления, научного регулирования и регламентированной интеграции ИИ в социальную среду.
Список литературы
Винер Норберт Кибернетика, или управление и связь в животном и машине. — М.: Наука, 1983. — 344 с.
Глушков В.М. Введение в кибернетику. — Киев: Наукова думка, 1964. — 324 с.
Ляпунов А.А.О кибернетике и её значении для науки. — М.: Изд-во АН СССР, 1958. — 48 с.
Поспелов Д.А.Ситуационное управление: теория и практика. — М.: Наука, 1986. — 288 с.
Самарский А.А., Михайлов А.П. Математическое моделирование: идеи, методы, примеры. — М.: Наука, 1997. — 320 с.
Моисеев Н.Н. Человек и ноосфера. — М.: Молодая гвардия, 1990. — 351 с.
Stuart Russell, Peter Norvig Artificial Intelligence: A Modern Approach. — 4th ed. — Harlow: Pearson, 2021. — 1152 p.
Ian Goodfellow, Yoshua Bengio, Aaron Courville Deep Learning. — Cambridge: MIT Press, 2016. — 775 p.
Christopher Bishop Pattern Recognition and Machine Learning. — New York: Springer, 2006. — 738 p.
Yann LeCun, Yoshua Bengio, Geoffrey Hinton Deep learning // Nature. — 2015. — Vol. 521. — P. 436–444.
Tom Mitchell Machine Learning. — New York: McGraw-Hill, 1997. — 414 p.
J;rgen Schmidhuber Deep learning in neural networks: An overview // Neural Networks. — 2015. — Vol. 61. — P. 85–117.
Amar Karpatne и др. Theory-guided data science: A new paradigm for scientific discovery // IEEE Transactions on Knowledge and Data Engineering. — 2017. — Vol. 29, No. 10. — P. 2318–2331.
Markus Reichstein и др. Deep learning and process understanding for data-driven Earth system science // Nature. — 2019. — Vol. 566. — P. 195–204.
Chaopeng Shen A transdisciplinary review of deep learning research and its relevance for water resources scientists // Water Resources Research — 2018.—Vol. 54.8558–8593.