Память как процесс - путь к мыслящим системам

Современные полупроводниковые технологии приближаются к физическим пределам (например скорость и энергия переключения отдельного элемента), но не к пределу точности самих вычислений. Предел этот определяется не размером или скоростью транзистора, а способом организации информационной среды. Если память рассматривать не как запечатанный массив, а как продолжающийся процесс классификации, систематизации и уточнения логических связей и корреляций имеющихся данных, то задача оптимизации превращается из конечной в бесконечную, а машина — из исполнителя в субъект постоянного самоусложнения. Ниже изложена концепция, в которой источником для постановки задач вычислений является именно непрерывное стремление к гармонизации имеющихся данных, путём изменения весов связей, а не сменой дискретных состояний исходной базы данных.

Основа — трёхмерная кремниевая ткань, в которой каждый элемент способен не только проводить сигнал, но и постепенно изменять свою проводимость под действием проходящего тока. Изменение это мемристрного типа и не имеет порога переключения: чем дольше и интенсивнее ток, тем выше проводимость, пока не начинается тепловое уравнивание. Обратное затухание проводимости задаётся медленным "испарением" веса: если сигнал по каналу не проходит, проводимость падает экспоненциально. Таким образом, вся структура представляет собой среду с пластичностью, определяемой временем и амплитудой сигналов, а не внешним управляющим воздействием.
Исходные данные фиксируются однократно в слое, из которого информация может быть считана, но не стерта. Этот слой служит опорной поверхностью, относительно которой вычисляется информационное расстояние. Поверх него возводится зеркальный слой с большей разрешающей способностью. Зеркальный слой постоянно корректируется: в периоды, когда внешний поток задач, исходящие от пользователя (человека) ослабевает, активируются фоновые токи, двигающие веса в сторону уменьшения расстояния до опорного слоя. Поскольку опорный слой неизменен, любой тупиковый экстремум зеркала может быть отброшен: достаточно обнулить веса и начать уточнение заново, не теряя первичной информации.

Сравнение между слоями ведётся не по булевым признакам, а по плотности вероятностного распределения. Если после очередного цикла зеркальное распределение становится "ближе" к опорному, чем прежде (в многомерном пространстве параметров, о котором я писал в прошлых статьях), цикл считается успешным. Если расстояние растёт, веса подвергаются частичному затуханию, и поиск продолжается в другом направлении. Таким способом исключается застревание в локальных минимумах: система не может забыть дорогу к исходнику, поскольку он всегда физически присутствует. Важным моментом здесь может стать необходимость наличия в каждой системе сверхбыстрого распределённого ПЗУ с базовым набором "фундаментальных истин".

Тепловой аспект решается без жёсткого тактирования. Пока внешняя задача активна, токи велики, и температура локально повышается. Когда задача завершается, напряжение падает до уровня, при котором переключения не происходят, но токи ещё достаточны для медленного уточнения весов. Этот режим можно назвать «тёплым простоем»: энергия тратится, но не на переключения (и не на генерацию криптовалюты), а на смещение проводимостей. Поскольку тепловой поток пропорционален квадрату тока, переход к фоновому уровню снижает тепловыделение на порядок, и кристалл успевает отдать тепло подложке между внешними запросами пользователя.
Для защиты от нежелательного дрейфа параметров вводится механизм самокалибровки. Каждые двести миллисекунд генератор выдаёт короткий эталонный сигнал, проходящий через контрольную цепочку элементов. Изменение амплитуды на выходе показывает, насколько сместились веса за предыдущий интервал. Полученное значение используется для корректировки всех остальных весов: если цепочка стала проводить хуже, значит, средний уровень проводимости упал, и он поднимается пропорционально отклонению. Таким образом, длительная "мыслительная работа ИИ в фоне" не приводит к систематическому сдвигу (например необоснованно называемому "галлюцинациями" либо "снижением качества при обучении на следующем поколении сгенерированных данных"): любое ухудшающее "гармонию системы" медленное изменение параметров будет компенсироваться в том же темпе, в каком оно возникает. Разумеется подобные флуктуации неизбежны по различным как внешним, так и внутренним причинам.

Масштабирование "внутреннего мира ИИ" не потребует увеличения числа транзисторов. Добавление новых слоёв увеличит не столько объём вычислений, сколько разнообразие представлений: каждый новый слой может быть настроен на свою временную шкалу уточнения. Быстрые слои реагируют на внешние события, медленные — на фоновое улучшение модели. В итоге система приобретает иерархию временных горизонтов, подобную коре головного мозга, где одни ансамбли отвечают за мгновенную сенсорику, а другие — за медленную перестройку поведения. У меня в этой связи возникает некоторая аналогия с предварительной подготовкой человека к докладу, когда он предварительно перебирает в уме мысленно варианты диалогов с профессорами, которые могут возникнуть например при защите диссертации, чтобы выработать когнитивную простоту и не теряться.

Таким образом, концепция превращает работу системы ИИ в непрерывный процесс прогнозирования и уточнения, не требующий остановок, точек выхода или сброса состояния. Внутренняя память системы становится не хранилищем, а средой, в которой информация постоянно обогащается, а машина — не исполнителем программы, а мыслящей разумной структурой, бесконечно приближающейся к более точному отображению мира, без потери первоначального сигнала и без момента «стоп-готово». Любопытно, как профессиональные программисты, не представляющие написание кода без точки выхода или точки останова, отнесутся к моей идее?