Версия по теории русловых названий(ТРН).
Река Мста ещё одно название по форме русла с использованием русского алфавита. На данный момент это ещё река Тверица в Твери при соединении с Волгой и река Дон-ха-ва, то есть дно(русло) в виде буквы Ха, в городе Конаково. В устье эта река так и выглядит. Статьи об этом есть в списке произведений.
Подтверждением этой версии является речка Мшашка, которая впадает в излучину "М".
Почему был выбран именно такой вариант компоновки названия "М-ста", пока неизвестно.
Дополнение: "буквенные" названия имеют река У-водь(Иваново), река О-Я-ть(русло "рисует" две буквы ОЯ), река ОМь(город Омск), река ТоМь(город Томск), река Которосль(Ярославль), статьи в списке.