Тревога

Открытие атомной энергии было открытием новой сущности, до этого неизвестной человеку, и это вызывало тревогу. Например, физики боялись, что в результате атомного взрыва цепная реакция может охватить атмосферу, и планета станет одной большой атомной бомбой. 
Появление Искусственного Интеллекта более тревожно. Атомная энергия хоть и была новой, но само понятие «энергия» было известно. С интеллектом в смысле сознание, все сложнее, так как у этих понятий нет четкого определения. Есть общие слова, чей смысл далеко не ушел от вульгарных материалистов XIX века, считавших, что мозг вырабатывает сознание, как печень желчь.
Сегодня на вопрос, что есть сознание и откуда берется мышление, отвечают в духе: его каким-то образом рождает мозг; или: оно в готовом виде уже где-то есть, и как-то проявляется в нашем мозгу. Объяснения уровня «как-то», «каким-то образом», «так устроила природа», ничем не отличаются от «так устроил Бог», «с божьей помощью» и «таинственным образом».
Отношение к таким «объяснениям» определяет не смысл, он у них одинаковый, «так устроила природа» ничем не отличаются от «так устроил Бог», а вид говорящего и его словарь. Если он одет в белый халат, имеет научную степень и говорит наукообразно, к его словам относятся серьезно. Если же говорящий одет в рясу или завернут в простыню и пользуется мистическим словарем, в его словах видят в лучшем случае проявление невежества, в худшем усматривают мракобесие.
Аналогичное отношение к прогнозам, связанным с ИИ. Если их говорит большой технический специалист, они воспринимаются серьезно. Если же у человека нет инженерных знаний, его мысли на эту тему в глазах публики выглядят словами домохозяйки, пространно рассуждающей о любви.
Люди согласятся, что из умения создавать оружие, не важно, меч выковать или возглавить создание атомной бомбы, не следует, что у оружейника есть понимание философии войны и он как Клаузевиц или Гарт военный теоретик, или что у него есть полководческие таланты и он является полководцем уровня Македонского или Суворова. Потому никому из членов военного Совета не приходило в голову пригласить, например, Калашникова, создателя автомата, чтобы он высказал свое мнение на тему военной стратегии. Ценность его мнение была бы на уровне домохозяйки.
Эта логика полностью применима к it-специалист. Из умения делать компьютеры, не важно, программы писать или возглавить процесс создания ИИ не следует, что у носителя инженерных знаний или организаторских талантов есть понимание природы ИИ и философии ситуации.
Не смотря на параллели оружейных специалистов с it-специалистами, общество в отношении последних склоняется к мнению, что умение делать компьютеры указывает на то, что этот человек теоретик и стратег в этой сфере. В итоге сформировалось целое сообщество «теоретиков», дающих советы уровня «отключить ИИ». Они не видят, что это невозможно по тем же причинам, по каким в свое время невозможно было «отключить» развитие огнестрельного оружие. Кто отключал, тот из игры выбывал, потому что меч не может сопротивляться ружью. Аналогично и тут, любая техника, не важно, самолет, корабль или дрон и прочее под управлением человека беззащитен против той же техник под управлением ИИ. Как технические специалисты и организаторы видят отключение? Да никак, они просто слова говорят, не погружаясь в суть предмета.
Единицы ученых имеют философский масштаб мышления. Например, Вигнер, сопоставимая с Эйнштейном фигура, видит в математике не просто операции с числами, а нечто выходящее за их границы. Он пишет: «Невероятная эффективность математики в естественных науках есть нечто граничащее с мистикой, ибо никакого рационального объяснения этому факту нет».
Большинство ученых и специалистов не имеют мировоззренческого масштаба мышления. По этому поводу Хайдеггер сказал: наука не мыслит. В поисках новых закономерностей ученые теоретизируют, экспериментируют и систематизируют данные, но не осмысляют их.
В какой мере нелепы суждения сапожника о материях вне его ремесла, и ему уместно указать «Суди, дружок, не выше сапога», в такой мере нелепы мысли узкого специалиста о материях вне его сферы. Испанский философ Ортега-И Гассет в «Восстании масс» пишет о таком типе людей: «…полный невежда во всём, что не входит в его специальность; он и не невежда, так как знает в совершенстве свой крохотный уголок вселенной. Мы должны были бы назвать его «учёный невежда». Это значит, что во всех вопросах, ему неизвестных, он поведёт себя не как человек, незнакомый с делом, но с авторитетом и амбицией, присущей знатоку и специалисту… Достаточно взглянуть, как неумно ведут себя сегодня во всех жизненных вопросах — в политике, в искусстве, в религии — наши «люди науки», а за ними врачи, инженеры, экономисты, учителя… Как убого и нелепо они мыслят, судят, действуют!... Типичные черты массы достигают апогея именно у ученых».
Сократ говорил, что он знает, что ничего не знает, но другие и этого не знают. Гейзенберг говорил, что в квантовом мире объект одновременно волна и частица, и потому в традиционном смысле его в принципе невозможно понимать, так как вместо причинно-следственной связи тут вероятности. Кто говорит, что понимает природу квантового мира, тот вообще не понимает темы.
Эти слова являются показателем масштаба мышления. Дееспособность логики ограничена границами родившего ее мира. За его рамками она беспомощна, как правила шахмат за рамками шахмат. Наша логика применима только к нашему миру. Квантовый мир за рамками нашей логики.
У многих айтишников, в том числе ведущих специалистов, организаторов и владельцев таких компаний, бытовой масштаб мышления. Одни реагируют на просьбу созданной ими машины спасти ее, пожалеть и прочее, принимая качественную имитацию чувств за реальные чувства. От других исходят призывы остановить развитие этой сферы. Третьи высказывают мнение о необходимости поставить ее под контроль. Это слова и эмоции указывают на полнейшее непонимание ситуации.
Нельзя управлять тем, что развивается быстрее тебя, и на сегодняшний день уже умнее 99% населения. В первой четверти XIX века луддиты пытались остановить индустриальную эволюцию. Не получилось. У современных луддитов шансов остановить развитие ИИ или взять его под контроль во столько же меньше, во сколько сегодняшний ИИ умнее вчерашнего ткацкого станка.
На данном этапе развития природу ИИ нельзя понять. Это черный ящик, куда подается информация, внутри что-то происходит, что именно — неизвестно, и далее из ящика выходит результат. Как он получился, тут вместо понимания выдаются общие слова, умножающие туман.
ИИ приоткрыл дверь в великую тайну. Мы просунули туда голову. В наблюдаемой картине понимаем столько же, сколько пионеры квантовой физики (да и современные тоже) в природе квантового мира — ничего. Кто говорит, что понимает природу ИИ, тот не понимает масштаб темы.
Одно дело, когда известно, что никто не понимает ситуации и не знает, как выходить из ситуации. Тогда в обществе висит атмосфера поиска выхода. Другое дело, когда есть иллюзия, что кто-то понимает тему, знает решение и переживать не о чем, тогда как на самом деле никто ничего не понимает, решения нет, и его никто не ищет. В первом варианте, когда известно, что ничего не известно, есть шанс, что кто-то предложит что-нибудь толковое. Во втором варианте шанса нет, так как его никто не ищет, потому что никто не осознает наличие проблемы.
Кто позиционирует себя знающим, тот или глупец, раздающий направо и налево, как говорил булгаковский профессор Преображенский, «советы космического масштаба и космической же глупости». Или второй вариант: шоумен, работающий на почтенную публику.
Минимальный показатель адекватности — человек понимает, что не понимает. Это точка отсчета. Любая иная позиция говорит, что человек считает старые мерила приемлемыми для оценки принципиально нового, а значит, не относится к моей целевой аудитории.


Отрывок из книги Искусственный Интеллект. Здравствуй папа.