О будущем человека и искусственном разуме

                О будущем человека и искусственном разуме
  (критические заметки по статье В. Паульмана "Будущее человека" в ПрозаРу)
 
Тема интересная, понимание и ответы могут быть разные. Из многих проблем будущего человечества автор останавливается главным образом на будущем взаимоотношении человека и искусственного интеллекта (ИИ), или. искусственного разума (ИР): не "победит" ли последний человека, не заменит ли его на производстве и не приведёт ли к его уничтожению? Вообще-то к уничтожению человечества может привести и сам человек с теми уже накопленными знаниями в области оружия массового уничтожения и продолжении их развития даже при достигнутом уровне программного обеспечения, ИИ, да и разума человека.. Ведь нет никаких гарантий того (кроме соответствующих международных договоров и контроля), что погоня за созданием такого всё более мощного  оружия в силу ошибок в расчетах, при испытаниях и пр. не приведёт к уничтожению сразу целых стран или даже континентов. И это не одна такая область рисков. Главная опасность здесь таится в самом человеке. Как он будет вести себя на Земле, на что направит свою изобретательность  - точно никто не скажет. О том, какие мы есть, на ПрозаРу, говорится в моих «Размышлениях о человеке» (http://proza.ru/2024/01/17/600).
 
Может ли  ИР по каким-то «способностям» (на самом деле это способности программного обеспечения, ПО) превзойти ум, или разум человека, одного или даже целого научного коллектива? Наверно, да, при решении определённых задач, особенно если в ПО, на котором ИИ базируется, будет добавлена программа его самопрограммирования и саморазвития, т. е. самостоятельной постановки задач, поиска информации, анализа, оценки и включения новых решений в определённых областях. Читатель сможет сам ответить, есть ли такие программы сегодня, к чему они должны быть подключены, чем «питаться», кем обслуживаться.
 
Попробуйте также ответить, а всё ли хорошо сегодня мы знаем о всесторонней работе человеческого мозга и его возможностях, если создаём ИИ, т.е. работающий похоже (пока и ограниченно), но искусственный мозг? Далее, если пофантазировать, сделать это по всем направлениям деятельности людей в масштабах всей Земли представляется совсем сомнительным, поскольку для поиска новых решений (именно с ними связаны риски развития ИР) в таком случае необходимо обладать информацией о достигнутом и направлениях поиска нового во всех таких областях. Плюс вся такая информация должна иметься в электронной форме (какие другие годные для её молниеносного нахождения, хранения и обработки способы могут появиться в будущем сейчас трудно представить). Кроме того, сама постановка такой задачи практически неосуществима и в таком «ПО- многостаночнице» просто нет никакой необходимости. Это к утверждению Илона Маска о создании ИР, превышающего по способностям разум всего человечества. Последний не измеряется численностью человеческих голов, а сама фраза не что большее, как красивая реклама.

Программное обеспечение есть и останется и в будущем одним из инструментов в руках человека, облегчающих, как и другие орудия труда, его работу, в данном случае – умственную, а шире – и физическую, помогая ускорять создание более совершенные средства труда. Да, и сокращая в результате число занятых на таких работах. ИР как более совершенное ПО не сможет везде заменить человека, поскольку само ПО-ИИ нуждается, кроме постановщика, разработчика, энергии, также и в «оболочке» (компьютерщики говорят – железе, коробке), в которую оно должно быть помещено и на чём размещено. И здесь встаёт вопрос, в частности, и о всей цепочке производства «железа» и носителей ПО. Кто и как это обеспечит? И далее какой-то Большой ИИ будет распределять малые ИИ (команды роботов) на работы в шахты, транспорт и т. д. и заставлять их создавать такие предприятия? Скажем мягко – очень сомнительно и фантастически. Всё главное останется в руках человека. И здесь с В. Паульманом можно полностью согласиться.

Что же касается рисков, связанных с использованием ИИ, или ИР, они есть и будут. Как они были и есть всегда при использовании других орудий труда, технологий. И не только в этой области дятельности человека. Методы их предотвращения хорошо известны любому производственнику. Также хорошо известны и методы трудоустройства высвобождаемых в результате научно-технического прогресса. О них в общих чертах говорится и в статье В. Паульмана. Но это - отдельный разговор.