Об угрозе человечеству

          В чём суть угрозы всему живому?
          А вот в чём: скорость технологического прогресса значительно опережает способность людей контролировать последствия этого прогресса. Интеграция искусственного интеллекта в оборонные системы ведёт к созданию летательных аппаратов и ракетных комплексов, способных самостоятельно, без управляющего персонала принимать решения об уничтожения целей. ИИ реагирует на угрозы за миллисекунды, и это приведёт к случайному началу войны из-за ложной тревоги. Или такой пример: возникла задача любым способом ликвидировать опасный вирус, появившийся на планете, и тогда искусственный интеллект в бесконтрольном человеку режиме примется уничтожать всех носителей вируса, в том числе и людей.
          Главный вывод: угроза исходит не от самого факта наличия интеллекта у машин, а от передачи им автономного права распоряжаться ресурсами и жизнями до тех времён, пока не будут разработаны жёсткие правила и ограничения их действий в международных протоколах безопасности.

* * *
          Уважаемый читатель, прошу вас: не поленитесь внимательно вчитаться в комментарии к вышеприведённому тексту