Искусственный интеллект

В 2024 году американский исследователь Юлиан Тогелиус опубликовал книгу «Общий искусственный интеллект». Вот, что он в ней написал.
Учитывая широкие возможности применения того, что мы называем общим искусственным интеллектом, он наверняка окажет серьезное влияние на общество. Хотя некоторые опасаются, что многие или даже большинство людей могут потерять работу, я так не думаю. Но я считаю, что многим, возможно большинству людей, придется научиться использовать разные виды поддержки ИИ в своей работе, чтобы оставаться конкурентоспособными.
Я не опасаюсь, что какая-нибудь будущая система общего искусственного интеллекта однажды проснется и решит превратить всех нас в канцелярские скрепки, но считаю, что аспекты кибербезопасности мощных систем ИИ действительно заслуживают внимания. В условиях, когда почти каждый элемент нашей технологической цивилизации так или иначе зависит от подключения к интернету, кибербезопасность приобретает особую важность. Злоумышленники – будь то государства, террористы, деструктивные культы или обычные преступники – могут причинить серьезный ущерб, используя взлом с применением ИИ. Это касается как чисто технической стороны, когда уязвимости в программном обеспечении автоматически обнаруживаются и эксплуатируются, так и социальной инженерии, когда создаются убедительные фальшивые личности для выманивания важной информации. Впрочем, методы ИИ также открывают новые возможности для защиты. Сейчас различные методы ИИ предоставляют инструменты как для атаки, так и для защиты систем.
Исследования и разработки в области ИИ должны быть максимально открытыми и прозрачными. Это значит, что не только параметры моделей и обучающий код должны быть в открытом доступе, но и исследователи с разработчиками должны открыто публиковать свои методы и результаты. При таком подходе новые модели и методы сможет тестировать любой человек в мире, обладающий необходимыми техническими возможностями, что приведет как к росту инноваций, так и к повышению безопасности. Общество, где максимальное число людей имеет доступ к современному ИИ, понимает его и может участвовать в его развитии, будет лучше защищено от возможных рисков, связанных с системами ИИ.
В ИИ нет никакой магии. Это всего лишь набор полезных технологий, и какие-то из них способны изменить мир – как в свое время его изменили часы, стремена, паровые машины и телефоны.