Власть ИИ

В 2022 году канадские исследователи Аджей Агравал, Джошуа Ганс, Ави Голдфарб опубликовали книгу «От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях». Вот, что они в ней написали.Машины не способны принимать решения. Однако ИИ может обмануть людей, заставив их думать, что машины это делают. Кажется, что машины принимают решения, когда мы способны программировать суждения. ИИ генерирует прогноз, а затем машина опирается на запрограммированные человеческие суждения, чтобы выполнить действие (принять решение).
Кажется, что термин капитализм ассоциируется с властью машин. Но на самом деле этой властью обладают люди, которые применяют суждения, закодированные в машинах. Люди несут ответственность, и законодателям и правоохранителям необходимо это понимать.
Хотя машины не обладают властью, они могут концентрировать ее за счет масштабности действий, а также перераспределять, передавая полномочия принятия решений от одних лиц к другим, изменяя время и место принятия решений. Системы, основанные на искусственном интеллекте, могут отделить суждение от решения, так что оно может быть предоставлено в другое время и в другом месте.
Инновации на уровне системы — это сложно. Почему бы не позволить конкурентам пройти через все трудности и понести затраты, чтобы понять это, а затем скопировать результаты их труда? Потому что искусственный интеллект дает преимущество первопроходцам. ИИ учится, и чем раньше он будет внедрен, тем раньше начнет учиться. Чем больше он учится, тем выше его точность прогнозирования. Чем выше она становится, тем эффективнее новая система. Маховик начинает вращаться. Этот маховик объясняет, почему некоторые представители венчурного сообщества так активно инвестируют в только зарождающиеся, казалось бы, проекты в области ИИ. Обучение происходит на основе данных, и поэтому преимущество первопроходцев возникает благодаря получению обратной связи по поводу этих данных.
Чтобы понять, что нужно для конкуренции в мире с искусственным интеллектом, необходимо сначала установить, что нужно для получения более качественных и дешевых прогнозов. Не существует какой-то волшебной палочки, взмахнув которой можно получить ИИ. Вместо этого необходимо определить составляющие генерации прогнозов, научиться ими управлять и установить, какие данные требуются для соединения этих составляющих.
Таким образом, бизнес прогнозирования — это бизнес получения лучших и более дешевых алгоритмов и данных. Откуда же они берутся? Рассмотрим алгоритмы. Чтобы построить алгоритм прогнозирования, необходимо обучить модель, используя входные данные (скажем, изображения) и выходные данные (скажем, текстовые описания этих изображений). Для этого необходимы обучающие данные. Чем они качественнее, тем лучше будут работать алгоритмы прогнозирования. Вот основная проблема для многих компаний: им приходится либо создавать необходимые обучающие данные (например, нанимать экспертов для классификации предметов), либо получать их из других источников (например, из медицинских карт).
Обучающие данные — это только начало истории. ИИ отличается от других инструментов способностью к обучению. Чем больше вы его используете, тем лучше он работает. ИИ учится на основе обратной связи: получает данные и делает прогноз. Затем наблюдает за тем, сбылось ли предсказание. Если да, то ИИ обретает уверенность в своем алгоритме. Если нет — учится тому, как улучшить свои будущие прогнозы.
Модели ИИ часто приходится переобучать на новых и актуальных данных, поскольку меняется окружающая среда. В некоторых случаях эту проблему можно решить путем целенаправленного сбора новых обучающих данных, учитывающих вновь возникающие обстоятельства. Но все-таки наиболее конкурентоспособный подход к поддержанию точности прогнозов в динамичных средах состоит в непрерывном обновлении модели с помощью так называемых данных обратной связи. Они генерируются в результате постоянного измерения эффективности прогнозов. Для этого необходимо самостоятельно собрать информацию о точности прогнозов и сопоставить ее с входными данными, на основе которых они были сделаны. Собрав эти данные, вы получаете обратную связь, которую можно использовать для обновления алгоритмов.
Таким образом, чтобы конкурировать в сфере прогнозов, необходимо иметь хорошие алгоритмы и доступ к исходным данным. Но во многих ситуациях вам также потребуется доступ к данным обратной связи. Неудивительно, что именно стратегия работы с данными станет определяющим фактором вашей конкурентоспособности в долгосрочной перспективе. В некоторых случаях первопроходец получает значительные преимущества, поскольку более качественные прогнозы привлекают больше пользователей, которые, в свою очередь, генерируют больше данных обратной связи, что улучшает прогнозы и привлекает еще больше пользователей. В такой ситуации конкуренты, не включившие сбор данных обратной связи в свою разработку, вряд ли сумеют догнать вас. Обратная связь дает преимущества первопроходцам.