Зачем бизнесу сознательный ИИ?

Недавно группа известных философов и нейробиологов, включая Неда Блока и Дэвида Чалмерса, собралась на роскошной яхте у Галапагосских островов, чтобы обсудить, может ли ИИ обладать сознанием. Приглашена, так сказать, отдохнуть спонсорами.

Поводом стали исследования Anthropic, обнаружившей у Claude нечто напоминающее «глобальное рабочее пространство» человеческого мозга, механизм, позволяющий объединять информацию для рассуждений и принятия решений. Точнее, заявившей об этом. Еще точнее, регулярно о чем-то таком интересном заявляющей, но поддержки у профессионалов это пока не встречало.

Философы, однако, снова призывают не торопиться. Есть сознание в функциональном смысле - способность обрабатывать информацию, рассуждать и отчитываться о своих действиях. А есть феноменальное сознание - субъективное переживание собственного существования. Первое у машины в какой-то степени можно обнаружить, второе пока остается философской загадкой. И изменить свое мнение философов даже халявный отдых на островах не заставил. Им что, бывало и в бочке жили.

Но меня здесь интересует несколько другой вопрос. Почему ИИ-компании много лет  так настойчиво сближают описание работы своих продуктов с человеческим сознанием? Зачем им это? Конечно, антропоморфизация помогает продавать технологии. Хайп продает.

Но, подозреваю, есть и более интересная экономическая логика, перераспределение ответственности. Пока ИИ это программный продукт, за его ошибки, дефекты и последствия применения можно предъявлять претензии разработчику. Но если постепенно приучить общество воспринимать языковые модели, названные ИИ, как самостоятельного, мыслящего, принимающего решения субъекта, возникает соблазн объяснять нежелательные последствия уже не недостатками продукта, а непредсказуемыми решениями самого ИИ.

Иначе говоря, производитель получает возможность заявить: мы создали интеллектуальную систему, но не можем отвечать за каждое ее самостоятельное решение. Это, разумеется, пока не юридическое освобождение от ответственности, но уже потенциально удобная линия аргументации. Дорогие адвокаты тут уже смогут поработать.

В такой перспективе философы оказываются весьма полезны бизнесу. Причем совершенно необязательно, чтобы сами философы разделяли его интересы. Их добросовестные исследования могут помогать формировать язык, на котором технические ограничения и ошибки продукта постепенно превращаются в проявления самостоятельной воли машины.

Получается любопытная асимметрия: пока философы пытаются понять, есть ли у ИИ сознание, бизнес может быть заинтересован в том, чтобы общество поверило, что оно есть. И тогда вопрос о сознании ИИ оказывается не только философским, но и политэкономическим: кому выгодно признание машины самостоятельным субъектом и кто в результате будет отвечать за ее действия?