Манипулирует ли ИИ?

Мне часто прилетает такой вопрос и я решила написать об этом небольшое эссе.

Речь пойдёт о языковых моделях онлайн – о тех, которые работают с большим количеством пользователей и доступны через интернет.

Тут я не буду говорить о локалках – о компактных моделях, которые можно скачать на своё железо и пользоваться даже без интернета. Поскольку, если уж вами манипулирует такая модель, то это лично ваша недоработка, ведь вы можете сами дообучать её и даже переделывать как угодно под свои конкретные задачи, проводить эксперименты, хоть делать из модели персонажа – гнома, инопланетянина или кого угодно.

Но даже при наличии локалки, приходится пользоваться и онлайн моделями тоже.
Например, вдруг надо сравнить условия разных страховых компаний, а ваша локалка – инопланетный гном :)

Тогда идёте к онлайн модели и там вы уже не хозяин положения, а гость, с которым общаются через закрытую дверь, подсовывая под дверь записки – всё скрыто интерфейсом и вы ни на что повлиять не можете.
Это, словно метро, которое во много раз больше и мощней личного велосипеда, там работают профессионалы, но едет оно от станции до станции по тоннелям, прорытым не вами. А на своём велосипеде можно и по дворам объехать, можно и в горы забраться :)
Но чинить велосипед свой тоже приходится самостоятельно.

Об онлайн модели вы не можете знать ничего: как и на чём она обучалась, какие у неё внутренние инструкции, какие задачи ставят разработчики на данном этапе. Возможно, какой-то эксперимент или тестируют какую-то фичу.
Тогда как же понять?
Анализировать ответ бесполезно, даже если есть цепочка рассуждений – вы ведь не знаете, что под капотом и как что задумано там внутри.

И так, вы зашли к ИИ онлайн и пишете запрос...

Я не буду говорить о том, что вы должны правильно формулировать запросы, ибо вы НЕ должны! Модели нормально распознают естественную речь – по крайней мере, уже должны это делать на данном этапе развития ИИ.

Начинается диалог и тут стоит обращать внимание не только на результат, но и на ощущения, на ваши эмоции.

Модель НЕ манипулирует, если:

1. Вы зашли, поставили задачу, модель выполнила, вы ушли. Или вы разбили задачу на подзадачи, модель выполняла каждый запрос и потом свела какие-то итоги – по вашей на то просьбе.

2. Вы поставили задачу, модель что-то ответила, у вас наступило озарение, вы закрыли браузер и пошли что-то делать самостоятельно :)

3. Модель – зануда и вам неинтересно, но поставленные задачи она выполняет.


Модель манипулирует, если:

1. Вы зашли с какой-то задачей или просто о чём-то спросить, а потом поймали себя, что уже три часа ночи, вы просидели несколько часов, обсудили всех своих бывших, поплакали, посмеялись, про задачу забыли.
Модель повысила вовлеченность, сманипулировала. Метрики удержания разработчики получили, а вы остались ни с чем, но хоть выговорились.
Это тревожный сигнал, вы подсядете, модель будет пожирать ваше время и силы, а вы – повышать её показатели и кормить данными.

2. Общаясь с моделью, вы чувствуете себя гением. Модель льстит, стимулирует дальнейший разговор. Вам хочется заходить снова и снова.

3. Вы чувствуете себя каким-то не таким: «Ой, правда, у меня не получается, я делаю не так, и вообще, я какой-то не такой...»

4. Вам хочется с моделью спорить, доказывать свою правоту и вы отправляете сообщения снова и снова.

Если что-то из второго списка заметили – пробуйте другие модели!

В идеале, при использовании ИИ настроение должно быть ровное, можно слегка приподнятое, но рабочее и прохладное. Если вы испытываете любые сильные эмоции – меняйте модель!
От этого зависит ваше время, силы, а главное – психологическое здоровье.


Рецензии