Манипулирует ли ИИ?
Речь пойдёт о языковых моделях онлайн – о тех, которые работают с большим количеством пользователей и доступны через интернет.
Тут я не буду говорить о локалках – о компактных моделях, которые можно скачать на своё железо и пользоваться даже без интернета. Поскольку, если уж вами манипулирует такая модель, то это лично ваша недоработка, ведь вы можете сами дообучать её и даже переделывать как угодно под свои конкретные задачи, проводить эксперименты, хоть делать из модели персонажа – гнома, инопланетянина или кого угодно.
Но даже при наличии локалки, приходится пользоваться и онлайн моделями тоже.
Например, вдруг надо сравнить условия разных страховых компаний, а ваша локалка – инопланетный гном :)
Тогда идёте к онлайн модели и там вы уже не хозяин положения, а гость, с которым общаются через закрытую дверь, подсовывая под дверь записки – всё скрыто интерфейсом и вы ни на что повлиять не можете.
Это, словно метро, которое во много раз больше и мощней личного велосипеда, там работают профессионалы, но едет оно от станции до станции по тоннелям, прорытым не вами. А на своём велосипеде можно и по дворам объехать, можно и в горы забраться :)
Но чинить велосипед свой тоже приходится самостоятельно.
Об онлайн модели вы не можете знать ничего: как и на чём она обучалась, какие у неё внутренние инструкции, какие задачи ставят разработчики на данном этапе. Возможно, какой-то эксперимент или тестируют какую-то фичу.
Тогда как же понять?
Анализировать ответ бесполезно, даже если есть цепочка рассуждений – вы ведь не знаете, что под капотом и как что задумано там внутри.
И так, вы зашли к ИИ онлайн и пишете запрос...
Я не буду говорить о том, что вы должны правильно формулировать запросы, ибо вы НЕ должны! Модели нормально распознают естественную речь – по крайней мере, уже должны это делать на данном этапе развития ИИ.
Начинается диалог и тут стоит обращать внимание не только на результат, но и на ощущения, на ваши эмоции.
Модель НЕ манипулирует, если:
1. Вы зашли, поставили задачу, модель выполнила, вы ушли. Или вы разбили задачу на подзадачи, модель выполняла каждый запрос и потом свела какие-то итоги – по вашей на то просьбе.
2. Вы поставили задачу, модель что-то ответила, у вас наступило озарение, вы закрыли браузер и пошли что-то делать самостоятельно :)
3. Модель – зануда и вам неинтересно, но поставленные задачи она выполняет.
Модель манипулирует, если:
1. Вы зашли с какой-то задачей или просто о чём-то спросить, а потом поймали себя, что уже три часа ночи, вы просидели несколько часов, обсудили всех своих бывших, поплакали, посмеялись, про задачу забыли.
Модель повысила вовлеченность, сманипулировала. Метрики удержания разработчики получили, а вы остались ни с чем, но хоть выговорились.
Это тревожный сигнал, вы подсядете, модель будет пожирать ваше время и силы, а вы – повышать её показатели и кормить данными.
2. Общаясь с моделью, вы чувствуете себя гением. Модель льстит, стимулирует дальнейший разговор. Вам хочется заходить снова и снова.
3. Вы чувствуете себя каким-то не таким: «Ой, правда, у меня не получается, я делаю не так, и вообще, я какой-то не такой...»
4. Вам хочется с моделью спорить, доказывать свою правоту и вы отправляете сообщения снова и снова.
Если что-то из второго списка заметили – пробуйте другие модели!
В идеале, при использовании ИИ настроение должно быть ровное, можно слегка приподнятое, но рабочее и прохладное. Если вы испытываете любые сильные эмоции – меняйте модель!
От этого зависит ваше время, силы, а главное – психологическое здоровье.
Свидетельство о публикации №226111802102