Генеративный искусственный интеллект - GenAI Gener

Статья: "Группа исследует роль, которую люди должны играть, живя в мире GenAI"* (автор PAUL BARKER, 1 сентябрй 2023).
******************************************

Линк на текст статьи на английском могу скинуть, а на русском можно погуглить по названию статьи, она есть в переводе.

Сама по себе статья пустовата, но несколько абзацев вызвали у меня отклик. Процитирую их ниже. Переведу с английского.

"В дискуссии, модератором которой выступил Ричард Манро, директор по стратегии и коммуникациям технического отдела VMware (OCTO), приняли участие журналист данных** и писатель Мередит Бруссард, доцент Нью-Йоркского университета, Крис Вольф, вице-президент VMware AI Labs и Карен Сильверман, главный исполнительный директор (генеральный директор) и основатель The Cantellus Group, а также эксперт по стратегиям управления ИИ (Искусственным Интеллектом - Е.Т.).

Манро начал дискуссию, спросив Бруссард, что такое ИИ (искусственый интеллект), а что им не является. Она определила это «как просто математику, очень сложную и красивую математику.

«Очень важно разделять, что в ИИ реально, а что воображаемо. И еще один способ описания ИИ — это воспроизведение шаблонов. Когда мы создаем систему искусственного интеллекта, мы берем целый набор данных, столько данных, сколько можем получить откуда угодно (обычно из Интернета), и вводим их в компьютер и говорим: «Компьютер, создавай модель».

«Компьютер создает модель и показывает математические закономерности в данных. И тогда мы сможем использовать эту модель для множества удивительных вещей. Мы можем принимать решения, мы можем делать прогнозы, мы можем генерировать новый текст, мы можем создавать новые изображения, мы можем создавать новый звук. Но все "biases"*** данных отражены в данных (попадают в данные - Е.Т.) , которые мы используем для обучения модели. И поэтому модель также будет воспроизводить определенные "biases" (ошибки - Е.Т.), которые уже существовали».

Манро сказал, что на самом деле все сводится к двум конкретным подходам, а именно: какую роль должны играть люди в организации, желающей использовать возможности ИИ, и какую роль люди должны играть в том, чтобы это произошло."

На этом я заканчваю цитировать статью и перехожу к рассуждениям.

Итак.

Стараются создать нечто более совершенное, чем человеческий мозг, используя для этого человечекий мозг и счётную машинку, в надежде, что количество перерастёт в качество? Или стараются создать нечто отдалённо напоминающее человеческий мозг по своей функциональности, но не такое совершенное, и использовать "это" для "принятия решений"..., "создания зрительных, музыкальных и других образов"...

Вопрос: зачем? Для бесталанных и ленивых? Для стирания личности? Для интеллектуальной уравниловки? 

Система пользуется "прошлым". Система получает прошлые данные, чтобы сотворить будущее или чтобы законсервироваться в прошлом? Можно ли принимать будущие решения, опираясь на предыдущие даннные? Наверное можно, если будущее повторяет прошлое. Хорошо, что данный механизм не был создан в очень далёкие времена, исходя из имеющейся на тот момент инфорамации, а то была бы опасность, так и сидеть по настоящий момент у пещеры, или просто вымереть, как обычнно происходит со стагнирующей системой.

И кто будет оценивать, что этот зрительный образ красивый, а тот не очень? Никто? Это просто будет игра в рисовалки, времяпрепровождение? Закроем музеи, забудем литературу... Убьём в человеке душу? Оставим каркас с навыками развлечений?

И кто будет оценивать правильность тех или иных решений - сама же система? А кто будет отвечать за принятые искусственным интеллектом решения? Правильные они или нет? И кто будет судьёй? ИИ будет выносить судебные решения против самого себя? Или люди будут судить людей за неправильные решения искусственного интеллекта. Или люди будут судить искусственный интеллект? Или ИИ будет неподсуден?

Т.е. целеполагание в статье не раскывается.

Тогда о более простом.

1) В статье говорится, что для создания искусственного интеллекта (ИИ) из И-нета высасываются потоки информации. Информация затем кодируется для обработки компьютером и выявляются те или иные тренды, которыми будет пользоваться искусственный интеллект. Вместе с "хорошей" инфорамцией выкачиваются и ошибки. Система не может различить "ошибки" от правильного, поэтому всё попадает в биг дата.

В моём понимании это происходит примерно так. В местном институте по промежуточному экзамену по курсу маркетинга я получила 85 баллов из 100, что явилось единственным проходным баллом по группе. Средний балл по группе, куда вошёл и мой балл, составил 56 баллов. Проходной балл 70. В группе 20 человек. Т.е. 19 раз система закачала в базу данных неправильные ответы и 1 раз мой - хороший, но, по мнению программы,  несовершенный, ответ.  19 человек ответили плохо, 1 человек ответил хорошо. Выявляем тенденцию, (как правило отбрасываем крайний ответ слева и крайний ответ справа и получаем, то, что получаем), ну даже, если и не отбрасываем две крайности....  Правильно. Количество перешло в качество, только со знаком "минус". В биг дата записали ошибочную тенденцию. Дальше ждём от ИИ "принятия решения" и "прогнозов на будущее", которые будут опираться на эту ошибочную тенденцию. Интересно, как художественная картинка, сгенерированная неправильной тенденцией, выглядеть будет ? Хотя не интересно. Совсем.

Вот любимая местная присказка о том, что в наше время надо работать в группе. Группа добивается результата, один человек не может справиться, так как слишком большой объём инфорамции или чего-то ещё. Как формируется группа? Здесь принято подгонять группу под самого слабого. В Союзе ориентировались на сильных. Не справился, вылетел или остался на второй год.

Вот про слабого. Вроде гуманно, только вся группа в результате "недополучает", ну не успевает пройти за курс побольше или поглубже, так как слабый еле-еле плетётся. Гуманно? Ну это для кого как. Гуманно для школы, так как ей дают дотации за каждый выданный диплом, а не за качество полученных знаний.

Ну и дальше по жизни, идёт работа в группах. Это всё опять же о биг дата. Ведь не группы, по крайней мере раньше, прогресс двигали, а кто-то, отдельные личности. Так правильно ли ИИ создают или их будет несколько, по уровню интеллекта, в зависимости от потребителя?

2) Статья признаёт, что для создания искусственного интеллекта "пылесос" собирает из сети и из других источников информацию. То есть, система спокойно скачивает с Прозы моего "Кота Баскервилей" или скачивает что-то другое, не получив на это моё разрешение, шифрует "сворованную" инфорамцию своими кодами и использует в своих целях. Опа! А это легально? Никто не хочет знать или хочет не знать. Я так думаю.

"Я так думаю" - написала и гордость почувствовала...  Неужели отберут?

-----------

* (моё пояснение - Е.Т.) GenAI  (Generative AI) Генеративный ИИ — это тип искусственного интеллекта, который позволяет пользователям быстро создавать новый контент на основе различных входных данных. Входные и выходные данные этих моделей могут включать текст, изображения, звуки, анимацию, 3D-модели или другие типы данных.

* (моё пояснение - Е.Т.) "Журналист данных" использует числовые данные, цифровую информацию и онлайн-аналитику, чтобы находить и писать истории. С помощью технологий и программного обеспечения журналисты могут разрабатывать и включать инфографику и визуализацию данных в повествовантельный (описательный) отчёт.  Описательный отчёт представляет вещи или события, которые произошли в прошлом, посредством логического развития соответствующей информации. Что же понимается под отчётом? По-моему, в данном контексте применимо одно из не очень привычных, по карайней мере в английском языке, значений слова отчёт, а именно отчёт - это часть информации, которая не подкреплена убедительными доказательствами и которая, по мнению говорящего, может быть правдивой, а может и не быть правдивой. Т.е., по простому, история или выдумка, но выдумка, как бы имеющая под собой базу ИИ.

Нарративный (повествовательный) ИИ — это подраздел искусственного интеллекта, который уделяет особое внимание созданию и пониманию повествований или историй.

** (моё пояснение - Е.Т.) biases -  действие, направленное на поддержку или противодействие конкретному человеку или предмету несправедливым образом, поскольку позволяет личному мнению влиять на ваше суждение. Для целей данной статьи для простоты я буду приравнивать biases к ошибкам.