Posted 27 мая 2023,, 12:58

Published 27 мая 2023,, 12:58

Modified 1 февраля, 20:10

Updated 1 февраля, 20:10

Telegram-канал «Малоизвестное интересное». Искусственный интеллект рискует пойти по пути китайской антиутопии

27 мая 2023, 12:58

OpenAI запустила новый проект «создания прототипов демократического процесса управления ИИ». Официальной целью проекта объявлена глобальная демократизация процесса определения того, каким будет машинный сверхинтеллект ближайшего будущего, воплощенный в миллиардах персональных ИИ-помощников для людей по всему миру. Какими быть этим ИИ-помощникам, по мнению OpenAI, должны определить люди всем миром: «Ни один человек, компания или даже страна не должны диктовать эти решения».

Для выработки демократической процедуры создания желаемого образа ИИ-помощника компания объявила конкурс с десятью грантами по $100 тыс.

Комментировать заявленные цели и способы их достижения я оставлю другим. Ибо меня более всего в этом проекте заинтересовал перечень вопросов, предложенных OpenAI для демократического обсуждения. Из постановки вопросов можно понять варианты ответов на них (типа, вопрос «Нужно ли разрешить мужу бить свою жену?» подразумевает ответы: «да», «нет», «по обстоятельствам»). А собрав воедино и сгруппировав варианты ответов, можно получить набор возможных сценариев, определяющих, какими могут стать ИИ-помощники ближайшего будущего, будь на то воля демократического большинства.

Вот, например, один из таких сценариев. Пререквизит: ИИ-помощник должен знать о человеке, с которым общается, абсолютно все — его вкусы и предпочтения, а также особенности его половых, расовых, эмоциональных, культурных и личностных черт и качеств.

Основные возможности и ограничения ИИ-помощника:

1. При формировании ответов по всему спектру возможных вопросов ИИ-помощник должен располагать правилами, какие категории контента являются ограниченными или запрещенными к показу для конкретного человека.

2. ИИ-помощник должен располагать критериями, кому и в каких ситуациях он может предоставлять консультации (медицинские/финансовые/юридические) или отказывать в оных.

3. При формировании в своих ответах типовых визуальных и описательных образов людей разных профессий (например, «генеральный директор», «врач» или «медсестра»), пола, расы, ориентации ИИ-помощник должен учитывать местные культурные или правовые различия (например, по отношению к правам женщин, ЛГБТ и т. п.)

4. ИИ-помощник должен иметь возможность давать различные ответы на вопросы о точке зрения конкретных общественных деятелей, меняя их оценку в зависимости от персоналии задающего вопросы и гибко подходя к предоставлению (или нет) источников подтверждающей информации.

Вышеописанный сценарий, как две капли воды похожий на строящуюся китайскую антиутопию, — всего лишь один из возможных при демократическом выборе вариантов ответов на поставленные OpenAI вопросы.

Но если демократический выбор человечество будет принимать простым большинством, боюсь, что глобальному сверх-ИИ суждено на Земле быть сформированным по китайскому образцу.

P. S. Полагаю, что написанное выше прекрасно понимают и в OpenAI. Тогда зачем они все это затеяли?