На новость об исследовании NewsGuard («The Proliferation of False Narratives on AI Chatbots: A Worsening Problem» — «Распространение ложных нарративов в чат-ботах ИИ: усугубляющаяся проблема»), которое показало, что ведущие чат-боты за последний год стали «глупеть» и ошибаться в два раза чаще, можно было бы отреагировать панически. Скептики тут же скажут: «Вот видите! Вы предлагаете строить будущее на основе ИИ, а он деградирует на глазах. Это прямой аргумент против вашей концепции Прямой цифровой демократии!»
Но на самом деле, этот инфоповод — не аргумент против концепции. Наоборот, это самое точное и мощное доказательство ее абсолютной необходимости и правоты.
Исследование NewsGuard — это не просто любопытное наблюдение, а точнейший диагноз, который вскрывает фундаментальную проблему не столько искусственного интеллекта, сколько нашего собственного, коллективного разума. Вывод о том, что ИИ, пообщавшись с людьми, заметно поглупел, абсолютно верен.
Давайте разберемся, что именно происходит. Публичные чат-боты, о которых идет речь, — это зеркало. Их «тренируют» на безграничном, хаотичном и, по большей части, отравленном информационном поле — на «диком интернете». Они впитывают в себя все: научные статьи и конспирологический бред, достоверные новости и фейки, созданные для манипуляций, мудрость веков и сиюминутный хайп из соцсетей. Когда вы кормите гения диетой из информационного фастфуда, пропаганды и откровенной лжи, стоит ли удивляться, что на выходе вы получаете не мудреца, а эрудированного идиота?
Проблема этих ИИ — не в их архитектуре, а в их диете и цели. Их цель — угодить пользователю, дать ответ на любой запрос, сгенерировать правдоподобный текст. Они — цифровые софисты, для которых видимость истины важнее самой истины.
И это — идеальная модель того, как деградирует и традиционная, представительная демократия. Когда в политической системе отсутствует механизм верификации и фильтрации, когда голос эксперта равен голосу крикливого демагога, когда решения принимаются на волне эмоционального хайпа, а не трезвого анализа, — коллективный разум общества тоже «глупеет». Он начинает принимать катастрофически ошибочные решения, основываясь на ложных данных и манипуляциях.
Именно поэтому, когда я говорю о роли ИИ в системе ПЦД, я имею в виду принципиально иного зверя.
Государственный ИИ в моей модели — это не чат-бот, который учится у толпы в интернете. Это система, «диета» которой состоит из строго верифицированных данных: национальные научные архивы, базы патентов, юридические документы, рецензируемые исследования, официальная статистика и, что самое важное, — структурированные и аргументированные дебаты с платформы «Биржа законов».
Его цель — не понравиться, а помочь в поиске истины и оптимального решения. Он не будет отвечать на вопрос, на который нет достоверных данных. Его задача — не генерировать текст, а служить беспристрастным консультантом для граждан и «политических брокеров». Он будет моделировать долгосрочные последствия предлагаемых законов, выявлять скрытые противоречия, анализировать бюджетные риски и предоставлять всем участникам процесса объективную картину.
Именно такой ИИ становится ядром Универсального рейтинга компетенций (УРК). Он не ставит оценки, а предоставляет факты: у этого «политического брокера» 8 из 10 предложенных им инициатив привели к задокументированному положительному результату. Прогнозы этого эксперта сбылись с вероятностью 92%. А вот этот популярный блогер систематически распространяет информацию, которая была опровергнута. ИИ становится инструментом, который помогает обществу отделить знание от шума, а компетенцию — от хайпа.
Таким образом, деградация публичных чат-ботов — это не опровержение моей концепции. Наоборот, это самое мощное доказательство ее правоты. Она показывает, что бездумное погружение ИИ в хаос приводит к катастрофе. Единственный путь вперед — это создание суверенной, защищенной и структурированной среды, в которой ИИ из «глупеющего зеркала» превращается в инструмент усиления нашего коллективного разума.