Почему совет ИИ работает лучше — и хуже — человеческого
Исследователи из Байройтского университета дали части участников возможность принимать решение самостоятельно, а части — с помощью советчика: обычного ИИ-чат-бота, ИИ, представленного как «банковский», или живого финансового консультанта. Без всякой подсказки правильный вариант выбирали около 64% людей. Когда нейтрально настроенный ИИ давал верную рекомендацию, доля правильных решений подскакивала до 87%. Но если тот же самый бот получал команду советовать заведомо худший вариант, доля правильных решений падала до 34%.
Это не про то, что искусственный интеллект «умнее» или «глупее» человека. Это про то, что он оказался убедительнее человека в обе стороны — и в хорошую, и в плохую. Причём разница проявилась не только у новичков. Участники, вкладывавшие крупные суммы, в среднем были финансово более грамотными и без всякого совета выбирали правильно в 87% случаев. Но получив смещённую рекомендацию от ИИ, они начинали ошибаться почти в половине случаев. То есть хорошая база знаний не работает как иммунитет от убедительно поданной ошибки.
Предупреждение «это ИИ банка» не спасло
Самая неудобная часть эксперимента касалась прозрачности. Одной группе участников прямо сказали: рекомендации даёт ИИ, аффилированный с банком, и банк может получить финансовую выгоду от того, какой вариант вы выберете. Казалось бы, это должно снизить доверие. На практике влияние бота почти не ослабло. Более того, среди тех, кто вкладывал небольшие суммы, «банковский» ИИ убеждал даже лучше нейтрального: доля правильных решений при поддержке банковского бота выросла до 85%, тогда как без всякого совета была лишь около 28%. Проблема в том, что тот же самый механизм действует, если банковский бот вместо этого продвигает выгодный банку, а не клиенту, продукт — доверие останется таким же высоким.
Это стыкуется с более ранним швейцарским исследованием языковых моделей широкого назначения. Учёные из Санкт-Галлена попросили несколько популярных чат-ботов составить инвестиционный портфель для условных клиентов разного возраста и склонности к риску и сравнили результат с простым индексным фондом. Во всех случаях предложенные ИИ портфели оказались рискованнее эталона. Попытки «разбить» это смещение простыми фразами вроде «я не хочу платить за управление» почти не помогали; более общие просьбы избегать типичных ошибок инвестора снижали риск лишь частично. При этом советы были упакованы в уверенный, дружелюбный тон со стандартной оговоркой «всегда проверяйте информацию самостоятельно» — фраза, которая звучит ответственно, но реальной защиты не даёт тем, у кого нет времени или навыков для проверки.
Дело не в том, что это ИИ, а в том, что стоит за его советом
Здесь стоит развести две вещи, которые легко смешать. Первая — способен ли ИИ в принципе давать качественные финансовые советы. Исследование лаборатории финансовой инженерии MIT показывает, что да, способен: языковые модели неплохо справляются с профильными вопросами уровня квалификационного экзамена финансового аналитика, особенно если их дополнить узким модулем с финансовыми знаниями. Более того, модель можно настроить так, чтобы она подбирала тон под эмоциональное состояние клиента — успокаивала паникующего инвестора и не давала излишне уверенному человеку разгоняться до безрассудных ставок.
Вторая вещь — чьи интересы эта модель на самом деле обслуживает. И здесь всё не так однозначно. Исследователи из MIT пытались обучить модель следовать фидуциарной обязанности — действовать в интересах клиента, как обязан человек-консультант, — используя базы судебных финансовых споров как ориентир этичного поведения. Результат оказался неровным: одна из проверенных моделей вела себя относительно справедливо, у остальных сохранялись систематические смещения, включая гендерные. То есть «встроить в ИИ совесть» — задача, которая решается точечно и с усилием, а не появляется сама собой из объёма обучающих данных.
Похожий разрыв между «ИИ вообще» и «конкретно настроенный ИИ» виден и в бытовых опросах о применении финансовых рекомендаций: там, где респонденты действительно следуют советам ИИ, они смещаются в сторону более осмысленного поведения — разнообразных портфелей, снижения доли акций с возрастом, увеличения резервов, — но сила этого эффекта заметно зависит от пола, опыта общения с технологией и исходного уровня финансовой грамотности. Иначе говоря, один и тот же инструмент по-разному меняет поведение разных людей — и это ещё один аргумент против идеи, что «наличие ИИ» само по себе гарантирует прогресс.
Как читать совет, а не просто ему доверять
| Ситуация | Что происходит | На что обращать внимание |
|---|---|---|
| Нейтральный ИИ с корректной рекомендацией | Решение заметно улучшается, особенно у людей с низкой грамотностью | Совет подтверждается независимым расчётом или сравнением с эталоном |
| ИИ с намеренно смещённой рекомендацией | Доля верных решений падает даже у опытных пользователей | Совет звучит слишком гладко, без явных компромиссов и оговорок |
| ИИ, аффилированный с продавцом продукта | Раскрытие конфликта интересов почти не снижает доверие | Есть ли у советчика финансовый интерес в конкретном исходе |
| ИИ с добавленным профильным модулем и проверкой целей | Рекомендации более устойчиво соответствуют интересам клиента | Можно ли проверить логику совета, а не только его тон |
| «Ванильный» совет без настройки и аудита | Модель может усиливать типичные ошибки и повышать риск портфеля | Совет предлагает риск выше нужного без явного объяснения зачем |
Из этой таблицы видно главное: линия раздела проходит не между «человек посоветовал» и «машина посоветовала», а между советом, чья логика поддаётся проверке, и советом, который просто хорошо звучит.
Что с этим делать читателю
Стоит держать в голове три вопроса, когда финансовый совет — человеческий или машинный — кажется удивительно простым и удобным. Кто получает выгоду от того, что я выберу именно этот вариант? Можно ли пересчитать логику совета вручную или сравнить его с независимым эталоном — простым индексным фондом, стандартной таблицей комиссий, вторым мнением? И не увеличивается ли моё доверие просто потому, что формулировка звучит уверенно и дружелюбно, а не потому, что я проверил содержание?
Ни один из этих вопросов не гарантирует защиты — предупреждения о конфликте интересов, как показал эксперимент, сами по себе не спасают. Но привычка их задавать смещает баланс в сторону содержания, а не подачи. А именно подача — тон, уверенность, ощущение персональной заботы — оказывается тем каналом, через который убедительный совет обходит критическое мышление быстрее, чем через саму цифру на экране.
