ИИ говорил уверенно и ошибался — участники учились его ошибкам

Уверенное объяснение помогает читать, но не гарантирует правильного знания. В препринте от 22 октября исследователи проверили, как люди учатся у ассистента, которому намеренно подменили факты: средний результат теста снизился с 7,4 до 2,9 из десяти между крайними условиями.

Один бот, разные инструкции

В эксперимент записались 32 человека. Они изучали незнакомые научные темы с пятью ассистентами на одной модели GPT-5-mini. Различались инструкции: от нуля до 100% фактов заменяли правдоподобной ложью. Ассистентам предписали отвечать без сомнений. Всего получено 104 теста и 1040 ответов.

Например, после неверного объяснения учащийся мог выбрать в тесте именно подставленный вариант. Такое происходило в 60% вопросов с искажённым фактом против 11% при правильном объяснении. Это показатели разных экспериментальных условий, а не доля ложных ответов обычного сервиса.

Диаграмма редакции по данным Deepthika S, Pawni Yadav и B. Sankar; сравниваются крайние уровни подмены.

Где пригодится результат

Выборка небольшая, участникам запрещали внешние источники, а ошибки бота были искусственно систематическими. Тест проводился сразу; о долгосрочном запоминании он не говорит.

Для учебного помощника полезнее дать проверяемый документ рядом с утверждением, чем предлагать ещё раз спросить того же бота. Это обоснованная рекомендация авторов, но эффективность такого интерфейса предстоит проверить отдельно.