На днях в IT-мире разразился уморительный скандал. Руководство Amazon ввело KPI: каждый разработчик обязан еженедельно использовать ИИ-инструменты, а расход токенов начали отображать на внутренних рейтингах. И что сделали высокооплачиваемые программисты? Начали работать эффективнее? Нет. Они создали скрипт, который генерирует абсолютно бессмысленные запросы к ИИ — просто чтобы накрутить счётчик и выглядеть хорошо в таблице. Имитация бурной деятельности в чистом виде.
Смешно? А теперь честно: мы с вами и наши дети делаем то же самое каждый божий день.
Добро пожаловать в одно из самых коварных когнитивных искажений и ошибок мышления — закон Гудхарта.
Это пятый материал цикла. Предыдущие части: 9 багов мозга, которые мешают вам жить · Баги 2.0: почему память врёт · Баги 3.0: иллюзии эго · Фобия паузы: слова-паразиты
Что такое закон Гудхарта — и почему он везде
В 1975 году экономист Чарльз Гудхарт сформулировал принцип, который с тех пор воспроизводится везде — от корпораций до детских комнат:
«Когда мера становится целью, она перестаёт быть хорошей мерой»
Социолог Дональд Кэмпбелл пошёл дальше (его теорию иногда называют законом Кэмпбелла) и описал, что происходит, когда показатели используются в системах с людьми:
«Чем чаще количественный показатель используется при принятии решений, тем сильнее он подвергается давлению и тем больше риск, что он будет искажать те процессы, за которыми призван следить»
Кэмпбелл заметил важную вещь: в системах с людьми показатель не просто перестаёт работать — он начинает провоцировать имитацию. Люди не игнорируют метрику. Они её взламывают. Именно это сделали программисты Amazon с токенами. Именно это делает ребёнок, который тараторит текст ради скорости чтения. Именно это делаем мы, когда трясём браслет на диване в 23:45.
Мозг — великолепная оптимизирующая машина. Дайте ему чёткую цифру — и он найдёт кратчайший путь к её достижению. Проблема в том, что кратчайший путь к показателю почти никогда не совпадает с путём к реальному результату. Мы хотим одного — получаем совершенно другое — и искренне удивляемся.
Ловушка фитнес-браслета: откуда взялась норма 10000 шагов в день
Изначальная цель: стать здоровее, чувствовать себя бодрее.
Показатель: 10 000 шагов на часах, закрытые кольца активности, цифра на весах.
Кстати — вы когда-нибудь задумывались, откуда взялась норма 10000 шагов в день и почему надо ходить именно столько? Спойлер: это не медицинский стандарт, а просто удачный маркетинговый слоган японского шагомера 1965 года. Но мозг давно принял эту цифру за истину. И вот знакомая картина: на часах 23:45, вы валитесь с ног от усталости — но наворачиваете круги по спальне (или просто трясёте рукой, лёжа на диване), чтобы часы провибрировали и выдали салют за закрытое кольцо. Стали ли вы здоровее от этих кругов вместо сна? Нет. Но мозг получил дозу дофамина от красивой цифры.
Некоторые врачи даже всерьез обсуждают, вредны ли фитнес браслеты для здоровья, ведь эта жесткая привязка к показателям сильно повышает тревожность. То же самое с весами. Не пить воду весь вечер и сходить в баню, чтобы утром увидеть заветный минус 1 кг — стали ли вы от этого здоровее? Весы показывают нужное. Смысл убит.
Попробуйте добавить рядом с измеримым критерием неизмеримый: не только «10 000 шагов», но и «чувствую лёгкость в теле». Неизмеримый критерий не даёт мозгу уйти в чистую охоту за цифрой.
Школьный баг: что важнее — оценки или знания?
Изначальная цель: ребёнок получает знания и учится думать.
Показатель: пятёрка в дневнике, скорость чтения, количество прочитанных книг.
Дети усваивают ловушку Гудхарта быстрее взрослых. Вспомните, как мамы первоклашек переживают за нормативы техники чтения для 1 класса: ребёнок тараторит текст с секундомером, глотает окончания, получает «пятёрку» за 80 слов в минуту — и не может пересказать ни абзаца. Метрика выполнена. Смысл чтения уничтожен. А если хвалить за количество прочитанных книг на каникулах — ребёнок просто начинает выбирать самые тонкие книжки с огромным шрифтом.
Или домашнее задание: зубрит стихотворение за десять минут до урока, получает пятёрку, через час — абсолютная пустота в голове. (Кстати, о том, почему память вообще так легко нас обманывает — читайте в «Багах 2.0»). Это не лень и не обман. Это совершенно рациональная оптимизация под показатель.
Перестаньте спрашивать «Что ты сегодня получил?». Попробуйте: «Что самое интересное узнала?» или «Какая задача была сложнее всего?». Маленькая замена вопроса — большой сдвиг в том, что ребёнок считает важным.
Синдром чистой тарелки: съеденное против сытости
Изначальная цель: ребёнок получает питательные вещества и растёт здоровым.
Показатель: пустая тарелка.
«Умница, съел всё до последней ложечки!» — так мы часто хвалим малышей. Что в этот момент фиксирует детский мозг? Он учится есть до тех пор, пока не покажется дно тарелки, — а не до тех пор, пока не наступит сытость. Мы сами сбиваем детям природные настройки, подменяя реальную цель (насыщение) удобной и видимой метрикой (чистая посуда).
Уборка по-гудхартовски: чистый пол против порядка
Изначальная цель: жить в уютной комнате, где легко найти нужную вещь.
Показатель: визуально чистый пол к маминому приходу.
Каждая из нас знает, как выглядит детская уборка с жёстким KPI «чтобы через пять минут ничего не валялось». Носки, детали лего и огрызок яблока сгребаются в кучу и запихиваются под кровать. Пол чист. В шкафу открылся портал в ад, а нужную вещь найти стало ещё сложнее.
Но и мы сами так делаем, поддаваясь иллюзии контроля: быстро раскладываем всё по ящикам перед приходом гостей — и потом неделю не можем найти нужный документ.
Вместо оценки «визуальной пустоты» попробуйте другой вопрос: «Ты сама знаешь, где всё лежит?» Это и есть настоящий порядок.
Почему мозг так делает
Выдыхаем — это не про лень и не про обман. Абстрактные цели («стать умнее», «стать здоровее») требуют огромных затрат энергии на обдумывание. А конкретная цифра — это чёткая задача с понятной наградой. Мозг всегда выберет кратчайший путь к цифре, чтобы получить одобрение — начальства, мамы или салют на экране часов — с минимальными усилиями.
Метрики — отличные инструменты, пока они остаются градусниками, а не самоцелью. Если градусник показывает температуру — мы лечим болезнь. Но если целью становится «нормальная температура на градуснике», мы просто прикладываем его к кубику льда и радуемся, игнорируя воспаление.
А что с детьми?
Этот баг передаётся. Ребёнок, которого хвалят за количество прочитанных книг, выбирает тонкие книги. Ребёнок, которому говорят «молодец, съел всю тарелку», учится есть до дна, а не до сытости. Ребёнок, которого спрашивают только про оценки, учится ради оценок. (О том, как еще мозг дурит нас в общении и восприятии, можно почитать в материале «Баги 3.0»).
Хорошая новость: эту проблему можно обсуждать вместе — и это работает лучше любых нотаций. Родители часто спрашивают на форумах, как мотивировать ребенка на учебу. Начните с честности. Расскажите ребёнку про программистов из Amazon. Это смешная и понятная история. И спросите: «А ты когда-нибудь делал что-то только ради галочки?» Дети отвечают честно — и сами начинают замечать подмену.
Выдыхаем
В следующий раз, когда поймаете себя за бессмысленным действием «ради галочки» или расстроитесь из-за цифры на весах — вспомните хитрых программистов из Amazon. Остановитесь, улыбнитесь и спросите себя: «А не приложила ли я сейчас градусник ко льду?»
И если сил на вечернюю тренировку нет — просто снимите браслет и ложитесь спать. Ваш организм скажет спасибо, даже без виртуального салюта на экране.
Признавайтесь в комментариях: в каких ситуациях вы или ваши дети «взламывали» систему? Трясли фитнес-браслет на диване? Выбирали тонкие книжки для читательского дневника? Или на работе есть отчёт, который все делают только для галочки? Ждём ваши истории 👇