На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

Свежие комментарии

  • Владимир
    Риск снижается, но все равно в итоге приводит к 100 % смертности.Инфаркт миокарда ...

Как память обобщает воспоминания? Новая теория

В статье из журнала Nature Neuroscience ученые описали то, как происходит обобщение воспоминаний в мозге при консолидации памяти. Они выступили против идеи, что обобщение – это нерегулируемый случайный переход памяти из гиппокампа в кору мозга, и предположили, что оно зависит от предсказуемости окружающей среды.

Авторы новой теории утверждают, что память консолидируется только при одном условии — если она способствует обобщению.

alt

Сredit: public domain


«Знать все на свете нереально, но я, мечту свою лелея, решил проблему гениально…»

Помните эти слова из одной научно-просветительской программы? Пожалуй, они идеально описывают то, что происходит с нашим мозгом, когда ему необходимо сохранить тонны информации из окружающей среды, большая часть которой даже не пригодится. Мозг придумал гениальное решение: оно заключается в том, что любое воспоминание не кодируется отдельно, а обобщается вместе со схожими в некоторый паттерн. Так, животное запоминает безопасный путь к источнику воды, затем обобщает свои знания, чтобы в будущем легче находить другие пути к воде. Память и обобщение (или генерализация) — взаимосвязанные процессы, которые помогают нам предсказывать будущее и правильно выстраивать свое поведение.

Но как мозг понимает, что нужно обобщать, а что – нет? Чем объясняется избирательность при консолидации памяти? Что бывает, если обобщить неверную информацию? Существующая на сегодняшний день теория системной консолидации говорит, что консолидация — это медленный процесс, при котором гиппокамп, осуществивший первичное кодирование информации за счет своих высокопластичных синапсов, передает информацию в постоянное хранилище коры мозга (неокортекса), синапсы которого обладают более медленной пластичностью. 

alt

Сredit: Sun et al., 2023


Системная консолидация занимает несколько дней. В это время гиппокамп как бы обучает неокортекс новой информации путем ее проигрывания и постепенно «отдает воспоминание» неокортексу. 

Где же здесь генерализация? На деле она происходит параллельно с консолидацией, так как неокортекс как бы распределяет воспоминания по критерию их схожести с другими и обобщает информацию. При таком рассмотрении обобщение считается неотъемлемой частью консолидации и происходит всегда без какой-либо регуляции. Но разве может мозг обобщать любую информацию? А если информация содержит шум? А если окружающая среда слишком быстро меняется и сводит на нет смысл генерализации?

Теория системной оптимально-генерализованной консолидации 

Ученые предложили использовать концепцию математических нейрональных сетей для ответа на проблемные вопросы теории системной консолидации. 

Они сравнили неокортекс со студентом, а окружающую среду – с учителем. Учитель может напрямую обучать студента – такое обучение называется прямым. В этом случае запомнится именно то, чему учитель обучит студента. Обучать можно как релевантной информации, так и нерелевантной (шуму). Чтобы ученик мог корректно отфильтровать релевантную информацию для последующего запоминания, нужен помощник — тетрадь с конспектом. Записав туда то, о чем говорит учитель, ученик может несколько раз самостоятельно повторить и понять данный материал. 

На математическом уровне каждый элемент системы “учитель — конспект — ученик” — это нейронная сеть с определенными параметрами. Студент может повторять материал несколько раз (неокортекс обучается), что выражается в изменении весовых коэффициентов сети. 

alt

Слева: модель “учитель — конспект и ученик” (окружающая среда, неокортекс и гиппокамп). Середина: запоминание, во время которого опыт (черная стрелка) кодируется в гиппокампе, а затем консолидируется в неокортексе. Справа: воспроизведение информации, в котором участвуют и гиппокамп, и неокортекс. Сredit: Sun et al., 2023


К сожалению, окружающая среда — не идеальный учитель. Она содержит множество шума в передаваемой мозгу информации. Возвращаясь к примеру с животным, ищущим место для водопоя: релевантная информация — это туман, большое количество мошкары, утренняя роса. Шум / нерелевантная информация — это яркость солнечного света и, например, раскраска пролетающих мимо птиц. 

Стоит отметить, что шум делает окружающую среду менее предсказуемой, тем самым уменьшая полезный эффект генерализации. Доля шума и релевантной информации зависит от механизмов скрытого и явного внимания, от того, насколько окружающая среда — учитель — дает достаточно информации студенту для обучения, а также от того, насколько учитель в целом подходит для студента (говоря на языке математики: студент может быть линейной нейронной сетью, а учитель — нелинейной). Реальный мир полон шума и сложности, а возможности мозга прикасаться к этому миру ограничены. 

Согласно теории системной консолидации, воспоминания должны быть интегрированы в систему обобщений, чтобы прогнозировать будущее. С другой стороны, непредсказуемость и изменчивость среды не должны быть записаны в нашей памяти. То есть, “студент” должен отделять шум от основной информации. На математическом языке это означает, что разность между входными данными учителя и предсказаниями ученика должна быть сведена к минимуму. 

Ученые предположили, что обучение начинается тогда, когда “гиппокамп — конспект” хранит некоторое количество примеров от окружающей среды, проигрывая их в виде активности нейронов. “Студент” постепенно изучает эти примеры с возрастающей точностью. Но в каждом повторении содержится ошибка, закодированная в начале и проигрываемая впоследствии. Таким образом, чем больше шума в окружающей среде, тем выше ошибка и тем хуже генерализация. 

Ключевая роль предсказуемости среды

В какой момент мозг поймет, что нужно перестать генерализировать? Что любое последующее обобщение будет искажать идеальную модель, которую мозг уже создал для предсказания будущего? Как он поймет, что шума слишком много?

Стандартная теория системной консолидации постулирует, что генерализация происходит естественным образом при консолидации. Тем не менее, она не учитывает, что генерализация может оказывать и вред на запоминание. С ее точки зрения, связка “учитель-конспект-ученик” всегда идеальна. Однако, для быстро меняющейся, трудно прогнозируемой окружающей среды, слишком большое количество консолидации приводит к деградации генерализации. 

Ученые предположили, что системная консолидация останавливается в тот момент, когда дальнейшая консолидация способна нанести вред генерализации. Мозг способен рассчитать такой момент, когда ошибка между обобщением и предсказанием начинает увеличиваться. Каким образом?

Одна стратегия заключается в использовании простой эвристики, что изначальная скорость обучения коррелирует с предсказуемостью. Это позволяет использовать параметр времени для остановки обучения. 

Другая стратегия состоит в разделении информации на тренировочную и проверочную. Такое разделение происходит в “гиппокампе — конспекте”. Первая информация необходима для обучения модели, которую кодирует неокортекс, а вторая — для ее валидации и последующего использования. Обучение завершается в тот момент, когда ошибка предсказания начинает увеличиваться.

Чтобы продемонстрировать свою идею, ученые симулировали поражение гиппокампа в нейрональных моделях, таким образом нарушая связку “учитель — конспект — ученик”. Системная консолидация в такой момент завершалась. Как и ожидалось, отсутствие “конспекта” в модели всегда приводило к ухудшению запоминания. Такой же эффект достигался при повышении уровня непредсказуемости “учителя”. 

alt

Синяя линия — работающий гиппокамп, голубые — поврежденный.
Сверху: моделирование результатов тестов на память исходя из классической теории системной консолидации (а) и предлагаемой авторами идеи (b). Снизу:  моделирование результатов генерализации для классической (c) и предлагаемой моделей (d). Черная стрелка показывает улучшение качества исходной информации (то есть снижение шума).
Сredit: Sun et al., 2023


Важно отметить новизну данной работы. Предыдущие теории не учитывали, что системная консолидация может приносить вред. Авторы данной работы показали, что нерегулируемая консолидация может привести к ухудшению памяти, слабым предсказаниям нейрональных сетей, если изначальных данных от окружающей среды было мало, либо они в избытке содержали шум. Все это приводит к проблемам генерализации. 

alt

Уровень ошибки памяти (синяя) и генерализации (красная)  при разных уровнях предсказуемости среды (низкая — слева, высокая — справа) и разных типах учителя (с большим количеством шума, слишком сложного, дающего недостаточное количество информации для обучения). Сredit: Sun et al., 2023


Таким образом, важное преимущество теории системной оптимально-генерализованной консолидации — это идея, что для успешной консолидации и обобщения важно, чтобы опыт был достаточен и предсказуем. Теория говорит, что для запоминания и обобщения важна не детальность опыта, не его частотность, не яркость стимула, как утверждало множество ранних научных работ, а его предсказуемость. 


Текст: Никита Отставнов

Organizing memories for generalization in complementary learning systems by Weinan Sun, Madhu Advani, Nelson Spruston, Andrew Saxe & James E. Fitzgerald in Nature Neuroscience. July 2023.

https://doi.org/10.1038/s41593-023-01382-9

Adblock test (Why?)

Ссылка на первоисточник

Картина дня

наверх