Исследователи выяснили, что память и логика в нейросетях работают независимо

В рамках исследования учёные использовали математическую методику под названием K-FAC (Kronecker-Factored Approximate Curvature), которая позволила им аккуратно удалить определенные данные, не нарушая общей структуры нейросети.

После процедуры "амнезии" ИИ сохранял знания о столицах стран, однако он стал ошибаться в именах руководителей компаний, что привело к снижению точности ответов в этой области на 78%.

Интересно, что способности к решению математических задач и логических задач почти не пострадали, что подтвердило возможность разделения памяти и логического рассуждения.

Учёные также заметили, что информация, к которой модель обращалась чаще в процессе обучения, сохранялась надёжнее. В то время как редкие факты легче поддавались "забвению".

Данное открытие имеет потенциал для разработки ИИ с возможностью частичного "обнуления" — удаления ненужных данных без ущерба для его способности к анализу и размышлению.