Дослідники з Пекінського університету та Університету Цінхуа знайшли часткову схожість між тим, як людський мозок і великі мовні моделі обробляють логічні задачі. А потім пішли далі — використали дані про активність мозку під час мислення, щоб покращити відповіді ШІ.
Дослідження опублікували в журналі Nature Machine Intelligence.
Як це працює
Йдеться про дедуктивне мислення — коли з кількох відомих фактів потрібно зробити логічний висновок. Наприклад: якщо всі коти — тварини, а Мурчик — кіт, то Мурчик є твариною.
Для експерименту дослідники використали відкритий набір даних fMRI — сканування мозку людей, які розв’язували такі логічні задачі. Потім ті самі завдання дали 10 мовним моделям із кількістю параметрів від 1,5 млрд до 72 млрд.
Науковці порівняли те, що відбувається в ділянках людського мозку, пов’язаних із логічним мисленням, із внутрішньою активністю нейромереж.
Виявилося, що між ними є певна схожість, хоча моделі й люди обробляють інформацію зовсім не однаково.
Потім дослідники створили метод, який використовує патерни активності людського мозку як орієнтир і трохи змінює внутрішню роботу LLM під час розв’язання задач.
З ним модель ніби отримує додаткову підказку не про те, в якому напрямку обробляти інформацію, радше ніж про те, яку відповідь треба дати.
Метод випробували на всіх 10 моделях. За даними авторів роботи, він покращував результати в логічних задачах і навіть міг працювати на дещо інших типах завдань, ніж ті, на яких його налаштовували. В окремих експериментах точність зростала до 13 процентних пунктів.
Дослідники також хочуть перевірити цей підхід і на інших когнітивних здібностях та з іншими способами запису активності мозку.
Вони припускають, що такі дані можуть бути особливо корисними там, де складно навчити модель лише на текстових прикладах.