Аналіз минулого досвіду. Anthropic навчила Claude бачити сни та виправляти власні помилки

Про це пише видання Interesting Engineering.

Технологія натхненна процесом, під час якого людський мозок закріплює спогади уві сні. Однак Claude не бачить снів у звичному для людини розумінні. Коли модель не виконує завдань, вона переглядає збережені дані, порівнює їх із попередніми розмовами, виправляє неточності та створює структуровані записи.

Під час одного з експериментів дослідники перевірили, наскільки ефективно Claude зберігає інформацію під час проходження Pokémon Red. Вони порівняли дві моделі після приблизно 10 тисяч ігрових кроків.

Sonnet 3.7 зберігала майже все, з чим стикалася. Її система пам’яті складалася з 413 файлів у 225 папках загальним обсягом близько 978 тисяч символів. Попри це, модель здобула лише один значок у грі.

Натомість Claude Fable 5 використовувала значно компактнішу систему — 10 файлів у трьох розділах обсягом приблизно 43,4 тисячі символів. Вона змогла отримати чотири значки. Модель зберігала передусім корисні стратегії проходження, попередні висновки, поточні цілі та плани дій.

Ще один експеримент продемонстрував, як «сновидіння» допомагають виправляти помилки. Під час гри Claude неправильно запам’ятала розташування центру покемонів поблизу гори Місяця (Mt. Moon). Через це вона помилково визначала своє місце перебування та постійно поверталася на вже пройдений маршрут.

Під час наступного аналізу модель зіставила збережені нотатки з початковим записом ігрової сесії, виявила неточність та виправила її. Після цього Claude змогла повторно пройти печеру й дістатися міста Церулін (Cerulean City). Версія з помилковими записами так і не подолала цю перешкоду.

Anthropic також перевірила можливість використання технології для роботи з великими масивами документів. В одному з досліджень Claude опрацьовувала близько 350 тисяч внутрішніх документів компанії Stainless загальним обсягом приблизно 420 мільйонів токенів.

За 128 сеансів модель поступово створила та вдосконалила базу знань із посиланнями між пов’язаними матеріалами. Завдяки цьому точність відповідей на 25 контрольних запитань зросла з 13% до 48%.

В іншому експерименті Claude відповідала на запитання, для яких потрібно було знаходити інформацію одразу в кількох документах. Використання створеної бази знань забезпечило точність 87%, тоді як звичайний пошук за документами дав результат 73%.

Розробники також досліджують, як модель може самостійно визначати, яку інформацію варто зберігати в легкодоступному контексті, а яку — залишати в окремих файлах для пошуку за потреби.

Водночас технологія має обмеження. Аналіз і впорядкування пам’яті потребують додаткових обчислювальних ресурсів, а надмірна кількість збережених відомостей може ускладнювати подальшу роботу моделі. Тому Anthropic прагне навчити ШІ не лише накопичувати інформацію, а й визначати, що справді варто запам’ятовувати та переглядати.