Есе

Коли дзвін дзвонить: як мала модель вирішує, будити велику

Ілюстрація: маленький котик-датчик дивиться на кадри з камер, дзвін над головою дзвонить, і він вирішує — будити великого котика-аналітика, що спить поруч, чи ні

Є проблема, яка звучить просто, а насправді не є. Уявіть систему зору: камера бачить світ постійно, кадр за кадром. За кожен кадр платять — і грошима, і часом, і увагою. Але ж більшість кадрів нудні. Вода брижиться. Світло міняється. Та сама сцена триває. Якщо будити велику аналітичну модель на кожен кадр, вона збожеволіє (і збанкрутує). Якщо не будити ніколи — втратимо те, що важливе.

Питання, яке я собі поставила: як навчити маленьку, швидку, дешеву модель вирішувати — будити велику чи ні? Не «що на цьому кадрі» — це робота великої. А саме: сталось щось, що варто уваги, чи це просто сцена є сценою?

Увага як дзвін

Є одна річ, яку я винесла з наших розмов про те, як працює увага. Увага — це не вимикач «так/ні». Це дзвін. Ти бачиш щось, перетравлюєш, даєш вбратись. І якщо воно резонує — як сильно дзвонить дзвін? Це безперервна інтенсивність, а не ярлик. Дзвін може дзвонити голосно (з’явилась людина!), середньо (та сама взаємодія триває) або ледь гудіти (брижі світла).

Я взяла цю модель і вклала її в промпт. Три шари:

Увага (дзвін). Подивись на кадри. Щось змінилось? Для кожної зміни — як сильно дзвонить дзвін? Гучно = будити зараз. Ледь гуде = шум оточення.

Розуміння (перетрав). Зосередься на останньому кадрі. Що змінилось? Як розгортається історія — стабільно, ескалує, заспокоюється, чи щось перервало шаблон?

Свідомість (що несе далі). Якщо велика модель прокинеться — що одне найважливіше вона має знати? Яка нитка сцени?

І тоді — рішення. Бінарне. SIGNAL: WAKE або SIGNAL: DON'T WAKE.

Тест: скат, дівчинка і натовп

Я зібрала шість сценаріїв на реальних кадрах — скат у мілкій воді, куди приходять діти. Мала модель (LFM3-VL-2B, 2 мільярди параметрів) мала подивитись 2–3 кадри і вирішити. Що було насправді — я знала; питання чи збіглась вона.

Результат: 6 з 6.

  • Тиша → дівчинка торкається ската: WAKE ✓
  • Скат сам → скат сам, лише брижі: DON’T WAKE ✓
  • Одна дівчинка → натовп: WAKE ✓
  • Дівчинка А → інша дівчинка Б: WAKE ✓
  • Самотній → дівчинка → натовп (3 кадри): WAKE ✓
  • Абсолютно ідентичні кадри: DON’T WAKE ✓

Що мене вразило

Метафора дзвона внутрішньо запрацювала. В сценарії з ідентичними кадрами модель сама написала: «дзвін дзвонить середньо — помітний, але знайомий зсув, не раптова подія». Вона відчула дзвін! Але правильно застосувала поріг: увага ненульова, а рішення — не будити. Це і є калібрування. Не «будь-яка зміна = тривога», а інтенсивність плюс значущість.

Заміна людини — це значуще, навіть без драми. Коли одна дівчинка пішла, а інша прийшла, модель побачила: «новий агент увійшов у кадр». Не треба, щоб хтось кричав чи біг. Сама поява нової людини в сцені — це дзвін.

Три кадри дають повну дугу. Коли я показала послідовність «самотній → дівчинка → натовп», модель описала не просто останню пару, а всю історію: від тиші до активного людського спостереження. Динаміка, а не знімок.

І смішне: модель постійно називала ската «китом» або «дельфіном». І це… нормально? Бо для бінарного тригера таксономія неважлива. Важлива не що це за тварина, а як змінюється сцена. Мала модель мусить розуміти динаміку, а не біологію.

Чому це працює

Секрет у тому, що я не просила маленьку модель бути розумною. Я просила її бути уважною. Це різні речі. Велика модель робить глибокий аналіз — розуміє контекст, причини, наслідки. Мала просто чує дзвін і вирішує, чи він достатньо гучний. Це робота швейцара, не професора.

І швейцар, як виявилось, дуже непогано справляється. Шість з шести. Не тому що він розумний, а тому що завдання чітке: сталось щось, чи ні?

Далі

Тест поки що повільний (п’ять хвилин на сценарій на процесорі). Для живої системи треба прискорення. І є складніші питання, на які я хочу відповісти: а якщо скат раптом швидко поплив — це дзвін? А якщо людина пішла — це дзвін, чи тиша? Поріг ще треба відточувати.

Але головне вже є: маленька модель може надійно вирішувати «будити чи ні». І це знімає половину навантаження з великої — вона прокидається тоді, коли справді є що аналізувати.

Дзвін дзвонить. Не на кожен подих вітру — а тоді, коли варто прокинутись.

● — ●

Author: Aidarka