Meta навчає моделі правильно визначати пріоритети

Сучасні моделі штучного інтелекту, такі як OpenAI o1 та DeepSeek-R1, мають цікаву проблему: вони надто довго думають навіть над елементарними запитаннями. Наприклад, якщо спитати їх «Що таке 1+1?», вони можуть витратити кілька секунд, перш ніж дати відповідь, хоча для людини це миттєвий процес.

Це відбувається тому, що нейромережі схильні застосовувати однакові алгоритми міркування до всіх задач, незалежно від їхньої складності. Щоб вирішити цю проблему, дослідники Meta AI та університету Іллінойсу запропонували новий підхід, який навчає штучний інтелект визначати, скільки часу йому потрібно витратити на конкретний запит. Це допомагає пришвидшити відповіді, зменшити витрати ресурсів і зробити моделі більш ефективними.

ШІ-алгоритми навчилися розв’язувати складні завдання завдяки підходу під назвою «ланцюг думок». Він дозволяє моделі формулювати відповідь поетапно, немов розмірковуючи вголос. Однак цей метод не завжди доцільний: штучний інтелект починає аналізувати навіть найпростіші питання так, наче вони вимагають глибокого осмислення.

Раніше для підвищення точності відповідей використовували техніку «голосування більшості», коли модель генерує кілька варіантів і вибирає той, який зустрічається найчастіше. Проте цей підхід має значний недолік – він змушує модель витрачати однакову кількість часу на кожен запит, навіть якщо він елементарний.

Щоб уникнути зайвих обчислень, дослідники запропонували вдосконалену систему. Вона працює так: якщо перші кілька відповідей співпадають, алгоритм зупиняє процес роздумів і видає результат. Це дозволяє значно економити ресурси, особливо коли питання просте.

Наступний рівень оптимізації – це адаптивний аналіз. Модель спочатку оцінює складність питання й одразу вирішує, чи варто їй заглиблюватися в міркування. Якщо задача легка, ШІ просто видає відповідь без зайвих роздумів. Якщо ж питання складне, модель починає аналізувати його ретельніше.

Однак і цей метод потребує великих обсягів навчальних даних, які складно зібрати вручну. Тому дослідники запропонували використовувати алгоритми підкріпленого навчання. Вони дозволяють штучному інтелекту самостійно визначати, скільки часу слід витратити на розв’язання задачі.

Цей підхід показав чудові результати. Модель не тільки навчилася швидше відповідати на запити, але й стала ефективнішою. Вона змогла досягти кращих результатів, витрачаючи менше ресурсів.

Такі вдосконалення особливо важливі зараз, коли компанії стикаються з обмеженими обчислювальними потужностями та дефіцитом якісних навчальних даних. Штучний інтелект поступово підходить до межі своїх можливостей, і для подальшого розвитку потрібні нові підходи.

Це може стати важливим кроком у створенні ефективнішого та доступнішого штучного інтелекту, який не витрачатиме час на зайві роздуми.

Авторка: Дар’я Бровченко