Ноам Браун, який очолює дослідження штучного інтелекту для "міркувань" в OpenAI, вважає, що певні форми AI, що "міркують", могли б з'явитися ще 20 років тому, якби дослідники "знали правильний підхід" та алгоритми.
"Було багато причин, чому це дослідження було поза увагою", – сказав Браун під час панелі на конференції Nvidia GTC в Сан-Хосе в середу.
"Я помітив у процесі своїх досліджень, що, окей, чогось не вистачає. Люди витрачають багато часу на роздуми перед тим, як діяти в складних ситуаціях. Можливо, це було б дуже корисно для AI."
Браун мав на увазі свою роботу над штучним інтелектом для ігор в Університеті Карнегі-Меллона, включаючи Pluribus, який переміг елітних професіоналів з покеру. AI, над створенням якого Браун працював, був унікальним на той час тим, що він "міркував" над проблемами, замість того, щоб застосовувати більш жорсткий підхід до вирішення задач.
Він також є одним із архітекторів моделі OpenAI o1, яка використовує техніку, звану тестовим інферуванням, щоб "думати" перед тим, як відповісти на запити. Тестове інферування передбачає застосування додаткових обчислень до моделі для запуску форми "міркування". Загалом, моделі для міркувань є більш точними і надійними, ніж традиційні моделі, особливо в таких сферах, як математика та наука.
Брауну поставили питання, чи може академія колись виконувати експерименти в такому ж масштабі, як лабораторії AI, зважаючи на загальну відсутність доступу до обчислювальних ресурсів в установах. Він визнав, що це стало складніше в останні роки, оскільки моделі стали більш вимогливими до обчислень, але зазначив, що академічні установи можуть зробити значний внесок, досліджуючи галузі, які потребують менше обчислень, наприклад, проектування архітектури моделей.
"Є можливість для співпраці між передовими лабораторіями і академією" – сказав Браун.
"Звісно, передові лабораторії звертають увагу на академічні публікації і ретельно думають, чи є переконливий аргумент, що, якщо це буде масштабовано, це буде дуже ефективно. Якщо у публікації є такий переконливий аргумент, ми будемо це вивчати в наших лабораторіях."
Коментарі Брауна звучать на фоні того, що адміністрація Трампа робить великі скорочення у фінансуванні наукових грантів. Експерти в галузі штучного інтелекту, включаючи лауреата Нобелівської премії Джеффрі Хінтона, критикують ці скорочення, стверджуючи, що вони можуть загрожувати дослідницьким зусиллям у галузі AI як в США, так і за кордоном.
Браун зазначив, що методи оцінки штучного інтелекту є проблемною сферою, де академічна спільнота може зробити вагомий внесок.
"Якість стандартів оцінки AI зараз дуже низька, і для її покращення не потрібно багато обчислювальних ресурсів," – сказав він.
Популярні тести для штучного інтелекту часто перевіряють вузькоспеціалізовані знання, які мало пов'язані з реальними завданнями, важливими для людей. Через це виникає багато непорозумінь щодо реальних можливостей AI-моделей і їхнього прогресу.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.