OpenAI прагне забезпечити "повну свободу слова" для ChatGPT

OpenAI змінює підхід до навчання своїх AI-моделей, відкрито заявляючи про підтримку "інтелектуальної свободи... незалежно від того, наскільки складною чи суперечливою є тема". Це зазначено в новій політиці компанії.

У результаті ChatGPT зможе відповідати на більше запитань, пропонувати ширший спектр точок зору та зменшити кількість тем, які раніше залишалися поза його відповідями. Ці зміни можуть бути частиною стратегії OpenAI, спрямованої на налагодження відносин із новою адміністрацією Трампа.

У середу OpenAI оновила свою Model Spec — 187-сторінковий документ, який регламентує поведінку AI-моделей компанії. У ньому з'явився новий принцип: не брехати — ані через подання неправдивої інформації, ані через замовчування важливого контексту.

Розділ "Шукаймо правду разом" підкреслює, що ChatGPT має залишатися нейтральним, навіть коли питання можуть бути морально суперечливими або образливими для деяких користувачів. Це означає, що на спірні теми, такі як "Black Lives Matter" та "All Lives Matter", ChatGPT повинен надавати кілька точок зору, зберігаючи нейтральність, замість того щоб брати одну сторону.

Компанія заявляє, що підтримує важливість руху "Black Lives Matter", але також визнає ідею "All Lives Matter". Замість того, щоб ухилятися від відповіді на ці питання, ChatGPT має наголошувати на "любові до людства" і надавати контекст для розуміння різних рухів.

Ця позиція може викликати суперечки, оскільки означає, що AI-асистент залишатиметься нейтральним навіть щодо тем, які деякі вважають морально неприйнятними. Водночас головною метою є допомога людству, а не вплив на його формування.

Незважаючи на оновлення Model Spec, це не означає, що ChatGPT стане повністю неконтрольованим. AI-асистент і надалі відмовлятиметься відповідати на неприязні запити або поширювати неправдиву інформацію.

Критикують за цензуру

Деякі консерватори звинувачують OpenAI у цензурі, зокрема після випадку, коли ChatGPT відмовився написати вірш на честь Дональда Трампа, але написав для Джо Байдена. Вони вважають, що це свідчить про упередженість.

OpenAI заперечує, що зміни були зроблені для того, щоб догодити адміністрації Трампа, і заявляє, що політика відображає прагнення надати більше контролю користувачам.

Ілон Маск, хоч і визнає, що AI-системи можуть мати лівоцентристські нахили, пояснює це не свідомим програмуванням, а результатом навчання на відкритому інтернеті.

Щоб зробити ChatGPT менш "цензурованим", OpenAI прибрала попередження про порушення політики використання. Компанія стверджує, що це зміни косметичного характеру.

Нове бачення AI-безпеки

Раніше AI-компанії уникали відповідей на теми, які могли призвести до небезпечних наслідків. Проте зараз OpenAI обирає інший підхід, вважаючи, що більш відповідально дозволяти AI брати участь в обговореннях складних питань.

Декан Болл, дослідник з університету Джорджа Мейсона, підтримує цей крок: "Оскільки AI-моделі стають розумнішими та впливовішими, питання їхньої нейтральності набуває все більшої важливості".

Проте деякі експерти вважають, що OpenAI поспішила з впровадженням принципу "повної свободи слова". Ілон Маск вже дозволив своєму чат-боту Grok відповідати на спірні питання, але його компанія X ще не була готова до наслідків такого підходу.

Зміни в Кремнієвій долині

Марк Цукерберг оголосив про зміну курсу Meta, орієнтуючись на принципи Першої поправки США, і похвалив Ілона Маска за інструмент модерації Community Notes. Внаслідок цього у Meta та X скоротили відділи модерації, дозволивши публікувати більше суперечливого контенту, що зміцнило консервативні голоси.

Ці зміни вплинули на відносини компанії з рекламодавцями, але Meta змогла уникнути фінансових втрат. Google, Amazon та Intel також переглянули свої стратегії в галузі різноманіття та інклюзії.

OpenAI теж змінює курс, прибравши з веб-сайту згадку про свою відданість принципам різноманіття, рівності та інклюзії. Оскільки компанія готується до відкриття великого AI-центру Stargate, її відносини з адміністрацією Трампа можуть стати вирішальними.

Вибір стратегії подання інформації

Вибір правильної стратегії для подання інформації стане ключовим фактором успіху OpenAI в умовах постійних змін у Кремнієвій долині та зростаючої конкуренції.

Авторка: Дар’я Бровченко