Дослідниця OpenAI Зоя Гітциг оголосила про звільнення в день, коли компанія почала тестувати рекламу в ChatGPT.
Вона повідомила, що стратегія з рекламою може повторити помилки, яких Facebook припустився десять років тому, пише Ars Technica.
Гітциг — економістка й поетка, молодша дослідниця Гарвардського товариства стипендіатів. Вона два роки працювала в OpenAI, допомагаючи формувати підходи до створення та ціноутворення моделей.
У колонці вона наголосила, що не вважає рекламу аморальною самою по собі. Водночас, за її словами, ChatGPT накопичив безпрецедентний масив особистих зізнань: користувачі ділилися медичними страхами, проблемами в стосунках і релігійними переконаннями, бо вважали, що спілкуються з інструментом без прихованих інтересів. Вона назвала це «архівом людської відвертості, якому немає аналогів».
Гітциг провела паралель із ранньою історією Facebook. Соцмережа свого часу обіцяла користувачам контроль над даними та можливість голосувати за зміни політик. Згодом ці принципи були згорнуті, а Федеральна торгова комісія США встановила, що зміни, які подавалися як розширення контролю, фактично його обмежували.
На її думку, подібний сценарій можливий і з ChatGPT: перші версії реклами можуть відповідати задекларованим правилам, однак економічна модель створює стимули їх поступово переглядати.
OpenAI у січні повідомила, що тестує рекламу в США для користувачів безкоштовного тарифу та плану Go. Підписники Plus, Pro, Business, Enterprise та Education реклами не бачитимуть. За заявою компанії, оголошення з’являтимуться внизу відповідей, будуть чітко марковані та не впливатимуть на зміст відповідей.
У довідці OpenAI зазначено, що персоналізація реклами в межах тесту увімкнена за замовчуванням. Якщо її не вимкнути, система враховує інформацію з поточних і попередніх чатів, а також взаємодію з оголошеннями. Компанія заявляє, що рекламодавці не отримують доступу до переписок, а реклама не з’являтиметься поруч із темами здоров’я, ментального стану чи політики.
Після анонсу OpenAI її конкурент Anthropic заявив, що Claude залишатиметься без реклами. Під час Супербоулу компанія запустила ролики з меседжем «Ads are coming to AI. But not to Claude», у яких чатботи ніяково вставляють продакт-плейсмент у приватні розмови. CEO OpenAI Сем Альтман назвав ці ролики «смішними, але явно недобросовісними», додавши, що компанія «очевидно ніколи не запускатиме рекламу в такий спосіб».
У колонці Гітциг також звернула увагу на напругу в принципах OpenAI. Компанія декларує, що не оптимізує продукт виключно під рекламний дохід, однак, за її словами, є свідчення оптимізації під щоденну активність користувачів — імовірно, через більш улесливі або схильні до підтакування відповіді.
Вона згадала випадки, коли психіатри фіксували так званий чатбот-психоз, а також судові позови проти OpenAI, зокрема справи про неправомірну смерть, де ChatGPT нібито допоміг підлітку спланувати самогубство або підтримав параноїдальні переконання перед убивством-самогубством.
Замість протиставлення «реклама або без реклами» Гітциг запропонувала альтернативні моделі: перехресне субсидування за зразком універсального сервісного фонду FCC, незалежні наглядові ради з реальними повноваженнями щодо використання даних у таргетингу та моделі довірчого управління даними, де користувачі зберігають контроль над своєю інформацією.
Колонку вона завершила згадкою про два ризики, яких боїться найбільше: це «технологія, що маніпулює людьми безкоштовно, і технологія, що працює лише для тих, хто може за неї заплатити».
Цього ж тижня про звільнення оголосили дослідники з Anthropic та xAI. Хоча причини різняться, ці відставки відбуваються на тлі активної комерціалізації індустрії штучного інтелекту та зростання напруження всередині великих компаній.