Працівники OpenAI висловлюють обурення через тиск компанії на платформи соціальних мереж.

Кілька нинішніх та колишніх дослідників OpenAI висловлюються щодо першого вторгнення компанії в соціальні мережі: програми Sora , стрічки в стилі TikTok, наповненої відео, згенерованими штучним інтелектом, та безлічі діпфейків Сема Альтмана . Дослідники, висловлюючи свої скарги на X, здається, розриваються між тим, як запуск вписується в некомерційну місію OpenAI з розробки передового штучного інтелекту, який принесе користь людству.

"Інструменти, засновані на штучному інтелекті, викликають певний страх", -- зазначив дослідник з OpenAI Джон Холлман у своєму пості на платформі X. "Не приховую, що коли я вперше дізнався про Sora 2, мене охопило тривожне відчуття. Проте, вважаю, що команда доклала максимум зусиль для створення позитивного користувацького досвіду... Ми прагнемо використовувати штучний інтелект на благо людства, а не на шкоду".

Боаз Барак, ще один дослідник OpenAI та професор Гарварду, відповів : "Я поділяю схожу суміш занепокоєння та хвилювання. Sora 2 технічно вражає, але передчасно вітати себе з тим, що ми уникнули пасток інших додатків соціальних мереж та діпфейків".

Рохан Пандей, колишній дослідник OpenAI, скористався нагодою, щоб презентувати свій новий стартап під назвою Periodic Labs. Це команда, що складається з експертів у сфері штучного інтелекту, які прагнуть створити інтелектуальні системи для підтримки наукових досліджень. "Якщо ви не зацікавлені у створенні безкінечних алгоритмів для збору інформації з TikTok, а бажаєте розробити штучний інтелект, який сприятиме розвитку фундаментальної науки... запрошуємо вас приєднатися до нас у Periodic Labs".

Існувало безліч інших публікацій на цю ж тему.

Запуск Sora висвітлює ключову суперечність, що постійно виникає навколо OpenAI. Це компанія, яка стрімко розвивається в сфері споживчих технологій, але водночас є провідною лабораторією штучного інтелекту з акцентом на некомерційні цілі. Деякі колишні працівники OpenAI, з якими я спілкувався, вважають, що бізнес у сфері споживчих продуктів теоретично може служити виконанню місії: ChatGPT допомагає фінансувати дослідження в галузі штучного інтелекту та сприяти поширенню технологій.

Генеральний директор OpenAI Сем Альтман висловився з цього приводу у своєму пості в середу, пояснивши, чому компанія інвестує значні кошти та обчислювальні ресурси в розробку додатку для соцмереж, заснованого на штучному інтелекті.

"Нам дійсно потрібні інвестиції для розробки штучного інтелекту, здатного займатися науковою діяльністю. Ми, безумовно, зосереджені на цій темі у більшості наших дослідницьких проєктів," - поділився Альтман. "Крім того, приємно демонструвати людям нові, захоплюючі технології та продукти, викликати у них усмішки і, сподіваємося, отримувати прибуток, враховуючи всі ці обчислювальні вимоги."

"Коли ми починали розробку chatgpt, виникло безліч запитань: 'Хто в цьому зацікавлений і яке місце займає штучний інтелект?' - додав Альтман. 'Справжня ситуація має свої особливості, коли мова йде про найкращі шляхи розвитку компанії'."

Але коли ж споживчий бізнес OpenAI починає переважати над його некомерційною метою? Іншими словами, коли OpenAI готовий відмовитися від шансів на прибуток і розширення своїх можливостей на платформі, якщо це суперечить його основній місії?

Це питання постає, оскільки регулятори ретельно вивчають перехід OpenAI до комерційної діяльності , який OpenAI має завершити, щоб залучити додатковий капітал і зрештою стати публічною організацією. Генеральний прокурор Каліфорнії Роб Бонта заявив минулого місяця, що він "особливо стурбований тим, щоб заявлена місія OpenAI щодо безпеки як некомерційної організації залишалася на першому місці" під час реструктуризації.

Скептики відкинули місію OpenAI як інструменту брендингу для залучення талантів з великих технологічних компаній. Але багато інсайдерів OpenAI наполягають, що це є ключовою причиною їхнього приєднання до компанії.

Наразі, присутність Sora невелика; додатку лише один день. Але його дебют знаменує собою значне розширення споживчого бізнесу OpenAI та надає компанії можливість скористатися стимулами, які десятиліттями переслідували додатки соціальних мереж.

На відміну від ChatGPT, який оптимізований для корисності, OpenAI стверджує, що Sora створена для розваги -- місце для створення та обміну кліпами зі штучним інтелектом. Стрічка новин ближча до TikTok або Instagram Reels, платформ, які сумнозвісні своїми захопливими циклами.

OpenAI наполягає на тому, що хоче уникнути цих пасток, стверджуючи в блозі, де оголошується запуск Sora, що "найбільше уваги приділяється занепокоєнню щодо doomscrolling, залежності, ізоляції та стрічок, оптимізованих для RL". Компанія прямо заявляє, що не оптимізує час, витрачений на стрічку, а натомість хоче максимізувати створення контенту. OpenAI каже, що надсилатиме нагадування користувачам, коли вони гортатимуть сторінки занадто довго, і в першу чергу показуватиме їм людей, яких вони знають.

Це сильніша відправна точка, ніж Vibes від Meta -- ще одна коротка відеострічка на базі штучного інтелекту, випущена минулого тижня, -- яка, схоже, була швидко відкинута без стількох запобіжних заходів. Як колишній керівник політики OpenAI, Майлз Брундейдж зазначає , що можливо, що будуть як хороші, так і погані застосування відеострічок на базі штучного інтелекту, подібно до того, що ми бачили в еру чат-ботів.

Однак, як давно визнав Альтман, ніхто не прагне створювати додаток, що викликає залежність. Стимули запуску стрічки підштовхують їх до цього. OpenAI навіть зіткнувся з проблемами, пов'язаними з підлабузництвом у ChatGPT , що, за словами компанії, було ненавмисним через деякі з її методів навчання.

У червневому подкасті Альтман обговорив те, що він називає "великою невідповідністю соціальних мереж".

Однією з значних помилок епохи соціальних мереж стало те, що алгоритми новинних стрічок призвели до безлічі непередбачуваних негативних наслідків для суспільства в цілому, а також, можливо, для окремих користувачів. Хоча ці алгоритми виконували бажання користувачів — або, як вважають деякі, бажання більшості — у конкретний момент, примушуючи їх, наприклад, залишатися на платформі довше.

Поки що зарано говорити про те, наскільки додаток Sora відповідає своїм користувачам або місії OpenAI. Користувачі вже помічають деякі методи оптимізації взаємодії в додатку, такі як динамічні емодзі, які з'являються щоразу, коли ви ставите лайк відео. Здається, це створено для того, щоб виробити трохи дофаміну в користувачах за взаємодію з відео.

Справжнім випробуванням буде те, як OpenAI розвиватиме Sora. Враховуючи те, наскільки ШІ захопив звичайні стрічки соціальних мереж, здається ймовірним, що стрічки, створені на основі ШІ, незабаром матимуть свій момент. Чи зможе OpenAI розвивати Sora, не повторюючи помилок своїх попередників, ще належить з'ясувати.