Новото приложение на OpenAI Sora предизвиква въпроси

Миналата седмица OpenAI пусна Sora, приложение в стил TikTok, което предлага безкраен поток от изцяло AI-генерирани видеа, всяко с продължителност до 10 секунди. Приложението позволява създаването на „камео“ – хиперреалистичен аватар, който имитира външния вид и гласа ви, и вмъкването на камео на други хора във вашите видеа (в зависимост от зададените от тях разрешения). За някои, които вярваха в обещанието на OpenAI да създаде AI, който да е от полза за цялото човечество, приложението е като шега. Бивш изследовател от OpenAI, който напусна, за да създаде AI за наука, нарече Sora „безкрайна AI TikTok машина за отпадъци“. Това обаче не попречи на приложението да се изкачи на първо място в американския App Store на Apple. След като изтеглих приложението, бързо разбрах какви видеа, поне в момента, се представят добре: кадри в стил bodycam на полицаи, които спират домашни любимци или различни търговски марки, включително СпонджБоб и Скуби Ду; deepfake мемета на Мартин Лутър Кинг младши, говорещ за Xbox; и безкрайни вариации на Исус Христос, навигиращ в нашия модерен свят. Също толкова бързо възникнаха множество въпроси за бъдещето на Sora. Може ли да устои? OpenAI залага, че значителен брой хора ще искат да прекарват време в приложение, в което можете да забравите дали това, което гледате, е фалшиво и да се насладите на поток от суров AI. Един рецензент го описа така: „Успокояващо е, защото знаете, че всичко, което преглеждате, не е истинско, докато на други платформи понякога трябва да гадаете дали е истинско или фалшиво. Тук няма гадаене, всичко е AI, през цялото време." Това може да звучи като ад за някои. Но съдейки по популярността на Sora, много хора го искат. Какво привлича тези хора? Има две обяснения. Едното е, че Sora е краткотрайна прищявка, с хора, които се редят на опашка, за да се удивят на това, което съвременният AI може да създаде сега (по мое мнение, това е интересно за около пет минути). Второто, на което OpenAI залага, е, че сме свидетели на истинска промяна в типа съдържание, което може да привлече внимание, и че потребителите ще останат с Sora, защото позволява ниво на фантастично творчество, невъзможно в никое друго приложение. Има няколко решения, които могат да оформят колко хора ще останат: как OpenAI решава да внедри реклами, какви ограничения ще постави за защитено с авторски права съдържание (вижте по-долу) и какви алгоритми ще създаде, за да реши кой какво вижда. Може ли OpenAI да си го позволи? OpenAI не е печеливша, но това не е особено странно, като се има предвид как работи Силициевата долина. Странно е обаче, че компанията инвестира в платформа за генериране на видео, което е най-енергоемката (и следователно скъпа) форма на AI, която имаме. Енергията, която изисква, е много по-голяма от тази, необходима за създаване на изображения или отговор на текстови въпроси чрез ChatGPT. Това не е новина за OpenAI, която се присъедини към проект на стойност половин трилион долара за изграждане на центрове за данни и нови електроцентрали. Но Sora, която в момента ви позволява да генерирате AI видеа безплатно и без ограничения, увеличава залозите: Колко ще струва това на компанията? OpenAI предприема стъпки към монетизация (например, вече можете да купувате продукти директно чрез ChatGPT). На 3 октомври нейният изпълнителен директор Сам Алтман написа в блог пост, че „ще трябва по някакъв начин да печелим пари от генерирането на видео“, но не навлезе в подробности. Може да си представим персонализирани реклами и повече покупки в приложението. Все пак е тревожно да си представим планината от емисии, която може да се получи, ако Sora стане популярна. Алтман точно описа емисионното натоварване на един въпрос към ChatGPT като невъзможно малко. Това, което той не е количествено определил, е каква е тази стойност за 10-секундно видео, генерирано от Sora. Само въпрос на време е, докато AI и климатичните изследователи започнат да го изискват. Колко съдебни дела предстоят? Sora е пълна със защитени с авторски права и търговски марки герои. Тя ви позволява лесно да създавате deepfake на починали знаменитости. Видеата й използват защитена с авторски права музика. Миналата седмица Wall Street Journal съобщи, че OpenAI е изпратила писма до притежателите на авторски права, уведомявайки ги, че ще трябва да се откажат от платформата Sora, ако не искат техният материал да бъде включен, което не е обичайният начин, по който тези неща работят. Законът за това как AI компаниите трябва да се справят със защитеното с авторски права съдържание е далеч от уреден, и би било разумно да се очакват съдебни дела, които оспорват това. В блог пост от миналата седмица Алтман написа, че OpenAI „чува от много притежатели на права“, които искат повече контрол върху това как техните герои се използват в Sora. Той казва, че компанията планира да даде на тези страни повече „гранулиран контрол“ върху техните герои. Все пак, „може да има някои крайни случаи на генерирания, които не трябва да се допускат“, написа той. Но друг въпрос е лекотата, с която можете да използвате камео на реални хора. Хората могат да ограничат кой може да използва тяхното камео, но какви ограничения ще има за това, какво могат да правят тези камео в Sora видеа? Това явно вече е проблем, на който OpenAI е принудена да отговори. Ръководителят на Sora, Бил Пийбълс, публикува на 5 октомври, че потребителите вече могат да ограничат как тяхното камео може да бъде използвано – предотвратявайки го от появяване в политически видеа или казване на определени думи, например. Колко добре ще работи това? Дали е само въпрос на време, докато нечие камео бъде използвано за нещо злонамерено, експлицитно, незаконно или поне странно, предизвиквайки съдебно дело, твърдящо, че OpenAI е отговорна? Общо взето, все още не сме видели как изглежда пълномащабната Sora (OpenAI все още раздава достъп до приложението чрез покани). Когато го направим, мисля, че това ще служи като мрачен тест: Може ли AI да създава видеа, толкова фино настроени за безкрайно ангажиране, че ще надминат „истинските“ видеа за нашето внимание? В крайна сметка, Sora не просто тества технологията на OpenAI – тя тества нас и колко от нашата реалност сме готови да заменим за безкрайно превъртане на симулация.