Sora въвежда контрол върху AI дубликатите

Sora вече позволява на потребителите да контролират своите AI дубликати, предоставяйки им повече възможности за управление на това как и къде се появяват дийпфейк версии на тях самите в приложението. Актуализацията идва в момент, когато OpenAI се опитва да покаже, че се интересува от опасенията на своите потребители, докато предсказуемо цунами от AI съдържание заплашва да завладее интернет. Новите контроли са част от по-широк пакет от актуализации, целящи да стабилизират Sora и да управляват хаоса в неговия фийд. Sora е по същество „TikTok за дийпфейкове“, място за създаване на 10-секундни видеа на почти всичко, включително AI-генерирани версии на вас или други (включително глас). OpenAI нарича тези виртуални появи „камео“. Критиците ги наричат предстояща катастрофа за дезинформацията. Бил Пийбълс, който ръководи екипа на Sora в OpenAI, заяви, че потребителите вече могат да ограничат как AI-генерираните версии на тях самите могат да бъдат използвани в приложението. Например, можете да предотвратите вашият AI двойник да се появява във видеа, свързани с политика, да го спрете да казва определени думи или — ако мразите горчица — да го спрете да се появява близо до този ужасен подправка. Служителят на OpenAI Томас Димсън каза, че потребителите също могат да добавят предпочитания за своите виртуални двойници, като например, да ги накарат да носят шапка с надпис „#1 фен на кетчупа“ във всяко видео. Въпреки че тези мерки за безопасност са добре дошли, историята на AI-базирани ботове като ChatGPT и Claude, които предлагат съвети за експлозиви, киберпрестъпления или биологични оръжия, предполага, че някой, някъде вероятно ще намери начин да ги заобиколи. Хората вече са заобиколили една от другите функции за безопасност на Sora, слаба водна марка. Пийбълс каза, че компанията също работи върху подобряването на това. Пийбълс каза, че Sora ще продължи „да се стреми към правене на ограниченията още по-устойчиви“ и „ще добави нови начини за вас да останете в контрол“ в бъдеще. В седмицата след старта на приложението, Sora е съучастник в запълването на интернет с AI-генерирано съдържание. Свободните камео контроли — практически да или не за групи като взаимни, хора, които одобрявате, или „всички“ — бяха особено проблематични. Неволният звезда на платформата, не друг, а самият CEO на OpenAI Сам Алтман, илюстрира опасността, появявайки се в различни подигравателни видеа, които го показват как краде, рапира или дори пече мъртъв Пикачу.