ВИ наспроти автентичност: Растечката потреба за потекло во дигиталната содржина

Како бизнисите реагираат на порастот на ВИ содржината

Поради овие проблеми, големите технолошки компании работат на начини за подобрување на автентичноста и потеклото на медиумите. Како дел од својата годишна конференција за изградба, Мајкрософт објави дека неговите алатки за создавање на слики и дизајнери на Bing сега ќе имаат нови карактеристики за медиумско потекло.

Корисниците ќе можат да проверат дали сликите или видеата се направени од страна на ВИ со користење на криптографски методи кои вклучуваат информации за тоа од каде доаѓа содржината.

Но, за овој систем да работи, различни платформи треба да се согласат со спецификацијата на Коалицијата за потекло и автентичност на содржината (C2PA).

Исто така, Мета објави алатка наречена Meta Video Seal која може да додаде невидливи водни знаци на видео клипови направени од ВИ.

Оваа алатка со отворен код е наменета да работи со постоечки софтвер без никакви проблеми, што го прави полесно да се најде содржина направена од ВИ.

Video Seal ветува дека ќе биде отпорен на чести измени како замаглување и сечење, за разлика од постарите технологии за водени ознаки кои имаа проблеми со видео компресија и манипулација.

Проблеми и ограничувања

Дури и со овие подобрувања, сè уште постојат проблеми со добивањето на многу луѓе да ги користат овие технологии. Многу програмери може да се двоумеат за транзиција од постоечките сопствени решенија до опции со отворен код како Video Seal.

Мета планира да одржува работилници на големи ВИ конференции и да направи јавна табела која ги споредува различните методи за водени ознаки со цел да привлече повеќе луѓе да работат заедно.

Исто така, методите за водени ознаки кои ги имаме сега не се секогаш доволно силни или ефикасни кога станува збор за видео содржина.

Два главни пристапи за борба против содржини генерирани од ВИ

Во битката против содржината генерирана од ВИ, се појавија две различни стратегии:

1. Воден знак (превентивен пристап):

• Работи со додавање на невидливи потписи на содржината во моментот на создавање
• Делува како дигитален сертификат кој покажува “ова е направено од ВИ”
• Алатки како Meta Video Seal и карактеристиките за потекло на Microsoft го претставуваат овој пристап
• Главната предност е непосредна идентификација на содржината на ВИ

2. Алатки за откривање (аналитички пристап):

• Анализира постоечки содржини за да утврди дали е генерирана од ВИ
• Бара модели и карактеристики типични за содржини создадени од ВИ
• Особено корисно за содржини кои не биле означени при создавањето
• Овие алатки ја формираат нашата втора линија на одбрана

Двата пристапи се неопходни бидејќи се надополнуваат едни со други: водениот знак спречува злоупотреба, додека алатките за откривање помагаат да се идентификуваат необележаните содржини.

Алатки и технологии за откривање

Содржината генерирана од ВИ може да се најде на повеќе начини отколку само технологии за водени ознаки. Новите алатки за откривање користат комплексни алгоритми за да се погледне и текстот и содржината на сликата.

• Оригиналност, алгоритмите за длабоко учење се користат од страна на ВИ за да се најдат модели во текстот генериран од ВИ.
• GPTZero ги разгледува лингвистичките структури и фреквенциите на зборовите за да направи разлика помеѓу содржината која е напишана од страна на луѓето и содржината која е создадена од машини.
• CopyLeaks користи N-грами и синтаксни споредби за да најде мали промени во јазикот кои би можеле да бидат знаци на авторство на ВИ.

Овие алатки треба да им дадат на корисниците точни мислења за тоа колку е вистинската содржина, но колку добро работат може да варира многу.

Во заклучок

Како што напредува генеративната ВИ, заштитата на дигиталната автентичност станува се поважна. Microsoft и Meta го предводат обвинението со револуционерни стандарди за автентичност на содржината и верификација на потеклото на медиумите.

За ефикасна борба против deepfakes, ни е потребно усвојување на овие алатки во индустријата и посилна соработка помеѓу технолошките компании. Идниот интегритет на дигиталната содржина зависи од технологиите за откривање кои се развиваат побрзо од измамата генерирана од ВИ.

Всушност, неодамна покривме како Youtube презема слични чекори со воведување на нови алатки за откривање на ВИ за креаторите и брендовите. Нивниот пристап вклучува синтетичка гласовна идентификација и технологии за откривање на лица генерирани од ВИ, дополнително демонстрирајќи како големите платформи работат за заштита на автентичноста на содржината во ерата на ВИ.