Діпфейк - технологія для творчості, що позбавляє впевненості у справжності

Щоб змінити зовнішність, ще десять років тому потрібні були грим, маска або пластична операція. і її фірмова усмішка раптом втрачає впевненість. позбавляє впевненості у справжності будь-якого відео, зате відкриває незвичайний простір для творчості та пригод вашого цифрового клону у віртуальних світах майбутнього.

Наївні питання

Діп… що?

Діпфейк - це відеоролик, в якому обличчя однієї людини підміняється іншою за допомогою алгоритмів машинного навчання.

Глибокі (що складаються з багатьох верств) нейромережі дозволяють будувати багатоетапні алгоритми обробки інформації.

Як ця штука працює?

Є кілька способів створити "обманку", але їх поєднує загальний принцип. GAN, генеративно-змагальна мережа (Generative adversarial network). Дискримінатор виступає в ролі експерта, який намагається відрізнити підробку від Чим краще Генератор обманює Дискримінатора, тим правдоподібніше виглядає дипфейк.

Хто створив перший дипфейк?

Пращуром дипфейків став наприкінці ХХ століття цифровий клон актора – поняття, яке прийшло з кіноіндустрії.Зовнішність і голос померлого чи живого актора відтворювали за допомогою донійросетьової технології CGI (computer-generated imagery – зображення, згенеровані комп'ютером), отримуючи віртуальну модель людини.

Вважається, що ера дипфейків почалася наприкінці 2017 року, коли користувач із ніком DeepFakes виклав на Reddit кілька відео з контентом 18+. На них актрисам із відео для дорослих були "прироблені" обличчя голлівудських зірок. Технологія швидко розійшлася в інтернеті та запустила хвилю зі створення схожого контенту. У недавньому дослідженні нідерландська компанія з кібербезпеки Deeptrace виявила, що ролики 18+ становлять 96% від загальної кількості дипфейків: на момент дослідження їх було близько 15 тисяч у всій Мережі.

Як простій людині зробити дипфейк?

Це не так уже й складно. У зроблених за допомогою алгоритму Face2Face відеороликах користувачі приміряють на себе обличчя знаменитостей. "Обманка" створюється в режимі реального часу і спотворює міміку вибраної зірки за мімікою користувача. У соцмережі Reddit у січні 2018 року з'явилася схожа технологія – додаток FakeApp. Російська розробка DeepFaceLab та додаток Reface дозволяють вставляти обличчя у відео, змінювати рух губ та саму мову.

Діпфейки небезпечні?

Здається, вже так. Перші подібні відеоролики були поганою якістю, і підробки легко розпізнавались, але технологія швидко еволюціонує.

У міру вдосконалення дипфейків розширювалося їх застосування у кримінальній сфері. Тепер шахраї генерують голос для дзвінків по телефону та створюють компрометуючі відеоролики для шантажу. А у майбутньому? За прогнозами експертів, дипфейки можуть стати загрозою національній безпеці.Повсюдний збір біометричних даних створює додаткові ризики: фейкове зображення можна використовувати разом з фейковыми відбитками пальців чи слідами ДНК.

У березні 2019 року гендиректор британської філії великої енергетичної компанії прийняв дзвінок від боса з Німеччини. Той зі своїм звичайним німецьким акцентом промимрив термінове доручення: за годину відправити кошти угорському постачальнику. Британець поклав трубку, перевів на вказаний рахунок 220 тисяч євро і незабаром потрапив до всіх газет як перша відома людина, обдурена за допомогою штучного інтелекту. Йому дзвонила нейромережа, яка за допомогою GAN навчилася імітувати голос начальника-німця на основі аудіозаписів його виступів. Страхової компанії довелося покрити збитки, а решті - замислитися про майбутнє.

Хто ж нас урятує?

Соціальні мережі - Twitter, Facebook, TikTok, Reddit - вже розробляють та застосовують політику захисту користувачів від фальшивок. У деяких країнах питання із підробками вирішують на законодавчому рівні. У Китаї такі ролики маркуються, у деяких штатах США, наприклад, у Каліфорнії, заборонено поширювати дипфейки з політиками перед виборами. У Франції запровадили санкції за монтаж мови або зображення людини без її згоди.

GAN: самовчитель для нейромереж

Як була створена і де застосовується найважливіша з нових технологій машинного навчання

Одного вечора докторант Монреальського університету Ян Гудфеллоу посперечався з друзями за кухлем пива. Приятелі поділилися з ним ідеєю: вони хотіли створити нейромережу, яка вигадуватиме обличчя людей, які ніколи не існували. Виходило не дуже.На згенерованих зображеннях не вистачало то вухо, то носа, а частіше всі деталі були на місці, але портрет більше був схожий на шизоїдну аплікацію з вирізаних частин обличчя з дивними пропорціями, ніж нормальну фізіономію. Розробники планували виправити хворобливий творчий стиль нейромережі, змусивши її аналізувати безліч реальних фотографій. Але Гудфеллоу їх висміяв. Для цього були б потрібні такі обчислювальні потужності, яких у його приятелів просто не було. Так що в них нічого не вийде, якщо тільки… Якщо тільки не створити другу нейронну мережу, яка критикуватиме першу, а потім не стравить їх, змушуючи сперечатися, поки вони не видаватимуть зображення потрібної якості.

Цього разу поблажливо посміхнулися вже друзі Гудфеллоу: яка тільки нісенітниця не спадає на думку до кінця вечора у знаменитому монреальському шинку "Три пивовари"! На тому й розійшлися.

Але замість того, щоб лягти спати і вранці забути своє п'яне осяяння, Ян Гудфеллоу прийшов додому і вмостився за комп'ютер.

Незабаром на світ з'явився алгоритм, який наділив машини задарма уяви. Завдяки глибокому навчанню вони вже були здатні бачити, чути та розпізнавати. Дайте мережі достатньо зображень, і вона навчиться, скажімо, відрізняти на знімках пішохода, який збирається перейти дорогу. Так з'явилися автопілоти та Siri з Алісою. Але як щодо творчості - створення нової картини чи симфонії? До GAN штучний інтелект не здатний до творчості.

Новий алгоритм звільнив людину від необхідності бути наставником для машин: завдяки суперництву між двома нейромережами система навчається сама в себе.Це діалог антагоністів, які працюють в одній команді, ніби фальшивомонетник все більш майстерно підробляв купюри, а поліцейський вишукував дедалі тонші способи пізнати підробку. Навчання триває, доки алгоритм не почне плутатися, де фальшивка, а де оригінал. Це означає, що машина навчилася створювати щось унікальне, але при цьому відмінне від реальності. Наприклад, особа ніколи не існувала людини, яку ви не відрізняєте від фото реальних людей. Хіба це не називають творчістю?

Картинками та картинами, створеними штучним інтелектом за допомогою GAN, вже нікого не здивувати. Найвідоміша з них була продана на знаменитому лондонському аукціоні Christie"s за 432,5 тисяч доларів. У назві "шедевра" - портрета якогось Едмона Беламі - вгадується привіт батькові GAN: французькою bel ami означає "добрий друг". Приблизно так перекладається з англійське прізвище Гудфеллоу.

Дітище Гудфеллоу допомогло заробити не лише художникам, а й спеціалістам з комп'ютерних спецефектів. Раніше, щоб створити вигадану реальність, їм були потрібні мільйони доларів, 3D-сканування акторів та великі комп'ютерні потужності. Але щоб поміняти місцями обличчя каскадера та актора, досить ноутбука.

За допомогою GAN можна серйозно покращити якість зображення: нейромережа "додумує" фрагменти, що бракують, завдяки чому ми дивимося старі мультфільми в HD-якості, а медики можуть у всіх деталях розглянути знімок, зроблений в поганому дозволі.

У 2017 році компанія NVIDIA навчила нейронну мережу змінювати погоду та час доби на відео. Дослідники з Університету Карнегі – Меллона створили алгоритм, здатний накласти міміку однієї людини на обличчя іншої.А фахівці Вашингтонського університету навчили нейромережу стежити за тим, як людина на відео ворушить губами, зіставлятиме її міміку зі звуками, а потім перетворювати аудіозаписи на реалістичне відео. Тобто голосового повідомлення тепер достатньо, щоб отримати відео людини, яка вимовляє цю мову. Розробники з Facebook AI Research взагалі навчили свою нейромережу розпізнавати людину, що рухається, на відео і довільно змінювати його рухи: управляти героєм на відео можна так само, як персонажем у комп'ютерній грі. А можна ще й фон довкола поміняти.

GAN вміє працювати у тому числі з голосом: нейромережам достатньо послухати кілька хвилин запису, щоб максимально достовірно підробити мову людини. Так ми і потрапили в чудовий світ deepfake, в якому нічому не можна вірити. Поки що нейромережа залишає масу цифрових слідів, і спеціальні фільтри можуть відрізнити оригінал від підробки. Але з кожним днем ​​удосконалюються алгоритми.

І все-таки головне, що робить GAN - це не перемальовування осіб, а створення більш самостійних машин. Поки що ІІ-програмістам доводиться підбирати нейромережам матеріал для навчання - наприклад, повідомляти, які зображення містять пішоходів, які перетинають дорогу, а які ні. Але незабаром потреба в цьому відпаде. Комп'ютери набагато краще справлятимуться з необробленими даними і зможуть самі зрозуміти, чому їм треба навчитися. Недарма Ян Лекун, голова лабораторії штучного інтелекту у Facebook, назвав GAN найкрутішою ідеєю глибокого навчання за останні 20 років.

Здатність уявляти і розмірковувати над різними сценаріями – частина того, що робить нас людьми. І в цьому сенсі GAN наближає штучний інтелект до людського.

Фальшиві зірки

Що змусили робити і говорити знаменитостей творці дипфейків – і як це змінює світ

Коли: 2018.

Автор: Користувачі YouTube.

Сюжет: Любителі підробок помістили актора у фільми, в яких він ніколи не знімався.

Наслідки: Інші актори теж стали з'являтися в нетипових для них ролях.

Коли: 2019.

Автор: Портал Politics WatchDogs.

Сюжет: Пелосі, речник палати представників конгресу США, вимовляє промову, але погано вимовляє слова.

Наслідки: Пелосі назвала відео "сексистським сміттям". На її вимогу YouTube видалив ролик, але в інтернеті залишилися його численні копії.

Дісталося і самим Трампу з Обамою: 2017-го Барак назвав Дональда "засранцем" (deep shit), а "допомогли" йому в цьому режисер Джордан Піл та видання BuzzFeed.

Коли: 2019.

Автор: Білл Постерс (відомий майстер дипфейків).

Сюжет: У тизері вигаданого телевізійного проекту глава Amazon намагається привернути увагу до палаючих лісів Амазонії. Уявний Безос наголошує на тому, що "позичив назву лісів для своєї компанії".

Наслідки: Ролик отримав свою порцію слави, як і попередні роботи Постерса з фейковими Морганом Фріменом або Дональдом Трампом.Натхненний успіхом, Постерс із співавторами покусився на великого та жахливого Марка Цукерберга: у дипфейк-відео засновник Facebook розповідав про безмежну владу соцмережі над новинами. У відповідь на це керівництво Facebook оголосило війну підробкам. А ось Безос не образився: на його думку, заборони на дипфейки – один із видів цензури.

Коли: 2019 (до 115-го дня народження).

Автор: Музей Далі у Флориді та компанія Goodby Silverstein & Partners із Сан-Франциско.

Сюжет: Далі вітає гостей на спеціальному екрані в одному із залів. Модель створювали на основі архівних матеріалів та відео із сучасними акторами, схожими на художника. Голос Далі подарував артист із характерним іспанським акцентом.

Наслідки: Віртуальний Далі супроводжував відвідувачів музею на виставці Dali Lives. Метр жестикулював, малював, жартував, розповідав історії, спілкувався з усіма бажаючими та робив із ними селфі. Щоб досягти такого результату, творцям знадобилося понад 6000 кадрів із зображенням художника та 1000 годин машинного навчання.

Коли: 2020.

Автор: Некомерційна організація Change the Ref.

Сюжет: На відео в Twitter загиблий американський підліток закликає підтримати політиків, які пропонують запровадити контроль за обігом зброї. "Вибори в листопаді – перші, на яких я міг би проголосувати. Але я вже не зможу вибрати, у якому світі хочу жити. Тому ви повинні проголосувати за мене", – каже хлопець, убитий під час масової стрілянини у лютому 2018 року у школі Марджорі Стоунман Дуглас.

Наслідки: За кілька днів ролик набрав мільйони переглядів, але це не завадило користувачеві назвати відео "неетичним" та "лякаючим", звинувативши його творців у "цифровій некромантії".

Коли: 2020.

Автор: Lucasfilm.

Сюжет: У фінальному епізоді другого сезону серіалу "Мандалорець" з'являється молодий Люк, який забирає із собою Маля Йоду.

Наслідки: Відомий у YouTube дипфейкер Shamook вирішив позмагатися з Disney і створив більш правдоподібну версію Люка, який помолодшав. Студія оцінила його талант та запропонувала співпрацю. За допомогою умільця в черговій частині "Зоряних війн" повернули до життя і принцесу Лею.

Коли: 2021.

Автори: Майлз Фішер (імітатор актора) та Кріс Юме (фахівець із візуальних ефектів).

Сюжет: У серії роликів у TikTok Круз вітається з користувачами, вдаряє по м'ячу на поле для гольфу, розповідає про зустріч із Горбачовим та показує фокус із монеткою.

Наслідки: Відео набрали 8 мільйонів переглядів, а алгоритми не впізнали їх як підробки. Втім, до цього Майлз успішно копіював Круза і без технологічних хитрощів. Наприклад, у 2019 році він записав жартівливе звернення від імені актора на виборах.

Діпфейки: чим небезпечні підроблені відео та як захистити свої дані

Дипфейки можуть стати найнебезпечнішою цифровою загрозою за останні десятиліття. Скористатися цією технологією зможе навіть новачок, а шкода від неї – величезна.

З кожним роком кіберзлочини стають дедалі витонченішими. Однією з найнебезпечніших технологій вважається Deepfake. Шахраї створюють фальшиві, але дуже реалістичні відео за допомогою нейромереж. У матеріалі РЕН ТВ Розкажемо, як створюються дипфейки, чим вони небезпечні і як захистити свої дані від кіберзлочинців.

Що таке Deepfake

Deepfake – реалістична заміна фото-або відео-контенту, створена за допомогою нейромереж. У руках кібершахраїв дипфейки можуть стати небезпечною зброєю. На існуючі матеріали можна накласти особи та голоси відомих людей.Ця технологія змушує говорити те, чого ніколи не вимовляв, і робити те, чого не робив.

Спеціальний алгоритм аналізує знімки людини, зроблені з різних ракурсів та з різним виразом обличчя. На основі цих даних штучний інтелект здатний створити правдоподібне відео за його участю. Технологія Deepfake вміє відтворювати емоції та рухи потрібної людини, що мало чим відрізняються від справжніх.

Чим небезпечна ця технологія

За словами IT-фахівців, дипфейки можуть стати найнебезпечнішою цифровою загрозою за останні десятиліття. Скористатися цією технологією зможе навіть новачок, а шкода від неї – величезна. За допомогою дипфейків шахраї провертають багатомільйонні афери та шантажують своїх жертв.

З поширенням дипфейків все частіше з'являються випадки дискредитації відомих та впливових людей. Так, у 2018 році шахраї опублікували відео, на якому Барак Обама нібито ображає Дональда Трампа. А в середині 2019-го у Мережі з'явилося дипфейк-відео зі спікером Палати представників конгресу США Ненсі Пелосі. Автор ролика змінив мову Пелосі так, що вона погано вимовляла слова, і користувачі вважали, що вона п'яна. Цей випадок обернувся гучним скандалом, і лише через деякий час вдалося довести, що політика була згенерована за допомогою нейромереж.

Як захистити себе від шахраїв

Найкращий захист від дипфейків – дотримання базових правил безпеки. Експерти радять використовувати різні паролі для різних облікових записів. Вони повинні бути надійними, а іноді їх потрібно змінювати. Також буде корисно створювати резервні копії документів. Це допоможе захистити їх та відновити пошкоджені файли.

За словами фахівців, вкрай важливо підвищувати свою медіаграмотність, а все, що ми бачимо в інтернеті, сприймати критично, дотримуючись правила "довіряй, але перевіряй".

Як у Росії борються з дипфейками

У багатьох країнах, зокрема й у Росії, із дипфейками вже почали боротися на законодавчому рівні. Ще у 2021 році перший заступник керівника адміністрації президента Сергій Кирієнко говорив про небезпеку технологій Deepfake та витоків даних у соцмережах. Він зазначив, що "держава не воює з інтернетом, регулювання потрібне, щоб зняти ризики".

Компанії у сфері безпеки створюють нові розробки для розпізнавання дипфейків. "Сбер" у серпні 2022 року запатентував дві нові технології виявлення дипфейків. Розробка дозволить розпізнавати підміну особи людини у кадрі. У компанії розповіли, що ефективність системи – 98%, це набагато вище за її аналоги.

Боротьбу з кіберзлочинцями ведуть і поліцейські. До листопада 2022 року вони отримають IT-розробку, яка допоможе розпізнавати фейкові відео.