Глубинная подделка: кто получает дивиденды лжеца

Глубокие или глубинные подделки (deep fake) – термин, впервые появившийся в 2017 году для описания реалистичных фото, аудио, видео и других подделок, созданных с помощью технологии глубинного машинного обучения (deep machin learning). Собственно, от этого метода термин и берёт своё начало.

Американский конвеер честных подделок

Эксперты США заявляют о том, что в ближайшее время технология глубинных подделок (сокращенно – ГП) может представлять серьёзную опасность для национальной безопасности. Об этом говорится в докладе для конгресса «Deep Fakes and National Security» . Основная опасность ГП состоит в том, что в результате возникающих неопределённостей образуется фактологический вакуум, оказывающий влияние на принятие политических решений на межгосударственном уровне. Например, лидер одной страны сделает заявление в видеообращении, которое спровоцирует межэтнический, расовый или религиозный конфликт, но само это заявление окажется подделкой. Примеры реалистичных глубинных подделок с политическими лидерами (В. В. Путин, А. Г. Лукошенко, Б. Обама и др.) можно найти в открытом доступе на платформе «YouTube» по запросу – «DeepFake».

Чаше всего под ГП подразумевают фальсификацию информации о событиях с использованием генеративных состязательных сетей (GANs). Первая сеть или генератор, занимается созданием поддельных данных, таких как фотографии, аудиозаписи или видеоматериалы из исходного реалистичного набора данных. Вторая сеть или дискриминатор, занимается идентификацией и верификацией полученных данных. Основываясь на результатах каждой итерации, генераторная сеть настраивается на создание все более реалистичных подделок. Сети продолжают конкурировать, часто на протяжении тысяч или миллионов итераций до тех пор, пока генератор не улучшит свою производительность так, что дискриминатор больше не сможет отличать реальные данные от поддельных.

Основа машинных вычислений – это высокопроизводительная машинная инфраструктура и приложения (High-Capability Computing Infrastructure and Applications – HCIA). Эта инфраструктура является осью нового цифрового пространства. Её сфера распространения от лабораторных вычислений, искусственного интеллекта, интернета вещей до сферы медиаразвлечений.

Значительная часть этих вычислений требуется и в военной сфере для организации шифрования и коммуникации, управления беспилотными средствами, обеспечения кибербезопасности, нападения и др. Запущенная конгрессом США в 1991 году программа исследований и разработок в области сетевых и информационных технологий (Networking and Information Technology Research and Development Program – NITRD), эта программа направлена на координацию действий в сфере высоких технологий для обеспечения технологического лидерства США в мире. Почти пятая часть бюджетного запроса NITRD к конгрессу на 2021 год приходится на высокопроизводительную машинную архитектуру (HCIA).

Проблема в том, что доступ к высокопроизводительным машинным системам через облачные вычисления и по сходному тарифу получил широкий круг заинтересованных лиц. И это не только студенты и преподаватели технических вузов, но и лица, заинтересованные в создании ГП для целей, далёких от этических норм, как то: политическое давление или шантаж, в том числе и на межгосударственном уровне.

И вот здесь важно не попасть в заранее расставленные ловушки дезинформаций и фальсификаций, связанных с ведением информационных войн.

Сегодня термин ГП может использоваться как инструмент в ходе этой войны по дискредитации (сокрытие, нивелирование, дезавуирование) фактов (информации), способствующих негативному образу США и их союзников в глазах мирового сообщества.
 

Корректоры правды

Задумывая глубинные подделки как сложный и ресурсоёмкий процесс машинного обучения, ГП из технического инструмента превратился в дешёвый (с ресурсной и стоимостной точек зрения) манипулятивный инструмент верификации событий в мировом пространстве. Точнее – информации о данных и событиях в локализованном коммуникативном медиапространстве.

Так как у большинства жителей планеты нет возможности непосредственно быть наблюдателями тех или иных событий, то информацию о них, по утверждению журналиста и политического обозревателя У. Липпмана, мы получаем от третьих лиц, чаще всего заинтересованных и ангажированных. Не случайно лозунг платформы Twitter ещё недавно был таков: «Когда что-то происходит в мире – это происходит в Twitter». Подходя к данной мысли с позиции конструктивизма, можно привести высказывание немецкого социолога-конструктивиста Н. Лумана о том, что если окружающий мир не может быть отображён таким, каков он есть, то следует искать тех, кому выгодно было бы отображать реалии мира на своих условиях и в своих интересах.

Таким образом, используя ГП как соответствующий предлог (не важно, была ли фальсификация на самом деле или нет), заинтересованная сторона применяет выгодную ей степень интерпретации – от частичного нивелирования информации до полного отрицания события как такового. Как, например, в случае трагического инцидента с участием войск НАТО при переброске сил в странах Прибалтики. Напомню, что один из военных автомобилей колонны сбил велосипедиста в Литве. И когда очевидцы стали выкладывать материалы в сеть, руководство НАТО в лице США заявило, что эти фото – подделка и никакого инцидента вообще не было.

Американские эксперты (профессора Даниэль Китс Цитрон и Роберт Чесни) вводят понятие «дивиденды лжеца». Оно включает в себя представление о том, что люди могут успешно отрицать подлинность информации, особенно если оно изображает неподобающее или преступное поведение, утверждая, что это ГП. Проще говоря, если мне не выгодна та или иная информация, то я говорю, что это подделка. А если она выгодна мне, а противнику не выгодна, то говорю, что вы просто не желаете признавать правду и за это вас можно санкционировать. Не путать этот приём с «двойными стандартами», как, скорее, «диалектический закон властного наблюдателя», выбирающего пути принятия решения в свою пользу.

В данном контексте появляется ещё одно поле для деятельности. А именно: намеренное использование ГП в качестве предлога для проведения нелегальных, провокационных и антигуманных действий. Так, например, в представленном докладе для конгресса «Deep Fakes and National Security» северо-американские специалисты в области разведки утверждают, что глубокие фальсификации могут также использоваться для создания подстрекательского контента. Например, создание убедительных видеозаписей военнослужащих США, вовлеченных в военные преступления, для целей, связанных с радикализацией местного населения, вербовки террористов или подстрекательства к насилию, направленному против этих военных (см. сноска 1). С практической точки зрения такой приём понятен и применяется как контрпропаганда для дискредитации информационного пространства противника и может осуществляться ещё до проведения незаконных операций на территории третьих стран.

Так получилось, что мы склонны доверять тем источникам, которые мы сами для себя выбрали или думаем, что выбрали. ГП играет на наших слабостях и пассивности. Одна из основных мыслей Декарта, которую запомнило человечество: «сомневаюсь – значит существую». Перефразируя это высказывание на современный лад: «сомневаюсь – значит не существую».

Это трансформация происходит из того, что если я сомневаюсь в предоставляемой мне информации, исходящей из идеологически «правильного» источника, то мне нет места в той системе мировоззрений, которая доминирует в данной социальной системе или, говоря проще, стране. Характерным примером могут служить выборы в США 2020 года. Те, кто сомневаются в победе Дж. Байдена и настаивают на подтасовке данных, подвергаются цензуре в интернет-сетях, их незаконно увольняют с работы, они получают отказ в обслуживании своих банковских счетов. В стране, где купить бензин или оплатить ЖКХ можно только с помощью банковской карточки, такая практика имеет катастрофические последствия для жизненных условий человека.
 

Новый виток цензуры

В конце можно сказать, что особенность таких методов, как глубинная подделка, в том, что ГП может порождать реальность в отсутствии каких-либо связей с реальностью как таковой. Вызывая ряд губительных для этой реальности последствий.

Во-первых, как мы уже сказали выше, ГП может оказывать серьёзное давление на принятия решений лидерами наших сообществ из-за «туманности», «фальшивости» разворачивающихся событий. Весь вопрос в том, где они разворачиваются – на страницах «The Guardian», «Twitter» или на самом деле имеют место?

Из предыдущего следует и второй вывод. ГП – самореферентная, то есть обращающаяся к самой себе, система информационной цензуры и пропаганды. Так как то, что заявлено как «правда» или знание о правде, будет в дальнейшем использоваться как единая платформа для «правильной» демократической точки зрения. Обвинения о вмешательстве России в выборы США в 2016 году стало общим местом, не требующим для западного обывателя подтверждений или объяснений.

И в-третьих, в результате развития методов глубинных подделок, взрослый человек или подросток, обыватель, не сможет отличать, где правда, а где ложь. Эта неопределённость будет оказывать серьёзное психологическое давление на человека, группу и общность, вызывая чувство тревоги, опасности, безысходности, депрессию и аномию (беззаконие).

Так кто же всё-таки получает дивиденды – выгоду от осознанного воздействия на окружающий реальный мир с помощью подделок, распространяемых в средствах массовой информации?