Експерти Інституту масової інформації (ІМІ) дослідили шлях, як за чотири кроки від емоційного відео на YouTube і бажання помолитися за Україну та військових можна потрапити до китайської секти, де лайкають заклики «Слава России!».
Оригінал публікації на сайті «Інституту масової інформації» за посиланням
Активні користувачі соцмереж хоча б раз натрапляли на згенеровані ШІ зображення чи відео, що закликають їх поставити лайк або залишити коментар на підтримку вразливих категорій осіб – наприклад, привітати «батька-одинака», людей з інвалідністю чи «самотніх 120-річних жінок-близнючок» із днем народження. Також є заклики поставити лайк військовим, бо «їх ніхто не чекає чи не любить». Зазвичай такий контент збирає чимало вподобайок, репостів та співчутливих коментарів.
Іноді такий контент переходить межу етики: менеджери YouTube-каналів використовують шокувальні та негуманні сценарії, включно з вигаданими історіями про смерть військових. Одним з прикладів є відео про «українську розвідницю», згенеровану ШІ, яка начебто загинула на фронті. Пошук «розвідниці» з таким іменем не дав результату, всі факти в цьому відео вигадані та неправдиві.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/a3a96501d64a7a4c95acc0704678ba55.png
Скриншот ІМІ контенту, який згенерований ШІ для маніпулятивних дій
Менеджери так захоплено генерують контент, що інколи забувають звернути увагу на казуси та логічні помилки. Наприклад, на одному зображенні, створеному за допомогою ШІ, показано кілька військових-чоловіків, кожен з яких тримає дитину на руках. В описі ж зазначено, що це «брати-близнюки та їхній син», що фізично неможливо. В іншому випадку на відео представлений емоційний чоловік, якого підписано як «студентку коледжу». Найсумніше, що попри ці явні помилки й нелогічність користувачі YouTube Shorts залишали коментарі, вітали чоловіків та висловлювали співчуття.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/57c0572979401858a458e7c978fccfb2.png
Скриншот ІМІ контенту, який згенерований ШІ для маніпулятивних дій
Дослідникам ІМІ вдалося стягнути дані 13 каналів, які генерують такий контент. Виявилося, що вони пов’язані між собою. Всі ці канали були створені після повномасштабного вторгнення Росії та мімікрували під православні канали, поширюючи шахрайський контент, згенерований ШІ.
На відміну від інших підприємливих авантюристів, адміни таких спільнот не просять одразу донати чи гроші за молитву. Єдиний заклик від цих каналів – це прохання писати коментарі під відео, ставити лайки та приєднуватися до закритої групи у WhatsApp, адже там, за словами адмінів, чекають «сюрпризи» та «благословення».
Згідно з даними аналізу ІМІ, такі YouTube-канали активно почали реєструватися в українському сегменті починаючи з травня 2023 року. Зі спільних рис, окрім ідентичної контент-сітки, емоційних закликів, виявилося, що такі YouTube-канали взаємопов’язані між собою й у спільних групах WhatsApp.
За допомогою витягнутих даних вдалося змоделювати, як саме взаємопов’язана мережа таких «православних каналів».
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/73df2f52e1c8c7de9c2008e8af1597cd.jpg
ІМІ знайшов сітку YouTube-каналів, які мають звʼязок із закритими WhatsApp-групами
Кожен YouTube-канал має в біо чи під відео Shorts посилання на закриті WhatsApp-групи. Отже, один YouTube-канал може мати навіть два посилання на різні закриті WhatsApp-групи. Цікаво, що деякі канали мали схожі біоописи та ідентичні граматичні помилки, наприклад написане російською «С Богом!». Хоча адміністрування каналів ведеться українською мовою.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/a890550b7982d2f74901e6d89d85b235.png
Скриншот ІМІ контенту, який згенерований ШІ для маніпулятивних дій
Окрім емоційних відео, які «чіпляють», найчастіше ці групи працювали над поширенням контенту через короткі відео YouTube Shorts. Алгоритми YouTube працюють так, що саме відео такого формату найкраще просуваються в мережі рандомним користувачам. Найголовніше – це «позитивний тригер», який зацікавить випадкового користувача затриматися на відео YouTube Shorts якнайдовше, щоб алгоритми платформи YouTube маркували таке відео як цікаве користувачам та просували інші відео цього каналу.
Якщо звернути увагу на зміст таких повідомлень, то зазвичай вони спрямовані на дію – «привітай», «підтримай», «помолись», «постав лайк», «напиши «Амінь», або із закликами привітати «українців» із днем народження. Основні герої таких Shorts – ілюстрації, згенеровані ШІ. Найчастіше це зображення людей з інвалідністю, пенсіонерів, заплаканих дітей або ж військових (поранених або під час виконання бойових завдань).
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/67326939df70b940d69a325477f94d58.png
Скриншот ІМІ контенту, який згенерований ШІ для маніпулятивних дій
Бувають і неконтрольовані казуси, коли замість тужливого контенту маніпулятивні канали публікують «неймовірні історії». Наприклад, просять благословити «п’ятьох 85-річних сестер-близнючок».
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/6c621f86de8010cdba2ae198a56218e4.png
Скриншот ІМІ з прикладом фейкового повідомлення, згенерованого ШІ
Таке відео нерухомого зображення, згенероване ШІ, зібрало за місяць з початку публікації 12 тисяч лайків та 191 коментар з побажаннями здоров’я та довгих років життя. Коментаторів не збентежило, чому на фото чотири жінки, а не п’ять, чому в них ідентичні зачіски, ідентичні обличчя й чому в однієї з жінок обрубані (або зрослися) пальці на руках.
Найцікавіше – під кожним таким відео адміни розміщували повідомлення про приєднання до групи, де можна молитися за українських військових, отримати благословення чи отримати «Божу звістку».
Нагадаємо, за даними опитування «Kantar Україна», лише 20% українців заявили, що можуть розпізнати текст, згенерований ШІ.
Дослідникам ІМІ вдалося приєднатися до закритих груп WhatsApp, куди переспрямовують співчутливих українців після взаємодії з контентом, згенерованим ШІ. Адміністратори таких спільнот відверто обманюють та маніпулюють емоціями учасників. Очевидно, що мета таких YouTube-каналів – щоб якомога більше емоційно вразливих і некритичних українців переходили в закриті WhatsApp-групи, а далі адміністратори, які себе називають «волонтерами», утримували якнайдовше таких українців у спільноті за допомогою різних маніпуляцій.
Перший контакт із новими учасниками закритих груп – досвід експертки ІМІ
Після приєднання до загальної групи адміністратор вітає нових учасників у приватних повідомленнях. Якщо проігнорувати таке повідомлення, нового користувача видаляють із закритої групи у WhatsApp. У приватній розмові «волонтер Анна» розповідає про те, що її «чоловік захищає Україну і вона є православна християнка», та просить поділитися власною історією. На питання, в якій бригаді служить чоловік та як його звати, «Анна» відповідає, що на передовій у місті Харкові, а звати його Oleg (а не Олег).
Схоже, що «Анна» – або бот, або людина, дуже далека від реалій, тому що вона жодним чином не відреагувала на слова експертки ІМІ, що в її родині також є військовий, який прямо зараз воює в складі ЗСУ в Бахмуті (Бахмут був окупований росіянами у квітні 2023 року. – Ред.). Наша «нова користувачка» наголосила, що дуже потребує індивідуальної зустрічі зі священником, оскільки хоче духовну пораду тет-а-тет. Після довгого листування «волонтер Анна» дала нам персональний номер священника Андре, якого в цій закритій групі йменують по-різному – і пастором, і теологом, і доктором богослов’я.
Завдяки отриманому номеру телефону, вдалось ідентифікувати, що цей «доктор богословʼя» – 24-річний громадянин України Андрій з освітою будівельника. За допомогою застосунку та номеру телефону вдалося знайти прізвище «пастора». Цього було не досить для повної ідентифікації, тому за допомогою телеграм-бота вдалося «стягнути» повні дані, які підтвердили: прізвище, імʼя, по батькові, всі можливі номери телефонів та дату народження. Вже згодом за допомогою сервісу пошуку за фото вдалося знайти акаунти на фейсбуці, старі та нові сторінки вконтакті, де вчергове підтвердилась інформація щодо віку та освіти. Маючи повне ПІБ, вдалося знайти зарахування «пастора» на будівельний факультет і його бали ЗНО.
«Молитви за Україну сьогодні не працюють. Потрібно вивчати Біблію»
Експертці ІМІ вдалось отримати доступ до щоденної онлайн-зустрічі «священника» з новими вірянами. Виявилося, що про військових на цій зустрічі було згадано лише одним реченням на початку, а мета зустрічі – це вивчення переписаної Біблії та її нових змістів. Протягом тижня вивчення Біблії «священники», волонтери-адміністратори проєкту жодного разу не згадали про православну чи будь-яку іншу канонічну церкву. Вже на п’ятий день у закритій групі з новими членами менеджери-волонтери почали поширювати назву своєї релігійної організації – це «Церква Всемогутнього Бога». В чаті, присвяченому онлайн-зустрічам, вони публікували конспект проговореного на таких зустрічах. І та сама «волонтер Анна», яка раніше представлялась як православна християнка, поширювала інформацію про відмінності між православною церквою та «Церквою Всемогутнього Бога». Головний наратив полягав у тому, що православ’я, християнство – це старий формат церкви.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/1fc4a8e989c2ff6ee8507a8dcc91a3a2.png
Скриншоти ІМІ, взяті із закритих груп WhatsApp
Нагадуємо, що першим кроком, який привів до цього моменту, була взаємодія із ШІ-контентом на YouTube. На другому кроці українців, що лайкали чи писали коментарі під такими фото і відео, збирали в закриту групу, водночас намагаючись вивідати їхню приватну інформацію. На третьому кроці вже йде залучення учасників групи до щоденних форматів «пізнання Бога» та отримання благодаті через вивчення «Біблії». І, нарешті, на четвертому кроці користувачі, які прийшли по православні молитви, отримують інформацію протягом тижневого курсу, що православна церква – це минуле, яке не працює, тому лише «Церква Всемогутнього Бога» допоможе пізнати Бога та врятує члена спільноти після того, як «Бог вирішить зачистити Землю».
До речі, «ЦВБ» не є офіційною релігійною організацією, в реєстрі релігійних організацій в Україні відсутні будь-які згадки про цю спільноту. З відкритих джерел відомо, що засновницею цієї спільноти є китаянка Ян Сянбінь. Згідно з їхнім віровченням, сталося друге пришестя й Ісус уже перебуває в тілі китаянки. Офіційно цю спільноту заборонено в Китаї з 1995 року. Наразі керівництво та члени цієї організації проживають в інших країнах, оскільки їх начебто переслідує влада Китаю.
Волонтери та пастор. Хто тягне адміністрування таких спільнот?
Після першої онлайн-зустрічі «пастор Андрій» телефонував до нових учасників та розповідав, що йому 33 роки й він з Вінницької області, Тульчинського району. З даних, які мають у своєму розпорядженні дослідники ІМІ, «пастор» сказав правду лише про свій регіон народження, втім обманув щодо свого віку, адже з джерел ІМІ відомо, що він 1999 року народження. І на момент розмови йому було лише 24 роки. Ймовірно, наголошування на віці мало зачарувати нових користувачів та підкреслити магічне значення, адже 33 роки – це вік, у якому помер Ісус.
Завдяки пошуку за фото «пастора» вдалось ідентифікувати також інший контент, де він був зображений.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/da59869089bd713fd80526007d8563af.png
Скриншот ІМІ, на якому зображений пошук за фото «пастора»
Виявилося, що проповіді «пастора Андрія» публікувалися на російському сайті, навіть після повномасштабного вторгнення.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/6a5e8d8ff78b9b54d33387f61cc93643.png
Скриншот ІМІ
Також згадки про нього були розміщені на офіційному сайті «ЦВБ» на українській та російській версіях. Схоже, що Андрій є лише українськомовним менеджером у цій піраміді. Адже в закритих спільнотах WhatsApp адміністратори групи здебільшого мають азійську зовнішність та код номерів телефонів, зареєстрованих в Іспанії. В одній з найбільших WhatsApp-груп «Боже слово», окрім азійців з європейськими номерами телефонів, у спільноті також присутні номери росіян. За час експерименту в українськомовній групі «Боже слово» росіяни написали повідомлення «Слава России!». Адміністратори його не видалили, а користувачка, яка попередньо писала, що вона з України, поставила реакцію «сердечко» росіянину.
https://s3.eu-central-1.amazonaws.com/media.my.ua/feed/81/5c2043cd6f1139135e6c19e8eb00b4e3.png
Скриншоти ІМІ із закритих груп WhatsApp
***
Образи військових, зворушливих бабусь та страждання українців у YouTube Shorts використовують релігійні шахраї, які маскуються під православну церкву, щоб поширювати фейковий контент. Члени релігійного угруповання «Церква Всемогутнього Бога» активно апелюють до емоцій, щоб привернути увагу та залучити аудиторію. Спочатку вони закликають до молитви за здоров’я військових чи завершення війни, але зрештою втягують співчутливих українців до релігійного руху, обіцяючи «благословення від Бога» тільки для тих, хто приєднається.
Люди з низьким рівнем критичного мислення, реагуючи на емоційно насичений контент, сповнений співчуття або страху, часто не усвідомлюють, що їх вводять в оману. Представники угруповання працюють злагоджено, тримаючи нових членів у постійній емоційній напрузі: від зображень з побажанням Божої ласки до закликів, що тільки «обрані» зможуть вижити. Ці «емоційні гойдалки» супроводжуються регулярними закликами долучитися до «вивчення Біблії» та «молитовних сесій». Проте насправді замість справжньої духовної підтримки й молитов за Україну, учасників піддають шаблонній програмі, спрямованій на маніпуляцію та контроль.
Окрім недоброчесного залучення українців до свого релігійного руху, представники цієї організації також використовують образи українських військових, вигадуючи історії про фейкові каліцтва чи смерті. Через подібний шокувальний контент авантюристи закликають аудиторію перейти до закритих груп, де продовжують працювати з особами, найвразливішими до маніпуляцій.
.black-button-dskl {
display: inline-block;
background: #fff;
width: 150px;
line-height: 38px;
font-size: 17px;
padding: 0;
margin: 0;
color: #000;
text-decoration: none;
box-shadow: 0px 0px 3px #000;
border-radius: 3px;
}
.black-button-dskl:hover{
background: #ff2a28;
text-decoration: none;
color: #fff;
border-color: #ff2a28;
cursor: pointer;
}
Команда «Детектора медіа» понад 20 років виконує роль watchdog’a українських медіа. Ми аналізуємо якість контенту і спонукаємо медіагравців дотримуватися професійних та етичних стандартів. Щоб інформація, яку отримуєте ви, була правдивою та повною.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування спільних ідей та отримувати більше ексклюзивної інформації про стан справ в українських медіа.
Мабуть, ще ніколи якісна журналістика не була такою важливою, як сьогодні.
Долучитись