OpenAI опублікували звіт про те, як вони протидіяли прихованим операціям впливу, які намагалися використовувати їхні моделі штучного інтелекту для обманної діяльності в інтернеті.
Контент, опублікований різними операціями, зосереджувався на широкому діапазоні питань, включно з російським вторгненням в Україну, конфліктом у Газі, виборами в Індії, політикою в Європі та США, а також критикою китайського уряду з боку китайських дисидентів та іноземних урядів.
Операції розміщували контент на різноманітних платформах, включаючи Twitter (X), Telegram, Facebook, Medium, Blogspot, Instagram.
Ось список операцій, які проводили зловмисники:
- Російська операція, яку назвали “Bad Grammar”, що діяла у Телеграмі, націлена на Україну, Молдову, Балтійські країни та США. Використовувала моделі для налагодження Телеграм-бота та генерації коротких політичних коментарів.
- Відома операція "Doppelganger" з Росії, яка генерувала коментарі різними мовами для публікації в соцмережах, перекладала статті та генерувала заголовки.
- Китайська мережа "Spamouflage", яка досліджувала активність в соцмережах, генерувала тексти різними мовами для публікації на платформах і налагоджувала код для керування веб-сайтами.
- Іранська "IUVM", яка генерувала та перекладала статті, заголовки для свого сайту.
- Операція "Zero Zeno" ізраїльської комерційної компанії, яка генерувала статті та коментарі для розміщення в соцмережах.
Зловмисники використовували ШІ для генерації великих обсягів контенту з малою кількістю помилок. Однак вони також використовували традиційні формати. Деякі імітували активність, генеруючи відповіді на власні пости.
Системи безпеки OpenAI часто не дозволяли зловмисникам генерувати бажаний контент. Інструменти на базі ШІ зробили розслідування ефективнішими. Важливу роль відіграли обмін інформацією в галузі та відкриті дослідження спільноти. Незважаючи на використання ШІ, зловмисники припускалися людських помилок.
Повний звіт доступний за посиланням:
Помʼятаю що, не розуміючи кухні, зачепився з нейронкою в коментарях. Дійсно думав що це реальна людина. І от скажіть, як відрізняти бота від людини?
@risha або якшо це російський бот
@lemmy спроси у бота чей крым он ответит, а москаль будет вертеться крутиться но так и не ответит )))
@sumni3bochennia приклад не зберігся, спробуй Character.ai — там у форматі чату можно спілкуватися з нейронкою, відповіді меньш повні ніж в ChatGPT, що більше скидається на людину.
@lemmy Є приклад? В постах на UJ, де використовували нейронку чітко видно штучний слід, так би мовити нейроно-канцелярский стиль
Я правильно розумію, що ШІ використовують потужності майнінгових ферм?
@ungar майнінг і ШІ - конкуренти
@javascript Зараз би завуальовувати заклики до геноциду русні.
"+15 к соціальний рейтинг 2 миска рису і кішкожінка"
Ми і без вас знаємо як.