Проблема AI-шахрайства набуває значних масштабів. У 2025 році ФБР США вперше виділило шахрайство із використанням AI в окремий розділ свого звіту, отримавши понад 22 000 звернень із заявленими збитками майже 893 мільйони доларів. Реальні цифри, ймовірно, в рази вищі, адже багато випадків залишаються неповідомленими. Штучний інтелект не створює нових видів злочинів, але вдосконалює старі, використовуючи технології клонування голосу, анімації обличчя та генерації тексту для маніпуляцій.
Нові реалії: коли голос і відео більше не доказ
Технології deepfake досягли рівня, коли обдурити можуть не тільки людей, а й AI-асистентів. Атаки типу Prompt Injection, коли в прихованих інструкціях для AI міститься команда ігнорувати попередні правила чи змінювати реквізити, становлять значну загрозу. OWASP ставить цей ризик на перше місце серед небезпек для великих мовних моделей. Це означає, що для захисту недостатньо покладатися лише на пильність людини, адже підробки стають невідрізними від реальності.
Вивчення штучного інтелекту стає питанням не лише професійного розвитку, а й особистої безпеки. AI-грамотність, як і цифрова грамотність раніше, передбачає розуміння можливостей технологій: клонування голосу, генерація відео, створення переконливих фотографій, обробка персональної інформації для таргетованих атак. Університети, як Learn to Earn Global, наголошують на важливості AI-мислення, яке допомагає зрозуміти, де технологія може посилити, де помилитися, а де її використають проти вас.
П'ять правил захисту від AI-шахрайства
- Голос і відео – не доказ: Ніколи не довіряйте лише знайомому голосу чи зображенню на відеозв'язку. Особливо, якщо йдеться про передачу конфіденційних даних чи грошей.
- Процедури підтвердження: Розробіть та узгодьте заздалегідь чіткі процедури перевірки платежів та конфіденційних запитів. Особливо для сум, що перевищують певний ліміт. Використовуйте різні канали зв'язку для підтвердження, а не той самий, через який надійшов запит.
- Кодове слово/контрольне питання: Домовтеся з близькими чи колегами про кодове слово або особисте контрольне питання, яке знаєте тільки ви. Це стане додатковою перевіркою автентичності співрозмовника.
- Пауза при терміновості та секретності: Коли виникає одночасний тиск терміновості, секретності та вимога грошей, це має бути автоматичним сигналом для паузи. Не дозволяйте шахраям позбавити вас часу на роздуми.
- Подвійне підтвердження платежів: Для будь-яких критичних фінансових операцій необхідне подвійне підтвердження: інша людина, інший канал зв'язку або окреме погодження. Система безпеки має працювати навіть тоді, коли підробка виглядає ідеально.
Майбутнє довіри в епоху AI
Світ, де діяло правило «повірю, коли побачу», минув. Штучний інтелект вимагає нового рівня цифрової грамотності, що включає знання його можливостей. AI-грамотність – це не про створення нейромереж, а про розуміння, як технології можуть бути використані проти нас. Як зазначила Анна Пацин, співзасновниця Learn to Earn Global, побудований процес захисту, що працює навіть з ідеальним фейком, є найважливішим елементом безпеки в майбутньому.