Компанія Anthropic зафіксувала використання своїх моделей штучного інтелекту для розробки керованих ракет угрупованням хуситів у Ємені. За даними звіту, для систем наведення, навігації та управління ракетами застосовувалися різні копії моделі Claude. Одна копія генерувала код, інша проводила дослідження, а третя перевіряла роботу першої.
За наявними даними, за допомогою ШІ було інтегровано відкритий автопілот, написано програмне забезпечення для управління польотом, проведене моделювання та налаштування алгоритмів. Незважаючи на те, що випробування ракети, створеної за допомогою цих технологій, закінчилося невдало, хусити продовжили аналізувати причини провалу, використовуючи Claude. Компанія Anthropic не називає групу прямо хуситами, але контекст вказує на це угруповання.
Використання ШІ Іраном
Звіт Anthropic також виявив три інформаційні операції, пов'язані з державними структурами Ірану, які використовували модель Claude. Штучний інтелект застосовувався для підготовки програм «когнітивної війни», включаючи розробку доктрин, інструкцій, мереж персонажів, баз цілей та планування інформаційних кампаній. Офіційні державні матеріали трансформувалися у контент, що імітує публікації незалежних журналістів чи звичайних користувачів.
Іранські структури працювали різними мовами, зокрема фарсі, арабською, урду, малайською, іспанською та англійською, з планами розширення до приблизно 20 мов. Крім того, дві групи, пов'язані з іранськими парамілітарними структурами внутрішньої безпеки, використовували Claude для створення інструментів масового стеження. Одна з них заявила про збір досьє на 6388 громадян Ірану та аналіз понад 155 тисяч твітів.
За допомогою Claude створювалися інструменти для деанонімізації користувачів месенджерів, ідентифікації осіб за номером телефону та навіть розроблялося шкідливе розширення для браузера Firefox, замасковане під додаток із розкладом молитов.
Наслідки та висновки
Звіт Anthropic підкреслює, що штучний інтелект стає потужним інструментом, який може використовуватися не лише для легітимних цілей, але й для розробки зброї, ведення інформаційних війн та масового стеження. Технологічно відстаючі держави, терористичні групи та квазідержавні структури можуть отримати значні переваги, використовуючи ШІ як повноцінного агента чи лабораторію. Це явище, ймовірно, буде лише поширюватися в майбутньому, враховуючи, що звіт стосується лише використання моделей Anthropic.