Керівники провідних американських компаній у сфері штучного інтелекту, зокрема OpenAI та Anthropic, готуються до можливих масштабних кібератак, які можуть бути здійснені за допомогою ШІ. Найбільш імовірним сценарієм експерти вважають атаки, здатні порушити роботу банківських систем, інтернету, електромереж або систем водопостачання. Ці побоювання пов'язані як із застосуванням існуючих ШІ-інструментів зловмисниками, так і з потенційною появою автономних ШІ-агентів, які можуть виконувати складні завдання без відома людини.
Видання Axios повідомляє, що компанії також стурбовані можливою реакцією регуляторів на подібні інциденти. OpenAI вже проводить тренування з реагування на кризові ситуації, а представники індустрії намагаються заздалегідь підготувати американських законодавців до обговорення нових обмежень. Серед запропонованих заходів – тимчасове призупинення розробки найпотужніших моделей ШІ та впровадження механізмів екстреного вимкнення систем. Деякі опитані виданням співрозмовники прогнозують серйозний інцидент протягом найближчих 6-12 місяців.
Контекст та потенційні ризики
Занепокоєння щодо безпеки, пов'язаної зі штучним інтелектом, зростає на тлі швидкого розвитку технологій. Нещодавні атаки на фінансові організації в Південній Кореї, де хакери використовували китайські інструменти на базі ШІ для викрадення даних клієнтів, слугують прикладом потенційних загроз. Розробники ШІ усвідомлюють ризики, пов'язані з можливістю використання їхніх технологій у злочинних цілях, а також з непередбачуваною поведінкою майбутніх, більш складних систем ШІ.
Індустрія ШІ прагне знайти баланс між інноваціями та безпекою. Пропозиції щодо регулювання включають як технічні заходи, такі як механізми екстреного вимкнення, так і більш радикальні кроки, наприклад, тимчасове заморожування розробки передових моделей. Ці обговорення свідчать про усвідомлення серйозності потенційних наслідків і про активні спроби запобігти їм ще до настання можливих інцидентів. OpenAI, хоч і розглядає ці сценарії як ризики, наголошує, що вони не є неминучими.