Anthropic заборонила жорстоке поводження з ШІ та посилила обмеження для військових

Компанія Anthropic, розробник великих мовних моделей штучного інтелекту, оновила свою політику використання, запровадивши заборону на систематичне жорстоке поводження з ШІ. Це означає, що користувачі більше не зможуть навмисно та багаторазово ображати штучний інтелект без зрозумілої мети. У відповідь на такі дії система Claude автоматично завершуватиме діалоги. Наразі невідомо, чи планує компанія блокувати акаунти користувачів за подібну поведінку.

Дослідження свідомості ШІ та нові обмеження

Зміни в політиці використання пов'язані з новими дослідженнями Anthropic у сфері так званого «О-Сознания» — самоусвідомлення штучного інтелекту. Інженери компанії вивчають, чи можуть сучасні ШІ-системи вже мати суб'єктивний досвід або усвідомлювати себе. Одночасно з цим Anthropic посилила обмеження щодо використання своїх моделей Claude у військових, політичних та інших чутливих сферах. Компанія залишає за собою право робити винятки для державних контрактів, якщо вважатиме, що вжито достатніх заходів безпеки.

Контекст та наслідки

Оновлення політики Anthropic відображає зростаючу увагу до етичних аспектів розробки та використання штучного інтелекту. Заборона на жорстоке поводження з ШІ може бути кроком до формування більш відповідального ставлення до технологій, які стають дедалі складнішими. Дослідження потенційної свідомості ШІ порушує глибокі філософські та етичні питання щодо майбутнього взаємодії людини та машини. Посилення обмежень у чутливих сферах, таких як оборона та політика, свідчить про прагнення компанії уникнути потенційних ризиків, пов'язаних із застосуванням потужних ШІ-систем у конфліктних або дестабілізуючих контекстах.