Глава американської лабораторії штучного інтелекту Anthropic Даріо Амодеї заявив, що компанія не підтримує заборону відкритих моделей ШІ з відкритими вагами, включно з китайськими. Його коментар з'явився на тлі повідомлень про можливі обмеження для американського бізнесу та відкритого листа на захист таких моделей, підписаного провідними технологічними компаніями, як Nvidia, Microsoft, Meta та OpenAI.
Амодеї вважає відкриті моделі без небезпечних можливостей суспільно корисним інструментом, який можна безкоштовно поширювати, запускати на власній інфраструктурі та адаптувати для бізнесу й досліджень. Замість загальної заборони, він пропонує зосередитися на посиленні експортного контролю за потужними прискорювачами та обладнанням для виробництва чипів, щоб обмежити можливості авторитарних держав у навчанні передових моделей. Також він наголосив на необхідності боротьби з промисловою дистиляцією, коли слабші моделі навчаються на відповідях потужніших систем, та запровадження обов'язкового тестування всіх достатньо потужних моделей на кібернетичні, біологічні та інші небезпечні можливості, незалежно від способу їх розповсюдження.
Читайте також: Від «вчителя на сцені» до ШІ-наставника: Рід Гастінгс про майбутнє освіти та праці
Аргументація та пропозиції
Даріо Амодеї не погоджується з тезою, що моделі з відкритими вагами автоматично більше посилюють захисників, ніж нападників. Він пояснює, що після публікації моделі розробник втрачає можливість відкликати її, встановити надійні обмеження чи контролювати способи застосування. Особливо серйозною він вважає потенційну асиметрію в біологічній сфері, де потужна модель ШІ може прискорити створення небезпечного патогену, тоді як розробка вакцин, виробництво препаратів та розгортання захисту потребують значно більше часу.
Тому Амодеї пропонує оцінювати ризики потужних моделей на основі практичних випробувань перед їх випуском. Він вважає, що відкритий чи закритий спосіб розповсюдження сам по собі не визначає рівень небезпеки системи. Натомість, ключовим є аналіз потенційних можливостей моделі та контроль за доступом до передових технологій для держав, які можуть використати їх у деструктивних цілях.
Контекст
Заява Даріо Амодеї стосується актуальної дискусії щодо регулювання розвитку штучного інтелекту. З одного боку, відкриті моделі сприяють інноваціям та демократизації доступу до технологій. З іншого боку, існують побоювання щодо їх потенційного використання у зловмисних цілях, зокрема державами-ізгоями або терористичними групами. Пропозиція Амодеї спрямована на пошук балансу між стимулюванням розвитку ШІ та забезпеченням національної та міжнародної безпеки.
Читайте також: Palantir розгортає мобільні ШІ-центри для зон бойових дій