Мац порівнює цей процес з вибором морозива у Baskin Robbins. Кожен день ми стикаємося з дилемою «експлуатації» (вибір знайомого та безпечного) проти «дослідження» (спроба нового та потенційно кращого). Цей баланс є ключовим для людського зростання як індивідуально, так і як виду. Однак, системи ШІ, які оптимізовані для короткострокового задоволення та передбачуваності, не заохочують ризик та дослідження, що призводить до зменшення різноманіття людського досвіду.
ШІ як механізм уніфікації
Системи ШІ, зокрема ті, що використовуються на платформах на кшталт Netflix чи Spotify, запрограмовані на максимізацію «експлуатації» — тобто, рекомендації найпопулярніших або найімовірніших для сподобання варіантів. Це зумовлено бажанням уникнути розчарування користувачів та отримати миттєве схвалення. Як результат, ШІ схиляється до безпечних, статистично виправданих виборів, поступово витісняючи менш популярні, але потенційно унікальні варіанти.
Експерименти, проведені Мац, демонструють, як ШІ, навіть коли йому повідомляють про індивідуальні вподобання, має тенденцію до їх звуження. Наприклад, якщо користувач часто обирає кокосове морозиво, ШІ продовжуватиме рекомендувати саме його, ігноруючи інші, можливо, не менш цікаві смаки. Це призводить до «смерті від тисячі рекомендацій»: поступового зменшення різноманіття вибору та втрати індивідуальності.
«Існує величезний ризик того, що ми перетворимося на більш поверхневі, одномірні версії себе, не тільки як люди, але і як людство.» — Сандра Мац.
Цей процес уніфікації виходить за межі простих виборів, як-от морозиво чи музика. Він впливає на творче виробництво, формування думок та навіть вибір історичних постатей. ШІ перетворює нескінченне розмаїття людських думок, переконань та вподобань на статистично безпечну одноманітність.
Пошук балансу: ШІ як інструмент дослідження
Попри ризики, Мац не закликає відмовитися від ШІ, а радше переосмислити його роль. Вона пропонує винагороджувати ШІ не за «експлуатацію» (рекомендацію того, що вже відомо), а за «дослідження» — допомогу у відкритті нового, навіть якщо воно виходить за межі звичних вподобань. Це вимагає зміни способу взаємодії з технологіями: замість запиту «порекомендуй мені щось, що мені сподобається», слід запитувати «допоможи мені знайти щось нове, що я, ймовірно, полюблю, хоча ще не пробував».
Пропонується розробка інтерфейсів, які дозволяють користувачам контролювати ступінь «відходу» від своїх типових уподобань. Це може бути повзунок, який регулює, наскільки далеко ШІ має заглиблюватися в незнайомі території, дозволяючи залишатися в зоні комфорту у звичайні дні, але відкриваючи простір для пригод у моменти, коли людина готова до експериментів. Важливо заохочувати ШІ до «зваженого ризику», а не до сліпого дотримання минулих виборів.
Кінцева мета — зберегти унікальність, хаотичність і чудовість людської природи, включаючи наші суперечності та дивацтва, які ШІ не завжди може повністю пояснити. Оскільки ШІ переходить від рекомендацій до дій від імені людей, вибір на користь збереження індивідуальності та різноманіття стає надзвичайно важливим.