Під час гри червоні блоки містили швидкі запитання, а чорні – більш глибокі. Метою було не зруйнувати вежу з блоків, інакше на гравця чекало випробування. Обидва експерти погодилися, що відчувають маніпуляції з боку алгоритмів, причому це викликає ще більше роздратування, коли алгоритм влучає в ціль, змушуючи задуматися про приватність. Прикладом такої маніпуляції стала історія про пару жовтих туфель, які стали нав'язливою рекламою.
Обмеження рішень штучного інтелекту та права на дані
На запитання про те, яке рішення ніколи не повинен приймати штучний інтелект, Джен Голдбек зазначила, що це будь-які рішення, які можуть мати негативний вплив на людей. Наприклад, AI може допомагати схвалювати заявки на іпотеку, але не повинен мати права відмовити. Тобто, AI не повинен позбавляти людину можливостей. Обидва експерти погодилися, що особисті дані, включаючи думки, спогади та інформацію, якою ми ділимося в інтернеті, повинні належати нам. Вони підкреслили, що відсутність прав на контроль над нашими даними є ключовою юридичною проблемою сучасної AI-екосистеми, що призводить до антиутопічних сценаріїв.
Читайте також: Чому «Так» може коштувати вам 1,2 трильйона доларів: Як уникнути провалу через погану комунікацію
Як протидіяти великим технологічним компаніям
Відповідаючи на питання про те, що звичайні люди можуть зробити для протидії впливу великих технологічних компаній, Голдбек зазначила, що існує пастка, де зручність надається в обмін на цінну інформацію. Чим більше кроків людина робить для збереження приватності (відмова від кукі, використання блокувальників трекерів), тим менш зручним стає її життя онлайн. Шаолін Гінтая додала, що варто запитувати: "Зручність для кого? Ефективність для кого?". Вона навела приклад самообслуговування в магазинах та складнощів з отриманням допомоги від операторів кол-центрів, що робить світ менш людським.
«Я думаю, що весь екосистема наглядових технологій має бути оголошена незаконною. Ми можемо мати соціальні мережі, але ніхто не повинен мати права збирати ці дані чи щось з ними робити. Компанії можуть працювати та заробляти багато грошей, не займаючись масовим спостереженням.» — Джен Голдбек.
Експерти також висловили занепокоєння щодо використання потужних алгоритмів проти дітей, чиї мозок ще не повністю сформований. Це призводить до експоненційного зростання тривожності та депресії серед молоді. Вони наголосили, що техкомпанії знають про ці проблеми, але продовжують їх використовувати. Процеси судових розглядів з технологічними гігантами можуть розкрити цю інформацію. Це питання демократії, адже ці компанії мають владу, подібну до урядів, і суспільство повинно мати можливість розуміти їхню діяльність, а не залишати це "чорною скринькою".
Що робить нас унікально людьми?
На питання про те, що робить нас унікально людьми та дозволяє керувати технологіями, коли машини опанували знання людства, Джен Голдбек відповіла, що машини не відчувають. Вони не переживають втрату, горе, любов чи щастя. Людський досвід, емоції та емпатія – це те, що неможливо відтворити. Навіть повний опис заходу сонця не передасть реального відчуття. Штучний інтелект може допомагати в науці, але імітувати людську сутність він не здатен. Шаолін Гінтая додала, що AI бракує моралі, етики та співчуття, тому людське "серце" є необхідним. Вона також закликала до терпіння та поблажливості одне до одного, щоб відновити здатність до поважного діалогу та усвідомити, що бути недосконалим – це і є бути людиною.
Читайте також: Американці відчувають себе роз'єднаними та розчарованими, але готові до реформ