Поточна гонка у сфері штучного інтелекту (ШІ), яка значною мірою визначається збільшенням розмірів моделей, зростанням обсягів даних та обчислювальних потужностей, може зіткнутися з «глухим кутом». Футуролог Річард Йонк висловлює думку, що масштабування великих мовних моделей (LLMs) навряд чи призведе до появи штучного інтелекту, який дорівнює людському. Йонк вважає, що стратегія «чим більше, тим краще» значною мірою підживлюється ажіотажем в індустрії.
На думку Річарда Йонка, великі мовні моделі досягають меж своїх можливостей, оскільки людський інтелект ґрунтується не лише на мові. Він підкреслює, що для повноцінного розуміння світу людський інтелект потребує досвіду, розуміння причинно-наслідкових зв'язків та взаємодії з фізичним світом. Ці аспекти, на його погляд, не можуть бути повністю відтворені виключно за допомогою мовних моделей, якими б великими вони не були.
Обмеження масштабування LLM
Індустрія штучного інтелекту наразі демонструє чітку тенденцію до створення все більших і потужніших моделей. Це зумовлено припущенням, що збільшення кількості параметрів, обсягу тренувальних даних та обчислювальних ресурсів автоматично призведе до покращення здатностей ШІ, наближаючи його до людського рівня. Однак, за словами Йонка, таке масштабування має свої природні обмеження.
Він зазначає, що просте збільшення розміру моделі не вирішує фундаментальних проблем, пов'язаних із розумінням світу. Людський інтелект є результатом складної взаємодії когнітивних процесів, емоцій, соціального досвіду та фізичної взаємодії із середовищем. LLMs, що базуються переважно на мовних патернах, не мають доступу до цього багатства досвіду.
Проблематика індустріального ажіотажу
Річард Йонк також вказує на те, що значна частина зусиль, спрямованих на розробку більших моделей ШІ, може бути спричинена не стільки науковою необхідністю, скільки маркетинговим ажіотажем. В індустрії панує наратив «більше означає краще», що стимулює інвестиції та створення вражаючих, але, можливо, не завжди функціонально проривних рішень.
Такий підхід може відволікати ресурси від більш перспективних напрямків досліджень, які могли б зосередитися на глибшому розумінні, а не лише на розширенні мовних можливостей. Футуролог припускає, що без урахування базових принципів людського пізнання, включаючи причинність та досвід, поточна стратегія розвитку ШІ може виявитися неефективною у довгостроковій перспективі.