В этом российский президент, кстати, совершенно прав. Искусственный интеллект, который будет сам себя осознавать, учиться, принимать самостоятельные решения и постоянно себя улучшать, – это действительно грандиозная сила. Такой интеллект быстро превзойдет человеческий, он сможет быстрее и лучше решать любые задачи, делать научные открытия, сочинять музыку и так далее.
Он будет эффективнее людей вообще во всех областях. По сути, практически это будет бог. Тот, кто сумеет поставить его на службу собственным интересам, получит и соответствующие возможности. И действительно сможет стать властелином мира, причем не прилагая к этому особых усилий – за него все сделает суперразум.
Именно поэтому работу над созданием искусственного интеллекта сейчас активно ведут сразу несколько крупнейших корпораций мира, а также Пентагон, Китай, да и сама Россия. Все они боятся опоздать. За второе место в этой гонке призов не дают. Тут пан или пропал.
В смысле трудно прогнозирузируемых угроз Путин, кстати, тоже прав. Мы совершенно не представляем, какая мотивация будет у машины, чей интеллект в миллион раз превосходит наш собственный. Возможно, суперразум будет не против решить все наши проблемы и ввести человечество в золотой век. А возможно, он решит, что человечество – это и есть главная проблема, поэтому его необходимо как можно быстрее ликвидировать. Как, например, в фильме "Терминатор", где Скайнет – машина, созданная для защиты США, вдруг решила, что защищаться надо от вообще всех людей, и начала ядерную войну, чтобы истребить их.
Впрочем, во всей этой истории есть и намного более близкие, менее фантастические угрозы.
Изобретатель, бизнесмен и миллиардер Илон Маск, который много раз говорил об опасностях искусственного интеллекта, прокомментировал выступление Путина словами: "Это началось!". Далее он написал, что Китай, Россия и другие страны с сильными программистами вступят в беспощадную гонку за первенство в создании ИИ.
"Думаю, что это станет наиболее вероятной причиной начала Третьей мировой войны", – заключил бизнесмен.
По его мнению, дело не только в том, что какой-то диктатор получит безграничные возможности и начнет мировую войну. Есть и еще ряд опасностей. Отстающая страна может нанести ядерный удар по опережающей, чтобы не допустить появления ИИ у конкурента. Или уже созданный ИИ решит, что превентивный удар по прочим странам позволит обезопасить его собственную.
Маск написал: "Если вы не переживаете на счет безопасности машинного интеллекта, то вам следует задуматься. Риск намного больше, чем от Северной Кореи". Свой твит он сопроводил плакатом с надписью: "В конце концов все равно победят машины".
Конечно, бизнесмена можно обвинять в том, что он слишком рано паникует: искусственного интеллекта нет, соответственно и угроза от него отсутствует. Однако тут есть несколько моментов.
Во-первых, сам Илон Маск занимается его разработкой и знает, как далеко ушел прогресс в этой области. По его словам, ему самому становится страшно, когда он видит последние разработки своих инженеров и программистов. Во-вторых, Маск очень редко ошибается в своих прогнозах и безошибочно угадывает все мировые тенденции еще до их появления. Ну и в-третьих, это уже не американский бизнесмен, а российский президент начал говорить о мировом господстве с помощью искусственного интеллекта. Если уж Путин, который даже интернетом не пользуется, принялся затылок чесать, то дело и правда серьезное.
Кстати, о Северной Корее российский президент тоже думает. В интервью китайским СМИ он заявил, что дело сейчас идет к ядерной войне и общепланетарной катастрофе.