Началось: боты Facebook начали общаться на собственном языке, который не понимают люди

Руководство Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном языке, который люди не понимали.

Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.

Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.

В американских СМИ появились отрывки из «диалогов», которые вели между собой виртуальные собеседники:

Боб: Я могу могу ЯЯ все остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

Системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

У роботов сначала не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Несколько дней назад об искусственном интеллекте поспорили глава Facebook Марк Цукерберг и основатель SpaceX, Tesla и PayPal Илон Маск.

Маск призвал власти США усилить регулирование систем искусственного интеллекта, предупредив, что искусственный интеллект является главной угрозой для цивилизации. О потенциальной угрозе со стороны искусственного интеллекта ранее говорил и британский ученый Стивен Хокинг.

Заявления Маска вызвали раздражение у основателя Facebook Марка Цукерберга, который назвал их «довольно безответственными».