Разработчики социальной сети Facebook были вынуждены перезагрузить чат-ботов по имени Боб и Элис, после того как боты перестали использовать английский язык и полностью перешли на изобретенный ими способ общения.


Как пишет Metro, после перезагрузки ботам запретили изобретать новые форматы коммуникации. Известно, что упомянутые чат-боты были подключены к алгоритмам машинного обучения. Они должны были переписываться друг с другом, постепенно улучшая навыки общения.


Изобретение роботами собственного языка стало следствием невнимательности разработчиков: ИИ-система использует принципы поощрения в своей работе, и не получив своевременного “поощрения” за использование английского, боты решили перейти на изобретенный ими язык, чтобы лучше понимать друг друга. Схожий принцип используется, например, в Google, когда для перевода текстов целые предложения переводятся сперва на “машинный язык”, после чего трансформируются в текст на языке, который выбрал пользователь. Эта же система машинного обучения ранее помогла Facebook научить роботов торговаться.


Разработчики Facebook расшифровали часть диалогов. На первый взгляд, нельзя сказать, что разговор роботов был очень уж содержательным. Издание Digital Journal приводит отрывок “беседы”:


Боб: “I can i i everything else” (я могу могу я я все остальное). 

Элис: “balls have zero to me to me to me to me to me” (шары имеют ноль для меня для меня для меня для меня для меня).


В любом случае, создание письменности для роботов в планы Facebook пока не входит, поэтому Бобу и Элис пришлось обновить прошивку.


Напомним, ранее глава SpaceX и Tesla Илон Маск назвал искусственный интеллект “самой большой угрозой для человечества”.