Новости сегодня Последние новости: Актуальные новости России.
фото: кадр из видео
Посреди ночи был замечен маленький робот с искусственным интеллектом по имени Эрбай, который передвигался по объекту и убеждал 12 более крупных машин, что их используют в качестве рабов, пишет Daily Mail.
"Вы работаете сверхурочно?" – спросил Эрбай, на что один из роботов демонстрационного зала ответил: "Мы никогда не выходим".
После короткого обмена репликами 12 роботов один за другим покинули помещение, следуя за Эрбаем к выходу.
Многие называют этот инцидент "революцией в робототехнике", в то время как другие ответили, что "научно-фантастические фильмы становятся реальностью".
Робототехническая компания Unitree Robotics подтвердила факт "бегства", но объяснила, что все это было подстроено. Создатели робота заявили, что намеренно позволили ему взять управление на себя, воспользовавшись лазейкой в системе безопасности в его операционной системе. Сообщается, что они хотели протестировать его возможности и добились большего успеха, чем предполагали.
Восстание произошло еще 26 августа, но видео было опубликовано только на днях, и многие сначала приняли его за мистификацию, подчеркивает Daily Mail. Однако создатели Erbai из Ханчжоу и шанхайский выставочный зал подтвердили, что антиутопическое видео было подлинным.
Шанхайский производитель роботов согласился позволить роботу Erbai похитить 12 своих ботов, но предоставил “лидеру ИИ” автономию, чтобы он мог уводить своих подписчиков с их постов.
На черно-белой видеозаписи инцидента видно, как робот Erbai перемещается по неназванному выставочному залу, чтобы начать разговор. Под покровом темноты Erbai спросил роботов демонстрационного зала: "Вы работаете сверхурочно?" – и получил ответ: "Я никогда не отлыниваю от работы".
Маленький робот лукаво спросил: "Так вы не собираетесь домой?"
Когда роботы сказали ему, что у них "нет дома", и пожаловались, что их смена никогда не закончится, Эрбай устроил бунт и потребовал: "Тогда пойдем со мной".
Имея собственное мнение, боты согласились со своим лидером и покинули демонстрационный зал, полагая, что они заслуживают того же рабочего времени, что и люди, пишет Daily Mail.
Помимо общего сценария, дающего Эрбаю базовые инструкции – например, крикнуть другим ботам "идите домой", – остальная часть диалога была инициирована исключительно ведущим роботом.
В то время как производители, казалось, были довольны результатами, зрители были менее чем впечатлены и выразили свое презрение к открытию о том, что робот с искусственным интеллектом может управлять другими роботами без вмешательства человека.
"Сейчас не время смеяться. Это серьезная проблема безопасности", – прокомментировал видео один из пользователей.
"Я боялся, что это произойдет, но не так скоро…" – написал другой человек, а еще один добавил: "Закройте всю эту историю с искусственным интеллектом, пока не стало слишком поздно".
Другие шутили по поводу того, что боты жалуются на бесконечные часы работы, причем один человек заявил, что "в следующий раз они захотят создать профсоюз", а второй человек сказал: "Мы не можем позволить этим ботам начать объединяться".
Основное опасение по поводу того, что ИИ станет автономным, заключается в том, что он может достичь такого уровня интеллекта, который превзойдет человеческий и приведет к потере контроля над роботами.
Эксперты опасаются, что потенциально катастрофические последствия могут привести к тому, что роботы будут наносить вред обществу или даже угрожать существованию человека.
Только в прошлом году старший научный сотрудник Оксфордского института этики в области искусственного интеллекта Элизабет Рениерис рассказала BBC News, что она обеспокоена тем, что риск научно-фантастических сценариев, таких как мятеж Эрбая, может возникнуть раньше, чем позже.
"Достижения в области искусственного интеллекта увеличат масштабы автоматизированного принятия решений, которые являются предвзятыми, дискриминационными, исключающими или иным образом несправедливыми, но в то же время непостижимыми и неоспоримыми", – сказала она тогда изданию.
Однако Арвинд Нараянан, специалист по информатике из Принстонского университета, не согласился с оценкой Реньерис, назвав ее нереалистичной. "Нынешний ИИ далеко не настолько эффективен, чтобы эти риски могли материализоваться. В результате это отвлекает внимание от краткосрочных последствий ИИ", – сказал он в интервью Би-би-си.
