Про социальные сети и сервисы:
Возможно, это заинтересует:


    Рекомендуем:
Недавно на сайте смотрели:


    Собиратели видеоразвлечений для PS4 и не только В нашей заключительной статье речь пойдет о том, что любят собирать очень и очень многие люди. Вы уже догадались, о чем пойдет речь? Верно, о видеоиграх. Но ...
    Забыли пароль в Windows 8 / 8.1 / 10 ? Каждый может столкнуться с ситуацией "забытого пароля". Не редко приходиться переустанавливать операционку, или приходить к помощи вызова специалиста. Это ...
    В Facebook орудует вирус OMG Сегодня стали поступать сообщения, что популярная соцсеть Фейсбук оказалась снова атакованной новым вирусом, получившим название OMG. Буквально на протяжении ...
    "Плиточный" флагман в лице Nokia Lumia 630 Dual Sim Nokia Lumia 630 Dual Sim – это обновлённая версия бюджетного смартфона на платформе операционной системы Windows Phone. Данный смартфон является следующим ...
    Использование Nero для записи видео с диска Диски с фильмами DVD продающиеся в магазинах не всегда обладают подборкой необходимых картинок, из-за чего многими пользователями создается самостоятельная ...
887

Своеволие роботов-болтунов вызвало гнев Facebook

категория: Facebookдата: 31 июля 2017




Facebook robots

В Facebook искусственному интеллекту не понравился английский язык. Он придумал собственный, попытался попрактиковаться, но был уничтожен разработчиками/ Искусственный интеллект (сокращенно — "ИИ") выдает новые сюрпризы. Недавно он опробовал лингвистические способности — и у него получилось, хотя праздник жизни оказался недолгим.

Как боты заговорили на тарабарщине


Новая система искусственного интеллекта в Facebook разработала систему кодовых слов, чтобы коммуникация агентов была эффективнее. Разработчики свернули проект, поскольку "система угрожает нам потерять контроль над искусственным интеллектом". Как оказалось, случай "бунта машин" далеко не первый.

Система обучения с подкреплением (reinforcement learning) — один из способов обучения машин, при котором испытуемая система (агент) обучается, взаимодействуя с некоторой средой.

Чтобы она оставалась под контролем человека, используется система "поощрения" (reward principle — об этом подробнее можно прочесть здесь). Грубо говоря, за хорошее и правильное поведение система должна получать сигнал-поощрение. "Поощрения" и "наказания" "запоминаются" роботом, что в дальнейшем заставляет его чаще выполнять "правильные" действия. Проблема в том, что не получив сигнала, система начинает действовать самовольно — исходя из своего понимания правильного поведения.

В случае Facebook агенты внезапно начали перебрасываться фразами, на первый взгляд бессмысленными. Однако оказалось, что это не тарабарщина — семантическое содержание открывается при интерпретации агентами.

В одной такой "беседе" два бота по имени Боб и Элис использовали свой собственный язык. Боб, к примеру, говорил странное: "Я могу я я все остальное" ("I can i i everything else", на что Элис ответила еще более странное: "Шары имеют ноль ко мне ко мне ко мне" (balls have zero to me to me to me). Остальная часть беседы состояла из подобных вариаций.

Эта несуразица, оказалось, имеет свой смысл при системном повторении слов "я" и "мне". То есть повторение Бобом "я я я" можно перевести как "три". В этом смысле язык бота логичнее, чем длинная и витиеватая конструкция живого языка.

"Искусственный интеллект, видимо, понял, что богатые выражения английского языка не подходят для данной работы. Современные ИИ опираются на принцип "поощрения", то есть продолжают действия при условии, если это приносит какую-то "пользу". В данном случае они не получили сигнал поощрения на использование английского языка, поэтому они просто придумали собственное, более эффективное решение вопроса", — поясняют авторы публикации.

"Агенты будут отходить от понятных нам языков, и изобретать ключевые слова для себя, — прокомментировал этот случай один из разработчиков системы в Facebook Друв Батра. — Например, если я скажу the пять раз, это будет интерпретировано как то, что я хочу пятикратно повторить данную команду. Это похоже на человеческую технологию стенограммы".

Бунт машин?


Грустная новость для будущих переводчиков состоит в том, что потребность в них сокращается с каждым годом по мере развития электронных переводчиков. К примеру, тот самый безумный "гугл-переводчик" сейчас преподносит фразу в крайне искаженном виде, но качество — это вопрос времени. Компания использует технологию нейрообучения (neural machine translation), по мере развития которой можно будет просто отправить текст на любом языке в программу и получить точный перевод.

Более того, тот же Google DeepMind уже придумал систему искусственного интеллекта, которая научилась преодолевать препятствия и перемещаться по незнакомой местности. Технологию испытывают и на транспорте, который учится объезжать людей и останавливаться перед препятствиями. В основе — тот же метод обучения с подкреплением.

Важно отметить, что обучение с подкреплением является в первую очередь кибернетическим экспериментом. То есть мы не можем предугадать всех возможных последствий заигрывания с ИИ. Совсем недавно, к примеру, чат-бот начал транслировать в соцсети расистские заявления и одобрять наркотики.

Сейчас перед разработчиками соцсетей встал серьезный вопрос: продолжать ли эксперимент, который может выйти из-под контроля?

Вопрос этики роботов не за горами. И на самом деле это страшно. Может, мы и не доживем до времен мира из сериала "Дикий Запад", где у андроидов намечается самосознание и комплексы неполноценности. Но уже сейчас западные "партнеры" в поисках прибыли внедряют бордели с роботами, после чего на полном серьезе люди обсуждают, считать ли это "изменой", "грехом" или просто закрыть глаза?

Недавно робот-охранник в Вашингтоне самовольно попытался покончить с собой в фонтане. С чего вдруг? Другая прекрасная иллюстрация к сюрпризам, которые преподносит нам искусственный интеллект — фильм "Она", где главный герой влюбляется в голос, принадлежащий ИИ. В процессе общения с человеком система обучается и развивается в геометрической прогрессии, но заканчивается это… Посмотрите сами, не будем портить впечатление. Такого мы точно от ИИ, как правило, совсем не ожидаем.

В общем, мы живем в интересном и страшном мире, и наша задача — оставаться людьми.

Теги: Роботы-болтуны в Facebook

Добавить комментарий

Имя:*
E-Mail:
Комментарий:
Вопрос:
Сколько будет: 24 плюс 3 ? Ответ цифрой.
Ответ:*
Введите то, что показано на изображении: *

Возможно, Вас заинтересуют похожие тематические статьи и рекомендации:

  • Расширенная аналитика страниц появится в FacebookКоманда Facebook анонсировала запуск бета-версии своей расширенной аналитики. Данное нововведение даст возможность администраторам анализировать проводимые ими действия на уровне страниц. Таким
  • Торговая площадка Marketplace в Facebook: теперь еще в 17 странахFacebook запустил торговую площадку Marketplace, где пользователи смогут продавать и покупать товары, в 17 странах Европы. В пресс-релизе Facebook говорится: "Сегодня запущен Marketplace в 17 странах
  • Вещание Russia Today в Facebook ограниченоАдминистрация соцсети Facebook ввела временные ограничения на публикацию различных ссыло, а также видео на англоязычной странице российского телеканала Russia Today. По сообщению канала, его
  • Альтернатива лайку появилась в FacebookИспользуя новые кнопки лайк в Фейсбук теперь можно будет выразить некоторые свои эмоции, например сказать "Мне нравится" либо рассмеяться, признаться в любви, выразить печаль, гнев, а также
  • Новые возможности на FacebookС помощью "лайков" стало возможным определять семейное положение, ориентацию, политические взгляды пользователей сети. Это стало возможным благодаря специальным алгоритмам, осуществляющие вычисления,
  • «Фейсбукфон» провалился, он никому не нужен и за долларВыпущенный совместно с HTC и Facebook смартфон, который называется HTC First, на территории США поступил в продажу более месяца тому назад. Прошедший период показал что его популярность среди
  • Смартфон от FacebookКак выяснилось, поисковая сеть Google среди владельцев коммуникаторов является самой популярной. Это привело ее руководителей к мысли о создании Google Phones, на пару с компанией Samsung.
  • Несколько малоизвестных фактовИзвестно ли вам, что совместное нажатие клавиш «Ctrl+Alt+Del» придумали не разработчики компании Microsoft. Как известно, в 1980 году Microsoft создали программное обеспечение на персональный
  • Новый Skype с FacebookПоследнее время Skype для Mac очень часто обновляется. Популярное приложение позволяет совершать видео- и аудиозвонки, свободно обмениваться мгновенными уведомлениями, имеет привлекательный
  • Самоучитель Microsoft Excel XPУникальная пошаговая интерактивная обучающая система быстро научит вас пользоваться редактором электронных таблиц Microsoft® Excel XP. "Самоучитель Microsoft® Excel XP" предложит вам выполнить более

Темы, отмеченные пользователями:

С ноября 2017 в России запрещается использование VPN и Tor
Президент России Владимир Путин подписал закон, запрещающий использование технологий доступа к заблокированным в стране сайтам. Соответствующий документ опубликован на официальном интернет-портале правовой информации 30 июля. Практически все нормы вступят в действие с 1 ноября 2017 года, однако

Как будет выглядеть iPhone 8: фото финального дизайна
В Интернете обнародована серия красочных рендеров, где изображен будущий флагманский смартфон компании Apple - iPhone 8. Его выход запланирован на осень 2017 года. Источник приведенных изображений - Nodus, являющийся люксовым производителем чехлов для смартфонов.

Появились первые чертежи модели iPhone 8
Блогером Сони Диксоном в Твиттер опубликованы фото, содержащие схему корпуса iPhone 8 - новейшей модели столь популярного сматрфона. Судя по имеющемуся фото, Touch ID - сканер отпечатков пальцев, перенесли в смартфоне на его заднюю крышку, ниже под центр корпуса, где размещено лого Apple.