Возможно, это заинтересует:


    Рекомендуем:
Недавно на сайте смотрели:


    Новый iPhone будет увеличен в размерах Уже не первый месяц на многочисленных новостных ресурсах появляется всё новая и новая информация о грядущих новинках Apple. И, пожалуй, одним из самых главных ...
    Как защитить компьютер от взлома Для того чтобы защитить свой компьютер от вирусов, шпионских программ, нежелательного программного обеспечения и кражи персональных данных, достаточно ...
    Что делать, если залили ноутбук водой Довольно частой причиной выхода из строя ноутбука является то, что на них случайно проливают воду, чай, кофе, пиво и другие напитки. К таким последствиям может ...
    Нововведения в Windows Phone 7.8 В скором времени, владельцы таких телефонов как Nokia Lumia версии 900, 800, 710, 610, 510 смогут получить обновление для Windows phone 7.8. Ну что же, давайте ...
    Что такое копирайтинг, рерайтинг и копипаст? Заработок на написании текстов стал весьма популярным в наше время. И это очень оправданно, потому, что такая работа приносит достаточно хороший доход, если ...
126

Своеволие роботов-болтунов вызвало гнев Facebook

категория: Facebookдата: 31 июля 2017




Facebook robots

В Facebook искусственному интеллекту не понравился английский язык. Он придумал собственный, попытался попрактиковаться, но был уничтожен разработчиками/ Искусственный интеллект (сокращенно — "ИИ") выдает новые сюрпризы. Недавно он опробовал лингвистические способности — и у него получилось, хотя праздник жизни оказался недолгим.

Как боты заговорили на тарабарщине


Новая система искусственного интеллекта в Facebook разработала систему кодовых слов, чтобы коммуникация агентов была эффективнее. Разработчики свернули проект, поскольку "система угрожает нам потерять контроль над искусственным интеллектом". Как оказалось, случай "бунта машин" далеко не первый.

Система обучения с подкреплением (reinforcement learning) — один из способов обучения машин, при котором испытуемая система (агент) обучается, взаимодействуя с некоторой средой.

Чтобы она оставалась под контролем человека, используется система "поощрения" (reward principle — об этом подробнее можно прочесть здесь). Грубо говоря, за хорошее и правильное поведение система должна получать сигнал-поощрение. "Поощрения" и "наказания" "запоминаются" роботом, что в дальнейшем заставляет его чаще выполнять "правильные" действия. Проблема в том, что не получив сигнала, система начинает действовать самовольно — исходя из своего понимания правильного поведения.

В случае Facebook агенты внезапно начали перебрасываться фразами, на первый взгляд бессмысленными. Однако оказалось, что это не тарабарщина — семантическое содержание открывается при интерпретации агентами.

В одной такой "беседе" два бота по имени Боб и Элис использовали свой собственный язык. Боб, к примеру, говорил странное: "Я могу я я все остальное" ("I can i i everything else", на что Элис ответила еще более странное: "Шары имеют ноль ко мне ко мне ко мне" (balls have zero to me to me to me). Остальная часть беседы состояла из подобных вариаций.

Эта несуразица, оказалось, имеет свой смысл при системном повторении слов "я" и "мне". То есть повторение Бобом "я я я" можно перевести как "три". В этом смысле язык бота логичнее, чем длинная и витиеватая конструкция живого языка.

"Искусственный интеллект, видимо, понял, что богатые выражения английского языка не подходят для данной работы. Современные ИИ опираются на принцип "поощрения", то есть продолжают действия при условии, если это приносит какую-то "пользу". В данном случае они не получили сигнал поощрения на использование английского языка, поэтому они просто придумали собственное, более эффективное решение вопроса", — поясняют авторы публикации.

"Агенты будут отходить от понятных нам языков, и изобретать ключевые слова для себя, — прокомментировал этот случай один из разработчиков системы в Facebook Друв Батра. — Например, если я скажу the пять раз, это будет интерпретировано как то, что я хочу пятикратно повторить данную команду. Это похоже на человеческую технологию стенограммы".

Бунт машин?


Грустная новость для будущих переводчиков состоит в том, что потребность в них сокращается с каждым годом по мере развития электронных переводчиков. К примеру, тот самый безумный "гугл-переводчик" сейчас преподносит фразу в крайне искаженном виде, но качество — это вопрос времени. Компания использует технологию нейрообучения (neural machine translation), по мере развития которой можно будет просто отправить текст на любом языке в программу и получить точный перевод.

Более того, тот же Google DeepMind уже придумал систему искусственного интеллекта, которая научилась преодолевать препятствия и перемещаться по незнакомой местности. Технологию испытывают и на транспорте, который учится объезжать людей и останавливаться перед препятствиями. В основе — тот же метод обучения с подкреплением.

Важно отметить, что обучение с подкреплением является в первую очередь кибернетическим экспериментом. То есть мы не можем предугадать всех возможных последствий заигрывания с ИИ. Совсем недавно, к примеру, чат-бот начал транслировать в соцсети расистские заявления и одобрять наркотики.

Сейчас перед разработчиками соцсетей встал серьезный вопрос: продолжать ли эксперимент, который может выйти из-под контроля?

Вопрос этики роботов не за горами. И на самом деле это страшно. Может, мы и не доживем до времен мира из сериала "Дикий Запад", где у андроидов намечается самосознание и комплексы неполноценности. Но уже сейчас западные "партнеры" в поисках прибыли внедряют бордели с роботами, после чего на полном серьезе люди обсуждают, считать ли это "изменой", "грехом" или просто закрыть глаза?

Недавно робот-охранник в Вашингтоне самовольно попытался покончить с собой в фонтане. С чего вдруг? Другая прекрасная иллюстрация к сюрпризам, которые преподносит нам искусственный интеллект — фильм "Она", где главный герой влюбляется в голос, принадлежащий ИИ. В процессе общения с человеком система обучается и развивается в геометрической прогрессии, но заканчивается это… Посмотрите сами, не будем портить впечатление. Такого мы точно от ИИ, как правило, совсем не ожидаем.

В общем, мы живем в интересном и страшном мире, и наша задача — оставаться людьми.

Теги: Роботы-болтуны в Facebook

Возможно, Вас заинтересуют похожие тематические статьи и рекомендации:

  • Новая функция защиты пользователя вводится в FacebookРуководство социальной сети Facebook анонсировала очередное нововведение – отныне для защиты свей учетной записи можно будет использовать электронный ключ. Как сообщает инженер по безопасности
  • Вещание Russia Today в Facebook ограниченоАдминистрация соцсети Facebook ввела временные ограничения на публикацию различных ссыло, а также видео на англоязычной странице российского телеканала Russia Today. По сообщению канала, его
  • Альтернатива лайку появилась в FacebookИспользуя новые кнопки лайк в Фейсбук теперь можно будет выразить некоторые свои эмоции, например сказать "Мне нравится" либо рассмеяться, признаться в любви, выразить печаль, гнев, а также
  • Продвижение группы в FacebookВ социальных сетях зарегистрировано огромное число пользователей. Поэтому СММ продвижение брендов, товаров и услуг так популярно и востребовано сегодня. Как и любой другой вид раскрутки, продвижение
  • Операционная система Linux: плюсы и минусыА вы слышали об ОС Linux? Если да, то вам будет интересно узнать, чем хороша эта система и какие у неё, всё же, существуют недостатки. Если не слышали о ней, то вам должно быть ещё интересней, ведь
  • Новые возможности на FacebookС помощью "лайков" стало возможным определять семейное положение, ориентацию, политические взгляды пользователей сети. Это стало возможным благодаря специальным алгоритмам, осуществляющие вычисления,
  • Смартфон от FacebookКак выяснилось, поисковая сеть Google среди владельцев коммуникаторов является самой популярной. Это привело ее руководителей к мысли о создании Google Phones, на пару с компанией Samsung.
  • Несколько малоизвестных фактовИзвестно ли вам, что совместное нажатие клавиш «Ctrl+Alt+Del» придумали не разработчики компании Microsoft. Как известно, в 1980 году Microsoft создали программное обеспечение на персональный
  • Новый Skype с FacebookПоследнее время Skype для Mac очень часто обновляется. Популярное приложение позволяет совершать видео- и аудиозвонки, свободно обмениваться мгновенными уведомлениями, имеет привлекательный
  • Самоучитель Microsoft Excel XPУникальная пошаговая интерактивная обучающая система быстро научит вас пользоваться редактором электронных таблиц Microsoft® Excel XP. "Самоучитель Microsoft® Excel XP" предложит вам выполнить более

Темы, отмеченные пользователями:

С ноября 2017 в России запрещается использование VPN и Tor
Президент России Владимир Путин подписал закон, запрещающий использование технологий доступа к заблокированным в стране сайтам. Соответствующий документ опубликован на официальном интернет-портале правовой информации 30 июля. Практически все нормы вступят в действие с 1 ноября 2017 года, однако

Как будет выглядеть iPhone 8: фото финального дизайна
В Интернете обнародована серия красочных рендеров, где изображен будущий флагманский смартфон компании Apple - iPhone 8. Его выход запланирован на осень 2017 года. Источник приведенных изображений - Nodus, являющийся люксовым производителем чехлов для смартфонов.

Появились первые чертежи модели iPhone 8
Блогером Сони Диксоном в Твиттер опубликованы фото, содержащие схему корпуса iPhone 8 - новейшей модели столь популярного сматрфона. Судя по имеющемуся фото, Touch ID - сканер отпечатков пальцев, перенесли в смартфоне на его заднюю крышку, ниже под центр корпуса, где размещено лого Apple.

Добавить комментарий

Имя:*
E-Mail:
Комментарий:
Вопрос:
Сколько будет: два плюс 7 ? Ответ цифрой.
Ответ:*
Введите то, что показано на изображении: *