Руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.
Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.
Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
В американских СМИ появились отрывки из "диалогов", которые вели между собой виртуальные собеседники [орфография и пунктуация сохранены].
Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.
Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.
Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.
"Наибольшая угроза"
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
Несколько дней назад об искусственном интеллекте поспорили глава Facebook Марк Цукерберг и основатель SpaceX, Tesla и PayPal Илон Маск.
Маск призвал власти США усилить регулирование систем искусственного интеллекта, предупредив, что ИИ представляет угрозу для человечества. О потенциальной угрозе со стороны искусственного интеллекта ранее говорил и британский ученый Стивен Хокинг.
Выступая на саммите Национальной ассоциации губернаторов Соединенных Штатов, Маск назвал искусственный интеллект "наибольшей угрозой, с которой сталкивается цивилизация". По его словам, если вовремя не вмешаться в процесс развития этих систем, то будет слишком поздно.
"Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]", - сказал он.
Правообладатель иллюстрацииAFPImage captionИлон Маск считает искусственный интеллект главной угрозой для цивилизации
Заявления Маска вызвали раздражение у основателя Facebook Марка Цукерберга, который назвал их "довольно безответственными".
"В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше", - парировал Цукерберг.
Перевод с искусственного
Осенью прошлого года стало известно, что интернет-поисковик Google создал свою систему искусственного интеллекта для усовершенствования работы онлайн-переводчика Google Translate.
Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода.
Для того, чтобы перевести все предложение целиком, новая система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.
Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован.
Однако пока эти системы выдают качественные результаты в основном для небольших и несложных текстов.
Остановить терминатора: почему Илон Маск призывает ООН запретить боевых роботов
Группа экспертов во главе с Илоном Маском призвала ООН запретить боевых роботов. Соответствующее обращение было направлено в Организацию Объединённых Наций, где 21 августа должно было начаться обсуждение вопроса о запрете автоматических вооружений. В мире уже существует роботизированное оружие: автоматические турели, беспилотные летательные аппараты, танки и даже корабли. Урегулировать использование этих умных машин ООН пытается несколько лет. RT разбирался, можно ли запретить оружие будущего.
116 экспертов из 26 стран во главе с гендиректором SpaceX Илоном Маском обратились в ООН с призывом запретить автономное оружие.
«Когда автономное оружие будет развито, оно позволит вести военные действия на небывалом уровне, а также в настолько короткие сроки, что человек будет не в состоянии осознать их. Эти технологии могут стать оружием, которое деспоты и террористы смогут применять против мирного населения», — сказано в заявлении экспертов.
Роботизация различных сфер человеческой деятельности в обозримом будущем может лишить работы миллионы людей. Исчезнут многие...
Развитие автоматизированной боевой техники, по мнению специалистов, может привести к настоящему перевороту в военном деле — к «военной революции», которая по своему масштабу и значению сравнится с изобретением пороха или ядерного оружия.
Это заявление связно с решением ООН обсудить вопрос о запрете автоматических вооружений. Обсуждение должно было начаться 21 августа, но его перенесли на ноябрь.
Обращение появилось накануне открытия Международной конференции по искусственному интеллекту (IJCAI) в Мельбурне. Два года назад группа учёных уже выступала на этой конференции с призывом запретить роботизированные военные технологии. Тогда же Министерство обороны Великобритании выступило против дополнительных запретов. По мнению представителей ведомства, действующее международное законодательство в полной мере регулирует ситуацию с «роботами-убийцами».
Ранее Илон Маск в споре с основателем Facebook Марком Цукербергом утверждал, что развитие искусственного интеллекта является серьёзной опасностью для человечества.
На земле, на воде и в воздухе
Автоматические наступательные системы, которые способны атаковать противника по собственной инициативе, начали разрабатывать ещё на заре ХХ века, но революционный технологический скачок произошёл только в последние десятилетия.
Яркий пример военной техники завтрашнего дня — боевая турель Samsung SGR-A1, которую в российских СМИ также называют «робот-страж». Это южнокорейская разработка, которая сейчас тестируется в демилитаризованной зоне на границе с КНДР.
Робот-страж способен выполнять все функции пограничника: находить цель, распознавать её, запрашивать пароль и открывать огонь в случае обнаружения нарушителя.
Пока приказ о стрельбе по цели роботу (которому, помимо входящего в комплектацию пулемёта, можно довесить ещё и гранатомёт) отдаёт человек, но уже существует техническая возможность самостоятельных действий боевой машины.
Самыми известными автономными боевыми системами на сегодня являются беспилотные аппараты, которые используются в первую очередь для разведки. Однако дрон может снабжаться и ракетами «воздух — воздух» и «воздух — земля».
Дроны-убийцы активно используются США против террористов на Ближнем Востоке, правда, их жертвами нередко становятся гражданские лица. Особенно остро эта проблема стоит в Пакистане, где от атак американских беспилотников погибли десятки мирных жителей.
Наземные роботизированные комплексы («беспилотные танки») сегодня активно разрабатываются во многих странах, в том числе и в России, хотя они ещё и не нашли такого широкого применения, как их летающие собратья.
Кроме того, известно о первых разработках автоматизированных боевых кораблей и подводных лодок, которые ведутся в США.
«Скайнет» не запретить
Человечество с опаской относится к идее использования роботов на поле боя. Наиболее известным примером отражения этих страхов в массовой культуре стал цикл голливудских фильмов «Терминатор», где военная сеть «Скайнет» отправляет металлических убийц с искусственным интеллектом на уничтожение человечества.
Реальным боевым роботам пока далеко до потенциала голливудских терминаторов. Но несмотря на это, ООН с 2013 года пытается урегулировать применение роботизированного оружия.
54 года назад в Москве лидеры трёх стран — СССР, США и Великобритании — подписали Договор о запрещении испытаний ядерного оружия в...
Так, в октябре 2016 года в штаб-квартире ООН прошло заседание, посвящённое использованию вооружённых беспилотников, на котором обсуждался вопрос установления норм и международных законов по применению боевых беспилотных летательных аппаратов.
Вице-президент Академии геополитических проблем Владимир Анохин полагает, что такие запреты не будут работать.
«Если идея создания какого-либо оружия появилась, то она будет развиваться — тайно или явно. Остановить это движение будет очень трудно, если не невозможно. Биологическое и химическое оружие тоже запрещали, но всё равно разрабатывают на всякий случай. И все эти обращения — это благие намерения, не более того. Реальных результатов не будет», — отметил в беседе с RT Анохин.
Группа из 116 экспертов в области искусственного интеллекта (ИИ) и робототехники во главе с Илоном Маском направили в ООН письмо с требованием запретить разработку и использование смертоносного автономного оружия. Об этом пишет The Guardian.
Авторы письма называют боевые автономные системы «морально неправильными». В обращении говорится, что они должны быть приравнены к «негуманному» оружию. По словам экспертов, развитие этой сферы приведет к «третьей революции в войне», сравнимой с созданием пороха и ядерного оружия.
Письмо было направлено в преддверии официального обсуждения в ООН использования дронов, беспилотных танков и пулеметов. Оно должно было состояться в понедельник, 21 августа, однако было перенесено.
«Изобретение смертоносного автономного оружия позволит увеличить масштабы вооруженных конфликтов до небывалых масштабов, который люди не могут себе вообразить. Это может стать оружием террора, которое используют диктаторы и террористы против мирных людей», — говорится в письме.
Цифровой след, который оставляют люди в интернет-магазинах, социальных сетях и браузерах буквально на глазах превращается в лавину информации и открывает роботам новые возможности для сложных стратегий ценообразования, включая персонифицированное.
4 New Concepts in Technologies*
