(Фото: Daily Express)
Фэйсбук завершил эксперимент по искусственному интеллекту.
«Чатботы» Элиса и Боб модифицировали английский, чтобы облегчить им общение - создавали предложения, которые казались тарабарщиной для наблюдающими за ними учеными.
Эксперт по роботам сказал, что это было откровением, когда машины Фэйсбук заговорили на их собственном языке, но это также вызывало страх.
Профессор британской робототехники Кевин Уорик сказал: «Это невероятно важная веха, но любой, кто считает, что это не опасно, пусть засунет голову в песок».
«Мы не знаем, что говорят эти боты. Когда у вас есть бот, способный делать что-то физически, особенно военные боты, это может быть смертельным».
«Если один бот говорит: «Почему не делать этого», а другой отвечает «Да» и это военный бот, то у вас образовалась серьезная ситуация».
(Фото: educacion-holistica.org)
«Это первое записанное сообщение, но было еще много незарегистрированных».
«Умные устройства прямо сейчас имеют возможность общаться, и, хотя мы думаем, что можем их контролировать, на самом деле - мы не знаем».
«Стивен Хокинг и я работали над возможными опасностями уступок искусственному интеллекту».
У инцидента происшедшего в Фэйсбук прослеживаются отголоски сюжетной линии фильма «Терминатор», в котором система ИИ, которая развила самосознание, ведет к разрушительной войне с людьми.
Исследователи из Фэйсбук в Нью-Йорке создали «чатботов» Элис и Боба в попытке разработать автоматических аварийщиков для социальных сетей.
Они должны были говорить по-английски, поскольку они должны были быть способны вести переговоры и заниматься коммерческой деятельностью - каждому из которых давалась своя ценность.
(Фото: AP:Associated Press)
Но роботы быстро модифицировали английский, используя кодовые слова и повторения, чтобы облегчить общение для себя - создав язык тарабарщины, который только они понимали. Вот один из обменов:
Боб: Я могу все другое. . .
Алиса: чепуха для меня нуль для меня для меня для меня.
Боб: ты я все остальное. . . .
Алиса: чепуха шары ко мне, ко мне, ко мне ко мне.
Исследователи, когда поняли, что происходит, отключили питание.
Британский эксперт по будущим технологиям Кейт Адамсон сказала: «Это не похоже на «Терминатора».
«Такое происходит повсюду. Если вы посмотрите на такие вещи, как высокочастотная торговля на фондовых рынках, там есть алгоритмы, которые делают то же самое».
«Они получили новые знания и технически не контролируются поминутно».
«Уровень сложности ИИ способен к тому, что мы еще не понимаем».
Фэйсбук сказал, что эксперимент был остановлен, потому что это было «не то, что они собирались расследовать».
(Фото: Collective Evolution)
Он сказал, что аналогичные результаты были замечены и другими техническими фирмами.
Ученые Google Translate в прошлом году обнаружили, что служба изобрела собственный язык.
Технический гуру Элон Маск недавно предупредил, что понимание создателя Фэйсбук Марка Цукерберга «ограниченно».
Маск, 46 лет, сказал, что Фэйсбук представляет собой «фундаментальный риск для человеческой цивилизации».
10843 .
Мы в : 
