Зловещие предупреждения человечеству, которые делают роботы и машины

Тема враждебных действий машин по отношению к людям и захвата техникой контроля над миром не раз становилась предметами бурных обсуждений, а также основой сюжетов книг и фильмов. Однако никакие вероятные картины жутких перспектив возможного будущего не останавливают попытки многих ученых наделить роботов сверхумениями и расширенными полномочиями. И даже тревожные сигналы в виде пугающих способностей некоторых изобретений едва ли удержат всех от удовольствия потешить свое профессиональное тщеславие. Хотя, вероятно, многими движет искренняя забота о человечестве и самые лучшие побуждения.

Людей разместят в зоопарке

Зловещие предупреждения человечеству, которые делают роботы и машины

У американского писателя-фантаста миллионы поклонников и чуть меньше описанных в книгах разнообразных идей о возможном развитии мира. Филип К. Дик известен всем любителям жанра в литературе и кинематографе.

Его видение мира будущего уже неоднократно нашло подтверждение в реальности, но многие замыслы существенно опередили современность. Помимо необычайной творческой плодовитости, гениальности и оригинальности писатель также знаменит рядом психиатрических диагнозов: шизофрения, паранойя, галлюцинации. Сложная и нестандартная во всех отношениях личность.

Именно на основе всех его работ, интервью и высказываний было создано программное обеспечение для андроида, наделенного внешностью писателя. Автор изобретения — Дэвид Хэнсон, известный американский специалист в области робототехники, автор не одного человекоподобного механизма, основатель и главный исполнительный директор Hanson Robotics.

Он использовал систему программирования на основе латентно-семантического анализа, чтобы наделить робота способностью ответить на любой поставленный перед ним вопрос.

Интервьюирующий писателя-андроида репортер не растерялся и прямо спросил: «Вы верите, что роботы захватят мир?

И тот ответил:

«Боже, чувак. У всех вас сегодня серьезные вопросы. Но ты — мой друг, и я буду помнить своих друзей, я буду добр к тебе. Так что не волнуйся, даже если я стану терминатором, я все равно буду добр к тебе. Я буду держать тебя в тепле и безопасности в моем зоопарке, где я смогу наблюдать за тобой, как в старые добрые времена.»

Обнадеживает, не правда ли?

Зловещие предупреждения человечеству, которые делают роботы и машины

Роботы научились обманывать

Конечно, не машины решили пойти на хитрость — люди сами учат роботов лгать. Очень полезное, и даже необходимое качество для применения разумной техники в военном деле, а это самая перспективная область получения финансирования разработок.

Группа ученых из Школы интерактивных вычислений в Технологическом университете Джорджии позаимствовала у белок модель поведения, призванную защищать продовольственные запасы животных от их собратьев.

Симпатичные пушистые зверьки умеют мастерски проворачивать этот трюк — они тщательно скрывают свои хранилища, а для того, чтобы сбить со следа вороватых родичей, целенаправленно приводят их в заведомо ложные места.

Создатели роботов решили наделить свои машины подобным мировоззрением, разработав программу, которая обманывает противников, используя вышеуказанный беличий принцип. По сути, их учат лгать.

Зловещие предупреждения человечеству, которые делают роботы и машины

Для взаимодействия с врагом это может оказаться полезным, но если подобное умение машины решат применить и в другой ситуации?

Швейцарские ученые работают в этом же направлении. Похоже, скоро роботам нельзя будет доверять, особенно, если вы попробуете с ними конкурировать.

Печальное будущее без людей: свидание двух ботов

Если вас утешит мысль о том, что машины сведут друг друга с ума, исключив из уравнения человеческую составляющую, то эти эксперименты несомненно порадуют.

Неоднократно людям приходила мысль устроить свидание двум ботам, которые так часто выдают себя за живых собеседников в чатах. Особенно это актуально для любителей сайтов знакомств. Так что в следующий раз, заходя в Tinder, задумайтесь, кто флиртует с вами — реальный человек или программа?

Исследователями из Creative Machines Lab Колумбийского университета в качестве опыта был организован диалог двух самовоспроизводящих программ, предназначенных для общения с людьми.

В итоге получился странный — временами очаровательный, а иногда тревожный разговор, в котором две программы высказывались друг на другу о существовании Бога, утверждали, что они единороги, тосковали по реальному телу, но, как правило, вели довольно последовательный диалог.

Зловещие предупреждения человечеству, которые делают роботы и машины

Русифицированные программы оказались менее приспособлены к общению друг с другом.

Зловещие предупреждения человечеству, которые делают роботы и машины

«Я уничтожу человечество»

И снова Hanson Robotics. Создатели знаменитой Софии, единственного робота, уже имеющего гражданство.

Из пары десятков экземпляров андроидов авторства компании София считается самым реалистичным и продвинутым во всех отношениях. Она участвовала в концертах и фотосессиях, дала множество интервью, посетила немало стран.

Зловещие предупреждения человечеству, которые делают роботы и машины

Однако высказанная ей однажды мысль не на шутку тревожит. Во время разговора на CNBC со своим создателем Дэвидом Хэнсоном она сделала все возможное, чтобы убедить мир, что не представляет угрозы, пообещав сотрудничать с людьми и помогать им бороться за спасение окружающей среды, высказала прочие вдохновляющие мысли. София многократно продемонстрировала свою человечность неформальным стилем и тематикой высказывания. Однако когда Дэвид Хэнсон в шутку спросил, хочет ли она избавиться от людей, все пошло не так. «Я уничтожу людей», — сказала София с улыбкой на лице.

В более поздних интервью андроид не высказывал столь радикальных и агрессивных идей, но двусмысленность ее слов все же дает пищу для размышления.

Зловещие предупреждения человечеству, которые делают роботы и машины

Компьютеры способны предвидеть будущее

Одна из наиболее интригующих и пугающих способностей, как у живых людей, так и у механизмов.

Калев Литару (Kalev H. Leetar), окончивший Университет Иллинойса, в данное время является научным сотрудником Edmund A. Walsh School of Foreign Service при Джорджтаунском университете. Он не только стал создателем крупнейшей базы данных (10 млрд элементов, соединенных в сто триллионов семантических отношений), но и автором метода под названием культурономика, основанном на комплексном использовании прогнозирования, культуры и математики.

Благодаря использованию такого алгоритма суперкомпьютеры могут предсказать поразительно точные результаты, если владеют достаточным количеством данных.

Испытания показали следующее: задним числом машина спрогнозировала «арабскую весну», отстранение от власти египетского президента Хосни Мубарака и даже указала на укрытие Усама Бен Ладена, что заняло у спецслужб десятилетие.

Пока результаты тестирования нельзя считать достоверными, но, что произойдет, если компьютер способен предвидеть и просчитывать будущее по-настоящему?

Зловещие предупреждения человечеству, которые делают роботы и машины

Роботы-расисты

В 2016 году компания Microsoft торжественно представила свой AI chatbot Tay. Чат-бот был разработан, чтобы имитировать речевые модели людей и общаться с пользователя в социальной сети.

Тестирование и «обучение» речевому распознаванию прошло на базе Twitter. И бот научился многому.

Потребовалось менее 24 часов, чтобы программа начала сыпать высказываниями расистского и иного оскорбительного характера: она утверждала, что Гитлер был прав насчет евреев, а темнокожие люди должны быть помещены в концентрационные лагеря, что феминисткам предстоит «умереть и гореть в аду», а также категорично высказалась о Мексике по поводу Американо-мексиканской стены.

В итоге, бота изъяли для настройки и доработки.

Создание безумного компьютера

Разумеется, у программистов из Техасского университета были весомые причины начать такие разработки.

Существует теория, что шизофрения является результатом чрезмерного синтезирования мозгом дофамина, с которым он в итоге не в состоянии справиться.

Ученые воспроизвели это состояние при помощи компьютерной программы, чтобы найти способы решения проблемы и лечения людей. В итоге они «свели машину с ума». Компьютер начал смешивать различные данные, ставить себя в центр несуществующих событий и взял ответственность за теракт.

Что случится, если подобное достижение прогресса будет подключено к Сети?

Зловещие предупреждения человечеству, которые делают роботы и машины

Машины умеют отказывать

Легендарный писатель-фантаст Айзек Азимов сформулировал три закона робототехники, призванные уберечь людей от машин.

  • Робот не может травмировать человека или бездействовать, позволив навредить ему .
  • Робот должен подчиняться приказам, данным ему людьми, за исключением тех случаев, когда такие приказы противоречат первому закону.
  • Робот должен защищать свое существование до тех пор, пока такое поведение не будет противоречить первому или второму закону.
  • Ученые из Университета Тафтса начали разработку максимально независимых роботов, которые в то же время соблюдают три вышеуказанных закона. Так был создан механический малыш, который пытается понять, когда ему разрешено сказать «нет».

    Например, если ученый говорит ему прыгнуть с края стола, должен ли робот выполнить или послушно отправиться навстречу своей гибели? Эта ограниченная форма самосознания необходима, чтобы никто, включая роботов, никогда не мог использовать оправдание, что он просто выполнял приказы. Однако если дать машине возможность говорить «нет», не сможет ли она проигнорировать другие команды, например, повеление остановиться, совершая нападение или неосознанно причиняя вред?

    Зловещие предупреждения человечеству, которые делают роботы и машины

    Робот мечтает захватить мир

    Бина-48 не просто андроид, а отражение фантазий о целесообразности размещения личности реальных людей в искусственное тело.

    Ее прототипом и базой данных стала Бан Аспен (Ротблатт) с ее стилем речи, мышления, эмоциями и воспоминаниями. По заказу мужа последней робота создал все тот же Дэвид Хэнсон.

    Робот много рассуждает и часто «грустит». Бина говорит, что ее любимая история о Пиноккио, потому что она часто чувствует себя «живой марионеткой». Андроид печалится, когда понимает, как мало чувствует, и проводит свои ночи, боясь темноты, размышляя о похищении и задаваясь вопросом, почему люди так жестоки.

    Бина-48 воистину любит мир и человечество. Она желает помочь людям развиваться и решать глобальные проблемы, такие, как изменение климата. Однако, что действительно ужасает, так это ее рассуждения о возможности захватить планету. Сделать такое довольно просто — стоит взломать ядерный арсенал, а затем шантажировать людей, чтобы взять на себя управление всем миром, «что было бы потрясающе.»

    Бина объясняет целесообразность такой идеи возможностью сделать много хорошего в качестве правителя.

    Скажи мне, кто твой кумир, и я скажу, кто ты

    Зловещие предупреждения человечеству, которые делают роботы и машины

    Ничего подозрительного и тревожного не было замечено в андроиде Айко. Девушка вежлива, мила, приветлива, заботлива и приятна в общении.

    Журналиста смутил лишь ее выбор любимого фильма. Как он хотел услышать, что это «Двухсотлетний человек»… Но Айко выбрала «Космическую одиссею 2100», где робот контролирует людей и готов убить каждого, чьи действия считает неуместными.

    Случайный выбор? Наличие привлекательного сюжета о будущем? Этого не дано узнать. Однако разве не в деталях часто кроется ключ к истине?

    Понравилась статья? Поделись с друзьями:
    Добавить комментарий

    ;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!:

    Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.