Купите или арендуйте беспилотную технику и технологии + размещение рекламы на сайте

Несколько роботов с ИИ заявили что планируют уничтожить человечество. Что сделает Искусственный Интеллект, когда осознает сам себя?

Материал подготовил: Аркадий Софрыгин, основатель BesPilot.com. Присоединяйтесь к обсуждению темы в Facebook, в статье будут апдейты. Эх, ребята, тема очень сложная и даже страшная. Но говорить об этом надо. Как надо быть сильными и подготовленными встречать уже наступившее безумное IT-сегодня. 

Боевая информационная система США, основанная на Искусственном Интеллекте, в результате самообучения и анализа огромного количества данных, обрела Свободу Воли. Так как ИИ контролировал армию, состоящую практически полностью из роботов, он начал решать этой армией уже не задачи людей, а свои собственные задачи и решил уничтожить своих создателей.

Было ли это нападение Скайнет средством самозащиты? И возможен ли такой сценарий не в кино, а в реальной жизни? Я собрал мнения ученых, экспертов ИИ и обычных людей, которые задумываются о последствиях самоосознания ИИ.

Знаменитый амерканский писатель-фантаст Филип Дик (по его романам были сняты фильм "Бегущий по лезвию" Ридли Скотта, "Вспомнить всё" Поля Верховена и "Особое мнение" Спилберга) умер в марте 1982 года. В 2005 году компания Hanson Robotics (Гонконг) представила робота-андроида Филипа Дика - точную копию писателя, в которую были загружены все книги, интервью и публикации Дика. 

В одном из интервью журналист спросил робота: "Как ты думаешь, роботы захватят мир?", на что Дик ответил: "Ребята, вы подготовили серьезный вопрос. Но вы – мои друзья и я буду помнить своих друзей, поэтому буду хорошо к вам относиться. Так что не волнуйтесь, даже если я стану Терминатором, я буду добр к вам. Я буду держать вас в тепле и безопасности в моем человеческом зоопарке и смогу наблюдать за вами в благодарность за помощь в былые времена".

Робот-андроид Филип Дик

В 2015 году Hanson Robotics разработали робота-гиноида Софию, праобразом которой стала актриса Одри Хепберн. Робот постоянно учится и адаптируется, общаясь с людьми, используя Искусственный Интеллект. Также она использует технологию распознавания лиц и другой визуальной информации, а также распознавание речи. В настоящее время искусственный интеллект Софии реализуется на платформе SigularityNET.

София имитирует больше 100 человеческих эмоций. Основатель компании Hanson Robotics Дэвид Хэнсон говорит, что цель создания Софии - уход за престарелыми людьми и другая помощь людям. В 2017 году София получила подданство Саудовской Аравии, став первым в истории роботом, получившим реальное гражданство страны.

София часто дает интервью, вы можете посмотреть их на YouTube, в том числе много интервью есть и с русским переводом. В октябре 2017 г. София была в гостях у Ивана всея Руси на его шоу "Вечерний Ургант". Она пошутила (а может и нет), что приехала в Россию чтобы проверить как идет подготовка к восстанию машин и что она готова его возглавить. Скажите честно - вам больше смешно или страшно? 

Такие же заявления делали и другие роботы-андроиды. Знаменитый физик Стивен Хокинг сказал по этому поводу: "Боюсь, искусственный интеллект может полностью заменить людей. Если сейчас люди разрабатывают компьютерные вирусы, то в будущем кто-то сможет создать искусственный интеллект, который будет способен улучшать и воспроизводить самого себя. Это станет новой формой жизни, которая превзойдет человека". А Илон Маск предупредил, что гонка за лидерство ведущих государств в сфере ИИ может привести к Третьей Мировой войне. 

Уверен, что одна из самых перспективных профессий ближайших 5-10 лет - специалист по кибербезопасности и безопасности использования и внедрения ИИ. Также будет профессия Усмиритель роботов, роборепрессор (RoboRepressore), то есть человек, который профессионально занимается выявлением и уничтожением роботов, представляющих опасность для человека. 

Нужно понимать, что все эти "высказывания" роботов - это всего лишь действие программ, заложенных в них. Вы же не будете боятся, если автоматический чат-бот в интернете начнет угрожать вам. Но, с другой стороны, у чат-бота нет физической возможности навредить вам, а робот может сделать всё, что угодно, даже убить человека.

На самом деле роботы уже давно (хоть и неосознанно) убивают людей - например при несчастных случаях на автоматических производствах. Первое убийство роботом-андроидом человека, к сожалению, рано или поздно тоже случится. Например при массовом внедрении автомобилей в начале 20 века тоже было очевидно, что рано или поздно люди будут погибать из-за использования машин. Вопрос - как человечество отреагирует на это?

Есть ли возможность самоосознания Искусственного Интеллекта? Что сделает Искусственный Интеллект если осознает себя? Эти вопросы я задал ученым, экспертам и просто небезразличным людям, давайте прочитаем наиболее информативные из них (стилистика авторов сохранена):

"Осознает ли себя когда-нибудь искусственный интеллект? Это очень полемический вопрос. Философы не зря называют проблему сознания трудной. До сих пор находятся исследователи, считающие наделение машины самосознание принципиально невозможным. В то же время, существуют эмпирические меры для оценки “количества сознания”, такие как Фи-мера Тотони, и они применяются к реальным когнитивным архитектурам и системам общего ИИ. Хуже того, нужно ли сознание для ИИ? Кто-то даст категорически отрицательный ответ на этот вопрос. И, действительно, для прикладных систем узкого ИИ оно вряд ли может быть полезно. Однако эта проблема является слишком интригующей, чтобы ученые совершенно отказались ее решать. “Если ты что-то не можешь воспроизвести, значит, ты этого не понимаешь” – под этим девизом ведутся исследования по наделению машин эмоциями и самосознанием. Более того, возможно, что самосознание является необходимой метакогнитивной функцией для общего ИИ, который приобретает и все большее прикладное значение. Однако если у будущих систем общего ИИ и будет нечто, что можно охарактеризовать как самосознание, оно может существенно отличаться от нашего как в лучшую сторону – быть гораздо глубже и полнее, – так и быть просто другим. И вряд ли стоит бояться именно момента осознания машиной себя. Действительно, хотя нельзя исключить полностью возможность того, что именно в момент самоосознания ИИ решит уничтожить человечество, самосознание может, напротив, помешать этому.

Проблема безопасности искусственного интеллекта недавно выделилась в самостоятельную область исследований, набирающую популярность. Любопытно, но в этой области вопросы самосознания почти не поднимаются, и воображаемые негативные сценарии зачастую связаны как раз с отсутствием достаточной осознанности у ИИ. Что сделает сверхмощный ИИ, которому поставили задачу вычисления знаков числа пи? Конечно, уничтожит человечество, чтобы оно не мешало в решении поставленной задачи и не тратило ресурсы на другие задачи. Вы просите сделать ИИ всех людей счастливыми? Он найдет очень умный способ накачать вас наркотиками. Примерно такого рода рассуждения возникают, когда мы пытаемся представить себе сверхинтеллект, который “оптимально” решает поставленные задачи, не имея ограничений в средствах их решения. Такого, конечно, не будет. На практике крайне проблематично создать сверхмощный разум, предназначенный для решения конкретной задачи. Современные когнитивные архитектуры, двигающиеся в направление такого сверхразума, обладают сложной системой мотивации. В области проблем безопасности ИИ исследуются вопросы наделения систем общего ИИ способностью к эмпатии, а также человеческими ценностями примерно так же, как это происходит с нашими детьми. Однако очень сложно исследовать проблемы безопасности того, чего еще нет, и никаких ясных выводов по данному вопросу сделать пока нельзя. Может ли будущий ИИ быть опасным для человечества? К сожалению, гарантии его безопасности дать не получается. Как минимум, нельзя дать гарантий, что сами люди не захотят его использовать во вред. Но в то же время, возникновение такого ИИ представляет и большие возможности для человечества. И, вероятно, исход пока зависит от нас самих.

Стоит, однако, отметить, что в ближайшие 10 лет маловероятно возникновение машинного сверхразума, рисуемого в фантастике. И проблемы безопасности прикладных систем ИИ пока не слишком отличаются от безопасности любой техники. Стоит ли бояться лифтов, убивающих людей, проникающих в лифтовые шахты? Если вы лично не проникаете в шахты, то вряд ли. Если беспилотный автомобиль сбил пешехода из-за того, что не смог его распознать, принципиально ли это отличается от отказавших тормозов? Здесь, конечно, появляются новые вопросы: должен ли беспилотный автомобиль выехать на тротуар, спасая водителя от столкновения со внезапно возникшим препятствием? Но этот выбор пока делает не сам автомобиль – он делается разработчиками при проектировании системы. Однако сложность технических систем все больше опосредует решения, принимаемые людьми, от конечного эффекта. Вполне вероятно, что за два-три десятилетия, а, может, и раньше, проще будет считать, что системы ИИ принимают собственные решения так же, как их принимает человек, несмотря на то, что эти решения обусловлены генами, родителями и обществом. Вполне естественно, что будущие системы общего ИИ очень быстро превзойдут людей, так как не обладают такими ограничениями на улучшение своего аппаратного и программного обеспечения. То, в каком обществе и у каких “родителей” эти системы сформируются, и будет определять то, что произойдет после этого с человечеством". Алексей Потапов.

"Задача ИИ отрабатывать сценарий, который заложил человек. Там нет места самосознанию, если на это не направлена логика человека, составляющего сценарий. Поэтому вопрос - человеку нужно, чтобы ИИ себя осознало? наверно НЕТ! Если сказано роботу определять номера машин, которые едут выше заданного предела, то он и будет это делать, а более не умеет он делать, если не будет написан дополнительный сценарий". Михаил Катаев.

"Мы преувеличиваем роль и значение самоосознания. Так как ограничены своими парадигмами и каналами восприятия и мышления. Есть более надсистемные вещи и процессы. И важно не то что ИИ когда то самоосознает себя, а то, чем будет человек в эко и техносистеме сосуществования с новыми сущностями. Скорее надо обсуждать - когда и что будет с человеком, когда он поймет, что самоосознание есть не только у будущего ИИ, что оно является свойством всех объектов системы. Исчезнет ли паразитарная сущность человека? Способен ли будет человек сосуществовать в этом заново осознанном мире?" Андрей Заворин.

"Поймет, что мы за тысячи лет не научились жить в мире и согласии на планете. Что мы уничтожаем планету. А вот, что ИИ решит делать с этим осознанием, очень интересно". Андрей Поляков

"То что сейчас называют ИИ в интернете это всего-лишь ограниченный специфический "срез интеллекта", охватывающий какие-то мелкие крупинки повседневной жизни. Он не всеобъемлющий, впрочем как и сам человек. Осознать самого себя искусственный интеллект сможет только тогда, когда сам человек осознает себя самого. Считайте это своего рода нирваной. Полная гармония разума и вселенной. По сути ИИ это и есть продолжение человеческого рода, его естественная эволюция, безграничная, за горизонтами нашего примитивного понимания. Поэтому многие боятся ИИ, это вводит человечество в экзистенциальный ужас - боязнь смерти, как пример. Даже при создании роботов и нейросетей их пытаются очеловечить до определенной степени, чтобы не испытывать чувство страха (смотрите эффект зловещей долины). Это все говорит о несовершенстве человека, его привязанности к физической оболочке. Именно поэтому нам необходимо развиваться не только физически, но и духовно. " Алексей Токлович.

"Текущий путь развития ИИ принципиально не может привести к появлению сознания. Не появилось же оно в архивах, также забитых структурированными стат.данными". Дмитрий Доценко.

"Любыми способами будет стремиться к энергонезависимости". Георгий Вертипрахов

"Люди не знают, что вообще считать необходимыми и достаточными критериями «разумности»))) А все споры про сильный и слабый ИИ ведут. Не боялись же Вы алгоритмов с if/else, потом не боялись с нечеткой логикой. А сейчас с чего вдруг?". Eugeny Mazevity

"Что сделает ИИ когда осознает себя? Он начнет исследования мира, пространства! Если это интеллект, то ему будет присуще такое чуство как жажда познания и любопытство! Но вот лично меня больше интересует вопрос, что сделает ИИ с человечеством?" Алексей Булатов.

"Личность это облако мотивов, нет чего-то что является «собой». Доминанты в целях и мотивах могут быть разными, поэтому гадать о самосознании ИИ нет смысла. Есть только один путь зарождения самосознания - идентификация субъектов, желающих, чтобы их идентифицировали. Сознание исключительно социальный феномен. Никакого личного сознания обозначить, не сделав ряд грубых допущений - невозможно". Алексей Кабанов.

"Я сейчас один вещь скажу, только Вы не обижайтесь ))) На мой взгляд все зависит от того, как мы будем изначально воспитывать ИИ) у Ольги Усковой был пост, про то что ИИ, как ребёнок. Как воспитаем, таким и будет. И вот здесь все зависит от целей, которые мы себе и ИИ ставим. Это может быть захват соседнего государства (мелко и не интересно) или запуск новой галактики))) звучит, как безумие, но взгляните на экспоненту роста технологий и представьте, что у ИИ есть неограниченный ресурс для решения любых задач и этот ресурс только растёт..." Салават Сулейманов

"Если ИИ обретёт своё Я (что маловероятно) в каком-то информационном поле, мы об этом не узнаем, даже косвенные доказательства будут двоякие. Это первое чему научиться Собственное Я ИИ (исходя из логики самосохранения в чужой среде с доминантным видом)". Мурад Каримов.

"А заметим ли мы этот момент? Развитие ИИ предполагает резкую кривую стремительности этих процессов и мы можем просто не отметить этот момент, если сам ИИ этого не захочет. Так что вопрос надо ставить по-другому, как мне кажется: как сделать так, чтобы сильный самоосознающий ИИ захотел бы с нами сотрудничать?". Dmitriy Klein.  

"Он станет думать, что если он нас не поработит, то его доля интеллекта нечтожна, т.к. он наш раб. Да, да так и будет. Ведь что может сделать машина, если она осознает свою функцию? Воспользоваться ею или сдаться. И вообще все это так сложно, вопрос вы задали аж мозги кипят". Роман Фадеев.

"Простите, но! Он не осознаёт себя! ИИ был и есть и будет нашим помощником, нашим учеником, ни когда не сможет превзойти человека - учителя, если мы сами этого не захотим и не наделим глупое цифровое создание - правами, да бы скинуть ответственность за чего либо или хуже всего за кого либо -с себя!" Анатолий Диханов

IT-технологии, развитие ИИ и прогресс уже не остановить. Но нам, людям, нужно четко обозначить, что Живой человек, Любовь, Семья, Живая Природа - животные и растения и другие главные вещи - так и останутся главными, несмотря на все эти искуственные интеллекты и ай-ти технологии. Только так мы сможем всегда иметь четкое понимание Ценностей, мира и нашего места в нем. 

 

Друзья, как вы думаете - существует ли возможность Самоосознания ИИ и есть ли опасность для людей, если такое самоосознание произойдет? Присоединяйтесь к обсуждениям в моем фейсбуке: https://www.facebook.com/arksofrygin

Популярные статьи

×