Совместимость. Как контролировать искусственный интеллект

Столкновение между человечеством и передовым искусственным интеллектом в народном мнении воспринимается как неотвратимая угроза, способная нанести серьезный ущерб не только экономике и взаимоотношениям, но и самой сущности нашей цивилизации. Вмешательство неземных машин, способных думать, прогнозировать и принимать решения самостоятельно, вселило страх в людские сердца. Однако, ученый-исследователь в области ИИ Стюарт Рассел в своей новой книге предлагает нам возможность увернуться от этого кровавого сценария. Он рассказывает о том, как человечество уже научилось использовать прорывные возможности искусственного интеллекта - от автономного оружия до манипуляции нашими потребностями и желаниями - и какие еще горизонты мы можем преодолеть с помощью этой технологии. Книга афирмативного и бесстрашного исследователя затрагивает насущные вопросы. Возможно ли предотвратить человеческое подчинение под надзором сверхчеловеческого мозга ИИ? Рассел приходит к выводу, что ответом является изменение основополагающих принципов создания искусственного интеллекта. Машины должны стать скромными и самоотверженными, они должны взять на себя решение наших задач, вместо того, чтобы стремиться к выполнению своих собственных целей. Подробные принципы и практические способы их осуществления доступны внимательному читателю этой книги - главной в области искусственного интеллекта, признанной мировыми изданиями. Книга также поднимает вопрос о ценности. Ведь все, что мы создаем, является проявлением нашего интеллекта. И возможность получить доступ к интеллектуальным способностям превосходящим наши собственные - это, безусловно, самое существенное событие в истории цивилизации. Цель этой книги - объяснить, почему такое событие может стать последним для нашего мира и как мы можем избежать подобной участи. Введение понятия полезности, предложенное автором, является настоящей революцией в объяснении человеческого поведения с использованием математических теорий. Книга относится к числу основополагающих исследований, поскольку она выходит далеко за рамки денежных сумм и анализирует ценность и полезность разных выборов и призов, которые не всегда доступны для нас непосредственно. Одна из ярких тем книги - роль роботов в помощи престарелым и физически ослабленным людям, которые станут первыми выигравшими с появлением такого домашнего помощника. Можно осмоноваться на поддержку, которую может оказать полезный робот, наделяющий пожилых людей определенной степенью независимости, которую они не могли получить ни от одного другого источника помощи. Даже ограниченная сфера задач робота и его начальное понимание происходящего могут быть весьма важными. Однако важно отметить, что действия робота должны быть ограничены правилами и запретами, так же как и действия людей регулируются законами и нормами общества. Некоторые эксперты предлагают безусловную ответственность в качестве решения этой проблемы.