Два десятилетия отделяют нас от создания суперинтеллекта — неестественного разума, осознающего себя, по характеристикам и способностям близкого к, или превосходящего разум человека. Цифру именуют специалисты по ИИ и, не обращая внимания на то, что то же самое они давали слово десять, и двадцать, и тридцать лет назад, в наше время вера в успех этого грандиозного предприятия очень сильна: вспомните панику, разгорающуюся около вероятной угрозы ИИ для цивилизации. Но, сейчас я предлагаю поболтать не о набившей оскомину теме восстания автомобилей, а о близкой к ней, но ещё практически неисследованной теме пересечения ИИ с таким чисто людской феноменом как религия.
Какие-то примитивные верования в сверхъестественное характерны всему живому: в известном опыте американца Берреса Скиннера, голуби, которых кормил генератор случайных чисел, скатывались в суеверия. Человек подчас ведёт себя не умнее птицы (вспомните Культ карго), но лишь человек с его развитыми коммуникационными свойствами смог довести веру в чудеса до логического совершенства.
Мы столетиями оттачиваем правила процедур, пишем технические управления по вере, строим реакторы веры и золотим их купола. Согласитесь, когда в отечественном распоряжении окажется настоящий неестественный разум, конечно будет попытаться привить ему одну из религий. В итоге кроме того право инопланетян на причащение к святым тайнам сейчас признано самим Папом. Так кто мы такие, дабы закрывать дорогу к спасению сравнявшейся с нами по разумности машине?
Религий масса, но выбирать вероятнее будет необходимо из двух самых популярных: больше половины населения Почвы исповедуют одну из авраамических религий, в частности христианство либо ислам. Дабы не потеряться в джунглях философских дискуссий, предлагаю до тех пор пока покинуть в стороне вопросы неспециализированного значения, наподобие того, имеется ли у автомобили душа и требуется ли её выручать, какие конкретно у электронного дитя человеческого смогут быть грехи, примет ли оно отечественные религии либо постарается написать собственную и обратить уже нас. Вместо этого давайте сосредоточимся на нюансе, имеющем очевидное практическое значение, другими словами на принципиальной отличии между протеиновыми и полупроводниковыми структурами.
Строительная единица людской разума — нейрон. А он, как и всё живое, со временем деградирует и действует неточно. Мы можем что-то забыть, где-то совершить ошибку. Неестественным разум точно будет выстроен на имитации тех же нейронов, но кроме того в случае если через два десятилетия изобретут что-нибудь новенькое, машина в базе собственной останется калькулятором — что не имеет привычки терять либо искажать данные. В калькуляторе балом правит логика и в случае если выражение возможно вычислить, итог постоянно будет однообразен. Кроме того неестественные нейросети хоть и дают приблизительный ответ, его возможно строго округлить до ближайшего целого: функция, недоступная живому! Что со своей стороны разрешает высказать предположение, что «электронный верующий» будет ортодоксом, другими словами предпочтёт строго направляться догматам того вероучения, которое он изберёт либо которое ему навяжут.
Человек придумал религии для себя и трактует их базисные правила соответственно моменту, событиям. Откройте Библию. В Евангелии от Матфея (глава 5, Нагорная проповедь) читаем: «не убивай», «не клянись», «не противься злому». Ни церковь, ни общество в далеком прошлом этих правил не придерживаются — и придумали хорошую дюжину объяснений, из-за чего (одно из самых популярных: дескать, сообщённое Иисусом не нужно осознавать практически). Лень, забывчивость, эгоизм, личная польза, самообман, национальные интересы и другое открывают ещё тысячи лазеек — и вот уже единая религия дробится на конфессии, уникальный свод правил обрастает вымышленными уточнениями и т.д. и т.п.
Не так для автомобили. «Этот более чем», «прошитый в ПЗУ» комплект правил окончательно останется для неё тем, чем и должен быть: методом, отход от которого неосуществим. Несложная логика! Задача сформулирована две тысячи лет назад, информации, уточняющей либо опровергающей её, по определению быть не имеет возможности, следовательно и вариаций выполнения никаких нет. Так суперинтеллект станет ортодоксом.
А это, по большому счету говоря, страшно. Древние тексты писались в иные времена и полны догматов, не стыкующихся с вежливой современностью. Известное «Убей неверного!» из Корана — только миф, оторванный из контекста отрывок (в действительности это управление по ведению военных действий: «В то время, когда встретитесь с неверными на поле брани, рубите головы» (47:4)). Но в том месте же в Коране читаем: «дам … непокорности которых … опасаетесь … побивайте» (4:34). Много аналогичного точно найдётся и в Сунне (биографии Мухаммеда). И в Ветхом Завете для того чтобы предостаточно: «в городах сих … не оставляй в живых ни одной души» (Второзаконие, 20), и пр. и пр. Выходит, верующий в наше время неизбежно станет участником межкультурных, межрелигиозных распрей.
Из чего вытекает увлекательное следствие, но перед тем как изложить его, разрешите упомянуть ещё одну тенденцию, светло обозначившуюся в дискуссиях около супертинтеллекта сейчас и особенно месяцы. Обращение о поднимающейся волне протестов против независимого летального оружия — как математически верно именуют сейчас «роботов-убийц».
Обстановка на этом направлении напоминает обстановку около суперинтеллекта: большая часть экспертов не вычисляют это проблемой, но имеется некая масса опытных людей, каковые не просто опасаются, а и выступает за интернациональный запрет на производство и разработку таких автомобилей. Смогли же мы сократить применение и производство атомного оружия, смогли поставить под контроль мины, сможем сократить и АЛО. По причине того, что в случае если этого не сделать, бесконтрольное использование, а тем более срастание независимого оружия с ИИ, обещает поставить цивилизацию на грань выживания.
Но как запретить уничтожение живых существ разумной машине, которая не признаёт иных аргументов, не считая сгенерированных самостоятельно, и принцип действия которой кроме того разработчикам, возможно, понятен не будет? Вот тут-то и понадобится религия — лишь не одна из существующих, а принципиально новая.
Мысль, честно говоря, ещё не сформировалась, исходя из этого обрисую её приближённо, как это вероятно из разрозненных дискуссий. Сущность в том, дабы создать религию, увязывающую живое с разработками и основанную на фундаменте ненасилия. Кое-кто из западных блогеров кивает в сторону русского космизма, видя в этом религиозно-философском социокультурном течении, выросшем а также на работах Циолковского, зародыш для того чтобы перспективного вероучения.
Так или иначе, неприятность очевидна: новой эре нужна новая религия — исповедовать которую смогут без вреда приятель для приятеля машины и люди. Кто возьмётся написать? ??
P.S. Продолжение темы: «Религия через призму суперинтеллекта».
P.P.S. В статье использованы иллюстрации Jon Diez Supat, Murdelta, NectarineFire, Miriam.