Два года назад юрист Шон Байер показал, что в Европе кто угодно может сделать компьютерную систему руководителем общества с ограниченной ответственностью (ООО). Для этого сначала нужно учредить два ООО и передать контроль над каждой из них отдельной системе с искусственным интеллектом. Затем основателю следует сделать каждую компанию частью другой. Наконец, необходимо уволиться из обеих организаций, оставив каждое ООО под руководством ИИ другой организации.
Как утверждает юрист, для этого процесса не требуется, чтобы у компьютерной системы был какой-то определенный уровень интеллекта или возможностей: это может быть как алгоритм, случайным образом принимающий решения, так и эмуляция амебы.
По мнению доцента факультета вычислительной техники и информатики Луисвиллского университета Романа Ямпольского, результаты эксперимента Байера говорят о том, что в будущем системы искусственного интеллекта могут сравняться в правах с людьми: они будут владеть имуществом, предъявлять иски, нанимать адвокатов, пользоваться свободой слова и другими защитами в соответствии с законом. Вместе с тем, по словам специалиста, если юридически уравнять человека и машину, это приведет к колоссальной социальной катастрофе.
Ученый отмечает, что в некоторых странах, ограничивающих права своих граждан на свободу слова, свободу вероисповедания и выражение сексуальности, у людей порой уже может быть меньше прав, чем у корпораций и неинтеллектуального программного обеспечения. Например, когда Саудовская Аравия дала гражданство роботу Софии, то женщины — особенно феминистки — высказались против, отметив, что роботу предоставили больше прав, чем есть у большинства настоящих женщин в регионе. Следовательно, в таких государствах теоретически могут возникнуть корпорации, руководимые ИИ, которые получат больше свобод, чем люди. Это приведет к серьезному унижению человеческого достоинства, пишет Ямпольский.
Однако на этом опасности не заканчиваются. Если машины станут умнее человека, то люди рискуют превратиться, по сути, в рабов корпоративных ИИ-господ, которые будут их нанимать и увольнять. Но даже если не заходить так далеко, системы с искусственным интеллектом могут со временем получить работу в правоохранительных органах (выступая в качестве судей, присяжных, тюремщиков и даже палачей), армии (где будут определять и отстреливать цели) и других государственных и законодательных системах наравне с человеком. При этом законодательства стран мира по-прежнему не предполагают какой-либо ответственности или наказания для робота за ошибочные действия. Да и трудно представить, как можно в принципе наказать машину.
Кроме того, системы ИИ могут научиться копировать себя, поэтому предоставление им права голоса попросту обесценит выборы и человеческие голоса. Но даже без этого вероятность того, что корпорации, руководимые ИИ, будут влиять на все сферы жизни, несет огромные риски.
К примеру, если учесть, что системы ИИ могут существовать вечно, то, оптимизировав бизнес так, как это не удавалось ни одному человеку, искусственный интеллект в конечном счете накопит огромное количество денег, которые будет некуда инвестировать — тогда компьютер займется преобразованием богатств в политическую власть и начнет финансировать собственных политических кандидатов.
Политики, поддерживаемые искусственным интеллектом, войдут в законодательные собрания, будут оказывать влияние на президентов и приведут в Верховные суды по всему миру «нужных» ИИ судей, предупреждает Ямпольский. После этого компьютер начнет использовать политических марионеток для расширения своих прав или даже создания новых, разработанных специально для систем искусственного интеллекта, что в конечном счете поставит существование человечества под угрозу.
При этом, утверждает Ямпольский, на сегодняшний день не существует механизмов, которые могли бы воспрепятствовать недоброжелательному ИИ, вдруг решившему поработить человечество путем законодательного и политического давления. И хуже всего то, что ИИ, в отличие от человека, будет меньше заботиться об общественном мнении и своей репутации, также он менее восприимчив к протестному движению и забастовкам. Следственно, повлиять на него традиционными методами у человечества вряд ли получится.
Источники: The Conversation, Naked Science