Илон Маск выступил против роботов-убийц
Тысячи экспертов по искусственному интеллекту призывают правительства предпринять превентивные действия против автономного оружия, пока не стало слишком поздно. Среди них – миллиардер и основатель OpenAI Илон Маск, создатель Skype Яан Таллин, исследователь искусственного интеллекта Стюарт Рассел, а также три основателя Google DeepMind, пишет The Washington Post.
В общей сложности более 160 организаций и 2460 человек из 90 стран пообещали на этой неделе не участвовать и не поддерживать разработку и использование смертоносного автономного оружия. По словам экспертов, искусственный интеллект будет играть важную роль в военных системах, поэтому правительства должны ввести законы, регулирующие использование такого оружия.
"Тысячи исследователей ИИ согласны с тем, что смертоносное автономное оружие может стать мощным инструментом насилия, особенно когда оно связано с системами наблюдения и передачей данных", - говорится в заявлении экспертов. – "Более того, характеристики смертоносного автономного оружия разительно отличаются от ядерного, химического и биологического. Действия одной группы могут спровоцировать гонку вооружений, к которой международное сообщество не готово".
Согласно данным Future of Life Institute, автономное оружие может идентифицировать, атаковать и убивать без участия человека. В организации утверждают, что автономным оружием не считаются беспилотники, управляемые человеком.
По информации Human Rights Watch, во многих странах мира разрабатываются автономные комплексы вооружений – в частности, в Соединенных Штатах, Китае, Израиле, Южной Корее, России и Соединенном Королевстве. В Future of Life Institute утверждают, что автономные комплексы вооружений подвержены кибератакам, и, вероятно, со временем окажутся на черном рынке. Такие комплексы, убеждены эксперты, должны находится под международным запретом, как биологическое и химическое оружие.
По мнению профессора ИИ Университета Нового Южного Уэльса в Сиднее Тоби Уолша, отсутствие человеческого контроля также поднимает этические вопросы. "Мы не можем передать право решения машинам. У них нет понятия морали. Я прошу вас и ваши организации дать гарантии, что война не станет более ужасной", - заявил Уолш.
Илон Маск - ярый критик автономного оружия. Исполнительный директор Tesla убежден, что искусственный интеллект представляет угрозу всему миру больше, чем Северная Корея. В прошлом году он присоединился к более чем 100 специалистам по робототехнике и искусственному интеллекту, призывающим Организацию Объединенных Наций запретить автономное оружие.
"Смертельное автономное оружие грозит стать третьей революцией в войне", - предупредили в августе в открытом письме Маск и 115 других экспертов, в том числе сотрудник Alphabet Мустафа Сулейман. – "После того, как его разработают, вооруженный конфликт будет только усиливаться. Это может быть оружие, которое террористы будут использовать против ни в чем не повинных людей".
"Ведение борьбы путем публичных заявлений может показаться неэффективной мерой, но это может объединить общественность против автономного оружия", - прокомментировал эксперт по ИИ Монреальского института изучения алгоритмов Йошуа Бенджио. – "Этот подход сработал в вопросе наземных мин – благодаря международным договорам и публичной критике в США их больше не создают".