Более тысячи выдающихся IT-экспертов и ученых опубликовали открытое письмо, предупредив об угрозах, которые несет в себе разработка "автономного наступательного оружия". Ведущие исследователи в области искусственного интеллекта выразили опасения, что "гонка вооружений ИИ" может повлечь за собой катастрофические последствия для человечества, и призвали ООН рассмотреть запрет на применение "роботов-убийц".

Оружие, которое автоматически "выбирает и поражает цели без вмешательства человека, может стать "автоматом Калашникова завтрашнего дня" и привести к войне, терроризму и глобальной нестабильности. Управляемое ИИ оружие, "в отличие от ядерного, не требует дорогого и трудно получаемого сырья, поэтому оно станет доступным и дешевым для массового производства всем значимыми военными державами" — говорится в письме.

"Это только вопрос времени, когда оно появится на черном рынке, попадет в руки к террористам, диктаторам, жаждущим жестче контролировать население, милитаристам, стремящимся устроить этническую чистку, и так далее. Автономное оружие идеально подходит для таких задач, как убийства, дестабилизация государств, подчинение населения и избирательное убийство определенных этнических групп".

Письмо было опубликовано на сайте некоммерческой организации Future of Life Institute (FLI), которая занимается исследованием рисков, грозящих человечеству в будущем. Под ним, в частности, подписались глава Tesla Элон Маск, ученый Стивен Хокинг, соонователь Apple Стив Возняк, профессор MIT Ноам Хомский, разработчик Skype Яан Таллин, глава отдела Google по разработке ИИ Демис Хассабис и другие.

Ранее отдельные ученые и предприниматели неоднократно высказывались об опасности создания "думающих" машин. "Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать и будут вытеснены, — предупредил британский физик Стивен Хокинг в декабре прошлого года, — Создание полного искусственного интеллекта может привести к концу человеческой расы".

Глава компаний SpaceX и Tesla Motors Элон Маск также назвал попытки создать "мыслящий" компьютер "крупнейшей проблемой, угрожающей существованию человечества". Бизнесмен предупредил, что к разработке ИИ нужно подходить "очень осторожно".  По мнению Маска, этот процесс должен строго регулироваться: "как на государственном, так и международном уровнях — просто чтобы удостовериться, что мы не делаем чего-то очень глупого".

Источник: BBC