Дрон, оснащенный ИИ, атаковал своего оператора: виртуальный сценарий как предупреждение военным

Подпишитесь на нашу рассылку ”Контекст”: она поможет вам разобраться в событиях.

Автор фото, Getty Images

Американский полковник Такер Хэмилтон, отвечающий за тестирование и применение технологий искусственного интеллекта (ИИ) в войсках, на конференции британского Королевского авиационного общества рассказал про эксперимент, в котором оснащенный ИИ дрон принял решение атаковать своего же оператора, чтобы выполнить поставленную задачу — уничтожить ракетный комплекс наземного базирования.

По словам полковника, беспилотник, в программу которого был заложен запрет причинять вред своему оператору, в итоге уничтожил центр связи, позволявший оператору отдавать ему приказы.

Позже представитель ВВС США заявил, что Хэмилтон оговорился, когда рассказывал про эксперимент. Военные настаивают, что в реальности такой эксперимент не ставился, а речь шла о виртуальном сценарии, просчитанном на компьютере. Сам Хэмилтон в письме организаторам конференции тоже уточнил, что американские военные "никогда не проводили такой эксперимент, да это и не нужно было для выяснения возможного результата".

Однако сама возможность подобного развития событий, даже в виртуальном пространстве, насторожила экспертов.

Потенциальные угрозы

Представители индустрии, связанной с искусственным интеллектом, в последнее время все чаще предупреждают о потенциальных угрозах для человечества, которые он несет, хотя многие эксперты в этой области склонны считать такой риск преувеличенным.

Тем не менее один из трех "крестных отцов" искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.

Это худшие руки, в которые только может попасть продвинутый искусственный интеллект, уверен ученый.

Другой "крестный отец" ИИ, знаменитый ученый-компьютерщик Джеффри Хинтон недавно заявил, что уходит из технологического гиганта Google, назвав страшными опасности, связанные с применением ИИ в чат-ботах.

Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк, предупредившие о целом ряде рисков, связанных с ИИ: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией.

"Не делать то, что не надо"

Пропустить Подкаст и продолжить чтение.Подкаст

Что это было?

Мы быстро, просто и понятно объясняем, что случилось, почему это важно и что будет дальше.

эпизоды

Конец истории Подкаст

Корреспондент Би-би-си Зои Клейнман провела несколько часов, пытаясь собирая мнения экспертов как в области обороны, так и в области искусственного интеллекта, и все они скептически отнеслись к истории полковника Хэмилтона.

Один эксперт предположил, что в истории полковника Хэмилтона, по крайней мере, отсутствует важный контекст.

Стив Райт, профессор аэрокосмической техники в Университете Западной Англии и эксперт по беспилотным летательным аппаратам, пошутив, что он всегда был поклонником фильмов о Терминаторе, рассказал: "В компьютерах управления самолетом есть две вещи, о которых нужно беспокоиться: "делать то, что надо" и "не делать то, что не надо", так что это классический пример второго варианта".

"В реальности мы решаем эту проблему, всегда подключая второй компьютер, который запрограммирован с использованием методов еще старой школы и, образно говоря, вырубает рубильник, как только первый сделает что-то странное", — добавил Стив Райт.