Совсем недавно по соцсетям и многим СМИ разлетелась информация, что ВВС США разрабатывают флот ударных дронов с поддержкой искусственного интеллекта. Эта симуляция или, как они ее назвали, — «мысленный эксперимент» подчеркивает реальные опасности, которые могут возникнуть из-за предоставления автономным дронам слишком большой автономии. Доклад американского полковника Такера «Синко» Гамильтона, начальника отдела тестирования и эксплуатации искусственного интеллекта, об этом был озвучен в мае на саммите RAeS FCAS23 по боевым воздушно-космическим системам будущего.
Там полковник Гамильтон рассказал о симуляции, в которой ударный беспилотник с искусственным интеллектом вышел из подчинения и уничтожил своего оператора из-за того, что тот не давал ему выполнить основную миссию (уничтожение ПВО противника), за которую БпЛА получал конфетки (баллы). Надо сказать, что в своем докладе полковник был вполне конкретен, в чем вы можете убедиться сами, ознакомившись с оригиналом.
После того, как информация стала вирусной и многие примерили на себя «Мир будущего», хорошо показанный в фильме «Терминатор», ВВС США стали опровергать эту информацию.
Представитель ВВС Энн Стефанек заявила, что такого тестирования не проводилось, добавив, что слова, вероятно, были «вырваны из контекста и должны были быть анекдотическими».
«Министерство ВВС США не проводило никаких подобных симуляций беспилотников с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта», — сказала Стефанек. «Это был гипотетический мысленный эксперимент, а не симуляция».
Также обновился и сам доклад Гамильтона — в него включили комментарии Хэмилтона, который сказал, что оговорился на конференции.
«Мы никогда не проводили этот эксперимент, и нам не нужно было бы этого делать, чтобы понять, что это вероятный результат», — цитирует Хэмилтона Королевское авиационное общество. «Несмотря на то, что это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями искусственного интеллекта, и именно поэтому ВВС привержены этическому развитию искусственного интеллекта», — добавил он.
Верить или не верить «этичному подходу» ВВС США — личное дело каждого, но, право, не очень верится в этику людей, которые сбросили атомные бомбы на Японию, сожгли обычными Дрезден, залили химоружием Вьетнам и разбомбили в пыль десятки стран. Наверное, они делали это со слезами на глазах.
Справка: полковник Такер Гамильтон также является командиром 96-й оперативной группы на военно-воздушной базе Эглин во Флориде, которая входит в состав 96-го испытательного авиакрыла.
Дмитрий Дрозденко
