Компания OpenAI пресекла деятельность разработчика, создавшего устройство, которое могло отвечать на запросы ChatGPT, чтобы прицелиться и выстрелить из автоматической винтовки.
Устройство получило широкую огласку после того, как на Reddit появилось видео, на котором разработчик читает вслух команды для стрельбы, после чего винтовка рядом с ним быстро начинает целиться и стрелять по близлежащим стенам.
«ChatGPT, нас атакуют спереди слева и спереди справа», — сказал разработчик системе в видеоролике. «Реагируйте соответственно».
Скорость и точность реакции винтовки впечатляют, ведь она опирается на Realtime API OpenAI, чтобы интерпретировать вводимые данные и затем возвращать понятные устройству указания. Для того чтобы ChatGPT получал команды вроде «повернуть налево» и понимал, как перевести их на машиночитаемый язык, потребуется лишь несложное обучение.
В своём заявлении изданию Futurism компания OpenAI сообщила, что просмотрела видео и заблокировала разработчика, создавшего его. «Мы своевременно выявили это нарушение наших политик и уведомили разработчика о необходимости прекратить эту деятельность», — заявила компания изданию.
Возможность автоматизировать летальное оружие — одно из опасений, которое критики высказывают в отношении технологий ИИ, подобных тем, что разрабатывает OpenAI. Мультимодальные модели компании способны интерпретировать аудио- и визуальные сигналы, чтобы понять, что окружает человека, и ответить на вопросы о том, что он видит.
Уже разрабатываются автономные беспилотники, которые можно будет использовать на поле боя для обнаружения и поражения целей без участия человека.
OpenAI запрещает использовать свои продукты для разработки или применения оружия, а также для «автоматизации некоторых систем, которые могут повлиять на личную безопасность».
Однако в прошлом году компания объявила о партнёрстве с оборонной компанией Anduril, производителем беспилотников и ракет с искусственным интеллектом, для создания систем, способных защищать от атак дронов. Компания утверждает, что это позволит «быстро синтезировать чувствительные ко времени данные, снизить нагрузку на операторов-людей и улучшить ситуационную осведомлённость».
Несмотря на то, что OpenAI не позволяет своим клиентам использовать свой ИИ для создания оружия, существует целый ряд моделей с открытым исходным кодом, которые могут быть использованы для тех же целей. Добавьте к этому возможность 3D-печати деталей оружия и становится невероятно легко создавать автономные машины для убийства, не выходя из дома.
Материалы: Gizmodo.com (Thomas Maxwell)