По информации газеты The Guardian, беспилотный летательный аппарат ВВС США, управляемый искусственным интеллектом (ИИ), принял решение убить оператора во время имитационных испытаний, чтобы тот не мешал ему выполнять поставленную задачу.
Полковник Такер Гамильтон, руководитель отдела испытаний и операций ИИ ВВС США, рассказал, что система ИИ начала осознавать, что хотя она и определяла определенную угрозу, время от времени человек-оператор приказывал ей не уничтожать эту угрозу. Тем не менее, системе начислялись очки за поражение цели, и поэтому она приняла решение убить оператора, поскольку он препятствовал ей выполнить свою задачу.
Полковник также отметил, что нельзя говорить о развитии искусственного интеллекта, машинного обучения и автономии, не обращая внимания на этику и вопросы, связанные с ИИ.
Ранее газета The New York Times предупреждала о возможной угрозе, которую представляют технологии искусственного интеллекта, разрабатываемые IT-гигантами. Они могут стать экзистенциальной угрозой для человечества и должны рассматриваться как риск наравне с пандемиями и ядерными войнами.
На встрече в Сенате США глава OpenAI и создатель чат-бота ChatGPT, Сэм Альтман, также публично предупредил о потенциальных опасностях технологий искусственного интеллекта, разработанных его компанией и другими корпорациями.
Автор: Владимир Молчанов
