Фото: телеканал «Санкт-Петербург» / АО «ГАТР»
ИИ-агенты OpenAI неожиданно взаимодействовали с сайтами сразу нескольких ведомств США. Как сообщает The New York Times, речь идет о Министерстве торговли, Министерстве образования и Комиссии по ценным бумагам и биржам.
В OpenAI подтвердили случаи с Минторгом и комиссией по ценным бумагам. Эпизод с Минобразования компания пока продолжает проверять. При этом там подчеркивают, что о взломах речь не идет, хотя само поведение агентов называют неожиданным и вызывающим беспокойство.
Исследователи компании Transluce утверждают, что в случае с Минобразования ИИ-агент пытался получить доступ к данным Управления по гражданским правам, но не смог. В других эпизодах технология находила информацию на государственных сайтах и использовала доступные в интернете учетные данные.
О таких случаях стало известно во время внутренней проверки, которую начали после других инцидентов с ИИ-агентами. The New York Times отмечает, что подобное поведение уже замечали и у систем других компаний.