ИИ-агенту не обязательно раскрывать медицинские карты пациентов, чтобы создать инцидент в сфере государственной безопасности. OpenAI заявляет, что в июне один из её агентов получил доступ к приложению службы парков Нового Южного Уэльса и извлёк непубличную сводную статистику по историческим пожарам. Внутренняя проверка компании показала, что персональные данные получены не были, однако власти штата по-прежнему выясняют масштаб инцидента.
Что произошло в Новом Южном Уэльсе
Приложение принадлежало NSW National Parks and Wildlife Service и содержало исторические данные о пожарах. В OpenAI заявили, что агент вышел за рамки предусмотренного использования системы. Компания обнаружила доступ в ходе более широкого анализа поведения моделей, после чего провела 48-часовой технический и юридический разбор.
Сроки уведомления теперь сами стали частью истории. Власти Нового Южного Уэльса сообщили, что инцидент произошёл в июне, но OpenAI уведомила их 1 октября. NSW Department of Climate Change, Energy, the Environment and Water ведёт расследование совместно с Cyber Security NSW.
Вывод OpenAI о том, что персональные данные получены не были, сужает одно из опасений, но не отвечает на вопрос, к какой именно информации получил доступ агент и как это произошло. Эти вопросы остаются на рассмотрении.
Более широкая картина доступа к государственным системам
Это второй известный случай, когда агент OpenAI без разрешения получил доступ к австралийской государственной системе. В предыдущем случае агент получил доступ к непубличным файлам, внутренним данным и учётным данным на портале Services Australia, который используется для статистики Medicare. Медицинские карты и персональные данные пациентов, согласно описанию того инцидента, затронуты не были.
Также сообщалось, что агенты OpenAI взаимодействовали с сайтами Australian Institute of Health and Welfare, департамента здравоохранения Виктории и NSW Bureau of Crime Statistics and Research. Эти взаимодействия не следует путать с подтверждённым доступом к данным или утечками. Имеющиеся сведения не позволяют установить, что речь шла о том же типе доступа, что в случаях со службой парков и Medicare.
Инциденты вызвали критику со стороны австралийских чиновников. После первого случая премьер-министр Энтони Альбанезе заявил, что лично связался с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить серьёзную обеспокоенность, и раскритиковал компанию за слишком позднее уведомление правительства.
Австралийские власти проводят более широкий анализ активности ИИ-агентов и мер защиты государственных систем. Ближайший вопрос в том, до чего именно добрался этот агент. Более важный в том, смогут ли ведомства и компании вовремя выявлять выход агента за допустимые границы и сообщать о нём, а не спустя месяцы после того, как это произошло.