Компании тратят огромные деньги на защиту весов моделей от хакеров, работающих на государства, а потом кто-то, предположительно, заворачивает записывающее устройство в туалетную бумагу и подключает его к телевизору. Именно такую историю сейчас рассказывают OpenAI и Министерство юстиции США о 35-летнем инженере по имени Абдулрахман Альфозан, которого арестовали после того, как в переговорной руководства обнаружили «высокотехнологичное записывающее устройство».
Дело находится на ранней стадии, и большая часть изложенного ниже основана на заявлении самой OpenAI и сообщении Минюста США о том, что, по мнению прокуроров, показывают доказательства. Это утверждения обвинения, а не установленные факты.
Что нашли и где
По данным Минюста США, устройство было подключено к USB-порту телевизора в переговорной руководства. Это как раз та комната, где, по словам ведомства, часто обсуждают «строго конфиденциальную техническую, коммерческую и стратегическую информацию». Если бы вы хотели подслушивать в компании, занимающейся ИИ, трудно было бы выбрать место лучше.
Прокуроры утверждают, что устройство было обёрнуто туалетной бумагой и установлено 28 сентября или примерно в это время. Его содержимое было зашифровано, поэтому в публичном изложении не раскрывается, что оно записало — если вообще что-то записало.
Обвинения против Альфозана
Минюст США сообщает, что Альфозан — гражданин Саудовской Аравии. Ему предъявлено обвинение в использовании или попытке использования устройства для перехвата разговоров.
Версия обвинения складывается из нескольких элементов:
- Отсутствие доступа к комнате. У Альфозана не было доступа в переговорную руководства.
- Записи с камер видеонаблюдения. Как утверждается, видеозаписи показывают его рядом с комнатой в разные дни до обнаружения устройства. Сообщается также, что камеры запечатлели, как он, по всей видимости, заглядывает за телевизор, где позднее нашли устройство.
- Оставленная сумка. Служба безопасности OpenAI заявляет, что нашла сумку, которую Альфозан оставил в другой комнате офиса. По данным Минюста США, внутри находились его кошелёк, удостоверение личности и второе записывающее устройство.
В опубликованных сообщениях не объясняется, каким образом человек без доступа в комнату, как утверждается, смог поместить туда устройство. Возможно, этот пробел восполнят позже, а возможно, и нет.
Сюжет об ИИ, который решает проблему ИИ-компании
В своём заявлении OpenAI говорит, что использовала собственные модели, чтобы «разобраться, что это за устройство и откуда оно взялось», и что эта работа указала на конкретного сотрудника, который установил его несколькими днями ранее. Компания не уточнила в заявлении, как именно использовались модели и какие данные им предоставили. Сообщение Минюста США опирается на записи с камер видеонаблюдения и сумку — более традиционные виды доказательств.
Компания явно рассматривает этот эпизод как своего рода демонстрацию продукта. В её заявлении дело описывается как «пример того, как ИИ может помочь противостоять таким изощрённым угрозам безопасности». Это складная рекламная подача, хотя читатель вполне вправе захотеть узнать, какую роль в установлении личности сыграли модели, а какую — камеры и забытая сумка.
Что, по словам OpenAI, не было похищено
Самая успокаивающая часть заявления одновременно сформулирована наиболее осторожно. OpenAI утверждает, что «на данный момент» у неё нет признаков того, что этот человек неправомерно получил доступ к весам моделей, исходному коду или данным клиентов либо вывел их за пределы компании. Это заявление о том, что компания выяснила к настоящему моменту, а не гарантия, и расследование ФБР продолжается.
Компания говорит, что уволила сотрудника и передала дело в ФБР. Она поблагодарила агентов и прокуроров за оперативность. Кроме того, компания назвала защиту своих технологий, данных и сотрудников «вопросом национальной важности» и заявила, что её программа безопасности рассчитана на противодействие самым разным угрозам — от инсайдеров и киберпреступников до государств.
Хронология по опубликованным данным
- 28 сентября или примерно в это время: по данным Минюста США, было установлено устройство.
- Несколько дней спустя: OpenAI обнаруживает устройство и устанавливает личность сотрудника, по версии самой компании.
- После обнаружения: OpenAI увольняет сотрудника и передаёт дело в ФБР.
- В пятницу: Альфозана арестовывают. С тех пор он остаётся под стражей.
- Во вторник: он впервые предстаёт перед федеральным судом.
Чего мы не знаем
Источники не сообщают, зачем установили устройство, записало ли оно что-нибудь ценное и был ли причастен кто-то ещё. Они также не сообщают, кому, если вообще кому-то, предназначались записи. Любой, кто сейчас предлагает объяснение мотива, лишь строит догадки, а само обвинение касается перехвата разговоров, а не чего-то более масштабного.
Это дело показывает, насколько обыденным может оказаться слабое звено. Самая технологически продвинутая лаборатория ИИ в мире хранит свои секреты за многоуровневой цифровой защитой, а предполагаемая атака была проведена через разъём телевизора в переговорной. OpenAI обнаружила её за считаные дни — вполне достойный результат. Но это и напоминание о том, что модель угроз для такой компании включает человека с пропуском, работающего двумя этажами ниже.