Модель, которая помогает устранять уязвимости, может также помогать создавать для них работающие эксплойты. Новая модель GPT-6 Cyber от OpenAI делает и то и другое. Присвоив ей критический уровень риска в собственной системе оценки киберрисков, компания ограничила доступ к ней кругом специалистов по безопасности, прошедших проверку.
Результаты: каждый показатель отдельно
5 ноября OpenAI представила GPT-6 Cyber — модель для кибербезопасности, предназначенную для поиска уязвимостей, которые можно эксплуатировать, и разработки исправлений. Компания сообщает о работе с Firefox и ядром Linux, включая обнаружение ранее неизвестных уязвимостей и создание работающих эксплойтов.
Эти показатели описывают разные, частично пересекающиеся категории:
| Заявленные результаты | Количество | Что означает показатель |
|---|---|---|
| Обнаруженные уязвимости Firefox | 81 | Ранее неизвестные уязвимости, найденные с помощью модели |
| Эксплойты для ядра Linux | 948 | Уязвимости, для которых модель помогла разработать работающие эксплойты |
| Ранее неизвестные уязвимости Linux | 588 | Уязвимости из общего числа для ядра Linux, которые, по словам OpenAI, ранее были неизвестны |
| Сообщения разработчикам | 304 | Критические проблемы, о которых сообщили разработчикам вместе с предложениями по исправлению |
Mozilla сочла уязвимости Firefox серьезными и начала выпускать исправления.
Показатели по Linux требуют особого внимания. OpenAI сообщает о работающих эксплойтах для 948 уязвимостей, из которых 588 названы ранее неизвестными. Компания не утверждает, что все 948 уязвимостей были обнаружены впервые.
Связь между 304 критическими проблемами и остальными показателями не уточняется. Значения в этих строках не следует складывать, чтобы получить общий итог. Сумма получилась бы впечатляющей, но неверной.
Уровень «Критический» описывает потенциальный риск модели
В системе OpenAI GPT-6 Cyber отнесена к категории «Критический» по потенциальному риску в сфере кибербезопасности. Ее предшественница, GPT-5.6 Cyber, получила уровень «Высокий» по системе оценки компании.
Это более высокая категория риска, а не результат бенчмарка или независимая сертификация возможностей модели. Она также не связана с серьезностью отдельных уязвимостей, в том числе 304 критических проблем, о которых сообщили разработчикам.
Это различие важно, поскольку обнаружение уязвимости и создание работающего эксплойта — разные результаты. Заявленные OpenAI результаты включают и обнаружение уязвимостей, и разработку эксплойтов. Это помогает понять, почему запуск сопровождается ограничениями на распространение, а не предоставлением общего доступа.
Заявленная граница — разрешенные рамки работы
OpenAI описывает GPT-6 Cyber как модель, обученную действовать в разрешенных рамках. Ее предполагаемое назначение — помогать специалистам по безопасности находить и устранять уязвимости до того, как ими воспользуются злоумышленники.
Предлагаемые исправления — часть этой защитной задачи. Заявленные результаты работы включают информацию, которую разработчики могут использовать для устранения проблем, наряду с демонстрациями того, что уязвимости можно эксплуатировать.
Однако цель обучения описывает предполагаемое поведение. Ее не следует принимать за гарантию того, что любое возможное применение останется в разрешенных рамках. Ограничения доступа служат отдельным механизмом контроля над тем, кто вообще получает возможность пользоваться моделью.
Доступ предоставляется через Daybreak Red
GPT-6 Cyber доступна только прошедшим проверку участникам Daybreak Red, которые проводят разрешенное тестирование безопасности. Это не общедоступный релиз.
В ближайшие недели OpenAI планирует расширить круг допущенных специалистов. В объявлении не раскрываются подробности процесса проверки участников и не объясняется, как будет контролироваться соблюдение разрешенных рамок работы.
Пока расширение означает лишь увеличение списка допущенных участников, а не открытый доступ.