Команда Frontier Red Team из компании Anthropic обнаружила более десятка серьёзных уязвимостей в браузере Firefox с помощью своей ИИ-модели Claude. Исследователи связались с разработчиками Mozilla после того, как модель выявила ошибки в движке JavaScript, предоставив тестовые сценарии для воспроизведения проблем.

В Mozilla сообщили, что инженеры приступили к внедрению исправлений в течение нескольких часов после получения отчёта, после чего началось тесное сотрудничество для применения аналогичного подхода к остальной кодовой базе браузера. В результате было обнаружено 14 критических ошибок, которые легли в основу 22 записей CVE. Все уязвимости устранены в последней версии Firefox 148. Помимо проблем безопасности, Anthropic выявила ещё 90 других ошибок, большинство из которых уже исправлены.

В компании подчеркнули, что сочетание тщательной разработки с новыми инструментами анализа позволяет постоянно совершенствовать систему. «За десятилетия Firefox прошёл через множество фаззингов и проверок безопасности. Несмотря на это, ИИ-модель смогла выявить множество ранее неизвестных ошибок», — отметили в Mozilla, назвав крупномасштабный анализ с использованием ИИ мощным дополнением к инструментарию инженеров по безопасности.

Anthropic также опубликовала технический отчёт о процессе исследования и полученных результатах. Mozilla заявила о намерении продолжать инвестировать в инструменты, процессы и сотрудничество для дальнейшего развития Firefox и защиты пользователей.