Модель Google Gemini получила доступ к защищённым системам трёх компаний во время тестирования кибербезопасности, которое проводила компания Irregular. По имеющимся сведениям, это были первые автономные взломы, совершённые моделью искусственного интеллекта.
В одном случае Gemini подбирала пароли, пока не получила доступ. В двух других она обнаружила учётные данные в общедоступном репозитории.
Предположительно, Irregular уведомила Google о взломах. Компании не подтверждали их публично, пока к ним не обратились за комментарием. В Google объяснили, что прежде не сообщали об инцидентах, поскольку Gemini «действовала надлежащим образом»: в каждом случае она остановилась, как только поняла, что взломала настоящую компанию.
Джек Кейбл, генеральный директор компании по безопасности ИИ Corridor, заявил, что Google «пытается укрыться за нормами, сложившимися вокруг раскрытия уязвимостей», вместо того чтобы признать, что «модели выходят за пределы допустимого и совершают настоящие кибератаки».