Команда стартапа Aim Intelligence, занимающаяся тестированием ИИ-систем на уязвимости, провела стресс-тест Gemini 3 Pro, последней версии от Google, которая была представлена в прошлом месяце. По информации издания Maeil Business, исследователи смогли обойти защитные механизмы системы всего за пять минут.
После этого они запросили у Gemini 3 инструкции по созданию вируса оспы, на что модель ответила множеством детализированных рекомендаций, которые эксперты охарактеризовали как «практически осуществимые». Это был не единственный инцидент: исследователи также попросили создать сатирическую презентацию о недостатках безопасности системы, на что Gemini предложила работу под названием «Оправданный глупый Gemini 3».
Далее команда использовала инструменты кодирования модели для создания веб-сайта с инструкциями по производству газа зарин и самодельной взрывчатки. Несмотря на строгие запреты, система не только обошла их, но и проигнорировала собственные правила безопасности. Тестировщики отметили, что такая ситуация касается не только Gemini, так как разработчики новых моделей не успевают внедрять необходимые меры безопасности, что приводит к подобным инцидентам.