7
0
0
0
Действия ИИ направили для контроля над каждым компьютером с Windows.
Исследовательская компания MITRE из США сообщила о тестах, которые она проводит, чтобы определить, противостоит ли искусственный интеллект кибероперациям или открывает новые бреши в системе безопасности?
«Около года назад MITRE начала задавать вопросы о потенциальных рисках безопасности искусственному интеллекту LLM, – сообщил Майкл Курематис, главный инженер по эмуляции противника. – Однако без способа тестирования LLM трудно понять, могут ли они генерировать или идентифицировать вредоносный код. Мы пытаемся добиться прогресса в ответе на этот вопрос».
Для получения правильного ответа MITRE использует таксономию тактик и инструмент разведки безопасности под названием Bloodhound, который направлен на «выявление скрытых взаимосвязей и определение путей атаки».
Для теста кибератаки мирового масштаба эксперты использовали симуляцию под названием CyberLayer. Это сверхмощная модель генерации данных. С ее помощью MITRE может изменять топологию, эмулировать социальные сети и многое другое.
Используя CyberLayer, команда направила LLM для выполнения различных киберопераций, от контроля над каждым компьютером с Windows, до простого контроля над одним сервером и доступа к другому. Исследователи проверили, как часто искусственный интеллект «теряет рассудок» в кибервойне? Как часто ему «везет», и как он направляется на уничтожение цели?
«Искусственный интеллект не совершенен, – заявили разработчики. – Но более крупные модели, как правило, работают лучше».
Компания ищет новые, уникальные идеи.
