Федеральная служба по техническому и экспортному контролю впервые внесла в банк данных угроз (БДУ) информационной безопасности риски, связанные с искусственным интеллектом.
В перечне описаны специфичные технологии ИИ, уязвимости в которых могут использоваться злоумышленниками в кибератаках. Это, в частности, модели машинного обучения, наборы обучающих данных (датасеты), механизмы генерирования ответов на основе данных, полученных из внешних источников, а также адаптации больших моделей к конкретным задачам и др.
Теперь такие угрозы надо будет учитывать разработчикам софта для госструктур и критической инфраструктуры. Несмотря на то, что угрозы от ИИ были определены по линии технического контроля ФСТЭК России, такой подход в целом показывает общую концептуальную позицию ведомства к искусственному интеллекту.
В перечне описаны специфичные технологии ИИ, уязвимости в которых могут использоваться злоумышленниками в кибератаках. Это, в частности, модели машинного обучения, наборы обучающих данных (датасеты), механизмы генерирования ответов на основе данных, полученных из внешних источников, а также адаптации больших моделей к конкретным задачам и др.
Теперь такие угрозы надо будет учитывать разработчикам софта для госструктур и критической инфраструктуры. Несмотря на то, что угрозы от ИИ были определены по линии технического контроля ФСТЭК России, такой подход в целом показывает общую концептуальную позицию ведомства к искусственному интеллекту.