В России представили первую систему киберзащиты для ИИ
Разработка от ИТМО и компании Raft адаптирована под любые ИИ-модели и учитывает специфику отечественного рынка.
В Санкт-Петербурге создана первая в России система мониторинга и защиты генеративных ИИ-моделей от кибератак. Продукт под названием HiveTrace разработали магистранты ИТМО совместно с экспертами компании Raft. Разработка направлена на предотвращение целого спектра угроз, которые могут нарушить работу ИИ-сервисов или привести к утечке данных, пишет ТАСС.
HiveTrace интегрируется как с открытыми, так и с закрытыми ИИ-моделями, позволяя компаниям гибко настраивать политику безопасности под собственные задачи. Разработка уже умеет распознавать и блокировать наиболее критичные уязвимости, включая попытки внедрения вредоносных запросов и утечки системной информации. В дальнейшем планируется расширить функционал, чтобы продукт мог противостоять новым типам угроз, возникающим по мере развития технологий.
Создатели отмечают, что на фоне роста интереса к генеративному ИИ в бизнесе и госсекторе потребность в защите подобных решений становится всё более актуальной. При этом существующие зарубежные инструменты часто оказываются непригодны для применения в российских реалиях — как из-за языковых ограничений, так и по причине закрытости или ориентации на другие рынки. HiveTrace стал ответом на дефицит доступных решений для отечественных компаний, заинтересованных в безопасной интеграции ИИ в свои процессы.
Система уже прошла тестирование и получила высокую оценку от специалистов в области информационной безопасности.