Нейросети сегодня используют и небольшие фирмы, и крупный бизнес, в том числе банки и другие финансовые организации: с их помощью сотрудники избавляются от рутины и работают продуктивнее. Однако у такой практики есть обратная сторона — общаясь с публичными языковыми моделями, работники могут по неосторожности передать им персональные данные клиентов, банковские реквизиты и прочую закрытую информацию.
ExoAI решает эту проблему как посредник между внутренними системами компании и внешними большими языковыми моделями (LLM). Это прокси-сервер, построенный по принципу Zero Trust («нулевого доверия»). Он проверяет отправляемые данные, находит среди них чувствительные сведения и подменяет их защищёнными токенами или зашифрованными значениями. В итоге публичная нейросеть не получает исходную информацию в открытом виде.
Также в систему встроены оповещения: они сигнализируют о подозрительной активности и попытках обойти защиту, включая jailbreak-атаки. Так компания может вовремя заметить угрозу и ужесточить контроль за работой с ИИ.
Отдельный акцент разработчица делает на казахстанской специфике: защита настраивается под форматы данных, принятые в стране, в том числе бизнес-идентификационные номера и банковские реквизиты. Это делает решение удобным для местного бизнеса.
«Уже сегодня искусственный интеллект становится частью повседневных рабочих процессов, поэтому важно обеспечить его безопасное использование. ExoAI помогает компаниям применять возможности больших языковых моделей, сохраняя конфиденциальность данных. Участие в выставке AI-Sana дало мне возможность представить свою разработку, познакомиться с другими технологическими проектами, получить обратную связь и найти потенциальных инвесторов и партнеров для дальнейшего развития решения», – отметила разработчица.