Специалисты Решетневского университета представили новый подход, призванный снизить вероятность появления недостоверной информации, создаваемой нейронными сетями. Технология обладает значительным потенциалом для внедрения в образовательные учреждения, на портал «Госуслуг», а также в медицине и юриспруденции.
Проблема генерации нейросетями ложной информации требует создания действенных механизмов ее проверки. Исследователи из Решетневского университета изучили распространенные ошибки, совершаемые нейронными сетями, и с этой целью разработали специализированный классификатор.
По итогам проведенного исследования была создана система автоматизированного стресс-тестирования, которая сверяет выходные данные нейросети с эталонными показателями. В режиме реального времени система анализирует входящие запросы, оценивает вероятность погрешности, присваивает определенный уровень доверия и оповещает оператора в случае недостаточной уверенности в правильности сгенерированных данных.
Предложенная методика отличается высокой степенью адаптивности и применима к моделям искусственного интеллекта различного типа. В дальнейших планах — ее внедрение в образовательные и государственные платформы, а также в медицинские и юридические информационные системы.
