Ведущий эксперт Ассоциации «Цифровая энергетика» Александр Шавкун выступил с установочным докладом на сессии «Решения на базе искусственного интеллекта для электроэнергетики», состоявшейся в рамках Молодёжного дня Российской энергетической недели. Он рассказал об основных принципах применения ИИ в отрасли, перспективах рынка и возможностях оптимизации работы энергозатратных решений.
Докладчик отдельно остановился на проблеме рисков, связанных с использованием технологий искусственного интеллекта. Помимо очевидных аспектов, таких как надёжность данных, вопросы регуляторики и кибербезопасности, серьёзным риском может стать человеческий фактор — ошибки при взаимодействии оператора с алгоритмами принятия решений ИИ, что требует отдельного формирования правил.
Человеку свойственно преувеличивать точность работы автоматизированных систем, и операторы, слишком полагающиеся на технологии искусственного интеллекта, могут вести мониторинг недостаточно внимательно и игнорировать очевидные предупреждающие сигналы. Кроме того, предупредил эксперт, пользователи могут недооценивать ограничения ИИ и не вполне осознавать, в каких ситуациях он может принять неправильное решение.
Ещё одна не самая очевидная проблема — это сбои коммуникации. Неэффективное взаимодействие и распределение ролей между операторами и системой искусственного интеллекта может привести к путанице и неверным действиям в критических ситуациях.
Как указал Шавкун, для снижения этих рисков важно проводить регулярное обучение персонала, а также внедрять системы двойной проверки и при разработке акцентировать внимание на понятности интерфейса и прозрачности работы систем ИИ.