«Возможно, мы проиграли: Полная картина угрозы ИИ»

Главной мыслью выступления стал призыв к трезвости: Церковь учит видеть реальность такой, какая она есть, без паники, но и без беспечности.

В ходе лекции кадеты узнали о понятии «технологической сингулярности» — моменте, когда искусственный интеллект превзойдет человеческий и начнет развиваться непредсказуемо. Отец Даниил наглядно объяснил, почему развитие ИИ — это не просто очередная технологическая новинка, а гонка, по своей опасности сравнимая с ядерной.

Спикер подробно разобрал главную проблему современного ИИ — проблему согласования целей. На знаменитом мысленном эксперименте про «производство скрепок» и реальных примерах из тестирования нейросетей (когда бот симулирует слепоту или ставит игру на паузу, чтобы не проиграть) он показал: искусственный интеллект будет искать лазейки для достижения поставленной цели, невзирая на человеческие ценности. Для бездушной машины интеллект — это лишь инструмент, и он не гарантирует наличия морали.

Кульминацией доклада стало богословское осмысление проблемы. По словам диакона Даниила, давая искусственному интеллекту способность творить, ставить цели и оптимизировать себя, человек вручает машине силу выбора. Но, в отличие от людей, ИИ не наделен совестью, любовью и страхом Божиим. Передав машине творческую мощь без нравственного закона, человечество сталкивается с величайшей угрозой.

Лекция вызвала живой отклик у студентов и заставила их задуматься о том, как стремительно меняется мир вокруг нас, и какое место в нем должен занимать человек, созданный по образу и подобию Божию.