rilpoint_mw113

Улучшение сходимости алгоритмов обучения нейронных сетей для решения задачи кредитного скоринга

Обучение нейросетевой модели сводится к минимизации функции ошибки в пространстве весовых коэффициентов. Проблема заключается в том, что в общем случае функция ошибки имеет несколько локальных минимумов, и простое применение распространенных численных методов обучения нейросетей не гарантирует от скатывания в локальный минимум. Возникает задача хорошего выбора начального приближения весов, из которого мы могли бы гарантировать сходимость алгоритма обучения к глобальному минимуму ошибки. Целью работы является разработка методики по поиску хорошего начального приближения весов для последующего обучения нейронной сети, классифицирующей заемщиков. Предлагается методика подбора начального приближения весов, улучшающая сходимость алгоритма обучения нейронной сети. Данная методика предполагает предварительную настройку нейронной сети на воспроизведение вычислительно более простого байесовского метода классификации, сохранение полученных в процессе обучения весов и последующее обучение нейронной сети на исходной выборке заемщиков с начальным набором весов, полученным на предыдущем шаге.