Нейросеть. Обратное распространение ошибки

[NovGosh]

Честно скажу, долго думал в какую ветку писать вопрос, но решил сюда.
Суть проста: написал нейросеть, перцептрон. Обучаю методом обратного распространения ошибки. Только начал заниматься этим делом. Начал с малого - 2 входа, 2 нейрона внутри, один выход. Научил его операции xor. Работало). После чего захотелось распозновать картинки размером 32 * 32. Чтобы сразу не переходить к сложным задчам сделал всего две картинки - полностью белую и полностью чёрную. Теперь структура такая : 32 * 32 - вход, 32 * 32 - внутренний и 2 - выход. И вот на такой простой задачё всё и остановилось! Нейросеть ну никак не хочет запоминать их обе одновременно. Я совсем не знаю в чём дело.
Вот расщёт выхода нейрона :

public double calcSignal ()
{
    return (double) 1 / (1 + Math.Exp(-2 * Const.Alpha * value));
}

Вот расчёт ошибки выходного слоя:

public void calcGrad (double correct)
{
    grad = signal * (1 - signal) * (correct - signal);
}

Вот всех внутренних слоёв:

public void calcGrad ()
{
    grad = 0;
    for (int i = 0; i < next.Length; i++)
         grad += weight[i] * next[i].grad;
    grad *= signal * (1 - signal);
}

Вот как я меняю веса рёбер конкретного нейрона:

public void changeEdgesWeight (double speed)
{
    for (int i = 0; i < next.Length; i++) {
        delta[i] = delta[i] * Const.M + (1 - Const.M) * speed * next[i].grad * signal;
        weight[i] += delta[i];
    }    
}

Думал, что дело в константах. Пытался подбирать, но ничего не изменилось. На данный момент константы такие:
Alpha = 0.1 - кривизна сигмоиды
MaxWeight = 0.01 - максимальный вес ребра в нейросети на момент, когда я всё заполняю рандомом
M = 0.7 - это коэффициент инерции.

Прошу подсказать, в чём я неправ, ибо самому разораться не получается.
P.S. на всякий случай прикрепляю арзхив с проектом. Написан на c# в Visual Studio, но не думаю что комуто захочется разбераться в моём коде.