在学习任意的无环网络时，表4-2的算法可以简单地推广到任意深度的前馈网络。第m层的单元r的δr值由更深第m+1层的δ值根据下式计算。将这个算法推广到任何有向无环结构也同样简单，而不论网络中的单元是否被排列在统一的层上。计算任意内部单元的δ的法则是：Downstream(r)是在网络中单元r的直接下游单元的集合，即输入中包括r的输出的所有单元。