三元神经网络

本存储库已发布，复现Hande Alemdar、Vincent Leroy、Adrien Prost-Boucle和Frederic Petrot在“用于资源高效的AI应用程序的三元神经网络”国际神经网络联合会议（IJCNN）2017年发表的结果。该存储库提供了学生网络的培训代码，并包括分层代码的详细说明。安装要求包括以下Python软件包：git clone https://github.com/caldweln/distro.git ~/torch --recursive，cd ~/torch;TORCH_LUA_VERSION=LUA51 ./install.sh;source install/bin/torch-activate;git clone https://github.com/caldweln/dp.git ~/dp，cd ~/dp;luarocks make rocks/dp-scm-1.rockspec，git clone https://github.com/caldweln/nninit。

这份代码详细展示了如何使用Matlab实现三元哈夫曼编码，并且每一步都有清晰的注释，让您轻松理解。

BP神经网络的MATLAB代码实现展示了其基本的架构和训练过程。首先，定义网络结构，包括输入层、隐藏层和输出层的神经元数量。其次，初始化权重和偏置，然后通过前向传播计算输出，使用误差反向传播算法调整权重和偏置。最后，通过多次迭代训练网络，直到误差满足要求。该代码适用于简单的分类和回归任务，具有较好的学习能力和泛化性能。

alchemyst/ternplot是一个Matlab工具，专门用于绘制三元相图数据。

神经网络是由许多神经元之间的连接组成，例如下图显示了具有中间层（隐层）的B-P网络。BP神经网络是一种数学模型，其详细解析如下。

目前，链路预测研究主要关注于无向网络，然而现实世界中的大量有向网络，如果忽略链路方向将导致信息丢失甚至预测失真。为解决这一问题，本研究提出了一种基于三元组的有向网络链路预测算法。该算法利用势理论筛选三元组，分析闭合概率以计算节点相似性权重。实验结果显示，在9个真实数据集上，新方法的预测精度比基准方法提高了4.3%。

隐层神经元数的选择影响神经网络的训练能力。如果太少，网络可能无法学习；如果太多，会导致训练时间过长，泛化能力下降和容错性差。不同隐层神经元数的示例结果表明，神经元数的差异会影响训练误差曲线。

改进BP神经网络算法以提高数据挖掘中的收敛速度。

神经网络训练前，需设计拓扑结构，包括隐层神经元数量及其初始参数。隐层神经元越多，逼近越精确，但不宜过多，否则训练时间长、容错能力下降。如训练后准确性不达标，需重新设计拓扑或修改初始参数。

逻辑性的思维是根据逻辑规则进行推理的过程；它将信息化为概念并用符号表示，然后通过符号运算按串行模式进行逻辑推理；这一过程可以写成串行指令供计算机执行。然而，直观性的思维是将分布式存储的信息综合起来，结果是突然产生的想法或解决问题的办法。这种思维方式的根本在于两点：1.信息通过神经元上的兴奋模式分布存储在网络上；2.信息处理是通过神经元之间同时相互作用的动态过程完成的。