Deep Belief Network

Code provided by Ruslan Salakhutdinov and Geoff Hinton. Permission is granted for anyone to copy, use, modify, or distribute this program and accompanying programs and documents for any purpose, provided this copyright notice is retained and prominently displayed, along with a note saying that the original programs are available from our web page. The programs and documents are distributed without any warranty, express or implied. As the programs were written for research purposes only, they have not been tested to the degree that would be advisable in any important application. All use of these programs is entirely at the user's own risk. How to make it work:1. Create a separate directory and download all these files into the same directory.2. Download from http://yann.lecun.com/exdb/mnist the following 4 files:- train-images-idx3-ubyte.gz- train-labels-idx1-ubyte.gz- t10k-images-idx3-ubyte.gz- t10k-labels-idx1-ubyte.gz3. Unzip these 4 files by executing:- gunzip train-images-id

提供了伪增强深度信任网络（Pseudo_Boosted_Deep_Belief_Network）论文中的源代码，发布于ICANN 2016，由段铁航与Sargur N. Srihari等人撰写。源代码使用MATLAB编写，所有内容从零开始实现，并且已在MATLAB 2015a版本上进行了测试。 要运行该模型，用户需要完成以下步骤：1) 下载MNIST数据集（包括四个文件：t10k-images.idx3-ubyte, t10k-labels.idx1-ubyte, train-images.idx3-ubyte, train-labels.idx1-ubyte），可从Yann LeCun的网站（http://yann.lecun.com/exdb/mnist/）获取。2) 运行main.m文件。该模型的数据处理功能，包括loadMNISTImages.m、loadMNISTLabels.m和converter.m，参考了Ruslan Salakhutdinov与Geoff Hinton的DBN包。 该项目完成于两年前，未得到积极维护，但提供了一个有效的框架用于深度信任网络的实现。

ESP-DNN: Graph Convolutional Deep Neural Network for Predicting Electrostatic Potential Surfaces from DFT Calculations This repository contains trained models and code designed for generating ligands and proteins, creating electrostatic potential (ESP) surfaces that closely resemble DFT-quality molecular surfaces. The PQR files generated by our model include atomic charges and dipole-like atomic features, such as lone pairs, σ-conjugation, and p-orbitals. To generate ligand PQR files, a graph convolutional deep neural network (DNN) model was trained on about 100,000 molecules with ESP surfaces derived from DFT calculations. For proteins, parameterized charges of amino acids were used, ensuring compatibility with the ligand ESP surfaces generated by the DNN model. For more detailed methods and validation information, refer to the full documentation. System Requirements The program can only run on 64-bit Linux operating systems. Installation Instructions To run ESP-DNN, you will need to:1. Clone this repository.2. Set up Python and required dependencies.3. (Optional) Install additional packages. The package has been developed and tested with Python 2.7 and the following third-party libraries:- rdkit == 2018.09.3- keras == 2.2.4- tensorflow == 1.10.0- num

在IT领域，聚类算法是数据挖掘中的重要分支，用于发现数据集中的自然群体或类别。此名为“广义神经网络的聚类算法-网络入侵聚类”的案例中，主要使用MATLAB进行开发，展示了针对网络入侵检测的聚类分析。网络入侵聚类在网络安全中是关键问题，特别是在异常检测领域。MATLAB的神经网络库提供了强大的工具，能够构建并训练不同类型的广义神经网络（GNN）。GNN作为一种非监督学习方法，通过加权距离计算形成聚类，尤其适用于处理复杂的非线性问题。 聚类算法在异常检测中的应用主要是通过识别与正常流量显著不同的模式，来发现潜在的入侵行为。此案例中，可能用到了自适应共振理论（ART）或自组织映射（SOM），这些网络可以自我组织并形成数据的拓扑结构，适合处理高维数据的聚类任务。 在实际操作中，MATLAB代码对网络入侵数据进行了预处理，包括数据清洗、缺失值处理和特征选择等步骤。然后将预处理后的数据输入到神经网络模型中，通过迭代训练优化聚类结果。通过轮廓系数和Calinski-Harabasz指数等评估模型性能，最终可视化聚类结果，以帮助理解不同数据群体间的关系。

MATLAB BP神经网络以及GABP神经网络，包括数据.mat，并附有详细注释，便于更改和理解。

深度学习历史趋势 一、深度学习历史趋势 神经网络的众多名称和命运变迁： 早期发展：20世纪50年代末至60年代初，神经网络研究开始兴起，受到广泛关注。 第一次寒冬：1970年代，由于理论和技术上的限制，神经网络研究进入低谷期。 反向传播算法的引入：1980年代中期，反向传播算法的提出极大地推动了神经网络的研究和发展。 第二次寒冬：1990年代中期，尽管有了突破性的进展，但由于计算资源和数据量的限制，神经网络再次遭遇挫折。 深度学习的复兴：21世纪初至今，随着GPU技术的发展、大数据时代的到来以及算法的不断创新，深度学习迎来了爆发式的增长。 与日俱增的数据量： 互联网时代：随着互联网的普及，数据生成的速度大大加快。 社交媒体：社交媒体平台成为海量数据的重要来源之一。 物联网：各种传感器设备不断收集环境数据，进一步丰富了数据资源。 大数据技术：Hadoop等大数据处理框架为存储和处理大规模数据提供了技术支持。 与日俱增的模型规模： 参数数量增加：随着模型复杂度的提升，模型中的参数数量也在不断增加。 深层架构：从最初的几层到现在的上百层甚至更多，神经网络的层数不断增加。 并行计算：GPU等硬件技术的进步使得大型模型的训练成为可能。 与日俱增的精度、复杂度和对现实世界的冲击： 精度提升：随着模型的改进，识别和预测的准确率不断提高。 应用场景扩展：从图像识别到自然语言处理，再到推荐系统等领域，深度学习的应用范围越来越广泛。 社会经济影响：人工智能技术的发展对各行各业产生了深远的影响，促进了产业升级和社会变革。 二、应用数学与机器学习基础 线性代数： 标量、向量、矩阵和张量：介绍了这些基本概念及其在深度学习中的应用。 矩阵和向量相乘：讲解了如何进行矩阵和向量之间的乘法操作。 单位矩阵和逆矩阵：单位矩阵是重要的特殊矩阵，逆矩阵对于解决线性方程组等问题至关重要。 线性相关和生成子空间：线性相关的概念有助于理解数据的空间表示。 范数：范数可以用来衡量向量或矩阵的大小和特性。

GPS网平差的matlab程序，亲自编写，代码有很详细的注释。

用于小波神经网络MATLAB程序模拟，建议初学者好好看看，有一定作用。

通过本实验的学习，使学生了解BP神经网络基本知识，掌握利用这种算法并进行预测的主要步骤。选择相关数据，利用BP网络建立神经网络并进行预测。

In this part of our MongoDB series, we delve deeper into advanced MongoDB concepts, covering topics such as sharding, replication, and aggregation pipelines. By mastering these, you can optimize database performance and ensure high availability in large-scale applications. Sharding allows MongoDB to distribute data across multiple servers, enhancing capacity and reliability. Replication provides data redundancy, crucial for disaster recovery. Lastly, aggregation pipelines offer a powerful framework for complex data analysis within MongoDB.