Бесплатные курсовые

    Простой нейронный PRNG на JAVA
    Создадим простую нейронную сеть для генерирования псевдослучайных чисел.
    Пока мы будем использовать простейший вариант генерирования. Будем корректировать только входные данные нейронной сети (мастер-ключ) генератора.
    
    Мы взяли некий проект простой нейронной сети для Android Studio и ещё упростили его. Мы один раз вводим входные данные Integer data [][], вычисляем выходы ысех нейронов и нейронной сети. И всё. Обучения пока не используем.
    Напишем метод, который будет приводить выходные значения нейронов к формату входных данных INTEGER. Четные значения будем прибавлять к входным данным, а нечетные - вычитать. Тем самым создадим обратную связь по входу. Самую простую.
    
    Но сначала запустим приложение, получим в Log результаты работы и посмотрим.
    Здесть приведена часть лога с двух нейроной и сразу видна проблема. Выходные значения нейронов либо 0 либо 1
    
    == ===================================================================== == == == Neuron Number == == 1 == == public Double predict == == weight1=3.65575599E8 == == public Double predict == == weight2=2.085592642E9 == == public Double predict == == bias=1.282566602E9 == == public Double predict == == input1=115.0 input2=66.0 == == public Double predict == == weight1 * input1=4.2041193885E10 == == public Double predict == == weight2 * input2=1.37649114372E11 == == public Double predict == == Util.sigmoid(preActivation)=1.0 <-- Neuron Output == ===================================================================== == == == Neuron Number == == 4 == == public Double predict == == weight1=1.907265724E9 == == public Double predict == == weight2=-1.967982558E9 == == public Double predict == == bias=-1.544051706E9 == == public Double predict == == input1=1.0 input2=1.0 == == public Double predict == == weight1 * input1=1.907265724E9 == == public Double predict == == weight2 * input2=-1.967982558E9 == == public Double predict == == Util.sigmoid(preActivation)=0.0 <-- Neuron Output == ===================================================================== ==
    
    Оказывается, что выходы нейронов либо 0 либо 1. Для работы нейронной сети это не правильно и для нашего генератора случайных чисел не подходит.
    Надо найти причину.
    Причина, скорее всего с весами, которые вычисляются от генератора случайных чисел.
    И действительно, там была ошибка double random = new Random().nextInteger(); вместо double random = new Random().nextDouble();
    Исправляем, запускаем и смотрим, как поменялись выходные значения нейронов
    
    == ===================================================================== == == == Neuron Number == == 1 == == public Double predict == == weight1=0.638204802420569 == == public Double predict == == weight2=0.8256511687684168 == == public Double predict == == bias=0.24087856177175287 == == public Double predict == == input1=115.0 input2=66.0 == == public Double predict == == weight1 * input1=73.39355227836543 == == public Double predict == == weight2 * input2=54.49297713871551 == == public Double predict == == Util.sigmoid(preActivation)=1.0 <-- Neuron Output == ===================================================================== == == == Neuron Number == == 4 == == public Double predict == == weight1=0.8529762783770741 == == public Double predict == == weight2=0.7818602822337215 == == public Double predict == == bias=0.24210376151411686 == == public Double predict == == input1=1.0 input2=1.0 == == public Double predict == == weight1 * input1=0.8529762783770741 == == public Double predict == == weight2 * input2=0.7818602822337215 == == public Double predict == == Util.sigmoid(preActivation)=0.8672592900940899 <-- Neuron Output == ===================================================================== ==
    
    Стало лучше. Например, выход нейрона №4
    
    0.8672592900940899 <-- Neuron Output
    
    Это уже можно использовать для обратной связи и для составления псевдослучайного числа
    

Neural PRNG

    Исправленный листинг App.java
    
    package com.example.neuroprng1; import android.util.Log; import java.util.ArrayList; import java.util.Arrays; import java.util.List; import java.util.Random; // Часть 2. // Обучение нейронной сети пока не используется, поэтому вычисления только в прямом направлении // Дата-сет для тренировки с правильными ответами пока тоже не нужен // Среднеквадратичная ошибка так же не подсчитывается. Всё это будет использовано потом // Фактически, это ещё не нейронная сеть, а прототип //-------------------------------------------------------------- public class App { public static Integer neuronnum = 0; // Номер Нейрона public static void main( String[] args ) { //App app = new App(); //app.trainAndPredict(); // Начинает работать с этого - заполняем массивы данными и ответами } public void trainAndPredict() { Integer data [][] = new Integer[4][4]; // Двумерный массив ВХОДНЫХ ДАННЫХ (мпстер-ключ) По 4 значения input1 и input2 // Заполняем значениями // 4 пары значений data[0][0] = 115; // input1 data[0][1] = 66; // input2 data[1][0] = 175; // input1 data[1][1] = 78; // input2 data[2][0] = 205; // input1 data[2][1] = 72; // input2 data[3][0] = 120; // input1 data[3][1] = 67; // input2 // Ответы для заданных выше пар входных значений // Пока в нейронной сети не написано обучение, они нам не нужны Double answers [] = new Double[4]; // Создаем сеть из 6 нейронов, задаем входные значения и пишем на экран результат - переменная Te Network network1000 = new Network(); // Вызов класса Network, метод predict - создаем сеть Network1000 Double Te = network1000.predict(data[0][0],data[0][1]); // predict(Рост,Вес) - Return Double Log.i("== NNETWORK Output =", " == == network1000.predict == == Double Te=" + String.valueOf(Te)); } } // App //-------------------------------------------------------------------- class Network { // Вызывается из класса App int epochs = 0; //1000; Double learnFactor = null; App nrn = new App(); // Экземпляр класса List<Neuron> neurons = Arrays.asList( // Расширяемый список нейронов из класса Neuron new Neuron(), new Neuron(), new Neuron(), // Входной уровень new Neuron(), new Neuron(), // Скрытый уровень new Neuron()); // Выходной уровень //----- ПРЯМОЕ РАСПРОСТРАНЕНИЕ -------------------------------- public Double predict(Integer input1, Integer input2){ // На вход подавать input1 и input2 Log.i("== NCOMPUTE =", " == == predict Neuron(input1, input2) == == input1=" + String.valueOf(input1)); Log.i("== NCOMPUTE =", " == == predict Neuron(input1, input2) == == input2=" + String.valueOf(input2)); Log.i("== NCOMPUTE =", " == ===================================================================== == "); return neurons.get(5).compute( // Где neurons - это List<Neuron> neurons = Arrays.asList(new Neuron(), new Neuron(), new Neuron(),new Neuron(), new Neuron(),new Neuron()); neurons.get(4).compute( // Compute - начальная активация. class Neuron neurons.get(2).compute(input1, input2, 2), // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) neurons.get(1).compute(input1, input2, 1),4 // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) ), neurons.get(3).compute( neurons.get(1).compute(input1, input2,1), // Получить из списка neurons ПЕРВЫЙ элемент (нейрон) с входными значениями input1, input2 neurons.get(0).compute(input1, input2,0),3 // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) ),5 ); } } // Network //-------------------------------------------------------------------- class Neuron { // Нейрон //----- Инициализация нейрона -------------------------------- // Нейрон с двумя входами, поэтому два ВЕСА, одно смещение и некая функция активации private Double bias = randomnextDouble(0.1, 1); // Bias - смещение public Double weight1 = randomnextDouble(0.1, 1); // Вес 1 private Double weight2 = randomnextDouble(0.1, 1); // Вес 2 //----- Функция активации нейрона. Самая простая ------------- // Функция активации - от RND заполняется Вес1, Вес2 и смещение для каждого нейрона public double randomnextDouble(double start, double end) { // Random DOUBLE double random = new Random().nextDouble(); double result = start + (random * (end - start)); Log.i("== RANDOMNEXTDOUBLE =", " == == " + String.valueOf(result)); return Math.abs(result); } //----- Вычисляем выходные данные нейрона -------------------------- public double compute(double input1, double input2, int nnum){ // Вычисляем выходные данные нейрона nnum Log.i("== TRAIN =", " == == Neuron Number == == " + String.valueOf(nnum)); Log.i("== TRAIN =", " == == public Double predict == == weight1=" + String.valueOf(weight1)); Log.i("== TRAIN =", " == == public Double predict == == weight2=" + String.valueOf(weight2)); Log.i("== TRAIN =", " == == public Double predict == == bias=" + String.valueOf(bias)); // preActivation - необработанные данные нейрона (от фонаря) - до Сигмоида double preActivation = (this.weight1 * input1) + (this.weight2 * input2) + this.bias; // Вес 1*Вход 1 + Вес 2*Вход 2 * Смещение Log.i("== TRAIN =", " == == public Double predict == == input1=" + String.valueOf(input1) + " input2=" + String.valueOf(input2)); Log.i("== TRAIN =", " == == public Double predict == == weight1 * input1=" + String.valueOf(this.weight1 * input1)); Log.i("== TRAIN =", " == == public Double predict == == weight2 * input2=" + String.valueOf(this.weight2 * input2)); // Пропускаем необработанные данные preActivation - через Сигмоид double output = Util.sigmoid(preActivation); // Диапазон значений output - // [0,1]. Класс Util функция активации(метод) sigmoid(preActivation) // Здесь preActivation - необработанные вычисления - умножанные каждый входной сигнал на его вес плюс смещение: // вход1 * вес1 + вход2 * вес2 + смещение Log.i("== TRAIN =", " == == public Double predict == == Util.sigmoid(preActivation)=" + String.valueOf(output) + " <-- Neuron Output"); Log.i("== TRAIN =", " == ===================================================================== == "); return output; } public Integer normalize(double compute) { // Привести выходное значение нейрона к целому Integer Integer result= 10; return (result); } } // Neuron //----- Функция активации - СИГМОИД ---------------------------- class Util { public static double sigmoid(double in){ // Функция активации - СИГМОИД. Диапазон значений [0,1] // Здесь in - это preActivation = вход1 * вес1 + вход2 * вес2 + смещение return 1 / (1 + Math.exp(-in)); // Сигмоид. Сжимает значения в диапазон от 0 до 1 } public static double sigmoidDeriv(double in){ double sigmoid = Util.sigmoid(in); return sigmoid * (1 - in); } // (1 / (1 + Math.exp(-in)))* (1 - in) } // Util class
    
    Теперь сформируем значения для обратной связи. Мы будем использовать выходные значения нейронов, которые не будут равны 0 или 1
    Из них используем только одну цифру после запятой
    
    
    Читаем ДАЛЕЕ >>