Neural Network PRNG

    Neural Network PRNG on JAVA
    
    Мы написали на Android JAVA полностью работспособный прототип программного генератора случайных чисел (PRNG) на основе простой нейронной сети с автоматической настройкой весовых коэффициентов.
    Прототип генерирует 2 целых числа. Вызвав процедуру пересчета 256 раз можно получить 256 байтное (2048 bit) псевдослучайное число.
    Понятно, что до реально качественного PRNG ещё далеко, но некий уровень уже достигнут.
    Сейчас уберем лишние Log сообщения, которые мы использовали для отладки предыдущих проблем. Их всегда можно вставить обратно из опубликованных листингов.
    Кроме того, испытан метод коррекции входных данных нейронной сети (мастер-ключа) от некоторых разрядов значений, вычисленных в нейронах №3 и №4.
    Следует обратить внимание, что выбраны самые простые решения (не только самый простой JAVA код). Входные значения корректируются простейшим способом - дельты либо прибавляются, либо вычитаются из исходных входных значений. Нет проверки даже на ноль.
    Ещё раз - мы сейчас делаем ПРОТОТИП генератора PRNG. Потом его можно будет совершенствовать до любого состояния в зависимости от того, где его предполагается использовать. Если для шифрования, то - в одном направлении. Если для радиосвязи или радиолокации, устойчивых к воздействию РЭБ - то в других направлениях.
    Но, об этом позже.
    
    Минимальный JAVA листинг файла App.java проекта
    
    package com.example.neuroprng1; import android.util.Log; import java.util.ArrayList; import java.util.Arrays; import java.util.List; import java.util.Random; //-------------------------------------------------------------- public class App { public static Double neurobiasweight [][] = new Double[6][3]; // Массив весов для нейронов [weight1][weight2] public static Integer deltaweight1 = 0; // Корректировка weight1 через обратную связь public static Integer deltaweight2 = 0; // Корректировка weight2 через обратную связь public static Integer data [][] = new Integer[4][4]; // Двумерный массив ВХОДНЫХ ДАННЫХ (мпстер-ключ) По 4 значения input1 и input2 public static Integer neuronnum = 0; // Номер Нейрона public static void main( String[] args ) { //App app = new App(); //app.trainAndPredict(); // Начинает работать с этого - заполняем массивы данными и ответами } public void trainAndPredict() { // Заполняем значениями input1 и input2 data[0][0] = 115; // input1 data[0][1] = 66; // input2 // Зададим статические значение веса для каждого нейрона. Для повторяемости результатов в разных экземплярах приложения neurobiasweight [0][1] = 0.2921867401328437; // Нейрон 0 вес 1 neurobiasweight [0][2] = 0.6753277674739143; // Нейрон 0 вес 2 neurobiasweight [1][1] = 0.638204802420569; // Нейрон 1 вес 1 neurobiasweight [1][2] = 0.8256511687684168; // Нейрон 1 вес 2 neurobiasweight [2][1] = 0.9570075176019762; // Нейрон 2 вес 1 neurobiasweight [2][2] = 0.39564267118987084; // Нейрон 2 вес 2 neurobiasweight [3][1] = 0.2463716717762578; // Нейрон 3 вес 1 neurobiasweight [3][2] = 0.8565685160656823; // Нейрон 3 вес 2 neurobiasweight [4][1] = 0.8529762783770741; // Нейрон 4 вес 1 neurobiasweight [4][2] = 0.7818602822337215; // Нейрон 4 вес 2 neurobiasweight [5][1] = 0.36204206369478864; // Нейрон 5 вес 1 neurobiasweight [5][2] = 0.6998272379065108; // Нейрон 5 вес 2 // В этот же массив запишем смещение bias neurobiasweight [0][0] = 0.6372796901523922; // Нейрон 0 смещение bias neurobiasweight [1][0] = 0.24087856177175287; // Нейрон 1 смещение bias neurobiasweight [2][0] = 0.20294311087331438; // Нейрон 2 смещение bias neurobiasweight [3][0] = 0.6005802079109952; // Нейрон 3 смещение bias neurobiasweight [4][0] = 0.24210376151411686; // Нейрон 4 смещение bias neurobiasweight [5][0] = 0.3291532687509765; // Нейрон 5 смещение bias // Создаем сеть из 6 нейронов, задаем входные значения и пишем на экран результат - переменная Te Network network1000 = new Network(); // Вызов класса Network, метод predict - создаем сеть Network1000 Double Te = network1000.predict(data[0][0],data[0][1]); // predict(Рост,Вес) - Return Double Te = network1000.predict(120,67); // predict(Рост,Вес) - Return Double } } // App //-------------------------------------------------------------------- class Network { // Вызывается из класса App List<Neuron> neurons = Arrays.asList( // Расширяемый список нейронов из класса Neuron new Neuron(), new Neuron(), new Neuron(), // Входной уровень new Neuron(), new Neuron(), // Скрытый уровень new Neuron()); // Выходной уровень public Double predict(Integer input1, Integer input2){ // На вход подавать input1 и input2 return neurons.get(5).computeOOS( // Где neurons - это List<Neuron> neurons = Arrays.asList(new Neuron(), new Neuron(), new Neuron(),new Neuron(), new Neuron(),new Neuron()); neurons.get(4).computeOOS( // Compute - начальная активация. class Neuron neurons.get(2).computeOOS(input1, input2, 2), // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) neurons.get(1).computeOOS(input1, input2, 1),4 // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) ), neurons.get(3).computeOOS( neurons.get(1).computeOOS(input1, input2,1), // Получить из списка neurons ПЕРВЫЙ элемент (нейрон) с входными значениями input1, input2 neurons.get(0).computeOOS(input1, input2,0),3 // compute - здесь - СИГМОИД - Util.sigmoid(preActivation) ),5 ); } } // Network //-------------------------------------------------------------------- class Neuron { // Нейрон App app = new App(); // Экземпляр класса public double compute(double input1, double input2, int nnum){ // Вычисляем выходные данные нейрона nnum double preActivation = (app.neurobiasweight [nnum][1] * input1) + (app.neurobiasweight [nnum][2] * input2) + app.neurobiasweight [nnum][0]; // Вес 1*Вход 1 + Вес 2*Вход 2 * Смещение // Пропускаем необработанные данные preActivation - через Сигмоид double output = Util.sigmoid(preActivation); // Диапазон значений output - Log.i("== TRAIN =", " == == ПОСЛЕ СИГМОИДА == == Util.sigmoid(preActivation)=" + String.valueOf(output) + " <-- Neuron Output"); normalize(output); // Для организации обратной связи correctinput(); // Если не чётное, то вычесть из Input return output; } public double computeOOS(double input1, double input2, int nnum){ // Коррекция весовых коэффициентов для нейрона nnum // Если output нейрона №num равен 1 или 0, то корректировать вес1 и вес2 этого нейрона while (compute(input1, input2,nnum) == 1.0) {// Вызов стандартного COMPUTE app.neurobiasweight [nnum][1] -= 0.021E1; // Вес1 нейрона №nnum app.neurobiasweight [nnum][2] -= 0.027E1; // Вес2 нейрона №nnum } while (compute(input1, input2,nnum) == 0.0) {// Вызов стандартного COMPUTE app.neurobiasweight [nnum][1] += 0.027E1; // Вес1 нейрона №nnum app.neurobiasweight [nnum][2] += 0.021E1; // Вес2 нейрона №nnum } double output = compute(input1, input2,nnum); return output; } // computeOOS public Integer normalize(double neuroutput) { // Проверить выходное значение нейрона, что оно не 0 и не 1 Integer result= 0; if (neuroutput != 0){ if (neuroutput !=1) { String str = String.valueOf(neuroutput); // Преобразовать Double в String // Здесь надо проверить длину получивщейся строки, а то может этих разрядов нет String substr = str.substring(7, 8); // Одна цифра result = Integer.valueOf(substr); // Одноразрядный Integer app.deltaweight1 = Integer.valueOf(str.substring(7, 8)); // Одноразрядный Integer для корректировки weight1 app.deltaweight2 = Integer.valueOf(str.substring(8, 9)); // Одноразрядный Integer для корректировки weight2 Log.i("== NORMALIZE =", " == == Integer.valueOf(substr) == == substr=" + str.substring(7, 8)); Log.i("== NORMALIZE =", " == == Integer.valueOf(substr) == == substr=" + str.substring(8, 9)); } } return (null); } // Для корректировки ВХОДНЫХ значений (Мастер-ключа) нейронной сети при следующих вычислениях после первого public Integer correctinput() { // Если deltaweight - чётное, то с плюсом, если не чётное,то с минусом if (app.deltaweight1 % 2 != 0){ // Число не чётное app.deltaweight1 *= -1; // Взять со знаком минус } if (app.deltaweight2 % 2 != 0){ // Число не чётное app.deltaweight2 *= -1; // Взять со знаком минус } app.data[0][0] += app.deltaweight1; app.data[0][1] += app.deltaweight2; return (null); } } // Neuron //----- Функция активации - СИГМОИД ---------------------------- class Util { public static double sigmoid(double in){ // Функция активации - СИГМОИД. Диапазон значений [0,1] return 1 / (1 + Math.exp(-in)); // Сигмоид. Сжимает значения в диапазон от 0 до 1 } } // Util class

Neural PRNG

    Теперь этот минимальный JAVA код модернизируем так, чтобы можно его вызывать нужное количество раз для получения числа необходимой размерности.
    Одновременно улучшим некоторые внутренние свойства - исключим ситуацию, когда выходное значение нейрона будет больше 0 и меньше 1, но окажется равным (например) 0.23 и в числе просто не окажется разряда, который мы выбираем.
    Для этого преобразуем выходное значение в строку и вычислим его длину. Если она не меньше необходимой, проверим, что нет повторов цифр - например 0.235177788 Создадим для этого метод public static Integer czech
    
    
    Читаем ДАЛЕЕ >>