Колмогоров-Смирнов 2 Пример теста Java дает 0 p-значение

Я использую тест Колмогорова-Смирнова Apache Commons Math, чтобы определить, является ли образец, который производит мой RNG, равномерным распределением.

Я использую UniformIntegerDistribution для создания равномерного распределения и получаю выборку из 2000000 целых чисел. Затем я положил их в double[]

Я также создаю из своих чисел RNG 2000000 и помещаю их в double[].

Я начертил образец и вижу, что он однороден, но тест KS дает мне значение p, равное 0,0, что указывает на то, что нулевая гипотеза о двух взятых из одного и того же распределения (т. Е. Однородного) недействительна. Это означает, что мой образец ГСЧ не соответствует равномерному распределению.

double alpha = test.kolmogorovSmirnovTest(a, b); дай мне alpha = 0.0

И Javadoc метода гласит:

Вычисляет p-значение или наблюдаемый уровень значимости двухвыборочного теста Колмогорова-Смирнова, оценивающего нулевую гипотезу о том, что x и y являются выборками, взятыми из одного и того же распределения вероятностей.

Поэтому я ожидаю, что значение p будет высоким, учитывая, что я вижу график явно однородным.

    IntegerDistribution uniform = new UniformIntegerDistribution(1, 81);

    ArrayList<Integer> lis = new ArrayList<>();
    int i = 0;
    while (i < 100000) {

        //Creates a list of 20 numbers ε [1,80]
        List<Integer> l = ls.createRandomNumbersInclusive(80, 20);
        lis.addAll(l);
        Assertions.assertFalse(l.stream().anyMatch(it -> it > 80));
        Assertions.assertFalse(l.stream().anyMatch(it -> it < 1));

        i++;
    }

    KolmogorovSmirnovTest test = new KolmogorovSmirnovTest();

    var sample = uniform.sample(2000000);

    List<Integer> ll = new ArrayList<>();
    double[] a = new double[2000000];

    for(var j = 0; j<2000000; j++) {
        a[j] = sample[j];
    }

    double[] b = lis.stream().map(it -> Double.valueOf(it)).mapToDouble(Double::doubleValue).toArray();

    var alpha = test.kolmogorovSmirnovTest(a, b); 

    System.out.println("Alpha "+ alpha); //This gives me 0.0

     /** I am doing the below to get the count per numbers [1,80] and plot them.
     * I see them being uniform 
     * 1 ===
     * 2 ===
     *  ...
     * 80 === 
     */
     Map<Integer, Long> result = lis.stream().collect(Collectors.groupingBy(it -> it, Collectors.counting()));

Что меня беспокоит, так это то, что если я создам новый UniformIntegerDistribution и получу sample2, а затем положу это в test.kolmogorovSmirnovTest(a, b);, я действительно получу p-значение, близкое к 1, чего я и ожидаю.

Я либо делаю что-то не так с Java, либо есть что-то в числах, полученных ГСЧ, чего я не получаю.

Код для createRandomNumbersInclusive

public List<Integer> fetchNumberList(final int drawNumberMin, final int drawNumberMax, final int drawNumberCount) {

    final List<Integer> range = new ArrayList<Integer>();
    for (int i = drawNumberMin; i <= drawNumberMax; i++) {
        range.add(i);
    }

    Collections.shuffle(range, rng);

    return new ArrayList<Integer>(range.subList(0, drawNumberCount));
}

И ГСЧ rng = SecureRandom.getInstance("NativePRNGNonBlocking");


person idipous    schedule 23.04.2020    source источник


Ответы (1)


Я нашел причину проблемы. UniformRealDistribution, который я использовал изначально, так как он работает с kolmogorovSmirnovTest(RealDistribution distribution, double[] data)

Однако по какой-то причине UniformIntegerDistribution является инклюзивно-эксклюзивным.

Когда я изменил IntegerDistribution uniform = new UniformIntegerDistribution(1, 81); на IntegerDistribution uniform = new UniformIntegerDistribution(1, 80);, все заработало.

person idipous    schedule 25.04.2020