在java中读取MNIST数据库非常慢

问题描述 投票:0回答:1

我之前在c ++中创建了一个MNIST读取器非常快,现在我尝试用Java重新创建它,但是从数据集中读取标签和图像需要大约10秒,这太长了。我对Java IO知之甚少,所以我不知道我在做什么让它变得如此之慢。

这是我的代码

public static double[][] loadImages(File imageFile) {
    try {
        inputStream = new FileInputStream(imageFile);

        //Skip Magic number
        inputStream.skip(4);

        //Read Image Number
        int imageNum = nextNByte(4);

        //Get Image dimensions
        int rows = nextNByte(4);
        int cols = nextNByte(4);

        //Initialize the image array
        double[][] images = new double[imageNum][rows*cols];

        //Place the input
        for(int i = 0; i<imageNum;i++){
            for(int k = 0; k<cols*rows;k++){
                images[i][k]= nextNByte(1);
            }
        }

        //Close Input Stream
        inputStream.close();

        //Verbose Output
        System.out.println("Images Loaded!");

        return images;
    } catch (IOException e) {
      e.getCause();
    }

    //Verbose Output
    System.out.println("Couldn't Load Images!");

    return null;
}

这是我的图像文件和标签使用相同的方法,所以我不会把它。这是我为此创建的一个实用程序函数,它读取N量的Bytes并将其返回到int中。

private static int nextNByte(int n) throws IOException {
    int k=inputStream.read()<<((n-1)*8);
    for(int i =n-2;i>=0;i--){
        k+=inputStream.read()<<(i*8);
    }
    return k;
}

任何关于为什么这么慢的帮助都会对我有所帮助。我使用过其他人的例子,他使用了字节缓冲区并且工作得很快(大约一秒钟)。

java runtime mnist
1个回答
1
投票

你绝对想要像这样使用BufferedInputStream

inputStream = new BufferedInputStream(new FileInputStream(imageFile));

在没有缓冲每次调用的情况下,inputStream.read()从OS中获取单个字节。

© www.soinside.com 2019 - 2024. All rights reserved.