Ошибка JAVA не в формате gzip

Увидев эту строку:

eol = новая строка (новый байт [] {(байт) 0, (байт) 0, (байт)-1, (байт)-1});

достаточно, чтобы прийти к выводу: вы обречены с самого начала.

НЕ ИСПОЛЬЗУЙТЕ STRING ДЛЯ ДВОИЧНЫХ ДАННЫХ.

bytes и chars не имеют отношения друг к другу; то, что вы здесь делаете, примерно эквивалентно следующему:

final CharsetDecoder decoder = Charset.defaultCharset()
    .newDecoder().onMalformedInput(CodingErrorAction.REPLACE);
final ByteBuffer buf = ByteBuffer.wrap(new byte[]{...});
final CharBuffer cbuf = decoder.decode(buf);
final String eol = new String(cbuf.array());

Обратите внимание на действие REPLACE. Любая неотображаемая последовательность байтов заставит декодер вывести символ замены Unicode, U+ FFFD (выглядит знакомо, правда?).

Теперь попробуйте вместо этого поставить REPORT.

Более того, вы используете кодировку по умолчанию... которая отличается от платформы к платформе.

Ваш код должен просто читать входной поток и возвращать массив byte. используйте ByteArrayOutputStream.

А если вы хотите напрямую писать в файл, это легко сделать: используйте Files.copy().

В любом случае, исправил это для вас:

// Note: return code is byte[]
protected byte[] readResponse(final InputStream in)
    throws IOException
{
    try (
        final InputStream gzin = new GzipInputSream(in);
        final ByteArrayOutputStream out = new ByteArrayOutputStream();
    ) {
        final byte[] buf = new byte[4096];
        int bytesRead;
        while ((bytesRead = gzin.read(buf)) != -1)
            out.write(buf, 0, bytesRead);

        return out.toByteArray();
    }
}

Проблема может заключаться в том, что вы перемещаете указатель файла во входном потоке, прежде чем передать его в GZIPInputStream. GZIPInputStream ожидает, что первые несколько байтов будут стандартным заголовком.

Попробуйте переместить новый GZIPInputStream(is); перед циклом while

В вашем коде так много ошибок..... Но давайте все же попробуем. Итак, у вас есть заголовок ascii, и после него должна быть сжатая часть? Файл Gzip всегда начинается с байтов идентификатора. Они имеют фиксированные значения «ID1 = 31 (0x1f, \037), ID2 = 139 (0x8b, \213)». Можете ли вы найти их из вашего входного потока. Там вы должны запустить gzipstream.

Я протестировал это с файлом, состоящим из нескольких строк заголовка, за которыми следует пустая строка и добавленный текстовый файл, сжатый gzip. Последний записывается в нераспакованном виде в x.gz, распаковывается и читается оттуда, предполагая, что это текстовый файл. (Если это двоичный файл, BufferedReader не имеет смысла.)

должны быть добавлены try/with resources и catch, но это чисто технический аспект.

InputStream is = ...;
StringBuilder lsb = new StringBuilder();
int c = -1;
while( (c = is.read()) != -1 ){
    if( c == '\n' ){
        String line = lsb.toString();
        if( line.matches( "\\s*" ) ){
            break;
        }
        System.out.println( line );
        lsb.delete( 0, lsb.length() );
    } else {
        lsb.append( (char)c );
    }
}
byte[] buffer = new byte[1024];
int nRead = 0;
OutputStream os = new FileOutputStream( "x.gz" );
while ( (nRead = is.read(buffer, 0, buffer.length )) > 0 ) {
    os.write( buffer, 0, nRead );
}
os.close();
is.close();

InputStream gis = new GZIPInputStream( new FileInputStream( "x.gz" ) );
InputStreamReader isr = new InputStreamReader( gis );
BufferedReader br = new BufferedReader(isr);
String line;
while( (line = br.readLine()) != null ){
    System.out.println("line: " + line );
}
br.close();