Загрузка всех файлов с использованием FTP и C#

загрузка всех файлов в определенную папку кажется простой задачей. Однако есть некоторые вопросы, которые необходимо решить. Назвать несколько:

• Как получить список файлов (System.Net.FtpWebRequest дает вам не проанализированный список, а формат списка каталогов не стандартизирован ни в одном RFC)
• Что делать, если в удаленном каталоге есть как файлы, так и подкаталоги. Должны ли мы погружаться в подкаталоги и загружать их содержимое?
• Что делать, если некоторые из удаленных файлов уже существуют на локальном компьютере? Должны ли они быть перезаписаны? Пропущено? Должны ли мы перезаписывать только старые файлы?
• Что делать, если локальный файл недоступен для записи? Должен ли весь перенос потерпеть неудачу? Должны ли мы пропустить файл и перейти к следующему?
• Как обращаться с файлами на удаленном диске, которые не читаются, потому что у нас нет достаточных прав доступа?
• Как выглядят символические ссылки, жесткие ссылки и точки соединения обрабатывается? Ссылки можно легко использовать для создания бесконечной рекурсивной древовидной структуры каталогов< /а>. Рассмотрим папку A с подпапкой B, которая на самом деле не настоящая папка, а жесткая ссылка *nix, указывающая обратно на папку A. Наивный подход приведет к тому, что приложение никогда не завершится (по крайней мере, если никому не удастся выдернуть вилку).

Достойный сторонний FTP-компонент должен иметь метод решения этих проблем. Следующий код использует наш Rebex FTP для .NET.

using (Ftp client = new Ftp())
        {
            // connect and login to the FTP site
            client.Connect("mirror.aarnet.edu.au");
            client.Login("anonymous", "my@password");

            // download all files
            client.GetFiles(
                "/pub/fedora/linux/development/i386/os/EFI/*",
                "c:\\temp\\download",
                FtpBatchTransferOptions.Recursive,
                FtpActionOnExistingFiles.OverwriteAll
            );

            client.Disconnect();
        }

Код взят из моего сообщение в блоге доступно на сайте blog.rebex.net. В блоге также есть ссылка на пример, который показывает, как спросить пользователя, как справиться с каждой проблемой (например, перезаписать/перезаписать старые/пропустить/пропустить все).

Используя C# FtpWebRequest и FtpWebReponse, вы можете использовать следующую рекурсию (убедитесь, что строки папки заканчиваются на '\'):

    public void GetAllDirectoriesAndFiles(string getFolder, string putFolder)
    {
        List<string> dirIitems = DirectoryListing(getFolder);
        foreach (var item in dirIitems)
        {
            if ( item.Contains('.')  )
            {
                GetFile(getFolder + item, putFolder + item);
            }
            else
            {
                var subDirPut = new DirectoryInfo(putFolder + "\\" + item);
                subDirPut.Create();
                GetAllDirectoriesAndFiles(getFolder + item + "\\", subDirPut.FullName + "\\");
            }
        }
    }

"item.Contains('.')" немного примитивен, но для моих целей сработал. Оставьте комментарий, если вам нужен пример методов:

GetFile(string getFileAndPath, string putFileAndPath)

or

DirectoryListing(getFolder)

Для протокола FTP вы можете использовать FtpWebRequest класс из . NET Framework. Хотя у него нет явной поддержки рекурсивных операций с файлами (включая загрузку). Вы должны реализовать рекурсию самостоятельно:

• Список удаленного каталога
• Повторите записи, загрузив файлы и рекурсивно по подкаталогам (снова перечислив их и т. д.)

Сложная часть - идентифицировать файлы из подкаталогов. Невозможно сделать это переносимым способом с помощью FtpWebRequest. К сожалению, FtpWebRequest не поддерживает команду MLSD, которая является единственным переносимым способом получения списка каталогов с атрибутами файлов в протоколе FTP. См. также Проверка того, является ли объект на FTP-сервере файлом или каталогом.

Ваши варианты:

• Выполните операцию над именем файла, которая наверняка завершится ошибкой для файла и будет успешной для каталогов (или наоборот). т.е. можно попробовать скачать "имя". Если это удается, это файл, если нет, это каталог. Но это может стать проблемой производительности, когда у вас большое количество записей.
• Вам может повезти, и в вашем конкретном случае вы можете отличить файл от каталога по имени файла (т.е. все ваши файлы имеют расширение, а подкаталоги - нет)
• Вы используете длинный список каталогов (команда LIST = метод ListDirectoryDetails) и пытаетесь проанализировать список для конкретного сервера. Многие FTP-серверы используют список в стиле *nix, где вы идентифицируете каталог по d в самом начале записи. Но многие серверы используют другой формат. В следующем примере используется этот подход (при условии, что формат * nix)

void DownloadFtpDirectory(string url, NetworkCredential credentials, string localPath)
{
    FtpWebRequest listRequest = (FtpWebRequest)WebRequest.Create(url);
    listRequest.UsePassive = true;
    listRequest.Method = WebRequestMethods.Ftp.ListDirectoryDetails;
    listRequest.Credentials = credentials;

    List<string> lines = new List<string>();

    using (WebResponse listResponse = listRequest.GetResponse())
    using (Stream listStream = listResponse.GetResponseStream())
    using (StreamReader listReader = new StreamReader(listStream))
    {
        while (!listReader.EndOfStream)
        {
            lines.Add(listReader.ReadLine());
        }
    }

    foreach (string line in lines)
    {
        string[] tokens =
            line.Split(new[] { ' ' }, 9, StringSplitOptions.RemoveEmptyEntries);
        string name = tokens[8];
        string permissions = tokens[0];

        string localFilePath = Path.Combine(localPath, name);
        string fileUrl = url + name;

        if (permissions[0] == 'd')
        {
            Directory.CreateDirectory(localFilePath);
            DownloadFtpDirectory(fileUrl + "/", credentials, localFilePath);
        }
        else
        {
            FtpWebRequest downloadRequest = (FtpWebRequest)WebRequest.Create(fileUrl);
            downloadRequest.UsePassive = true;
            downloadRequest.UseBinary = true;
            downloadRequest.Method = WebRequestMethods.Ftp.DownloadFile;
            downloadRequest.Credentials = credentials;

            using (Stream ftpStream = downloadRequest.GetResponse().GetResponseStream())
            using (Stream fileStream = File.Create(localFilePath))
            {
                ftpStream.CopyTo(fileStream);
            }
        }
    }
}

url должно быть таким:

• ftp://example.com/ or
• ftp://example.com/path/

Или используйте стороннюю библиотеку, поддерживающую рекурсивную загрузку.

Например, с помощью сборки WinSCP .NET вы можете загрузить весь каталог одним вызовом Session.GetFiles:

// Setup session options
SessionOptions sessionOptions = new SessionOptions
{
    Protocol = Protocol.Ftp,
    HostName = "example.com",
    UserName = "user",
    Password = "mypassword",
};

using (Session session = new Session())
{
    // Connect
    session.Open(sessionOptions);

    // Download files
    session.GetFiles("/home/user/*", @"d:\download\").Check();
} 

Внутри WinSCP использует команду MLSD, если она поддерживается сервером. Если нет, он использует команду LIST и поддерживает десятки различных форматов листинга.

(я автор WinSCP)

Вы можете использовать System.Net.WebClient.DownloadFile(), который поддерживает FTP. Подробности MSDN здесь

Вы можете использовать FTPClient от laedit.net. Он находится под лицензией Apache и прост в использовании.

Он использует FtpWebRequest :

• сначала вам нужно использовать WebRequestMethods.Ftp.ListDirectoryDetails, чтобы получить подробную информацию обо всем списке папки
• для каждого файла вам нужно использовать WebRequestMethods.Ftp.DownloadFile, чтобы загрузить его в локальную папку