Вопросы по теме 'u-sql'

Контроль распараллеливания
Я запускаю пользовательский процессор в наборе строк, который, похоже, не работает параллельно. Базовый текстовый файл объемом ~ 1 ГБ сначала считывается в таблицу, которая разбита на разделы с помощью циклического перебора. «Извлечение» выполняется...
86 просмотров
schedule 21.01.2023

Запись SQL в запрос U-SQL
Может ли кто-нибудь помочь мне в написании этого ниже SQL на языке U-SQL, используемом в Azure Data Lake. select tt.userId, count(tt.userId) from (SELECT userId,count(userId) as cou FROM [dbo].[users] where createdTime>...
1972 просмотров
schedule 27.10.2022

Каков максимально допустимый размер строки в U-SQL?
при обработке файла CSV я получаю сообщение об ошибке максимального размера строки. «Размер строки превышает максимально допустимый размер».
1859 просмотров
schedule 17.03.2023

Нужно получить n процентов строк в запросе u-sql
Нужна помощь в написании запроса u-sql, чтобы получить первые n процентов строк. У меня есть один набор данных, из которого нужно взять общее количество строк и взять верхние 3% строк из набора данных на основе col1. Код, который я написал:...
679 просмотров
schedule 01.12.2022

Использовать информацию из настраиваемого экстрактора в настраиваемом устройстве вывода
Я реализовал собственный экстрактор для файлов NetCDF, и теперь я пытаюсь реализовать настраиваемый модуль вывода для файлов NetCDF. При извлечении из файлов NetCDF и выводе в них в выходном устройстве мне нужно использовать некоторую структурную...
81 просмотров
schedule 01.02.2023

Как использовать подзапрос в USQL?
Я получаю ошибку компиляции при использовании следующего запроса в u-sql: @CourseDataExcludingUpdatedCourse = SELECT * FROM @CourseData AS cd WHERE cd.CourseID NOT IN (SELECT CourseID FROM @UpdatedCourseData); Это не позволяет мне...
2392 просмотров
schedule 20.11.2022

Пропустить строку по префиксу
Я пытался использовать Azure Data Lake Analytics для анализа большой группы файлов журналов IIS. Пока я могу заставить это работать для одного файла в лучшем случае, используя что-то вроде этого: @results = EXTRACT s_date DateTime,...
62 просмотров
schedule 11.04.2023

Оператор извлечения U-SQL — работа с сотнями столбцов
Есть ли способ в операторе извлечения U-SQL указать только те входные столбцы, которые мне нужны? Я работаю с устаревшей базой данных, которая экспортирует несколько таблиц в csv, содержащую около 200 столбцов. Меня волнуют только 10 из этих полей....
1220 просмотров
schedule 05.05.2023

Поддерживает ли U-SQL извлечение файлов на основе даты создания в ADLS?
Мы знаем, что U-SQL поддерживает сопоставление шаблонов каталогов и имен файлов при извлечении файлов. Что я хотел знать, поддерживает ли он сопоставление с образцом на основе даты создания файла в ADLS (без реализации пользовательских экстракторов)....
728 просмотров
schedule 28.02.2023

Запуск сценария U-SQL из кода C # с фабрикой данных Azure
Я пытаюсь запустить сценарий U-SQL в Azure с помощью кода C #. Все создается в Azure (ADF, связанные службы, конвейеры, наборы данных) после выполнения кода, но сценарий U-SQl не выполняется ADF. Я думаю, что есть проблема с startTime и end Time,...
1483 просмотров

Как подавить возврат строки в U-SQL IProcessor
Я должен подавить возврат строки на основе условия в IProcessor в U-SQL, как указано в документации. Процессор работает с строкой за раз и создает ноль или одну строку. Я не могу понять, что упомянуть в операторе возврата IProcessor для достижения...
74 просмотров
schedule 06.07.2022

Где хранятся базы данных Azure Data Lake Analytics?
Я создал базу данных с некоторыми таблицами с помощью сценария U-SQL, запущенного с помощью инструментов Azure Data Lake для Visual Studio (см. Снимок экрана ниже). Эта база данных хранится в Data Lake Store? Файловая структура, показанная на...
354 просмотров
schedule 22.08.2022

U-SQL Inner Join создает огромный большой файл записи
Все - У меня есть некоторые проблемы с объединением таблиц ADLA и их загрузкой в ​​Azure SQL DW. Я застрял на одном из процессов загрузки и не знаю, как решить эту проблему. У меня есть некоторая информация о покупке, которая, когда я извлекаю...
154 просмотров
schedule 28.02.2023

Граф вершин U-SQL не показывает ROW_COUNT на вершину
Граф вершин U-SQL не показывает ROW_COUNT на вершину по крайней мере с понедельника, 17 апреля. См. рисунок ниже.
54 просмотров
schedule 15.05.2023

u-sql: загрузка файлов в скрипт u-sql
У меня есть тысячи CSV-файлов, содержащих период с января 2016 года по сегодняшний день. Я хочу загрузить все файлы с 25 ноября 2016 года по 02 января 2017 года. Я знаю, что могу использовать виртуальный путь, как показано ниже, но не загрузит ли...
163 просмотров
schedule 04.05.2024

Создание дат в диапазоне дат с помощью U-SQL
Мне нужно заполнить набор строк всеми датами между определенной датой начала и датой окончания. Если моя начальная дата — 19.07.2017, а конечная — 21.07.2017, тогда набор строк должен содержать 19.07.2017, 20.07.2017 и 21.07.2017. Мне было...
945 просмотров
schedule 05.07.2022

DataLake Analytics USQL: не удалось сравнить два элемента в массиве
Я создал базу данных в Data Lake Analytics. Затем заполняется данными из файлов в моем озере данных. Когда я затем запрашиваю таблицу, которую я сделал, у меня есть некоторый успех, но некоторые странные ошибки. (Странно для меня!) Это работает:...
174 просмотров
schedule 03.05.2023

Вложение TVF и запросов USQL дает ужасные результаты
Я «думаю», что эта проблема связана с оптимизацией запросов, которую выполняет Azure Data Lake Analytics; но посмотрим... У меня есть 2 отдельных запроса (TVF), выполняющих агрегацию, а затем окончательный запрос, чтобы объединить 2 вместе для...
147 просмотров
schedule 17.12.2022

Полное извлечение файлов U-SQL (извлечение полного исходного кода из файлов html)
У меня есть куча HTML-файлов в моем Data Lake Store, и я хотел бы получить их полный исходный код в виде таблицы (всего одна колонка с кодом из всех файлов, формат вывода для меня не актуален, но, вероятно, tsv ). Я не могу найти способ использовать...
349 просмотров
schedule 22.05.2024

Как я могу подключиться к Azure Data Lake Analysis с помощью хранилища BLOB-объектов Azure
Привет, я анализирую системный журнал с помощью Azure Data Lake Analysis. И у меня возникла проблема, связанная с подключением хранилища BLOB-объектов из Data Lake Analysis (U-SQL). Этот U-SQL показывает, что прочитанный файл из хранилища...
1095 просмотров