Вопросы по теме 'doparallel'
doParallel и foreach не могут распараллелить операцию слияния
Я пытаюсь объединить большой data.frame с маленьким и распараллелить вычисления. Код ниже работает идеально, максимально используя все ядра моей машины:
len <- 2000000
set.seed(666)
dat = paste(sample(letters, len, rep = T), sample(0:9, len,...
756 просмотров
schedule
06.02.2023
Подключение ROracle на рабочих узлах // Автоматическая отчетность с R Markdown
Я столкнулся с несколькими явными проблемами, пытаясь ускорить автоматическое создание отчетов для большого набора данных. Я использую R + markdown -> HTML для создания отчета и перебираю ~ 10K отдельных группировок для отчета, обращающегося к данным...
290 просмотров
schedule
04.12.2022
Параллельная обработка в R с использованием пакета doParallel
У меня есть цикл, который повторяется от 2 до указанного значения (т. е. columnCount). Значение i имеет решающее значение, поскольку все вычисления, происходящие внутри цикла, зависят от значения i.
Фрагмент цикла:
>...
274 просмотров
schedule
18.04.2023
doParallel (пакет) foreach не работает для больших итераций в R
Я запускаю следующий код (извлеченный из виньетки doParallel ) на ПК (ОС Linux) с 4 и 8 физическими и логическими ядрами соответственно.
Запустив код с iter=1e+6 или меньше, все в порядке, и я вижу по загрузке ЦП, что все ядра используются для...
6645 просмотров
schedule
17.03.2024
Запустите RSelenium параллельно
Как мне запустить RSelenium параллельно?
Ниже приведен пример параллельного использования rvest .
library(RSelenium)
library(rvest)
library(magrittr)
library(foreach)
library(doParallel)
URLsPar <- c("http://www.example.com/",...
1551 просмотров
schedule
10.02.2023
Оптимизация вложенных допаров foreach в R
Я хотел бы получить информацию о том, как устроен мой код ниже. Хотелось бы знать, нужно ли его организовать по-другому, чтобы выполнять быстрее. В частности, нужно ли мне по-разному использовать foreach и dopar во вложенных циклах. В настоящее...
1494 просмотров
schedule
02.08.2022
Стандартный вывод не получен внутри цикла foreach
Я использую doParallel для довольно долгой параллельной обработки с foreach . В отличие от большинства примеров, которые я вижу, где в цикл подается код с интенсивными вычислениями, но легкий ввод, я использую foreach для координации...
814 просмотров
schedule
12.11.2022
Использование foreach в определении функции и использование foreach для записи в файл
У меня возникают трудности с распараллеливанием R для оптимизации скорости вызовов функций при записи в файл. Функция проста, но файлы, которые она создает, огромны и занимают неоправданно много времени. Я использовал profvis, чтобы визуализировать,...
474 просмотров
schedule
12.12.2022
Параллельная обработка в R Shiny, вызов скрипта Python
Я пытаюсь выполнить параллельную обработку в R Shiny, параллельная задача, которую я хочу выполнить, - это вызов скрипта Python. Однако он не работает и не может вернуть результат из Python в R. Ниже приведен пример кода R Shiny и Python....
1171 просмотров
schedule
01.02.2023
R future, doSNOW, parallel и foreach для асинхронного выполнения
Я изо всех сил пытаюсь выбрать правильный пакет для параллельного асинхронного выполнения скриптов внешними программами с R (скрипт R также предоставляет входные данные и агрегирует выходные данные), я знаю о четырех популярных пакетах: future,...
377 просмотров
schedule
29.12.2022
FBM() из bigstatsr неправильно вычисляет матрицу при использовании параллельного foreach, как это происходит, когда код выполняется в простом цикле for.
Мне нужно оценить Матрицу перехода. Поскольку у меня много данных, я попытался запустить их параллельно, используя foreach , и я попробовал функцию общей памяти FBM() из bigstatsr . И похоже, что функция не всегда возвращает правильный...
191 просмотров
schedule
01.10.2022
doParallel аварийно завершает работу на компьютере с Windows10 с ошибкой unserialize(socklist[[n]])
Я пытаюсь прочитать NetCDF, а затем выполнить растровую обработку и преобразовать их в определенный формат с помощью пакета R doParallel. Я привожу здесь только короткую воспроизводимую версию с использованием данных из растрового пакета. Этот...
242 просмотров
schedule
15.05.2022
Несогласованные результаты dist() foreach
У меня есть данные примерно в следующем формате, но они очень большие, но разбиты на группы с использованием класса и переменной uniqueId. Где каждое местоположение представляет собой пару строк (x, y).
df <-
data.frame(
x = c(1, 2, 3,...
41 просмотров
schedule
25.07.2022
цикл foreach становится неактивным для больших итераций в R
У меня есть входной CSV-файл с 4500 строками. Каждая строка имеет уникальный идентификатор, и для каждой строки я должен прочитать некоторые данные, выполнить некоторые вычисления и записать результат в файл csv, чтобы в моем каталоге вывода было...
378 просмотров
schedule
20.11.2022
объект не найден в цикле foreach
Я запускаю модели векторной авторегрессии в R, используя библиотеку vars , и я хочу использовать функцию foreach для параллельного запуска моделей, но это приводит к ошибке:
Error in { : task 1 failed - "object 'exogen.train' not...
644 просмотров
schedule
26.12.2022