Вопросы по теме 'spark-jdbc'
Обработка огромной таблицы базы данных с помощью Spark
У меня есть огромная таблица базы данных, которая содержит миллионы записей. Каждая запись может обрабатываться изолированно и должна быть преобразована, скажем, в строку.
Итак, я начал осматриваться, и мне было интересно, может ли Spark помочь...
1848 просмотров
schedule
07.06.2023
Сколько подключений к базе данных из Spark при записи фрейма данных?
Я не понимаю, сколько подключений к базе данных будет выполнено Spark в следующем сценарии:
Допустим, у меня есть программа Spark, которая работает только на одном рабочем узле с одним исполнителем, а количество разделов в кадре данных равно 10. Я...
447 просмотров
schedule
13.05.2023
Как подключиться к SQL Server с помощью Pyspark, работающего на GCP, без использования Secure Sockets Layer?
Я пытаюсь подключиться к базе данных SQL Server с помощью PySpark, как показано ниже:
from pyspark.sql import SparkSession
import traceback
def connect_and_read(spark: SparkSession):
url =...
73 просмотров
schedule
12.05.2023