Вопросы по теме 'spark-jdbc'

Обработка огромной таблицы базы данных с помощью Spark
У меня есть огромная таблица базы данных, которая содержит миллионы записей. Каждая запись может обрабатываться изолированно и должна быть преобразована, скажем, в строку. Итак, я начал осматриваться, и мне было интересно, может ли Spark помочь...
1848 просмотров
schedule 07.06.2023

Сколько подключений к базе данных из Spark при записи фрейма данных?
Я не понимаю, сколько подключений к базе данных будет выполнено Spark в следующем сценарии: Допустим, у меня есть программа Spark, которая работает только на одном рабочем узле с одним исполнителем, а количество разделов в кадре данных равно 10. Я...
447 просмотров

Как подключиться к SQL Server с помощью Pyspark, работающего на GCP, без использования Secure Sockets Layer?
Я пытаюсь подключиться к базе данных SQL Server с помощью PySpark, как показано ниже: from pyspark.sql import SparkSession import traceback def connect_and_read(spark: SparkSession): url =...
73 просмотров