İçindekiler:

Sqoop performansımı nasıl iyileştirebilirim?
Sqoop performansımı nasıl iyileştirebilirim?

Video: Sqoop performansımı nasıl iyileştirebilirim?

Video: Sqoop performansımı nasıl iyileştirebilirim?
Video: Apache SQOOP Data Migration POC 2024, Kasım
Anonim

En iyi hale getirmek için verim , Ayarlamak NS daha düşük bir değere eşleme görevleri sayısı NS maksimum bağlantı sayısı NS veritabanı destekler. kontrol NS paralellik miktarı kepçe veri aktarmak için kullanacak NS kontrol etmenin ana yolu NS yüklemek sizin veri tabanı.

Buna bağlı olarak, bir süreç arasında sqoop başarısız olursa ne olur?

Tipik bir kepçe bir kaynak veritabanından HDFS'ye veri alan bir iş, verileri bir hedef dizine kopyalayacaktır. Kopyalanan dosya silinecek sqoop başarısız olursa tamamlamadan.

Bir de sorabilir, sqoop'ta paralelliği nasıl elde edersiniz? kontrol paralellik . kepçe çoğu veritabanı kaynağından verileri paralel olarak içe aktarır. -m veya --num-mappers bağımsız değişkenini kullanarak içe aktarma işlemini gerçekleştirmek için kullanılacak harita görevlerinin (paralel işlemler) sayısını belirtebilirsiniz. Bu argümanların her biri, derecesine karşılık gelen bir tamsayı değeri alır. paralellik istihdam etmek

Sonuç olarak, Hive sorgu performansımı nasıl iyileştirebilirim?

Hive Sorgularını optimize etmek için izleyebileceğimiz uygulamaların listesi aşağıdadır

  1. Kovanda Sıkıştırmayı Etkinleştir.
  2. Birleştirmeleri Optimize Edin.
  3. Kovanda Küresel Sıralamadan Kaçının.
  4. Tez Yürütme Motorunu etkinleştirin.
  5. LIMIT operatörünü optimize edin.
  6. Paralel Yürütmeyi Etkinleştir.
  7. Mapreduce Katı Modunu etkinleştirin.
  8. Çoklu Grup BY için Tekli Azaltma.

Sqoop split nasıl çalışır?

Daha fazla paralellik elde ederek içe aktarma performansını artırmak için kullanılabilir. kepçe yaratır böler -- ile belirtilen tablonun belirli bir sütunundaki değerlere dayalıdır. bölmek - kullanıcı tarafından import komutu ile. Mevcut değilse, giriş tablosunun birincil anahtarı, tabloyu oluşturmak için kullanılır. böler.

Önerilen: