Remote Engineのパフォーマンス向上のためアーティファクトのクリーンアップを自動化 - Cloud

Talend Remote Engineユーザーガイド (Windows)

Version
Cloud
Language
日本語
Operating system
Windows
Product
Talend Cloud
Module
Talend Remote Engine
Content
インストールとアップグレード
ジョブデザインと開発
Last publication date
2024-02-23

Remote Engineを有効にし、不要なアーティファクトを定期的かつ自動的に削除してストレージの空き容量を確保します。

タスクがローカルのRemote Engineリポジトリーのアーティファクトを使用するのはデプロイ時だけなので、このクリーンアップは進行中のタスクの実行には影響しません。タスク関連のアーティファクトはタスクの初回実行時にこのローカルリポジトリーにダウンロードされます。ダウンロードされたアーティファクトはその後、同じタスクの後続の実行で再利用されます。

お使いのアンチウイルスシステムのセキュリティレベルが最高に設定されていると、自動クリーンアッププロセスに支障をきたす(一時ファイルの削除が妨げられるなどの)可能性があります。この問題を解決するためには、アンチウイルスソフトのセキュリティレベルを下げると効果的です。

注: 複数のRemote Engineをデプロイの説明にあるように、Remote Engineの各インスタンスにTalendJobServersFilesフォルダーが個別に存在することを確認します。

手順

  1. <RemoteEngineInstallationDirectory>/etc/org.talend.ipaas.rt.deployment.agent.cfgファイルを開いて編集します。
  2. 以下のパラメーターを設定します:
    • local.maven.clean.interval.days: 0を超える値を入力すると自動クリーンアップが有効になります。
      例:
      local.maven.clean.interval.days=2
      後続のクリーンアップは2日に一度実行されます。
      注: エンジンのペアリング失敗につながるため、パラメーター値の末尾にスペースがないことを確認してください。
    • local.maven.clean.max.gb.size: Remote Engineの<RemoteEngineInstallationDirectory>/data/m2/actionsに保存されるアーティファクトに割り当てられる最大サイズ(GB)を指定します。
      例:
      local.maven.clean.max.gb.size=8
      保存されているすべてのアーティファクトの合計が8GBを超える場合、スケジュールされたクリーンアップサービスが開始されると、このサービスは最終実行時間が保存期間を超えている最古のアーティファクトを合計サイズが8GB以下になるまで削除します。
    • local.maven.clean.older.than.days: アーティファクトなどの保存期間。
      local.maven.clean.older.than.days=3

      4日間続くと予想される進行中のタスクがある場合、この例にある3日間の保持期間はこのタスクに影響しません。

    アーティファクトの削除は以下の条件がどちらも満たされた場合のみ行われます。
    • 保存されているアーティファクトの合計サイズが指定された制限値を超えている。
    • 古いアーティファクトの最終実行時間が指定された保存期間を超えている。

      アーティファクトは、関連するタスクが初めて実行された時のみローカルのRemote Engineリポジトリーにダウンロードされます。その後、このアーティファクトは同じタスクの後続の実行で再利用され、その最終実行日時はアップデートされます。

  3. ファイルを保存します。

タスクの結果

スケジュールされたクリーンアップが実行されるたびに、ログメッセージが返されます。このメッセージは次のように始まります。
Remote Engine m2 artifacts cleanup performed:
アーティファクトが削除されなかったとこのメッセージに表示された場合は、サイズ制限を小さくするか保存期間を短くすることを検討する必要があります。
注: この自動クリーンアップでは、<RemoteEngineInstallationDirectory>/TalendJobServersFiles/archiveJobs/フォルダーと\data\tmp\フォルダーにファイルを削除しません。
  • <RemoteEngineInstallationDirectory>/TalendJobServersFiles/archiveJobs/に保存されている追加の依存ファイル(さまざまなバージョンのlog4jファイルなど)
  • Karaf関連の一時ファイルは\data\tmp\に保存されていますが、KarafがRemote Engineと共に実行が停止すると自動的に削除されます。