Вопросы

Присвоение во время выполнения Airflow 1.9 приоритетных весов для DagRuns

Я работаю над вариантом использования, в котором я запускаю даги с помощью TriggerDagRunOperator. Идея состоит в том, что в некоторых случаях я хочу назначить приоритеты, а в остальных случаях я хочу, чтобы DAG принимала приоритеты по умолчанию.

Можно ли назначить вес приоритета во время выполнения целевой группе DAG с помощью TriggerDagRunOperator?

PS: Я использую Airflow 1.9.

Да, см. Мой ответ здесь: stackoverflow.com/a/58305943/7343742 Аналогичная проблема, такое же решение.   —  person rishm.msc    schedule 09.10.2019

@trejas этот пост посвящен динамическому созданию задач и дэгов. Я прошу назначить приоритет задачам во время выполнения для TaskInstance.   —  person rishm.msc    schedule 11.10.2019

Не обращайте внимания на мой предыдущий комментарий: обдумывая свой вопрос, это интересно. Я уверен, что ты сможешь это сделать … Как-нибудь попробую на этой неделе. Удалось ли вам это сделать?   —  person rishm.msc    schedule 16.10.2019

Читать:
Указатели на шаблонный класс

Нет еще нет. Но, прочитав больше о планировщике и весах приоритетов, я не уверен, можно ли это сделать в Airflow 1.9.   —  person rishm.msc    schedule 17.10.2019

Пытаюсь решить эту же проблему сам и сталкиваюсь с проблемами. Кажется, priority_weight нельзя заполнить с помощью механизма шаблонов. Я обнаружил, что вы можете создать подкласс оператора и переопределить метод свойства priority_weight_total (который вызывается base_executor при постановке в очередь экземпляров задачи для получения окончательного значения priority). Если бы существовал способ ввести контекст в эту функцию, который мог бы решить проблему, но я не понимаю, как это сделать.   —  person rishm.msc    schedule 19.02.2020

Похожие записи

Python — запрос к базе данных и объединение данных без создания новой таблицы

admin

Как работать над двумя независимыми вещами одновременно, используя ветки git?

admin

Vue — переходная группа не работает с разными типами компонентов

admin

Измените ‘aaa’ из легенды geom_text на соответствующий текст метки

admin

Сбой развертывания Azure Pipeline в службе веб-приложений с отсутствующим обязательным свойством OutputPath

admin

Что эквивалентно tf.nn.softmax_cross_entropy_with_logits в pytorch?

admin