Lines Matching refs:expmask
136 WARN_ON_ONCE(rnp->expmask); in sync_exp_reset_tree()
137 rnp->expmask = rnp->expmaskinit; in sync_exp_reset_tree()
156 READ_ONCE(rnp->expmask) == 0; in sync_rcu_preempt_exp_done()
195 if (!rnp->expmask) in __rcu_report_exp_rnp()
213 WARN_ON_ONCE(!(rnp->expmask & mask)); in __rcu_report_exp_rnp()
214 rnp->expmask &= ~mask; in __rcu_report_exp_rnp()
240 if (!(rnp->expmask & mask)) { in rcu_report_exp_cpu_mult()
244 rnp->expmask &= ~mask; in rcu_report_exp_cpu_mult()
347 for_each_leaf_node_cpu_mask(rnp, cpu, rnp->expmask) { in sync_rcu_exp_select_node_cpus()
363 mask_ofl_ipi = rnp->expmask & ~mask_ofl_test; in sync_rcu_exp_select_node_cpus()
375 for_each_leaf_node_cpu_mask(rnp, cpu, rnp->expmask) { in sync_rcu_exp_select_node_cpus()
399 (rnp->expmask & mask)) { in sync_rcu_exp_select_node_cpus()
407 if (!(rnp->expmask & mask)) in sync_rcu_exp_select_node_cpus()
433 if (!READ_ONCE(rnp->expmask)) in sync_rcu_exp_select_cpus()
494 if (!(rnp->expmask & mask)) in synchronize_sched_expedited_wait()
506 rnp_root->expmask, ".T"[!!rnp_root->exp_tasks]); in synchronize_sched_expedited_wait()
516 rnp->expmask, in synchronize_sched_expedited_wait()
524 if (!(rnp->expmask & mask)) in synchronize_sched_expedited_wait()
639 if (rnp->expmask & rdp->grpmask) { in rcu_exp_handler()
719 if (!(READ_ONCE(rnp->expmask) & rdp->grpmask) || in rcu_exp_handler()
742 if (!(READ_ONCE(rnp->expmask) & rdp->grpmask) || in sync_sched_exp_online_cleanup()