89 # define set_pud(pudp, pud)		native_set_pud(pudp, pud)  argument
93 #define pud_clear(pud)			native_pud_clear(pud)  argument
148 static inline int pud_dirty(pud_t pud)  in pud_dirty()  argument
150 	return pud_flags(pud) & _PAGE_DIRTY;  in pud_dirty()
153 static inline int pud_young(pud_t pud)  in pud_young()  argument
155 	return pud_flags(pud) & _PAGE_ACCESSED;  in pud_young()
201 static inline unsigned long pud_pfn(pud_t pud)  in pud_pfn()  argument
203 	phys_addr_t pfn = pud_val(pud);  in pud_pfn()
205 	return (pfn & pud_pfn_mask(pud)) >> PAGE_SHIFT;  in pud_pfn()
241 static inline int pud_trans_huge(pud_t pud)  in pud_trans_huge()  argument
243 	return (pud_val(pud) & (_PAGE_PSE|_PAGE_DEVMAP)) == _PAGE_PSE;  in pud_trans_huge()
260 static inline int pud_devmap(pud_t pud)  in pud_devmap()  argument
262 	return !!(pud_val(pud) & _PAGE_DEVMAP);  in pud_devmap()
265 static inline int pud_devmap(pud_t pud)  in pud_devmap()  argument
445 static inline pud_t pud_set_flags(pud_t pud, pudval_t set)  in pud_set_flags()  argument
447 	pudval_t v = native_pud_val(pud);  in pud_set_flags()
452 static inline pud_t pud_clear_flags(pud_t pud, pudval_t clear)  in pud_clear_flags()  argument
454 	pudval_t v = native_pud_val(pud);  in pud_clear_flags()
459 static inline pud_t pud_mkold(pud_t pud)  in pud_mkold()  argument
461 	return pud_clear_flags(pud, _PAGE_ACCESSED);  in pud_mkold()
464 static inline pud_t pud_mkclean(pud_t pud)  in pud_mkclean()  argument
466 	return pud_clear_flags(pud, _PAGE_DIRTY);  in pud_mkclean()
469 static inline pud_t pud_wrprotect(pud_t pud)  in pud_wrprotect()  argument
471 	return pud_clear_flags(pud, _PAGE_RW);  in pud_wrprotect()
474 static inline pud_t pud_mkdirty(pud_t pud)  in pud_mkdirty()  argument
476 	return pud_set_flags(pud, _PAGE_DIRTY | _PAGE_SOFT_DIRTY);  in pud_mkdirty()
479 static inline pud_t pud_mkdevmap(pud_t pud)  in pud_mkdevmap()  argument
481 	return pud_set_flags(pud, _PAGE_DEVMAP);  in pud_mkdevmap()
484 static inline pud_t pud_mkhuge(pud_t pud)  in pud_mkhuge()  argument
486 	return pud_set_flags(pud, _PAGE_PSE);  in pud_mkhuge()
489 static inline pud_t pud_mkyoung(pud_t pud)  in pud_mkyoung()  argument
491 	return pud_set_flags(pud, _PAGE_ACCESSED);  in pud_mkyoung()
494 static inline pud_t pud_mkwrite(pud_t pud)  in pud_mkwrite()  argument
496 	return pud_set_flags(pud, _PAGE_RW);  in pud_mkwrite()
510 static inline int pud_soft_dirty(pud_t pud)  in pud_soft_dirty()  argument
512 	return pud_flags(pud) & _PAGE_SOFT_DIRTY;  in pud_soft_dirty()
525 static inline pud_t pud_mksoft_dirty(pud_t pud)  in pud_mksoft_dirty()  argument
527 	return pud_set_flags(pud, _PAGE_SOFT_DIRTY);  in pud_mksoft_dirty()
540 static inline pud_t pud_clear_soft_dirty(pud_t pud)  in pud_clear_soft_dirty()  argument
542 	return pud_clear_flags(pud, _PAGE_SOFT_DIRTY);  in pud_clear_soft_dirty()
829 static inline int pud_none(pud_t pud)  in pud_none()  argument
831 	return (native_pud_val(pud) & ~(_PAGE_KNL_ERRATUM_MASK)) == 0;  in pud_none()
834 static inline int pud_present(pud_t pud)  in pud_present()  argument
836 	return pud_flags(pud) & _PAGE_PRESENT;  in pud_present()
839 static inline pmd_t *pud_pgtable(pud_t pud)  in pud_pgtable()  argument
841 	return (pmd_t *)__va(pud_val(pud) & pud_pfn_mask(pud));  in pud_pgtable()
848 #define pud_page(pud)	pfn_to_page(pud_pfn(pud))  argument
851 static inline int pud_large(pud_t pud)  in pud_large()  argument
853 	return (pud_val(pud) & (_PAGE_PSE | _PAGE_PRESENT)) ==  in pud_large()
857 static inline int pud_bad(pud_t pud)  in pud_bad()  argument
859 	return (pud_flags(pud) & ~(_KERNPG_TABLE | _PAGE_USER)) != 0;  in pud_bad()
863 static inline int pud_large(pud_t pud)  in pud_large()  argument
1021 			      pud_t *pudp, pud_t pud)  in set_pud_at()  argument
1023 	page_table_check_pud_set(mm, addr, pudp, pud);  in set_pud_at()
1024 	native_set_pud(pudp, pud);  in set_pud_at()
1128 	pud_t pud = native_pudp_get_and_clear(pudp);  in pudp_huge_get_and_clear()  local
1130 	page_table_check_pud_clear(mm, addr, pud);  in pudp_huge_get_and_clear()
1132 	return pud;  in pudp_huge_get_and_clear()
1143 static inline int pud_write(pud_t pud)  in pud_write()  argument
1145 	return pud_flags(pud) & _PAGE_RW;  in pud_write()
1283 		unsigned long addr, pud_t *pud)  in update_mmu_cache_pud()  argument
1423 static inline bool pud_access_permitted(pud_t pud, bool write)  in pud_access_permitted()  argument
1425 	return __pte_access_permitted(pud_val(pud), write);  in pud_access_permitted()
1461 static inline bool pud_user_accessible_page(pud_t pud)  in pud_user_accessible_page()  argument
1463 	return pud_leaf(pud) && (pud_val(pud) & _PAGE_PRESENT) && (pud_val(pud) & _PAGE_USER);  in pud_user_accessible_page()