Lines Matching refs:pt_ops
279 struct pt_alloc_ops pt_ops __initdata;
288 #define pt_ops (*(struct pt_alloc_ops *)XIP_FIXUP(&pt_ops)) macro
464 pte_phys = pt_ops.alloc_pte(va); in create_pmd_mapping()
466 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
470 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
567 next_phys = pt_ops.alloc_pmd(va); in create_pud_mapping()
569 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
573 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
594 next_phys = pt_ops.alloc_pud(va); in create_p4d_mapping()
596 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
600 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
608 pt_ops.alloc_p4d(__va) : (pgtable_l4_enabled ? \
609 pt_ops.alloc_pud(__va) : pt_ops.alloc_pmd(__va)))
611 pt_ops.get_p4d_virt(__pa) : (pgd_next_t *)(pgtable_l4_enabled ? \
612 pt_ops.get_pud_virt(__pa) : (pud_t *)pt_ops.get_pmd_virt(__pa)))
627 #define alloc_pgd_next(__va) pt_ops.alloc_pte(__va)
628 #define get_pgd_next_virt(__pa) pt_ops.get_pte_virt(__pa)
965 pt_ops.alloc_pte = alloc_pte_early; in pt_ops_set_early()
966 pt_ops.get_pte_virt = get_pte_virt_early; in pt_ops_set_early()
968 pt_ops.alloc_pmd = alloc_pmd_early; in pt_ops_set_early()
969 pt_ops.get_pmd_virt = get_pmd_virt_early; in pt_ops_set_early()
970 pt_ops.alloc_pud = alloc_pud_early; in pt_ops_set_early()
971 pt_ops.get_pud_virt = get_pud_virt_early; in pt_ops_set_early()
972 pt_ops.alloc_p4d = alloc_p4d_early; in pt_ops_set_early()
973 pt_ops.get_p4d_virt = get_p4d_virt_early; in pt_ops_set_early()
987 pt_ops.alloc_pte = kernel_mapping_pa_to_va(alloc_pte_fixmap); in pt_ops_set_fixmap()
988 pt_ops.get_pte_virt = kernel_mapping_pa_to_va(get_pte_virt_fixmap); in pt_ops_set_fixmap()
990 pt_ops.alloc_pmd = kernel_mapping_pa_to_va(alloc_pmd_fixmap); in pt_ops_set_fixmap()
991 pt_ops.get_pmd_virt = kernel_mapping_pa_to_va(get_pmd_virt_fixmap); in pt_ops_set_fixmap()
992 pt_ops.alloc_pud = kernel_mapping_pa_to_va(alloc_pud_fixmap); in pt_ops_set_fixmap()
993 pt_ops.get_pud_virt = kernel_mapping_pa_to_va(get_pud_virt_fixmap); in pt_ops_set_fixmap()
994 pt_ops.alloc_p4d = kernel_mapping_pa_to_va(alloc_p4d_fixmap); in pt_ops_set_fixmap()
995 pt_ops.get_p4d_virt = kernel_mapping_pa_to_va(get_p4d_virt_fixmap); in pt_ops_set_fixmap()
1005 pt_ops.alloc_pte = alloc_pte_late; in pt_ops_set_late()
1006 pt_ops.get_pte_virt = get_pte_virt_late; in pt_ops_set_late()
1008 pt_ops.alloc_pmd = alloc_pmd_late; in pt_ops_set_late()
1009 pt_ops.get_pmd_virt = get_pmd_virt_late; in pt_ops_set_late()
1010 pt_ops.alloc_pud = alloc_pud_late; in pt_ops_set_late()
1011 pt_ops.get_pud_virt = get_pud_virt_late; in pt_ops_set_late()
1012 pt_ops.alloc_p4d = alloc_p4d_late; in pt_ops_set_late()
1013 pt_ops.get_p4d_virt = get_p4d_virt_late; in pt_ops_set_late()