Lines Matching refs:pt_ops

272 struct pt_alloc_ops pt_ops __initdata;
287 #define pt_ops (*(struct pt_alloc_ops *)XIP_FIXUP(&pt_ops)) macro
468 pte_phys = pt_ops.alloc_pte(va); in create_pmd_mapping()
470 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
474 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
571 next_phys = pt_ops.alloc_pmd(va); in create_pud_mapping()
573 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
577 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
598 next_phys = pt_ops.alloc_pud(va); in create_p4d_mapping()
600 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
604 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
612 pt_ops.alloc_p4d(__va) : (pgtable_l4_enabled ? \
613 pt_ops.alloc_pud(__va) : pt_ops.alloc_pmd(__va)))
615 pt_ops.get_p4d_virt(__pa) : (pgd_next_t *)(pgtable_l4_enabled ? \
616 pt_ops.get_pud_virt(__pa) : (pud_t *)pt_ops.get_pmd_virt(__pa)))
634 #define alloc_pgd_next(__va) pt_ops.alloc_pte(__va)
635 #define get_pgd_next_virt(__pa) pt_ops.get_pte_virt(__pa)
907 pt_ops.alloc_pte = alloc_pte_early; in pt_ops_set_early()
908 pt_ops.get_pte_virt = get_pte_virt_early; in pt_ops_set_early()
910 pt_ops.alloc_pmd = alloc_pmd_early; in pt_ops_set_early()
911 pt_ops.get_pmd_virt = get_pmd_virt_early; in pt_ops_set_early()
912 pt_ops.alloc_pud = alloc_pud_early; in pt_ops_set_early()
913 pt_ops.get_pud_virt = get_pud_virt_early; in pt_ops_set_early()
914 pt_ops.alloc_p4d = alloc_p4d_early; in pt_ops_set_early()
915 pt_ops.get_p4d_virt = get_p4d_virt_early; in pt_ops_set_early()
929 pt_ops.alloc_pte = kernel_mapping_pa_to_va((uintptr_t)alloc_pte_fixmap); in pt_ops_set_fixmap()
930 pt_ops.get_pte_virt = kernel_mapping_pa_to_va((uintptr_t)get_pte_virt_fixmap); in pt_ops_set_fixmap()
932 pt_ops.alloc_pmd = kernel_mapping_pa_to_va((uintptr_t)alloc_pmd_fixmap); in pt_ops_set_fixmap()
933 pt_ops.get_pmd_virt = kernel_mapping_pa_to_va((uintptr_t)get_pmd_virt_fixmap); in pt_ops_set_fixmap()
934 pt_ops.alloc_pud = kernel_mapping_pa_to_va((uintptr_t)alloc_pud_fixmap); in pt_ops_set_fixmap()
935 pt_ops.get_pud_virt = kernel_mapping_pa_to_va((uintptr_t)get_pud_virt_fixmap); in pt_ops_set_fixmap()
936 pt_ops.alloc_p4d = kernel_mapping_pa_to_va((uintptr_t)alloc_p4d_fixmap); in pt_ops_set_fixmap()
937 pt_ops.get_p4d_virt = kernel_mapping_pa_to_va((uintptr_t)get_p4d_virt_fixmap); in pt_ops_set_fixmap()
947 pt_ops.alloc_pte = alloc_pte_late; in pt_ops_set_late()
948 pt_ops.get_pte_virt = get_pte_virt_late; in pt_ops_set_late()
950 pt_ops.alloc_pmd = alloc_pmd_late; in pt_ops_set_late()
951 pt_ops.get_pmd_virt = get_pmd_virt_late; in pt_ops_set_late()
952 pt_ops.alloc_pud = alloc_pud_late; in pt_ops_set_late()
953 pt_ops.get_pud_virt = get_pud_virt_late; in pt_ops_set_late()
954 pt_ops.alloc_p4d = alloc_p4d_late; in pt_ops_set_late()
955 pt_ops.get_p4d_virt = get_p4d_virt_late; in pt_ops_set_late()