1 // SPDX-License-Identifier: GPL-2.0
3  * PCIe host controller driver for Kirin Phone SoCs
30 #include "pcie-designware.h"
32 #define to_kirin_pcie(x) dev_get_drvdata((x)->dev)
34 /* PCIe ELBI registers */
61  * in-board Ethernet adapter and the other two connected to M.2 and mini
84 	/* Per-slot PERST# */
89 	/* Per-slot clkreq */
143 	writel(val, hi3660_pcie_phy->base + reg);  in kirin_apb_phy_writel()
149 	return readl(hi3660_pcie_phy->base + reg);  in kirin_apb_phy_readl()
154 	struct device *dev = phy->dev;  in hi3660_pcie_phy_get_clk()
156 	phy->phy_ref_clk = devm_clk_get(dev, "pcie_phy_ref");  in hi3660_pcie_phy_get_clk()
157 	if (IS_ERR(phy->phy_ref_clk))  in hi3660_pcie_phy_get_clk()
158 		return PTR_ERR(phy->phy_ref_clk);  in hi3660_pcie_phy_get_clk()
160 	phy->aux_clk = devm_clk_get(dev, "pcie_aux");  in hi3660_pcie_phy_get_clk()
161 	if (IS_ERR(phy->aux_clk))  in hi3660_pcie_phy_get_clk()
162 		return PTR_ERR(phy->aux_clk);  in hi3660_pcie_phy_get_clk()
164 	phy->apb_phy_clk = devm_clk_get(dev, "pcie_apb_phy");  in hi3660_pcie_phy_get_clk()
165 	if (IS_ERR(phy->apb_phy_clk))  in hi3660_pcie_phy_get_clk()
166 		return PTR_ERR(phy->apb_phy_clk);  in hi3660_pcie_phy_get_clk()
168 	phy->apb_sys_clk = devm_clk_get(dev, "pcie_apb_sys");  in hi3660_pcie_phy_get_clk()
169 	if (IS_ERR(phy->apb_sys_clk))  in hi3660_pcie_phy_get_clk()
170 		return PTR_ERR(phy->apb_sys_clk);  in hi3660_pcie_phy_get_clk()
172 	phy->aclk = devm_clk_get(dev, "pcie_aclk");  in hi3660_pcie_phy_get_clk()
173 	if (IS_ERR(phy->aclk))  in hi3660_pcie_phy_get_clk()
174 		return PTR_ERR(phy->aclk);  in hi3660_pcie_phy_get_clk()
181 	struct device *dev = phy->dev;  in hi3660_pcie_phy_get_resource()
187 	phy->base = devm_platform_ioremap_resource_byname(pdev, "phy");  in hi3660_pcie_phy_get_resource()
188 	if (IS_ERR(phy->base))  in hi3660_pcie_phy_get_resource()
189 		return PTR_ERR(phy->base);  in hi3660_pcie_phy_get_resource()
191 	phy->crgctrl = syscon_regmap_lookup_by_compatible("hisilicon,hi3660-crgctrl");  in hi3660_pcie_phy_get_resource()
192 	if (IS_ERR(phy->crgctrl))  in hi3660_pcie_phy_get_resource()
193 		return PTR_ERR(phy->crgctrl);  in hi3660_pcie_phy_get_resource()
195 	phy->sysctrl = syscon_regmap_lookup_by_compatible("hisilicon,hi3660-sctrl");  in hi3660_pcie_phy_get_resource()
196 	if (IS_ERR(phy->sysctrl))  in hi3660_pcie_phy_get_resource()
197 		return PTR_ERR(phy->sysctrl);  in hi3660_pcie_phy_get_resource()
204 	struct device *dev = phy->dev;  in hi3660_pcie_phy_start()
224 		return -EINVAL;  in hi3660_pcie_phy_start()
234 	regmap_read(phy->sysctrl, SCTRL_PCIE_OE_OFFSET, &val);  in hi3660_pcie_phy_oe_enable()
237 	regmap_write(phy->sysctrl, SCTRL_PCIE_OE_OFFSET, val);  in hi3660_pcie_phy_oe_enable()
247 	ret = clk_set_rate(phy->phy_ref_clk, REF_CLK_FREQ);  in hi3660_pcie_phy_clk_ctrl()
251 	ret = clk_prepare_enable(phy->phy_ref_clk);  in hi3660_pcie_phy_clk_ctrl()
255 	ret = clk_prepare_enable(phy->apb_sys_clk);  in hi3660_pcie_phy_clk_ctrl()
259 	ret = clk_prepare_enable(phy->apb_phy_clk);  in hi3660_pcie_phy_clk_ctrl()
263 	ret = clk_prepare_enable(phy->aclk);  in hi3660_pcie_phy_clk_ctrl()
267 	ret = clk_prepare_enable(phy->aux_clk);  in hi3660_pcie_phy_clk_ctrl()
274 	clk_disable_unprepare(phy->aux_clk);  in hi3660_pcie_phy_clk_ctrl()
276 	clk_disable_unprepare(phy->aclk);  in hi3660_pcie_phy_clk_ctrl()
278 	clk_disable_unprepare(phy->apb_phy_clk);  in hi3660_pcie_phy_clk_ctrl()
280 	clk_disable_unprepare(phy->apb_sys_clk);  in hi3660_pcie_phy_clk_ctrl()
282 	clk_disable_unprepare(phy->phy_ref_clk);  in hi3660_pcie_phy_clk_ctrl()
287 static int hi3660_pcie_phy_power_on(struct kirin_pcie *pcie)  in hi3660_pcie_phy_power_on()  argument
289 	struct hi3660_pcie_phy *phy = pcie->phy_priv;  in hi3660_pcie_phy_power_on()
293 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
304 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
306 	regmap_write(phy->crgctrl,  in hi3660_pcie_phy_power_on()
308 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
323 				struct kirin_pcie *pcie)  in hi3660_pcie_phy_init()  argument
325 	struct device *dev = &pdev->dev;  in hi3660_pcie_phy_init()
331 		return -ENOMEM;  in hi3660_pcie_phy_init()
333 	pcie->phy_priv = phy;  in hi3660_pcie_phy_init()
334 	phy->dev = dev;  in hi3660_pcie_phy_init()
343 static int hi3660_pcie_phy_power_off(struct kirin_pcie *pcie)  in hi3660_pcie_phy_power_off()  argument
345 	struct hi3660_pcie_phy *phy = pcie->phy_priv;  in hi3660_pcie_phy_power_off()
348 	regmap_write(phy->sysctrl, SCTRL_PCIE_CMOS_OFFSET, 0x00);  in hi3660_pcie_phy_power_off()
356  * The non-PHY part starts here
366 static int kirin_pcie_get_gpio_enable(struct kirin_pcie *pcie,  in kirin_pcie_get_gpio_enable()  argument
369 	struct device *dev = &pdev->dev;  in kirin_pcie_get_gpio_enable()
380 		return -EINVAL;  in kirin_pcie_get_gpio_enable()
383 	pcie->n_gpio_clkreq = ret;  in kirin_pcie_get_gpio_enable()
385 	for (i = 0; i < pcie->n_gpio_clkreq; i++) {  in kirin_pcie_get_gpio_enable()
386 		pcie->gpio_id_clkreq[i] = of_get_named_gpio(dev->of_node,  in kirin_pcie_get_gpio_enable()
387 						    "hisilicon,clken-gpios", i);  in kirin_pcie_get_gpio_enable()
388 		if (pcie->gpio_id_clkreq[i] < 0)  in kirin_pcie_get_gpio_enable()
389 			return pcie->gpio_id_clkreq[i];  in kirin_pcie_get_gpio_enable()
392 		pcie->clkreq_names[i] = devm_kstrdup_const(dev, name,  in kirin_pcie_get_gpio_enable()
394 		if (!pcie->clkreq_names[i])  in kirin_pcie_get_gpio_enable()
395 			return -ENOMEM;  in kirin_pcie_get_gpio_enable()
401 static int kirin_pcie_parse_port(struct kirin_pcie *pcie,  in kirin_pcie_parse_port()  argument
405 	struct device *dev = &pdev->dev;  in kirin_pcie_parse_port()
412 			i = pcie->num_slots;  in kirin_pcie_parse_port()
414 			pcie->gpio_id_reset[i] = of_get_named_gpio(child,  in kirin_pcie_parse_port()
415 							"reset-gpios", 0);  in kirin_pcie_parse_port()
416 			if (pcie->gpio_id_reset[i] < 0)  in kirin_pcie_parse_port()
419 			pcie->num_slots++;  in kirin_pcie_parse_port()
420 			if (pcie->num_slots > MAX_PCI_SLOTS) {  in kirin_pcie_parse_port()
422 				ret = -EINVAL;  in kirin_pcie_parse_port()
435 			pcie->reset_names[i] = devm_kstrdup_const(dev, name,  in kirin_pcie_parse_port()
437 			if (!pcie->reset_names[i]) {  in kirin_pcie_parse_port()
438 				ret = -ENOMEM;  in kirin_pcie_parse_port()
455 	struct device *dev = &pdev->dev;  in kirin_pcie_get_resource()
456 	struct device_node *child, *node = dev->of_node;  in kirin_pcie_get_resource()
464 	kirin_pcie->apb = devm_regmap_init_mmio(dev, apb_base,  in kirin_pcie_get_resource()
466 	if (IS_ERR(kirin_pcie->apb))  in kirin_pcie_get_resource()
467 		return PTR_ERR(kirin_pcie->apb);  in kirin_pcie_get_resource()
469 	/* pcie internal PERST# gpio */  in kirin_pcie_get_resource()
470 	kirin_pcie->gpio_id_dwc_perst = of_get_named_gpio(dev->of_node,  in kirin_pcie_get_resource()
471 							  "reset-gpios", 0);  in kirin_pcie_get_resource()
472 	if (kirin_pcie->gpio_id_dwc_perst == -EPROBE_DEFER) {  in kirin_pcie_get_resource()
473 		return -EPROBE_DEFER;  in kirin_pcie_get_resource()
474 	} else if (!gpio_is_valid(kirin_pcie->gpio_id_dwc_perst)) {  in kirin_pcie_get_resource()
476 		return -ENODEV;  in kirin_pcie_get_resource()
502 	regmap_read(kirin_pcie->apb, SOC_PCIECTRL_CTRL0_ADDR, &val);  in kirin_pcie_sideband_dbi_w_mode()
508 	regmap_write(kirin_pcie->apb, SOC_PCIECTRL_CTRL0_ADDR, val);  in kirin_pcie_sideband_dbi_w_mode()
516 	regmap_read(kirin_pcie->apb, SOC_PCIECTRL_CTRL1_ADDR, &val);  in kirin_pcie_sideband_dbi_r_mode()
522 	regmap_write(kirin_pcie->apb, SOC_PCIECTRL_CTRL1_ADDR, val);  in kirin_pcie_sideband_dbi_r_mode()
528 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_rd_own_conf()
540 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_wr_own_conf()
551 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_add_bus()
555 	if (!kirin_pcie->num_slots)  in kirin_pcie_add_bus()
559 	for (i = 0; i < kirin_pcie->num_slots; i++) {  in kirin_pcie_add_bus()
560 		ret = gpio_direction_output(kirin_pcie->gpio_id_reset[i], 1);  in kirin_pcie_add_bus()
562 			dev_err(pci->dev, "PERST# %s error: %d\n",  in kirin_pcie_add_bus()
563 				kirin_pcie->reset_names[i], ret);  in kirin_pcie_add_bus()
605 	regmap_read(kirin_pcie->apb, PCIE_APB_PHY_STATUS0, &val);  in kirin_pcie_link_up()
617 	regmap_write(kirin_pcie->apb, PCIE_APP_LTSSM_ENABLE,  in kirin_pcie_start_link()
625 	pp->bridge->ops = &kirin_pci_ops;  in kirin_pcie_host_init()
635 	for (i = 0; i < kirin_pcie->num_slots; i++) {  in kirin_pcie_gpio_request()
636 		if (!gpio_is_valid(kirin_pcie->gpio_id_reset[i])) {  in kirin_pcie_gpio_request()
638 				kirin_pcie->reset_names[i]);  in kirin_pcie_gpio_request()
639 			return -ENODEV;  in kirin_pcie_gpio_request()
642 		ret = devm_gpio_request(dev, kirin_pcie->gpio_id_reset[i],  in kirin_pcie_gpio_request()
643 					kirin_pcie->reset_names[i]);  in kirin_pcie_gpio_request()
648 	for (i = 0; i < kirin_pcie->n_gpio_clkreq; i++) {  in kirin_pcie_gpio_request()
649 		if (!gpio_is_valid(kirin_pcie->gpio_id_clkreq[i])) {  in kirin_pcie_gpio_request()
651 				kirin_pcie->clkreq_names[i]);  in kirin_pcie_gpio_request()
652 			return -ENODEV;  in kirin_pcie_gpio_request()
655 		ret = devm_gpio_request(dev, kirin_pcie->gpio_id_clkreq[i],  in kirin_pcie_gpio_request()
656 					kirin_pcie->clkreq_names[i]);  in kirin_pcie_gpio_request()
660 		ret = gpio_direction_output(kirin_pcie->gpio_id_clkreq[i], 0);  in kirin_pcie_gpio_request()
683 	if (kirin_pcie->type == PCIE_KIRIN_INTERNAL_PHY)  in kirin_pcie_power_off()
686 	for (i = 0; i < kirin_pcie->n_gpio_clkreq; i++)  in kirin_pcie_power_off()
687 		gpio_direction_output(kirin_pcie->gpio_id_clkreq[i], 1);  in kirin_pcie_power_off()
689 	phy_power_off(kirin_pcie->phy);  in kirin_pcie_power_off()
690 	phy_exit(kirin_pcie->phy);  in kirin_pcie_power_off()
698 	struct device *dev = &pdev->dev;  in kirin_pcie_power_on()
701 	if (kirin_pcie->type == PCIE_KIRIN_INTERNAL_PHY) {  in kirin_pcie_power_on()
710 		kirin_pcie->phy = devm_of_phy_get(dev, dev->of_node, NULL);  in kirin_pcie_power_on()
711 		if (IS_ERR(kirin_pcie->phy))  in kirin_pcie_power_on()
712 			return PTR_ERR(kirin_pcie->phy);  in kirin_pcie_power_on()
718 		ret = phy_init(kirin_pcie->phy);  in kirin_pcie_power_on()
722 		ret = phy_power_on(kirin_pcie->phy);  in kirin_pcie_power_on()
730 	if (!gpio_request(kirin_pcie->gpio_id_dwc_perst, "pcie_perst_bridge")) {  in kirin_pcie_power_on()
731 		ret = gpio_direction_output(kirin_pcie->gpio_id_dwc_perst, 1);  in kirin_pcie_power_on()
749 	dw_pcie_host_deinit(&kirin_pcie->pci->pp);  in kirin_pcie_remove()
769 	{ .compatible = "hisilicon,kirin960-pcie", .data = &kirin_960_data },
770 	{ .compatible = "hisilicon,kirin970-pcie", .data = &kirin_970_data },
776 	struct device *dev = &pdev->dev;  in kirin_pcie_probe()
782 	if (!dev->of_node) {  in kirin_pcie_probe()
784 		return -EINVAL;  in kirin_pcie_probe()
790 		return -EINVAL;  in kirin_pcie_probe()
795 		return -ENOMEM;  in kirin_pcie_probe()
799 		return -ENOMEM;  in kirin_pcie_probe()
801 	pci->dev = dev;  in kirin_pcie_probe()
802 	pci->ops = &kirin_dw_pcie_ops;  in kirin_pcie_probe()
803 	pci->pp.ops = &kirin_pcie_host_ops;  in kirin_pcie_probe()
804 	kirin_pcie->pci = pci;  in kirin_pcie_probe()
805 	kirin_pcie->type = data->phy_type;  in kirin_pcie_probe()
817 	return dw_pcie_host_init(&pci->pp);  in kirin_pcie_probe()
824 		.name			= "kirin-pcie",
832 MODULE_DESCRIPTION("PCIe host controller driver for Kirin Phone SoCs");