43 static void rxe_cleanup_ports(struct rxe_dev *rxe)  in rxe_cleanup_ports()  argument
45 	kfree(rxe->port.pkey_tbl);  in rxe_cleanup_ports()
46 	rxe->port.pkey_tbl = NULL;  in rxe_cleanup_ports()
53 static void rxe_cleanup(struct rxe_dev *rxe)  in rxe_cleanup()  argument
55 	rxe_pool_cleanup(&rxe->uc_pool);  in rxe_cleanup()
56 	rxe_pool_cleanup(&rxe->pd_pool);  in rxe_cleanup()
57 	rxe_pool_cleanup(&rxe->ah_pool);  in rxe_cleanup()
58 	rxe_pool_cleanup(&rxe->srq_pool);  in rxe_cleanup()
59 	rxe_pool_cleanup(&rxe->qp_pool);  in rxe_cleanup()
60 	rxe_pool_cleanup(&rxe->cq_pool);  in rxe_cleanup()
61 	rxe_pool_cleanup(&rxe->mr_pool);  in rxe_cleanup()
62 	rxe_pool_cleanup(&rxe->mw_pool);  in rxe_cleanup()
63 	rxe_pool_cleanup(&rxe->mc_grp_pool);  in rxe_cleanup()
64 	rxe_pool_cleanup(&rxe->mc_elem_pool);  in rxe_cleanup()
66 	rxe_cleanup_ports(rxe);  in rxe_cleanup()
68 	crypto_free_shash(rxe->tfm);  in rxe_cleanup()
74 	struct rxe_dev *rxe = container_of(kref, struct rxe_dev, ref_cnt);  in rxe_release()  local
76 	rxe_cleanup(rxe);  in rxe_release()
77 	ib_dealloc_device(&rxe->ib_dev);  in rxe_release()
81 static void rxe_init_device_param(struct rxe_dev *rxe)  in rxe_init_device_param()  argument
83 	rxe->max_inline_data			= RXE_MAX_INLINE_DATA;  in rxe_init_device_param()
85 	rxe->attr.fw_ver			= RXE_FW_VER;  in rxe_init_device_param()
86 	rxe->attr.max_mr_size			= RXE_MAX_MR_SIZE;  in rxe_init_device_param()
87 	rxe->attr.page_size_cap			= RXE_PAGE_SIZE_CAP;  in rxe_init_device_param()
88 	rxe->attr.vendor_id			= RXE_VENDOR_ID;  in rxe_init_device_param()
89 	rxe->attr.vendor_part_id		= RXE_VENDOR_PART_ID;  in rxe_init_device_param()
90 	rxe->attr.hw_ver			= RXE_HW_VER;  in rxe_init_device_param()
91 	rxe->attr.max_qp			= RXE_MAX_QP;  in rxe_init_device_param()
92 	rxe->attr.max_qp_wr			= RXE_MAX_QP_WR;  in rxe_init_device_param()
93 	rxe->attr.device_cap_flags		= RXE_DEVICE_CAP_FLAGS;  in rxe_init_device_param()
94 	rxe->attr.max_send_sge			= RXE_MAX_SGE;  in rxe_init_device_param()
95 	rxe->attr.max_recv_sge			= RXE_MAX_SGE;  in rxe_init_device_param()
96 	rxe->attr.max_sge_rd			= RXE_MAX_SGE_RD;  in rxe_init_device_param()
97 	rxe->attr.max_cq			= RXE_MAX_CQ;  in rxe_init_device_param()
98 	rxe->attr.max_cqe			= (1 << RXE_MAX_LOG_CQE) - 1;  in rxe_init_device_param()
99 	rxe->attr.max_mr			= RXE_MAX_MR;  in rxe_init_device_param()
100 	rxe->attr.max_pd			= RXE_MAX_PD;  in rxe_init_device_param()
101 	rxe->attr.max_qp_rd_atom		= RXE_MAX_QP_RD_ATOM;  in rxe_init_device_param()
102 	rxe->attr.max_ee_rd_atom		= RXE_MAX_EE_RD_ATOM;  in rxe_init_device_param()
103 	rxe->attr.max_res_rd_atom		= RXE_MAX_RES_RD_ATOM;  in rxe_init_device_param()
104 	rxe->attr.max_qp_init_rd_atom		= RXE_MAX_QP_INIT_RD_ATOM;  in rxe_init_device_param()
105 	rxe->attr.max_ee_init_rd_atom		= RXE_MAX_EE_INIT_RD_ATOM;  in rxe_init_device_param()
106 	rxe->attr.atomic_cap			= RXE_ATOMIC_CAP;  in rxe_init_device_param()
107 	rxe->attr.max_ee			= RXE_MAX_EE;  in rxe_init_device_param()
108 	rxe->attr.max_rdd			= RXE_MAX_RDD;  in rxe_init_device_param()
109 	rxe->attr.max_mw			= RXE_MAX_MW;  in rxe_init_device_param()
110 	rxe->attr.max_raw_ipv6_qp		= RXE_MAX_RAW_IPV6_QP;  in rxe_init_device_param()
111 	rxe->attr.max_raw_ethy_qp		= RXE_MAX_RAW_ETHY_QP;  in rxe_init_device_param()
112 	rxe->attr.max_mcast_grp			= RXE_MAX_MCAST_GRP;  in rxe_init_device_param()
113 	rxe->attr.max_mcast_qp_attach		= RXE_MAX_MCAST_QP_ATTACH;  in rxe_init_device_param()
114 	rxe->attr.max_total_mcast_qp_attach	= RXE_MAX_TOT_MCAST_QP_ATTACH;  in rxe_init_device_param()
115 	rxe->attr.max_ah			= RXE_MAX_AH;  in rxe_init_device_param()
116 	rxe->attr.max_fmr			= RXE_MAX_FMR;  in rxe_init_device_param()
117 	rxe->attr.max_map_per_fmr		= RXE_MAX_MAP_PER_FMR;  in rxe_init_device_param()
118 	rxe->attr.max_srq			= RXE_MAX_SRQ;  in rxe_init_device_param()
119 	rxe->attr.max_srq_wr			= RXE_MAX_SRQ_WR;  in rxe_init_device_param()
120 	rxe->attr.max_srq_sge			= RXE_MAX_SRQ_SGE;  in rxe_init_device_param()
121 	rxe->attr.max_fast_reg_page_list_len	= RXE_MAX_FMR_PAGE_LIST_LEN;  in rxe_init_device_param()
122 	rxe->attr.max_pkeys			= RXE_MAX_PKEYS;  in rxe_init_device_param()
123 	rxe->attr.local_ca_ack_delay		= RXE_LOCAL_CA_ACK_DELAY;  in rxe_init_device_param()
125 	rxe->max_ucontext			= RXE_MAX_UCONTEXT;  in rxe_init_device_param()
160 static int rxe_init_ports(struct rxe_dev *rxe)  in rxe_init_ports()  argument
162 	struct rxe_port *port = &rxe->port;  in rxe_init_ports()
177 			    rxe->ndev->dev_addr);  in rxe_init_ports()
185 static int rxe_init_pools(struct rxe_dev *rxe)  in rxe_init_pools()  argument
189 	err = rxe_pool_init(rxe, &rxe->uc_pool, RXE_TYPE_UC,  in rxe_init_pools()
190 			    rxe->max_ucontext);  in rxe_init_pools()
194 	err = rxe_pool_init(rxe, &rxe->pd_pool, RXE_TYPE_PD,  in rxe_init_pools()
195 			    rxe->attr.max_pd);  in rxe_init_pools()
199 	err = rxe_pool_init(rxe, &rxe->ah_pool, RXE_TYPE_AH,  in rxe_init_pools()
200 			    rxe->attr.max_ah);  in rxe_init_pools()
204 	err = rxe_pool_init(rxe, &rxe->srq_pool, RXE_TYPE_SRQ,  in rxe_init_pools()
205 			    rxe->attr.max_srq);  in rxe_init_pools()
209 	err = rxe_pool_init(rxe, &rxe->qp_pool, RXE_TYPE_QP,  in rxe_init_pools()
210 			    rxe->attr.max_qp);  in rxe_init_pools()
214 	err = rxe_pool_init(rxe, &rxe->cq_pool, RXE_TYPE_CQ,  in rxe_init_pools()
215 			    rxe->attr.max_cq);  in rxe_init_pools()
219 	err = rxe_pool_init(rxe, &rxe->mr_pool, RXE_TYPE_MR,  in rxe_init_pools()
220 			    rxe->attr.max_mr);  in rxe_init_pools()
224 	err = rxe_pool_init(rxe, &rxe->mw_pool, RXE_TYPE_MW,  in rxe_init_pools()
225 			    rxe->attr.max_mw);  in rxe_init_pools()
229 	err = rxe_pool_init(rxe, &rxe->mc_grp_pool, RXE_TYPE_MC_GRP,  in rxe_init_pools()
230 			    rxe->attr.max_mcast_grp);  in rxe_init_pools()
234 	err = rxe_pool_init(rxe, &rxe->mc_elem_pool, RXE_TYPE_MC_ELEM,  in rxe_init_pools()
235 			    rxe->attr.max_total_mcast_qp_attach);  in rxe_init_pools()
242 	rxe_pool_cleanup(&rxe->mc_grp_pool);  in rxe_init_pools()
244 	rxe_pool_cleanup(&rxe->mw_pool);  in rxe_init_pools()
246 	rxe_pool_cleanup(&rxe->mr_pool);  in rxe_init_pools()
248 	rxe_pool_cleanup(&rxe->cq_pool);  in rxe_init_pools()
250 	rxe_pool_cleanup(&rxe->qp_pool);  in rxe_init_pools()
252 	rxe_pool_cleanup(&rxe->srq_pool);  in rxe_init_pools()
254 	rxe_pool_cleanup(&rxe->ah_pool);  in rxe_init_pools()
256 	rxe_pool_cleanup(&rxe->pd_pool);  in rxe_init_pools()
258 	rxe_pool_cleanup(&rxe->uc_pool);  in rxe_init_pools()
264 static int rxe_init(struct rxe_dev *rxe)  in rxe_init()  argument
269 	rxe_init_device_param(rxe);  in rxe_init()
271 	err = rxe_init_ports(rxe);  in rxe_init()
275 	err = rxe_init_pools(rxe);  in rxe_init()
280 	spin_lock_init(&rxe->mmap_offset_lock);  in rxe_init()
281 	spin_lock_init(&rxe->pending_lock);  in rxe_init()
282 	INIT_LIST_HEAD(&rxe->pending_mmaps);  in rxe_init()
283 	INIT_LIST_HEAD(&rxe->list);  in rxe_init()
285 	mutex_init(&rxe->usdev_lock);  in rxe_init()
290 	rxe_cleanup_ports(rxe);  in rxe_init()
295 void rxe_set_mtu(struct rxe_dev *rxe, unsigned int ndev_mtu)  in rxe_set_mtu()  argument
297 	struct rxe_port *port = &rxe->port;  in rxe_set_mtu()
312 int rxe_add(struct rxe_dev *rxe, unsigned int mtu)  in rxe_add()  argument
316 	kref_init(&rxe->ref_cnt);  in rxe_add()
318 	err = rxe_init(rxe);  in rxe_add()
322 	rxe_set_mtu(rxe, mtu);  in rxe_add()
324 	err = rxe_register_device(rxe);  in rxe_add()
331 	rxe_dev_put(rxe);  in rxe_add()
336 void rxe_remove(struct rxe_dev *rxe)  in rxe_remove()  argument
338 	rxe_unregister_device(rxe);  in rxe_remove()
340 	rxe_dev_put(rxe);  in rxe_remove()