150 	kvfree(md->zwp_offset);  in dm_cleanup_zoned_dev()
151 	md->zwp_offset = NULL;  in dm_cleanup_zoned_dev()
201 		if (!md->zwp_offset) {  in dm_zone_revalidate_cb()
202 			md->zwp_offset =  in dm_zone_revalidate_cb()
205 			if (!md->zwp_offset)  in dm_zone_revalidate_cb()
208 		md->zwp_offset[idx] = dm_get_zone_wp_offset(zone);  in dm_zone_revalidate_cb()
371 	unsigned int zwp_offset = READ_ONCE(md->zwp_offset[zno]);  in dm_zone_map_bio_begin()  local
379 	if (zwp_offset == DM_ZONE_INVALID_WP_OFST) {  in dm_zone_map_bio_begin()
380 		if (dm_update_zone_wp_offset(md, zno, &zwp_offset))  in dm_zone_map_bio_begin()
382 		WRITE_ONCE(md->zwp_offset[zno], zwp_offset);  in dm_zone_map_bio_begin()
392 		if ((clone->bi_iter.bi_sector & (zsectors - 1)) != zwp_offset)  in dm_zone_map_bio_begin()
403 		clone->bi_iter.bi_sector += zwp_offset;  in dm_zone_map_bio_begin()
411 	if (zwp_offset >= zsectors)  in dm_zone_map_bio_begin()
427 	unsigned int zwp_offset = READ_ONCE(md->zwp_offset[zno]);  in dm_zone_map_bio_end()  local
430 	if (zwp_offset == DM_ZONE_INVALID_WP_OFST)  in dm_zone_map_bio_end()
436 		WRITE_ONCE(md->zwp_offset[zno], 0);  in dm_zone_map_bio_end()
439 		WRITE_ONCE(md->zwp_offset[zno],  in dm_zone_map_bio_end()
444 		WRITE_ONCE(md->zwp_offset[zno], zwp_offset + nr_sectors);  in dm_zone_map_bio_end()
455 		WRITE_ONCE(md->zwp_offset[zno], zwp_offset + nr_sectors);  in dm_zone_map_bio_end()
590 	unsigned int zwp_offset;  in dm_zone_endio()  local
631 		WRITE_ONCE(md->zwp_offset[zno], DM_ZONE_INVALID_WP_OFST);  in dm_zone_endio()
637 		zwp_offset = READ_ONCE(md->zwp_offset[zno]);  in dm_zone_endio()
638 		if (WARN_ON_ONCE(zwp_offset < bio_sectors(orig_bio)))  in dm_zone_endio()
639 			WRITE_ONCE(md->zwp_offset[zno],  in dm_zone_endio()
643 				zwp_offset - bio_sectors(orig_bio);  in dm_zone_endio()