33 	struct io_cancel_data *cd = data;  in io_cancel_cb()  local
35 	if (req->ctx != cd->ctx)  in io_cancel_cb()
37 	if (cd->flags & IORING_ASYNC_CANCEL_ANY) {  in io_cancel_cb()
39 	} else if (cd->flags & IORING_ASYNC_CANCEL_FD) {  in io_cancel_cb()
40 		if (req->file != cd->file)  in io_cancel_cb()
43 		if (req->cqe.user_data != cd->data)  in io_cancel_cb()
46 	if (cd->flags & (IORING_ASYNC_CANCEL_ALL|IORING_ASYNC_CANCEL_ANY)) {  in io_cancel_cb()
47 		if (cd->seq == req->work.cancel_seq)  in io_cancel_cb()
49 		req->work.cancel_seq = cd->seq;  in io_cancel_cb()
55 			       struct io_cancel_data *cd)  in io_async_cancel_one()  argument
64 	all = cd->flags & (IORING_ASYNC_CANCEL_ALL|IORING_ASYNC_CANCEL_ANY);  in io_async_cancel_one()
65 	cancel_ret = io_wq_cancel_cb(tctx->io_wq, io_cancel_cb, cd, all);  in io_async_cancel_one()
81 int io_try_cancel(struct io_uring_task *tctx, struct io_cancel_data *cd,  in io_try_cancel()  argument
84 	struct io_ring_ctx *ctx = cd->ctx;  in io_try_cancel()
89 	ret = io_async_cancel_one(tctx, cd);  in io_try_cancel()
97 	ret = io_poll_cancel(ctx, cd, issue_flags);  in io_try_cancel()
102 	if (!(cd->flags & IORING_ASYNC_CANCEL_FD))  in io_try_cancel()
103 		ret = io_timeout_cancel(ctx, cd);  in io_try_cancel()
130 static int __io_async_cancel(struct io_cancel_data *cd,  in __io_async_cancel()  argument
134 	bool all = cd->flags & (IORING_ASYNC_CANCEL_ALL|IORING_ASYNC_CANCEL_ANY);  in __io_async_cancel()
135 	struct io_ring_ctx *ctx = cd->ctx;  in __io_async_cancel()
140 		ret = io_try_cancel(tctx, cd, issue_flags);  in __io_async_cancel()
154 		ret = io_async_cancel_one(tctx, cd);  in __io_async_cancel()
168 	struct io_cancel_data cd = {  in io_async_cancel()  local
177 	if (cd.flags & IORING_ASYNC_CANCEL_FD) {  in io_async_cancel()
179 		    cd.flags & IORING_ASYNC_CANCEL_FD_FIXED) {  in io_async_cancel()
190 		cd.file = req->file;  in io_async_cancel()
193 	ret = __io_async_cancel(&cd, tctx, issue_flags);  in io_async_cancel()
212 			    struct io_cancel_data *cd, int fd)  in __io_sync_cancel()  argument
214 	struct io_ring_ctx *ctx = cd->ctx;  in __io_sync_cancel()
217 	if ((cd->flags & IORING_ASYNC_CANCEL_FD) &&  in __io_sync_cancel()
218 	    (cd->flags & IORING_ASYNC_CANCEL_FD_FIXED)) {  in __io_sync_cancel()
225 		cd->file = (struct file *) (file_ptr & FFS_MASK);  in __io_sync_cancel()
226 		if (!cd->file)  in __io_sync_cancel()
230 	return __io_async_cancel(cd, tctx, 0);  in __io_sync_cancel()
236 	struct io_cancel_data cd = {  in io_sync_cancel()  local
253 	cd.data = sc.addr;  in io_sync_cancel()
254 	cd.flags = sc.flags;  in io_sync_cancel()
257 	if ((cd.flags & IORING_ASYNC_CANCEL_FD) &&  in io_sync_cancel()
258 	   !(cd.flags & IORING_ASYNC_CANCEL_FD_FIXED)) {  in io_sync_cancel()
262 		cd.file = f.file;  in io_sync_cancel()
265 	ret = __io_sync_cancel(current->io_uring, &cd, sc.fd);  in io_sync_cancel()
285 		cd.seq = atomic_inc_return(&ctx->cancel_seq);  in io_sync_cancel()
289 		ret = __io_sync_cancel(current->io_uring, &cd, sc.fd);  in io_sync_cancel()