458 	struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_cleanup_task()  local
465 	spin_lock_bh(&tcp_task->queue2pool);  in iscsi_tcp_cleanup_task()
467 	while (kfifo_out(&tcp_task->r2tqueue, (void*)&r2t, sizeof(void*))) {  in iscsi_tcp_cleanup_task()
468 		kfifo_in(&tcp_task->r2tpool.queue, (void*)&r2t,  in iscsi_tcp_cleanup_task()
473 	r2t = tcp_task->r2t;  in iscsi_tcp_cleanup_task()
475 		kfifo_in(&tcp_task->r2tpool.queue, (void*)&r2t,  in iscsi_tcp_cleanup_task()
477 		tcp_task->r2t = NULL;  in iscsi_tcp_cleanup_task()
479 	spin_unlock_bh(&tcp_task->queue2pool);  in iscsi_tcp_cleanup_task()
491 	struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_data_in()  local
506 	if (tcp_task->exp_datasn != datasn) {  in iscsi_tcp_data_in()
508 			      "\n", tcp_task->exp_datasn, datasn);  in iscsi_tcp_data_in()
512 	tcp_task->exp_datasn++;  in iscsi_tcp_data_in()
514 	tcp_task->data_offset = be32_to_cpu(rhdr->offset);  in iscsi_tcp_data_in()
515 	if (tcp_task->data_offset + tcp_conn->in.datalen > total_in_length) {  in iscsi_tcp_data_in()
517 			      "total_length_in(%d)\n", tcp_task->data_offset,  in iscsi_tcp_data_in()
534 	struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_r2t_rsp()  local
550 	if (tcp_task->exp_datasn != r2tsn){  in iscsi_tcp_r2t_rsp()
552 			      tcp_task->exp_datasn, r2tsn);  in iscsi_tcp_r2t_rsp()
587 	spin_lock(&tcp_task->pool2queue);  in iscsi_tcp_r2t_rsp()
588 	rc = kfifo_out(&tcp_task->r2tpool.queue, (void *)&r2t, sizeof(void *));  in iscsi_tcp_r2t_rsp()
593 		spin_unlock(&tcp_task->pool2queue);  in iscsi_tcp_r2t_rsp()
605 	tcp_task->exp_datasn = r2tsn + 1;  in iscsi_tcp_r2t_rsp()
606 	kfifo_in(&tcp_task->r2tqueue, (void*)&r2t, sizeof(void*));  in iscsi_tcp_r2t_rsp()
608 	spin_unlock(&tcp_task->pool2queue);  in iscsi_tcp_r2t_rsp()
693 			struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_hdr_dissect()  local
711 				      tcp_task->data_offset,  in iscsi_tcp_hdr_dissect()
717 						   tcp_task->data_offset,  in iscsi_tcp_hdr_dissect()
965 	struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_task_init()  local
980 	BUG_ON(kfifo_len(&tcp_task->r2tqueue));  in iscsi_tcp_task_init()
981 	tcp_task->exp_datasn = 0;  in iscsi_tcp_task_init()
997 	struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_get_curr_r2t()  local
1003 		spin_lock_bh(&tcp_task->queue2pool);  in iscsi_tcp_get_curr_r2t()
1004 		if (tcp_task->r2t) {  in iscsi_tcp_get_curr_r2t()
1005 			r2t = tcp_task->r2t;  in iscsi_tcp_get_curr_r2t()
1010 				kfifo_in(&tcp_task->r2tpool.queue,  in iscsi_tcp_get_curr_r2t()
1011 					    (void *)&tcp_task->r2t,  in iscsi_tcp_get_curr_r2t()
1013 				tcp_task->r2t = r2t = NULL;  in iscsi_tcp_get_curr_r2t()
1018 			if (kfifo_out(&tcp_task->r2tqueue,  in iscsi_tcp_get_curr_r2t()
1019 			    (void *)&tcp_task->r2t, sizeof(void *)) !=  in iscsi_tcp_get_curr_r2t()
1023 				r2t = tcp_task->r2t;  in iscsi_tcp_get_curr_r2t()
1025 		spin_unlock_bh(&tcp_task->queue2pool);  in iscsi_tcp_get_curr_r2t()
1134 		struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_r2tpool_alloc()  local
1143 		if (iscsi_pool_init(&tcp_task->r2tpool,  in iscsi_tcp_r2tpool_alloc()
1150 		if (kfifo_alloc(&tcp_task->r2tqueue,  in iscsi_tcp_r2tpool_alloc()
1152 			iscsi_pool_free(&tcp_task->r2tpool);  in iscsi_tcp_r2tpool_alloc()
1155 		spin_lock_init(&tcp_task->pool2queue);  in iscsi_tcp_r2tpool_alloc()
1156 		spin_lock_init(&tcp_task->queue2pool);  in iscsi_tcp_r2tpool_alloc()
1164 		struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_r2tpool_alloc()  local
1166 		kfifo_free(&tcp_task->r2tqueue);  in iscsi_tcp_r2tpool_alloc()
1167 		iscsi_pool_free(&tcp_task->r2tpool);  in iscsi_tcp_r2tpool_alloc()
1179 		struct iscsi_tcp_task *tcp_task = task->dd_data;  in iscsi_tcp_r2tpool_free()  local
1181 		kfifo_free(&tcp_task->r2tqueue);  in iscsi_tcp_r2tpool_free()
1182 		iscsi_pool_free(&tcp_task->r2tpool);  in iscsi_tcp_r2tpool_free()