block: cfq: make the io contect sharing lockless
authorJens Axboe <jens.axboe@oracle.com>
Thu, 24 Jan 2008 07:44:49 +0000 (08:44 +0100)
committerJens Axboe <jens.axboe@oracle.com>
Mon, 28 Jan 2008 09:50:33 +0000 (10:50 +0100)
commit4ac845a2e9a816ed5a7b301f56dcc0a3d0b1ba4d
tree602f15808d0f3dcdfcd7cc4491b2cc2ccd266fd2
parent66dac98ed0de7a1125fb0dd7907f238f6b9d2f60
block: cfq: make the io contect sharing lockless

The io context sharing introduced a per-ioc spinlock, that would protect
the cfq io context lookup. That is a regression from the original, since
we never needed any locking there because the ioc/cic were process private.

The cic lookup is changed from an rbtree construct to a radix tree, which
we can then use RCU to make the reader side lockless. That is the performance
critical path, modifying the radix tree is only done on process creation
(when that process first does IO, actually) and on process exit (if that
process has done IO).

As it so happens, radix trees are also much faster for this type of
lookup where the key is a pointer. It's a very sparse tree.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>
block/cfq-iosched.c
block/ll_rw_blk.c
include/linux/iocontext.h