tty: rewrite the ldisc locking
authorAlan Cox <alan@linux.intel.com>
Thu, 11 Jun 2009 11:50:12 +0000 (12:50 +0100)
committerLinus Torvalds <torvalds@linux-foundation.org>
Thu, 11 Jun 2009 15:51:01 +0000 (08:51 -0700)
commitc65c9bc3efa5589f691276bb9db689119a711222
treeccb86ffb28ecafa77623fb2789faae8e4c1e2c4b
parente8b70e7d3e86319a8b2aaabde3866833d92cd80f
tty: rewrite the ldisc locking

There are several pretty much unfixable races in the old ldisc code, especially
with respect to pty behaviour and also to hangup. It's easier to rewrite the
code than simply try and patch it up.

This patch
- splits the ldisc from the tty (so we will be able to refcount it more cleanly
  later)
- introduces a mutex lock for ldisc changing on an active device
- fixes the complete mess that hangup caused
- implements hopefully correct setldisc/close/hangup locking

There are still some problems around pty pairs that have always been there but
at least it is now possible to understand the code and fix further problems.

This fixes the following known bugs
- hang up can leak ldisc references
- hang up may not call open/close on ldisc in a matched way
- pty/tty pairs can deadlock during an ldisc change
- reading the ldisc proc files can cause every ldisc to be loaded

and probably a few other of the mysterious ldisc race reports.

I'm sure it also adds the odd new one.

Signed-off-by: Alan Cox <alan@linux.intel.com>
Signed-off-by: Linus Torvalds <torvalds@linux-foundation.org>
drivers/bluetooth/hci_ldisc.c
drivers/char/cyclades.c
drivers/char/epca.c
drivers/char/ip2/i2lib.c
drivers/char/ip2/ip2main.c
drivers/char/n_hdlc.c
drivers/char/pty.c
drivers/char/selection.c
drivers/char/tty_io.c
drivers/char/tty_ldisc.c
include/linux/tty.h