[S390] convert some assembler to C.
[safe/jmp/linux-2.6] / drivers / s390 / cio / cio.c
1 /*
2  *  drivers/s390/cio/cio.c
3  *   S/390 common I/O routines -- low level i/o calls
4  *
5  *    Copyright (C) 1999-2002 IBM Deutschland Entwicklung GmbH,
6  *                            IBM Corporation
7  *    Author(s): Ingo Adlung (adlung@de.ibm.com)
8  *               Cornelia Huck (cornelia.huck@de.ibm.com)
9  *               Arnd Bergmann (arndb@de.ibm.com)
10  *               Martin Schwidefsky (schwidefsky@de.ibm.com)
11  */
12
13 #include <linux/module.h>
14 #include <linux/init.h>
15 #include <linux/slab.h>
16 #include <linux/device.h>
17 #include <linux/kernel_stat.h>
18 #include <linux/interrupt.h>
19 #include <asm/cio.h>
20 #include <asm/delay.h>
21 #include <asm/irq.h>
22 #include <asm/setup.h>
23 #include "airq.h"
24 #include "cio.h"
25 #include "css.h"
26 #include "chsc.h"
27 #include "ioasm.h"
28 #include "blacklist.h"
29 #include "cio_debug.h"
30
31 debug_info_t *cio_debug_msg_id;
32 debug_info_t *cio_debug_trace_id;
33 debug_info_t *cio_debug_crw_id;
34
35 int cio_show_msg;
36
37 static int __init
38 cio_setup (char *parm)
39 {
40         if (!strcmp (parm, "yes"))
41                 cio_show_msg = 1;
42         else if (!strcmp (parm, "no"))
43                 cio_show_msg = 0;
44         else
45                 printk (KERN_ERR "cio_setup : invalid cio_msg parameter '%s'",
46                         parm);
47         return 1;
48 }
49
50 __setup ("cio_msg=", cio_setup);
51
52 /*
53  * Function: cio_debug_init
54  * Initializes three debug logs (under /proc/s390dbf) for common I/O:
55  * - cio_msg logs the messages which are printk'ed when CONFIG_DEBUG_IO is on
56  * - cio_trace logs the calling of different functions
57  * - cio_crw logs the messages which are printk'ed when CONFIG_DEBUG_CRW is on
58  * debug levels depend on CONFIG_DEBUG_IO resp. CONFIG_DEBUG_CRW
59  */
60 static int __init
61 cio_debug_init (void)
62 {
63         cio_debug_msg_id = debug_register ("cio_msg", 16, 4, 16*sizeof (long));
64         if (!cio_debug_msg_id)
65                 goto out_unregister;
66         debug_register_view (cio_debug_msg_id, &debug_sprintf_view);
67         debug_set_level (cio_debug_msg_id, 2);
68         cio_debug_trace_id = debug_register ("cio_trace", 16, 4, 16);
69         if (!cio_debug_trace_id)
70                 goto out_unregister;
71         debug_register_view (cio_debug_trace_id, &debug_hex_ascii_view);
72         debug_set_level (cio_debug_trace_id, 2);
73         cio_debug_crw_id = debug_register ("cio_crw", 4, 4, 16*sizeof (long));
74         if (!cio_debug_crw_id)
75                 goto out_unregister;
76         debug_register_view (cio_debug_crw_id, &debug_sprintf_view);
77         debug_set_level (cio_debug_crw_id, 2);
78         pr_debug("debugging initialized\n");
79         return 0;
80
81 out_unregister:
82         if (cio_debug_msg_id)
83                 debug_unregister (cio_debug_msg_id);
84         if (cio_debug_trace_id)
85                 debug_unregister (cio_debug_trace_id);
86         if (cio_debug_crw_id)
87                 debug_unregister (cio_debug_crw_id);
88         pr_debug("could not initialize debugging\n");
89         return -1;
90 }
91
92 arch_initcall (cio_debug_init);
93
94 int
95 cio_set_options (struct subchannel *sch, int flags)
96 {
97        sch->options.suspend = (flags & DOIO_ALLOW_SUSPEND) != 0;
98        sch->options.prefetch = (flags & DOIO_DENY_PREFETCH) != 0;
99        sch->options.inter = (flags & DOIO_SUPPRESS_INTER) != 0;
100        return 0;
101 }
102
103 /* FIXME: who wants to use this? */
104 int
105 cio_get_options (struct subchannel *sch)
106 {
107        int flags;
108
109        flags = 0;
110        if (sch->options.suspend)
111                 flags |= DOIO_ALLOW_SUSPEND;
112        if (sch->options.prefetch)
113                 flags |= DOIO_DENY_PREFETCH;
114        if (sch->options.inter)
115                 flags |= DOIO_SUPPRESS_INTER;
116        return flags;
117 }
118
119 /*
120  * Use tpi to get a pending interrupt, call the interrupt handler and
121  * return a pointer to the subchannel structure.
122  */
123 static inline int
124 cio_tpi(void)
125 {
126         struct tpi_info *tpi_info;
127         struct subchannel *sch;
128         struct irb *irb;
129
130         tpi_info = (struct tpi_info *) __LC_SUBCHANNEL_ID;
131         if (tpi (NULL) != 1)
132                 return 0;
133         irb = (struct irb *) __LC_IRB;
134         /* Store interrupt response block to lowcore. */
135         if (tsch (tpi_info->schid, irb) != 0)
136                 /* Not status pending or not operational. */
137                 return 1;
138         sch = (struct subchannel *)(unsigned long)tpi_info->intparm;
139         if (!sch)
140                 return 1;
141         local_bh_disable();
142         irq_enter ();
143         spin_lock(&sch->lock);
144         memcpy (&sch->schib.scsw, &irb->scsw, sizeof (struct scsw));
145         if (sch->driver && sch->driver->irq)
146                 sch->driver->irq(&sch->dev);
147         spin_unlock(&sch->lock);
148         irq_exit ();
149         _local_bh_enable();
150         return 1;
151 }
152
153 static inline int
154 cio_start_handle_notoper(struct subchannel *sch, __u8 lpm)
155 {
156         char dbf_text[15];
157
158         if (lpm != 0)
159                 sch->lpm &= ~lpm;
160         else
161                 sch->lpm = 0;
162
163         stsch (sch->schid, &sch->schib);
164
165         CIO_MSG_EVENT(0, "cio_start: 'not oper' status for "
166                       "subchannel 0.%x.%04x!\n", sch->schid.ssid,
167                       sch->schid.sch_no);
168         sprintf(dbf_text, "no%s", sch->dev.bus_id);
169         CIO_TRACE_EVENT(0, dbf_text);
170         CIO_HEX_EVENT(0, &sch->schib, sizeof (struct schib));
171
172         return (sch->lpm ? -EACCES : -ENODEV);
173 }
174
175 int
176 cio_start_key (struct subchannel *sch,  /* subchannel structure */
177                struct ccw1 * cpa,       /* logical channel prog addr */
178                __u8 lpm,                /* logical path mask */
179                __u8 key)                /* storage key */
180 {
181         char dbf_txt[15];
182         int ccode;
183
184         CIO_TRACE_EVENT (4, "stIO");
185         CIO_TRACE_EVENT (4, sch->dev.bus_id);
186
187         /* sch is always under 2G. */
188         sch->orb.intparm = (__u32)(unsigned long)sch;
189         sch->orb.fmt = 1;
190
191         sch->orb.pfch = sch->options.prefetch == 0;
192         sch->orb.spnd = sch->options.suspend;
193         sch->orb.ssic = sch->options.suspend && sch->options.inter;
194         sch->orb.lpm = (lpm != 0) ? (lpm & sch->opm) : sch->lpm;
195 #ifdef CONFIG_64BIT
196         /*
197          * for 64 bit we always support 64 bit IDAWs with 4k page size only
198          */
199         sch->orb.c64 = 1;
200         sch->orb.i2k = 0;
201 #endif
202         sch->orb.key = key >> 4;
203         /* issue "Start Subchannel" */
204         sch->orb.cpa = (__u32) __pa (cpa);
205         ccode = ssch (sch->schid, &sch->orb);
206
207         /* process condition code */
208         sprintf (dbf_txt, "ccode:%d", ccode);
209         CIO_TRACE_EVENT (4, dbf_txt);
210
211         switch (ccode) {
212         case 0:
213                 /*
214                  * initialize device status information
215                  */
216                 sch->schib.scsw.actl |= SCSW_ACTL_START_PEND;
217                 return 0;
218         case 1:         /* status pending */
219         case 2:         /* busy */
220                 return -EBUSY;
221         default:                /* device/path not operational */
222                 return cio_start_handle_notoper(sch, lpm);
223         }
224 }
225
226 int
227 cio_start (struct subchannel *sch, struct ccw1 *cpa, __u8 lpm)
228 {
229         return cio_start_key(sch, cpa, lpm, PAGE_DEFAULT_KEY);
230 }
231
232 /*
233  * resume suspended I/O operation
234  */
235 int
236 cio_resume (struct subchannel *sch)
237 {
238         char dbf_txt[15];
239         int ccode;
240
241         CIO_TRACE_EVENT (4, "resIO");
242         CIO_TRACE_EVENT (4, sch->dev.bus_id);
243
244         ccode = rsch (sch->schid);
245
246         sprintf (dbf_txt, "ccode:%d", ccode);
247         CIO_TRACE_EVENT (4, dbf_txt);
248
249         switch (ccode) {
250         case 0:
251                 sch->schib.scsw.actl |= SCSW_ACTL_RESUME_PEND;
252                 return 0;
253         case 1:
254                 return -EBUSY;
255         case 2:
256                 return -EINVAL;
257         default:
258                 /*
259                  * useless to wait for request completion
260                  *  as device is no longer operational !
261                  */
262                 return -ENODEV;
263         }
264 }
265
266 /*
267  * halt I/O operation
268  */
269 int
270 cio_halt(struct subchannel *sch)
271 {
272         char dbf_txt[15];
273         int ccode;
274
275         if (!sch)
276                 return -ENODEV;
277
278         CIO_TRACE_EVENT (2, "haltIO");
279         CIO_TRACE_EVENT (2, sch->dev.bus_id);
280
281         /*
282          * Issue "Halt subchannel" and process condition code
283          */
284         ccode = hsch (sch->schid);
285
286         sprintf (dbf_txt, "ccode:%d", ccode);
287         CIO_TRACE_EVENT (2, dbf_txt);
288
289         switch (ccode) {
290         case 0:
291                 sch->schib.scsw.actl |= SCSW_ACTL_HALT_PEND;
292                 return 0;
293         case 1:         /* status pending */
294         case 2:         /* busy */
295                 return -EBUSY;
296         default:                /* device not operational */
297                 return -ENODEV;
298         }
299 }
300
301 /*
302  * Clear I/O operation
303  */
304 int
305 cio_clear(struct subchannel *sch)
306 {
307         char dbf_txt[15];
308         int ccode;
309
310         if (!sch)
311                 return -ENODEV;
312
313         CIO_TRACE_EVENT (2, "clearIO");
314         CIO_TRACE_EVENT (2, sch->dev.bus_id);
315
316         /*
317          * Issue "Clear subchannel" and process condition code
318          */
319         ccode = csch (sch->schid);
320
321         sprintf (dbf_txt, "ccode:%d", ccode);
322         CIO_TRACE_EVENT (2, dbf_txt);
323
324         switch (ccode) {
325         case 0:
326                 sch->schib.scsw.actl |= SCSW_ACTL_CLEAR_PEND;
327                 return 0;
328         default:                /* device not operational */
329                 return -ENODEV;
330         }
331 }
332
333 /*
334  * Function: cio_cancel
335  * Issues a "Cancel Subchannel" on the specified subchannel
336  * Note: We don't need any fancy intparms and flags here
337  *       since xsch is executed synchronously.
338  * Only for common I/O internal use as for now.
339  */
340 int
341 cio_cancel (struct subchannel *sch)
342 {
343         char dbf_txt[15];
344         int ccode;
345
346         if (!sch)
347                 return -ENODEV;
348
349         CIO_TRACE_EVENT (2, "cancelIO");
350         CIO_TRACE_EVENT (2, sch->dev.bus_id);
351
352         ccode = xsch (sch->schid);
353
354         sprintf (dbf_txt, "ccode:%d", ccode);
355         CIO_TRACE_EVENT (2, dbf_txt);
356
357         switch (ccode) {
358         case 0:         /* success */
359                 /* Update information in scsw. */
360                 stsch (sch->schid, &sch->schib);
361                 return 0;
362         case 1:         /* status pending */
363                 return -EBUSY;
364         case 2:         /* not applicable */
365                 return -EINVAL;
366         default:        /* not oper */
367                 return -ENODEV;
368         }
369 }
370
371 /*
372  * Function: cio_modify
373  * Issues a "Modify Subchannel" on the specified subchannel
374  */
375 int
376 cio_modify (struct subchannel *sch)
377 {
378         int ccode, retry, ret;
379
380         ret = 0;
381         for (retry = 0; retry < 5; retry++) {
382                 ccode = msch_err (sch->schid, &sch->schib);
383                 if (ccode < 0)  /* -EIO if msch gets a program check. */
384                         return ccode;
385                 switch (ccode) {
386                 case 0: /* successfull */
387                         return 0;
388                 case 1: /* status pending */
389                         return -EBUSY;
390                 case 2: /* busy */
391                         udelay (100);   /* allow for recovery */
392                         ret = -EBUSY;
393                         break;
394                 case 3: /* not operational */
395                         return -ENODEV;
396                 }
397         }
398         return ret;
399 }
400
401 /*
402  * Enable subchannel.
403  */
404 int
405 cio_enable_subchannel (struct subchannel *sch, unsigned int isc)
406 {
407         char dbf_txt[15];
408         int ccode;
409         int retry;
410         int ret;
411
412         CIO_TRACE_EVENT (2, "ensch");
413         CIO_TRACE_EVENT (2, sch->dev.bus_id);
414
415         ccode = stsch (sch->schid, &sch->schib);
416         if (ccode)
417                 return -ENODEV;
418
419         for (retry = 5, ret = 0; retry > 0; retry--) {
420                 sch->schib.pmcw.ena = 1;
421                 sch->schib.pmcw.isc = isc;
422                 sch->schib.pmcw.intparm = (__u32)(unsigned long)sch;
423                 ret = cio_modify(sch);
424                 if (ret == -ENODEV)
425                         break;
426                 if (ret == -EIO)
427                         /*
428                          * Got a program check in cio_modify. Try without
429                          * the concurrent sense bit the next time.
430                          */
431                         sch->schib.pmcw.csense = 0;
432                 if (ret == 0) {
433                         stsch (sch->schid, &sch->schib);
434                         if (sch->schib.pmcw.ena)
435                                 break;
436                 }
437                 if (ret == -EBUSY) {
438                         struct irb irb;
439                         if (tsch(sch->schid, &irb) != 0)
440                                 break;
441                 }
442         }
443         sprintf (dbf_txt, "ret:%d", ret);
444         CIO_TRACE_EVENT (2, dbf_txt);
445         return ret;
446 }
447
448 /*
449  * Disable subchannel.
450  */
451 int
452 cio_disable_subchannel (struct subchannel *sch)
453 {
454         char dbf_txt[15];
455         int ccode;
456         int retry;
457         int ret;
458
459         CIO_TRACE_EVENT (2, "dissch");
460         CIO_TRACE_EVENT (2, sch->dev.bus_id);
461
462         ccode = stsch (sch->schid, &sch->schib);
463         if (ccode == 3)         /* Not operational. */
464                 return -ENODEV;
465
466         if (sch->schib.scsw.actl != 0)
467                 /*
468                  * the disable function must not be called while there are
469                  *  requests pending for completion !
470                  */
471                 return -EBUSY;
472
473         for (retry = 5, ret = 0; retry > 0; retry--) {
474                 sch->schib.pmcw.ena = 0;
475                 ret = cio_modify(sch);
476                 if (ret == -ENODEV)
477                         break;
478                 if (ret == -EBUSY)
479                         /*
480                          * The subchannel is busy or status pending.
481                          * We'll disable when the next interrupt was delivered
482                          * via the state machine.
483                          */
484                         break;
485                 if (ret == 0) {
486                         stsch (sch->schid, &sch->schib);
487                         if (!sch->schib.pmcw.ena)
488                                 break;
489                 }
490         }
491         sprintf (dbf_txt, "ret:%d", ret);
492         CIO_TRACE_EVENT (2, dbf_txt);
493         return ret;
494 }
495
496 /*
497  * cio_validate_subchannel()
498  *
499  * Find out subchannel type and initialize struct subchannel.
500  * Return codes:
501  *   SUBCHANNEL_TYPE_IO for a normal io subchannel
502  *   SUBCHANNEL_TYPE_CHSC for a chsc subchannel
503  *   SUBCHANNEL_TYPE_MESSAGE for a messaging subchannel
504  *   SUBCHANNEL_TYPE_ADM for a adm(?) subchannel
505  *   -ENXIO for non-defined subchannels
506  *   -ENODEV for subchannels with invalid device number or blacklisted devices
507  */
508 int
509 cio_validate_subchannel (struct subchannel *sch, struct subchannel_id schid)
510 {
511         char dbf_txt[15];
512         int ccode;
513
514         sprintf (dbf_txt, "valsch%x", schid.sch_no);
515         CIO_TRACE_EVENT (4, dbf_txt);
516
517         /* Nuke all fields. */
518         memset(sch, 0, sizeof(struct subchannel));
519
520         spin_lock_init(&sch->lock);
521         mutex_init(&sch->reg_mutex);
522
523         /* Set a name for the subchannel */
524         snprintf (sch->dev.bus_id, BUS_ID_SIZE, "0.%x.%04x", schid.ssid,
525                   schid.sch_no);
526
527         /*
528          * The first subchannel that is not-operational (ccode==3)
529          *  indicates that there aren't any more devices available.
530          * If stsch gets an exception, it means the current subchannel set
531          *  is not valid.
532          */
533         ccode = stsch_err (schid, &sch->schib);
534         if (ccode)
535                 return (ccode == 3) ? -ENXIO : ccode;
536
537         sch->schid = schid;
538         /* Copy subchannel type from path management control word. */
539         sch->st = sch->schib.pmcw.st;
540
541         /*
542          * ... just being curious we check for non I/O subchannels
543          */
544         if (sch->st != 0) {
545                 CIO_DEBUG(KERN_INFO, 0,
546                           "Subchannel 0.%x.%04x reports "
547                           "non-I/O subchannel type %04X\n",
548                           sch->schid.ssid, sch->schid.sch_no, sch->st);
549                 /* We stop here for non-io subchannels. */
550                 return sch->st;
551         }
552
553         /* Initialization for io subchannels. */
554         if (!sch->schib.pmcw.dnv)
555                 /* io subchannel but device number is invalid. */
556                 return -ENODEV;
557
558         /* Devno is valid. */
559         if (is_blacklisted (sch->schid.ssid, sch->schib.pmcw.dev)) {
560                 /*
561                  * This device must not be known to Linux. So we simply
562                  * say that there is no device and return ENODEV.
563                  */
564                 CIO_MSG_EVENT(0, "Blacklisted device detected "
565                               "at devno %04X, subchannel set %x\n",
566                               sch->schib.pmcw.dev, sch->schid.ssid);
567                 return -ENODEV;
568         }
569         sch->opm = 0xff;
570         if (!cio_is_console(sch->schid))
571                 chsc_validate_chpids(sch);
572         sch->lpm = sch->schib.pmcw.pim &
573                 sch->schib.pmcw.pam &
574                 sch->schib.pmcw.pom &
575                 sch->opm;
576
577         CIO_DEBUG(KERN_INFO, 0,
578                   "Detected device %04x on subchannel 0.%x.%04X"
579                   " - PIM = %02X, PAM = %02X, POM = %02X\n",
580                   sch->schib.pmcw.dev, sch->schid.ssid,
581                   sch->schid.sch_no, sch->schib.pmcw.pim,
582                   sch->schib.pmcw.pam, sch->schib.pmcw.pom);
583
584         /*
585          * We now have to initially ...
586          *  ... set "interruption subclass"
587          *  ... enable "concurrent sense"
588          *  ... enable "multipath mode" if more than one
589          *        CHPID is available. This is done regardless
590          *        whether multiple paths are available for us.
591          */
592         sch->schib.pmcw.isc = 3;        /* could be smth. else */
593         sch->schib.pmcw.csense = 1;     /* concurrent sense */
594         sch->schib.pmcw.ena = 0;
595         if ((sch->lpm & (sch->lpm - 1)) != 0)
596                 sch->schib.pmcw.mp = 1; /* multipath mode */
597         return 0;
598 }
599
600 /*
601  * do_IRQ() handles all normal I/O device IRQ's (the special
602  *          SMP cross-CPU interrupts have their own specific
603  *          handlers).
604  *
605  */
606 void
607 do_IRQ (struct pt_regs *regs)
608 {
609         struct tpi_info *tpi_info;
610         struct subchannel *sch;
611         struct irb *irb;
612
613         irq_enter ();
614         asm volatile ("mc 0,0");
615         if (S390_lowcore.int_clock >= S390_lowcore.jiffy_timer)
616                 /**
617                  * Make sure that the i/o interrupt did not "overtake"
618                  * the last HZ timer interrupt.
619                  */
620                 account_ticks(regs);
621         /*
622          * Get interrupt information from lowcore
623          */
624         tpi_info = (struct tpi_info *) __LC_SUBCHANNEL_ID;
625         irb = (struct irb *) __LC_IRB;
626         do {
627                 kstat_cpu(smp_processor_id()).irqs[IO_INTERRUPT]++;
628                 /*
629                  * Non I/O-subchannel thin interrupts are processed differently
630                  */
631                 if (tpi_info->adapter_IO == 1 &&
632                     tpi_info->int_type == IO_INTERRUPT_TYPE) {
633                         do_adapter_IO();
634                         continue;
635                 }
636                 sch = (struct subchannel *)(unsigned long)tpi_info->intparm;
637                 if (sch)
638                         spin_lock(&sch->lock);
639                 /* Store interrupt response block to lowcore. */
640                 if (tsch (tpi_info->schid, irb) == 0 && sch) {
641                         /* Keep subchannel information word up to date. */
642                         memcpy (&sch->schib.scsw, &irb->scsw,
643                                 sizeof (irb->scsw));
644                         /* Call interrupt handler if there is one. */
645                         if (sch->driver && sch->driver->irq)
646                                 sch->driver->irq(&sch->dev);
647                 }
648                 if (sch)
649                         spin_unlock(&sch->lock);
650                 /*
651                  * Are more interrupts pending?
652                  * If so, the tpi instruction will update the lowcore
653                  * to hold the info for the next interrupt.
654                  * We don't do this for VM because a tpi drops the cpu
655                  * out of the sie which costs more cycles than it saves.
656                  */
657         } while (!MACHINE_IS_VM && tpi (NULL) != 0);
658         irq_exit ();
659 }
660
661 #ifdef CONFIG_CCW_CONSOLE
662 static struct subchannel console_subchannel;
663 static int console_subchannel_in_use;
664
665 /*
666  * busy wait for the next interrupt on the console
667  */
668 void
669 wait_cons_dev (void)
670 {
671         unsigned long cr6      __attribute__ ((aligned (8)));
672         unsigned long save_cr6 __attribute__ ((aligned (8)));
673
674         /* 
675          * before entering the spinlock we may already have
676          * processed the interrupt on a different CPU...
677          */
678         if (!console_subchannel_in_use)
679                 return;
680
681         /* disable all but isc 7 (console device) */
682         __ctl_store (save_cr6, 6, 6);
683         cr6 = 0x01000000;
684         __ctl_load (cr6, 6, 6);
685
686         do {
687                 spin_unlock(&console_subchannel.lock);
688                 if (!cio_tpi())
689                         cpu_relax();
690                 spin_lock(&console_subchannel.lock);
691         } while (console_subchannel.schib.scsw.actl != 0);
692         /*
693          * restore previous isc value
694          */
695         __ctl_load (save_cr6, 6, 6);
696 }
697
698 static int
699 cio_test_for_console(struct subchannel_id schid, void *data)
700 {
701         if (stsch_err(schid, &console_subchannel.schib) != 0)
702                 return -ENXIO;
703         if (console_subchannel.schib.pmcw.dnv &&
704             console_subchannel.schib.pmcw.dev ==
705             console_devno) {
706                 console_irq = schid.sch_no;
707                 return 1; /* found */
708         }
709         return 0;
710 }
711
712
713 static int
714 cio_get_console_sch_no(void)
715 {
716         struct subchannel_id schid;
717         
718         init_subchannel_id(&schid);
719         if (console_irq != -1) {
720                 /* VM provided us with the irq number of the console. */
721                 schid.sch_no = console_irq;
722                 if (stsch(schid, &console_subchannel.schib) != 0 ||
723                     !console_subchannel.schib.pmcw.dnv)
724                         return -1;
725                 console_devno = console_subchannel.schib.pmcw.dev;
726         } else if (console_devno != -1) {
727                 /* At least the console device number is known. */
728                 for_each_subchannel(cio_test_for_console, NULL);
729                 if (console_irq == -1)
730                         return -1;
731         } else {
732                 /* unlike in 2.4, we cannot autoprobe here, since
733                  * the channel subsystem is not fully initialized.
734                  * With some luck, the HWC console can take over */
735                 printk(KERN_WARNING "No ccw console found!\n");
736                 return -1;
737         }
738         return console_irq;
739 }
740
741 struct subchannel *
742 cio_probe_console(void)
743 {
744         int sch_no, ret;
745         struct subchannel_id schid;
746
747         if (xchg(&console_subchannel_in_use, 1) != 0)
748                 return ERR_PTR(-EBUSY);
749         sch_no = cio_get_console_sch_no();
750         if (sch_no == -1) {
751                 console_subchannel_in_use = 0;
752                 return ERR_PTR(-ENODEV);
753         }
754         memset(&console_subchannel, 0, sizeof(struct subchannel));
755         init_subchannel_id(&schid);
756         schid.sch_no = sch_no;
757         ret = cio_validate_subchannel(&console_subchannel, schid);
758         if (ret) {
759                 console_subchannel_in_use = 0;
760                 return ERR_PTR(-ENODEV);
761         }
762
763         /*
764          * enable console I/O-interrupt subclass 7
765          */
766         ctl_set_bit(6, 24);
767         console_subchannel.schib.pmcw.isc = 7;
768         console_subchannel.schib.pmcw.intparm =
769                 (__u32)(unsigned long)&console_subchannel;
770         ret = cio_modify(&console_subchannel);
771         if (ret) {
772                 console_subchannel_in_use = 0;
773                 return ERR_PTR(ret);
774         }
775         return &console_subchannel;
776 }
777
778 void
779 cio_release_console(void)
780 {
781         console_subchannel.schib.pmcw.intparm = 0;
782         cio_modify(&console_subchannel);
783         ctl_clear_bit(6, 24);
784         console_subchannel_in_use = 0;
785 }
786
787 /* Bah... hack to catch console special sausages. */
788 int
789 cio_is_console(struct subchannel_id schid)
790 {
791         if (!console_subchannel_in_use)
792                 return 0;
793         return schid_equal(&schid, &console_subchannel.schid);
794 }
795
796 struct subchannel *
797 cio_get_console_subchannel(void)
798 {
799         if (!console_subchannel_in_use)
800                 return NULL;
801         return &console_subchannel;
802 }
803
804 #endif
805 static inline int
806 __disable_subchannel_easy(struct subchannel_id schid, struct schib *schib)
807 {
808         int retry, cc;
809
810         cc = 0;
811         for (retry=0;retry<3;retry++) {
812                 schib->pmcw.ena = 0;
813                 cc = msch(schid, schib);
814                 if (cc)
815                         return (cc==3?-ENODEV:-EBUSY);
816                 stsch(schid, schib);
817                 if (!schib->pmcw.ena)
818                         return 0;
819         }
820         return -EBUSY; /* uhm... */
821 }
822
823 static inline int
824 __clear_subchannel_easy(struct subchannel_id schid)
825 {
826         int retry;
827
828         if (csch(schid))
829                 return -ENODEV;
830         for (retry=0;retry<20;retry++) {
831                 struct tpi_info ti;
832
833                 if (tpi(&ti)) {
834                         tsch(ti.schid, (struct irb *)__LC_IRB);
835                         if (schid_equal(&ti.schid, &schid))
836                                 return 0;
837                 }
838                 udelay(100);
839         }
840         return -EBUSY;
841 }
842
843 struct sch_match_id {
844         struct subchannel_id schid;
845         struct ccw_dev_id devid;
846         int rc;
847 };
848
849 static int __shutdown_subchannel_easy_and_match(struct subchannel_id schid,
850         void *data)
851 {
852         struct schib schib;
853         struct sch_match_id *match_id = data;
854
855         if (stsch_err(schid, &schib))
856                 return -ENXIO;
857         if (match_id && schib.pmcw.dnv &&
858                 (schib.pmcw.dev == match_id->devid.devno) &&
859                 (schid.ssid == match_id->devid.ssid)) {
860                 match_id->schid = schid;
861                 match_id->rc = 0;
862         }
863         if (!schib.pmcw.ena)
864                 return 0;
865         switch(__disable_subchannel_easy(schid, &schib)) {
866         case 0:
867         case -ENODEV:
868                 break;
869         default: /* -EBUSY */
870                 if (__clear_subchannel_easy(schid))
871                         break; /* give up... */
872                 stsch(schid, &schib);
873                 __disable_subchannel_easy(schid, &schib);
874         }
875         return 0;
876 }
877
878 static int clear_all_subchannels_and_match(struct ccw_dev_id *devid,
879         struct subchannel_id *schid)
880 {
881         struct sch_match_id match_id;
882
883         match_id.devid = *devid;
884         match_id.rc = -ENODEV;
885         local_irq_disable();
886         for_each_subchannel(__shutdown_subchannel_easy_and_match, &match_id);
887         if (match_id.rc == 0)
888                 *schid = match_id.schid;
889         return match_id.rc;
890 }
891
892
893 void clear_all_subchannels(void)
894 {
895         local_irq_disable();
896         for_each_subchannel(__shutdown_subchannel_easy_and_match, NULL);
897 }
898
899 extern void do_reipl_asm(__u32 schid);
900
901 /* Make sure all subchannels are quiet before we re-ipl an lpar. */
902 void reipl_ccw_dev(struct ccw_dev_id *devid)
903 {
904         struct subchannel_id schid;
905
906         if (clear_all_subchannels_and_match(devid, &schid))
907                 panic("IPL Device not found\n");
908         cio_reset_channel_paths();
909         do_reipl_asm(*((__u32*)&schid));
910 }
911
912 extern struct schib ipl_schib;
913
914 /*
915  * ipl_save_parameters gets called very early. It is not allowed to access
916  * anything in the bss section at all. The bss section is not cleared yet,
917  * but may contain some ipl parameters written by the firmware.
918  * These parameters (if present) are copied to 0x2000.
919  * To avoid corruption of the ipl parameters, all variables used by this
920  * function must reside on the stack or in the data section.
921  */
922 void ipl_save_parameters(void)
923 {
924         struct subchannel_id schid;
925         unsigned int *ipl_ptr;
926         void *src, *dst;
927
928         schid = *(struct subchannel_id *)__LC_SUBCHANNEL_ID;
929         if (!schid.one)
930                 return;
931         if (stsch(schid, &ipl_schib))
932                 return;
933         if (!ipl_schib.pmcw.dnv)
934                 return;
935         ipl_devno = ipl_schib.pmcw.dev;
936         ipl_flags |= IPL_DEVNO_VALID;
937         if (!ipl_schib.pmcw.qf)
938                 return;
939         ipl_flags |= IPL_PARMBLOCK_VALID;
940         ipl_ptr = (unsigned int *)__LC_IPL_PARMBLOCK_PTR;
941         src = (void *)(unsigned long)*ipl_ptr;
942         dst = (void *)IPL_PARMBLOCK_ORIGIN;
943         memmove(dst, src, PAGE_SIZE);
944         *ipl_ptr = IPL_PARMBLOCK_ORIGIN;
945 }