pciehp: Fix interrupt event handlig
[safe/jmp/linux-2.6] / drivers / pci / hotplug / pciehp_hpc.c
1 /*
2  * PCI Express PCI Hot Plug Driver
3  *
4  * Copyright (C) 1995,2001 Compaq Computer Corporation
5  * Copyright (C) 2001 Greg Kroah-Hartman (greg@kroah.com)
6  * Copyright (C) 2001 IBM Corp.
7  * Copyright (C) 2003-2004 Intel Corporation
8  *
9  * All rights reserved.
10  *
11  * This program is free software; you can redistribute it and/or modify
12  * it under the terms of the GNU General Public License as published by
13  * the Free Software Foundation; either version 2 of the License, or (at
14  * your option) any later version.
15  *
16  * This program is distributed in the hope that it will be useful, but
17  * WITHOUT ANY WARRANTY; without even the implied warranty of
18  * MERCHANTABILITY OR FITNESS FOR A PARTICULAR PURPOSE, GOOD TITLE or
19  * NON INFRINGEMENT.  See the GNU General Public License for more
20  * details.
21  *
22  * You should have received a copy of the GNU General Public License
23  * along with this program; if not, write to the Free Software
24  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
25  *
26  * Send feedback to <greg@kroah.com>,<kristen.c.accardi@intel.com>
27  *
28  */
29
30 #include <linux/kernel.h>
31 #include <linux/module.h>
32 #include <linux/types.h>
33 #include <linux/signal.h>
34 #include <linux/jiffies.h>
35 #include <linux/timer.h>
36 #include <linux/pci.h>
37 #include <linux/interrupt.h>
38 #include <linux/time.h>
39
40 #include "../pci.h"
41 #include "pciehp.h"
42
43 static atomic_t pciehp_num_controllers = ATOMIC_INIT(0);
44
45 struct ctrl_reg {
46         u8 cap_id;
47         u8 nxt_ptr;
48         u16 cap_reg;
49         u32 dev_cap;
50         u16 dev_ctrl;
51         u16 dev_status;
52         u32 lnk_cap;
53         u16 lnk_ctrl;
54         u16 lnk_status;
55         u32 slot_cap;
56         u16 slot_ctrl;
57         u16 slot_status;
58         u16 root_ctrl;
59         u16 rsvp;
60         u32 root_status;
61 } __attribute__ ((packed));
62
63 /* offsets to the controller registers based on the above structure layout */
64 enum ctrl_offsets {
65         PCIECAPID       =       offsetof(struct ctrl_reg, cap_id),
66         NXTCAPPTR       =       offsetof(struct ctrl_reg, nxt_ptr),
67         CAPREG          =       offsetof(struct ctrl_reg, cap_reg),
68         DEVCAP          =       offsetof(struct ctrl_reg, dev_cap),
69         DEVCTRL         =       offsetof(struct ctrl_reg, dev_ctrl),
70         DEVSTATUS       =       offsetof(struct ctrl_reg, dev_status),
71         LNKCAP          =       offsetof(struct ctrl_reg, lnk_cap),
72         LNKCTRL         =       offsetof(struct ctrl_reg, lnk_ctrl),
73         LNKSTATUS       =       offsetof(struct ctrl_reg, lnk_status),
74         SLOTCAP         =       offsetof(struct ctrl_reg, slot_cap),
75         SLOTCTRL        =       offsetof(struct ctrl_reg, slot_ctrl),
76         SLOTSTATUS      =       offsetof(struct ctrl_reg, slot_status),
77         ROOTCTRL        =       offsetof(struct ctrl_reg, root_ctrl),
78         ROOTSTATUS      =       offsetof(struct ctrl_reg, root_status),
79 };
80
81 static inline int pciehp_readw(struct controller *ctrl, int reg, u16 *value)
82 {
83         struct pci_dev *dev = ctrl->pci_dev;
84         return pci_read_config_word(dev, ctrl->cap_base + reg, value);
85 }
86
87 static inline int pciehp_readl(struct controller *ctrl, int reg, u32 *value)
88 {
89         struct pci_dev *dev = ctrl->pci_dev;
90         return pci_read_config_dword(dev, ctrl->cap_base + reg, value);
91 }
92
93 static inline int pciehp_writew(struct controller *ctrl, int reg, u16 value)
94 {
95         struct pci_dev *dev = ctrl->pci_dev;
96         return pci_write_config_word(dev, ctrl->cap_base + reg, value);
97 }
98
99 static inline int pciehp_writel(struct controller *ctrl, int reg, u32 value)
100 {
101         struct pci_dev *dev = ctrl->pci_dev;
102         return pci_write_config_dword(dev, ctrl->cap_base + reg, value);
103 }
104
105 /* Field definitions in PCI Express Capabilities Register */
106 #define CAP_VER                 0x000F
107 #define DEV_PORT_TYPE           0x00F0
108 #define SLOT_IMPL               0x0100
109 #define MSG_NUM                 0x3E00
110
111 /* Device or Port Type */
112 #define NAT_ENDPT               0x00
113 #define LEG_ENDPT               0x01
114 #define ROOT_PORT               0x04
115 #define UP_STREAM               0x05
116 #define DN_STREAM               0x06
117 #define PCIE_PCI_BRDG           0x07
118 #define PCI_PCIE_BRDG           0x10
119
120 /* Field definitions in Device Capabilities Register */
121 #define DATTN_BUTTN_PRSN        0x1000
122 #define DATTN_LED_PRSN          0x2000
123 #define DPWR_LED_PRSN           0x4000
124
125 /* Field definitions in Link Capabilities Register */
126 #define MAX_LNK_SPEED           0x000F
127 #define MAX_LNK_WIDTH           0x03F0
128
129 /* Link Width Encoding */
130 #define LNK_X1          0x01
131 #define LNK_X2          0x02
132 #define LNK_X4          0x04
133 #define LNK_X8          0x08
134 #define LNK_X12         0x0C
135 #define LNK_X16         0x10
136 #define LNK_X32         0x20
137
138 /*Field definitions of Link Status Register */
139 #define LNK_SPEED       0x000F
140 #define NEG_LINK_WD     0x03F0
141 #define LNK_TRN_ERR     0x0400
142 #define LNK_TRN         0x0800
143 #define SLOT_CLK_CONF   0x1000
144
145 /* Field definitions in Slot Capabilities Register */
146 #define ATTN_BUTTN_PRSN 0x00000001
147 #define PWR_CTRL_PRSN   0x00000002
148 #define MRL_SENS_PRSN   0x00000004
149 #define ATTN_LED_PRSN   0x00000008
150 #define PWR_LED_PRSN    0x00000010
151 #define HP_SUPR_RM_SUP  0x00000020
152 #define HP_CAP          0x00000040
153 #define SLOT_PWR_VALUE  0x000003F8
154 #define SLOT_PWR_LIMIT  0x00000C00
155 #define PSN             0xFFF80000      /* PSN: Physical Slot Number */
156
157 /* Field definitions in Slot Control Register */
158 #define ATTN_BUTTN_ENABLE               0x0001
159 #define PWR_FAULT_DETECT_ENABLE         0x0002
160 #define MRL_DETECT_ENABLE               0x0004
161 #define PRSN_DETECT_ENABLE              0x0008
162 #define CMD_CMPL_INTR_ENABLE            0x0010
163 #define HP_INTR_ENABLE                  0x0020
164 #define ATTN_LED_CTRL                   0x00C0
165 #define PWR_LED_CTRL                    0x0300
166 #define PWR_CTRL                        0x0400
167 #define EMI_CTRL                        0x0800
168
169 /* Attention indicator and Power indicator states */
170 #define LED_ON          0x01
171 #define LED_BLINK       0x10
172 #define LED_OFF         0x11
173
174 /* Power Control Command */
175 #define POWER_ON        0
176 #define POWER_OFF       0x0400
177
178 /* EMI Status defines */
179 #define EMI_DISENGAGED  0
180 #define EMI_ENGAGED     1
181
182 /* Field definitions in Slot Status Register */
183 #define ATTN_BUTTN_PRESSED      0x0001
184 #define PWR_FAULT_DETECTED      0x0002
185 #define MRL_SENS_CHANGED        0x0004
186 #define PRSN_DETECT_CHANGED     0x0008
187 #define CMD_COMPLETED           0x0010
188 #define MRL_STATE               0x0020
189 #define PRSN_STATE              0x0040
190 #define EMI_STATE               0x0080
191 #define EMI_STATUS_BIT          7
192
193 static irqreturn_t pcie_isr(int irq, void *dev_id);
194 static void start_int_poll_timer(struct controller *ctrl, int sec);
195
196 /* This is the interrupt polling timeout function. */
197 static void int_poll_timeout(unsigned long data)
198 {
199         struct controller *ctrl = (struct controller *)data;
200
201         /* Poll for interrupt events.  regs == NULL => polling */
202         pcie_isr(0, ctrl);
203
204         init_timer(&ctrl->poll_timer);
205         if (!pciehp_poll_time)
206                 pciehp_poll_time = 2; /* default polling interval is 2 sec */
207
208         start_int_poll_timer(ctrl, pciehp_poll_time);
209 }
210
211 /* This function starts the interrupt polling timer. */
212 static void start_int_poll_timer(struct controller *ctrl, int sec)
213 {
214         /* Clamp to sane value */
215         if ((sec <= 0) || (sec > 60))
216                 sec = 2;
217
218         ctrl->poll_timer.function = &int_poll_timeout;
219         ctrl->poll_timer.data = (unsigned long)ctrl;
220         ctrl->poll_timer.expires = jiffies + sec * HZ;
221         add_timer(&ctrl->poll_timer);
222 }
223
224 static inline int pcie_wait_cmd(struct controller *ctrl)
225 {
226         int retval = 0;
227         unsigned int msecs = pciehp_poll_mode ? 2500 : 1000;
228         unsigned long timeout = msecs_to_jiffies(msecs);
229         int rc;
230
231         rc = wait_event_interruptible_timeout(ctrl->queue,
232                                               !ctrl->cmd_busy, timeout);
233         if (!rc)
234                 dbg("Command not completed in 1000 msec\n");
235         else if (rc < 0) {
236                 retval = -EINTR;
237                 info("Command was interrupted by a signal\n");
238         }
239
240         return retval;
241 }
242
243 /**
244  * pcie_write_cmd - Issue controller command
245  * @slot: slot to which the command is issued
246  * @cmd:  command value written to slot control register
247  * @mask: bitmask of slot control register to be modified
248  */
249 static int pcie_write_cmd(struct slot *slot, u16 cmd, u16 mask)
250 {
251         struct controller *ctrl = slot->ctrl;
252         int retval = 0;
253         u16 slot_status;
254         u16 slot_ctrl;
255
256         mutex_lock(&ctrl->ctrl_lock);
257
258         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
259         if (retval) {
260                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
261                 goto out;
262         }
263
264         if ((slot_status & CMD_COMPLETED) == CMD_COMPLETED ) {
265                 /* After 1 sec and CMD_COMPLETED still not set, just
266                    proceed forward to issue the next command according
267                    to spec.  Just print out the error message */
268                 dbg("%s: CMD_COMPLETED not clear after 1 sec.\n",
269                     __func__);
270         }
271
272         retval = pciehp_readw(ctrl, SLOTCTRL, &slot_ctrl);
273         if (retval) {
274                 err("%s: Cannot read SLOTCTRL register\n", __func__);
275                 goto out;
276         }
277
278         slot_ctrl &= ~mask;
279         slot_ctrl |= ((cmd & mask) | CMD_CMPL_INTR_ENABLE);
280
281         ctrl->cmd_busy = 1;
282         retval = pciehp_writew(ctrl, SLOTCTRL, slot_ctrl);
283         if (retval)
284                 err("%s: Cannot write to SLOTCTRL register\n", __func__);
285
286         /*
287          * Wait for command completion.
288          */
289         if (!retval)
290                 retval = pcie_wait_cmd(ctrl);
291  out:
292         mutex_unlock(&ctrl->ctrl_lock);
293         return retval;
294 }
295
296 static int hpc_check_lnk_status(struct controller *ctrl)
297 {
298         u16 lnk_status;
299         int retval = 0;
300
301         retval = pciehp_readw(ctrl, LNKSTATUS, &lnk_status);
302         if (retval) {
303                 err("%s: Cannot read LNKSTATUS register\n", __func__);
304                 return retval;
305         }
306
307         dbg("%s: lnk_status = %x\n", __func__, lnk_status);
308         if ( (lnk_status & LNK_TRN) || (lnk_status & LNK_TRN_ERR) ||
309                 !(lnk_status & NEG_LINK_WD)) {
310                 err("%s : Link Training Error occurs \n", __func__);
311                 retval = -1;
312                 return retval;
313         }
314
315         return retval;
316 }
317
318 static int hpc_get_attention_status(struct slot *slot, u8 *status)
319 {
320         struct controller *ctrl = slot->ctrl;
321         u16 slot_ctrl;
322         u8 atten_led_state;
323         int retval = 0;
324
325         retval = pciehp_readw(ctrl, SLOTCTRL, &slot_ctrl);
326         if (retval) {
327                 err("%s: Cannot read SLOTCTRL register\n", __func__);
328                 return retval;
329         }
330
331         dbg("%s: SLOTCTRL %x, value read %x\n",
332             __func__, ctrl->cap_base + SLOTCTRL, slot_ctrl);
333
334         atten_led_state = (slot_ctrl & ATTN_LED_CTRL) >> 6;
335
336         switch (atten_led_state) {
337         case 0:
338                 *status = 0xFF; /* Reserved */
339                 break;
340         case 1:
341                 *status = 1;    /* On */
342                 break;
343         case 2:
344                 *status = 2;    /* Blink */
345                 break;
346         case 3:
347                 *status = 0;    /* Off */
348                 break;
349         default:
350                 *status = 0xFF;
351                 break;
352         }
353
354         return 0;
355 }
356
357 static int hpc_get_power_status(struct slot *slot, u8 *status)
358 {
359         struct controller *ctrl = slot->ctrl;
360         u16 slot_ctrl;
361         u8 pwr_state;
362         int     retval = 0;
363
364         retval = pciehp_readw(ctrl, SLOTCTRL, &slot_ctrl);
365         if (retval) {
366                 err("%s: Cannot read SLOTCTRL register\n", __func__);
367                 return retval;
368         }
369         dbg("%s: SLOTCTRL %x value read %x\n",
370             __func__, ctrl->cap_base + SLOTCTRL, slot_ctrl);
371
372         pwr_state = (slot_ctrl & PWR_CTRL) >> 10;
373
374         switch (pwr_state) {
375         case 0:
376                 *status = 1;
377                 break;
378         case 1:
379                 *status = 0;
380                 break;
381         default:
382                 *status = 0xFF;
383                 break;
384         }
385
386         return retval;
387 }
388
389 static int hpc_get_latch_status(struct slot *slot, u8 *status)
390 {
391         struct controller *ctrl = slot->ctrl;
392         u16 slot_status;
393         int retval = 0;
394
395         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
396         if (retval) {
397                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
398                 return retval;
399         }
400
401         *status = (((slot_status & MRL_STATE) >> 5) == 0) ? 0 : 1;
402
403         return 0;
404 }
405
406 static int hpc_get_adapter_status(struct slot *slot, u8 *status)
407 {
408         struct controller *ctrl = slot->ctrl;
409         u16 slot_status;
410         u8 card_state;
411         int retval = 0;
412
413         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
414         if (retval) {
415                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
416                 return retval;
417         }
418         card_state = (u8)((slot_status & PRSN_STATE) >> 6);
419         *status = (card_state == 1) ? 1 : 0;
420
421         return 0;
422 }
423
424 static int hpc_query_power_fault(struct slot *slot)
425 {
426         struct controller *ctrl = slot->ctrl;
427         u16 slot_status;
428         u8 pwr_fault;
429         int retval = 0;
430
431         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
432         if (retval) {
433                 err("%s: Cannot check for power fault\n", __func__);
434                 return retval;
435         }
436         pwr_fault = (u8)((slot_status & PWR_FAULT_DETECTED) >> 1);
437
438         return pwr_fault;
439 }
440
441 static int hpc_get_emi_status(struct slot *slot, u8 *status)
442 {
443         struct controller *ctrl = slot->ctrl;
444         u16 slot_status;
445         int retval = 0;
446
447         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
448         if (retval) {
449                 err("%s : Cannot check EMI status\n", __func__);
450                 return retval;
451         }
452         *status = (slot_status & EMI_STATE) >> EMI_STATUS_BIT;
453
454         return retval;
455 }
456
457 static int hpc_toggle_emi(struct slot *slot)
458 {
459         u16 slot_cmd;
460         u16 cmd_mask;
461         int rc;
462
463         slot_cmd = EMI_CTRL;
464         cmd_mask = EMI_CTRL;
465         if (!pciehp_poll_mode) {
466                 slot_cmd = slot_cmd | HP_INTR_ENABLE;
467                 cmd_mask = cmd_mask | HP_INTR_ENABLE;
468         }
469
470         rc = pcie_write_cmd(slot, slot_cmd, cmd_mask);
471         slot->last_emi_toggle = get_seconds();
472
473         return rc;
474 }
475
476 static int hpc_set_attention_status(struct slot *slot, u8 value)
477 {
478         struct controller *ctrl = slot->ctrl;
479         u16 slot_cmd;
480         u16 cmd_mask;
481         int rc;
482
483         cmd_mask = ATTN_LED_CTRL;
484         switch (value) {
485                 case 0 :        /* turn off */
486                         slot_cmd = 0x00C0;
487                         break;
488                 case 1:         /* turn on */
489                         slot_cmd = 0x0040;
490                         break;
491                 case 2:         /* turn blink */
492                         slot_cmd = 0x0080;
493                         break;
494                 default:
495                         return -1;
496         }
497         if (!pciehp_poll_mode) {
498                 slot_cmd = slot_cmd | HP_INTR_ENABLE;
499                 cmd_mask = cmd_mask | HP_INTR_ENABLE;
500         }
501
502         rc = pcie_write_cmd(slot, slot_cmd, cmd_mask);
503         dbg("%s: SLOTCTRL %x write cmd %x\n",
504             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
505
506         return rc;
507 }
508
509 static void hpc_set_green_led_on(struct slot *slot)
510 {
511         struct controller *ctrl = slot->ctrl;
512         u16 slot_cmd;
513         u16 cmd_mask;
514
515         slot_cmd = 0x0100;
516         cmd_mask = PWR_LED_CTRL;
517         if (!pciehp_poll_mode) {
518                 slot_cmd = slot_cmd | HP_INTR_ENABLE;
519                 cmd_mask = cmd_mask | HP_INTR_ENABLE;
520         }
521
522         pcie_write_cmd(slot, slot_cmd, cmd_mask);
523
524         dbg("%s: SLOTCTRL %x write cmd %x\n",
525             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
526 }
527
528 static void hpc_set_green_led_off(struct slot *slot)
529 {
530         struct controller *ctrl = slot->ctrl;
531         u16 slot_cmd;
532         u16 cmd_mask;
533
534         slot_cmd = 0x0300;
535         cmd_mask = PWR_LED_CTRL;
536         if (!pciehp_poll_mode) {
537                 slot_cmd = slot_cmd | HP_INTR_ENABLE;
538                 cmd_mask = cmd_mask | HP_INTR_ENABLE;
539         }
540
541         pcie_write_cmd(slot, slot_cmd, cmd_mask);
542         dbg("%s: SLOTCTRL %x write cmd %x\n",
543             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
544 }
545
546 static void hpc_set_green_led_blink(struct slot *slot)
547 {
548         struct controller *ctrl = slot->ctrl;
549         u16 slot_cmd;
550         u16 cmd_mask;
551
552         slot_cmd = 0x0200;
553         cmd_mask = PWR_LED_CTRL;
554         if (!pciehp_poll_mode) {
555                 slot_cmd = slot_cmd | HP_INTR_ENABLE;
556                 cmd_mask = cmd_mask | HP_INTR_ENABLE;
557         }
558
559         pcie_write_cmd(slot, slot_cmd, cmd_mask);
560
561         dbg("%s: SLOTCTRL %x write cmd %x\n",
562             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
563 }
564
565 static void hpc_release_ctlr(struct controller *ctrl)
566 {
567         if (pciehp_poll_mode)
568                 del_timer(&ctrl->poll_timer);
569         else
570                 free_irq(ctrl->pci_dev->irq, ctrl);
571
572         /*
573          * If this is the last controller to be released, destroy the
574          * pciehp work queue
575          */
576         if (atomic_dec_and_test(&pciehp_num_controllers))
577                 destroy_workqueue(pciehp_wq);
578 }
579
580 static int hpc_power_on_slot(struct slot * slot)
581 {
582         struct controller *ctrl = slot->ctrl;
583         u16 slot_cmd;
584         u16 cmd_mask;
585         u16 slot_status;
586         int retval = 0;
587
588         dbg("%s: slot->hp_slot %x\n", __func__, slot->hp_slot);
589
590         /* Clear sticky power-fault bit from previous power failures */
591         retval = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
592         if (retval) {
593                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
594                 return retval;
595         }
596         slot_status &= PWR_FAULT_DETECTED;
597         if (slot_status) {
598                 retval = pciehp_writew(ctrl, SLOTSTATUS, slot_status);
599                 if (retval) {
600                         err("%s: Cannot write to SLOTSTATUS register\n",
601                             __func__);
602                         return retval;
603                 }
604         }
605
606         slot_cmd = POWER_ON;
607         cmd_mask = PWR_CTRL;
608         /* Enable detection that we turned off at slot power-off time */
609         if (!pciehp_poll_mode) {
610                 slot_cmd = slot_cmd |
611                            PWR_FAULT_DETECT_ENABLE |
612                            MRL_DETECT_ENABLE |
613                            PRSN_DETECT_ENABLE |
614                            HP_INTR_ENABLE;
615                 cmd_mask = cmd_mask |
616                            PWR_FAULT_DETECT_ENABLE |
617                            MRL_DETECT_ENABLE |
618                            PRSN_DETECT_ENABLE |
619                            HP_INTR_ENABLE;
620         }
621
622         retval = pcie_write_cmd(slot, slot_cmd, cmd_mask);
623
624         if (retval) {
625                 err("%s: Write %x command failed!\n", __func__, slot_cmd);
626                 return -1;
627         }
628         dbg("%s: SLOTCTRL %x write cmd %x\n",
629             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
630
631         return retval;
632 }
633
634 static inline int pcie_mask_bad_dllp(struct controller *ctrl)
635 {
636         struct pci_dev *dev = ctrl->pci_dev;
637         int pos;
638         u32 reg;
639
640         pos = pci_find_ext_capability(dev, PCI_EXT_CAP_ID_ERR);
641         if (!pos)
642                 return 0;
643         pci_read_config_dword(dev, pos + PCI_ERR_COR_MASK, &reg);
644         if (reg & PCI_ERR_COR_BAD_DLLP)
645                 return 0;
646         reg |= PCI_ERR_COR_BAD_DLLP;
647         pci_write_config_dword(dev, pos + PCI_ERR_COR_MASK, reg);
648         return 1;
649 }
650
651 static inline void pcie_unmask_bad_dllp(struct controller *ctrl)
652 {
653         struct pci_dev *dev = ctrl->pci_dev;
654         u32 reg;
655         int pos;
656
657         pos = pci_find_ext_capability(dev, PCI_EXT_CAP_ID_ERR);
658         if (!pos)
659                 return;
660         pci_read_config_dword(dev, pos + PCI_ERR_COR_MASK, &reg);
661         if (!(reg & PCI_ERR_COR_BAD_DLLP))
662                 return;
663         reg &= ~PCI_ERR_COR_BAD_DLLP;
664         pci_write_config_dword(dev, pos + PCI_ERR_COR_MASK, reg);
665 }
666
667 static int hpc_power_off_slot(struct slot * slot)
668 {
669         struct controller *ctrl = slot->ctrl;
670         u16 slot_cmd;
671         u16 cmd_mask;
672         int retval = 0;
673         int changed;
674
675         dbg("%s: slot->hp_slot %x\n", __func__, slot->hp_slot);
676
677         /*
678          * Set Bad DLLP Mask bit in Correctable Error Mask
679          * Register. This is the workaround against Bad DLLP error
680          * that sometimes happens during turning power off the slot
681          * which conforms to PCI Express 1.0a spec.
682          */
683         changed = pcie_mask_bad_dllp(ctrl);
684
685         slot_cmd = POWER_OFF;
686         cmd_mask = PWR_CTRL;
687         /*
688          * If we get MRL or presence detect interrupts now, the isr
689          * will notice the sticky power-fault bit too and issue power
690          * indicator change commands. This will lead to an endless loop
691          * of command completions, since the power-fault bit remains on
692          * till the slot is powered on again.
693          */
694         if (!pciehp_poll_mode) {
695                 slot_cmd = (slot_cmd &
696                             ~PWR_FAULT_DETECT_ENABLE &
697                             ~MRL_DETECT_ENABLE &
698                             ~PRSN_DETECT_ENABLE) | HP_INTR_ENABLE;
699                 cmd_mask = cmd_mask |
700                            PWR_FAULT_DETECT_ENABLE |
701                            MRL_DETECT_ENABLE |
702                            PRSN_DETECT_ENABLE |
703                            HP_INTR_ENABLE;
704         }
705
706         retval = pcie_write_cmd(slot, slot_cmd, cmd_mask);
707         if (retval) {
708                 err("%s: Write command failed!\n", __func__);
709                 retval = -1;
710                 goto out;
711         }
712         dbg("%s: SLOTCTRL %x write cmd %x\n",
713             __func__, ctrl->cap_base + SLOTCTRL, slot_cmd);
714
715         /*
716          * After turning power off, we must wait for at least 1 second
717          * before taking any action that relies on power having been
718          * removed from the slot/adapter.
719          */
720         msleep(1000);
721  out:
722         if (changed)
723                 pcie_unmask_bad_dllp(ctrl);
724
725         return retval;
726 }
727
728 static irqreturn_t pcie_isr(int irq, void *dev_id)
729 {
730         struct controller *ctrl = (struct controller *)dev_id;
731         u16 detected, intr_loc;
732
733         /*
734          * In order to guarantee that all interrupt events are
735          * serviced, we need to re-inspect Slot Status register after
736          * clearing what is presumed to be the last pending interrupt.
737          */
738         intr_loc = 0;
739         do {
740                 if (pciehp_readw(ctrl, SLOTSTATUS, &detected)) {
741                         err("%s: Cannot read SLOTSTATUS\n", __func__);
742                         return IRQ_NONE;
743                 }
744
745                 detected &= (ATTN_BUTTN_PRESSED | PWR_FAULT_DETECTED |
746                              MRL_SENS_CHANGED | PRSN_DETECT_CHANGED |
747                              CMD_COMPLETED);
748                 intr_loc |= detected;
749                 if (!intr_loc)
750                         return IRQ_NONE;
751                 if (pciehp_writew(ctrl, SLOTSTATUS, detected)) {
752                         err("%s: Cannot write to SLOTSTATUS\n", __func__);
753                         return IRQ_NONE;
754                 }
755         } while (detected);
756
757         dbg("%s: intr_loc %x\n", __FUNCTION__, intr_loc);
758
759         /* Check Command Complete Interrupt Pending */
760         if (intr_loc & CMD_COMPLETED) {
761                 ctrl->cmd_busy = 0;
762                 wake_up_interruptible(&ctrl->queue);
763         }
764
765         /* Check MRL Sensor Changed */
766         if (intr_loc & MRL_SENS_CHANGED)
767                 pciehp_handle_switch_change(0, ctrl);
768
769         /* Check Attention Button Pressed */
770         if (intr_loc & ATTN_BUTTN_PRESSED)
771                 pciehp_handle_attention_button(0, ctrl);
772
773         /* Check Presence Detect Changed */
774         if (intr_loc & PRSN_DETECT_CHANGED)
775                 pciehp_handle_presence_change(0, ctrl);
776
777         /* Check Power Fault Detected */
778         if (intr_loc & PWR_FAULT_DETECTED)
779                 pciehp_handle_power_fault(0, ctrl);
780
781         return IRQ_HANDLED;
782 }
783
784 static int hpc_get_max_lnk_speed(struct slot *slot, enum pci_bus_speed *value)
785 {
786         struct controller *ctrl = slot->ctrl;
787         enum pcie_link_speed lnk_speed;
788         u32     lnk_cap;
789         int retval = 0;
790
791         retval = pciehp_readl(ctrl, LNKCAP, &lnk_cap);
792         if (retval) {
793                 err("%s: Cannot read LNKCAP register\n", __func__);
794                 return retval;
795         }
796
797         switch (lnk_cap & 0x000F) {
798         case 1:
799                 lnk_speed = PCIE_2PT5GB;
800                 break;
801         default:
802                 lnk_speed = PCIE_LNK_SPEED_UNKNOWN;
803                 break;
804         }
805
806         *value = lnk_speed;
807         dbg("Max link speed = %d\n", lnk_speed);
808
809         return retval;
810 }
811
812 static int hpc_get_max_lnk_width(struct slot *slot,
813                                  enum pcie_link_width *value)
814 {
815         struct controller *ctrl = slot->ctrl;
816         enum pcie_link_width lnk_wdth;
817         u32     lnk_cap;
818         int retval = 0;
819
820         retval = pciehp_readl(ctrl, LNKCAP, &lnk_cap);
821         if (retval) {
822                 err("%s: Cannot read LNKCAP register\n", __func__);
823                 return retval;
824         }
825
826         switch ((lnk_cap & 0x03F0) >> 4){
827         case 0:
828                 lnk_wdth = PCIE_LNK_WIDTH_RESRV;
829                 break;
830         case 1:
831                 lnk_wdth = PCIE_LNK_X1;
832                 break;
833         case 2:
834                 lnk_wdth = PCIE_LNK_X2;
835                 break;
836         case 4:
837                 lnk_wdth = PCIE_LNK_X4;
838                 break;
839         case 8:
840                 lnk_wdth = PCIE_LNK_X8;
841                 break;
842         case 12:
843                 lnk_wdth = PCIE_LNK_X12;
844                 break;
845         case 16:
846                 lnk_wdth = PCIE_LNK_X16;
847                 break;
848         case 32:
849                 lnk_wdth = PCIE_LNK_X32;
850                 break;
851         default:
852                 lnk_wdth = PCIE_LNK_WIDTH_UNKNOWN;
853                 break;
854         }
855
856         *value = lnk_wdth;
857         dbg("Max link width = %d\n", lnk_wdth);
858
859         return retval;
860 }
861
862 static int hpc_get_cur_lnk_speed(struct slot *slot, enum pci_bus_speed *value)
863 {
864         struct controller *ctrl = slot->ctrl;
865         enum pcie_link_speed lnk_speed = PCI_SPEED_UNKNOWN;
866         int retval = 0;
867         u16 lnk_status;
868
869         retval = pciehp_readw(ctrl, LNKSTATUS, &lnk_status);
870         if (retval) {
871                 err("%s: Cannot read LNKSTATUS register\n", __func__);
872                 return retval;
873         }
874
875         switch (lnk_status & 0x0F) {
876         case 1:
877                 lnk_speed = PCIE_2PT5GB;
878                 break;
879         default:
880                 lnk_speed = PCIE_LNK_SPEED_UNKNOWN;
881                 break;
882         }
883
884         *value = lnk_speed;
885         dbg("Current link speed = %d\n", lnk_speed);
886
887         return retval;
888 }
889
890 static int hpc_get_cur_lnk_width(struct slot *slot,
891                                  enum pcie_link_width *value)
892 {
893         struct controller *ctrl = slot->ctrl;
894         enum pcie_link_width lnk_wdth = PCIE_LNK_WIDTH_UNKNOWN;
895         int retval = 0;
896         u16 lnk_status;
897
898         retval = pciehp_readw(ctrl, LNKSTATUS, &lnk_status);
899         if (retval) {
900                 err("%s: Cannot read LNKSTATUS register\n", __func__);
901                 return retval;
902         }
903
904         switch ((lnk_status & 0x03F0) >> 4){
905         case 0:
906                 lnk_wdth = PCIE_LNK_WIDTH_RESRV;
907                 break;
908         case 1:
909                 lnk_wdth = PCIE_LNK_X1;
910                 break;
911         case 2:
912                 lnk_wdth = PCIE_LNK_X2;
913                 break;
914         case 4:
915                 lnk_wdth = PCIE_LNK_X4;
916                 break;
917         case 8:
918                 lnk_wdth = PCIE_LNK_X8;
919                 break;
920         case 12:
921                 lnk_wdth = PCIE_LNK_X12;
922                 break;
923         case 16:
924                 lnk_wdth = PCIE_LNK_X16;
925                 break;
926         case 32:
927                 lnk_wdth = PCIE_LNK_X32;
928                 break;
929         default:
930                 lnk_wdth = PCIE_LNK_WIDTH_UNKNOWN;
931                 break;
932         }
933
934         *value = lnk_wdth;
935         dbg("Current link width = %d\n", lnk_wdth);
936
937         return retval;
938 }
939
940 static struct hpc_ops pciehp_hpc_ops = {
941         .power_on_slot                  = hpc_power_on_slot,
942         .power_off_slot                 = hpc_power_off_slot,
943         .set_attention_status           = hpc_set_attention_status,
944         .get_power_status               = hpc_get_power_status,
945         .get_attention_status           = hpc_get_attention_status,
946         .get_latch_status               = hpc_get_latch_status,
947         .get_adapter_status             = hpc_get_adapter_status,
948         .get_emi_status                 = hpc_get_emi_status,
949         .toggle_emi                     = hpc_toggle_emi,
950
951         .get_max_bus_speed              = hpc_get_max_lnk_speed,
952         .get_cur_bus_speed              = hpc_get_cur_lnk_speed,
953         .get_max_lnk_width              = hpc_get_max_lnk_width,
954         .get_cur_lnk_width              = hpc_get_cur_lnk_width,
955
956         .query_power_fault              = hpc_query_power_fault,
957         .green_led_on                   = hpc_set_green_led_on,
958         .green_led_off                  = hpc_set_green_led_off,
959         .green_led_blink                = hpc_set_green_led_blink,
960
961         .release_ctlr                   = hpc_release_ctlr,
962         .check_lnk_status               = hpc_check_lnk_status,
963 };
964
965 #ifdef CONFIG_ACPI
966 int pciehp_acpi_get_hp_hw_control_from_firmware(struct pci_dev *dev)
967 {
968         acpi_status status;
969         acpi_handle chandle, handle = DEVICE_ACPI_HANDLE(&(dev->dev));
970         struct pci_dev *pdev = dev;
971         struct pci_bus *parent;
972         struct acpi_buffer string = { ACPI_ALLOCATE_BUFFER, NULL };
973
974         /*
975          * Per PCI firmware specification, we should run the ACPI _OSC
976          * method to get control of hotplug hardware before using it.
977          * If an _OSC is missing, we look for an OSHP to do the same thing.
978          * To handle different BIOS behavior, we look for _OSC and OSHP
979          * within the scope of the hotplug controller and its parents, upto
980          * the host bridge under which this controller exists.
981          */
982         while (!handle) {
983                 /*
984                  * This hotplug controller was not listed in the ACPI name
985                  * space at all. Try to get acpi handle of parent pci bus.
986                  */
987                 if (!pdev || !pdev->bus->parent)
988                         break;
989                 parent = pdev->bus->parent;
990                 dbg("Could not find %s in acpi namespace, trying parent\n",
991                                 pci_name(pdev));
992                 if (!parent->self)
993                         /* Parent must be a host bridge */
994                         handle = acpi_get_pci_rootbridge_handle(
995                                         pci_domain_nr(parent),
996                                         parent->number);
997                 else
998                         handle = DEVICE_ACPI_HANDLE(
999                                         &(parent->self->dev));
1000                 pdev = parent->self;
1001         }
1002
1003         while (handle) {
1004                 acpi_get_name(handle, ACPI_FULL_PATHNAME, &string);
1005                 dbg("Trying to get hotplug control for %s \n",
1006                         (char *)string.pointer);
1007                 status = pci_osc_control_set(handle,
1008                                 OSC_PCI_EXPRESS_CAP_STRUCTURE_CONTROL |
1009                                 OSC_PCI_EXPRESS_NATIVE_HP_CONTROL);
1010                 if (status == AE_NOT_FOUND)
1011                         status = acpi_run_oshp(handle);
1012                 if (ACPI_SUCCESS(status)) {
1013                         dbg("Gained control for hotplug HW for pci %s (%s)\n",
1014                                 pci_name(dev), (char *)string.pointer);
1015                         kfree(string.pointer);
1016                         return 0;
1017                 }
1018                 if (acpi_root_bridge(handle))
1019                         break;
1020                 chandle = handle;
1021                 status = acpi_get_parent(chandle, &handle);
1022                 if (ACPI_FAILURE(status))
1023                         break;
1024         }
1025
1026         err("Cannot get control of hotplug hardware for pci %s\n",
1027                         pci_name(dev));
1028
1029         kfree(string.pointer);
1030         return -1;
1031 }
1032 #endif
1033
1034 static int pcie_init_hardware_part1(struct controller *ctrl,
1035                                     struct pcie_device *dev)
1036 {
1037         int rc;
1038         u16 temp_word;
1039         u32 slot_cap;
1040         u16 slot_status;
1041
1042         rc = pciehp_readl(ctrl, SLOTCAP, &slot_cap);
1043         if (rc) {
1044                 err("%s: Cannot read SLOTCAP register\n", __func__);
1045                 return -1;
1046         }
1047
1048         /* Mask Hot-plug Interrupt Enable */
1049         rc = pciehp_readw(ctrl, SLOTCTRL, &temp_word);
1050         if (rc) {
1051                 err("%s: Cannot read SLOTCTRL register\n", __func__);
1052                 return -1;
1053         }
1054
1055         dbg("%s: SLOTCTRL %x value read %x\n",
1056             __func__, ctrl->cap_base + SLOTCTRL, temp_word);
1057         temp_word = (temp_word & ~HP_INTR_ENABLE & ~CMD_CMPL_INTR_ENABLE) |
1058                 0x00;
1059
1060         rc = pciehp_writew(ctrl, SLOTCTRL, temp_word);
1061         if (rc) {
1062                 err("%s: Cannot write to SLOTCTRL register\n", __func__);
1063                 return -1;
1064         }
1065
1066         rc = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
1067         if (rc) {
1068                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
1069                 return -1;
1070         }
1071
1072         temp_word = 0x1F; /* Clear all events */
1073         rc = pciehp_writew(ctrl, SLOTSTATUS, temp_word);
1074         if (rc) {
1075                 err("%s: Cannot write to SLOTSTATUS register\n", __func__);
1076                 return -1;
1077         }
1078         return 0;
1079 }
1080
1081 int pcie_init_hardware_part2(struct controller *ctrl, struct pcie_device *dev)
1082 {
1083         int rc;
1084         u16 temp_word;
1085         u16 intr_enable = 0;
1086         u32 slot_cap;
1087         u16 slot_status;
1088
1089         rc = pciehp_readw(ctrl, SLOTCTRL, &temp_word);
1090         if (rc) {
1091                 err("%s: Cannot read SLOTCTRL register\n", __func__);
1092                 goto abort;
1093         }
1094
1095         intr_enable = intr_enable | PRSN_DETECT_ENABLE;
1096
1097         rc = pciehp_readl(ctrl, SLOTCAP, &slot_cap);
1098         if (rc) {
1099                 err("%s: Cannot read SLOTCAP register\n", __func__);
1100                 goto abort;
1101         }
1102
1103         if (ATTN_BUTTN(slot_cap))
1104                 intr_enable = intr_enable | ATTN_BUTTN_ENABLE;
1105
1106         if (POWER_CTRL(slot_cap))
1107                 intr_enable = intr_enable | PWR_FAULT_DETECT_ENABLE;
1108
1109         if (MRL_SENS(slot_cap))
1110                 intr_enable = intr_enable | MRL_DETECT_ENABLE;
1111
1112         temp_word = (temp_word & ~intr_enable) | intr_enable;
1113
1114         if (pciehp_poll_mode) {
1115                 temp_word = (temp_word & ~HP_INTR_ENABLE) | 0x0;
1116         } else {
1117                 temp_word = (temp_word & ~HP_INTR_ENABLE) | HP_INTR_ENABLE;
1118         }
1119
1120         /*
1121          * Unmask Hot-plug Interrupt Enable for the interrupt
1122          * notification mechanism case.
1123          */
1124         rc = pciehp_writew(ctrl, SLOTCTRL, temp_word);
1125         if (rc) {
1126                 err("%s: Cannot write to SLOTCTRL register\n", __func__);
1127                 goto abort;
1128         }
1129         rc = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
1130         if (rc) {
1131                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
1132                 goto abort_disable_intr;
1133         }
1134
1135         temp_word =  0x1F; /* Clear all events */
1136         rc = pciehp_writew(ctrl, SLOTSTATUS, temp_word);
1137         if (rc) {
1138                 err("%s: Cannot write to SLOTSTATUS register\n", __func__);
1139                 goto abort_disable_intr;
1140         }
1141
1142         if (pciehp_force) {
1143                 dbg("Bypassing BIOS check for pciehp use on %s\n",
1144                                 pci_name(ctrl->pci_dev));
1145         } else {
1146                 rc = pciehp_get_hp_hw_control_from_firmware(ctrl->pci_dev);
1147                 if (rc)
1148                         goto abort_disable_intr;
1149         }
1150
1151         return 0;
1152
1153         /* We end up here for the many possible ways to fail this API. */
1154 abort_disable_intr:
1155         rc = pciehp_readw(ctrl, SLOTCTRL, &temp_word);
1156         if (!rc) {
1157                 temp_word &= ~(intr_enable | HP_INTR_ENABLE);
1158                 rc = pciehp_writew(ctrl, SLOTCTRL, temp_word);
1159         }
1160         if (rc)
1161                 err("%s : disabling interrupts failed\n", __func__);
1162 abort:
1163         return -1;
1164 }
1165
1166 int pcie_init(struct controller *ctrl, struct pcie_device *dev)
1167 {
1168         int rc;
1169         u16 cap_reg;
1170         u32 slot_cap;
1171         int cap_base;
1172         u16 slot_status, slot_ctrl;
1173         struct pci_dev *pdev;
1174
1175         pdev = dev->port;
1176         ctrl->pci_dev = pdev;   /* save pci_dev in context */
1177
1178         dbg("%s: hotplug controller vendor id 0x%x device id 0x%x\n",
1179                         __func__, pdev->vendor, pdev->device);
1180
1181         cap_base = pci_find_capability(pdev, PCI_CAP_ID_EXP);
1182         if (cap_base == 0) {
1183                 dbg("%s: Can't find PCI_CAP_ID_EXP (0x10)\n", __func__);
1184                 goto abort;
1185         }
1186
1187         ctrl->cap_base = cap_base;
1188
1189         dbg("%s: pcie_cap_base %x\n", __func__, cap_base);
1190
1191         rc = pciehp_readw(ctrl, CAPREG, &cap_reg);
1192         if (rc) {
1193                 err("%s: Cannot read CAPREG register\n", __func__);
1194                 goto abort;
1195         }
1196         dbg("%s: CAPREG offset %x cap_reg %x\n",
1197             __func__, ctrl->cap_base + CAPREG, cap_reg);
1198
1199         if (((cap_reg & SLOT_IMPL) == 0) ||
1200             (((cap_reg & DEV_PORT_TYPE) != 0x0040)
1201                 && ((cap_reg & DEV_PORT_TYPE) != 0x0060))) {
1202                 dbg("%s : This is not a root port or the port is not "
1203                     "connected to a slot\n", __func__);
1204                 goto abort;
1205         }
1206
1207         rc = pciehp_readl(ctrl, SLOTCAP, &slot_cap);
1208         if (rc) {
1209                 err("%s: Cannot read SLOTCAP register\n", __func__);
1210                 goto abort;
1211         }
1212         dbg("%s: SLOTCAP offset %x slot_cap %x\n",
1213             __func__, ctrl->cap_base + SLOTCAP, slot_cap);
1214
1215         if (!(slot_cap & HP_CAP)) {
1216                 dbg("%s : This slot is not hot-plug capable\n", __func__);
1217                 goto abort;
1218         }
1219         /* For debugging purpose */
1220         rc = pciehp_readw(ctrl, SLOTSTATUS, &slot_status);
1221         if (rc) {
1222                 err("%s: Cannot read SLOTSTATUS register\n", __func__);
1223                 goto abort;
1224         }
1225         dbg("%s: SLOTSTATUS offset %x slot_status %x\n",
1226             __func__, ctrl->cap_base + SLOTSTATUS, slot_status);
1227
1228         rc = pciehp_readw(ctrl, SLOTCTRL, &slot_ctrl);
1229         if (rc) {
1230                 err("%s: Cannot read SLOTCTRL register\n", __func__);
1231                 goto abort;
1232         }
1233         dbg("%s: SLOTCTRL offset %x slot_ctrl %x\n",
1234             __func__, ctrl->cap_base + SLOTCTRL, slot_ctrl);
1235
1236         for (rc = 0; rc < DEVICE_COUNT_RESOURCE; rc++)
1237                 if (pci_resource_len(pdev, rc) > 0)
1238                         dbg("pci resource[%d] start=0x%llx(len=0x%llx)\n", rc,
1239                             (unsigned long long)pci_resource_start(pdev, rc),
1240                             (unsigned long long)pci_resource_len(pdev, rc));
1241
1242         info("HPC vendor_id %x device_id %x ss_vid %x ss_did %x\n",
1243              pdev->vendor, pdev->device,
1244              pdev->subsystem_vendor, pdev->subsystem_device);
1245
1246         mutex_init(&ctrl->crit_sect);
1247         mutex_init(&ctrl->ctrl_lock);
1248
1249         /* setup wait queue */
1250         init_waitqueue_head(&ctrl->queue);
1251
1252         /* return PCI Controller Info */
1253         ctrl->slot_device_offset = 0;
1254         ctrl->num_slots = 1;
1255         ctrl->first_slot = slot_cap >> 19;
1256         ctrl->ctrlcap = slot_cap & 0x0000007f;
1257
1258         rc = pcie_init_hardware_part1(ctrl, dev);
1259         if (rc)
1260                 goto abort;
1261
1262         if (pciehp_poll_mode) {
1263                 /* Install interrupt polling timer. Start with 10 sec delay */
1264                 init_timer(&ctrl->poll_timer);
1265                 start_int_poll_timer(ctrl, 10);
1266         } else {
1267                 /* Installs the interrupt handler */
1268                 rc = request_irq(ctrl->pci_dev->irq, pcie_isr, IRQF_SHARED,
1269                                  MY_NAME, (void *)ctrl);
1270                 dbg("%s: request_irq %d for hpc%d (returns %d)\n",
1271                     __func__, ctrl->pci_dev->irq,
1272                     atomic_read(&pciehp_num_controllers), rc);
1273                 if (rc) {
1274                         err("Can't get irq %d for the hotplug controller\n",
1275                             ctrl->pci_dev->irq);
1276                         goto abort;
1277                 }
1278         }
1279         dbg("pciehp ctrl b:d:f:irq=0x%x:%x:%x:%x\n", pdev->bus->number,
1280                 PCI_SLOT(pdev->devfn), PCI_FUNC(pdev->devfn), dev->irq);
1281
1282         /*
1283          * If this is the first controller to be initialized,
1284          * initialize the pciehp work queue
1285          */
1286         if (atomic_add_return(1, &pciehp_num_controllers) == 1) {
1287                 pciehp_wq = create_singlethread_workqueue("pciehpd");
1288                 if (!pciehp_wq) {
1289                         rc = -ENOMEM;
1290                         goto abort_free_irq;
1291                 }
1292         }
1293
1294         rc = pcie_init_hardware_part2(ctrl, dev);
1295         if (rc == 0) {
1296                 ctrl->hpc_ops = &pciehp_hpc_ops;
1297                 return 0;
1298         }
1299 abort_free_irq:
1300         if (pciehp_poll_mode)
1301                 del_timer_sync(&ctrl->poll_timer);
1302         else
1303                 free_irq(ctrl->pci_dev->irq, ctrl);
1304 abort:
1305         return -1;
1306 }