x86: always explicitly map acpi memory
[safe/jmp/linux-2.6] / arch / x86 / kernel / acpi / boot.c
1 /*
2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
3  *
4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
6  *
7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
8  *
9  *  This program is free software; you can redistribute it and/or modify
10  *  it under the terms of the GNU General Public License as published by
11  *  the Free Software Foundation; either version 2 of the License, or
12  *  (at your option) any later version.
13  *
14  *  This program is distributed in the hope that it will be useful,
15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  *  GNU General Public License for more details.
18  *
19  *  You should have received a copy of the GNU General Public License
20  *  along with this program; if not, write to the Free Software
21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
22  *
23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
24  */
25
26 #include <linux/init.h>
27 #include <linux/acpi.h>
28 #include <linux/acpi_pmtmr.h>
29 #include <linux/efi.h>
30 #include <linux/cpumask.h>
31 #include <linux/module.h>
32 #include <linux/dmi.h>
33 #include <linux/irq.h>
34 #include <linux/bootmem.h>
35 #include <linux/ioport.h>
36
37 #include <asm/pgtable.h>
38 #include <asm/io_apic.h>
39 #include <asm/apic.h>
40 #include <asm/genapic.h>
41 #include <asm/io.h>
42 #include <asm/mpspec.h>
43 #include <asm/smp.h>
44
45 #ifdef CONFIG_X86_LOCAL_APIC
46 # include <mach_apic.h>
47 #endif
48
49 static int __initdata acpi_force = 0;
50 u32 acpi_rsdt_forced;
51 #ifdef  CONFIG_ACPI
52 int acpi_disabled = 0;
53 #else
54 int acpi_disabled = 1;
55 #endif
56 EXPORT_SYMBOL(acpi_disabled);
57
58 #ifdef  CONFIG_X86_64
59
60 #include <asm/proto.h>
61
62 #else                           /* X86 */
63
64 #ifdef  CONFIG_X86_LOCAL_APIC
65 #include <mach_apic.h>
66 #include <mach_mpparse.h>
67 #endif                          /* CONFIG_X86_LOCAL_APIC */
68
69 #endif                          /* X86 */
70
71 #define BAD_MADT_ENTRY(entry, end) (                                        \
72                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
73                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
74
75 #define PREFIX                  "ACPI: "
76
77 int acpi_noirq;                         /* skip ACPI IRQ initialization */
78 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
79 EXPORT_SYMBOL(acpi_pci_disabled);
80 int acpi_ht __initdata = 1;     /* enable HT */
81
82 int acpi_lapic;
83 int acpi_ioapic;
84 int acpi_strict;
85
86 u8 acpi_sci_flags __initdata;
87 int acpi_sci_override_gsi __initdata;
88 int acpi_skip_timer_override __initdata;
89 int acpi_use_timer_override __initdata;
90
91 #ifdef CONFIG_X86_LOCAL_APIC
92 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
93 #endif
94
95 #ifndef __HAVE_ARCH_CMPXCHG
96 #warning ACPI uses CMPXCHG, i486 and later hardware
97 #endif
98
99 /* --------------------------------------------------------------------------
100                               Boot-time Configuration
101    -------------------------------------------------------------------------- */
102
103 /*
104  * The default interrupt routing model is PIC (8259).  This gets
105  * overridden if IOAPICs are enumerated (below).
106  */
107 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
108
109
110 /*
111  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
112  * to map the target physical address. The problem is that set_fixmap()
113  * provides a single page, and it is possible that the page is not
114  * sufficient.
115  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
116  * i.e. until the next __va_range() call.
117  *
118  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
119  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
120  * count idx down while incrementing the phys address.
121  */
122 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
123 {
124         static char *prev_map;
125         static unsigned long prev_size;
126
127         if (!phys || !size)
128                 return NULL;
129
130         if (prev_map)
131                 early_iounmap(prev_map, prev_size);
132
133         prev_size = size;
134         prev_map = early_ioremap(phys, size);
135
136         return prev_map;
137 }
138
139 #ifdef CONFIG_PCI_MMCONFIG
140
141 static int acpi_mcfg_64bit_base_addr __initdata = FALSE;
142
143 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
144 struct acpi_mcfg_allocation *pci_mmcfg_config;
145 int pci_mmcfg_config_num;
146
147 static int __init acpi_mcfg_oem_check(struct acpi_table_mcfg *mcfg)
148 {
149         if (!strcmp(mcfg->header.oem_id, "SGI"))
150                 acpi_mcfg_64bit_base_addr = TRUE;
151
152         return 0;
153 }
154
155 int __init acpi_parse_mcfg(struct acpi_table_header *header)
156 {
157         struct acpi_table_mcfg *mcfg;
158         unsigned long i;
159         int config_size;
160
161         if (!header)
162                 return -EINVAL;
163
164         mcfg = (struct acpi_table_mcfg *)header;
165
166         /* how many config structures do we have */
167         pci_mmcfg_config_num = 0;
168         i = header->length - sizeof(struct acpi_table_mcfg);
169         while (i >= sizeof(struct acpi_mcfg_allocation)) {
170                 ++pci_mmcfg_config_num;
171                 i -= sizeof(struct acpi_mcfg_allocation);
172         };
173         if (pci_mmcfg_config_num == 0) {
174                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
175                 return -ENODEV;
176         }
177
178         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
179         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
180         if (!pci_mmcfg_config) {
181                 printk(KERN_WARNING PREFIX
182                        "No memory for MCFG config tables\n");
183                 return -ENOMEM;
184         }
185
186         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
187
188         acpi_mcfg_oem_check(mcfg);
189
190         for (i = 0; i < pci_mmcfg_config_num; ++i) {
191                 if ((pci_mmcfg_config[i].address > 0xFFFFFFFF) &&
192                     !acpi_mcfg_64bit_base_addr) {
193                         printk(KERN_ERR PREFIX
194                                "MMCONFIG not in low 4GB of memory\n");
195                         kfree(pci_mmcfg_config);
196                         pci_mmcfg_config_num = 0;
197                         return -ENODEV;
198                 }
199         }
200
201         return 0;
202 }
203 #endif                          /* CONFIG_PCI_MMCONFIG */
204
205 #ifdef CONFIG_X86_LOCAL_APIC
206 static int __init acpi_parse_madt(struct acpi_table_header *table)
207 {
208         struct acpi_table_madt *madt = NULL;
209
210         if (!cpu_has_apic)
211                 return -EINVAL;
212
213         madt = (struct acpi_table_madt *)table;
214         if (!madt) {
215                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
216                 return -ENODEV;
217         }
218
219         if (madt->address) {
220                 acpi_lapic_addr = (u64) madt->address;
221
222                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
223                        madt->address);
224         }
225
226         acpi_madt_oem_check(madt->header.oem_id, madt->header.oem_table_id);
227
228         return 0;
229 }
230
231 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
232 {
233         unsigned int ver = 0;
234
235         if (!enabled) {
236                 ++disabled_cpus;
237                 return;
238         }
239
240         if (boot_cpu_physical_apicid != -1U)
241                 ver = apic_version[boot_cpu_physical_apicid];
242
243         generic_processor_info(id, ver);
244 }
245
246 static int __init
247 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
248 {
249         struct acpi_madt_local_apic *processor = NULL;
250
251         processor = (struct acpi_madt_local_apic *)header;
252
253         if (BAD_MADT_ENTRY(processor, end))
254                 return -EINVAL;
255
256         acpi_table_print_madt_entry(header);
257
258         /*
259          * We need to register disabled CPU as well to permit
260          * counting disabled CPUs. This allows us to size
261          * cpus_possible_map more accurately, to permit
262          * to not preallocating memory for all NR_CPUS
263          * when we use CPU hotplug.
264          */
265         acpi_register_lapic(processor->id,      /* APIC ID */
266                             processor->lapic_flags & ACPI_MADT_ENABLED);
267
268         return 0;
269 }
270
271 static int __init
272 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
273 {
274         struct acpi_madt_local_sapic *processor = NULL;
275
276         processor = (struct acpi_madt_local_sapic *)header;
277
278         if (BAD_MADT_ENTRY(processor, end))
279                 return -EINVAL;
280
281         acpi_table_print_madt_entry(header);
282
283         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
284                             processor->lapic_flags & ACPI_MADT_ENABLED);
285
286         return 0;
287 }
288
289 static int __init
290 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
291                           const unsigned long end)
292 {
293         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
294
295         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
296
297         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
298                 return -EINVAL;
299
300         acpi_lapic_addr = lapic_addr_ovr->address;
301
302         return 0;
303 }
304
305 static int __init
306 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
307 {
308         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
309
310         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
311
312         if (BAD_MADT_ENTRY(lapic_nmi, end))
313                 return -EINVAL;
314
315         acpi_table_print_madt_entry(header);
316
317         if (lapic_nmi->lint != 1)
318                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
319
320         return 0;
321 }
322
323 #endif                          /*CONFIG_X86_LOCAL_APIC */
324
325 #ifdef CONFIG_X86_IO_APIC
326
327 static int __init
328 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
329 {
330         struct acpi_madt_io_apic *ioapic = NULL;
331
332         ioapic = (struct acpi_madt_io_apic *)header;
333
334         if (BAD_MADT_ENTRY(ioapic, end))
335                 return -EINVAL;
336
337         acpi_table_print_madt_entry(header);
338
339         mp_register_ioapic(ioapic->id,
340                            ioapic->address, ioapic->global_irq_base);
341
342         return 0;
343 }
344
345 /*
346  * Parse Interrupt Source Override for the ACPI SCI
347  */
348 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
349 {
350         if (trigger == 0)       /* compatible SCI trigger is level */
351                 trigger = 3;
352
353         if (polarity == 0)      /* compatible SCI polarity is low */
354                 polarity = 3;
355
356         /* Command-line over-ride via acpi_sci= */
357         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
358                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
359
360         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
361                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
362
363         /*
364          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
365          * If GSI is < 16, this will update its flags,
366          * else it will create a new mp_irqs[] entry.
367          */
368         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
369
370         /*
371          * stash over-ride to indicate we've been here
372          * and for later update of acpi_gbl_FADT
373          */
374         acpi_sci_override_gsi = gsi;
375         return;
376 }
377
378 static int __init
379 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
380                        const unsigned long end)
381 {
382         struct acpi_madt_interrupt_override *intsrc = NULL;
383
384         intsrc = (struct acpi_madt_interrupt_override *)header;
385
386         if (BAD_MADT_ENTRY(intsrc, end))
387                 return -EINVAL;
388
389         acpi_table_print_madt_entry(header);
390
391         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
392                 acpi_sci_ioapic_setup(intsrc->global_irq,
393                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
394                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
395                 return 0;
396         }
397
398         if (acpi_skip_timer_override &&
399             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
400                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
401                 return 0;
402         }
403
404         mp_override_legacy_irq(intsrc->source_irq,
405                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
406                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
407                                 intsrc->global_irq);
408
409         return 0;
410 }
411
412 static int __init
413 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
414 {
415         struct acpi_madt_nmi_source *nmi_src = NULL;
416
417         nmi_src = (struct acpi_madt_nmi_source *)header;
418
419         if (BAD_MADT_ENTRY(nmi_src, end))
420                 return -EINVAL;
421
422         acpi_table_print_madt_entry(header);
423
424         /* TBD: Support nimsrc entries? */
425
426         return 0;
427 }
428
429 #endif                          /* CONFIG_X86_IO_APIC */
430
431 /*
432  * acpi_pic_sci_set_trigger()
433  *
434  * use ELCR to set PIC-mode trigger type for SCI
435  *
436  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
437  * it may require Edge Trigger -- use "acpi_sci=edge"
438  *
439  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
440  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
441  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
442  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
443  */
444
445 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
446 {
447         unsigned int mask = 1 << irq;
448         unsigned int old, new;
449
450         /* Real old ELCR mask */
451         old = inb(0x4d0) | (inb(0x4d1) << 8);
452
453         /*
454          * If we use ACPI to set PCI IRQs, then we should clear ELCR
455          * since we will set it correctly as we enable the PCI irq
456          * routing.
457          */
458         new = acpi_noirq ? old : 0;
459
460         /*
461          * Update SCI information in the ELCR, it isn't in the PCI
462          * routing tables..
463          */
464         switch (trigger) {
465         case 1:         /* Edge - clear */
466                 new &= ~mask;
467                 break;
468         case 3:         /* Level - set */
469                 new |= mask;
470                 break;
471         }
472
473         if (old == new)
474                 return;
475
476         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
477         outb(new, 0x4d0);
478         outb(new >> 8, 0x4d1);
479 }
480
481 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
482 {
483         *irq = gsi;
484         return 0;
485 }
486
487 /*
488  * success: return IRQ number (>=0)
489  * failure: return < 0
490  */
491 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
492 {
493         unsigned int irq;
494         unsigned int plat_gsi = gsi;
495
496 #ifdef CONFIG_PCI
497         /*
498          * Make sure all (legacy) PCI IRQs are set as level-triggered.
499          */
500         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
501                 if (triggering == ACPI_LEVEL_SENSITIVE)
502                         eisa_set_level_irq(gsi);
503         }
504 #endif
505
506 #ifdef CONFIG_X86_IO_APIC
507         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
508                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
509         }
510 #endif
511         acpi_gsi_to_irq(plat_gsi, &irq);
512         return irq;
513 }
514
515 /*
516  *  ACPI based hotplug support for CPU
517  */
518 #ifdef CONFIG_ACPI_HOTPLUG_CPU
519
520 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
521 {
522         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
523         union acpi_object *obj;
524         struct acpi_madt_local_apic *lapic;
525         cpumask_var_t tmp_map, new_map;
526         u8 physid;
527         int cpu;
528         int retval = -ENOMEM;
529
530         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
531                 return -EINVAL;
532
533         if (!buffer.length || !buffer.pointer)
534                 return -EINVAL;
535
536         obj = buffer.pointer;
537         if (obj->type != ACPI_TYPE_BUFFER ||
538             obj->buffer.length < sizeof(*lapic)) {
539                 kfree(buffer.pointer);
540                 return -EINVAL;
541         }
542
543         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
544
545         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
546             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
547                 kfree(buffer.pointer);
548                 return -EINVAL;
549         }
550
551         physid = lapic->id;
552
553         kfree(buffer.pointer);
554         buffer.length = ACPI_ALLOCATE_BUFFER;
555         buffer.pointer = NULL;
556
557         if (!alloc_cpumask_var(&tmp_map, GFP_KERNEL))
558                 goto out;
559
560         if (!alloc_cpumask_var(&new_map, GFP_KERNEL))
561                 goto free_tmp_map;
562
563         cpumask_copy(tmp_map, cpu_present_mask);
564         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
565
566         /*
567          * If mp_register_lapic successfully generates a new logical cpu
568          * number, then the following will get us exactly what was mapped
569          */
570         cpumask_andnot(new_map, cpu_present_mask, tmp_map);
571         if (cpumask_empty(new_map)) {
572                 printk ("Unable to map lapic to logical cpu number\n");
573                 retval = -EINVAL;
574                 goto free_new_map;
575         }
576
577         cpu = cpumask_first(new_map);
578
579         *pcpu = cpu;
580         retval = 0;
581
582 free_new_map:
583         free_cpumask_var(new_map);
584 free_tmp_map:
585         free_cpumask_var(tmp_map);
586 out:
587         return retval;
588 }
589
590 /* wrapper to silence section mismatch warning */
591 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
592 {
593         return _acpi_map_lsapic(handle, pcpu);
594 }
595 EXPORT_SYMBOL(acpi_map_lsapic);
596
597 int acpi_unmap_lsapic(int cpu)
598 {
599         per_cpu(x86_cpu_to_apicid, cpu) = -1;
600         set_cpu_present(cpu, false);
601         num_processors--;
602
603         return (0);
604 }
605
606 EXPORT_SYMBOL(acpi_unmap_lsapic);
607 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
608
609 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
610 {
611         /* TBD */
612         return -EINVAL;
613 }
614
615 EXPORT_SYMBOL(acpi_register_ioapic);
616
617 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
618 {
619         /* TBD */
620         return -EINVAL;
621 }
622
623 EXPORT_SYMBOL(acpi_unregister_ioapic);
624
625 static int __init acpi_parse_sbf(struct acpi_table_header *table)
626 {
627         struct acpi_table_boot *sb;
628
629         sb = (struct acpi_table_boot *)table;
630         if (!sb) {
631                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
632                 return -ENODEV;
633         }
634
635         sbf_port = sb->cmos_index;      /* Save CMOS port */
636
637         return 0;
638 }
639
640 #ifdef CONFIG_HPET_TIMER
641 #include <asm/hpet.h>
642
643 static struct __initdata resource *hpet_res;
644
645 static int __init acpi_parse_hpet(struct acpi_table_header *table)
646 {
647         struct acpi_table_hpet *hpet_tbl;
648
649         hpet_tbl = (struct acpi_table_hpet *)table;
650         if (!hpet_tbl) {
651                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
652                 return -ENODEV;
653         }
654
655         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
656                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
657                        "memory.\n");
658                 return -1;
659         }
660
661         hpet_address = hpet_tbl->address.address;
662
663         /*
664          * Some broken BIOSes advertise HPET at 0x0. We really do not
665          * want to allocate a resource there.
666          */
667         if (!hpet_address) {
668                 printk(KERN_WARNING PREFIX
669                        "HPET id: %#x base: %#lx is invalid\n",
670                        hpet_tbl->id, hpet_address);
671                 return 0;
672         }
673 #ifdef CONFIG_X86_64
674         /*
675          * Some even more broken BIOSes advertise HPET at
676          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
677          * some noise:
678          */
679         if (hpet_address == 0xfed0000000000000UL) {
680                 if (!hpet_force_user) {
681                         printk(KERN_WARNING PREFIX "HPET id: %#x "
682                                "base: 0xfed0000000000000 is bogus\n "
683                                "try hpet=force on the kernel command line to "
684                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
685                         hpet_address = 0;
686                         return 0;
687                 }
688                 printk(KERN_WARNING PREFIX
689                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
690                        "to 0xfed00000.\n", hpet_tbl->id);
691                 hpet_address >>= 32;
692         }
693 #endif
694         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
695                hpet_tbl->id, hpet_address);
696
697         /*
698          * Allocate and initialize the HPET firmware resource for adding into
699          * the resource tree during the lateinit timeframe.
700          */
701 #define HPET_RESOURCE_NAME_SIZE 9
702         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
703
704         hpet_res->name = (void *)&hpet_res[1];
705         hpet_res->flags = IORESOURCE_MEM;
706         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
707                  hpet_tbl->sequence);
708
709         hpet_res->start = hpet_address;
710         hpet_res->end = hpet_address + (1 * 1024) - 1;
711
712         return 0;
713 }
714
715 /*
716  * hpet_insert_resource inserts the HPET resources used into the resource
717  * tree.
718  */
719 static __init int hpet_insert_resource(void)
720 {
721         if (!hpet_res)
722                 return 1;
723
724         return insert_resource(&iomem_resource, hpet_res);
725 }
726
727 late_initcall(hpet_insert_resource);
728
729 #else
730 #define acpi_parse_hpet NULL
731 #endif
732
733 static int __init acpi_parse_fadt(struct acpi_table_header *table)
734 {
735
736 #ifdef CONFIG_X86_PM_TIMER
737         /* detect the location of the ACPI PM Timer */
738         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
739                 /* FADT rev. 2 */
740                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
741                     ACPI_ADR_SPACE_SYSTEM_IO)
742                         return 0;
743
744                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
745                 /*
746                  * "X" fields are optional extensions to the original V1.0
747                  * fields, so we must selectively expand V1.0 fields if the
748                  * corresponding X field is zero.
749                  */
750                 if (!pmtmr_ioport)
751                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
752         } else {
753                 /* FADT rev. 1 */
754                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
755         }
756         if (pmtmr_ioport)
757                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
758                        pmtmr_ioport);
759 #endif
760         return 0;
761 }
762
763 #ifdef  CONFIG_X86_LOCAL_APIC
764 /*
765  * Parse LAPIC entries in MADT
766  * returns 0 on success, < 0 on error
767  */
768
769 static void __init acpi_register_lapic_address(unsigned long address)
770 {
771         mp_lapic_addr = address;
772
773         set_fixmap_nocache(FIX_APIC_BASE, address);
774         if (boot_cpu_physical_apicid == -1U) {
775                 boot_cpu_physical_apicid  = read_apic_id();
776                 apic_version[boot_cpu_physical_apicid] =
777                          GET_APIC_VERSION(apic_read(APIC_LVR));
778         }
779 }
780
781 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
782 {
783         int count;
784
785         if (!cpu_has_apic)
786                 return -ENODEV;
787
788         /*
789          * Note that the LAPIC address is obtained from the MADT (32-bit value)
790          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
791          */
792
793         count =
794             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
795                                   acpi_parse_lapic_addr_ovr, 0);
796         if (count < 0) {
797                 printk(KERN_ERR PREFIX
798                        "Error parsing LAPIC address override entry\n");
799                 return count;
800         }
801
802         acpi_register_lapic_address(acpi_lapic_addr);
803
804         return count;
805 }
806
807 static int __init acpi_parse_madt_lapic_entries(void)
808 {
809         int count;
810
811         if (!cpu_has_apic)
812                 return -ENODEV;
813
814         /*
815          * Note that the LAPIC address is obtained from the MADT (32-bit value)
816          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
817          */
818
819         count =
820             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
821                                   acpi_parse_lapic_addr_ovr, 0);
822         if (count < 0) {
823                 printk(KERN_ERR PREFIX
824                        "Error parsing LAPIC address override entry\n");
825                 return count;
826         }
827
828         acpi_register_lapic_address(acpi_lapic_addr);
829
830         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
831                                       acpi_parse_sapic, MAX_APICS);
832
833         if (!count)
834                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
835                                               acpi_parse_lapic, MAX_APICS);
836         if (!count) {
837                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
838                 /* TBD: Cleanup to allow fallback to MPS */
839                 return -ENODEV;
840         } else if (count < 0) {
841                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
842                 /* TBD: Cleanup to allow fallback to MPS */
843                 return count;
844         }
845
846         count =
847             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
848         if (count < 0) {
849                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
850                 /* TBD: Cleanup to allow fallback to MPS */
851                 return count;
852         }
853         return 0;
854 }
855 #endif                          /* CONFIG_X86_LOCAL_APIC */
856
857 #ifdef  CONFIG_X86_IO_APIC
858 #define MP_ISA_BUS              0
859
860 #ifdef CONFIG_X86_ES7000
861 extern int es7000_plat;
862 #endif
863
864 static struct {
865         int apic_id;
866         int gsi_base;
867         int gsi_end;
868         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
869 } mp_ioapic_routing[MAX_IO_APICS];
870
871 static int mp_find_ioapic(int gsi)
872 {
873         int i = 0;
874
875         /* Find the IOAPIC that manages this GSI. */
876         for (i = 0; i < nr_ioapics; i++) {
877                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
878                     && (gsi <= mp_ioapic_routing[i].gsi_end))
879                         return i;
880         }
881
882         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
883         return -1;
884 }
885
886 static u8 __init uniq_ioapic_id(u8 id)
887 {
888 #ifdef CONFIG_X86_32
889         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
890             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
891                 return io_apic_get_unique_id(nr_ioapics, id);
892         else
893                 return id;
894 #else
895         int i;
896         DECLARE_BITMAP(used, 256);
897         bitmap_zero(used, 256);
898         for (i = 0; i < nr_ioapics; i++) {
899                 struct mp_config_ioapic *ia = &mp_ioapics[i];
900                 __set_bit(ia->mp_apicid, used);
901         }
902         if (!test_bit(id, used))
903                 return id;
904         return find_first_zero_bit(used, 256);
905 #endif
906 }
907
908 static int bad_ioapic(unsigned long address)
909 {
910         if (nr_ioapics >= MAX_IO_APICS) {
911                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
912                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
913                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
914         }
915         if (!address) {
916                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
917                        " found in table, skipping!\n");
918                 return 1;
919         }
920         return 0;
921 }
922
923 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
924 {
925         int idx = 0;
926
927         if (bad_ioapic(address))
928                 return;
929
930         idx = nr_ioapics;
931
932         mp_ioapics[idx].mp_type = MP_IOAPIC;
933         mp_ioapics[idx].mp_flags = MPC_APIC_USABLE;
934         mp_ioapics[idx].mp_apicaddr = address;
935
936         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
937         mp_ioapics[idx].mp_apicid = uniq_ioapic_id(id);
938 #ifdef CONFIG_X86_32
939         mp_ioapics[idx].mp_apicver = io_apic_get_version(idx);
940 #else
941         mp_ioapics[idx].mp_apicver = 0;
942 #endif
943         /*
944          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
945          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
946          */
947         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].mp_apicid;
948         mp_ioapic_routing[idx].gsi_base = gsi_base;
949         mp_ioapic_routing[idx].gsi_end = gsi_base +
950             io_apic_get_redir_entries(idx);
951
952         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%lx, "
953                "GSI %d-%d\n", idx, mp_ioapics[idx].mp_apicid,
954                mp_ioapics[idx].mp_apicver, mp_ioapics[idx].mp_apicaddr,
955                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
956
957         nr_ioapics++;
958 }
959
960 static void assign_to_mp_irq(struct mp_config_intsrc *m,
961                                     struct mp_config_intsrc *mp_irq)
962 {
963         memcpy(mp_irq, m, sizeof(struct mp_config_intsrc));
964 }
965
966 static int mp_irq_cmp(struct mp_config_intsrc *mp_irq,
967                                 struct mp_config_intsrc *m)
968 {
969         return memcmp(mp_irq, m, sizeof(struct mp_config_intsrc));
970 }
971
972 static void save_mp_irq(struct mp_config_intsrc *m)
973 {
974         int i;
975
976         for (i = 0; i < mp_irq_entries; i++) {
977                 if (!mp_irq_cmp(&mp_irqs[i], m))
978                         return;
979         }
980
981         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
982         if (++mp_irq_entries == MAX_IRQ_SOURCES)
983                 panic("Max # of irq sources exceeded!!\n");
984 }
985
986 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
987 {
988         int ioapic;
989         int pin;
990         struct mp_config_intsrc mp_irq;
991
992         /*
993          * Convert 'gsi' to 'ioapic.pin'.
994          */
995         ioapic = mp_find_ioapic(gsi);
996         if (ioapic < 0)
997                 return;
998         pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
999
1000         /*
1001          * TBD: This check is for faulty timer entries, where the override
1002          *      erroneously sets the trigger to level, resulting in a HUGE
1003          *      increase of timer interrupts!
1004          */
1005         if ((bus_irq == 0) && (trigger == 3))
1006                 trigger = 1;
1007
1008         mp_irq.mp_type = MP_INTSRC;
1009         mp_irq.mp_irqtype = mp_INT;
1010         mp_irq.mp_irqflag = (trigger << 2) | polarity;
1011         mp_irq.mp_srcbus = MP_ISA_BUS;
1012         mp_irq.mp_srcbusirq = bus_irq;  /* IRQ */
1013         mp_irq.mp_dstapic = mp_ioapics[ioapic].mp_apicid; /* APIC ID */
1014         mp_irq.mp_dstirq = pin; /* INTIN# */
1015
1016         save_mp_irq(&mp_irq);
1017 }
1018
1019 void __init mp_config_acpi_legacy_irqs(void)
1020 {
1021         int i;
1022         int ioapic;
1023         unsigned int dstapic;
1024         struct mp_config_intsrc mp_irq;
1025
1026 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1027         /*
1028          * Fabricate the legacy ISA bus (bus #31).
1029          */
1030         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1031 #endif
1032         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1033         pr_debug("Bus #%d is ISA\n", MP_ISA_BUS);
1034
1035 #ifdef CONFIG_X86_ES7000
1036         /*
1037          * Older generations of ES7000 have no legacy identity mappings
1038          */
1039         if (es7000_plat == 1)
1040                 return;
1041 #endif
1042
1043         /*
1044          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1045          */
1046         ioapic = mp_find_ioapic(0);
1047         if (ioapic < 0)
1048                 return;
1049         dstapic = mp_ioapics[ioapic].mp_apicid;
1050
1051         /*
1052          * Use the default configuration for the IRQs 0-15.  Unless
1053          * overridden by (MADT) interrupt source override entries.
1054          */
1055         for (i = 0; i < 16; i++) {
1056                 int idx;
1057
1058                 for (idx = 0; idx < mp_irq_entries; idx++) {
1059                         struct mp_config_intsrc *irq = mp_irqs + idx;
1060
1061                         /* Do we already have a mapping for this ISA IRQ? */
1062                         if (irq->mp_srcbus == MP_ISA_BUS
1063                             && irq->mp_srcbusirq == i)
1064                                 break;
1065
1066                         /* Do we already have a mapping for this IOAPIC pin */
1067                         if (irq->mp_dstapic == dstapic &&
1068                             irq->mp_dstirq == i)
1069                                 break;
1070                 }
1071
1072                 if (idx != mp_irq_entries) {
1073                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1074                         continue;       /* IRQ already used */
1075                 }
1076
1077                 mp_irq.mp_type = MP_INTSRC;
1078                 mp_irq.mp_irqflag = 0;  /* Conforming */
1079                 mp_irq.mp_srcbus = MP_ISA_BUS;
1080                 mp_irq.mp_dstapic = dstapic;
1081                 mp_irq.mp_irqtype = mp_INT;
1082                 mp_irq.mp_srcbusirq = i; /* Identity mapped */
1083                 mp_irq.mp_dstirq = i;
1084
1085                 save_mp_irq(&mp_irq);
1086         }
1087 }
1088
1089 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1090 {
1091         int ioapic;
1092         int ioapic_pin;
1093 #ifdef CONFIG_X86_32
1094 #define MAX_GSI_NUM     4096
1095 #define IRQ_COMPRESSION_START   64
1096
1097         static int pci_irq = IRQ_COMPRESSION_START;
1098         /*
1099          * Mapping between Global System Interrupts, which
1100          * represent all possible interrupts, and IRQs
1101          * assigned to actual devices.
1102          */
1103         static int gsi_to_irq[MAX_GSI_NUM];
1104 #else
1105
1106         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1107                 return gsi;
1108 #endif
1109
1110         /* Don't set up the ACPI SCI because it's already set up */
1111         if (acpi_gbl_FADT.sci_interrupt == gsi)
1112                 return gsi;
1113
1114         ioapic = mp_find_ioapic(gsi);
1115         if (ioapic < 0) {
1116                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1117                 return gsi;
1118         }
1119
1120         ioapic_pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1121
1122 #ifdef CONFIG_X86_32
1123         if (ioapic_renumber_irq)
1124                 gsi = ioapic_renumber_irq(ioapic, gsi);
1125 #endif
1126
1127         /*
1128          * Avoid pin reprogramming.  PRTs typically include entries
1129          * with redundant pin->gsi mappings (but unique PCI devices);
1130          * we only program the IOAPIC on the first.
1131          */
1132         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1133                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1134                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1135                        ioapic_pin);
1136                 return gsi;
1137         }
1138         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1139                 pr_debug("Pin %d-%d already programmed\n",
1140                          mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1141 #ifdef CONFIG_X86_32
1142                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1143 #else
1144                 return gsi;
1145 #endif
1146         }
1147
1148         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1149 #ifdef CONFIG_X86_32
1150         /*
1151          * For GSI >= 64, use IRQ compression
1152          */
1153         if ((gsi >= IRQ_COMPRESSION_START)
1154             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1155                 /*
1156                  * For PCI devices assign IRQs in order, avoiding gaps
1157                  * due to unused I/O APIC pins.
1158                  */
1159                 int irq = gsi;
1160                 if (gsi < MAX_GSI_NUM) {
1161                         /*
1162                          * Retain the VIA chipset work-around (gsi > 15), but
1163                          * avoid a problem where the 8254 timer (IRQ0) is setup
1164                          * via an override (so it's not on pin 0 of the ioapic),
1165                          * and at the same time, the pin 0 interrupt is a PCI
1166                          * type.  The gsi > 15 test could cause these two pins
1167                          * to be shared as IRQ0, and they are not shareable.
1168                          * So test for this condition, and if necessary, avoid
1169                          * the pin collision.
1170                          */
1171                         gsi = pci_irq++;
1172                         /*
1173                          * Don't assign IRQ used by ACPI SCI
1174                          */
1175                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1176                                 gsi = pci_irq++;
1177                         gsi_to_irq[irq] = gsi;
1178                 } else {
1179                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1180                         return gsi;
1181                 }
1182         }
1183 #endif
1184         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1185                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1186                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1187         return gsi;
1188 }
1189
1190 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1191                         u32 gsi, int triggering, int polarity)
1192 {
1193 #ifdef CONFIG_X86_MPPARSE
1194         struct mp_config_intsrc mp_irq;
1195         int ioapic;
1196
1197         if (!acpi_ioapic)
1198                 return 0;
1199
1200         /* print the entry should happen on mptable identically */
1201         mp_irq.mp_type = MP_INTSRC;
1202         mp_irq.mp_irqtype = mp_INT;
1203         mp_irq.mp_irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1204                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1205         mp_irq.mp_srcbus = number;
1206         mp_irq.mp_srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1207         ioapic = mp_find_ioapic(gsi);
1208         mp_irq.mp_dstapic = mp_ioapic_routing[ioapic].apic_id;
1209         mp_irq.mp_dstirq = gsi - mp_ioapic_routing[ioapic].gsi_base;
1210
1211         save_mp_irq(&mp_irq);
1212 #endif
1213         return 0;
1214 }
1215
1216 /*
1217  * Parse IOAPIC related entries in MADT
1218  * returns 0 on success, < 0 on error
1219  */
1220 static int __init acpi_parse_madt_ioapic_entries(void)
1221 {
1222         int count;
1223
1224         /*
1225          * ACPI interpreter is required to complete interrupt setup,
1226          * so if it is off, don't enumerate the io-apics with ACPI.
1227          * If MPS is present, it will handle them,
1228          * otherwise the system will stay in PIC mode
1229          */
1230         if (acpi_disabled || acpi_noirq) {
1231                 return -ENODEV;
1232         }
1233
1234         if (!cpu_has_apic)
1235                 return -ENODEV;
1236
1237         /*
1238          * if "noapic" boot option, don't look for IO-APICs
1239          */
1240         if (skip_ioapic_setup) {
1241                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1242                        "due to 'noapic' option.\n");
1243                 return -ENODEV;
1244         }
1245
1246         count =
1247             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1248                                   MAX_IO_APICS);
1249         if (!count) {
1250                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1251                 return -ENODEV;
1252         } else if (count < 0) {
1253                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1254                 return count;
1255         }
1256
1257         count =
1258             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1259                                   nr_irqs);
1260         if (count < 0) {
1261                 printk(KERN_ERR PREFIX
1262                        "Error parsing interrupt source overrides entry\n");
1263                 /* TBD: Cleanup to allow fallback to MPS */
1264                 return count;
1265         }
1266
1267         /*
1268          * If BIOS did not supply an INT_SRC_OVR for the SCI
1269          * pretend we got one so we can set the SCI flags.
1270          */
1271         if (!acpi_sci_override_gsi)
1272                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1273
1274         /* Fill in identity legacy mapings where no override */
1275         mp_config_acpi_legacy_irqs();
1276
1277         count =
1278             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1279                                   nr_irqs);
1280         if (count < 0) {
1281                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1282                 /* TBD: Cleanup to allow fallback to MPS */
1283                 return count;
1284         }
1285
1286         return 0;
1287 }
1288 #else
1289 static inline int acpi_parse_madt_ioapic_entries(void)
1290 {
1291         return -1;
1292 }
1293 #endif  /* !CONFIG_X86_IO_APIC */
1294
1295 static void __init early_acpi_process_madt(void)
1296 {
1297 #ifdef CONFIG_X86_LOCAL_APIC
1298         int error;
1299
1300         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1301
1302                 /*
1303                  * Parse MADT LAPIC entries
1304                  */
1305                 error = early_acpi_parse_madt_lapic_addr_ovr();
1306                 if (!error) {
1307                         acpi_lapic = 1;
1308                         smp_found_config = 1;
1309                 }
1310                 if (error == -EINVAL) {
1311                         /*
1312                          * Dell Precision Workstation 410, 610 come here.
1313                          */
1314                         printk(KERN_ERR PREFIX
1315                                "Invalid BIOS MADT, disabling ACPI\n");
1316                         disable_acpi();
1317                 }
1318         }
1319 #endif
1320 }
1321
1322 static void __init acpi_process_madt(void)
1323 {
1324 #ifdef CONFIG_X86_LOCAL_APIC
1325         int error;
1326
1327         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1328
1329                 /*
1330                  * Parse MADT LAPIC entries
1331                  */
1332                 error = acpi_parse_madt_lapic_entries();
1333                 if (!error) {
1334                         acpi_lapic = 1;
1335
1336 #ifdef CONFIG_X86_GENERICARCH
1337                         generic_bigsmp_probe();
1338 #endif
1339                         /*
1340                          * Parse MADT IO-APIC entries
1341                          */
1342                         error = acpi_parse_madt_ioapic_entries();
1343                         if (!error) {
1344                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1345                                 acpi_ioapic = 1;
1346
1347                                 smp_found_config = 1;
1348 #ifdef CONFIG_X86_32
1349                                 setup_apic_routing();
1350 #endif
1351                         }
1352                 }
1353                 if (error == -EINVAL) {
1354                         /*
1355                          * Dell Precision Workstation 410, 610 come here.
1356                          */
1357                         printk(KERN_ERR PREFIX
1358                                "Invalid BIOS MADT, disabling ACPI\n");
1359                         disable_acpi();
1360                 }
1361         } else {
1362                 /*
1363                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1364                  * In the event an MPS table was found, forget it.
1365                  * Boot with "acpi=off" to use MPS on such a system.
1366                  */
1367                 if (smp_found_config) {
1368                         printk(KERN_WARNING PREFIX
1369                                 "No APIC-table, disabling MPS\n");
1370                         smp_found_config = 0;
1371                 }
1372         }
1373
1374         /*
1375          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1376          * processors, where MPS only supports physical.
1377          */
1378         if (acpi_lapic && acpi_ioapic)
1379                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1380                        "information\n");
1381         else if (acpi_lapic)
1382                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1383                        "configuration information\n");
1384 #endif
1385         return;
1386 }
1387
1388 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1389 {
1390         if (!acpi_force) {
1391                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1392                        d->ident);
1393                 acpi_noirq_set();
1394         }
1395         return 0;
1396 }
1397
1398 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1399 {
1400         if (!acpi_force) {
1401                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1402                        d->ident);
1403                 acpi_disable_pci();
1404         }
1405         return 0;
1406 }
1407
1408 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1409 {
1410         if (!acpi_force) {
1411                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1412                 disable_acpi();
1413         } else {
1414                 printk(KERN_NOTICE
1415                        "Warning: DMI blacklist says broken, but acpi forced\n");
1416         }
1417         return 0;
1418 }
1419
1420 /*
1421  * Limit ACPI to CPU enumeration for HT
1422  */
1423 static int __init force_acpi_ht(const struct dmi_system_id *d)
1424 {
1425         if (!acpi_force) {
1426                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1427                        d->ident);
1428                 disable_acpi();
1429                 acpi_ht = 1;
1430         } else {
1431                 printk(KERN_NOTICE
1432                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1433         }
1434         return 0;
1435 }
1436
1437 /*
1438  * Force ignoring BIOS IRQ0 pin2 override
1439  */
1440 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1441 {
1442         /*
1443          * The ati_ixp4x0_rev() early PCI quirk should have set
1444          * the acpi_skip_timer_override flag already:
1445          */
1446         if (!acpi_skip_timer_override) {
1447                 WARN(1, KERN_ERR "ati_ixp4x0 quirk not complete.\n");
1448                 pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n",
1449                         d->ident);
1450                 acpi_skip_timer_override = 1;
1451         }
1452         return 0;
1453 }
1454
1455 /*
1456  * If your system is blacklisted here, but you find that acpi=force
1457  * works for you, please contact acpi-devel@sourceforge.net
1458  */
1459 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1460         /*
1461          * Boxes that need ACPI disabled
1462          */
1463         {
1464          .callback = dmi_disable_acpi,
1465          .ident = "IBM Thinkpad",
1466          .matches = {
1467                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1468                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1469                      },
1470          },
1471
1472         /*
1473          * Boxes that need acpi=ht
1474          */
1475         {
1476          .callback = force_acpi_ht,
1477          .ident = "FSC Primergy T850",
1478          .matches = {
1479                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1480                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1481                      },
1482          },
1483         {
1484          .callback = force_acpi_ht,
1485          .ident = "HP VISUALIZE NT Workstation",
1486          .matches = {
1487                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1488                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1489                      },
1490          },
1491         {
1492          .callback = force_acpi_ht,
1493          .ident = "Compaq Workstation W8000",
1494          .matches = {
1495                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1496                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1497                      },
1498          },
1499         {
1500          .callback = force_acpi_ht,
1501          .ident = "ASUS P4B266",
1502          .matches = {
1503                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1504                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1505                      },
1506          },
1507         {
1508          .callback = force_acpi_ht,
1509          .ident = "ASUS P2B-DS",
1510          .matches = {
1511                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1512                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1513                      },
1514          },
1515         {
1516          .callback = force_acpi_ht,
1517          .ident = "ASUS CUR-DLS",
1518          .matches = {
1519                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1520                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1521                      },
1522          },
1523         {
1524          .callback = force_acpi_ht,
1525          .ident = "ABIT i440BX-W83977",
1526          .matches = {
1527                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1528                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1529                      },
1530          },
1531         {
1532          .callback = force_acpi_ht,
1533          .ident = "IBM Bladecenter",
1534          .matches = {
1535                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1536                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1537                      },
1538          },
1539         {
1540          .callback = force_acpi_ht,
1541          .ident = "IBM eServer xSeries 360",
1542          .matches = {
1543                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1544                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1545                      },
1546          },
1547         {
1548          .callback = force_acpi_ht,
1549          .ident = "IBM eserver xSeries 330",
1550          .matches = {
1551                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1552                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1553                      },
1554          },
1555         {
1556          .callback = force_acpi_ht,
1557          .ident = "IBM eserver xSeries 440",
1558          .matches = {
1559                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1560                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1561                      },
1562          },
1563
1564         /*
1565          * Boxes that need ACPI PCI IRQ routing disabled
1566          */
1567         {
1568          .callback = disable_acpi_irq,
1569          .ident = "ASUS A7V",
1570          .matches = {
1571                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1572                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1573                      /* newer BIOS, Revision 1011, does work */
1574                      DMI_MATCH(DMI_BIOS_VERSION,
1575                                "ASUS A7V ACPI BIOS Revision 1007"),
1576                      },
1577          },
1578         {
1579                 /*
1580                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1581                  * for LPC bridge, which is needed for the PCI
1582                  * interrupt links to work. DSDT fix is in bug 5966.
1583                  * 2645, 2646 model numbers are shared with 600/600E/600X
1584                  */
1585          .callback = disable_acpi_irq,
1586          .ident = "IBM Thinkpad 600 Series 2645",
1587          .matches = {
1588                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1589                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1590                      },
1591          },
1592         {
1593          .callback = disable_acpi_irq,
1594          .ident = "IBM Thinkpad 600 Series 2646",
1595          .matches = {
1596                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1597                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1598                      },
1599          },
1600         /*
1601          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1602          */
1603         {                       /* _BBN 0 bug */
1604          .callback = disable_acpi_pci,
1605          .ident = "ASUS PR-DLS",
1606          .matches = {
1607                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1608                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1609                      DMI_MATCH(DMI_BIOS_VERSION,
1610                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1611                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1612                      },
1613          },
1614         {
1615          .callback = disable_acpi_pci,
1616          .ident = "Acer TravelMate 36x Laptop",
1617          .matches = {
1618                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1619                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1620                      },
1621          },
1622         {}
1623 };
1624
1625 /* second table for DMI checks that should run after early-quirks */
1626 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1627         /*
1628          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1629          * which includes some code which overrides all temperature
1630          * trip points to 16C if the INTIN2 input of the I/O APIC
1631          * is enabled.  This input is incorrectly designated the
1632          * ISA IRQ 0 via an interrupt source override even though
1633          * it is wired to the output of the master 8259A and INTIN0
1634          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1635          * override in that cases.
1636          */
1637         {
1638          .callback = dmi_ignore_irq0_timer_override,
1639          .ident = "HP nx6115 laptop",
1640          .matches = {
1641                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1642                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1643                      },
1644          },
1645         {
1646          .callback = dmi_ignore_irq0_timer_override,
1647          .ident = "HP NX6125 laptop",
1648          .matches = {
1649                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1650                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1651                      },
1652          },
1653         {
1654          .callback = dmi_ignore_irq0_timer_override,
1655          .ident = "HP NX6325 laptop",
1656          .matches = {
1657                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1658                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1659                      },
1660          },
1661         {
1662          .callback = dmi_ignore_irq0_timer_override,
1663          .ident = "HP 6715b laptop",
1664          .matches = {
1665                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1666                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1667                      },
1668          },
1669         {}
1670 };
1671
1672 /*
1673  * acpi_boot_table_init() and acpi_boot_init()
1674  *  called from setup_arch(), always.
1675  *      1. checksums all tables
1676  *      2. enumerates lapics
1677  *      3. enumerates io-apics
1678  *
1679  * acpi_table_init() is separate to allow reading SRAT without
1680  * other side effects.
1681  *
1682  * side effects of acpi_boot_init:
1683  *      acpi_lapic = 1 if LAPIC found
1684  *      acpi_ioapic = 1 if IOAPIC found
1685  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1686  *      if acpi_blacklisted() acpi_disabled = 1;
1687  *      acpi_irq_model=...
1688  *      ...
1689  *
1690  * return value: (currently ignored)
1691  *      0: success
1692  *      !0: failure
1693  */
1694
1695 int __init acpi_boot_table_init(void)
1696 {
1697         int error;
1698
1699         dmi_check_system(acpi_dmi_table);
1700
1701         /*
1702          * If acpi_disabled, bail out
1703          * One exception: acpi=ht continues far enough to enumerate LAPICs
1704          */
1705         if (acpi_disabled && !acpi_ht)
1706                 return 1;
1707
1708         /*
1709          * Initialize the ACPI boot-time table parser.
1710          */
1711         error = acpi_table_init();
1712         if (error) {
1713                 disable_acpi();
1714                 return error;
1715         }
1716
1717         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1718
1719         /*
1720          * blacklist may disable ACPI entirely
1721          */
1722         error = acpi_blacklisted();
1723         if (error) {
1724                 if (acpi_force) {
1725                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1726                 } else {
1727                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1728                         disable_acpi();
1729                         return error;
1730                 }
1731         }
1732
1733         return 0;
1734 }
1735
1736 int __init early_acpi_boot_init(void)
1737 {
1738         /*
1739          * If acpi_disabled, bail out
1740          * One exception: acpi=ht continues far enough to enumerate LAPICs
1741          */
1742         if (acpi_disabled && !acpi_ht)
1743                 return 1;
1744
1745         /*
1746          * Process the Multiple APIC Description Table (MADT), if present
1747          */
1748         early_acpi_process_madt();
1749
1750         return 0;
1751 }
1752
1753 int __init acpi_boot_init(void)
1754 {
1755         /* those are executed after early-quirks are executed */
1756         dmi_check_system(acpi_dmi_table_late);
1757
1758         /*
1759          * If acpi_disabled, bail out
1760          * One exception: acpi=ht continues far enough to enumerate LAPICs
1761          */
1762         if (acpi_disabled && !acpi_ht)
1763                 return 1;
1764
1765         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1766
1767         /*
1768          * set sci_int and PM timer address
1769          */
1770         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1771
1772         /*
1773          * Process the Multiple APIC Description Table (MADT), if present
1774          */
1775         acpi_process_madt();
1776
1777         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1778
1779         return 0;
1780 }
1781
1782 static int __init parse_acpi(char *arg)
1783 {
1784         if (!arg)
1785                 return -EINVAL;
1786
1787         /* "acpi=off" disables both ACPI table parsing and interpreter */
1788         if (strcmp(arg, "off") == 0) {
1789                 disable_acpi();
1790         }
1791         /* acpi=force to over-ride black-list */
1792         else if (strcmp(arg, "force") == 0) {
1793                 acpi_force = 1;
1794                 acpi_ht = 1;
1795                 acpi_disabled = 0;
1796         }
1797         /* acpi=strict disables out-of-spec workarounds */
1798         else if (strcmp(arg, "strict") == 0) {
1799                 acpi_strict = 1;
1800         }
1801         /* Limit ACPI just to boot-time to enable HT */
1802         else if (strcmp(arg, "ht") == 0) {
1803                 if (!acpi_force)
1804                         disable_acpi();
1805                 acpi_ht = 1;
1806         }
1807         /* acpi=rsdt use RSDT instead of XSDT */
1808         else if (strcmp(arg, "rsdt") == 0) {
1809                 acpi_rsdt_forced = 1;
1810         }
1811         /* "acpi=noirq" disables ACPI interrupt routing */
1812         else if (strcmp(arg, "noirq") == 0) {
1813                 acpi_noirq_set();
1814         } else {
1815                 /* Core will printk when we return error. */
1816                 return -EINVAL;
1817         }
1818         return 0;
1819 }
1820 early_param("acpi", parse_acpi);
1821
1822 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1823 static int __init parse_pci(char *arg)
1824 {
1825         if (arg && strcmp(arg, "noacpi") == 0)
1826                 acpi_disable_pci();
1827         return 0;
1828 }
1829 early_param("pci", parse_pci);
1830
1831 int __init acpi_mps_check(void)
1832 {
1833 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1834 /* mptable code is not built-in*/
1835         if (acpi_disabled || acpi_noirq) {
1836                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1837                        "Using acpi=off or acpi=noirq or pci=noacpi "
1838                        "may have problem\n");
1839                 return 1;
1840         }
1841 #endif
1842         return 0;
1843 }
1844
1845 #ifdef CONFIG_X86_IO_APIC
1846 static int __init parse_acpi_skip_timer_override(char *arg)
1847 {
1848         acpi_skip_timer_override = 1;
1849         return 0;
1850 }
1851 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1852
1853 static int __init parse_acpi_use_timer_override(char *arg)
1854 {
1855         acpi_use_timer_override = 1;
1856         return 0;
1857 }
1858 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1859 #endif /* CONFIG_X86_IO_APIC */
1860
1861 static int __init setup_acpi_sci(char *s)
1862 {
1863         if (!s)
1864                 return -EINVAL;
1865         if (!strcmp(s, "edge"))
1866                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1867                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1868         else if (!strcmp(s, "level"))
1869                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1870                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1871         else if (!strcmp(s, "high"))
1872                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1873                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1874         else if (!strcmp(s, "low"))
1875                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1876                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1877         else
1878                 return -EINVAL;
1879         return 0;
1880 }
1881 early_param("acpi_sci", setup_acpi_sci);
1882
1883 int __acpi_acquire_global_lock(unsigned int *lock)
1884 {
1885         unsigned int old, new, val;
1886         do {
1887                 old = *lock;
1888                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1889                 val = cmpxchg(lock, old, new);
1890         } while (unlikely (val != old));
1891         return (new < 3) ? -1 : 0;
1892 }
1893
1894 int __acpi_release_global_lock(unsigned int *lock)
1895 {
1896         unsigned int old, new, val;
1897         do {
1898                 old = *lock;
1899                 new = old & ~0x3;
1900                 val = cmpxchg(lock, old, new);
1901         } while (unlikely (val != old));
1902         return old & 0x1;
1903 }