tree-wide: fix assorted typos all over the place
[safe/jmp/linux-2.6] / drivers / scsi / aic7xxx / aic7xxx_core.c
index 64e62ce..45aa728 100644 (file)
@@ -51,8 +51,7 @@
 #endif
 
 /***************************** Lookup Tables **********************************/
-char *ahc_chip_names[] =
-{
+static const char *const ahc_chip_names[] = {
        "NONE",
        "aic7770",
        "aic7850",
@@ -75,10 +74,10 @@ static const u_int num_chip_names = ARRAY_SIZE(ahc_chip_names);
  */
 struct ahc_hard_error_entry {
         uint8_t errno;
-       char *errmesg;
+       const char *errmesg;
 };
 
-static struct ahc_hard_error_entry ahc_hard_errors[] = {
+static const struct ahc_hard_error_entry ahc_hard_errors[] = {
        { ILLHADDR,     "Illegal Host Access" },
        { ILLSADDR,     "Illegal Sequencer Address referrenced" },
        { ILLOPCODE,    "Illegal Opcode in sequencer program" },
@@ -90,7 +89,7 @@ static struct ahc_hard_error_entry ahc_hard_errors[] = {
 };
 static const u_int num_errors = ARRAY_SIZE(ahc_hard_errors);
 
-static struct ahc_phase_table_entry ahc_phase_table[] =
+static const struct ahc_phase_table_entry ahc_phase_table[] =
 {
        { P_DATAOUT,    MSG_NOOP,               "in Data-out phase"     },
        { P_DATAIN,     MSG_INITIATOR_DET_ERR,  "in Data-in phase"      },
@@ -115,7 +114,7 @@ static const u_int num_phases = ARRAY_SIZE(ahc_phase_table) - 1;
  * Provides a mapping of tranfer periods in ns to the proper value to
  * stick in the scsixfer reg.
  */
-static struct ahc_syncrate ahc_syncrates[] =
+static const struct ahc_syncrate ahc_syncrates[] =
 {
       /* ultra2    fast/ultra  period     rate */
        { 0x42,      0x000,      9,      "80.0" },
@@ -148,7 +147,7 @@ static struct ahc_tmode_tstate*
 static void            ahc_free_tstate(struct ahc_softc *ahc,
                                        u_int scsi_id, char channel, int force);
 #endif
-static struct ahc_syncrate*
+static const struct ahc_syncrate*
                        ahc_devlimited_syncrate(struct ahc_softc *ahc,
                                                struct ahc_initiator_tinfo *,
                                                u_int *period,
@@ -204,9 +203,9 @@ static void         ahc_setup_target_msgin(struct ahc_softc *ahc,
 #endif
 
 static bus_dmamap_callback_t   ahc_dmamap_cb; 
-static void                    ahc_build_free_scb_list(struct ahc_softc *ahc);
-static int                     ahc_init_scbdata(struct ahc_softc *ahc);
-static void                    ahc_fini_scbdata(struct ahc_softc *ahc);
+static void            ahc_build_free_scb_list(struct ahc_softc *ahc);
+static int             ahc_init_scbdata(struct ahc_softc *ahc);
+static void            ahc_fini_scbdata(struct ahc_softc *ahc);
 static void            ahc_qinfifo_requeue(struct ahc_softc *ahc,
                                            struct scb *prev_scb,
                                            struct scb *scb);
@@ -222,7 +221,7 @@ static void         ahc_dumpseq(struct ahc_softc *ahc);
 #endif
 static int             ahc_loadseq(struct ahc_softc *ahc);
 static int             ahc_check_patch(struct ahc_softc *ahc,
-                                       struct patch **start_patch,
+                                       const struct patch **start_patch,
                                        u_int start_instr, u_int *skip_addr);
 static void            ahc_download_instr(struct ahc_softc *ahc,
                                           u_int instrptr, uint8_t *dconsts);
@@ -237,13 +236,585 @@ static void              ahc_update_scsiid(struct ahc_softc *ahc,
 static int             ahc_handle_target_cmd(struct ahc_softc *ahc,
                                              struct target_cmd *cmd);
 #endif
+
+static u_int           ahc_index_busy_tcl(struct ahc_softc *ahc, u_int tcl);
+static void            ahc_unbusy_tcl(struct ahc_softc *ahc, u_int tcl);
+static void            ahc_busy_tcl(struct ahc_softc *ahc,
+                                    u_int tcl, u_int busyid);
+
+/************************** SCB and SCB queue management **********************/
+static void            ahc_run_untagged_queues(struct ahc_softc *ahc);
+static void            ahc_run_untagged_queue(struct ahc_softc *ahc,
+                                              struct scb_tailq *queue);
+
+/****************************** Initialization ********************************/
+static void             ahc_alloc_scbs(struct ahc_softc *ahc);
+static void             ahc_shutdown(void *arg);
+
+/*************************** Interrupt Services *******************************/
+static void            ahc_clear_intstat(struct ahc_softc *ahc);
+static void            ahc_run_qoutfifo(struct ahc_softc *ahc);
+#ifdef AHC_TARGET_MODE
+static void            ahc_run_tqinfifo(struct ahc_softc *ahc, int paused);
+#endif
+static void            ahc_handle_brkadrint(struct ahc_softc *ahc);
+static void            ahc_handle_seqint(struct ahc_softc *ahc, u_int intstat);
+static void            ahc_handle_scsiint(struct ahc_softc *ahc,
+                                          u_int intstat);
+static void            ahc_clear_critical_section(struct ahc_softc *ahc);
+
+/***************************** Error Recovery *********************************/
+static void            ahc_freeze_devq(struct ahc_softc *ahc, struct scb *scb);
+static int             ahc_abort_scbs(struct ahc_softc *ahc, int target,
+                                      char channel, int lun, u_int tag,
+                                      role_t role, uint32_t status);
+static void            ahc_calc_residual(struct ahc_softc *ahc,
+                                         struct scb *scb);
+
+/*********************** Untagged Transaction Routines ************************/
+static inline void     ahc_freeze_untagged_queues(struct ahc_softc *ahc);
+static inline void     ahc_release_untagged_queues(struct ahc_softc *ahc);
+
+/*
+ * Block our completion routine from starting the next untagged
+ * transaction for this target or target lun.
+ */
+static inline void
+ahc_freeze_untagged_queues(struct ahc_softc *ahc)
+{
+       if ((ahc->flags & AHC_SCB_BTT) == 0)
+               ahc->untagged_queue_lock++;
+}
+
+/*
+ * Allow the next untagged transaction for this target or target lun
+ * to be executed.  We use a counting semaphore to allow the lock
+ * to be acquired recursively.  Once the count drops to zero, the
+ * transaction queues will be run.
+ */
+static inline void
+ahc_release_untagged_queues(struct ahc_softc *ahc)
+{
+       if ((ahc->flags & AHC_SCB_BTT) == 0) {
+               ahc->untagged_queue_lock--;
+               if (ahc->untagged_queue_lock == 0)
+                       ahc_run_untagged_queues(ahc);
+       }
+}
+
 /************************* Sequencer Execution Control ************************/
 /*
- * Restart the sequencer program from address zero
+ * Work around any chip bugs related to halting sequencer execution.
+ * On Ultra2 controllers, we must clear the CIOBUS stretch signal by
+ * reading a register that will set this signal and deassert it.
+ * Without this workaround, if the chip is paused, by an interrupt or
+ * manual pause while accessing scb ram, accesses to certain registers
+ * will hang the system (infinite pci retries).
+ */
+static void
+ahc_pause_bug_fix(struct ahc_softc *ahc)
+{
+       if ((ahc->features & AHC_ULTRA2) != 0)
+               (void)ahc_inb(ahc, CCSCBCTL);
+}
+
+/*
+ * Determine whether the sequencer has halted code execution.
+ * Returns non-zero status if the sequencer is stopped.
+ */
+int
+ahc_is_paused(struct ahc_softc *ahc)
+{
+       return ((ahc_inb(ahc, HCNTRL) & PAUSE) != 0);
+}
+
+/*
+ * Request that the sequencer stop and wait, indefinitely, for it
+ * to stop.  The sequencer will only acknowledge that it is paused
+ * once it has reached an instruction boundary and PAUSEDIS is
+ * cleared in the SEQCTL register.  The sequencer may use PAUSEDIS
+ * for critical sections.
+ */
+void
+ahc_pause(struct ahc_softc *ahc)
+{
+       ahc_outb(ahc, HCNTRL, ahc->pause);
+
+       /*
+        * Since the sequencer can disable pausing in a critical section, we
+        * must loop until it actually stops.
+        */
+       while (ahc_is_paused(ahc) == 0)
+               ;
+
+       ahc_pause_bug_fix(ahc);
+}
+
+/*
+ * Allow the sequencer to continue program execution.
+ * We check here to ensure that no additional interrupt
+ * sources that would cause the sequencer to halt have been
+ * asserted.  If, for example, a SCSI bus reset is detected
+ * while we are fielding a different, pausing, interrupt type,
+ * we don't want to release the sequencer before going back
+ * into our interrupt handler and dealing with this new
+ * condition.
+ */
+void
+ahc_unpause(struct ahc_softc *ahc)
+{
+       if ((ahc_inb(ahc, INTSTAT) & (SCSIINT | SEQINT | BRKADRINT)) == 0)
+               ahc_outb(ahc, HCNTRL, ahc->unpause);
+}
+
+/************************** Memory mapping routines ***************************/
+static struct ahc_dma_seg *
+ahc_sg_bus_to_virt(struct scb *scb, uint32_t sg_busaddr)
+{
+       int sg_index;
+
+       sg_index = (sg_busaddr - scb->sg_list_phys)/sizeof(struct ahc_dma_seg);
+       /* sg_list_phys points to entry 1, not 0 */
+       sg_index++;
+
+       return (&scb->sg_list[sg_index]);
+}
+
+static uint32_t
+ahc_sg_virt_to_bus(struct scb *scb, struct ahc_dma_seg *sg)
+{
+       int sg_index;
+
+       /* sg_list_phys points to entry 1, not 0 */
+       sg_index = sg - &scb->sg_list[1];
+
+       return (scb->sg_list_phys + (sg_index * sizeof(*scb->sg_list)));
+}
+
+static uint32_t
+ahc_hscb_busaddr(struct ahc_softc *ahc, u_int index)
+{
+       return (ahc->scb_data->hscb_busaddr
+               + (sizeof(struct hardware_scb) * index));
+}
+
+static void
+ahc_sync_scb(struct ahc_softc *ahc, struct scb *scb, int op)
+{
+       ahc_dmamap_sync(ahc, ahc->scb_data->hscb_dmat,
+                       ahc->scb_data->hscb_dmamap,
+                       /*offset*/(scb->hscb - ahc->hscbs) * sizeof(*scb->hscb),
+                       /*len*/sizeof(*scb->hscb), op);
+}
+
+void
+ahc_sync_sglist(struct ahc_softc *ahc, struct scb *scb, int op)
+{
+       if (scb->sg_count == 0)
+               return;
+
+       ahc_dmamap_sync(ahc, ahc->scb_data->sg_dmat, scb->sg_map->sg_dmamap,
+                       /*offset*/(scb->sg_list - scb->sg_map->sg_vaddr)
+                               * sizeof(struct ahc_dma_seg),
+                       /*len*/sizeof(struct ahc_dma_seg) * scb->sg_count, op);
+}
+
+#ifdef AHC_TARGET_MODE
+static uint32_t
+ahc_targetcmd_offset(struct ahc_softc *ahc, u_int index)
+{
+       return (((uint8_t *)&ahc->targetcmds[index]) - ahc->qoutfifo);
+}
+#endif
+
+/*********************** Miscelaneous Support Functions ***********************/
+/*
+ * Determine whether the sequencer reported a residual
+ * for this SCB/transaction.
+ */
+static void
+ahc_update_residual(struct ahc_softc *ahc, struct scb *scb)
+{
+       uint32_t sgptr;
+
+       sgptr = ahc_le32toh(scb->hscb->sgptr);
+       if ((sgptr & SG_RESID_VALID) != 0)
+               ahc_calc_residual(ahc, scb);
+}
+
+/*
+ * Return pointers to the transfer negotiation information
+ * for the specified our_id/remote_id pair.
+ */
+struct ahc_initiator_tinfo *
+ahc_fetch_transinfo(struct ahc_softc *ahc, char channel, u_int our_id,
+                   u_int remote_id, struct ahc_tmode_tstate **tstate)
+{
+       /*
+        * Transfer data structures are stored from the perspective
+        * of the target role.  Since the parameters for a connection
+        * in the initiator role to a given target are the same as
+        * when the roles are reversed, we pretend we are the target.
+        */
+       if (channel == 'B')
+               our_id += 8;
+       *tstate = ahc->enabled_targets[our_id];
+       return (&(*tstate)->transinfo[remote_id]);
+}
+
+uint16_t
+ahc_inw(struct ahc_softc *ahc, u_int port)
+{
+       uint16_t r = ahc_inb(ahc, port+1) << 8;
+       return r | ahc_inb(ahc, port);
+}
+
+void
+ahc_outw(struct ahc_softc *ahc, u_int port, u_int value)
+{
+       ahc_outb(ahc, port, value & 0xFF);
+       ahc_outb(ahc, port+1, (value >> 8) & 0xFF);
+}
+
+uint32_t
+ahc_inl(struct ahc_softc *ahc, u_int port)
+{
+       return ((ahc_inb(ahc, port))
+             | (ahc_inb(ahc, port+1) << 8)
+             | (ahc_inb(ahc, port+2) << 16)
+             | (ahc_inb(ahc, port+3) << 24));
+}
+
+void
+ahc_outl(struct ahc_softc *ahc, u_int port, uint32_t value)
+{
+       ahc_outb(ahc, port, (value) & 0xFF);
+       ahc_outb(ahc, port+1, ((value) >> 8) & 0xFF);
+       ahc_outb(ahc, port+2, ((value) >> 16) & 0xFF);
+       ahc_outb(ahc, port+3, ((value) >> 24) & 0xFF);
+}
+
+uint64_t
+ahc_inq(struct ahc_softc *ahc, u_int port)
+{
+       return ((ahc_inb(ahc, port))
+             | (ahc_inb(ahc, port+1) << 8)
+             | (ahc_inb(ahc, port+2) << 16)
+             | (ahc_inb(ahc, port+3) << 24)
+             | (((uint64_t)ahc_inb(ahc, port+4)) << 32)
+             | (((uint64_t)ahc_inb(ahc, port+5)) << 40)
+             | (((uint64_t)ahc_inb(ahc, port+6)) << 48)
+             | (((uint64_t)ahc_inb(ahc, port+7)) << 56));
+}
+
+void
+ahc_outq(struct ahc_softc *ahc, u_int port, uint64_t value)
+{
+       ahc_outb(ahc, port, value & 0xFF);
+       ahc_outb(ahc, port+1, (value >> 8) & 0xFF);
+       ahc_outb(ahc, port+2, (value >> 16) & 0xFF);
+       ahc_outb(ahc, port+3, (value >> 24) & 0xFF);
+       ahc_outb(ahc, port+4, (value >> 32) & 0xFF);
+       ahc_outb(ahc, port+5, (value >> 40) & 0xFF);
+       ahc_outb(ahc, port+6, (value >> 48) & 0xFF);
+       ahc_outb(ahc, port+7, (value >> 56) & 0xFF);
+}
+
+/*
+ * Get a free scb. If there are none, see if we can allocate a new SCB.
+ */
+struct scb *
+ahc_get_scb(struct ahc_softc *ahc)
+{
+       struct scb *scb;
+
+       if ((scb = SLIST_FIRST(&ahc->scb_data->free_scbs)) == NULL) {
+               ahc_alloc_scbs(ahc);
+               scb = SLIST_FIRST(&ahc->scb_data->free_scbs);
+               if (scb == NULL)
+                       return (NULL);
+       }
+       SLIST_REMOVE_HEAD(&ahc->scb_data->free_scbs, links.sle);
+       return (scb);
+}
+
+/*
+ * Return an SCB resource to the free list.
+ */
+void
+ahc_free_scb(struct ahc_softc *ahc, struct scb *scb)
+{
+       struct hardware_scb *hscb;
+
+       hscb = scb->hscb;
+       /* Clean up for the next user */
+       ahc->scb_data->scbindex[hscb->tag] = NULL;
+       scb->flags = SCB_FREE;
+       hscb->control = 0;
+
+       SLIST_INSERT_HEAD(&ahc->scb_data->free_scbs, scb, links.sle);
+
+       /* Notify the OSM that a resource is now available. */
+       ahc_platform_scb_free(ahc, scb);
+}
+
+struct scb *
+ahc_lookup_scb(struct ahc_softc *ahc, u_int tag)
+{
+       struct scb* scb;
+
+       scb = ahc->scb_data->scbindex[tag];
+       if (scb != NULL)
+               ahc_sync_scb(ahc, scb,
+                            BUS_DMASYNC_POSTREAD|BUS_DMASYNC_POSTWRITE);
+       return (scb);
+}
+
+static void
+ahc_swap_with_next_hscb(struct ahc_softc *ahc, struct scb *scb)
+{
+       struct hardware_scb *q_hscb;
+       u_int  saved_tag;
+
+       /*
+        * Our queuing method is a bit tricky.  The card
+        * knows in advance which HSCB to download, and we
+        * can't disappoint it.  To achieve this, the next
+        * SCB to download is saved off in ahc->next_queued_scb.
+        * When we are called to queue "an arbitrary scb",
+        * we copy the contents of the incoming HSCB to the one
+        * the sequencer knows about, swap HSCB pointers and
+        * finally assign the SCB to the tag indexed location
+        * in the scb_array.  This makes sure that we can still
+        * locate the correct SCB by SCB_TAG.
+        */
+       q_hscb = ahc->next_queued_scb->hscb;
+       saved_tag = q_hscb->tag;
+       memcpy(q_hscb, scb->hscb, sizeof(*scb->hscb));
+       if ((scb->flags & SCB_CDB32_PTR) != 0) {
+               q_hscb->shared_data.cdb_ptr =
+                   ahc_htole32(ahc_hscb_busaddr(ahc, q_hscb->tag)
+                             + offsetof(struct hardware_scb, cdb32));
+       }
+       q_hscb->tag = saved_tag;
+       q_hscb->next = scb->hscb->tag;
+
+       /* Now swap HSCB pointers. */
+       ahc->next_queued_scb->hscb = scb->hscb;
+       scb->hscb = q_hscb;
+
+       /* Now define the mapping from tag to SCB in the scbindex */
+       ahc->scb_data->scbindex[scb->hscb->tag] = scb;
+}
+
+/*
+ * Tell the sequencer about a new transaction to execute.
  */
 void
+ahc_queue_scb(struct ahc_softc *ahc, struct scb *scb)
+{
+       ahc_swap_with_next_hscb(ahc, scb);
+
+       if (scb->hscb->tag == SCB_LIST_NULL
+        || scb->hscb->next == SCB_LIST_NULL)
+               panic("Attempt to queue invalid SCB tag %x:%x\n",
+                     scb->hscb->tag, scb->hscb->next);
+
+       /*
+        * Setup data "oddness".
+        */
+       scb->hscb->lun &= LID;
+       if (ahc_get_transfer_length(scb) & 0x1)
+               scb->hscb->lun |= SCB_XFERLEN_ODD;
+
+       /*
+        * Keep a history of SCBs we've downloaded in the qinfifo.
+        */
+       ahc->qinfifo[ahc->qinfifonext++] = scb->hscb->tag;
+
+       /*
+        * Make sure our data is consistent from the
+        * perspective of the adapter.
+        */
+       ahc_sync_scb(ahc, scb, BUS_DMASYNC_PREREAD|BUS_DMASYNC_PREWRITE);
+
+       /* Tell the adapter about the newly queued SCB */
+       if ((ahc->features & AHC_QUEUE_REGS) != 0) {
+               ahc_outb(ahc, HNSCB_QOFF, ahc->qinfifonext);
+       } else {
+               if ((ahc->features & AHC_AUTOPAUSE) == 0)
+                       ahc_pause(ahc);
+               ahc_outb(ahc, KERNEL_QINPOS, ahc->qinfifonext);
+               if ((ahc->features & AHC_AUTOPAUSE) == 0)
+                       ahc_unpause(ahc);
+       }
+}
+
+struct scsi_sense_data *
+ahc_get_sense_buf(struct ahc_softc *ahc, struct scb *scb)
+{
+       int offset;
+
+       offset = scb - ahc->scb_data->scbarray;
+       return (&ahc->scb_data->sense[offset]);
+}
+
+static uint32_t
+ahc_get_sense_bufaddr(struct ahc_softc *ahc, struct scb *scb)
+{
+       int offset;
+
+       offset = scb - ahc->scb_data->scbarray;
+       return (ahc->scb_data->sense_busaddr
+             + (offset * sizeof(struct scsi_sense_data)));
+}
+
+/************************** Interrupt Processing ******************************/
+static void
+ahc_sync_qoutfifo(struct ahc_softc *ahc, int op)
+{
+       ahc_dmamap_sync(ahc, ahc->shared_data_dmat, ahc->shared_data_dmamap,
+                       /*offset*/0, /*len*/256, op);
+}
+
+static void
+ahc_sync_tqinfifo(struct ahc_softc *ahc, int op)
+{
+#ifdef AHC_TARGET_MODE
+       if ((ahc->flags & AHC_TARGETROLE) != 0) {
+               ahc_dmamap_sync(ahc, ahc->shared_data_dmat,
+                               ahc->shared_data_dmamap,
+                               ahc_targetcmd_offset(ahc, 0),
+                               sizeof(struct target_cmd) * AHC_TMODE_CMDS,
+                               op);
+       }
+#endif
+}
+
+/*
+ * See if the firmware has posted any completed commands
+ * into our in-core command complete fifos.
+ */
+#define AHC_RUN_QOUTFIFO 0x1
+#define AHC_RUN_TQINFIFO 0x2
+static u_int
+ahc_check_cmdcmpltqueues(struct ahc_softc *ahc)
+{
+       u_int retval;
+
+       retval = 0;
+       ahc_dmamap_sync(ahc, ahc->shared_data_dmat, ahc->shared_data_dmamap,
+                       /*offset*/ahc->qoutfifonext, /*len*/1,
+                       BUS_DMASYNC_POSTREAD);
+       if (ahc->qoutfifo[ahc->qoutfifonext] != SCB_LIST_NULL)
+               retval |= AHC_RUN_QOUTFIFO;
+#ifdef AHC_TARGET_MODE
+       if ((ahc->flags & AHC_TARGETROLE) != 0
+        && (ahc->flags & AHC_TQINFIFO_BLOCKED) == 0) {
+               ahc_dmamap_sync(ahc, ahc->shared_data_dmat,
+                               ahc->shared_data_dmamap,
+                               ahc_targetcmd_offset(ahc, ahc->tqinfifofnext),
+                               /*len*/sizeof(struct target_cmd),
+                               BUS_DMASYNC_POSTREAD);
+               if (ahc->targetcmds[ahc->tqinfifonext].cmd_valid != 0)
+                       retval |= AHC_RUN_TQINFIFO;
+       }
+#endif
+       return (retval);
+}
+
+/*
+ * Catch an interrupt from the adapter
+ */
+int
+ahc_intr(struct ahc_softc *ahc)
+{
+       u_int   intstat;
+
+       if ((ahc->pause & INTEN) == 0) {
+               /*
+                * Our interrupt is not enabled on the chip
+                * and may be disabled for re-entrancy reasons,
+                * so just return.  This is likely just a shared
+                * interrupt.
+                */
+               return (0);
+       }
+       /*
+        * Instead of directly reading the interrupt status register,
+        * infer the cause of the interrupt by checking our in-core
+        * completion queues.  This avoids a costly PCI bus read in
+        * most cases.
+        */
+       if ((ahc->flags & (AHC_ALL_INTERRUPTS|AHC_EDGE_INTERRUPT)) == 0
+        && (ahc_check_cmdcmpltqueues(ahc) != 0))
+               intstat = CMDCMPLT;
+       else {
+               intstat = ahc_inb(ahc, INTSTAT);
+       }
+
+       if ((intstat & INT_PEND) == 0) {
+#if AHC_PCI_CONFIG > 0
+               if (ahc->unsolicited_ints > 500) {
+                       ahc->unsolicited_ints = 0;
+                       if ((ahc->chip & AHC_PCI) != 0
+                        && (ahc_inb(ahc, ERROR) & PCIERRSTAT) != 0)
+                               ahc->bus_intr(ahc);
+               }
+#endif
+               ahc->unsolicited_ints++;
+               return (0);
+       }
+       ahc->unsolicited_ints = 0;
+
+       if (intstat & CMDCMPLT) {
+               ahc_outb(ahc, CLRINT, CLRCMDINT);
+
+               /*
+                * Ensure that the chip sees that we've cleared
+                * this interrupt before we walk the output fifo.
+                * Otherwise, we may, due to posted bus writes,
+                * clear the interrupt after we finish the scan,
+                * and after the sequencer has added new entries
+                * and asserted the interrupt again.
+                */
+               ahc_flush_device_writes(ahc);
+               ahc_run_qoutfifo(ahc);
+#ifdef AHC_TARGET_MODE
+               if ((ahc->flags & AHC_TARGETROLE) != 0)
+                       ahc_run_tqinfifo(ahc, /*paused*/FALSE);
+#endif
+       }
+
+       /*
+        * Handle statuses that may invalidate our cached
+        * copy of INTSTAT separately.
+        */
+       if (intstat == 0xFF && (ahc->features & AHC_REMOVABLE) != 0) {
+               /* Hot eject.  Do nothing */
+       } else if (intstat & BRKADRINT) {
+               ahc_handle_brkadrint(ahc);
+       } else if ((intstat & (SEQINT|SCSIINT)) != 0) {
+
+               ahc_pause_bug_fix(ahc);
+
+               if ((intstat & SEQINT) != 0)
+                       ahc_handle_seqint(ahc, intstat);
+
+               if ((intstat & SCSIINT) != 0)
+                       ahc_handle_scsiint(ahc, intstat);
+       }
+       return (1);
+}
+
+/************************* Sequencer Execution Control ************************/
+/*
+ * Restart the sequencer program from address zero
+ */
+static void
 ahc_restart(struct ahc_softc *ahc)
 {
+       uint8_t sblkctl;
 
        ahc_pause(ahc);
 
@@ -298,11 +869,17 @@ ahc_restart(struct ahc_softc *ahc)
        ahc_outb(ahc, SEQADDR0, 0);
        ahc_outb(ahc, SEQADDR1, 0);
 
+       /*
+        * Take the LED out of diagnostic mode on PM resume, too
+        */
+       sblkctl = ahc_inb(ahc, SBLKCTL);
+       ahc_outb(ahc, SBLKCTL, (sblkctl & ~(DIAGLEDEN|DIAGLEDON)));
+
        ahc_unpause(ahc);
 }
 
 /************************* Input/Output Queues ********************************/
-void
+static void
 ahc_run_qoutfifo(struct ahc_softc *ahc)
 {
        struct scb *scb;
@@ -349,7 +926,7 @@ ahc_run_qoutfifo(struct ahc_softc *ahc)
        }
 }
 
-void
+static void
 ahc_run_untagged_queues(struct ahc_softc *ahc)
 {
        int i;
@@ -358,7 +935,7 @@ ahc_run_untagged_queues(struct ahc_softc *ahc)
                ahc_run_untagged_queue(ahc, &ahc->untagged_queues[i]);
 }
 
-void
+static void
 ahc_run_untagged_queue(struct ahc_softc *ahc, struct scb_tailq *queue)
 {
        struct scb *scb;
@@ -374,7 +951,7 @@ ahc_run_untagged_queue(struct ahc_softc *ahc, struct scb_tailq *queue)
 }
 
 /************************* Interrupt Handling *********************************/
-void
+static void
 ahc_handle_brkadrint(struct ahc_softc *ahc)
 {
        /*
@@ -403,7 +980,7 @@ ahc_handle_brkadrint(struct ahc_softc *ahc)
        ahc_shutdown(ahc);
 }
 
-void
+static void
 ahc_handle_seqint(struct ahc_softc *ahc, u_int intstat)
 {
        struct scb *scb;
@@ -954,7 +1531,7 @@ unpause:
        ahc_unpause(ahc);
 }
 
-void
+static void
 ahc_handle_scsiint(struct ahc_softc *ahc, u_int intstat)
 {
        u_int   scb_index;
@@ -1156,7 +1733,7 @@ ahc_handle_scsiint(struct ahc_softc *ahc, u_int intstat)
                /*
                 * Although the driver does not care about the
                 * 'Selection in Progress' status bit, the busy
-                * LED does.  SELINGO is only cleared by a sucessfull
+                * LED does.  SELINGO is only cleared by a successfull
                 * selection, so we must manually clear it to insure
                 * the LED turns off just incase no future successful
                 * selections occur (e.g. no devices on the bus).
@@ -1407,7 +1984,7 @@ ahc_force_renegotiation(struct ahc_softc *ahc, struct ahc_devinfo *devinfo)
 }
 
 #define AHC_MAX_STEPS 2000
-void
+static void
 ahc_clear_critical_section(struct ahc_softc *ahc)
 {
        int     stepping;
@@ -1500,7 +2077,7 @@ ahc_clear_critical_section(struct ahc_softc *ahc)
 /*
  * Clear any pending interrupt status.
  */
-void
+static void
 ahc_clear_intstat(struct ahc_softc *ahc)
 {
        /* Clear any interrupt conditions this may have caused */
@@ -1519,7 +2096,8 @@ ahc_clear_intstat(struct ahc_softc *ahc)
 uint32_t ahc_debug = AHC_DEBUG_OPTS;
 #endif
 
-void
+#if 0 /* unused */
+static void
 ahc_print_scb(struct scb *scb)
 {
        int i;
@@ -1551,6 +2129,7 @@ ahc_print_scb(struct scb *scb)
                }
        }
 }
+#endif
 
 /************************* Transfer Negotiation *******************************/
 /*
@@ -1634,7 +2213,7 @@ ahc_free_tstate(struct ahc_softc *ahc, u_int scsi_id, char channel, int force)
  * by the capabilities of the bus connectivity of and sync settings for
  * the target.
  */
-struct ahc_syncrate *
+const struct ahc_syncrate *
 ahc_devlimited_syncrate(struct ahc_softc *ahc,
                        struct ahc_initiator_tinfo *tinfo,
                        u_int *period, u_int *ppr_options, role_t role)
@@ -1689,11 +2268,11 @@ ahc_devlimited_syncrate(struct ahc_softc *ahc,
  * Return the period and offset that should be sent to the target
  * if this was the beginning of an SDTR.
  */
-struct ahc_syncrate *
+const struct ahc_syncrate *
 ahc_find_syncrate(struct ahc_softc *ahc, u_int *period,
                  u_int *ppr_options, u_int maxsync)
 {
-       struct ahc_syncrate *syncrate;
+       const struct ahc_syncrate *syncrate;
 
        if ((ahc->features & AHC_DT) == 0)
                *ppr_options &= ~MSG_EXT_PPR_DT_REQ;
@@ -1768,7 +2347,7 @@ ahc_find_syncrate(struct ahc_softc *ahc, u_int *period,
 u_int
 ahc_find_period(struct ahc_softc *ahc, u_int scsirate, u_int maxsync)
 {
-       struct ahc_syncrate *syncrate;
+       const struct ahc_syncrate *syncrate;
 
        if ((ahc->features & AHC_ULTRA2) != 0)
                scsirate &= SXFR_ULTRA2;
@@ -1806,10 +2385,10 @@ ahc_find_period(struct ahc_softc *ahc, u_int scsirate, u_int maxsync)
  * Truncate the given synchronous offset to a value the
  * current adapter type and syncrate are capable of.
  */
-void
+static void
 ahc_validate_offset(struct ahc_softc *ahc,
                    struct ahc_initiator_tinfo *tinfo,
-                   struct ahc_syncrate *syncrate,
+                   const struct ahc_syncrate *syncrate,
                    u_int *offset, int wide, role_t role)
 {
        u_int maxoffset;
@@ -1838,7 +2417,7 @@ ahc_validate_offset(struct ahc_softc *ahc,
  * Truncate the given transfer width parameter to a value the
  * current adapter type is capable of.
  */
-void
+static void
 ahc_validate_width(struct ahc_softc *ahc, struct ahc_initiator_tinfo *tinfo,
                   u_int *bus_width, role_t role)
 {
@@ -1913,7 +2492,7 @@ ahc_update_neg_request(struct ahc_softc *ahc, struct ahc_devinfo *devinfo,
  */
 void
 ahc_set_syncrate(struct ahc_softc *ahc, struct ahc_devinfo *devinfo,
-                struct ahc_syncrate *syncrate, u_int period,
+                const struct ahc_syncrate *syncrate, u_int period,
                 u_int offset, u_int ppr_options, u_int type, int paused)
 {
        struct  ahc_initiator_tinfo *tinfo;
@@ -2220,11 +2799,11 @@ ahc_fetch_devinfo(struct ahc_softc *ahc, struct ahc_devinfo *devinfo)
                            role);
 }
 
-struct ahc_phase_table_entry*
+static const struct ahc_phase_table_entry*
 ahc_lookup_phase_entry(int phase)
 {
-       struct ahc_phase_table_entry *entry;
-       struct ahc_phase_table_entry *last_entry;
+       const struct ahc_phase_table_entry *entry;
+       const struct ahc_phase_table_entry *last_entry;
 
        /*
         * num_phases doesn't include the default entry which
@@ -2390,7 +2969,7 @@ ahc_build_transfer_msg(struct ahc_softc *ahc, struct ahc_devinfo *devinfo)
         */
        struct  ahc_initiator_tinfo *tinfo;
        struct  ahc_tmode_tstate *tstate;
-       struct  ahc_syncrate *rate;
+       const struct ahc_syncrate *rate;
        int     dowide;
        int     dosync;
        int     doppr;
@@ -2655,7 +3234,7 @@ proto_violation_reset:
  */
 static void
 ahc_handle_message_phase(struct ahc_softc *ahc)
-{ 
+{
        struct  ahc_devinfo devinfo;
        u_int   bus_phase;
        int     end_session;
@@ -3056,7 +3635,7 @@ ahc_parse_msg(struct ahc_softc *ahc, struct ahc_devinfo *devinfo)
                switch (ahc->msgin_buf[2]) {
                case MSG_EXT_SDTR:
                {
-                       struct   ahc_syncrate *syncrate;
+                       const struct ahc_syncrate *syncrate;
                        u_int    period;
                        u_int    ppr_options;
                        u_int    offset;
@@ -3231,7 +3810,7 @@ ahc_parse_msg(struct ahc_softc *ahc, struct ahc_devinfo *devinfo)
                }
                case MSG_EXT_PPR:
                {
-                       struct  ahc_syncrate *syncrate;
+                       const struct ahc_syncrate *syncrate;
                        u_int   period;
                        u_int   offset;
                        u_int   bus_width;
@@ -3984,7 +4563,7 @@ ahc_free(struct ahc_softc *ahc)
        return;
 }
 
-void
+static void
 ahc_shutdown(void *arg)
 {
        struct  ahc_softc *ahc;
@@ -4388,7 +4967,7 @@ ahc_fini_scbdata(struct ahc_softc *ahc)
                free(scb_data->scbarray, M_DEVBUF);
 }
 
-void
+static void
 ahc_alloc_scbs(struct ahc_softc *ahc)
 {
        struct scb_data *scb_data;
@@ -4644,7 +5223,7 @@ ahc_chip_init(struct ahc_softc *ahc)
 
        /*
         * Setup the allowed SCSI Sequences based on operational mode.
-        * If we are a target, we'll enalbe select in operations once
+        * If we are a target, we'll enable select in operations once
         * we've had a lun enabled.
         */
        scsiseq_template = ENSELO|ENAUTOATNO|ENAUTOATNP;
@@ -5121,7 +5700,7 @@ ahc_resume(struct ahc_softc *ahc)
  * Return the untagged transaction id for a given target/channel lun.
  * Optionally, clear the entry.
  */
-u_int
+static u_int
 ahc_index_busy_tcl(struct ahc_softc *ahc, u_int tcl)
 {
        u_int scbid;
@@ -5142,7 +5721,7 @@ ahc_index_busy_tcl(struct ahc_softc *ahc, u_int tcl)
        return (scbid);
 }
 
-void
+static void
 ahc_unbusy_tcl(struct ahc_softc *ahc, u_int tcl)
 {
        u_int target_offset;
@@ -5160,7 +5739,7 @@ ahc_unbusy_tcl(struct ahc_softc *ahc, u_int tcl)
        }
 }
 
-void
+static void
 ahc_busy_tcl(struct ahc_softc *ahc, u_int tcl, u_int scbid)
 {
        u_int target_offset;
@@ -5215,7 +5794,7 @@ ahc_match_scb(struct ahc_softc *ahc, struct scb *scb, int target,
        return match;
 }
 
-void
+static void
 ahc_freeze_devq(struct ahc_softc *ahc, struct scb *scb)
 {
        int     target;
@@ -5707,7 +6286,7 @@ ahc_add_curscb_to_free_list(struct ahc_softc *ahc)
  */
 static u_int
 ahc_rem_wscb(struct ahc_softc *ahc, u_int scbpos, u_int prev)
-{       
+{
        u_int curscb, next;
 
        /*
@@ -5756,7 +6335,7 @@ ahc_rem_wscb(struct ahc_softc *ahc, u_int scbpos, u_int prev)
  * been modified from CAM_REQ_INPROG.  This routine assumes that the sequencer
  * is paused before it is called.
  */
-int
+static int
 ahc_abort_scbs(struct ahc_softc *ahc, int target, char channel,
               int lun, u_int tag, role_t role, uint32_t status)
 {
@@ -6078,7 +6657,7 @@ ahc_reset_channel(struct ahc_softc *ahc, char channel, int initiate_reset)
 /*
  * Calculate the residual for a just completed SCB.
  */
-void
+static void
 ahc_calc_residual(struct ahc_softc *ahc, struct scb *scb)
 {
        struct hardware_scb *hscb;
@@ -6279,7 +6858,7 @@ ahc_loadseq(struct ahc_softc *ahc)
        struct  cs cs_table[num_critical_sections];
        u_int   begin_set[num_critical_sections];
        u_int   end_set[num_critical_sections];
-       struct  patch *cur_patch;
+       const struct patch *cur_patch;
        u_int   cs_count;
        u_int   cur_cs;
        u_int   i;
@@ -6384,11 +6963,11 @@ ahc_loadseq(struct ahc_softc *ahc)
 }
 
 static int
-ahc_check_patch(struct ahc_softc *ahc, struct patch **start_patch,
+ahc_check_patch(struct ahc_softc *ahc, const struct patch **start_patch,
                u_int start_instr, u_int *skip_addr)
 {
-       struct  patch *cur_patch;
-       struct  patch *last_patch;
+       const struct patch *cur_patch;
+       const struct patch *last_patch;
        u_int   num_patches;
 
        num_patches = ARRAY_SIZE(patches);
@@ -6447,7 +7026,7 @@ ahc_download_instr(struct ahc_softc *ahc, u_int instrptr, uint8_t *dconsts)
        case AIC_OP_JE:
        case AIC_OP_JZ:
        {
-               struct patch *cur_patch;
+               const struct patch *cur_patch;
                int address_offset;
                u_int address;
                u_int skip_addr;
@@ -6545,7 +7124,7 @@ ahc_download_instr(struct ahc_softc *ahc, u_int instrptr, uint8_t *dconsts)
 }
 
 int
-ahc_print_register(ahc_reg_parse_entry_t *table, u_int num_entries,
+ahc_print_register(const ahc_reg_parse_entry_t *table, u_int num_entries,
                   const char *name, u_int address, u_int value,
                   u_int *cur_column, u_int wrap_point)
 {
@@ -7229,7 +7808,7 @@ ahc_update_scsiid(struct ahc_softc *ahc, u_int targid_mask)
                ahc_outb(ahc, SCSIID, scsiid);
 }
 
-void
+static void
 ahc_run_tqinfifo(struct ahc_softc *ahc, int paused)
 {
        struct target_cmd *cmd;