[PATCH] sbp2: add ability to override hardwired blacklist
[safe/jmp/linux-2.6] / drivers / ieee1394 / sbp2.c
1 /*
2  * sbp2.c - SBP-2 protocol driver for IEEE-1394
3  *
4  * Copyright (C) 2000 James Goodwin, Filanet Corporation (www.filanet.com)
5  * jamesg@filanet.com (JSG)
6  *
7  * Copyright (C) 2003 Ben Collins <bcollins@debian.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software Foundation,
21  * Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
22  */
23
24 /*
25  * Brief Description:
26  *
27  * This driver implements the Serial Bus Protocol 2 (SBP-2) over IEEE-1394
28  * under Linux. The SBP-2 driver is implemented as an IEEE-1394 high-level
29  * driver. It also registers as a SCSI lower-level driver in order to accept
30  * SCSI commands for transport using SBP-2.
31  *
32  * You may access any attached SBP-2 storage devices as if they were SCSI
33  * devices (e.g. mount /dev/sda1,  fdisk, mkfs, etc.).
34  *
35  * Current Issues:
36  *
37  *      - Error Handling: SCSI aborts and bus reset requests are handled somewhat
38  *        but the code needs additional debugging.
39  */
40
41 #include <linux/config.h>
42 #include <linux/kernel.h>
43 #include <linux/list.h>
44 #include <linux/string.h>
45 #include <linux/stringify.h>
46 #include <linux/slab.h>
47 #include <linux/interrupt.h>
48 #include <linux/fs.h>
49 #include <linux/poll.h>
50 #include <linux/module.h>
51 #include <linux/moduleparam.h>
52 #include <linux/types.h>
53 #include <linux/delay.h>
54 #include <linux/sched.h>
55 #include <linux/blkdev.h>
56 #include <linux/smp_lock.h>
57 #include <linux/init.h>
58 #include <linux/pci.h>
59
60 #include <asm/current.h>
61 #include <asm/uaccess.h>
62 #include <asm/io.h>
63 #include <asm/byteorder.h>
64 #include <asm/atomic.h>
65 #include <asm/system.h>
66 #include <asm/scatterlist.h>
67
68 #include <scsi/scsi.h>
69 #include <scsi/scsi_cmnd.h>
70 #include <scsi/scsi_dbg.h>
71 #include <scsi/scsi_device.h>
72 #include <scsi/scsi_host.h>
73
74 #include "csr1212.h"
75 #include "ieee1394.h"
76 #include "ieee1394_types.h"
77 #include "ieee1394_core.h"
78 #include "nodemgr.h"
79 #include "hosts.h"
80 #include "highlevel.h"
81 #include "ieee1394_transactions.h"
82 #include "sbp2.h"
83
84 /*
85  * Module load parameter definitions
86  */
87
88 /*
89  * Change max_speed on module load if you have a bad IEEE-1394
90  * controller that has trouble running 2KB packets at 400mb.
91  *
92  * NOTE: On certain OHCI parts I have seen short packets on async transmit
93  * (probably due to PCI latency/throughput issues with the part). You can
94  * bump down the speed if you are running into problems.
95  */
96 static int max_speed = IEEE1394_SPEED_MAX;
97 module_param(max_speed, int, 0644);
98 MODULE_PARM_DESC(max_speed, "Force max speed (3 = 800mb, 2 = 400mb, 1 = 200mb, 0 = 100mb)");
99
100 /*
101  * Set serialize_io to 1 if you'd like only one scsi command sent
102  * down to us at a time (debugging). This might be necessary for very
103  * badly behaved sbp2 devices.
104  *
105  * TODO: Make this configurable per device.
106  */
107 static int serialize_io = 1;
108 module_param(serialize_io, int, 0444);
109 MODULE_PARM_DESC(serialize_io, "Serialize I/O coming from scsi drivers (default = 1, faster = 0)");
110
111 /*
112  * Bump up max_sectors if you'd like to support very large sized
113  * transfers. Please note that some older sbp2 bridge chips are broken for
114  * transfers greater or equal to 128KB.  Default is a value of 255
115  * sectors, or just under 128KB (at 512 byte sector size). I can note that
116  * the Oxsemi sbp2 chipsets have no problems supporting very large
117  * transfer sizes.
118  */
119 static int max_sectors = SBP2_MAX_SECTORS;
120 module_param(max_sectors, int, 0444);
121 MODULE_PARM_DESC(max_sectors, "Change max sectors per I/O supported (default = "
122                  __stringify(SBP2_MAX_SECTORS) ")");
123
124 /*
125  * Exclusive login to sbp2 device? In most cases, the sbp2 driver should
126  * do an exclusive login, as it's generally unsafe to have two hosts
127  * talking to a single sbp2 device at the same time (filesystem coherency,
128  * etc.). If you're running an sbp2 device that supports multiple logins,
129  * and you're either running read-only filesystems or some sort of special
130  * filesystem supporting multiple hosts (one such filesystem is OpenGFS,
131  * see opengfs.sourceforge.net for more info), then set exclusive_login
132  * to zero. Note: The Oxsemi OXFW911 sbp2 chipset supports up to four
133  * concurrent logins.
134  */
135 static int exclusive_login = 1;
136 module_param(exclusive_login, int, 0644);
137 MODULE_PARM_DESC(exclusive_login, "Exclusive login to sbp2 device (default = 1)");
138
139 /*
140  * If any of the following workarounds is required for your device to work,
141  * please submit the kernel messages logged by sbp2 to the linux1394-devel
142  * mailing list.
143  *
144  * - 128kB max transfer
145  *   Limit transfer size. Necessary for some old bridges.
146  *
147  * - 36 byte inquiry
148  *   When scsi_mod probes the device, let the inquiry command look like that
149  *   from MS Windows.
150  *
151  * - skip mode page 8
152  *   Suppress sending of mode_sense for mode page 8 if the device pretends to
153  *   support the SCSI Primary Block commands instead of Reduced Block Commands.
154  *
155  * - fix capacity
156  *   Tell sd_mod to correct the last sector number reported by read_capacity.
157  *   Avoids access beyond actual disk limits on devices with an off-by-one bug.
158  *   Don't use this with devices which don't have this bug.
159  *
160  * - override internal blacklist
161  *   Instead of adding to the built-in blacklist, use only the workarounds
162  *   specified in the module load parameter.
163  *   Useful if a blacklist entry interfered with a non-broken device.
164  */
165 static int sbp2_default_workarounds;
166 module_param_named(workarounds, sbp2_default_workarounds, int, 0644);
167 MODULE_PARM_DESC(workarounds, "Work around device bugs (default = 0"
168         ", 128kB max transfer = " __stringify(SBP2_WORKAROUND_128K_MAX_TRANS)
169         ", 36 byte inquiry = "    __stringify(SBP2_WORKAROUND_INQUIRY_36)
170         ", skip mode page 8 = "   __stringify(SBP2_WORKAROUND_MODE_SENSE_8)
171         ", fix capacity = "       __stringify(SBP2_WORKAROUND_FIX_CAPACITY)
172         ", override internal blacklist = " __stringify(SBP2_WORKAROUND_OVERRIDE)
173         ", or a combination)");
174
175 /* legacy parameter */
176 static int force_inquiry_hack;
177 module_param(force_inquiry_hack, int, 0644);
178 MODULE_PARM_DESC(force_inquiry_hack, "Deprecated, use 'workarounds'");
179
180 /*
181  * Export information about protocols/devices supported by this driver.
182  */
183 static struct ieee1394_device_id sbp2_id_table[] = {
184         {
185          .match_flags = IEEE1394_MATCH_SPECIFIER_ID | IEEE1394_MATCH_VERSION,
186          .specifier_id = SBP2_UNIT_SPEC_ID_ENTRY & 0xffffff,
187          .version = SBP2_SW_VERSION_ENTRY & 0xffffff},
188         {}
189 };
190
191 MODULE_DEVICE_TABLE(ieee1394, sbp2_id_table);
192
193 /*
194  * Debug levels, configured via kernel config, or enable here.
195  */
196
197 #define CONFIG_IEEE1394_SBP2_DEBUG 0
198 /* #define CONFIG_IEEE1394_SBP2_DEBUG_ORBS */
199 /* #define CONFIG_IEEE1394_SBP2_DEBUG_DMA */
200 /* #define CONFIG_IEEE1394_SBP2_DEBUG 1 */
201 /* #define CONFIG_IEEE1394_SBP2_DEBUG 2 */
202 /* #define CONFIG_IEEE1394_SBP2_PACKET_DUMP */
203
204 #ifdef CONFIG_IEEE1394_SBP2_DEBUG_ORBS
205 #define SBP2_ORB_DEBUG(fmt, args...)    HPSB_ERR("sbp2(%s): "fmt, __FUNCTION__, ## args)
206 static u32 global_outstanding_command_orbs = 0;
207 #define outstanding_orb_incr global_outstanding_command_orbs++
208 #define outstanding_orb_decr global_outstanding_command_orbs--
209 #else
210 #define SBP2_ORB_DEBUG(fmt, args...)
211 #define outstanding_orb_incr
212 #define outstanding_orb_decr
213 #endif
214
215 #ifdef CONFIG_IEEE1394_SBP2_DEBUG_DMA
216 #define SBP2_DMA_ALLOC(fmt, args...) \
217         HPSB_ERR("sbp2(%s)alloc(%d): "fmt, __FUNCTION__, \
218                  ++global_outstanding_dmas, ## args)
219 #define SBP2_DMA_FREE(fmt, args...) \
220         HPSB_ERR("sbp2(%s)free(%d): "fmt, __FUNCTION__, \
221                  --global_outstanding_dmas, ## args)
222 static u32 global_outstanding_dmas = 0;
223 #else
224 #define SBP2_DMA_ALLOC(fmt, args...)
225 #define SBP2_DMA_FREE(fmt, args...)
226 #endif
227
228 #if CONFIG_IEEE1394_SBP2_DEBUG >= 2
229 #define SBP2_DEBUG(fmt, args...)        HPSB_ERR("sbp2: "fmt, ## args)
230 #define SBP2_INFO(fmt, args...)         HPSB_ERR("sbp2: "fmt, ## args)
231 #define SBP2_NOTICE(fmt, args...)       HPSB_ERR("sbp2: "fmt, ## args)
232 #define SBP2_WARN(fmt, args...)         HPSB_ERR("sbp2: "fmt, ## args)
233 #elif CONFIG_IEEE1394_SBP2_DEBUG == 1
234 #define SBP2_DEBUG(fmt, args...)        HPSB_DEBUG("sbp2: "fmt, ## args)
235 #define SBP2_INFO(fmt, args...)         HPSB_INFO("sbp2: "fmt, ## args)
236 #define SBP2_NOTICE(fmt, args...)       HPSB_NOTICE("sbp2: "fmt, ## args)
237 #define SBP2_WARN(fmt, args...)         HPSB_WARN("sbp2: "fmt, ## args)
238 #else
239 #define SBP2_DEBUG(fmt, args...)
240 #define SBP2_INFO(fmt, args...)         HPSB_INFO("sbp2: "fmt, ## args)
241 #define SBP2_NOTICE(fmt, args...)       HPSB_NOTICE("sbp2: "fmt, ## args)
242 #define SBP2_WARN(fmt, args...)         HPSB_WARN("sbp2: "fmt, ## args)
243 #endif
244
245 #define SBP2_ERR(fmt, args...)          HPSB_ERR("sbp2: "fmt, ## args)
246 #define SBP2_DEBUG_ENTER()              SBP2_DEBUG("%s", __FUNCTION__)
247
248 /*
249  * Globals
250  */
251
252 static void sbp2scsi_complete_all_commands(struct scsi_id_instance_data *scsi_id,
253                                            u32 status);
254
255 static void sbp2scsi_complete_command(struct scsi_id_instance_data *scsi_id,
256                                       u32 scsi_status, struct scsi_cmnd *SCpnt,
257                                       void (*done)(struct scsi_cmnd *));
258
259 static struct scsi_host_template scsi_driver_template;
260
261 static const u8 sbp2_speedto_max_payload[] = { 0x7, 0x8, 0x9, 0xA, 0xB, 0xC };
262
263 static void sbp2_host_reset(struct hpsb_host *host);
264
265 static int sbp2_probe(struct device *dev);
266 static int sbp2_remove(struct device *dev);
267 static int sbp2_update(struct unit_directory *ud);
268
269 static struct hpsb_highlevel sbp2_highlevel = {
270         .name =         SBP2_DEVICE_NAME,
271         .host_reset =   sbp2_host_reset,
272 };
273
274 static struct hpsb_address_ops sbp2_ops = {
275         .write = sbp2_handle_status_write
276 };
277
278 #ifdef CONFIG_IEEE1394_SBP2_PHYS_DMA
279 static struct hpsb_address_ops sbp2_physdma_ops = {
280         .read = sbp2_handle_physdma_read,
281         .write = sbp2_handle_physdma_write,
282 };
283 #endif
284
285 static struct hpsb_protocol_driver sbp2_driver = {
286         .name           = "SBP2 Driver",
287         .id_table       = sbp2_id_table,
288         .update         = sbp2_update,
289         .driver         = {
290                 .name           = SBP2_DEVICE_NAME,
291                 .bus            = &ieee1394_bus_type,
292                 .probe          = sbp2_probe,
293                 .remove         = sbp2_remove,
294         },
295 };
296
297 /*
298  * List of devices with known bugs.
299  *
300  * The firmware_revision field, masked with 0xffff00, is the best indicator
301  * for the type of bridge chip of a device.  It yields a few false positives
302  * but this did not break correctly behaving devices so far.
303  */
304 static const struct {
305         u32 firmware_revision;
306         u32 model_id;
307         unsigned workarounds;
308 } sbp2_workarounds_table[] = {
309         /* TSB42AA9 */ {
310                 .firmware_revision      = 0x002800,
311                 .workarounds            = SBP2_WORKAROUND_INQUIRY_36 |
312                                           SBP2_WORKAROUND_MODE_SENSE_8,
313         },
314         /* Initio bridges, actually only needed for some older ones */ {
315                 .firmware_revision      = 0x000200,
316                 .workarounds            = SBP2_WORKAROUND_INQUIRY_36,
317         },
318         /* Symbios bridge */ {
319                 .firmware_revision      = 0xa0b800,
320                 .workarounds            = SBP2_WORKAROUND_128K_MAX_TRANS,
321         },
322         /*
323          * Note about the following Apple iPod blacklist entries:
324          *
325          * There are iPods (2nd gen, 3rd gen) with model_id==0.  Since our
326          * matching logic treats 0 as a wildcard, we cannot match this ID
327          * without rewriting the matching routine.  Fortunately these iPods
328          * do not feature the read_capacity bug according to one report.
329          * Read_capacity behaviour as well as model_id could change due to
330          * Apple-supplied firmware updates though.
331          */
332         /* iPod 4th generation */ {
333                 .firmware_revision      = 0x0a2700,
334                 .model_id               = 0x000021,
335                 .workarounds            = SBP2_WORKAROUND_FIX_CAPACITY,
336         },
337         /* iPod mini */ {
338                 .firmware_revision      = 0x0a2700,
339                 .model_id               = 0x000023,
340                 .workarounds            = SBP2_WORKAROUND_FIX_CAPACITY,
341         },
342         /* iPod Photo */ {
343                 .firmware_revision      = 0x0a2700,
344                 .model_id               = 0x00007e,
345                 .workarounds            = SBP2_WORKAROUND_FIX_CAPACITY,
346         }
347 };
348
349 /**************************************
350  * General utility functions
351  **************************************/
352
353 #ifndef __BIG_ENDIAN
354 /*
355  * Converts a buffer from be32 to cpu byte ordering. Length is in bytes.
356  */
357 static __inline__ void sbp2util_be32_to_cpu_buffer(void *buffer, int length)
358 {
359         u32 *temp = buffer;
360
361         for (length = (length >> 2); length--; )
362                 temp[length] = be32_to_cpu(temp[length]);
363
364         return;
365 }
366
367 /*
368  * Converts a buffer from cpu to be32 byte ordering. Length is in bytes.
369  */
370 static __inline__ void sbp2util_cpu_to_be32_buffer(void *buffer, int length)
371 {
372         u32 *temp = buffer;
373
374         for (length = (length >> 2); length--; )
375                 temp[length] = cpu_to_be32(temp[length]);
376
377         return;
378 }
379 #else /* BIG_ENDIAN */
380 /* Why waste the cpu cycles? */
381 #define sbp2util_be32_to_cpu_buffer(x,y)
382 #define sbp2util_cpu_to_be32_buffer(x,y)
383 #endif
384
385 #ifdef CONFIG_IEEE1394_SBP2_PACKET_DUMP
386 /*
387  * Debug packet dump routine. Length is in bytes.
388  */
389 static void sbp2util_packet_dump(void *buffer, int length, char *dump_name,
390                                  u32 dump_phys_addr)
391 {
392         int i;
393         unsigned char *dump = buffer;
394
395         if (!dump || !length || !dump_name)
396                 return;
397
398         if (dump_phys_addr)
399                 printk("[%s, 0x%x]", dump_name, dump_phys_addr);
400         else
401                 printk("[%s]", dump_name);
402         for (i = 0; i < length; i++) {
403                 if (i > 0x3f) {
404                         printk("\n   ...");
405                         break;
406                 }
407                 if ((i & 0x3) == 0)
408                         printk("  ");
409                 if ((i & 0xf) == 0)
410                         printk("\n   ");
411                 printk("%02x ", (int)dump[i]);
412         }
413         printk("\n");
414
415         return;
416 }
417 #else
418 #define sbp2util_packet_dump(w,x,y,z)
419 #endif
420
421 /*
422  * Goofy routine that basically does a down_timeout function.
423  */
424 static int sbp2util_down_timeout(atomic_t *done, int timeout)
425 {
426         int i;
427
428         for (i = timeout; (i > 0 && atomic_read(done) == 0); i-= HZ/10) {
429                 if (msleep_interruptible(100))  /* 100ms */
430                         return 1;
431         }
432         return (i > 0) ? 0 : 1;
433 }
434
435 /* Free's an allocated packet */
436 static void sbp2_free_packet(struct hpsb_packet *packet)
437 {
438         hpsb_free_tlabel(packet);
439         hpsb_free_packet(packet);
440 }
441
442 /* This is much like hpsb_node_write(), except it ignores the response
443  * subaction and returns immediately. Can be used from interrupts.
444  */
445 static int sbp2util_node_write_no_wait(struct node_entry *ne, u64 addr,
446                                        quadlet_t *buffer, size_t length)
447 {
448         struct hpsb_packet *packet;
449
450         packet = hpsb_make_writepacket(ne->host, ne->nodeid,
451                                        addr, buffer, length);
452         if (!packet)
453                 return -ENOMEM;
454
455         hpsb_set_packet_complete_task(packet,
456                                       (void (*)(void *))sbp2_free_packet,
457                                       packet);
458
459         hpsb_node_fill_packet(ne, packet);
460
461         if (hpsb_send_packet(packet) < 0) {
462                 sbp2_free_packet(packet);
463                 return -EIO;
464         }
465
466         return 0;
467 }
468
469 /*
470  * This function is called to create a pool of command orbs used for
471  * command processing. It is called when a new sbp2 device is detected.
472  */
473 static int sbp2util_create_command_orb_pool(struct scsi_id_instance_data *scsi_id)
474 {
475         struct sbp2scsi_host_info *hi = scsi_id->hi;
476         int i;
477         unsigned long flags, orbs;
478         struct sbp2_command_info *command;
479
480         orbs = serialize_io ? 2 : SBP2_MAX_CMDS;
481
482         spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
483         for (i = 0; i < orbs; i++) {
484                 command = kzalloc(sizeof(*command), GFP_ATOMIC);
485                 if (!command) {
486                         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock,
487                                                flags);
488                         return -ENOMEM;
489                 }
490                 command->command_orb_dma =
491                     pci_map_single(hi->host->pdev, &command->command_orb,
492                                    sizeof(struct sbp2_command_orb),
493                                    PCI_DMA_BIDIRECTIONAL);
494                 SBP2_DMA_ALLOC("single command orb DMA");
495                 command->sge_dma =
496                     pci_map_single(hi->host->pdev,
497                                    &command->scatter_gather_element,
498                                    sizeof(command->scatter_gather_element),
499                                    PCI_DMA_BIDIRECTIONAL);
500                 SBP2_DMA_ALLOC("scatter_gather_element");
501                 INIT_LIST_HEAD(&command->list);
502                 list_add_tail(&command->list, &scsi_id->sbp2_command_orb_completed);
503         }
504         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
505         return 0;
506 }
507
508 /*
509  * This function is called to delete a pool of command orbs.
510  */
511 static void sbp2util_remove_command_orb_pool(struct scsi_id_instance_data *scsi_id)
512 {
513         struct hpsb_host *host = scsi_id->hi->host;
514         struct list_head *lh, *next;
515         struct sbp2_command_info *command;
516         unsigned long flags;
517
518         spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
519         if (!list_empty(&scsi_id->sbp2_command_orb_completed)) {
520                 list_for_each_safe(lh, next, &scsi_id->sbp2_command_orb_completed) {
521                         command = list_entry(lh, struct sbp2_command_info, list);
522
523                         /* Release our generic DMA's */
524                         pci_unmap_single(host->pdev, command->command_orb_dma,
525                                          sizeof(struct sbp2_command_orb),
526                                          PCI_DMA_BIDIRECTIONAL);
527                         SBP2_DMA_FREE("single command orb DMA");
528                         pci_unmap_single(host->pdev, command->sge_dma,
529                                          sizeof(command->scatter_gather_element),
530                                          PCI_DMA_BIDIRECTIONAL);
531                         SBP2_DMA_FREE("scatter_gather_element");
532
533                         kfree(command);
534                 }
535         }
536         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
537         return;
538 }
539
540 /*
541  * This function finds the sbp2_command for a given outstanding command
542  * orb.Only looks at the inuse list.
543  */
544 static struct sbp2_command_info *sbp2util_find_command_for_orb(
545                 struct scsi_id_instance_data *scsi_id, dma_addr_t orb)
546 {
547         struct sbp2_command_info *command;
548         unsigned long flags;
549
550         spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
551         if (!list_empty(&scsi_id->sbp2_command_orb_inuse)) {
552                 list_for_each_entry(command, &scsi_id->sbp2_command_orb_inuse, list) {
553                         if (command->command_orb_dma == orb) {
554                                 spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
555                                 return command;
556                         }
557                 }
558         }
559         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
560
561         SBP2_ORB_DEBUG("could not match command orb %x", (unsigned int)orb);
562
563         return NULL;
564 }
565
566 /*
567  * This function finds the sbp2_command for a given outstanding SCpnt.
568  * Only looks at the inuse list.
569  * Must be called with scsi_id->sbp2_command_orb_lock held.
570  */
571 static struct sbp2_command_info *sbp2util_find_command_for_SCpnt(
572                 struct scsi_id_instance_data *scsi_id, void *SCpnt)
573 {
574         struct sbp2_command_info *command;
575
576         if (!list_empty(&scsi_id->sbp2_command_orb_inuse))
577                 list_for_each_entry(command, &scsi_id->sbp2_command_orb_inuse, list)
578                         if (command->Current_SCpnt == SCpnt)
579                                 return command;
580         return NULL;
581 }
582
583 /*
584  * This function allocates a command orb used to send a scsi command.
585  */
586 static struct sbp2_command_info *sbp2util_allocate_command_orb(
587                 struct scsi_id_instance_data *scsi_id,
588                 struct scsi_cmnd *Current_SCpnt,
589                 void (*Current_done)(struct scsi_cmnd *))
590 {
591         struct list_head *lh;
592         struct sbp2_command_info *command = NULL;
593         unsigned long flags;
594
595         spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
596         if (!list_empty(&scsi_id->sbp2_command_orb_completed)) {
597                 lh = scsi_id->sbp2_command_orb_completed.next;
598                 list_del(lh);
599                 command = list_entry(lh, struct sbp2_command_info, list);
600                 command->Current_done = Current_done;
601                 command->Current_SCpnt = Current_SCpnt;
602                 list_add_tail(&command->list, &scsi_id->sbp2_command_orb_inuse);
603         } else {
604                 SBP2_ERR("%s: no orbs available", __FUNCTION__);
605         }
606         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
607         return command;
608 }
609
610 /* Free our DMA's */
611 static void sbp2util_free_command_dma(struct sbp2_command_info *command)
612 {
613         struct scsi_id_instance_data *scsi_id =
614                 (struct scsi_id_instance_data *)command->Current_SCpnt->device->host->hostdata[0];
615         struct hpsb_host *host;
616
617         if (!scsi_id) {
618                 SBP2_ERR("%s: scsi_id == NULL", __FUNCTION__);
619                 return;
620         }
621
622         host = scsi_id->ud->ne->host;
623
624         if (command->cmd_dma) {
625                 if (command->dma_type == CMD_DMA_SINGLE) {
626                         pci_unmap_single(host->pdev, command->cmd_dma,
627                                          command->dma_size, command->dma_dir);
628                         SBP2_DMA_FREE("single bulk");
629                 } else if (command->dma_type == CMD_DMA_PAGE) {
630                         pci_unmap_page(host->pdev, command->cmd_dma,
631                                        command->dma_size, command->dma_dir);
632                         SBP2_DMA_FREE("single page");
633                 } /* XXX: Check for CMD_DMA_NONE bug */
634                 command->dma_type = CMD_DMA_NONE;
635                 command->cmd_dma = 0;
636         }
637
638         if (command->sge_buffer) {
639                 pci_unmap_sg(host->pdev, command->sge_buffer,
640                              command->dma_size, command->dma_dir);
641                 SBP2_DMA_FREE("scatter list");
642                 command->sge_buffer = NULL;
643         }
644 }
645
646 /*
647  * This function moves a command to the completed orb list.
648  * Must be called with scsi_id->sbp2_command_orb_lock held.
649  */
650 static void sbp2util_mark_command_completed(
651                 struct scsi_id_instance_data *scsi_id,
652                 struct sbp2_command_info *command)
653 {
654         list_del(&command->list);
655         sbp2util_free_command_dma(command);
656         list_add_tail(&command->list, &scsi_id->sbp2_command_orb_completed);
657 }
658
659 /*
660  * Is scsi_id valid? Is the 1394 node still present?
661  */
662 static inline int sbp2util_node_is_available(struct scsi_id_instance_data *scsi_id)
663 {
664         return scsi_id && scsi_id->ne && !scsi_id->ne->in_limbo;
665 }
666
667 /*********************************************
668  * IEEE-1394 core driver stack related section
669  *********************************************/
670 static struct scsi_id_instance_data *sbp2_alloc_device(struct unit_directory *ud);
671
672 static int sbp2_probe(struct device *dev)
673 {
674         struct unit_directory *ud;
675         struct scsi_id_instance_data *scsi_id;
676
677         SBP2_DEBUG_ENTER();
678
679         ud = container_of(dev, struct unit_directory, device);
680
681         /* Don't probe UD's that have the LUN flag. We'll probe the LUN(s)
682          * instead. */
683         if (ud->flags & UNIT_DIRECTORY_HAS_LUN_DIRECTORY)
684                 return -ENODEV;
685
686         scsi_id = sbp2_alloc_device(ud);
687
688         if (!scsi_id)
689                 return -ENOMEM;
690
691         sbp2_parse_unit_directory(scsi_id, ud);
692
693         return sbp2_start_device(scsi_id);
694 }
695
696 static int sbp2_remove(struct device *dev)
697 {
698         struct unit_directory *ud;
699         struct scsi_id_instance_data *scsi_id;
700         struct scsi_device *sdev;
701
702         SBP2_DEBUG_ENTER();
703
704         ud = container_of(dev, struct unit_directory, device);
705         scsi_id = ud->device.driver_data;
706         if (!scsi_id)
707                 return 0;
708
709         if (scsi_id->scsi_host) {
710                 /* Get rid of enqueued commands if there is no chance to
711                  * send them. */
712                 if (!sbp2util_node_is_available(scsi_id))
713                         sbp2scsi_complete_all_commands(scsi_id, DID_NO_CONNECT);
714                 /* scsi_remove_device() will trigger shutdown functions of SCSI
715                  * highlevel drivers which would deadlock if blocked. */
716                 scsi_unblock_requests(scsi_id->scsi_host);
717         }
718         sdev = scsi_id->sdev;
719         if (sdev) {
720                 scsi_id->sdev = NULL;
721                 scsi_remove_device(sdev);
722         }
723
724         sbp2_logout_device(scsi_id);
725         sbp2_remove_device(scsi_id);
726
727         return 0;
728 }
729
730 static int sbp2_update(struct unit_directory *ud)
731 {
732         struct scsi_id_instance_data *scsi_id = ud->device.driver_data;
733
734         SBP2_DEBUG_ENTER();
735
736         if (sbp2_reconnect_device(scsi_id)) {
737
738                 /*
739                  * Ok, reconnect has failed. Perhaps we didn't
740                  * reconnect fast enough. Try doing a regular login, but
741                  * first do a logout just in case of any weirdness.
742                  */
743                 sbp2_logout_device(scsi_id);
744
745                 if (sbp2_login_device(scsi_id)) {
746                         /* Login failed too, just fail, and the backend
747                          * will call our sbp2_remove for us */
748                         SBP2_ERR("Failed to reconnect to sbp2 device!");
749                         return -EBUSY;
750                 }
751         }
752
753         /* Set max retries to something large on the device. */
754         sbp2_set_busy_timeout(scsi_id);
755
756         /* Do a SBP-2 fetch agent reset. */
757         sbp2_agent_reset(scsi_id, 1);
758
759         /* Get the max speed and packet size that we can use. */
760         sbp2_max_speed_and_size(scsi_id);
761
762         /* Complete any pending commands with busy (so they get
763          * retried) and remove them from our queue
764          */
765         sbp2scsi_complete_all_commands(scsi_id, DID_BUS_BUSY);
766
767         /* Make sure we unblock requests (since this is likely after a bus
768          * reset). */
769         scsi_unblock_requests(scsi_id->scsi_host);
770
771         return 0;
772 }
773
774 /* This functions is called by the sbp2_probe, for each new device. We now
775  * allocate one scsi host for each scsi_id (unit directory). */
776 static struct scsi_id_instance_data *sbp2_alloc_device(struct unit_directory *ud)
777 {
778         struct sbp2scsi_host_info *hi;
779         struct Scsi_Host *scsi_host = NULL;
780         struct scsi_id_instance_data *scsi_id = NULL;
781
782         SBP2_DEBUG_ENTER();
783
784         scsi_id = kzalloc(sizeof(*scsi_id), GFP_KERNEL);
785         if (!scsi_id) {
786                 SBP2_ERR("failed to create scsi_id");
787                 goto failed_alloc;
788         }
789
790         scsi_id->ne = ud->ne;
791         scsi_id->ud = ud;
792         scsi_id->speed_code = IEEE1394_SPEED_100;
793         scsi_id->max_payload_size = sbp2_speedto_max_payload[IEEE1394_SPEED_100];
794         atomic_set(&scsi_id->sbp2_login_complete, 0);
795         INIT_LIST_HEAD(&scsi_id->sbp2_command_orb_inuse);
796         INIT_LIST_HEAD(&scsi_id->sbp2_command_orb_completed);
797         INIT_LIST_HEAD(&scsi_id->scsi_list);
798         spin_lock_init(&scsi_id->sbp2_command_orb_lock);
799         scsi_id->sbp2_lun = 0;
800
801         ud->device.driver_data = scsi_id;
802
803         hi = hpsb_get_hostinfo(&sbp2_highlevel, ud->ne->host);
804         if (!hi) {
805                 hi = hpsb_create_hostinfo(&sbp2_highlevel, ud->ne->host, sizeof(*hi));
806                 if (!hi) {
807                         SBP2_ERR("failed to allocate hostinfo");
808                         goto failed_alloc;
809                 }
810                 SBP2_DEBUG("sbp2_alloc_device: allocated hostinfo");
811                 hi->host = ud->ne->host;
812                 INIT_LIST_HEAD(&hi->scsi_ids);
813
814 #ifdef CONFIG_IEEE1394_SBP2_PHYS_DMA
815                 /* Handle data movement if physical dma is not
816                  * enabled or not supported on host controller */
817                 if (!hpsb_register_addrspace(&sbp2_highlevel, ud->ne->host,
818                                              &sbp2_physdma_ops,
819                                              0x0ULL, 0xfffffffcULL)) {
820                         SBP2_ERR("failed to register lower 4GB address range");
821                         goto failed_alloc;
822                 }
823 #endif
824         }
825
826         /* Prevent unloading of the 1394 host */
827         if (!try_module_get(hi->host->driver->owner)) {
828                 SBP2_ERR("failed to get a reference on 1394 host driver");
829                 goto failed_alloc;
830         }
831
832         scsi_id->hi = hi;
833
834         list_add_tail(&scsi_id->scsi_list, &hi->scsi_ids);
835
836         /* Register the status FIFO address range. We could use the same FIFO
837          * for targets at different nodes. However we need different FIFOs per
838          * target in order to support multi-unit devices. */
839         scsi_id->status_fifo_addr = hpsb_allocate_and_register_addrspace(
840                         &sbp2_highlevel, ud->ne->host, &sbp2_ops,
841                         sizeof(struct sbp2_status_block), sizeof(quadlet_t),
842                         ~0ULL, ~0ULL);
843         if (!scsi_id->status_fifo_addr) {
844                 SBP2_ERR("failed to allocate status FIFO address range");
845                 goto failed_alloc;
846         }
847
848         /* Register our host with the SCSI stack. */
849         scsi_host = scsi_host_alloc(&scsi_driver_template,
850                                     sizeof(unsigned long));
851         if (!scsi_host) {
852                 SBP2_ERR("failed to register scsi host");
853                 goto failed_alloc;
854         }
855
856         scsi_host->hostdata[0] = (unsigned long)scsi_id;
857
858         if (!scsi_add_host(scsi_host, &ud->device)) {
859                 scsi_id->scsi_host = scsi_host;
860                 return scsi_id;
861         }
862
863         SBP2_ERR("failed to add scsi host");
864         scsi_host_put(scsi_host);
865
866 failed_alloc:
867         sbp2_remove_device(scsi_id);
868         return NULL;
869 }
870
871 static void sbp2_host_reset(struct hpsb_host *host)
872 {
873         struct sbp2scsi_host_info *hi;
874         struct scsi_id_instance_data *scsi_id;
875
876         hi = hpsb_get_hostinfo(&sbp2_highlevel, host);
877
878         if (hi) {
879                 list_for_each_entry(scsi_id, &hi->scsi_ids, scsi_list)
880                         scsi_block_requests(scsi_id->scsi_host);
881         }
882 }
883
884 /*
885  * This function is where we first pull the node unique ids, and then
886  * allocate memory and register a SBP-2 device.
887  */
888 static int sbp2_start_device(struct scsi_id_instance_data *scsi_id)
889 {
890         struct sbp2scsi_host_info *hi = scsi_id->hi;
891         int error;
892
893         SBP2_DEBUG_ENTER();
894
895         /* Login FIFO DMA */
896         scsi_id->login_response =
897                 pci_alloc_consistent(hi->host->pdev,
898                                      sizeof(struct sbp2_login_response),
899                                      &scsi_id->login_response_dma);
900         if (!scsi_id->login_response)
901                 goto alloc_fail;
902         SBP2_DMA_ALLOC("consistent DMA region for login FIFO");
903
904         /* Query logins ORB DMA */
905         scsi_id->query_logins_orb =
906                 pci_alloc_consistent(hi->host->pdev,
907                                      sizeof(struct sbp2_query_logins_orb),
908                                      &scsi_id->query_logins_orb_dma);
909         if (!scsi_id->query_logins_orb)
910                 goto alloc_fail;
911         SBP2_DMA_ALLOC("consistent DMA region for query logins ORB");
912
913         /* Query logins response DMA */
914         scsi_id->query_logins_response =
915                 pci_alloc_consistent(hi->host->pdev,
916                                      sizeof(struct sbp2_query_logins_response),
917                                      &scsi_id->query_logins_response_dma);
918         if (!scsi_id->query_logins_response)
919                 goto alloc_fail;
920         SBP2_DMA_ALLOC("consistent DMA region for query logins response");
921
922         /* Reconnect ORB DMA */
923         scsi_id->reconnect_orb =
924                 pci_alloc_consistent(hi->host->pdev,
925                                      sizeof(struct sbp2_reconnect_orb),
926                                      &scsi_id->reconnect_orb_dma);
927         if (!scsi_id->reconnect_orb)
928                 goto alloc_fail;
929         SBP2_DMA_ALLOC("consistent DMA region for reconnect ORB");
930
931         /* Logout ORB DMA */
932         scsi_id->logout_orb =
933                 pci_alloc_consistent(hi->host->pdev,
934                                      sizeof(struct sbp2_logout_orb),
935                                      &scsi_id->logout_orb_dma);
936         if (!scsi_id->logout_orb)
937                 goto alloc_fail;
938         SBP2_DMA_ALLOC("consistent DMA region for logout ORB");
939
940         /* Login ORB DMA */
941         scsi_id->login_orb =
942                 pci_alloc_consistent(hi->host->pdev,
943                                      sizeof(struct sbp2_login_orb),
944                                      &scsi_id->login_orb_dma);
945         if (!scsi_id->login_orb)
946                 goto alloc_fail;
947         SBP2_DMA_ALLOC("consistent DMA region for login ORB");
948
949         SBP2_DEBUG("New SBP-2 device inserted, SCSI ID = %x", scsi_id->ud->id);
950
951         /*
952          * Create our command orb pool
953          */
954         if (sbp2util_create_command_orb_pool(scsi_id)) {
955                 SBP2_ERR("sbp2util_create_command_orb_pool failed!");
956                 sbp2_remove_device(scsi_id);
957                 return -ENOMEM;
958         }
959
960         /* Schedule a timeout here. The reason is that we may be so close
961          * to a bus reset, that the device is not available for logins.
962          * This can happen when the bus reset is caused by the host
963          * connected to the sbp2 device being removed. That host would
964          * have a certain amount of time to relogin before the sbp2 device
965          * allows someone else to login instead. One second makes sense. */
966         msleep_interruptible(1000);
967         if (signal_pending(current)) {
968                 sbp2_remove_device(scsi_id);
969                 return -EINTR;
970         }
971
972         /*
973          * Login to the sbp-2 device
974          */
975         if (sbp2_login_device(scsi_id)) {
976                 /* Login failed, just remove the device. */
977                 sbp2_remove_device(scsi_id);
978                 return -EBUSY;
979         }
980
981         /*
982          * Set max retries to something large on the device
983          */
984         sbp2_set_busy_timeout(scsi_id);
985
986         /*
987          * Do a SBP-2 fetch agent reset
988          */
989         sbp2_agent_reset(scsi_id, 1);
990
991         /*
992          * Get the max speed and packet size that we can use
993          */
994         sbp2_max_speed_and_size(scsi_id);
995
996         /* Add this device to the scsi layer now */
997         error = scsi_add_device(scsi_id->scsi_host, 0, scsi_id->ud->id, 0);
998         if (error) {
999                 SBP2_ERR("scsi_add_device failed");
1000                 sbp2_logout_device(scsi_id);
1001                 sbp2_remove_device(scsi_id);
1002                 return error;
1003         }
1004
1005         return 0;
1006
1007 alloc_fail:
1008         SBP2_ERR("Could not allocate memory for scsi_id");
1009         sbp2_remove_device(scsi_id);
1010         return -ENOMEM;
1011 }
1012
1013 /*
1014  * This function removes an sbp2 device from the sbp2scsi_host_info struct.
1015  */
1016 static void sbp2_remove_device(struct scsi_id_instance_data *scsi_id)
1017 {
1018         struct sbp2scsi_host_info *hi;
1019
1020         SBP2_DEBUG_ENTER();
1021
1022         if (!scsi_id)
1023                 return;
1024
1025         hi = scsi_id->hi;
1026
1027         /* This will remove our scsi device aswell */
1028         if (scsi_id->scsi_host) {
1029                 scsi_remove_host(scsi_id->scsi_host);
1030                 scsi_host_put(scsi_id->scsi_host);
1031         }
1032
1033         sbp2util_remove_command_orb_pool(scsi_id);
1034
1035         list_del(&scsi_id->scsi_list);
1036
1037         if (scsi_id->login_response) {
1038                 pci_free_consistent(hi->host->pdev,
1039                                     sizeof(struct sbp2_login_response),
1040                                     scsi_id->login_response,
1041                                     scsi_id->login_response_dma);
1042                 SBP2_DMA_FREE("single login FIFO");
1043         }
1044
1045         if (scsi_id->login_orb) {
1046                 pci_free_consistent(hi->host->pdev,
1047                                     sizeof(struct sbp2_login_orb),
1048                                     scsi_id->login_orb,
1049                                     scsi_id->login_orb_dma);
1050                 SBP2_DMA_FREE("single login ORB");
1051         }
1052
1053         if (scsi_id->reconnect_orb) {
1054                 pci_free_consistent(hi->host->pdev,
1055                                     sizeof(struct sbp2_reconnect_orb),
1056                                     scsi_id->reconnect_orb,
1057                                     scsi_id->reconnect_orb_dma);
1058                 SBP2_DMA_FREE("single reconnect orb");
1059         }
1060
1061         if (scsi_id->logout_orb) {
1062                 pci_free_consistent(hi->host->pdev,
1063                                     sizeof(struct sbp2_logout_orb),
1064                                     scsi_id->logout_orb,
1065                                     scsi_id->logout_orb_dma);
1066                 SBP2_DMA_FREE("single logout orb");
1067         }
1068
1069         if (scsi_id->query_logins_orb) {
1070                 pci_free_consistent(hi->host->pdev,
1071                                     sizeof(struct sbp2_query_logins_orb),
1072                                     scsi_id->query_logins_orb,
1073                                     scsi_id->query_logins_orb_dma);
1074                 SBP2_DMA_FREE("single query logins orb");
1075         }
1076
1077         if (scsi_id->query_logins_response) {
1078                 pci_free_consistent(hi->host->pdev,
1079                                     sizeof(struct sbp2_query_logins_response),
1080                                     scsi_id->query_logins_response,
1081                                     scsi_id->query_logins_response_dma);
1082                 SBP2_DMA_FREE("single query logins data");
1083         }
1084
1085         if (scsi_id->status_fifo_addr)
1086                 hpsb_unregister_addrspace(&sbp2_highlevel, hi->host,
1087                         scsi_id->status_fifo_addr);
1088
1089         scsi_id->ud->device.driver_data = NULL;
1090
1091         if (hi)
1092                 module_put(hi->host->driver->owner);
1093
1094         SBP2_DEBUG("SBP-2 device removed, SCSI ID = %d", scsi_id->ud->id);
1095
1096         kfree(scsi_id);
1097 }
1098
1099 #ifdef CONFIG_IEEE1394_SBP2_PHYS_DMA
1100 /*
1101  * This function deals with physical dma write requests (for adapters that do not support
1102  * physical dma in hardware). Mostly just here for debugging...
1103  */
1104 static int sbp2_handle_physdma_write(struct hpsb_host *host, int nodeid,
1105                                      int destid, quadlet_t *data, u64 addr,
1106                                      size_t length, u16 flags)
1107 {
1108
1109         /*
1110          * Manually put the data in the right place.
1111          */
1112         memcpy(bus_to_virt((u32) addr), data, length);
1113         sbp2util_packet_dump(data, length, "sbp2 phys dma write by device",
1114                              (u32) addr);
1115         return RCODE_COMPLETE;
1116 }
1117
1118 /*
1119  * This function deals with physical dma read requests (for adapters that do not support
1120  * physical dma in hardware). Mostly just here for debugging...
1121  */
1122 static int sbp2_handle_physdma_read(struct hpsb_host *host, int nodeid,
1123                                     quadlet_t *data, u64 addr, size_t length,
1124                                     u16 flags)
1125 {
1126
1127         /*
1128          * Grab data from memory and send a read response.
1129          */
1130         memcpy(data, bus_to_virt((u32) addr), length);
1131         sbp2util_packet_dump(data, length, "sbp2 phys dma read by device",
1132                              (u32) addr);
1133         return RCODE_COMPLETE;
1134 }
1135 #endif
1136
1137 /**************************************
1138  * SBP-2 protocol related section
1139  **************************************/
1140
1141 /*
1142  * This function queries the device for the maximum concurrent logins it
1143  * supports.
1144  */
1145 static int sbp2_query_logins(struct scsi_id_instance_data *scsi_id)
1146 {
1147         struct sbp2scsi_host_info *hi = scsi_id->hi;
1148         quadlet_t data[2];
1149         int max_logins;
1150         int active_logins;
1151
1152         SBP2_DEBUG_ENTER();
1153
1154         scsi_id->query_logins_orb->reserved1 = 0x0;
1155         scsi_id->query_logins_orb->reserved2 = 0x0;
1156
1157         scsi_id->query_logins_orb->query_response_lo = scsi_id->query_logins_response_dma;
1158         scsi_id->query_logins_orb->query_response_hi = ORB_SET_NODE_ID(hi->host->node_id);
1159
1160         scsi_id->query_logins_orb->lun_misc = ORB_SET_FUNCTION(SBP2_QUERY_LOGINS_REQUEST);
1161         scsi_id->query_logins_orb->lun_misc |= ORB_SET_NOTIFY(1);
1162         scsi_id->query_logins_orb->lun_misc |= ORB_SET_LUN(scsi_id->sbp2_lun);
1163
1164         scsi_id->query_logins_orb->reserved_resp_length =
1165                 ORB_SET_QUERY_LOGINS_RESP_LENGTH(sizeof(struct sbp2_query_logins_response));
1166
1167         scsi_id->query_logins_orb->status_fifo_hi =
1168                 ORB_SET_STATUS_FIFO_HI(scsi_id->status_fifo_addr, hi->host->node_id);
1169         scsi_id->query_logins_orb->status_fifo_lo =
1170                 ORB_SET_STATUS_FIFO_LO(scsi_id->status_fifo_addr);
1171
1172         sbp2util_cpu_to_be32_buffer(scsi_id->query_logins_orb, sizeof(struct sbp2_query_logins_orb));
1173
1174         sbp2util_packet_dump(scsi_id->query_logins_orb, sizeof(struct sbp2_query_logins_orb),
1175                              "sbp2 query logins orb", scsi_id->query_logins_orb_dma);
1176
1177         memset(scsi_id->query_logins_response, 0, sizeof(struct sbp2_query_logins_response));
1178         memset(&scsi_id->status_block, 0, sizeof(struct sbp2_status_block));
1179
1180         data[0] = ORB_SET_NODE_ID(hi->host->node_id);
1181         data[1] = scsi_id->query_logins_orb_dma;
1182         sbp2util_cpu_to_be32_buffer(data, 8);
1183
1184         atomic_set(&scsi_id->sbp2_login_complete, 0);
1185
1186         hpsb_node_write(scsi_id->ne, scsi_id->sbp2_management_agent_addr, data, 8);
1187
1188         if (sbp2util_down_timeout(&scsi_id->sbp2_login_complete, 2*HZ)) {
1189                 SBP2_INFO("Error querying logins to SBP-2 device - timed out");
1190                 return -EIO;
1191         }
1192
1193         if (scsi_id->status_block.ORB_offset_lo != scsi_id->query_logins_orb_dma) {
1194                 SBP2_INFO("Error querying logins to SBP-2 device - timed out");
1195                 return -EIO;
1196         }
1197
1198         if (STATUS_GET_RESP(scsi_id->status_block.ORB_offset_hi_misc) ||
1199             STATUS_GET_DEAD_BIT(scsi_id->status_block.ORB_offset_hi_misc) ||
1200             STATUS_GET_SBP_STATUS(scsi_id->status_block.ORB_offset_hi_misc)) {
1201
1202                 SBP2_INFO("Error querying logins to SBP-2 device - timed out");
1203                 return -EIO;
1204         }
1205
1206         sbp2util_cpu_to_be32_buffer(scsi_id->query_logins_response, sizeof(struct sbp2_query_logins_response));
1207
1208         SBP2_DEBUG("length_max_logins = %x",
1209                    (unsigned int)scsi_id->query_logins_response->length_max_logins);
1210
1211         SBP2_DEBUG("Query logins to SBP-2 device successful");
1212
1213         max_logins = RESPONSE_GET_MAX_LOGINS(scsi_id->query_logins_response->length_max_logins);
1214         SBP2_DEBUG("Maximum concurrent logins supported: %d", max_logins);
1215
1216         active_logins = RESPONSE_GET_ACTIVE_LOGINS(scsi_id->query_logins_response->length_max_logins);
1217         SBP2_DEBUG("Number of active logins: %d", active_logins);
1218
1219         if (active_logins >= max_logins) {
1220                 return -EIO;
1221         }
1222
1223         return 0;
1224 }
1225
1226 /*
1227  * This function is called in order to login to a particular SBP-2 device,
1228  * after a bus reset.
1229  */
1230 static int sbp2_login_device(struct scsi_id_instance_data *scsi_id)
1231 {
1232         struct sbp2scsi_host_info *hi = scsi_id->hi;
1233         quadlet_t data[2];
1234
1235         SBP2_DEBUG_ENTER();
1236
1237         if (!scsi_id->login_orb) {
1238                 SBP2_DEBUG("%s: login_orb not alloc'd!", __FUNCTION__);
1239                 return -EIO;
1240         }
1241
1242         if (!exclusive_login) {
1243                 if (sbp2_query_logins(scsi_id)) {
1244                         SBP2_INFO("Device does not support any more concurrent logins");
1245                         return -EIO;
1246                 }
1247         }
1248
1249         /* Set-up login ORB, assume no password */
1250         scsi_id->login_orb->password_hi = 0;
1251         scsi_id->login_orb->password_lo = 0;
1252
1253         scsi_id->login_orb->login_response_lo = scsi_id->login_response_dma;
1254         scsi_id->login_orb->login_response_hi = ORB_SET_NODE_ID(hi->host->node_id);
1255
1256         scsi_id->login_orb->lun_misc = ORB_SET_FUNCTION(SBP2_LOGIN_REQUEST);
1257         scsi_id->login_orb->lun_misc |= ORB_SET_RECONNECT(0);   /* One second reconnect time */
1258         scsi_id->login_orb->lun_misc |= ORB_SET_EXCLUSIVE(exclusive_login);     /* Exclusive access to device */
1259         scsi_id->login_orb->lun_misc |= ORB_SET_NOTIFY(1);      /* Notify us of login complete */
1260         scsi_id->login_orb->lun_misc |= ORB_SET_LUN(scsi_id->sbp2_lun);
1261
1262         scsi_id->login_orb->passwd_resp_lengths =
1263                 ORB_SET_LOGIN_RESP_LENGTH(sizeof(struct sbp2_login_response));
1264
1265         scsi_id->login_orb->status_fifo_hi =
1266                 ORB_SET_STATUS_FIFO_HI(scsi_id->status_fifo_addr, hi->host->node_id);
1267         scsi_id->login_orb->status_fifo_lo =
1268                 ORB_SET_STATUS_FIFO_LO(scsi_id->status_fifo_addr);
1269
1270         sbp2util_cpu_to_be32_buffer(scsi_id->login_orb, sizeof(struct sbp2_login_orb));
1271
1272         sbp2util_packet_dump(scsi_id->login_orb, sizeof(struct sbp2_login_orb),
1273                              "sbp2 login orb", scsi_id->login_orb_dma);
1274
1275         memset(scsi_id->login_response, 0, sizeof(struct sbp2_login_response));
1276         memset(&scsi_id->status_block, 0, sizeof(struct sbp2_status_block));
1277
1278         data[0] = ORB_SET_NODE_ID(hi->host->node_id);
1279         data[1] = scsi_id->login_orb_dma;
1280         sbp2util_cpu_to_be32_buffer(data, 8);
1281
1282         atomic_set(&scsi_id->sbp2_login_complete, 0);
1283
1284         hpsb_node_write(scsi_id->ne, scsi_id->sbp2_management_agent_addr, data, 8);
1285
1286         /*
1287          * Wait for login status (up to 20 seconds)...
1288          */
1289         if (sbp2util_down_timeout(&scsi_id->sbp2_login_complete, 20*HZ)) {
1290                 SBP2_ERR("Error logging into SBP-2 device - login timed-out");
1291                 return -EIO;
1292         }
1293
1294         /*
1295          * Sanity. Make sure status returned matches login orb.
1296          */
1297         if (scsi_id->status_block.ORB_offset_lo != scsi_id->login_orb_dma) {
1298                 SBP2_ERR("Error logging into SBP-2 device - login timed-out");
1299                 return -EIO;
1300         }
1301
1302         /*
1303          * Check status
1304          */
1305         if (STATUS_GET_RESP(scsi_id->status_block.ORB_offset_hi_misc) ||
1306             STATUS_GET_DEAD_BIT(scsi_id->status_block.ORB_offset_hi_misc) ||
1307             STATUS_GET_SBP_STATUS(scsi_id->status_block.ORB_offset_hi_misc)) {
1308
1309                 SBP2_ERR("Error logging into SBP-2 device - login failed");
1310                 return -EIO;
1311         }
1312
1313         /*
1314          * Byte swap the login response, for use when reconnecting or
1315          * logging out.
1316          */
1317         sbp2util_cpu_to_be32_buffer(scsi_id->login_response, sizeof(struct sbp2_login_response));
1318
1319         /*
1320          * Grab our command block agent address from the login response.
1321          */
1322         SBP2_DEBUG("command_block_agent_hi = %x",
1323                    (unsigned int)scsi_id->login_response->command_block_agent_hi);
1324         SBP2_DEBUG("command_block_agent_lo = %x",
1325                    (unsigned int)scsi_id->login_response->command_block_agent_lo);
1326
1327         scsi_id->sbp2_command_block_agent_addr =
1328                 ((u64)scsi_id->login_response->command_block_agent_hi) << 32;
1329         scsi_id->sbp2_command_block_agent_addr |= ((u64)scsi_id->login_response->command_block_agent_lo);
1330         scsi_id->sbp2_command_block_agent_addr &= 0x0000ffffffffffffULL;
1331
1332         SBP2_INFO("Logged into SBP-2 device");
1333
1334         return 0;
1335
1336 }
1337
1338 /*
1339  * This function is called in order to logout from a particular SBP-2
1340  * device, usually called during driver unload.
1341  */
1342 static int sbp2_logout_device(struct scsi_id_instance_data *scsi_id)
1343 {
1344         struct sbp2scsi_host_info *hi = scsi_id->hi;
1345         quadlet_t data[2];
1346         int error;
1347
1348         SBP2_DEBUG_ENTER();
1349
1350         /*
1351          * Set-up logout ORB
1352          */
1353         scsi_id->logout_orb->reserved1 = 0x0;
1354         scsi_id->logout_orb->reserved2 = 0x0;
1355         scsi_id->logout_orb->reserved3 = 0x0;
1356         scsi_id->logout_orb->reserved4 = 0x0;
1357
1358         scsi_id->logout_orb->login_ID_misc = ORB_SET_FUNCTION(SBP2_LOGOUT_REQUEST);
1359         scsi_id->logout_orb->login_ID_misc |= ORB_SET_LOGIN_ID(scsi_id->login_response->length_login_ID);
1360
1361         /* Notify us when complete */
1362         scsi_id->logout_orb->login_ID_misc |= ORB_SET_NOTIFY(1);
1363
1364         scsi_id->logout_orb->reserved5 = 0x0;
1365         scsi_id->logout_orb->status_fifo_hi =
1366                 ORB_SET_STATUS_FIFO_HI(scsi_id->status_fifo_addr, hi->host->node_id);
1367         scsi_id->logout_orb->status_fifo_lo =
1368                 ORB_SET_STATUS_FIFO_LO(scsi_id->status_fifo_addr);
1369
1370         /*
1371          * Byte swap ORB if necessary
1372          */
1373         sbp2util_cpu_to_be32_buffer(scsi_id->logout_orb, sizeof(struct sbp2_logout_orb));
1374
1375         sbp2util_packet_dump(scsi_id->logout_orb, sizeof(struct sbp2_logout_orb),
1376                              "sbp2 logout orb", scsi_id->logout_orb_dma);
1377
1378         /*
1379          * Ok, let's write to the target's management agent register
1380          */
1381         data[0] = ORB_SET_NODE_ID(hi->host->node_id);
1382         data[1] = scsi_id->logout_orb_dma;
1383         sbp2util_cpu_to_be32_buffer(data, 8);
1384
1385         atomic_set(&scsi_id->sbp2_login_complete, 0);
1386
1387         error = hpsb_node_write(scsi_id->ne,
1388                                 scsi_id->sbp2_management_agent_addr, data, 8);
1389         if (error)
1390                 return error;
1391
1392         /* Wait for device to logout...1 second. */
1393         if (sbp2util_down_timeout(&scsi_id->sbp2_login_complete, HZ))
1394                 return -EIO;
1395
1396         SBP2_INFO("Logged out of SBP-2 device");
1397
1398         return 0;
1399
1400 }
1401
1402 /*
1403  * This function is called in order to reconnect to a particular SBP-2
1404  * device, after a bus reset.
1405  */
1406 static int sbp2_reconnect_device(struct scsi_id_instance_data *scsi_id)
1407 {
1408         struct sbp2scsi_host_info *hi = scsi_id->hi;
1409         quadlet_t data[2];
1410         int error;
1411
1412         SBP2_DEBUG_ENTER();
1413
1414         /*
1415          * Set-up reconnect ORB
1416          */
1417         scsi_id->reconnect_orb->reserved1 = 0x0;
1418         scsi_id->reconnect_orb->reserved2 = 0x0;
1419         scsi_id->reconnect_orb->reserved3 = 0x0;
1420         scsi_id->reconnect_orb->reserved4 = 0x0;
1421
1422         scsi_id->reconnect_orb->login_ID_misc = ORB_SET_FUNCTION(SBP2_RECONNECT_REQUEST);
1423         scsi_id->reconnect_orb->login_ID_misc |=
1424                 ORB_SET_LOGIN_ID(scsi_id->login_response->length_login_ID);
1425
1426         /* Notify us when complete */
1427         scsi_id->reconnect_orb->login_ID_misc |= ORB_SET_NOTIFY(1);
1428
1429         scsi_id->reconnect_orb->reserved5 = 0x0;
1430         scsi_id->reconnect_orb->status_fifo_hi =
1431                 ORB_SET_STATUS_FIFO_HI(scsi_id->status_fifo_addr, hi->host->node_id);
1432         scsi_id->reconnect_orb->status_fifo_lo =
1433                 ORB_SET_STATUS_FIFO_LO(scsi_id->status_fifo_addr);
1434
1435         /*
1436          * Byte swap ORB if necessary
1437          */
1438         sbp2util_cpu_to_be32_buffer(scsi_id->reconnect_orb, sizeof(struct sbp2_reconnect_orb));
1439
1440         sbp2util_packet_dump(scsi_id->reconnect_orb, sizeof(struct sbp2_reconnect_orb),
1441                              "sbp2 reconnect orb", scsi_id->reconnect_orb_dma);
1442
1443         /*
1444          * Initialize status fifo
1445          */
1446         memset(&scsi_id->status_block, 0, sizeof(struct sbp2_status_block));
1447
1448         /*
1449          * Ok, let's write to the target's management agent register
1450          */
1451         data[0] = ORB_SET_NODE_ID(hi->host->node_id);
1452         data[1] = scsi_id->reconnect_orb_dma;
1453         sbp2util_cpu_to_be32_buffer(data, 8);
1454
1455         atomic_set(&scsi_id->sbp2_login_complete, 0);
1456
1457         error = hpsb_node_write(scsi_id->ne,
1458                                 scsi_id->sbp2_management_agent_addr, data, 8);
1459         if (error)
1460                 return error;
1461
1462         /*
1463          * Wait for reconnect status (up to 1 second)...
1464          */
1465         if (sbp2util_down_timeout(&scsi_id->sbp2_login_complete, HZ)) {
1466                 SBP2_ERR("Error reconnecting to SBP-2 device - reconnect timed-out");
1467                 return -EIO;
1468         }
1469
1470         /*
1471          * Sanity. Make sure status returned matches reconnect orb.
1472          */
1473         if (scsi_id->status_block.ORB_offset_lo != scsi_id->reconnect_orb_dma) {
1474                 SBP2_ERR("Error reconnecting to SBP-2 device - reconnect timed-out");
1475                 return -EIO;
1476         }
1477
1478         /*
1479          * Check status
1480          */
1481         if (STATUS_GET_RESP(scsi_id->status_block.ORB_offset_hi_misc) ||
1482             STATUS_GET_DEAD_BIT(scsi_id->status_block.ORB_offset_hi_misc) ||
1483             STATUS_GET_SBP_STATUS(scsi_id->status_block.ORB_offset_hi_misc)) {
1484
1485                 SBP2_ERR("Error reconnecting to SBP-2 device - reconnect failed");
1486                 return -EIO;
1487         }
1488
1489         HPSB_DEBUG("Reconnected to SBP-2 device");
1490
1491         return 0;
1492
1493 }
1494
1495 /*
1496  * This function is called in order to set the busy timeout (number of
1497  * retries to attempt) on the sbp2 device.
1498  */
1499 static int sbp2_set_busy_timeout(struct scsi_id_instance_data *scsi_id)
1500 {
1501         quadlet_t data;
1502
1503         SBP2_DEBUG_ENTER();
1504
1505         data = cpu_to_be32(SBP2_BUSY_TIMEOUT_VALUE);
1506         if (hpsb_node_write(scsi_id->ne, SBP2_BUSY_TIMEOUT_ADDRESS, &data, 4))
1507                 SBP2_ERR("%s error", __FUNCTION__);
1508         return 0;
1509 }
1510
1511 /*
1512  * This function is called to parse sbp2 device's config rom unit
1513  * directory. Used to determine things like sbp2 management agent offset,
1514  * and command set used (SCSI or RBC).
1515  */
1516 static void sbp2_parse_unit_directory(struct scsi_id_instance_data *scsi_id,
1517                                       struct unit_directory *ud)
1518 {
1519         struct csr1212_keyval *kv;
1520         struct csr1212_dentry *dentry;
1521         u64 management_agent_addr;
1522         u32 command_set_spec_id, command_set, unit_characteristics,
1523             firmware_revision;
1524         unsigned workarounds;
1525         int i;
1526
1527         SBP2_DEBUG_ENTER();
1528
1529         management_agent_addr = 0x0;
1530         command_set_spec_id = 0x0;
1531         command_set = 0x0;
1532         unit_characteristics = 0x0;
1533         firmware_revision = 0x0;
1534
1535         /* Handle different fields in the unit directory, based on keys */
1536         csr1212_for_each_dir_entry(ud->ne->csr, kv, ud->ud_kv, dentry) {
1537                 switch (kv->key.id) {
1538                 case CSR1212_KV_ID_DEPENDENT_INFO:
1539                         if (kv->key.type == CSR1212_KV_TYPE_CSR_OFFSET) {
1540                                 /* Save off the management agent address */
1541                                 management_agent_addr =
1542                                     CSR1212_REGISTER_SPACE_BASE +
1543                                     (kv->value.csr_offset << 2);
1544
1545                                 SBP2_DEBUG("sbp2_management_agent_addr = %x",
1546                                            (unsigned int)management_agent_addr);
1547                         } else if (kv->key.type == CSR1212_KV_TYPE_IMMEDIATE) {
1548                                 scsi_id->sbp2_lun =
1549                                     ORB_SET_LUN(kv->value.immediate);
1550                         }
1551                         break;
1552
1553                 case SBP2_COMMAND_SET_SPEC_ID_KEY:
1554                         /* Command spec organization */
1555                         command_set_spec_id = kv->value.immediate;
1556                         SBP2_DEBUG("sbp2_command_set_spec_id = %x",
1557                                    (unsigned int)command_set_spec_id);
1558                         break;
1559
1560                 case SBP2_COMMAND_SET_KEY:
1561                         /* Command set used by sbp2 device */
1562                         command_set = kv->value.immediate;
1563                         SBP2_DEBUG("sbp2_command_set = %x",
1564                                    (unsigned int)command_set);
1565                         break;
1566
1567                 case SBP2_UNIT_CHARACTERISTICS_KEY:
1568                         /*
1569                          * Unit characterisitcs (orb related stuff
1570                          * that I'm not yet paying attention to)
1571                          */
1572                         unit_characteristics = kv->value.immediate;
1573                         SBP2_DEBUG("sbp2_unit_characteristics = %x",
1574                                    (unsigned int)unit_characteristics);
1575                         break;
1576
1577                 case SBP2_FIRMWARE_REVISION_KEY:
1578                         /* Firmware revision */
1579                         firmware_revision = kv->value.immediate;
1580                         SBP2_DEBUG("sbp2_firmware_revision = %x",
1581                                    (unsigned int)firmware_revision);
1582                         break;
1583
1584                 default:
1585                         break;
1586                 }
1587         }
1588
1589         workarounds = sbp2_default_workarounds;
1590         if (force_inquiry_hack) {
1591                 SBP2_WARN("force_inquiry_hack is deprecated. "
1592                           "Use parameter 'workarounds' instead.");
1593                 workarounds |= SBP2_WORKAROUND_INQUIRY_36;
1594         }
1595
1596         if (!(workarounds & SBP2_WORKAROUND_OVERRIDE))
1597                 for (i = 0; i < ARRAY_SIZE(sbp2_workarounds_table); i++) {
1598                         if (sbp2_workarounds_table[i].firmware_revision &&
1599                             sbp2_workarounds_table[i].firmware_revision !=
1600                             (firmware_revision & 0xffff00))
1601                                 continue;
1602                         if (sbp2_workarounds_table[i].model_id &&
1603                             sbp2_workarounds_table[i].model_id != ud->model_id)
1604                                 continue;
1605                         workarounds |= sbp2_workarounds_table[i].workarounds;
1606                         break;
1607                 }
1608
1609         if (workarounds)
1610                 SBP2_INFO("Workarounds for node " NODE_BUS_FMT ": 0x%x "
1611                           "(firmware_revision 0x%06x, vendor_id 0x%06x,"
1612                           " model_id 0x%06x)",
1613                           NODE_BUS_ARGS(ud->ne->host, ud->ne->nodeid),
1614                           workarounds, firmware_revision,
1615                           ud->vendor_id ? ud->vendor_id : ud->ne->vendor_id,
1616                           ud->model_id);
1617
1618         /* We would need one SCSI host template for each target to adjust
1619          * max_sectors on the fly, therefore warn only. */
1620         if (workarounds & SBP2_WORKAROUND_128K_MAX_TRANS &&
1621             (max_sectors * 512) > (128 * 1024))
1622                 SBP2_WARN("Node " NODE_BUS_FMT ": Bridge only supports 128KB "
1623                           "max transfer size. WARNING: Current max_sectors "
1624                           "setting is larger than 128KB (%d sectors)",
1625                           NODE_BUS_ARGS(ud->ne->host, ud->ne->nodeid),
1626                           max_sectors);
1627
1628         /* If this is a logical unit directory entry, process the parent
1629          * to get the values. */
1630         if (ud->flags & UNIT_DIRECTORY_LUN_DIRECTORY) {
1631                 struct unit_directory *parent_ud =
1632                         container_of(ud->device.parent, struct unit_directory, device);
1633                 sbp2_parse_unit_directory(scsi_id, parent_ud);
1634         } else {
1635                 scsi_id->sbp2_management_agent_addr = management_agent_addr;
1636                 scsi_id->sbp2_command_set_spec_id = command_set_spec_id;
1637                 scsi_id->sbp2_command_set = command_set;
1638                 scsi_id->sbp2_unit_characteristics = unit_characteristics;
1639                 scsi_id->sbp2_firmware_revision = firmware_revision;
1640                 scsi_id->workarounds = workarounds;
1641                 if (ud->flags & UNIT_DIRECTORY_HAS_LUN)
1642                         scsi_id->sbp2_lun = ORB_SET_LUN(ud->lun);
1643         }
1644 }
1645
1646 /*
1647  * This function is called in order to determine the max speed and packet
1648  * size we can use in our ORBs. Note, that we (the driver and host) only
1649  * initiate the transaction. The SBP-2 device actually transfers the data
1650  * (by reading from the DMA area we tell it). This means that the SBP-2
1651  * device decides the actual maximum data it can transfer. We just tell it
1652  * the speed that it needs to use, and the max_rec the host supports, and
1653  * it takes care of the rest.
1654  */
1655 static int sbp2_max_speed_and_size(struct scsi_id_instance_data *scsi_id)
1656 {
1657         struct sbp2scsi_host_info *hi = scsi_id->hi;
1658
1659         SBP2_DEBUG_ENTER();
1660
1661         /* Initial setting comes from the hosts speed map */
1662         scsi_id->speed_code =
1663             hi->host->speed_map[NODEID_TO_NODE(hi->host->node_id) * 64 +
1664                                 NODEID_TO_NODE(scsi_id->ne->nodeid)];
1665
1666         /* Bump down our speed if the user requested it */
1667         if (scsi_id->speed_code > max_speed) {
1668                 scsi_id->speed_code = max_speed;
1669                 SBP2_ERR("Forcing SBP-2 max speed down to %s",
1670                          hpsb_speedto_str[scsi_id->speed_code]);
1671         }
1672
1673         /* Payload size is the lesser of what our speed supports and what
1674          * our host supports.  */
1675         scsi_id->max_payload_size =
1676             min(sbp2_speedto_max_payload[scsi_id->speed_code],
1677                 (u8) (hi->host->csr.max_rec - 1));
1678
1679         HPSB_DEBUG("Node " NODE_BUS_FMT ": Max speed [%s] - Max payload [%u]",
1680                    NODE_BUS_ARGS(hi->host, scsi_id->ne->nodeid),
1681                    hpsb_speedto_str[scsi_id->speed_code],
1682                    1 << ((u32) scsi_id->max_payload_size + 2));
1683
1684         return 0;
1685 }
1686
1687 /*
1688  * This function is called in order to perform a SBP-2 agent reset.
1689  */
1690 static int sbp2_agent_reset(struct scsi_id_instance_data *scsi_id, int wait)
1691 {
1692         quadlet_t data;
1693         u64 addr;
1694         int retval;
1695
1696         SBP2_DEBUG_ENTER();
1697
1698         data = ntohl(SBP2_AGENT_RESET_DATA);
1699         addr = scsi_id->sbp2_command_block_agent_addr + SBP2_AGENT_RESET_OFFSET;
1700
1701         if (wait)
1702                 retval = hpsb_node_write(scsi_id->ne, addr, &data, 4);
1703         else
1704                 retval = sbp2util_node_write_no_wait(scsi_id->ne, addr, &data, 4);
1705
1706         if (retval < 0) {
1707                 SBP2_ERR("hpsb_node_write failed.\n");
1708                 return -EIO;
1709         }
1710
1711         /*
1712          * Need to make sure orb pointer is written on next command
1713          */
1714         scsi_id->last_orb = NULL;
1715
1716         return 0;
1717 }
1718
1719 static void sbp2_prep_command_orb_sg(struct sbp2_command_orb *orb,
1720                                      struct sbp2scsi_host_info *hi,
1721                                      struct sbp2_command_info *command,
1722                                      unsigned int scsi_use_sg,
1723                                      struct scatterlist *sgpnt,
1724                                      u32 orb_direction,
1725                                      enum dma_data_direction dma_dir)
1726 {
1727         command->dma_dir = dma_dir;
1728         orb->data_descriptor_hi = ORB_SET_NODE_ID(hi->host->node_id);
1729         orb->misc |= ORB_SET_DIRECTION(orb_direction);
1730
1731         /* Special case if only one element (and less than 64KB in size) */
1732         if ((scsi_use_sg == 1) &&
1733             (sgpnt[0].length <= SBP2_MAX_SG_ELEMENT_LENGTH)) {
1734
1735                 SBP2_DEBUG("Only one s/g element");
1736                 command->dma_size = sgpnt[0].length;
1737                 command->dma_type = CMD_DMA_PAGE;
1738                 command->cmd_dma = pci_map_page(hi->host->pdev,
1739                                                 sgpnt[0].page,
1740                                                 sgpnt[0].offset,
1741                                                 command->dma_size,
1742                                                 command->dma_dir);
1743                 SBP2_DMA_ALLOC("single page scatter element");
1744
1745                 orb->data_descriptor_lo = command->cmd_dma;
1746                 orb->misc |= ORB_SET_DATA_SIZE(command->dma_size);
1747
1748         } else {
1749                 struct sbp2_unrestricted_page_table *sg_element =
1750                                         &command->scatter_gather_element[0];
1751                 u32 sg_count, sg_len;
1752                 dma_addr_t sg_addr;
1753                 int i, count = pci_map_sg(hi->host->pdev, sgpnt, scsi_use_sg,
1754                                           dma_dir);
1755
1756                 SBP2_DMA_ALLOC("scatter list");
1757
1758                 command->dma_size = scsi_use_sg;
1759                 command->sge_buffer = sgpnt;
1760
1761                 /* use page tables (s/g) */
1762                 orb->misc |= ORB_SET_PAGE_TABLE_PRESENT(0x1);
1763                 orb->data_descriptor_lo = command->sge_dma;
1764
1765                 /*
1766                  * Loop through and fill out our sbp-2 page tables
1767                  * (and split up anything too large)
1768                  */
1769                 for (i = 0, sg_count = 0 ; i < count; i++, sgpnt++) {
1770                         sg_len = sg_dma_len(sgpnt);
1771                         sg_addr = sg_dma_address(sgpnt);
1772                         while (sg_len) {
1773                                 sg_element[sg_count].segment_base_lo = sg_addr;
1774                                 if (sg_len > SBP2_MAX_SG_ELEMENT_LENGTH) {
1775                                         sg_element[sg_count].length_segment_base_hi =
1776                                                 PAGE_TABLE_SET_SEGMENT_LENGTH(SBP2_MAX_SG_ELEMENT_LENGTH);
1777                                         sg_addr += SBP2_MAX_SG_ELEMENT_LENGTH;
1778                                         sg_len -= SBP2_MAX_SG_ELEMENT_LENGTH;
1779                                 } else {
1780                                         sg_element[sg_count].length_segment_base_hi =
1781                                                 PAGE_TABLE_SET_SEGMENT_LENGTH(sg_len);
1782                                         sg_len = 0;
1783                                 }
1784                                 sg_count++;
1785                         }
1786                 }
1787
1788                 /* Number of page table (s/g) elements */
1789                 orb->misc |= ORB_SET_DATA_SIZE(sg_count);
1790
1791                 sbp2util_packet_dump(sg_element,
1792                                      (sizeof(struct sbp2_unrestricted_page_table)) * sg_count,
1793                                      "sbp2 s/g list", command->sge_dma);
1794
1795                 /* Byte swap page tables if necessary */
1796                 sbp2util_cpu_to_be32_buffer(sg_element,
1797                                             (sizeof(struct sbp2_unrestricted_page_table)) *
1798                                             sg_count);
1799         }
1800 }
1801
1802 static void sbp2_prep_command_orb_no_sg(struct sbp2_command_orb *orb,
1803                                         struct sbp2scsi_host_info *hi,
1804                                         struct sbp2_command_info *command,
1805                                         struct scatterlist *sgpnt,
1806                                         u32 orb_direction,
1807                                         unsigned int scsi_request_bufflen,
1808                                         void *scsi_request_buffer,
1809                                         enum dma_data_direction dma_dir)
1810 {
1811         command->dma_dir = dma_dir;
1812         command->dma_size = scsi_request_bufflen;
1813         command->dma_type = CMD_DMA_SINGLE;
1814         command->cmd_dma = pci_map_single(hi->host->pdev, scsi_request_buffer,
1815                                           command->dma_size, command->dma_dir);
1816         orb->data_descriptor_hi = ORB_SET_NODE_ID(hi->host->node_id);
1817         orb->misc |= ORB_SET_DIRECTION(orb_direction);
1818
1819         SBP2_DMA_ALLOC("single bulk");
1820
1821         /*
1822          * Handle case where we get a command w/o s/g enabled (but
1823          * check for transfers larger than 64K)
1824          */
1825         if (scsi_request_bufflen <= SBP2_MAX_SG_ELEMENT_LENGTH) {
1826
1827                 orb->data_descriptor_lo = command->cmd_dma;
1828                 orb->misc |= ORB_SET_DATA_SIZE(scsi_request_bufflen);
1829
1830         } else {
1831                 struct sbp2_unrestricted_page_table *sg_element =
1832                         &command->scatter_gather_element[0];
1833                 u32 sg_count, sg_len;
1834                 dma_addr_t sg_addr;
1835
1836                 /*
1837                  * Need to turn this into page tables, since the
1838                  * buffer is too large.
1839                  */
1840                 orb->data_descriptor_lo = command->sge_dma;
1841
1842                 /* Use page tables (s/g) */
1843                 orb->misc |= ORB_SET_PAGE_TABLE_PRESENT(0x1);
1844
1845                 /*
1846                  * fill out our sbp-2 page tables (and split up
1847                  * the large buffer)
1848                  */
1849                 sg_count = 0;
1850                 sg_len = scsi_request_bufflen;
1851                 sg_addr = command->cmd_dma;
1852                 while (sg_len) {
1853                         sg_element[sg_count].segment_base_lo = sg_addr;
1854                         if (sg_len > SBP2_MAX_SG_ELEMENT_LENGTH) {
1855                                 sg_element[sg_count].length_segment_base_hi =
1856                                         PAGE_TABLE_SET_SEGMENT_LENGTH(SBP2_MAX_SG_ELEMENT_LENGTH);
1857                                 sg_addr += SBP2_MAX_SG_ELEMENT_LENGTH;
1858                                 sg_len -= SBP2_MAX_SG_ELEMENT_LENGTH;
1859                         } else {
1860                                 sg_element[sg_count].length_segment_base_hi =
1861                                         PAGE_TABLE_SET_SEGMENT_LENGTH(sg_len);
1862                                 sg_len = 0;
1863                         }
1864                         sg_count++;
1865                 }
1866
1867                 /* Number of page table (s/g) elements */
1868                 orb->misc |= ORB_SET_DATA_SIZE(sg_count);
1869
1870                 sbp2util_packet_dump(sg_element,
1871                                      (sizeof(struct sbp2_unrestricted_page_table)) * sg_count,
1872                                      "sbp2 s/g list", command->sge_dma);
1873
1874                 /* Byte swap page tables if necessary */
1875                 sbp2util_cpu_to_be32_buffer(sg_element,
1876                                             (sizeof(struct sbp2_unrestricted_page_table)) *
1877                                              sg_count);
1878         }
1879 }
1880
1881 /*
1882  * This function is called to create the actual command orb and s/g list
1883  * out of the scsi command itself.
1884  */
1885 static void sbp2_create_command_orb(struct scsi_id_instance_data *scsi_id,
1886                                     struct sbp2_command_info *command,
1887                                     unchar *scsi_cmd,
1888                                     unsigned int scsi_use_sg,
1889                                     unsigned int scsi_request_bufflen,
1890                                     void *scsi_request_buffer,
1891                                     enum dma_data_direction dma_dir)
1892 {
1893         struct sbp2scsi_host_info *hi = scsi_id->hi;
1894         struct scatterlist *sgpnt = (struct scatterlist *)scsi_request_buffer;
1895         struct sbp2_command_orb *command_orb = &command->command_orb;
1896         u32 orb_direction;
1897
1898         /*
1899          * Set-up our command ORB..
1900          *
1901          * NOTE: We're doing unrestricted page tables (s/g), as this is
1902          * best performance (at least with the devices I have). This means
1903          * that data_size becomes the number of s/g elements, and
1904          * page_size should be zero (for unrestricted).
1905          */
1906         command_orb->next_ORB_hi = ORB_SET_NULL_PTR(1);
1907         command_orb->next_ORB_lo = 0x0;
1908         command_orb->misc = ORB_SET_MAX_PAYLOAD(scsi_id->max_payload_size);
1909         command_orb->misc |= ORB_SET_SPEED(scsi_id->speed_code);
1910         command_orb->misc |= ORB_SET_NOTIFY(1); /* Notify us when complete */
1911
1912         if (dma_dir == DMA_NONE)
1913                 orb_direction = ORB_DIRECTION_NO_DATA_TRANSFER;
1914         else if (dma_dir == DMA_TO_DEVICE && scsi_request_bufflen)
1915                 orb_direction = ORB_DIRECTION_WRITE_TO_MEDIA;
1916         else if (dma_dir == DMA_FROM_DEVICE && scsi_request_bufflen)
1917                 orb_direction = ORB_DIRECTION_READ_FROM_MEDIA;
1918         else {
1919                 SBP2_WARN("Falling back to DMA_NONE");
1920                 orb_direction = ORB_DIRECTION_NO_DATA_TRANSFER;
1921         }
1922
1923         /* Set-up our pagetable stuff */
1924         if (orb_direction == ORB_DIRECTION_NO_DATA_TRANSFER) {
1925                 SBP2_DEBUG("No data transfer");
1926                 command_orb->data_descriptor_hi = 0x0;
1927                 command_orb->data_descriptor_lo = 0x0;
1928                 command_orb->misc |= ORB_SET_DIRECTION(1);
1929         } else if (scsi_use_sg) {
1930                 SBP2_DEBUG("Use scatter/gather");
1931                 sbp2_prep_command_orb_sg(command_orb, hi, command, scsi_use_sg,
1932                                          sgpnt, orb_direction, dma_dir);
1933         } else {
1934                 SBP2_DEBUG("No scatter/gather");
1935                 sbp2_prep_command_orb_no_sg(command_orb, hi, command, sgpnt,
1936                                             orb_direction, scsi_request_bufflen,
1937                                             scsi_request_buffer, dma_dir);
1938         }
1939
1940         /* Byte swap command ORB if necessary */
1941         sbp2util_cpu_to_be32_buffer(command_orb, sizeof(struct sbp2_command_orb));
1942
1943         /* Put our scsi command in the command ORB */
1944         memset(command_orb->cdb, 0, 12);
1945         memcpy(command_orb->cdb, scsi_cmd, COMMAND_SIZE(*scsi_cmd));
1946 }
1947
1948 /*
1949  * This function is called in order to begin a regular SBP-2 command.
1950  */
1951 static int sbp2_link_orb_command(struct scsi_id_instance_data *scsi_id,
1952                                  struct sbp2_command_info *command)
1953 {
1954         struct sbp2scsi_host_info *hi = scsi_id->hi;
1955         struct sbp2_command_orb *command_orb = &command->command_orb;
1956         struct node_entry *ne = scsi_id->ne;
1957         u64 addr;
1958
1959         outstanding_orb_incr;
1960         SBP2_ORB_DEBUG("sending command orb %p, total orbs = %x",
1961                        command_orb, global_outstanding_command_orbs);
1962
1963         pci_dma_sync_single_for_device(hi->host->pdev, command->command_orb_dma,
1964                                        sizeof(struct sbp2_command_orb),
1965                                        PCI_DMA_BIDIRECTIONAL);
1966         pci_dma_sync_single_for_device(hi->host->pdev, command->sge_dma,
1967                                        sizeof(command->scatter_gather_element),
1968                                        PCI_DMA_BIDIRECTIONAL);
1969         /*
1970          * Check to see if there are any previous orbs to use
1971          */
1972         if (scsi_id->last_orb == NULL) {
1973                 quadlet_t data[2];
1974
1975                 /*
1976                  * Ok, let's write to the target's management agent register
1977                  */
1978                 addr = scsi_id->sbp2_command_block_agent_addr + SBP2_ORB_POINTER_OFFSET;
1979                 data[0] = ORB_SET_NODE_ID(hi->host->node_id);
1980                 data[1] = command->command_orb_dma;
1981                 sbp2util_cpu_to_be32_buffer(data, 8);
1982
1983                 SBP2_ORB_DEBUG("write command agent, command orb %p", command_orb);
1984
1985                 if (sbp2util_node_write_no_wait(ne, addr, data, 8) < 0) {
1986                         SBP2_ERR("sbp2util_node_write_no_wait failed.\n");
1987                         return -EIO;
1988                 }
1989
1990                 SBP2_ORB_DEBUG("write command agent complete");
1991
1992                 scsi_id->last_orb = command_orb;
1993                 scsi_id->last_orb_dma = command->command_orb_dma;
1994
1995         } else {
1996                 quadlet_t data;
1997
1998                 /*
1999                  * We have an orb already sent (maybe or maybe not
2000                  * processed) that we can append this orb to. So do so,
2001                  * and ring the doorbell. Have to be very careful
2002                  * modifying these next orb pointers, as they are accessed
2003                  * both by the sbp2 device and us.
2004                  */
2005                 scsi_id->last_orb->next_ORB_lo =
2006                     cpu_to_be32(command->command_orb_dma);
2007                 /* Tells hardware that this pointer is valid */
2008                 scsi_id->last_orb->next_ORB_hi = 0x0;
2009                 pci_dma_sync_single_for_device(hi->host->pdev,
2010                                                scsi_id->last_orb_dma,
2011                                                sizeof(struct sbp2_command_orb),
2012                                                PCI_DMA_BIDIRECTIONAL);
2013
2014                 /*
2015                  * Ring the doorbell
2016                  */
2017                 data = cpu_to_be32(command->command_orb_dma);
2018                 addr = scsi_id->sbp2_command_block_agent_addr + SBP2_DOORBELL_OFFSET;
2019
2020                 SBP2_ORB_DEBUG("ring doorbell, command orb %p", command_orb);
2021
2022                 if (sbp2util_node_write_no_wait(ne, addr, &data, 4) < 0) {
2023                         SBP2_ERR("sbp2util_node_write_no_wait failed");
2024                         return -EIO;
2025                 }
2026
2027                 scsi_id->last_orb = command_orb;
2028                 scsi_id->last_orb_dma = command->command_orb_dma;
2029
2030         }
2031         return 0;
2032 }
2033
2034 /*
2035  * This function is called in order to begin a regular SBP-2 command.
2036  */
2037 static int sbp2_send_command(struct scsi_id_instance_data *scsi_id,
2038                              struct scsi_cmnd *SCpnt,
2039                              void (*done)(struct scsi_cmnd *))
2040 {
2041         unchar *cmd = (unchar *) SCpnt->cmnd;
2042         unsigned int request_bufflen = SCpnt->request_bufflen;
2043         struct sbp2_command_info *command;
2044
2045         SBP2_DEBUG_ENTER();
2046         SBP2_DEBUG("SCSI transfer size = %x", request_bufflen);
2047         SBP2_DEBUG("SCSI s/g elements = %x", (unsigned int)SCpnt->use_sg);
2048
2049         /*
2050          * Allocate a command orb and s/g structure
2051          */
2052         command = sbp2util_allocate_command_orb(scsi_id, SCpnt, done);
2053         if (!command) {
2054                 return -EIO;
2055         }
2056
2057         /*
2058          * Now actually fill in the comamnd orb and sbp2 s/g list
2059          */
2060         sbp2_create_command_orb(scsi_id, command, cmd, SCpnt->use_sg,
2061                                 request_bufflen, SCpnt->request_buffer,
2062                                 SCpnt->sc_data_direction);
2063
2064         sbp2util_packet_dump(&command->command_orb, sizeof(struct sbp2_command_orb),
2065                              "sbp2 command orb", command->command_orb_dma);
2066
2067         /*
2068          * Initialize status fifo
2069          */
2070         memset(&scsi_id->status_block, 0, sizeof(struct sbp2_status_block));
2071
2072         /*
2073          * Link up the orb, and ring the doorbell if needed
2074          */
2075         sbp2_link_orb_command(scsi_id, command);
2076
2077         return 0;
2078 }
2079
2080 /*
2081  * Translates SBP-2 status into SCSI sense data for check conditions
2082  */
2083 static unsigned int sbp2_status_to_sense_data(unchar *sbp2_status, unchar *sense_data)
2084 {
2085         SBP2_DEBUG_ENTER();
2086
2087         /*
2088          * Ok, it's pretty ugly...   ;-)
2089          */
2090         sense_data[0] = 0x70;
2091         sense_data[1] = 0x0;
2092         sense_data[2] = sbp2_status[9];
2093         sense_data[3] = sbp2_status[12];
2094         sense_data[4] = sbp2_status[13];
2095         sense_data[5] = sbp2_status[14];
2096         sense_data[6] = sbp2_status[15];
2097         sense_data[7] = 10;
2098         sense_data[8] = sbp2_status[16];
2099         sense_data[9] = sbp2_status[17];
2100         sense_data[10] = sbp2_status[18];
2101         sense_data[11] = sbp2_status[19];
2102         sense_data[12] = sbp2_status[10];
2103         sense_data[13] = sbp2_status[11];
2104         sense_data[14] = sbp2_status[20];
2105         sense_data[15] = sbp2_status[21];
2106
2107         return sbp2_status[8] & 0x3f;   /* return scsi status */
2108 }
2109
2110 /*
2111  * This function is called after a command is completed, in order to do any necessary SBP-2
2112  * response data translations for the SCSI stack
2113  */
2114 static void sbp2_check_sbp2_response(struct scsi_id_instance_data *scsi_id,
2115                                      struct scsi_cmnd *SCpnt)
2116 {
2117         u8 *scsi_buf = SCpnt->request_buffer;
2118
2119         SBP2_DEBUG_ENTER();
2120
2121         if (SCpnt->cmnd[0] == INQUIRY && (SCpnt->cmnd[1] & 3) == 0) {
2122                 /*
2123                  * Make sure data length is ok. Minimum length is 36 bytes
2124                  */
2125                 if (scsi_buf[4] == 0) {
2126                         scsi_buf[4] = 36 - 5;
2127                 }
2128
2129                 /*
2130                  * Fix ansi revision and response data format
2131                  */
2132                 scsi_buf[2] |= 2;
2133                 scsi_buf[3] = (scsi_buf[3] & 0xf0) | 2;
2134         }
2135 }
2136
2137 /*
2138  * This function deals with status writes from the SBP-2 device
2139  */
2140 static int sbp2_handle_status_write(struct hpsb_host *host, int nodeid, int destid,
2141                                     quadlet_t *data, u64 addr, size_t length, u16 fl)
2142 {
2143         struct sbp2scsi_host_info *hi;
2144         struct scsi_id_instance_data *scsi_id = NULL, *scsi_id_tmp;
2145         struct scsi_cmnd *SCpnt = NULL;
2146         u32 scsi_status = SBP2_SCSI_STATUS_GOOD;
2147         struct sbp2_command_info *command;
2148         unsigned long flags;
2149
2150         SBP2_DEBUG_ENTER();
2151
2152         sbp2util_packet_dump(data, length, "sbp2 status write by device", (u32)addr);
2153
2154         if (!host) {
2155                 SBP2_ERR("host is NULL - this is bad!");
2156                 return RCODE_ADDRESS_ERROR;
2157         }
2158
2159         hi = hpsb_get_hostinfo(&sbp2_highlevel, host);
2160
2161         if (!hi) {
2162                 SBP2_ERR("host info is NULL - this is bad!");
2163                 return RCODE_ADDRESS_ERROR;
2164         }
2165
2166         /*
2167          * Find our scsi_id structure by looking at the status fifo address
2168          * written to by the sbp2 device.
2169          */
2170         list_for_each_entry(scsi_id_tmp, &hi->scsi_ids, scsi_list) {
2171                 if (scsi_id_tmp->ne->nodeid == nodeid &&
2172                     scsi_id_tmp->status_fifo_addr == addr) {
2173                         scsi_id = scsi_id_tmp;
2174                         break;
2175                 }
2176         }
2177
2178         if (!scsi_id) {
2179                 SBP2_ERR("scsi_id is NULL - device is gone?");
2180                 return RCODE_ADDRESS_ERROR;
2181         }
2182
2183         /*
2184          * Put response into scsi_id status fifo...
2185          */
2186         memcpy(&scsi_id->status_block, data, length);
2187
2188         /*
2189          * Byte swap first two quadlets (8 bytes) of status for processing
2190          */
2191         sbp2util_be32_to_cpu_buffer(&scsi_id->status_block, 8);
2192
2193         /*
2194          * Handle command ORB status here if necessary. First, need to match status with command.
2195          */
2196         command = sbp2util_find_command_for_orb(scsi_id, scsi_id->status_block.ORB_offset_lo);
2197         if (command) {
2198
2199                 SBP2_DEBUG("Found status for command ORB");
2200                 pci_dma_sync_single_for_cpu(hi->host->pdev, command->command_orb_dma,
2201                                             sizeof(struct sbp2_command_orb),
2202                                             PCI_DMA_BIDIRECTIONAL);
2203                 pci_dma_sync_single_for_cpu(hi->host->pdev, command->sge_dma,
2204                                             sizeof(command->scatter_gather_element),
2205                                             PCI_DMA_BIDIRECTIONAL);
2206
2207                 SBP2_ORB_DEBUG("matched command orb %p", &command->command_orb);
2208                 outstanding_orb_decr;
2209
2210                 /*
2211                  * Matched status with command, now grab scsi command pointers and check status
2212                  */
2213                 SCpnt = command->Current_SCpnt;
2214                 spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
2215                 sbp2util_mark_command_completed(scsi_id, command);
2216                 spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
2217
2218                 if (SCpnt) {
2219
2220                         /*
2221                          * See if the target stored any scsi status information
2222                          */
2223                         if (STATUS_GET_LENGTH(scsi_id->status_block.ORB_offset_hi_misc) > 1) {
2224                                 /*
2225                                  * Translate SBP-2 status to SCSI sense data
2226                                  */
2227                                 SBP2_DEBUG("CHECK CONDITION");
2228                                 scsi_status = sbp2_status_to_sense_data((unchar *)&scsi_id->status_block, SCpnt->sense_buffer);
2229                         }
2230
2231                         /*
2232                          * Check to see if the dead bit is set. If so, we'll have to initiate
2233                          * a fetch agent reset.
2234                          */
2235                         if (STATUS_GET_DEAD_BIT(scsi_id->status_block.ORB_offset_hi_misc)) {
2236
2237                                 /*
2238                                  * Initiate a fetch agent reset.
2239                                  */
2240                                 SBP2_DEBUG("Dead bit set - initiating fetch agent reset");
2241                                 sbp2_agent_reset(scsi_id, 0);
2242                         }
2243
2244                         SBP2_ORB_DEBUG("completing command orb %p", &command->command_orb);
2245                 }
2246
2247                 /*
2248                  * Check here to see if there are no commands in-use. If there are none, we can
2249                  * null out last orb so that next time around we write directly to the orb pointer...
2250                  * Quick start saves one 1394 bus transaction.
2251                  */
2252                 spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
2253                 if (list_empty(&scsi_id->sbp2_command_orb_inuse)) {
2254                         scsi_id->last_orb = NULL;
2255                 }
2256                 spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
2257
2258         } else {
2259
2260                 /*
2261                  * It's probably a login/logout/reconnect status.
2262                  */
2263                 if ((scsi_id->login_orb_dma == scsi_id->status_block.ORB_offset_lo) ||
2264                     (scsi_id->query_logins_orb_dma == scsi_id->status_block.ORB_offset_lo) ||
2265                     (scsi_id->reconnect_orb_dma == scsi_id->status_block.ORB_offset_lo) ||
2266                     (scsi_id->logout_orb_dma == scsi_id->status_block.ORB_offset_lo)) {
2267                         atomic_set(&scsi_id->sbp2_login_complete, 1);
2268                 }
2269         }
2270
2271         if (SCpnt) {
2272
2273                 /* Complete the SCSI command. */
2274                 SBP2_DEBUG("Completing SCSI command");
2275                 sbp2scsi_complete_command(scsi_id, scsi_status, SCpnt,
2276                                           command->Current_done);
2277                 SBP2_ORB_DEBUG("command orb completed");
2278         }
2279
2280         return RCODE_COMPLETE;
2281 }
2282
2283 /**************************************
2284  * SCSI interface related section
2285  **************************************/
2286
2287 /*
2288  * This routine is the main request entry routine for doing I/O. It is
2289  * called from the scsi stack directly.
2290  */
2291 static int sbp2scsi_queuecommand(struct scsi_cmnd *SCpnt,
2292                                  void (*done)(struct scsi_cmnd *))
2293 {
2294         struct scsi_id_instance_data *scsi_id =
2295                 (struct scsi_id_instance_data *)SCpnt->device->host->hostdata[0];
2296         struct sbp2scsi_host_info *hi;
2297         int result = DID_NO_CONNECT << 16;
2298
2299         SBP2_DEBUG_ENTER();
2300 #if (CONFIG_IEEE1394_SBP2_DEBUG >= 2) || defined(CONFIG_IEEE1394_SBP2_PACKET_DUMP)
2301         scsi_print_command(SCpnt);
2302 #endif
2303
2304         if (!sbp2util_node_is_available(scsi_id))
2305                 goto done;
2306
2307         hi = scsi_id->hi;
2308
2309         if (!hi) {
2310                 SBP2_ERR("sbp2scsi_host_info is NULL - this is bad!");
2311                 goto done;
2312         }
2313
2314         /*
2315          * Until we handle multiple luns, just return selection time-out
2316          * to any IO directed at non-zero LUNs
2317          */
2318         if (SCpnt->device->lun)
2319                 goto done;
2320
2321         /*
2322          * Check for request sense command, and handle it here
2323          * (autorequest sense)
2324          */
2325         if (SCpnt->cmnd[0] == REQUEST_SENSE) {
2326                 SBP2_DEBUG("REQUEST_SENSE");
2327                 memcpy(SCpnt->request_buffer, SCpnt->sense_buffer, SCpnt->request_bufflen);
2328                 memset(SCpnt->sense_buffer, 0, sizeof(SCpnt->sense_buffer));
2329                 sbp2scsi_complete_command(scsi_id, SBP2_SCSI_STATUS_GOOD, SCpnt, done);
2330                 return 0;
2331         }
2332
2333         /*
2334          * Check to see if we are in the middle of a bus reset.
2335          */
2336         if (!hpsb_node_entry_valid(scsi_id->ne)) {
2337                 SBP2_ERR("Bus reset in progress - rejecting command");
2338                 result = DID_BUS_BUSY << 16;
2339                 goto done;
2340         }
2341
2342         /*
2343          * Bidirectional commands are not yet implemented,
2344          * and unknown transfer direction not handled.
2345          */
2346         if (SCpnt->sc_data_direction == DMA_BIDIRECTIONAL) {
2347                 SBP2_ERR("Cannot handle DMA_BIDIRECTIONAL - rejecting command");
2348                 result = DID_ERROR << 16;
2349                 goto done;
2350         }
2351
2352         /*
2353          * Try and send our SCSI command
2354          */
2355         if (sbp2_send_command(scsi_id, SCpnt, done)) {
2356                 SBP2_ERR("Error sending SCSI command");
2357                 sbp2scsi_complete_command(scsi_id, SBP2_SCSI_STATUS_SELECTION_TIMEOUT,
2358                                           SCpnt, done);
2359         }
2360         return 0;
2361
2362 done:
2363         SCpnt->result = result;
2364         done(SCpnt);
2365         return 0;
2366 }
2367
2368 /*
2369  * This function is called in order to complete all outstanding SBP-2
2370  * commands (in case of resets, etc.).
2371  */
2372 static void sbp2scsi_complete_all_commands(struct scsi_id_instance_data *scsi_id,
2373                                            u32 status)
2374 {
2375         struct sbp2scsi_host_info *hi = scsi_id->hi;
2376         struct list_head *lh;
2377         struct sbp2_command_info *command;
2378         unsigned long flags;
2379
2380         SBP2_DEBUG_ENTER();
2381
2382         spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
2383         while (!list_empty(&scsi_id->sbp2_command_orb_inuse)) {
2384                 SBP2_DEBUG("Found pending command to complete");
2385                 lh = scsi_id->sbp2_command_orb_inuse.next;
2386                 command = list_entry(lh, struct sbp2_command_info, list);
2387                 pci_dma_sync_single_for_cpu(hi->host->pdev, command->command_orb_dma,
2388                                             sizeof(struct sbp2_command_orb),
2389                                             PCI_DMA_BIDIRECTIONAL);
2390                 pci_dma_sync_single_for_cpu(hi->host->pdev, command->sge_dma,
2391                                             sizeof(command->scatter_gather_element),
2392                                             PCI_DMA_BIDIRECTIONAL);
2393                 sbp2util_mark_command_completed(scsi_id, command);
2394                 if (command->Current_SCpnt) {
2395                         command->Current_SCpnt->result = status << 16;
2396                         command->Current_done(command->Current_SCpnt);
2397                 }
2398         }
2399         spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
2400
2401         return;
2402 }
2403
2404 /*
2405  * This function is called in order to complete a regular SBP-2 command.
2406  *
2407  * This can be called in interrupt context.
2408  */
2409 static void sbp2scsi_complete_command(struct scsi_id_instance_data *scsi_id,
2410                                       u32 scsi_status, struct scsi_cmnd *SCpnt,
2411                                       void (*done)(struct scsi_cmnd *))
2412 {
2413         SBP2_DEBUG_ENTER();
2414
2415         /*
2416          * Sanity
2417          */
2418         if (!SCpnt) {
2419                 SBP2_ERR("SCpnt is NULL");
2420                 return;
2421         }
2422
2423         /*
2424          * If a bus reset is in progress and there was an error, don't
2425          * complete the command, just let it get retried at the end of the
2426          * bus reset.
2427          */
2428         if (!hpsb_node_entry_valid(scsi_id->ne)
2429             && (scsi_status != SBP2_SCSI_STATUS_GOOD)) {
2430                 SBP2_ERR("Bus reset in progress - retry command later");
2431                 return;
2432         }
2433
2434         /*
2435          * Switch on scsi status
2436          */
2437         switch (scsi_status) {
2438         case SBP2_SCSI_STATUS_GOOD:
2439                 SCpnt->result = DID_OK << 16;
2440                 break;
2441
2442         case SBP2_SCSI_STATUS_BUSY:
2443                 SBP2_ERR("SBP2_SCSI_STATUS_BUSY");
2444                 SCpnt->result = DID_BUS_BUSY << 16;
2445                 break;
2446
2447         case SBP2_SCSI_STATUS_CHECK_CONDITION:
2448                 SBP2_DEBUG("SBP2_SCSI_STATUS_CHECK_CONDITION");
2449                 SCpnt->result = CHECK_CONDITION << 1 | DID_OK << 16;
2450 #if CONFIG_IEEE1394_SBP2_DEBUG >= 1
2451                 scsi_print_command(SCpnt);
2452                 scsi_print_sense(SBP2_DEVICE_NAME, SCpnt);
2453 #endif
2454                 break;
2455
2456         case SBP2_SCSI_STATUS_SELECTION_TIMEOUT:
2457                 SBP2_ERR("SBP2_SCSI_STATUS_SELECTION_TIMEOUT");
2458                 SCpnt->result = DID_NO_CONNECT << 16;
2459                 scsi_print_command(SCpnt);
2460                 break;
2461
2462         case SBP2_SCSI_STATUS_CONDITION_MET:
2463         case SBP2_SCSI_STATUS_RESERVATION_CONFLICT:
2464         case SBP2_SCSI_STATUS_COMMAND_TERMINATED:
2465                 SBP2_ERR("Bad SCSI status = %x", scsi_status);
2466                 SCpnt->result = DID_ERROR << 16;
2467                 scsi_print_command(SCpnt);
2468                 break;
2469
2470         default:
2471                 SBP2_ERR("Unsupported SCSI status = %x", scsi_status);
2472                 SCpnt->result = DID_ERROR << 16;
2473         }
2474
2475         /*
2476          * Take care of any sbp2 response data mucking here (RBC stuff, etc.)
2477          */
2478         if (SCpnt->result == DID_OK << 16) {
2479                 sbp2_check_sbp2_response(scsi_id, SCpnt);
2480         }
2481
2482         /*
2483          * If a bus reset is in progress and there was an error, complete
2484          * the command as busy so that it will get retried.
2485          */
2486         if (!hpsb_node_entry_valid(scsi_id->ne)
2487             && (scsi_status != SBP2_SCSI_STATUS_GOOD)) {
2488                 SBP2_ERR("Completing command with busy (bus reset)");
2489                 SCpnt->result = DID_BUS_BUSY << 16;
2490         }
2491
2492         /*
2493          * If a unit attention occurs, return busy status so it gets
2494          * retried... it could have happened because of a 1394 bus reset
2495          * or hot-plug...
2496          * XXX  DID_BUS_BUSY is actually a bad idea because it will defy
2497          * the scsi layer's retry logic.
2498          */
2499 #if 0
2500         if ((scsi_status == SBP2_SCSI_STATUS_CHECK_CONDITION) &&
2501             (SCpnt->sense_buffer[2] == UNIT_ATTENTION)) {
2502                 SBP2_DEBUG("UNIT ATTENTION - return busy");
2503                 SCpnt->result = DID_BUS_BUSY << 16;
2504         }
2505 #endif
2506
2507         /*
2508          * Tell scsi stack that we're done with this command
2509          */
2510         done(SCpnt);
2511 }
2512
2513 static int sbp2scsi_slave_alloc(struct scsi_device *sdev)
2514 {
2515         struct scsi_id_instance_data *scsi_id =
2516                 (struct scsi_id_instance_data *)sdev->host->hostdata[0];
2517
2518         scsi_id->sdev = sdev;
2519
2520         if (scsi_id->workarounds & SBP2_WORKAROUND_INQUIRY_36)
2521                 sdev->inquiry_len = 36;
2522         return 0;
2523 }
2524
2525 static int sbp2scsi_slave_configure(struct scsi_device *sdev)
2526 {
2527         struct scsi_id_instance_data *scsi_id =
2528                 (struct scsi_id_instance_data *)sdev->host->hostdata[0];
2529
2530         blk_queue_dma_alignment(sdev->request_queue, (512 - 1));
2531         sdev->use_10_for_rw = 1;
2532         sdev->use_10_for_ms = 1;
2533
2534         if (sdev->type == TYPE_DISK &&
2535             scsi_id->workarounds & SBP2_WORKAROUND_MODE_SENSE_8)
2536                 sdev->skip_ms_page_8 = 1;
2537         if (scsi_id->workarounds & SBP2_WORKAROUND_FIX_CAPACITY)
2538                 sdev->fix_capacity = 1;
2539         return 0;
2540 }
2541
2542 static void sbp2scsi_slave_destroy(struct scsi_device *sdev)
2543 {
2544         ((struct scsi_id_instance_data *)sdev->host->hostdata[0])->sdev = NULL;
2545         return;
2546 }
2547
2548 /*
2549  * Called by scsi stack when something has really gone wrong.  Usually
2550  * called when a command has timed-out for some reason.
2551  */
2552 static int sbp2scsi_abort(struct scsi_cmnd *SCpnt)
2553 {
2554         struct scsi_id_instance_data *scsi_id =
2555                 (struct scsi_id_instance_data *)SCpnt->device->host->hostdata[0];
2556         struct sbp2scsi_host_info *hi = scsi_id->hi;
2557         struct sbp2_command_info *command;
2558         unsigned long flags;
2559
2560         SBP2_ERR("aborting sbp2 command");
2561         scsi_print_command(SCpnt);
2562
2563         if (sbp2util_node_is_available(scsi_id)) {
2564
2565                 /*
2566                  * Right now, just return any matching command structures
2567                  * to the free pool.
2568                  */
2569                 spin_lock_irqsave(&scsi_id->sbp2_command_orb_lock, flags);
2570                 command = sbp2util_find_command_for_SCpnt(scsi_id, SCpnt);
2571                 if (command) {
2572                         SBP2_DEBUG("Found command to abort");
2573                         pci_dma_sync_single_for_cpu(hi->host->pdev,
2574                                                     command->command_orb_dma,
2575                                                     sizeof(struct sbp2_command_orb),
2576                                                     PCI_DMA_BIDIRECTIONAL);
2577                         pci_dma_sync_single_for_cpu(hi->host->pdev,
2578                                                     command->sge_dma,
2579                                                     sizeof(command->scatter_gather_element),
2580                                                     PCI_DMA_BIDIRECTIONAL);
2581                         sbp2util_mark_command_completed(scsi_id, command);
2582                         if (command->Current_SCpnt) {
2583                                 command->Current_SCpnt->result = DID_ABORT << 16;
2584                                 command->Current_done(command->Current_SCpnt);
2585                         }
2586                 }
2587                 spin_unlock_irqrestore(&scsi_id->sbp2_command_orb_lock, flags);
2588
2589                 /*
2590                  * Initiate a fetch agent reset.
2591                  */
2592                 sbp2_agent_reset(scsi_id, 0);
2593                 sbp2scsi_complete_all_commands(scsi_id, DID_BUS_BUSY);
2594         }
2595
2596         return SUCCESS;
2597 }
2598
2599 /*
2600  * Called by scsi stack when something has really gone wrong.
2601  */
2602 static int sbp2scsi_reset(struct scsi_cmnd *SCpnt)
2603 {
2604         struct scsi_id_instance_data *scsi_id =
2605                 (struct scsi_id_instance_data *)SCpnt->device->host->hostdata[0];
2606
2607         SBP2_ERR("reset requested");
2608
2609         if (sbp2util_node_is_available(scsi_id)) {
2610                 SBP2_ERR("Generating sbp2 fetch agent reset");
2611                 sbp2_agent_reset(scsi_id, 0);
2612         }
2613
2614         return SUCCESS;
2615 }
2616
2617 static ssize_t sbp2_sysfs_ieee1394_id_show(struct device *dev,
2618                                            struct device_attribute *attr,
2619                                            char *buf)
2620 {
2621         struct scsi_device *sdev;
2622         struct scsi_id_instance_data *scsi_id;
2623         int lun;
2624
2625         if (!(sdev = to_scsi_device(dev)))
2626                 return 0;
2627
2628         if (!(scsi_id = (struct scsi_id_instance_data *)sdev->host->hostdata[0]))
2629                 return 0;
2630
2631         lun = ORB_SET_LUN(scsi_id->sbp2_lun);
2632
2633         return sprintf(buf, "%016Lx:%d:%d\n", (unsigned long long)scsi_id->ne->guid,
2634                        scsi_id->ud->id, lun);
2635 }
2636 static DEVICE_ATTR(ieee1394_id, S_IRUGO, sbp2_sysfs_ieee1394_id_show, NULL);
2637
2638 static struct device_attribute *sbp2_sysfs_sdev_attrs[] = {
2639         &dev_attr_ieee1394_id,
2640         NULL
2641 };
2642
2643 MODULE_AUTHOR("Ben Collins <bcollins@debian.org>");
2644 MODULE_DESCRIPTION("IEEE-1394 SBP-2 protocol driver");
2645 MODULE_SUPPORTED_DEVICE(SBP2_DEVICE_NAME);
2646 MODULE_LICENSE("GPL");
2647
2648 /* SCSI host template */
2649 static struct scsi_host_template scsi_driver_template = {
2650         .module =                       THIS_MODULE,
2651         .name =                         "SBP-2 IEEE-1394",
2652         .proc_name =                    SBP2_DEVICE_NAME,
2653         .queuecommand =                 sbp2scsi_queuecommand,
2654         .eh_abort_handler =             sbp2scsi_abort,
2655         .eh_device_reset_handler =      sbp2scsi_reset,
2656         .slave_alloc =                  sbp2scsi_slave_alloc,
2657         .slave_configure =              sbp2scsi_slave_configure,
2658         .slave_destroy =                sbp2scsi_slave_destroy,
2659         .this_id =                      -1,
2660         .sg_tablesize =                 SG_ALL,
2661         .use_clustering =               ENABLE_CLUSTERING,
2662         .cmd_per_lun =                  SBP2_MAX_CMDS,
2663         .can_queue =                    SBP2_MAX_CMDS,
2664         .emulated =                     1,
2665         .sdev_attrs =                   sbp2_sysfs_sdev_attrs,
2666 };
2667
2668 static int sbp2_module_init(void)
2669 {
2670         int ret;
2671
2672         SBP2_DEBUG_ENTER();
2673
2674         /* Module load debug option to force one command at a time (serializing I/O) */
2675         if (serialize_io) {
2676                 SBP2_INFO("Driver forced to serialize I/O (serialize_io=1)");
2677                 SBP2_INFO("Try serialize_io=0 for better performance");
2678                 scsi_driver_template.can_queue = 1;
2679                 scsi_driver_template.cmd_per_lun = 1;
2680         }
2681
2682         if (sbp2_default_workarounds & SBP2_WORKAROUND_128K_MAX_TRANS &&
2683             (max_sectors * 512) > (128 * 1024))
2684                 max_sectors = 128 * 1024 / 512;
2685         scsi_driver_template.max_sectors = max_sectors;
2686
2687         /* Register our high level driver with 1394 stack */
2688         hpsb_register_highlevel(&sbp2_highlevel);
2689
2690         ret = hpsb_register_protocol(&sbp2_driver);
2691         if (ret) {
2692                 SBP2_ERR("Failed to register protocol");
2693                 hpsb_unregister_highlevel(&sbp2_highlevel);
2694                 return ret;
2695         }
2696
2697         return 0;
2698 }
2699
2700 static void __exit sbp2_module_exit(void)
2701 {
2702         SBP2_DEBUG_ENTER();
2703
2704         hpsb_unregister_protocol(&sbp2_driver);
2705
2706         hpsb_unregister_highlevel(&sbp2_highlevel);
2707 }
2708
2709 module_init(sbp2_module_init);
2710 module_exit(sbp2_module_exit);