3fd2da451fe1728546529e95ae271fda9de3e95e
[safe/jmp/linux-2.6] / drivers / scsi / scsi_transport_iscsi.c
1 /*
2  * iSCSI transport class definitions
3  *
4  * Copyright (C) IBM Corporation, 2004
5  * Copyright (C) Mike Christie, 2004 - 2005
6  * Copyright (C) Dmitry Yusupov, 2004 - 2005
7  * Copyright (C) Alex Aizman, 2004 - 2005
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
22  */
23 #include <linux/module.h>
24 #include <linux/mutex.h>
25 #include <net/tcp.h>
26 #include <scsi/scsi.h>
27 #include <scsi/scsi_host.h>
28 #include <scsi/scsi_device.h>
29 #include <scsi/scsi_transport.h>
30 #include <scsi/scsi_transport_iscsi.h>
31 #include <scsi/iscsi_if.h>
32
33 #define ISCSI_SESSION_ATTRS 11
34 #define ISCSI_CONN_ATTRS 11
35 #define ISCSI_HOST_ATTRS 1
36 #define ISCSI_TRANSPORT_VERSION "2.0-724"
37
38 struct iscsi_internal {
39         int daemon_pid;
40         struct scsi_transport_template t;
41         struct iscsi_transport *iscsi_transport;
42         struct list_head list;
43         struct class_device cdev;
44
45         struct class_device_attribute *host_attrs[ISCSI_HOST_ATTRS + 1];
46         struct transport_container conn_cont;
47         struct class_device_attribute *conn_attrs[ISCSI_CONN_ATTRS + 1];
48         struct transport_container session_cont;
49         struct class_device_attribute *session_attrs[ISCSI_SESSION_ATTRS + 1];
50 };
51
52 static atomic_t iscsi_session_nr; /* sysfs session id for next new session */
53
54 /*
55  * list of registered transports and lock that must
56  * be held while accessing list. The iscsi_transport_lock must
57  * be acquired after the rx_queue_mutex.
58  */
59 static LIST_HEAD(iscsi_transports);
60 static DEFINE_SPINLOCK(iscsi_transport_lock);
61
62 #define to_iscsi_internal(tmpl) \
63         container_of(tmpl, struct iscsi_internal, t)
64
65 #define cdev_to_iscsi_internal(_cdev) \
66         container_of(_cdev, struct iscsi_internal, cdev)
67
68 static void iscsi_transport_release(struct class_device *cdev)
69 {
70         struct iscsi_internal *priv = cdev_to_iscsi_internal(cdev);
71         kfree(priv);
72 }
73
74 /*
75  * iscsi_transport_class represents the iscsi_transports that are
76  * registered.
77  */
78 static struct class iscsi_transport_class = {
79         .name = "iscsi_transport",
80         .release = iscsi_transport_release,
81 };
82
83 static ssize_t
84 show_transport_handle(struct class_device *cdev, char *buf)
85 {
86         struct iscsi_internal *priv = cdev_to_iscsi_internal(cdev);
87         return sprintf(buf, "%llu\n", (unsigned long long)iscsi_handle(priv->iscsi_transport));
88 }
89 static CLASS_DEVICE_ATTR(handle, S_IRUGO, show_transport_handle, NULL);
90
91 #define show_transport_attr(name, format)                               \
92 static ssize_t                                                          \
93 show_transport_##name(struct class_device *cdev, char *buf)             \
94 {                                                                       \
95         struct iscsi_internal *priv = cdev_to_iscsi_internal(cdev);     \
96         return sprintf(buf, format"\n", priv->iscsi_transport->name);   \
97 }                                                                       \
98 static CLASS_DEVICE_ATTR(name, S_IRUGO, show_transport_##name, NULL);
99
100 show_transport_attr(caps, "0x%x");
101 show_transport_attr(max_lun, "%d");
102 show_transport_attr(max_conn, "%d");
103 show_transport_attr(max_cmd_len, "%d");
104
105 static struct attribute *iscsi_transport_attrs[] = {
106         &class_device_attr_handle.attr,
107         &class_device_attr_caps.attr,
108         &class_device_attr_max_lun.attr,
109         &class_device_attr_max_conn.attr,
110         &class_device_attr_max_cmd_len.attr,
111         NULL,
112 };
113
114 static struct attribute_group iscsi_transport_group = {
115         .attrs = iscsi_transport_attrs,
116 };
117
118 static int iscsi_setup_host(struct transport_container *tc, struct device *dev,
119                             struct class_device *cdev)
120 {
121         struct Scsi_Host *shost = dev_to_shost(dev);
122         struct iscsi_host *ihost = shost->shost_data;
123
124         memset(ihost, 0, sizeof(*ihost));
125         INIT_LIST_HEAD(&ihost->sessions);
126         mutex_init(&ihost->mutex);
127         return 0;
128 }
129
130 static DECLARE_TRANSPORT_CLASS(iscsi_host_class,
131                                "iscsi_host",
132                                iscsi_setup_host,
133                                NULL,
134                                NULL);
135
136 static DECLARE_TRANSPORT_CLASS(iscsi_session_class,
137                                "iscsi_session",
138                                NULL,
139                                NULL,
140                                NULL);
141
142 static DECLARE_TRANSPORT_CLASS(iscsi_connection_class,
143                                "iscsi_connection",
144                                NULL,
145                                NULL,
146                                NULL);
147
148 static struct sock *nls;
149 static DEFINE_MUTEX(rx_queue_mutex);
150
151 static LIST_HEAD(sesslist);
152 static DEFINE_SPINLOCK(sesslock);
153 static LIST_HEAD(connlist);
154 static DEFINE_SPINLOCK(connlock);
155
156 static uint32_t iscsi_conn_get_sid(struct iscsi_cls_conn *conn)
157 {
158         struct iscsi_cls_session *sess = iscsi_dev_to_session(conn->dev.parent);
159         return sess->sid;
160 }
161
162 /*
163  * Returns the matching session to a given sid
164  */
165 static struct iscsi_cls_session *iscsi_session_lookup(uint32_t sid)
166 {
167         unsigned long flags;
168         struct iscsi_cls_session *sess;
169
170         spin_lock_irqsave(&sesslock, flags);
171         list_for_each_entry(sess, &sesslist, sess_list) {
172                 if (sess->sid == sid) {
173                         spin_unlock_irqrestore(&sesslock, flags);
174                         return sess;
175                 }
176         }
177         spin_unlock_irqrestore(&sesslock, flags);
178         return NULL;
179 }
180
181 /*
182  * Returns the matching connection to a given sid / cid tuple
183  */
184 static struct iscsi_cls_conn *iscsi_conn_lookup(uint32_t sid, uint32_t cid)
185 {
186         unsigned long flags;
187         struct iscsi_cls_conn *conn;
188
189         spin_lock_irqsave(&connlock, flags);
190         list_for_each_entry(conn, &connlist, conn_list) {
191                 if ((conn->cid == cid) && (iscsi_conn_get_sid(conn) == sid)) {
192                         spin_unlock_irqrestore(&connlock, flags);
193                         return conn;
194                 }
195         }
196         spin_unlock_irqrestore(&connlock, flags);
197         return NULL;
198 }
199
200 /*
201  * The following functions can be used by LLDs that allocate
202  * their own scsi_hosts or by software iscsi LLDs
203  */
204 static void iscsi_session_release(struct device *dev)
205 {
206         struct iscsi_cls_session *session = iscsi_dev_to_session(dev);
207         struct Scsi_Host *shost;
208
209         shost = iscsi_session_to_shost(session);
210         scsi_host_put(shost);
211         kfree(session);
212 }
213
214 static int iscsi_is_session_dev(const struct device *dev)
215 {
216         return dev->release == iscsi_session_release;
217 }
218
219 static int iscsi_user_scan(struct Scsi_Host *shost, uint channel,
220                            uint id, uint lun)
221 {
222         struct iscsi_host *ihost = shost->shost_data;
223         struct iscsi_cls_session *session;
224
225         mutex_lock(&ihost->mutex);
226         list_for_each_entry(session, &ihost->sessions, host_list) {
227                 if ((channel == SCAN_WILD_CARD || channel == 0) &&
228                     (id == SCAN_WILD_CARD || id == session->target_id))
229                         scsi_scan_target(&session->dev, 0,
230                                          session->target_id, lun, 1);
231         }
232         mutex_unlock(&ihost->mutex);
233
234         return 0;
235 }
236
237 static void session_recovery_timedout(struct work_struct *work)
238 {
239         struct iscsi_cls_session *session =
240                 container_of(work, struct iscsi_cls_session,
241                              recovery_work.work);
242
243         dev_printk(KERN_INFO, &session->dev, "iscsi: session recovery timed "
244                   "out after %d secs\n", session->recovery_tmo);
245
246         if (session->transport->session_recovery_timedout)
247                 session->transport->session_recovery_timedout(session);
248
249         scsi_target_unblock(&session->dev);
250 }
251
252 void iscsi_unblock_session(struct iscsi_cls_session *session)
253 {
254         if (!cancel_delayed_work(&session->recovery_work))
255                 flush_scheduled_work();
256         scsi_target_unblock(&session->dev);
257 }
258 EXPORT_SYMBOL_GPL(iscsi_unblock_session);
259
260 void iscsi_block_session(struct iscsi_cls_session *session)
261 {
262         scsi_target_block(&session->dev);
263         schedule_delayed_work(&session->recovery_work,
264                              session->recovery_tmo * HZ);
265 }
266 EXPORT_SYMBOL_GPL(iscsi_block_session);
267
268 struct iscsi_cls_session *
269 iscsi_alloc_session(struct Scsi_Host *shost,
270                     struct iscsi_transport *transport)
271 {
272         struct iscsi_cls_session *session;
273
274         session = kzalloc(sizeof(*session) + transport->sessiondata_size,
275                           GFP_KERNEL);
276         if (!session)
277                 return NULL;
278
279         session->transport = transport;
280         session->recovery_tmo = 120;
281         INIT_DELAYED_WORK(&session->recovery_work, session_recovery_timedout);
282         INIT_LIST_HEAD(&session->host_list);
283         INIT_LIST_HEAD(&session->sess_list);
284
285         /* this is released in the dev's release function */
286         scsi_host_get(shost);
287         session->dev.parent = &shost->shost_gendev;
288         session->dev.release = iscsi_session_release;
289         device_initialize(&session->dev);
290         if (transport->sessiondata_size)
291                 session->dd_data = &session[1];
292         return session;
293 }
294 EXPORT_SYMBOL_GPL(iscsi_alloc_session);
295
296 int iscsi_add_session(struct iscsi_cls_session *session, unsigned int target_id)
297 {
298         struct Scsi_Host *shost = iscsi_session_to_shost(session);
299         struct iscsi_host *ihost;
300         int err;
301
302         ihost = shost->shost_data;
303         session->sid = atomic_add_return(1, &iscsi_session_nr);
304         session->target_id = target_id;
305
306         snprintf(session->dev.bus_id, BUS_ID_SIZE, "session%u",
307                  session->sid);
308         err = device_add(&session->dev);
309         if (err) {
310                 dev_printk(KERN_ERR, &session->dev, "iscsi: could not "
311                            "register session's dev\n");
312                 goto release_host;
313         }
314         transport_register_device(&session->dev);
315
316         mutex_lock(&ihost->mutex);
317         list_add(&session->host_list, &ihost->sessions);
318         mutex_unlock(&ihost->mutex);
319         return 0;
320
321 release_host:
322         scsi_host_put(shost);
323         return err;
324 }
325 EXPORT_SYMBOL_GPL(iscsi_add_session);
326
327 /**
328  * iscsi_create_session - create iscsi class session
329  * @shost: scsi host
330  * @transport: iscsi transport
331  *
332  * This can be called from a LLD or iscsi_transport.
333  **/
334 struct iscsi_cls_session *
335 iscsi_create_session(struct Scsi_Host *shost,
336                      struct iscsi_transport *transport,
337                      unsigned int target_id)
338 {
339         struct iscsi_cls_session *session;
340
341         session = iscsi_alloc_session(shost, transport);
342         if (!session)
343                 return NULL;
344
345         if (iscsi_add_session(session, target_id)) {
346                 iscsi_free_session(session);
347                 return NULL;
348         }
349         return session;
350 }
351 EXPORT_SYMBOL_GPL(iscsi_create_session);
352
353 void iscsi_remove_session(struct iscsi_cls_session *session)
354 {
355         struct Scsi_Host *shost = iscsi_session_to_shost(session);
356         struct iscsi_host *ihost = shost->shost_data;
357
358         if (!cancel_delayed_work(&session->recovery_work))
359                 flush_scheduled_work();
360
361         mutex_lock(&ihost->mutex);
362         list_del(&session->host_list);
363         mutex_unlock(&ihost->mutex);
364
365         scsi_remove_target(&session->dev);
366
367         transport_unregister_device(&session->dev);
368         device_del(&session->dev);
369 }
370 EXPORT_SYMBOL_GPL(iscsi_remove_session);
371
372 void iscsi_free_session(struct iscsi_cls_session *session)
373 {
374         put_device(&session->dev);
375 }
376
377 EXPORT_SYMBOL_GPL(iscsi_free_session);
378
379 /**
380  * iscsi_destroy_session - destroy iscsi session
381  * @session: iscsi_session
382  *
383  * Can be called by a LLD or iscsi_transport. There must not be
384  * any running connections.
385  **/
386 int iscsi_destroy_session(struct iscsi_cls_session *session)
387 {
388         iscsi_remove_session(session);
389         iscsi_free_session(session);
390         return 0;
391 }
392 EXPORT_SYMBOL_GPL(iscsi_destroy_session);
393
394 static void iscsi_conn_release(struct device *dev)
395 {
396         struct iscsi_cls_conn *conn = iscsi_dev_to_conn(dev);
397         struct device *parent = conn->dev.parent;
398
399         kfree(conn);
400         put_device(parent);
401 }
402
403 static int iscsi_is_conn_dev(const struct device *dev)
404 {
405         return dev->release == iscsi_conn_release;
406 }
407
408 /**
409  * iscsi_create_conn - create iscsi class connection
410  * @session: iscsi cls session
411  * @cid: connection id
412  *
413  * This can be called from a LLD or iscsi_transport. The connection
414  * is child of the session so cid must be unique for all connections
415  * on the session.
416  *
417  * Since we do not support MCS, cid will normally be zero. In some cases
418  * for software iscsi we could be trying to preallocate a connection struct
419  * in which case there could be two connection structs and cid would be
420  * non-zero.
421  **/
422 struct iscsi_cls_conn *
423 iscsi_create_conn(struct iscsi_cls_session *session, uint32_t cid)
424 {
425         struct iscsi_transport *transport = session->transport;
426         struct iscsi_cls_conn *conn;
427         int err;
428
429         conn = kzalloc(sizeof(*conn) + transport->conndata_size, GFP_KERNEL);
430         if (!conn)
431                 return NULL;
432
433         if (transport->conndata_size)
434                 conn->dd_data = &conn[1];
435
436         INIT_LIST_HEAD(&conn->conn_list);
437         conn->transport = transport;
438         conn->cid = cid;
439
440         /* this is released in the dev's release function */
441         if (!get_device(&session->dev))
442                 goto free_conn;
443
444         snprintf(conn->dev.bus_id, BUS_ID_SIZE, "connection%d:%u",
445                  session->sid, cid);
446         conn->dev.parent = &session->dev;
447         conn->dev.release = iscsi_conn_release;
448         err = device_register(&conn->dev);
449         if (err) {
450                 dev_printk(KERN_ERR, &conn->dev, "iscsi: could not register "
451                            "connection's dev\n");
452                 goto release_parent_ref;
453         }
454         transport_register_device(&conn->dev);
455         return conn;
456
457 release_parent_ref:
458         put_device(&session->dev);
459 free_conn:
460         kfree(conn);
461         return NULL;
462 }
463
464 EXPORT_SYMBOL_GPL(iscsi_create_conn);
465
466 /**
467  * iscsi_destroy_conn - destroy iscsi class connection
468  * @session: iscsi cls session
469  *
470  * This can be called from a LLD or iscsi_transport.
471  **/
472 int iscsi_destroy_conn(struct iscsi_cls_conn *conn)
473 {
474         transport_unregister_device(&conn->dev);
475         device_unregister(&conn->dev);
476         return 0;
477 }
478
479 EXPORT_SYMBOL_GPL(iscsi_destroy_conn);
480
481 /*
482  * iscsi interface functions
483  */
484 static struct iscsi_internal *
485 iscsi_if_transport_lookup(struct iscsi_transport *tt)
486 {
487         struct iscsi_internal *priv;
488         unsigned long flags;
489
490         spin_lock_irqsave(&iscsi_transport_lock, flags);
491         list_for_each_entry(priv, &iscsi_transports, list) {
492                 if (tt == priv->iscsi_transport) {
493                         spin_unlock_irqrestore(&iscsi_transport_lock, flags);
494                         return priv;
495                 }
496         }
497         spin_unlock_irqrestore(&iscsi_transport_lock, flags);
498         return NULL;
499 }
500
501 static int
502 iscsi_broadcast_skb(struct sk_buff *skb, gfp_t gfp)
503 {
504         int rc;
505
506         rc = netlink_broadcast(nls, skb, 0, 1, gfp);
507         if (rc < 0) {
508                 printk(KERN_ERR "iscsi: can not broadcast skb (%d)\n", rc);
509                 return rc;
510         }
511
512         return 0;
513 }
514
515 static int
516 iscsi_unicast_skb(struct sk_buff *skb, int pid)
517 {
518         int rc;
519
520         rc = netlink_unicast(nls, skb, pid, MSG_DONTWAIT);
521         if (rc < 0) {
522                 printk(KERN_ERR "iscsi: can not unicast skb (%d)\n", rc);
523                 return rc;
524         }
525
526         return 0;
527 }
528
529 int iscsi_recv_pdu(struct iscsi_cls_conn *conn, struct iscsi_hdr *hdr,
530                    char *data, uint32_t data_size)
531 {
532         struct nlmsghdr *nlh;
533         struct sk_buff *skb;
534         struct iscsi_uevent *ev;
535         char *pdu;
536         struct iscsi_internal *priv;
537         int len = NLMSG_SPACE(sizeof(*ev) + sizeof(struct iscsi_hdr) +
538                               data_size);
539
540         priv = iscsi_if_transport_lookup(conn->transport);
541         if (!priv)
542                 return -EINVAL;
543
544         skb = alloc_skb(len, GFP_ATOMIC);
545         if (!skb) {
546                 iscsi_conn_error(conn, ISCSI_ERR_CONN_FAILED);
547                 dev_printk(KERN_ERR, &conn->dev, "iscsi: can not deliver "
548                            "control PDU: OOM\n");
549                 return -ENOMEM;
550         }
551
552         nlh = __nlmsg_put(skb, priv->daemon_pid, 0, 0, (len - sizeof(*nlh)), 0);
553         ev = NLMSG_DATA(nlh);
554         memset(ev, 0, sizeof(*ev));
555         ev->transport_handle = iscsi_handle(conn->transport);
556         ev->type = ISCSI_KEVENT_RECV_PDU;
557         ev->r.recv_req.cid = conn->cid;
558         ev->r.recv_req.sid = iscsi_conn_get_sid(conn);
559         pdu = (char*)ev + sizeof(*ev);
560         memcpy(pdu, hdr, sizeof(struct iscsi_hdr));
561         memcpy(pdu + sizeof(struct iscsi_hdr), data, data_size);
562
563         return iscsi_unicast_skb(skb, priv->daemon_pid);
564 }
565 EXPORT_SYMBOL_GPL(iscsi_recv_pdu);
566
567 void iscsi_conn_error(struct iscsi_cls_conn *conn, enum iscsi_err error)
568 {
569         struct nlmsghdr *nlh;
570         struct sk_buff  *skb;
571         struct iscsi_uevent *ev;
572         struct iscsi_internal *priv;
573         int len = NLMSG_SPACE(sizeof(*ev));
574
575         priv = iscsi_if_transport_lookup(conn->transport);
576         if (!priv)
577                 return;
578
579         skb = alloc_skb(len, GFP_ATOMIC);
580         if (!skb) {
581                 dev_printk(KERN_ERR, &conn->dev, "iscsi: gracefully ignored "
582                           "conn error (%d)\n", error);
583                 return;
584         }
585
586         nlh = __nlmsg_put(skb, priv->daemon_pid, 0, 0, (len - sizeof(*nlh)), 0);
587         ev = NLMSG_DATA(nlh);
588         ev->transport_handle = iscsi_handle(conn->transport);
589         ev->type = ISCSI_KEVENT_CONN_ERROR;
590         ev->r.connerror.error = error;
591         ev->r.connerror.cid = conn->cid;
592         ev->r.connerror.sid = iscsi_conn_get_sid(conn);
593
594         iscsi_broadcast_skb(skb, GFP_ATOMIC);
595
596         dev_printk(KERN_INFO, &conn->dev, "iscsi: detected conn error (%d)\n",
597                    error);
598 }
599 EXPORT_SYMBOL_GPL(iscsi_conn_error);
600
601 static int
602 iscsi_if_send_reply(int pid, int seq, int type, int done, int multi,
603                       void *payload, int size)
604 {
605         struct sk_buff  *skb;
606         struct nlmsghdr *nlh;
607         int len = NLMSG_SPACE(size);
608         int flags = multi ? NLM_F_MULTI : 0;
609         int t = done ? NLMSG_DONE : type;
610
611         skb = alloc_skb(len, GFP_ATOMIC);
612         if (!skb) {
613                 printk(KERN_ERR "Could not allocate skb to send reply.\n");
614                 return -ENOMEM;
615         }
616
617         nlh = __nlmsg_put(skb, pid, seq, t, (len - sizeof(*nlh)), 0);
618         nlh->nlmsg_flags = flags;
619         memcpy(NLMSG_DATA(nlh), payload, size);
620         return iscsi_unicast_skb(skb, pid);
621 }
622
623 static int
624 iscsi_if_get_stats(struct iscsi_transport *transport, struct nlmsghdr *nlh)
625 {
626         struct iscsi_uevent *ev = NLMSG_DATA(nlh);
627         struct iscsi_stats *stats;
628         struct sk_buff *skbstat;
629         struct iscsi_cls_conn *conn;
630         struct nlmsghdr *nlhstat;
631         struct iscsi_uevent *evstat;
632         struct iscsi_internal *priv;
633         int len = NLMSG_SPACE(sizeof(*ev) +
634                               sizeof(struct iscsi_stats) +
635                               sizeof(struct iscsi_stats_custom) *
636                               ISCSI_STATS_CUSTOM_MAX);
637         int err = 0;
638
639         priv = iscsi_if_transport_lookup(transport);
640         if (!priv)
641                 return -EINVAL;
642
643         conn = iscsi_conn_lookup(ev->u.get_stats.sid, ev->u.get_stats.cid);
644         if (!conn)
645                 return -EEXIST;
646
647         do {
648                 int actual_size;
649
650                 skbstat = alloc_skb(len, GFP_ATOMIC);
651                 if (!skbstat) {
652                         dev_printk(KERN_ERR, &conn->dev, "iscsi: can not "
653                                    "deliver stats: OOM\n");
654                         return -ENOMEM;
655                 }
656
657                 nlhstat = __nlmsg_put(skbstat, priv->daemon_pid, 0, 0,
658                                       (len - sizeof(*nlhstat)), 0);
659                 evstat = NLMSG_DATA(nlhstat);
660                 memset(evstat, 0, sizeof(*evstat));
661                 evstat->transport_handle = iscsi_handle(conn->transport);
662                 evstat->type = nlh->nlmsg_type;
663                 evstat->u.get_stats.cid =
664                         ev->u.get_stats.cid;
665                 evstat->u.get_stats.sid =
666                         ev->u.get_stats.sid;
667                 stats = (struct iscsi_stats *)
668                         ((char*)evstat + sizeof(*evstat));
669                 memset(stats, 0, sizeof(*stats));
670
671                 transport->get_stats(conn, stats);
672                 actual_size = NLMSG_SPACE(sizeof(struct iscsi_uevent) +
673                                           sizeof(struct iscsi_stats) +
674                                           sizeof(struct iscsi_stats_custom) *
675                                           stats->custom_length);
676                 actual_size -= sizeof(*nlhstat);
677                 actual_size = NLMSG_LENGTH(actual_size);
678                 skb_trim(skbstat, NLMSG_ALIGN(actual_size));
679                 nlhstat->nlmsg_len = actual_size;
680
681                 err = iscsi_unicast_skb(skbstat, priv->daemon_pid);
682         } while (err < 0 && err != -ECONNREFUSED);
683
684         return err;
685 }
686
687 /**
688  * iscsi_if_destroy_session_done - send session destr. completion event
689  * @conn: last connection for session
690  *
691  * This is called by HW iscsi LLDs to notify userpsace that its HW has
692  * removed a session.
693  **/
694 int iscsi_if_destroy_session_done(struct iscsi_cls_conn *conn)
695 {
696         struct iscsi_internal *priv;
697         struct iscsi_cls_session *session;
698         struct Scsi_Host *shost;
699         struct iscsi_uevent *ev;
700         struct sk_buff  *skb;
701         struct nlmsghdr *nlh;
702         unsigned long flags;
703         int rc, len = NLMSG_SPACE(sizeof(*ev));
704
705         priv = iscsi_if_transport_lookup(conn->transport);
706         if (!priv)
707                 return -EINVAL;
708
709         session = iscsi_dev_to_session(conn->dev.parent);
710         shost = iscsi_session_to_shost(session);
711
712         skb = alloc_skb(len, GFP_KERNEL);
713         if (!skb) {
714                 dev_printk(KERN_ERR, &conn->dev, "Cannot notify userspace of "
715                           "session creation event\n");
716                 return -ENOMEM;
717         }
718
719         nlh = __nlmsg_put(skb, priv->daemon_pid, 0, 0, (len - sizeof(*nlh)), 0);
720         ev = NLMSG_DATA(nlh);
721         ev->transport_handle = iscsi_handle(conn->transport);
722         ev->type = ISCSI_KEVENT_DESTROY_SESSION;
723         ev->r.d_session.host_no = shost->host_no;
724         ev->r.d_session.sid = session->sid;
725
726         /*
727          * this will occur if the daemon is not up, so we just warn
728          * the user and when the daemon is restarted it will handle it
729          */
730         rc = iscsi_broadcast_skb(skb, GFP_KERNEL);
731         if (rc < 0)
732                 dev_printk(KERN_ERR, &conn->dev, "Cannot notify userspace of "
733                           "session destruction event. Check iscsi daemon\n");
734
735         spin_lock_irqsave(&sesslock, flags);
736         list_del(&session->sess_list);
737         spin_unlock_irqrestore(&sesslock, flags);
738
739         spin_lock_irqsave(&connlock, flags);
740         conn->active = 0;
741         list_del(&conn->conn_list);
742         spin_unlock_irqrestore(&connlock, flags);
743
744         return rc;
745 }
746 EXPORT_SYMBOL_GPL(iscsi_if_destroy_session_done);
747
748 /**
749  * iscsi_if_create_session_done - send session creation completion event
750  * @conn: leading connection for session
751  *
752  * This is called by HW iscsi LLDs to notify userpsace that its HW has
753  * created a session or a existing session is back in the logged in state.
754  **/
755 int iscsi_if_create_session_done(struct iscsi_cls_conn *conn)
756 {
757         struct iscsi_internal *priv;
758         struct iscsi_cls_session *session;
759         struct Scsi_Host *shost;
760         struct iscsi_uevent *ev;
761         struct sk_buff  *skb;
762         struct nlmsghdr *nlh;
763         unsigned long flags;
764         int rc, len = NLMSG_SPACE(sizeof(*ev));
765
766         priv = iscsi_if_transport_lookup(conn->transport);
767         if (!priv)
768                 return -EINVAL;
769
770         session = iscsi_dev_to_session(conn->dev.parent);
771         shost = iscsi_session_to_shost(session);
772
773         skb = alloc_skb(len, GFP_KERNEL);
774         if (!skb) {
775                 dev_printk(KERN_ERR, &conn->dev, "Cannot notify userspace of "
776                           "session creation event\n");
777                 return -ENOMEM;
778         }
779
780         nlh = __nlmsg_put(skb, priv->daemon_pid, 0, 0, (len - sizeof(*nlh)), 0);
781         ev = NLMSG_DATA(nlh);
782         ev->transport_handle = iscsi_handle(conn->transport);
783         ev->type = ISCSI_UEVENT_CREATE_SESSION;
784         ev->r.c_session_ret.host_no = shost->host_no;
785         ev->r.c_session_ret.sid = session->sid;
786
787         /*
788          * this will occur if the daemon is not up, so we just warn
789          * the user and when the daemon is restarted it will handle it
790          */
791         rc = iscsi_broadcast_skb(skb, GFP_KERNEL);
792         if (rc < 0)
793                 dev_printk(KERN_ERR, &conn->dev, "Cannot notify userspace of "
794                           "session creation event. Check iscsi daemon\n");
795
796         spin_lock_irqsave(&sesslock, flags);
797         list_add(&session->sess_list, &sesslist);
798         spin_unlock_irqrestore(&sesslock, flags);
799
800         spin_lock_irqsave(&connlock, flags);
801         list_add(&conn->conn_list, &connlist);
802         conn->active = 1;
803         spin_unlock_irqrestore(&connlock, flags);
804         return rc;
805 }
806 EXPORT_SYMBOL_GPL(iscsi_if_create_session_done);
807
808 static int
809 iscsi_if_create_session(struct iscsi_internal *priv, struct iscsi_uevent *ev)
810 {
811         struct iscsi_transport *transport = priv->iscsi_transport;
812         struct iscsi_cls_session *session;
813         unsigned long flags;
814         uint32_t hostno;
815
816         session = transport->create_session(transport, &priv->t,
817                                             ev->u.c_session.initial_cmdsn,
818                                             &hostno);
819         if (!session)
820                 return -ENOMEM;
821
822         spin_lock_irqsave(&sesslock, flags);
823         list_add(&session->sess_list, &sesslist);
824         spin_unlock_irqrestore(&sesslock, flags);
825
826         ev->r.c_session_ret.host_no = hostno;
827         ev->r.c_session_ret.sid = session->sid;
828         return 0;
829 }
830
831 static int
832 iscsi_if_create_conn(struct iscsi_transport *transport, struct iscsi_uevent *ev)
833 {
834         struct iscsi_cls_conn *conn;
835         struct iscsi_cls_session *session;
836         unsigned long flags;
837
838         session = iscsi_session_lookup(ev->u.c_conn.sid);
839         if (!session) {
840                 printk(KERN_ERR "iscsi: invalid session %d\n",
841                        ev->u.c_conn.sid);
842                 return -EINVAL;
843         }
844
845         conn = transport->create_conn(session, ev->u.c_conn.cid);
846         if (!conn) {
847                 printk(KERN_ERR "iscsi: couldn't create a new "
848                            "connection for session %d\n",
849                            session->sid);
850                 return -ENOMEM;
851         }
852
853         ev->r.c_conn_ret.sid = session->sid;
854         ev->r.c_conn_ret.cid = conn->cid;
855
856         spin_lock_irqsave(&connlock, flags);
857         list_add(&conn->conn_list, &connlist);
858         conn->active = 1;
859         spin_unlock_irqrestore(&connlock, flags);
860
861         return 0;
862 }
863
864 static int
865 iscsi_if_destroy_conn(struct iscsi_transport *transport, struct iscsi_uevent *ev)
866 {
867         unsigned long flags;
868         struct iscsi_cls_conn *conn;
869
870         conn = iscsi_conn_lookup(ev->u.d_conn.sid, ev->u.d_conn.cid);
871         if (!conn)
872                 return -EINVAL;
873         spin_lock_irqsave(&connlock, flags);
874         conn->active = 0;
875         list_del(&conn->conn_list);
876         spin_unlock_irqrestore(&connlock, flags);
877
878         if (transport->destroy_conn)
879                 transport->destroy_conn(conn);
880         return 0;
881 }
882
883 static int
884 iscsi_set_param(struct iscsi_transport *transport, struct iscsi_uevent *ev)
885 {
886         char *data = (char*)ev + sizeof(*ev);
887         struct iscsi_cls_conn *conn;
888         struct iscsi_cls_session *session;
889         int err = 0, value = 0;
890
891         session = iscsi_session_lookup(ev->u.set_param.sid);
892         conn = iscsi_conn_lookup(ev->u.set_param.sid, ev->u.set_param.cid);
893         if (!conn || !session)
894                 return -EINVAL;
895
896         switch (ev->u.set_param.param) {
897         case ISCSI_PARAM_SESS_RECOVERY_TMO:
898                 sscanf(data, "%d", &value);
899                 if (value != 0)
900                         session->recovery_tmo = value;
901                 break;
902         default:
903                 err = transport->set_param(conn, ev->u.set_param.param,
904                                            data, ev->u.set_param.len);
905         }
906
907         return err;
908 }
909
910 static int
911 iscsi_if_transport_ep(struct iscsi_transport *transport,
912                       struct iscsi_uevent *ev, int msg_type)
913 {
914         struct sockaddr *dst_addr;
915         int rc = 0;
916
917         switch (msg_type) {
918         case ISCSI_UEVENT_TRANSPORT_EP_CONNECT:
919                 if (!transport->ep_connect)
920                         return -EINVAL;
921
922                 dst_addr = (struct sockaddr *)((char*)ev + sizeof(*ev));
923                 rc = transport->ep_connect(dst_addr,
924                                            ev->u.ep_connect.non_blocking,
925                                            &ev->r.ep_connect_ret.handle);
926                 break;
927         case ISCSI_UEVENT_TRANSPORT_EP_POLL:
928                 if (!transport->ep_poll)
929                         return -EINVAL;
930
931                 ev->r.retcode = transport->ep_poll(ev->u.ep_poll.ep_handle,
932                                                    ev->u.ep_poll.timeout_ms);
933                 break;
934         case ISCSI_UEVENT_TRANSPORT_EP_DISCONNECT:
935                 if (!transport->ep_disconnect)
936                         return -EINVAL;
937
938                 transport->ep_disconnect(ev->u.ep_disconnect.ep_handle);
939                 break;
940         }
941         return rc;
942 }
943
944 static int
945 iscsi_tgt_dscvr(struct iscsi_transport *transport,
946                 struct iscsi_uevent *ev)
947 {
948         struct Scsi_Host *shost;
949         struct sockaddr *dst_addr;
950         int err;
951
952         if (!transport->tgt_dscvr)
953                 return -EINVAL;
954
955         shost = scsi_host_lookup(ev->u.tgt_dscvr.host_no);
956         if (IS_ERR(shost)) {
957                 printk(KERN_ERR "target discovery could not find host no %u\n",
958                        ev->u.tgt_dscvr.host_no);
959                 return -ENODEV;
960         }
961
962
963         dst_addr = (struct sockaddr *)((char*)ev + sizeof(*ev));
964         err = transport->tgt_dscvr(shost, ev->u.tgt_dscvr.type,
965                                    ev->u.tgt_dscvr.enable, dst_addr);
966         scsi_host_put(shost);
967         return err;
968 }
969
970 static int
971 iscsi_set_host_param(struct iscsi_transport *transport,
972                      struct iscsi_uevent *ev)
973 {
974         char *data = (char*)ev + sizeof(*ev);
975         struct Scsi_Host *shost;
976         int err;
977
978         if (!transport->set_host_param)
979                 return -ENOSYS;
980
981         shost = scsi_host_lookup(ev->u.set_host_param.host_no);
982         if (IS_ERR(shost)) {
983                 printk(KERN_ERR "set_host_param could not find host no %u\n",
984                        ev->u.set_host_param.host_no);
985                 return -ENODEV;
986         }
987
988         err = transport->set_host_param(shost, ev->u.set_host_param.param,
989                                         data, ev->u.set_host_param.len);
990         scsi_host_put(shost);
991         return err;
992 }
993
994 static int
995 iscsi_if_recv_msg(struct sk_buff *skb, struct nlmsghdr *nlh)
996 {
997         int err = 0;
998         struct iscsi_uevent *ev = NLMSG_DATA(nlh);
999         struct iscsi_transport *transport = NULL;
1000         struct iscsi_internal *priv;
1001         struct iscsi_cls_session *session;
1002         struct iscsi_cls_conn *conn;
1003         unsigned long flags;
1004
1005         priv = iscsi_if_transport_lookup(iscsi_ptr(ev->transport_handle));
1006         if (!priv)
1007                 return -EINVAL;
1008         transport = priv->iscsi_transport;
1009
1010         if (!try_module_get(transport->owner))
1011                 return -EINVAL;
1012
1013         priv->daemon_pid = NETLINK_CREDS(skb)->pid;
1014
1015         switch (nlh->nlmsg_type) {
1016         case ISCSI_UEVENT_CREATE_SESSION:
1017                 err = iscsi_if_create_session(priv, ev);
1018                 break;
1019         case ISCSI_UEVENT_DESTROY_SESSION:
1020                 session = iscsi_session_lookup(ev->u.d_session.sid);
1021                 if (session) {
1022                         spin_lock_irqsave(&sesslock, flags);
1023                         list_del(&session->sess_list);
1024                         spin_unlock_irqrestore(&sesslock, flags);
1025
1026                         transport->destroy_session(session);
1027                 } else
1028                         err = -EINVAL;
1029                 break;
1030         case ISCSI_UEVENT_CREATE_CONN:
1031                 err = iscsi_if_create_conn(transport, ev);
1032                 break;
1033         case ISCSI_UEVENT_DESTROY_CONN:
1034                 err = iscsi_if_destroy_conn(transport, ev);
1035                 break;
1036         case ISCSI_UEVENT_BIND_CONN:
1037                 session = iscsi_session_lookup(ev->u.b_conn.sid);
1038                 conn = iscsi_conn_lookup(ev->u.b_conn.sid, ev->u.b_conn.cid);
1039
1040                 if (session && conn)
1041                         ev->r.retcode = transport->bind_conn(session, conn,
1042                                         ev->u.b_conn.transport_eph,
1043                                         ev->u.b_conn.is_leading);
1044                 else
1045                         err = -EINVAL;
1046                 break;
1047         case ISCSI_UEVENT_SET_PARAM:
1048                 err = iscsi_set_param(transport, ev);
1049                 break;
1050         case ISCSI_UEVENT_START_CONN:
1051                 conn = iscsi_conn_lookup(ev->u.start_conn.sid, ev->u.start_conn.cid);
1052                 if (conn)
1053                         ev->r.retcode = transport->start_conn(conn);
1054                 else
1055                         err = -EINVAL;
1056                 break;
1057         case ISCSI_UEVENT_STOP_CONN:
1058                 conn = iscsi_conn_lookup(ev->u.stop_conn.sid, ev->u.stop_conn.cid);
1059                 if (conn)
1060                         transport->stop_conn(conn, ev->u.stop_conn.flag);
1061                 else
1062                         err = -EINVAL;
1063                 break;
1064         case ISCSI_UEVENT_SEND_PDU:
1065                 conn = iscsi_conn_lookup(ev->u.send_pdu.sid, ev->u.send_pdu.cid);
1066                 if (conn)
1067                         ev->r.retcode = transport->send_pdu(conn,
1068                                 (struct iscsi_hdr*)((char*)ev + sizeof(*ev)),
1069                                 (char*)ev + sizeof(*ev) + ev->u.send_pdu.hdr_size,
1070                                 ev->u.send_pdu.data_size);
1071                 else
1072                         err = -EINVAL;
1073                 break;
1074         case ISCSI_UEVENT_GET_STATS:
1075                 err = iscsi_if_get_stats(transport, nlh);
1076                 break;
1077         case ISCSI_UEVENT_TRANSPORT_EP_CONNECT:
1078         case ISCSI_UEVENT_TRANSPORT_EP_POLL:
1079         case ISCSI_UEVENT_TRANSPORT_EP_DISCONNECT:
1080                 err = iscsi_if_transport_ep(transport, ev, nlh->nlmsg_type);
1081                 break;
1082         case ISCSI_UEVENT_TGT_DSCVR:
1083                 err = iscsi_tgt_dscvr(transport, ev);
1084                 break;
1085         case ISCSI_UEVENT_SET_HOST_PARAM:
1086                 err = iscsi_set_host_param(transport, ev);
1087                 break;
1088         default:
1089                 err = -ENOSYS;
1090                 break;
1091         }
1092
1093         module_put(transport->owner);
1094         return err;
1095 }
1096
1097 /*
1098  * Get message from skb (based on rtnetlink_rcv_skb).  Each message is
1099  * processed by iscsi_if_recv_msg.  Malformed skbs with wrong lengths or
1100  * invalid creds are discarded silently.
1101  */
1102 static void
1103 iscsi_if_rx(struct sock *sk, int len)
1104 {
1105         struct sk_buff *skb;
1106
1107         mutex_lock(&rx_queue_mutex);
1108         while ((skb = skb_dequeue(&sk->sk_receive_queue)) != NULL) {
1109                 if (NETLINK_CREDS(skb)->uid) {
1110                         skb_pull(skb, skb->len);
1111                         goto free_skb;
1112                 }
1113
1114                 while (skb->len >= NLMSG_SPACE(0)) {
1115                         int err;
1116                         uint32_t rlen;
1117                         struct nlmsghdr *nlh;
1118                         struct iscsi_uevent *ev;
1119
1120                         nlh = nlmsg_hdr(skb);
1121                         if (nlh->nlmsg_len < sizeof(*nlh) ||
1122                             skb->len < nlh->nlmsg_len) {
1123                                 break;
1124                         }
1125
1126                         ev = NLMSG_DATA(nlh);
1127                         rlen = NLMSG_ALIGN(nlh->nlmsg_len);
1128                         if (rlen > skb->len)
1129                                 rlen = skb->len;
1130
1131                         err = iscsi_if_recv_msg(skb, nlh);
1132                         if (err) {
1133                                 ev->type = ISCSI_KEVENT_IF_ERROR;
1134                                 ev->iferror = err;
1135                         }
1136                         do {
1137                                 /*
1138                                  * special case for GET_STATS:
1139                                  * on success - sending reply and stats from
1140                                  * inside of if_recv_msg(),
1141                                  * on error - fall through.
1142                                  */
1143                                 if (ev->type == ISCSI_UEVENT_GET_STATS && !err)
1144                                         break;
1145                                 err = iscsi_if_send_reply(
1146                                         NETLINK_CREDS(skb)->pid, nlh->nlmsg_seq,
1147                                         nlh->nlmsg_type, 0, 0, ev, sizeof(*ev));
1148                         } while (err < 0 && err != -ECONNREFUSED);
1149                         skb_pull(skb, rlen);
1150                 }
1151 free_skb:
1152                 kfree_skb(skb);
1153         }
1154         mutex_unlock(&rx_queue_mutex);
1155 }
1156
1157 #define iscsi_cdev_to_conn(_cdev) \
1158         iscsi_dev_to_conn(_cdev->dev)
1159
1160 #define ISCSI_CLASS_ATTR(_prefix,_name,_mode,_show,_store)              \
1161 struct class_device_attribute class_device_attr_##_prefix##_##_name =   \
1162         __ATTR(_name,_mode,_show,_store)
1163
1164 /*
1165  * iSCSI connection attrs
1166  */
1167 #define iscsi_conn_attr_show(param)                                     \
1168 static ssize_t                                                          \
1169 show_conn_param_##param(struct class_device *cdev, char *buf)           \
1170 {                                                                       \
1171         struct iscsi_cls_conn *conn = iscsi_cdev_to_conn(cdev);         \
1172         struct iscsi_transport *t = conn->transport;                    \
1173         return t->get_conn_param(conn, param, buf);                     \
1174 }
1175
1176 #define iscsi_conn_attr(field, param)                                   \
1177         iscsi_conn_attr_show(param)                                     \
1178 static ISCSI_CLASS_ATTR(conn, field, S_IRUGO, show_conn_param_##param,  \
1179                         NULL);
1180
1181 iscsi_conn_attr(max_recv_dlength, ISCSI_PARAM_MAX_RECV_DLENGTH);
1182 iscsi_conn_attr(max_xmit_dlength, ISCSI_PARAM_MAX_XMIT_DLENGTH);
1183 iscsi_conn_attr(header_digest, ISCSI_PARAM_HDRDGST_EN);
1184 iscsi_conn_attr(data_digest, ISCSI_PARAM_DATADGST_EN);
1185 iscsi_conn_attr(ifmarker, ISCSI_PARAM_IFMARKER_EN);
1186 iscsi_conn_attr(ofmarker, ISCSI_PARAM_OFMARKER_EN);
1187 iscsi_conn_attr(persistent_port, ISCSI_PARAM_PERSISTENT_PORT);
1188 iscsi_conn_attr(port, ISCSI_PARAM_CONN_PORT);
1189 iscsi_conn_attr(exp_statsn, ISCSI_PARAM_EXP_STATSN);
1190 iscsi_conn_attr(persistent_address, ISCSI_PARAM_PERSISTENT_ADDRESS);
1191 iscsi_conn_attr(address, ISCSI_PARAM_CONN_ADDRESS);
1192
1193 #define iscsi_cdev_to_session(_cdev) \
1194         iscsi_dev_to_session(_cdev->dev)
1195
1196 /*
1197  * iSCSI session attrs
1198  */
1199 #define iscsi_session_attr_show(param)                                  \
1200 static ssize_t                                                          \
1201 show_session_param_##param(struct class_device *cdev, char *buf)        \
1202 {                                                                       \
1203         struct iscsi_cls_session *session = iscsi_cdev_to_session(cdev); \
1204         struct iscsi_transport *t = session->transport;                 \
1205         return t->get_session_param(session, param, buf);               \
1206 }
1207
1208 #define iscsi_session_attr(field, param)                                \
1209         iscsi_session_attr_show(param)                                  \
1210 static ISCSI_CLASS_ATTR(sess, field, S_IRUGO, show_session_param_##param, \
1211                         NULL);
1212
1213 iscsi_session_attr(targetname, ISCSI_PARAM_TARGET_NAME);
1214 iscsi_session_attr(initial_r2t, ISCSI_PARAM_INITIAL_R2T_EN);
1215 iscsi_session_attr(max_outstanding_r2t, ISCSI_PARAM_MAX_R2T);
1216 iscsi_session_attr(immediate_data, ISCSI_PARAM_IMM_DATA_EN);
1217 iscsi_session_attr(first_burst_len, ISCSI_PARAM_FIRST_BURST);
1218 iscsi_session_attr(max_burst_len, ISCSI_PARAM_MAX_BURST);
1219 iscsi_session_attr(data_pdu_in_order, ISCSI_PARAM_PDU_INORDER_EN);
1220 iscsi_session_attr(data_seq_in_order, ISCSI_PARAM_DATASEQ_INORDER_EN);
1221 iscsi_session_attr(erl, ISCSI_PARAM_ERL);
1222 iscsi_session_attr(tpgt, ISCSI_PARAM_TPGT);
1223
1224 #define iscsi_priv_session_attr_show(field, format)                     \
1225 static ssize_t                                                          \
1226 show_priv_session_##field(struct class_device *cdev, char *buf)         \
1227 {                                                                       \
1228         struct iscsi_cls_session *session = iscsi_cdev_to_session(cdev);\
1229         return sprintf(buf, format"\n", session->field);                \
1230 }
1231
1232 #define iscsi_priv_session_attr(field, format)                          \
1233         iscsi_priv_session_attr_show(field, format)                     \
1234 static ISCSI_CLASS_ATTR(priv_sess, field, S_IRUGO, show_priv_session_##field, \
1235                         NULL)
1236 iscsi_priv_session_attr(recovery_tmo, "%d");
1237
1238 /*
1239  * iSCSI host attrs
1240  */
1241 #define iscsi_host_attr_show(param)                                     \
1242 static ssize_t                                                          \
1243 show_host_param_##param(struct class_device *cdev, char *buf)           \
1244 {                                                                       \
1245         struct Scsi_Host *shost = transport_class_to_shost(cdev);       \
1246         struct iscsi_internal *priv = to_iscsi_internal(shost->transportt); \
1247         return priv->iscsi_transport->get_host_param(shost, param, buf); \
1248 }
1249
1250 #define iscsi_host_attr(field, param)                                   \
1251         iscsi_host_attr_show(param)                                     \
1252 static ISCSI_CLASS_ATTR(host, field, S_IRUGO, show_host_param_##param,  \
1253                         NULL);
1254
1255 iscsi_host_attr(hwaddress, ISCSI_HOST_PARAM_HWADDRESS);
1256
1257 #define SETUP_PRIV_SESSION_RD_ATTR(field)                               \
1258 do {                                                                    \
1259         priv->session_attrs[count] = &class_device_attr_priv_sess_##field; \
1260         count++;                                                        \
1261 } while (0)
1262
1263
1264 #define SETUP_SESSION_RD_ATTR(field, param_flag)                        \
1265 do {                                                                    \
1266         if (tt->param_mask & param_flag) {                              \
1267                 priv->session_attrs[count] = &class_device_attr_sess_##field; \
1268                 count++;                                                \
1269         }                                                               \
1270 } while (0)
1271
1272 #define SETUP_CONN_RD_ATTR(field, param_flag)                           \
1273 do {                                                                    \
1274         if (tt->param_mask & param_flag) {                              \
1275                 priv->conn_attrs[count] = &class_device_attr_conn_##field; \
1276                 count++;                                                \
1277         }                                                               \
1278 } while (0)
1279
1280 #define SETUP_HOST_RD_ATTR(field, param_flag)                           \
1281 do {                                                                    \
1282         if (tt->host_param_mask & param_flag) {                         \
1283                 priv->host_attrs[count] = &class_device_attr_host_##field; \
1284                 count++;                                                \
1285         }                                                               \
1286 } while (0)
1287
1288 static int iscsi_session_match(struct attribute_container *cont,
1289                            struct device *dev)
1290 {
1291         struct iscsi_cls_session *session;
1292         struct Scsi_Host *shost;
1293         struct iscsi_internal *priv;
1294
1295         if (!iscsi_is_session_dev(dev))
1296                 return 0;
1297
1298         session = iscsi_dev_to_session(dev);
1299         shost = iscsi_session_to_shost(session);
1300         if (!shost->transportt)
1301                 return 0;
1302
1303         priv = to_iscsi_internal(shost->transportt);
1304         if (priv->session_cont.ac.class != &iscsi_session_class.class)
1305                 return 0;
1306
1307         return &priv->session_cont.ac == cont;
1308 }
1309
1310 static int iscsi_conn_match(struct attribute_container *cont,
1311                            struct device *dev)
1312 {
1313         struct iscsi_cls_session *session;
1314         struct iscsi_cls_conn *conn;
1315         struct Scsi_Host *shost;
1316         struct iscsi_internal *priv;
1317
1318         if (!iscsi_is_conn_dev(dev))
1319                 return 0;
1320
1321         conn = iscsi_dev_to_conn(dev);
1322         session = iscsi_dev_to_session(conn->dev.parent);
1323         shost = iscsi_session_to_shost(session);
1324
1325         if (!shost->transportt)
1326                 return 0;
1327
1328         priv = to_iscsi_internal(shost->transportt);
1329         if (priv->conn_cont.ac.class != &iscsi_connection_class.class)
1330                 return 0;
1331
1332         return &priv->conn_cont.ac == cont;
1333 }
1334
1335 static int iscsi_host_match(struct attribute_container *cont,
1336                             struct device *dev)
1337 {
1338         struct Scsi_Host *shost;
1339         struct iscsi_internal *priv;
1340
1341         if (!scsi_is_host_device(dev))
1342                 return 0;
1343
1344         shost = dev_to_shost(dev);
1345         if (!shost->transportt  ||
1346             shost->transportt->host_attrs.ac.class != &iscsi_host_class.class)
1347                 return 0;
1348
1349         priv = to_iscsi_internal(shost->transportt);
1350         return &priv->t.host_attrs.ac == cont;
1351 }
1352
1353 struct scsi_transport_template *
1354 iscsi_register_transport(struct iscsi_transport *tt)
1355 {
1356         struct iscsi_internal *priv;
1357         unsigned long flags;
1358         int count = 0, err;
1359
1360         BUG_ON(!tt);
1361
1362         priv = iscsi_if_transport_lookup(tt);
1363         if (priv)
1364                 return NULL;
1365
1366         priv = kzalloc(sizeof(*priv), GFP_KERNEL);
1367         if (!priv)
1368                 return NULL;
1369         INIT_LIST_HEAD(&priv->list);
1370         priv->daemon_pid = -1;
1371         priv->iscsi_transport = tt;
1372         priv->t.user_scan = iscsi_user_scan;
1373
1374         priv->cdev.class = &iscsi_transport_class;
1375         snprintf(priv->cdev.class_id, BUS_ID_SIZE, "%s", tt->name);
1376         err = class_device_register(&priv->cdev);
1377         if (err)
1378                 goto free_priv;
1379
1380         err = sysfs_create_group(&priv->cdev.kobj, &iscsi_transport_group);
1381         if (err)
1382                 goto unregister_cdev;
1383
1384         /* host parameters */
1385         priv->t.host_attrs.ac.attrs = &priv->host_attrs[0];
1386         priv->t.host_attrs.ac.class = &iscsi_host_class.class;
1387         priv->t.host_attrs.ac.match = iscsi_host_match;
1388         priv->t.host_size = sizeof(struct iscsi_host);
1389         transport_container_register(&priv->t.host_attrs);
1390
1391         SETUP_HOST_RD_ATTR(hwaddress, ISCSI_HOST_HWADDRESS);
1392         BUG_ON(count > ISCSI_HOST_ATTRS);
1393         priv->host_attrs[count] = NULL;
1394         count = 0;
1395
1396         /* connection parameters */
1397         priv->conn_cont.ac.attrs = &priv->conn_attrs[0];
1398         priv->conn_cont.ac.class = &iscsi_connection_class.class;
1399         priv->conn_cont.ac.match = iscsi_conn_match;
1400         transport_container_register(&priv->conn_cont);
1401
1402         SETUP_CONN_RD_ATTR(max_recv_dlength, ISCSI_MAX_RECV_DLENGTH);
1403         SETUP_CONN_RD_ATTR(max_xmit_dlength, ISCSI_MAX_XMIT_DLENGTH);
1404         SETUP_CONN_RD_ATTR(header_digest, ISCSI_HDRDGST_EN);
1405         SETUP_CONN_RD_ATTR(data_digest, ISCSI_DATADGST_EN);
1406         SETUP_CONN_RD_ATTR(ifmarker, ISCSI_IFMARKER_EN);
1407         SETUP_CONN_RD_ATTR(ofmarker, ISCSI_OFMARKER_EN);
1408         SETUP_CONN_RD_ATTR(address, ISCSI_CONN_ADDRESS);
1409         SETUP_CONN_RD_ATTR(port, ISCSI_CONN_PORT);
1410         SETUP_CONN_RD_ATTR(exp_statsn, ISCSI_EXP_STATSN);
1411         SETUP_CONN_RD_ATTR(persistent_address, ISCSI_PERSISTENT_ADDRESS);
1412         SETUP_CONN_RD_ATTR(persistent_port, ISCSI_PERSISTENT_PORT);
1413
1414         BUG_ON(count > ISCSI_CONN_ATTRS);
1415         priv->conn_attrs[count] = NULL;
1416         count = 0;
1417
1418         /* session parameters */
1419         priv->session_cont.ac.attrs = &priv->session_attrs[0];
1420         priv->session_cont.ac.class = &iscsi_session_class.class;
1421         priv->session_cont.ac.match = iscsi_session_match;
1422         transport_container_register(&priv->session_cont);
1423
1424         SETUP_SESSION_RD_ATTR(initial_r2t, ISCSI_INITIAL_R2T_EN);
1425         SETUP_SESSION_RD_ATTR(max_outstanding_r2t, ISCSI_MAX_R2T);
1426         SETUP_SESSION_RD_ATTR(immediate_data, ISCSI_IMM_DATA_EN);
1427         SETUP_SESSION_RD_ATTR(first_burst_len, ISCSI_FIRST_BURST);
1428         SETUP_SESSION_RD_ATTR(max_burst_len, ISCSI_MAX_BURST);
1429         SETUP_SESSION_RD_ATTR(data_pdu_in_order, ISCSI_PDU_INORDER_EN);
1430         SETUP_SESSION_RD_ATTR(data_seq_in_order, ISCSI_DATASEQ_INORDER_EN);
1431         SETUP_SESSION_RD_ATTR(erl, ISCSI_ERL);
1432         SETUP_SESSION_RD_ATTR(targetname, ISCSI_TARGET_NAME);
1433         SETUP_SESSION_RD_ATTR(tpgt, ISCSI_TPGT);
1434         SETUP_PRIV_SESSION_RD_ATTR(recovery_tmo);
1435
1436         BUG_ON(count > ISCSI_SESSION_ATTRS);
1437         priv->session_attrs[count] = NULL;
1438
1439         spin_lock_irqsave(&iscsi_transport_lock, flags);
1440         list_add(&priv->list, &iscsi_transports);
1441         spin_unlock_irqrestore(&iscsi_transport_lock, flags);
1442
1443         printk(KERN_NOTICE "iscsi: registered transport (%s)\n", tt->name);
1444         return &priv->t;
1445
1446 unregister_cdev:
1447         class_device_unregister(&priv->cdev);
1448 free_priv:
1449         kfree(priv);
1450         return NULL;
1451 }
1452 EXPORT_SYMBOL_GPL(iscsi_register_transport);
1453
1454 int iscsi_unregister_transport(struct iscsi_transport *tt)
1455 {
1456         struct iscsi_internal *priv;
1457         unsigned long flags;
1458
1459         BUG_ON(!tt);
1460
1461         mutex_lock(&rx_queue_mutex);
1462
1463         priv = iscsi_if_transport_lookup(tt);
1464         BUG_ON (!priv);
1465
1466         spin_lock_irqsave(&iscsi_transport_lock, flags);
1467         list_del(&priv->list);
1468         spin_unlock_irqrestore(&iscsi_transport_lock, flags);
1469
1470         transport_container_unregister(&priv->conn_cont);
1471         transport_container_unregister(&priv->session_cont);
1472         transport_container_unregister(&priv->t.host_attrs);
1473
1474         sysfs_remove_group(&priv->cdev.kobj, &iscsi_transport_group);
1475         class_device_unregister(&priv->cdev);
1476         mutex_unlock(&rx_queue_mutex);
1477
1478         return 0;
1479 }
1480 EXPORT_SYMBOL_GPL(iscsi_unregister_transport);
1481
1482 static __init int iscsi_transport_init(void)
1483 {
1484         int err;
1485
1486         printk(KERN_INFO "Loading iSCSI transport class v%s.\n",
1487                 ISCSI_TRANSPORT_VERSION);
1488
1489         atomic_set(&iscsi_session_nr, 0);
1490
1491         err = class_register(&iscsi_transport_class);
1492         if (err)
1493                 return err;
1494
1495         err = transport_class_register(&iscsi_host_class);
1496         if (err)
1497                 goto unregister_transport_class;
1498
1499         err = transport_class_register(&iscsi_connection_class);
1500         if (err)
1501                 goto unregister_host_class;
1502
1503         err = transport_class_register(&iscsi_session_class);
1504         if (err)
1505                 goto unregister_conn_class;
1506
1507         nls = netlink_kernel_create(NETLINK_ISCSI, 1, iscsi_if_rx, NULL,
1508                         THIS_MODULE);
1509         if (!nls) {
1510                 err = -ENOBUFS;
1511                 goto unregister_session_class;
1512         }
1513
1514         return 0;
1515
1516 unregister_session_class:
1517         transport_class_unregister(&iscsi_session_class);
1518 unregister_conn_class:
1519         transport_class_unregister(&iscsi_connection_class);
1520 unregister_host_class:
1521         transport_class_unregister(&iscsi_host_class);
1522 unregister_transport_class:
1523         class_unregister(&iscsi_transport_class);
1524         return err;
1525 }
1526
1527 static void __exit iscsi_transport_exit(void)
1528 {
1529         sock_release(nls->sk_socket);
1530         transport_class_unregister(&iscsi_connection_class);
1531         transport_class_unregister(&iscsi_session_class);
1532         transport_class_unregister(&iscsi_host_class);
1533         class_unregister(&iscsi_transport_class);
1534 }
1535
1536 module_init(iscsi_transport_init);
1537 module_exit(iscsi_transport_exit);
1538
1539 MODULE_AUTHOR("Mike Christie <michaelc@cs.wisc.edu>, "
1540               "Dmitry Yusupov <dmitry_yus@yahoo.com>, "
1541               "Alex Aizman <itn780@yahoo.com>");
1542 MODULE_DESCRIPTION("iSCSI Transport Interface");
1543 MODULE_LICENSE("GPL");
1544 MODULE_VERSION(ISCSI_TRANSPORT_VERSION);