smsc9420: add netpoll support
[safe/jmp/linux-2.6] / drivers / net / smsc9420.c
1  /***************************************************************************
2  *
3  * Copyright (C) 2007,2008  SMSC
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License
7  * as published by the Free Software Foundation; either version 2
8  * of the License, or (at your option) any later version.
9  *
10  * This program is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  * You should have received a copy of the GNU General Public License
16  * along with this program; if not, write to the Free Software
17  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
18  *
19  ***************************************************************************
20  */
21
22 #include <linux/kernel.h>
23 #include <linux/netdevice.h>
24 #include <linux/phy.h>
25 #include <linux/pci.h>
26 #include <linux/if_vlan.h>
27 #include <linux/dma-mapping.h>
28 #include <linux/crc32.h>
29 #include <asm/unaligned.h>
30 #include "smsc9420.h"
31
32 #define DRV_NAME                "smsc9420"
33 #define PFX                     DRV_NAME ": "
34 #define DRV_MDIONAME            "smsc9420-mdio"
35 #define DRV_DESCRIPTION         "SMSC LAN9420 driver"
36 #define DRV_VERSION             "1.01"
37
38 MODULE_LICENSE("GPL");
39 MODULE_VERSION(DRV_VERSION);
40
41 struct smsc9420_dma_desc {
42         u32 status;
43         u32 length;
44         u32 buffer1;
45         u32 buffer2;
46 };
47
48 struct smsc9420_ring_info {
49         struct sk_buff *skb;
50         dma_addr_t mapping;
51 };
52
53 struct smsc9420_pdata {
54         void __iomem *base_addr;
55         struct pci_dev *pdev;
56         struct net_device *dev;
57
58         struct smsc9420_dma_desc *rx_ring;
59         struct smsc9420_dma_desc *tx_ring;
60         struct smsc9420_ring_info *tx_buffers;
61         struct smsc9420_ring_info *rx_buffers;
62         dma_addr_t rx_dma_addr;
63         dma_addr_t tx_dma_addr;
64         int tx_ring_head, tx_ring_tail;
65         int rx_ring_head, rx_ring_tail;
66
67         spinlock_t int_lock;
68         spinlock_t phy_lock;
69
70         struct napi_struct napi;
71
72         bool software_irq_signal;
73         bool rx_csum;
74         u32 msg_enable;
75
76         struct phy_device *phy_dev;
77         struct mii_bus *mii_bus;
78         int phy_irq[PHY_MAX_ADDR];
79         int last_duplex;
80         int last_carrier;
81 };
82
83 static const struct pci_device_id smsc9420_id_table[] = {
84         { PCI_VENDOR_ID_9420, PCI_DEVICE_ID_9420, PCI_ANY_ID, PCI_ANY_ID, },
85         { 0, }
86 };
87
88 MODULE_DEVICE_TABLE(pci, smsc9420_id_table);
89
90 #define SMSC_MSG_DEFAULT (NETIF_MSG_DRV | NETIF_MSG_PROBE | NETIF_MSG_LINK)
91
92 static uint smsc_debug;
93 static uint debug = -1;
94 module_param(debug, uint, 0);
95 MODULE_PARM_DESC(debug, "debug level");
96
97 #define smsc_dbg(TYPE, f, a...) \
98 do {    if ((pd)->msg_enable & NETIF_MSG_##TYPE) \
99                 printk(KERN_DEBUG PFX f "\n", ## a); \
100 } while (0)
101
102 #define smsc_info(TYPE, f, a...) \
103 do {    if ((pd)->msg_enable & NETIF_MSG_##TYPE) \
104                 printk(KERN_INFO PFX f "\n", ## a); \
105 } while (0)
106
107 #define smsc_warn(TYPE, f, a...) \
108 do {    if ((pd)->msg_enable & NETIF_MSG_##TYPE) \
109                 printk(KERN_WARNING PFX f "\n", ## a); \
110 } while (0)
111
112 static inline u32 smsc9420_reg_read(struct smsc9420_pdata *pd, u32 offset)
113 {
114         return ioread32(pd->base_addr + offset);
115 }
116
117 static inline void
118 smsc9420_reg_write(struct smsc9420_pdata *pd, u32 offset, u32 value)
119 {
120         iowrite32(value, pd->base_addr + offset);
121 }
122
123 static inline void smsc9420_pci_flush_write(struct smsc9420_pdata *pd)
124 {
125         /* to ensure PCI write completion, we must perform a PCI read */
126         smsc9420_reg_read(pd, ID_REV);
127 }
128
129 static int smsc9420_mii_read(struct mii_bus *bus, int phyaddr, int regidx)
130 {
131         struct smsc9420_pdata *pd = (struct smsc9420_pdata *)bus->priv;
132         unsigned long flags;
133         u32 addr;
134         int i, reg = -EIO;
135
136         spin_lock_irqsave(&pd->phy_lock, flags);
137
138         /*  confirm MII not busy */
139         if ((smsc9420_reg_read(pd, MII_ACCESS) & MII_ACCESS_MII_BUSY_)) {
140                 smsc_warn(DRV, "MII is busy???");
141                 goto out;
142         }
143
144         /* set the address, index & direction (read from PHY) */
145         addr = ((phyaddr & 0x1F) << 11) | ((regidx & 0x1F) << 6) |
146                 MII_ACCESS_MII_READ_;
147         smsc9420_reg_write(pd, MII_ACCESS, addr);
148
149         /* wait for read to complete with 50us timeout */
150         for (i = 0; i < 5; i++) {
151                 if (!(smsc9420_reg_read(pd, MII_ACCESS) &
152                         MII_ACCESS_MII_BUSY_)) {
153                         reg = (u16)smsc9420_reg_read(pd, MII_DATA);
154                         goto out;
155                 }
156                 udelay(10);
157         }
158
159         smsc_warn(DRV, "MII busy timeout!");
160
161 out:
162         spin_unlock_irqrestore(&pd->phy_lock, flags);
163         return reg;
164 }
165
166 static int smsc9420_mii_write(struct mii_bus *bus, int phyaddr, int regidx,
167                            u16 val)
168 {
169         struct smsc9420_pdata *pd = (struct smsc9420_pdata *)bus->priv;
170         unsigned long flags;
171         u32 addr;
172         int i, reg = -EIO;
173
174         spin_lock_irqsave(&pd->phy_lock, flags);
175
176         /* confirm MII not busy */
177         if ((smsc9420_reg_read(pd, MII_ACCESS) & MII_ACCESS_MII_BUSY_)) {
178                 smsc_warn(DRV, "MII is busy???");
179                 goto out;
180         }
181
182         /* put the data to write in the MAC */
183         smsc9420_reg_write(pd, MII_DATA, (u32)val);
184
185         /* set the address, index & direction (write to PHY) */
186         addr = ((phyaddr & 0x1F) << 11) | ((regidx & 0x1F) << 6) |
187                 MII_ACCESS_MII_WRITE_;
188         smsc9420_reg_write(pd, MII_ACCESS, addr);
189
190         /* wait for write to complete with 50us timeout */
191         for (i = 0; i < 5; i++) {
192                 if (!(smsc9420_reg_read(pd, MII_ACCESS) &
193                         MII_ACCESS_MII_BUSY_)) {
194                         reg = 0;
195                         goto out;
196                 }
197                 udelay(10);
198         }
199
200         smsc_warn(DRV, "MII busy timeout!");
201
202 out:
203         spin_unlock_irqrestore(&pd->phy_lock, flags);
204         return reg;
205 }
206
207 /* Returns hash bit number for given MAC address
208  * Example:
209  * 01 00 5E 00 00 01 -> returns bit number 31 */
210 static u32 smsc9420_hash(u8 addr[ETH_ALEN])
211 {
212         return (ether_crc(ETH_ALEN, addr) >> 26) & 0x3f;
213 }
214
215 static int smsc9420_eeprom_reload(struct smsc9420_pdata *pd)
216 {
217         int timeout = 100000;
218
219         BUG_ON(!pd);
220
221         if (smsc9420_reg_read(pd, E2P_CMD) & E2P_CMD_EPC_BUSY_) {
222                 smsc_dbg(DRV, "smsc9420_eeprom_reload: Eeprom busy");
223                 return -EIO;
224         }
225
226         smsc9420_reg_write(pd, E2P_CMD,
227                 (E2P_CMD_EPC_BUSY_ | E2P_CMD_EPC_CMD_RELOAD_));
228
229         do {
230                 udelay(10);
231                 if (!(smsc9420_reg_read(pd, E2P_CMD) & E2P_CMD_EPC_BUSY_))
232                         return 0;
233         } while (timeout--);
234
235         smsc_warn(DRV, "smsc9420_eeprom_reload: Eeprom timed out");
236         return -EIO;
237 }
238
239 /* Standard ioctls for mii-tool */
240 static int smsc9420_do_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd)
241 {
242         struct smsc9420_pdata *pd = netdev_priv(dev);
243
244         if (!netif_running(dev) || !pd->phy_dev)
245                 return -EINVAL;
246
247         return phy_mii_ioctl(pd->phy_dev, if_mii(ifr), cmd);
248 }
249
250 static int smsc9420_ethtool_get_settings(struct net_device *dev,
251                                          struct ethtool_cmd *cmd)
252 {
253         struct smsc9420_pdata *pd = netdev_priv(dev);
254
255         cmd->maxtxpkt = 1;
256         cmd->maxrxpkt = 1;
257         return phy_ethtool_gset(pd->phy_dev, cmd);
258 }
259
260 static int smsc9420_ethtool_set_settings(struct net_device *dev,
261                                          struct ethtool_cmd *cmd)
262 {
263         struct smsc9420_pdata *pd = netdev_priv(dev);
264
265         return phy_ethtool_sset(pd->phy_dev, cmd);
266 }
267
268 static void smsc9420_ethtool_get_drvinfo(struct net_device *netdev,
269                                          struct ethtool_drvinfo *drvinfo)
270 {
271         struct smsc9420_pdata *pd = netdev_priv(netdev);
272
273         strcpy(drvinfo->driver, DRV_NAME);
274         strcpy(drvinfo->bus_info, pci_name(pd->pdev));
275         strcpy(drvinfo->version, DRV_VERSION);
276 }
277
278 static u32 smsc9420_ethtool_get_msglevel(struct net_device *netdev)
279 {
280         struct smsc9420_pdata *pd = netdev_priv(netdev);
281         return pd->msg_enable;
282 }
283
284 static void smsc9420_ethtool_set_msglevel(struct net_device *netdev, u32 data)
285 {
286         struct smsc9420_pdata *pd = netdev_priv(netdev);
287         pd->msg_enable = data;
288 }
289
290 static int smsc9420_ethtool_nway_reset(struct net_device *netdev)
291 {
292         struct smsc9420_pdata *pd = netdev_priv(netdev);
293         return phy_start_aneg(pd->phy_dev);
294 }
295
296 static const struct ethtool_ops smsc9420_ethtool_ops = {
297         .get_settings = smsc9420_ethtool_get_settings,
298         .set_settings = smsc9420_ethtool_set_settings,
299         .get_drvinfo = smsc9420_ethtool_get_drvinfo,
300         .get_msglevel = smsc9420_ethtool_get_msglevel,
301         .set_msglevel = smsc9420_ethtool_set_msglevel,
302         .nway_reset = smsc9420_ethtool_nway_reset,
303         .get_link = ethtool_op_get_link,
304 };
305
306 /* Sets the device MAC address to dev_addr */
307 static void smsc9420_set_mac_address(struct net_device *dev)
308 {
309         struct smsc9420_pdata *pd = netdev_priv(dev);
310         u8 *dev_addr = dev->dev_addr;
311         u32 mac_high16 = (dev_addr[5] << 8) | dev_addr[4];
312         u32 mac_low32 = (dev_addr[3] << 24) | (dev_addr[2] << 16) |
313             (dev_addr[1] << 8) | dev_addr[0];
314
315         smsc9420_reg_write(pd, ADDRH, mac_high16);
316         smsc9420_reg_write(pd, ADDRL, mac_low32);
317 }
318
319 static void smsc9420_check_mac_address(struct net_device *dev)
320 {
321         struct smsc9420_pdata *pd = netdev_priv(dev);
322
323         /* Check if mac address has been specified when bringing interface up */
324         if (is_valid_ether_addr(dev->dev_addr)) {
325                 smsc9420_set_mac_address(dev);
326                 smsc_dbg(PROBE, "MAC Address is specified by configuration");
327         } else {
328                 /* Try reading mac address from device. if EEPROM is present
329                  * it will already have been set */
330                 u32 mac_high16 = smsc9420_reg_read(pd, ADDRH);
331                 u32 mac_low32 = smsc9420_reg_read(pd, ADDRL);
332                 dev->dev_addr[0] = (u8)(mac_low32);
333                 dev->dev_addr[1] = (u8)(mac_low32 >> 8);
334                 dev->dev_addr[2] = (u8)(mac_low32 >> 16);
335                 dev->dev_addr[3] = (u8)(mac_low32 >> 24);
336                 dev->dev_addr[4] = (u8)(mac_high16);
337                 dev->dev_addr[5] = (u8)(mac_high16 >> 8);
338
339                 if (is_valid_ether_addr(dev->dev_addr)) {
340                         /* eeprom values are valid  so use them */
341                         smsc_dbg(PROBE, "Mac Address is read from EEPROM");
342                 } else {
343                         /* eeprom values are invalid, generate random MAC */
344                         random_ether_addr(dev->dev_addr);
345                         smsc9420_set_mac_address(dev);
346                         smsc_dbg(PROBE,
347                                 "MAC Address is set to random_ether_addr");
348                 }
349         }
350 }
351
352 static void smsc9420_stop_tx(struct smsc9420_pdata *pd)
353 {
354         u32 dmac_control, mac_cr, dma_intr_ena;
355         int timeOut = 1000;
356
357         /* disable TX DMAC */
358         dmac_control = smsc9420_reg_read(pd, DMAC_CONTROL);
359         dmac_control &= (~DMAC_CONTROL_ST_);
360         smsc9420_reg_write(pd, DMAC_CONTROL, dmac_control);
361
362         /* Wait max 10ms for transmit process to stop */
363         while (timeOut--) {
364                 if (smsc9420_reg_read(pd, DMAC_STATUS) & DMAC_STS_TS_)
365                         break;
366                 udelay(10);
367         }
368
369         if (!timeOut)
370                 smsc_warn(IFDOWN, "TX DMAC failed to stop");
371
372         /* ACK Tx DMAC stop bit */
373         smsc9420_reg_write(pd, DMAC_STATUS, DMAC_STS_TXPS_);
374
375         /* mask TX DMAC interrupts */
376         dma_intr_ena = smsc9420_reg_read(pd, DMAC_INTR_ENA);
377         dma_intr_ena &= ~(DMAC_INTR_ENA_TX_);
378         smsc9420_reg_write(pd, DMAC_INTR_ENA, dma_intr_ena);
379         smsc9420_pci_flush_write(pd);
380
381         /* stop MAC TX */
382         mac_cr = smsc9420_reg_read(pd, MAC_CR) & (~MAC_CR_TXEN_);
383         smsc9420_reg_write(pd, MAC_CR, mac_cr);
384         smsc9420_pci_flush_write(pd);
385 }
386
387 static void smsc9420_free_tx_ring(struct smsc9420_pdata *pd)
388 {
389         int i;
390
391         BUG_ON(!pd->tx_ring);
392
393         if (!pd->tx_buffers)
394                 return;
395
396         for (i = 0; i < TX_RING_SIZE; i++) {
397                 struct sk_buff *skb = pd->tx_buffers[i].skb;
398
399                 if (skb) {
400                         BUG_ON(!pd->tx_buffers[i].mapping);
401                         pci_unmap_single(pd->pdev, pd->tx_buffers[i].mapping,
402                                          skb->len, PCI_DMA_TODEVICE);
403                         dev_kfree_skb_any(skb);
404                 }
405
406                 pd->tx_ring[i].status = 0;
407                 pd->tx_ring[i].length = 0;
408                 pd->tx_ring[i].buffer1 = 0;
409                 pd->tx_ring[i].buffer2 = 0;
410         }
411         wmb();
412
413         kfree(pd->tx_buffers);
414         pd->tx_buffers = NULL;
415
416         pd->tx_ring_head = 0;
417         pd->tx_ring_tail = 0;
418 }
419
420 static void smsc9420_free_rx_ring(struct smsc9420_pdata *pd)
421 {
422         int i;
423
424         BUG_ON(!pd->rx_ring);
425
426         if (!pd->rx_buffers)
427                 return;
428
429         for (i = 0; i < RX_RING_SIZE; i++) {
430                 if (pd->rx_buffers[i].skb)
431                         dev_kfree_skb_any(pd->rx_buffers[i].skb);
432
433                 if (pd->rx_buffers[i].mapping)
434                         pci_unmap_single(pd->pdev, pd->rx_buffers[i].mapping,
435                                 PKT_BUF_SZ, PCI_DMA_FROMDEVICE);
436
437                 pd->rx_ring[i].status = 0;
438                 pd->rx_ring[i].length = 0;
439                 pd->rx_ring[i].buffer1 = 0;
440                 pd->rx_ring[i].buffer2 = 0;
441         }
442         wmb();
443
444         kfree(pd->rx_buffers);
445         pd->rx_buffers = NULL;
446
447         pd->rx_ring_head = 0;
448         pd->rx_ring_tail = 0;
449 }
450
451 static void smsc9420_stop_rx(struct smsc9420_pdata *pd)
452 {
453         int timeOut = 1000;
454         u32 mac_cr, dmac_control, dma_intr_ena;
455
456         /* mask RX DMAC interrupts */
457         dma_intr_ena = smsc9420_reg_read(pd, DMAC_INTR_ENA);
458         dma_intr_ena &= (~DMAC_INTR_ENA_RX_);
459         smsc9420_reg_write(pd, DMAC_INTR_ENA, dma_intr_ena);
460         smsc9420_pci_flush_write(pd);
461
462         /* stop RX MAC prior to stoping DMA */
463         mac_cr = smsc9420_reg_read(pd, MAC_CR) & (~MAC_CR_RXEN_);
464         smsc9420_reg_write(pd, MAC_CR, mac_cr);
465         smsc9420_pci_flush_write(pd);
466
467         /* stop RX DMAC */
468         dmac_control = smsc9420_reg_read(pd, DMAC_CONTROL);
469         dmac_control &= (~DMAC_CONTROL_SR_);
470         smsc9420_reg_write(pd, DMAC_CONTROL, dmac_control);
471         smsc9420_pci_flush_write(pd);
472
473         /* wait up to 10ms for receive to stop */
474         while (timeOut--) {
475                 if (smsc9420_reg_read(pd, DMAC_STATUS) & DMAC_STS_RS_)
476                         break;
477                 udelay(10);
478         }
479
480         if (!timeOut)
481                 smsc_warn(IFDOWN, "RX DMAC did not stop! timeout.");
482
483         /* ACK the Rx DMAC stop bit */
484         smsc9420_reg_write(pd, DMAC_STATUS, DMAC_STS_RXPS_);
485 }
486
487 static irqreturn_t smsc9420_isr(int irq, void *dev_id)
488 {
489         struct smsc9420_pdata *pd = dev_id;
490         u32 int_cfg, int_sts, int_ctl;
491         irqreturn_t ret = IRQ_NONE;
492         ulong flags;
493
494         BUG_ON(!pd);
495         BUG_ON(!pd->base_addr);
496
497         int_cfg = smsc9420_reg_read(pd, INT_CFG);
498
499         /* check if it's our interrupt */
500         if ((int_cfg & (INT_CFG_IRQ_EN_ | INT_CFG_IRQ_INT_)) !=
501             (INT_CFG_IRQ_EN_ | INT_CFG_IRQ_INT_))
502                 return IRQ_NONE;
503
504         int_sts = smsc9420_reg_read(pd, INT_STAT);
505
506         if (likely(INT_STAT_DMAC_INT_ & int_sts)) {
507                 u32 status = smsc9420_reg_read(pd, DMAC_STATUS);
508                 u32 ints_to_clear = 0;
509
510                 if (status & DMAC_STS_TX_) {
511                         ints_to_clear |= (DMAC_STS_TX_ | DMAC_STS_NIS_);
512                         netif_wake_queue(pd->dev);
513                 }
514
515                 if (status & DMAC_STS_RX_) {
516                         /* mask RX DMAC interrupts */
517                         u32 dma_intr_ena = smsc9420_reg_read(pd, DMAC_INTR_ENA);
518                         dma_intr_ena &= (~DMAC_INTR_ENA_RX_);
519                         smsc9420_reg_write(pd, DMAC_INTR_ENA, dma_intr_ena);
520                         smsc9420_pci_flush_write(pd);
521
522                         ints_to_clear |= (DMAC_STS_RX_ | DMAC_STS_NIS_);
523                         netif_rx_schedule(pd->dev, &pd->napi);
524                 }
525
526                 if (ints_to_clear)
527                         smsc9420_reg_write(pd, DMAC_STATUS, ints_to_clear);
528
529                 ret = IRQ_HANDLED;
530         }
531
532         if (unlikely(INT_STAT_SW_INT_ & int_sts)) {
533                 /* mask software interrupt */
534                 spin_lock_irqsave(&pd->int_lock, flags);
535                 int_ctl = smsc9420_reg_read(pd, INT_CTL);
536                 int_ctl &= (~INT_CTL_SW_INT_EN_);
537                 smsc9420_reg_write(pd, INT_CTL, int_ctl);
538                 spin_unlock_irqrestore(&pd->int_lock, flags);
539
540                 smsc9420_reg_write(pd, INT_STAT, INT_STAT_SW_INT_);
541                 pd->software_irq_signal = true;
542                 smp_wmb();
543
544                 ret = IRQ_HANDLED;
545         }
546
547         /* to ensure PCI write completion, we must perform a PCI read */
548         smsc9420_pci_flush_write(pd);
549
550         return ret;
551 }
552
553 #ifdef CONFIG_NET_POLL_CONTROLLER
554 static void smsc9420_poll_controller(struct net_device *dev)
555 {
556         disable_irq(dev->irq);
557         smsc9420_isr(0, dev);
558         enable_irq(dev->irq);
559 }
560 #endif /* CONFIG_NET_POLL_CONTROLLER */
561
562 static void smsc9420_dmac_soft_reset(struct smsc9420_pdata *pd)
563 {
564         smsc9420_reg_write(pd, BUS_MODE, BUS_MODE_SWR_);
565         smsc9420_reg_read(pd, BUS_MODE);
566         udelay(2);
567         if (smsc9420_reg_read(pd, BUS_MODE) & BUS_MODE_SWR_)
568                 smsc_warn(DRV, "Software reset not cleared");
569 }
570
571 static int smsc9420_stop(struct net_device *dev)
572 {
573         struct smsc9420_pdata *pd = netdev_priv(dev);
574         u32 int_cfg;
575         ulong flags;
576
577         BUG_ON(!pd);
578         BUG_ON(!pd->phy_dev);
579
580         /* disable master interrupt */
581         spin_lock_irqsave(&pd->int_lock, flags);
582         int_cfg = smsc9420_reg_read(pd, INT_CFG) & (~INT_CFG_IRQ_EN_);
583         smsc9420_reg_write(pd, INT_CFG, int_cfg);
584         spin_unlock_irqrestore(&pd->int_lock, flags);
585
586         netif_tx_disable(dev);
587         napi_disable(&pd->napi);
588
589         smsc9420_stop_tx(pd);
590         smsc9420_free_tx_ring(pd);
591
592         smsc9420_stop_rx(pd);
593         smsc9420_free_rx_ring(pd);
594
595         free_irq(dev->irq, pd);
596
597         smsc9420_dmac_soft_reset(pd);
598
599         phy_stop(pd->phy_dev);
600
601         phy_disconnect(pd->phy_dev);
602         pd->phy_dev = NULL;
603         mdiobus_unregister(pd->mii_bus);
604         mdiobus_free(pd->mii_bus);
605
606         return 0;
607 }
608
609 static void smsc9420_rx_count_stats(struct net_device *dev, u32 desc_status)
610 {
611         if (unlikely(desc_status & RDES0_ERROR_SUMMARY_)) {
612                 dev->stats.rx_errors++;
613                 if (desc_status & RDES0_DESCRIPTOR_ERROR_)
614                         dev->stats.rx_over_errors++;
615                 else if (desc_status & (RDES0_FRAME_TOO_LONG_ |
616                         RDES0_RUNT_FRAME_ | RDES0_COLLISION_SEEN_))
617                         dev->stats.rx_frame_errors++;
618                 else if (desc_status & RDES0_CRC_ERROR_)
619                         dev->stats.rx_crc_errors++;
620         }
621
622         if (unlikely(desc_status & RDES0_LENGTH_ERROR_))
623                 dev->stats.rx_length_errors++;
624
625         if (unlikely(!((desc_status & RDES0_LAST_DESCRIPTOR_) &&
626                 (desc_status & RDES0_FIRST_DESCRIPTOR_))))
627                 dev->stats.rx_length_errors++;
628
629         if (desc_status & RDES0_MULTICAST_FRAME_)
630                 dev->stats.multicast++;
631 }
632
633 static void smsc9420_rx_handoff(struct smsc9420_pdata *pd, const int index,
634                                 const u32 status)
635 {
636         struct net_device *dev = pd->dev;
637         struct sk_buff *skb;
638         u16 packet_length = (status & RDES0_FRAME_LENGTH_MASK_)
639                 >> RDES0_FRAME_LENGTH_SHFT_;
640
641         /* remove crc from packet lendth */
642         packet_length -= 4;
643
644         if (pd->rx_csum)
645                 packet_length -= 2;
646
647         dev->stats.rx_packets++;
648         dev->stats.rx_bytes += packet_length;
649
650         pci_unmap_single(pd->pdev, pd->rx_buffers[index].mapping,
651                 PKT_BUF_SZ, PCI_DMA_FROMDEVICE);
652         pd->rx_buffers[index].mapping = 0;
653
654         skb = pd->rx_buffers[index].skb;
655         pd->rx_buffers[index].skb = NULL;
656
657         if (pd->rx_csum) {
658                 u16 hw_csum = get_unaligned_le16(skb_tail_pointer(skb) +
659                         NET_IP_ALIGN + packet_length + 4);
660                 put_unaligned_le16(cpu_to_le16(hw_csum), &skb->csum);
661                 skb->ip_summed = CHECKSUM_COMPLETE;
662         }
663
664         skb_reserve(skb, NET_IP_ALIGN);
665         skb_put(skb, packet_length);
666
667         skb->protocol = eth_type_trans(skb, dev);
668
669         netif_receive_skb(skb);
670         dev->last_rx = jiffies;
671 }
672
673 static int smsc9420_alloc_rx_buffer(struct smsc9420_pdata *pd, int index)
674 {
675         struct sk_buff *skb = netdev_alloc_skb(pd->dev, PKT_BUF_SZ);
676         dma_addr_t mapping;
677
678         BUG_ON(pd->rx_buffers[index].skb);
679         BUG_ON(pd->rx_buffers[index].mapping);
680
681         if (unlikely(!skb)) {
682                 smsc_warn(RX_ERR, "Failed to allocate new skb!");
683                 return -ENOMEM;
684         }
685
686         skb->dev = pd->dev;
687
688         mapping = pci_map_single(pd->pdev, skb_tail_pointer(skb),
689                                  PKT_BUF_SZ, PCI_DMA_FROMDEVICE);
690         if (pci_dma_mapping_error(pd->pdev, mapping)) {
691                 dev_kfree_skb_any(skb);
692                 smsc_warn(RX_ERR, "pci_map_single failed!");
693                 return -ENOMEM;
694         }
695
696         pd->rx_buffers[index].skb = skb;
697         pd->rx_buffers[index].mapping = mapping;
698         pd->rx_ring[index].buffer1 = mapping + NET_IP_ALIGN;
699         pd->rx_ring[index].status = RDES0_OWN_;
700         wmb();
701
702         return 0;
703 }
704
705 static void smsc9420_alloc_new_rx_buffers(struct smsc9420_pdata *pd)
706 {
707         while (pd->rx_ring_tail != pd->rx_ring_head) {
708                 if (smsc9420_alloc_rx_buffer(pd, pd->rx_ring_tail))
709                         break;
710
711                 pd->rx_ring_tail = (pd->rx_ring_tail + 1) % RX_RING_SIZE;
712         }
713 }
714
715 static int smsc9420_rx_poll(struct napi_struct *napi, int budget)
716 {
717         struct smsc9420_pdata *pd =
718                 container_of(napi, struct smsc9420_pdata, napi);
719         struct net_device *dev = pd->dev;
720         u32 drop_frame_cnt, dma_intr_ena, status;
721         int work_done;
722
723         for (work_done = 0; work_done < budget; work_done++) {
724                 rmb();
725                 status = pd->rx_ring[pd->rx_ring_head].status;
726
727                 /* stop if DMAC owns this dma descriptor */
728                 if (status & RDES0_OWN_)
729                         break;
730
731                 smsc9420_rx_count_stats(dev, status);
732                 smsc9420_rx_handoff(pd, pd->rx_ring_head, status);
733                 pd->rx_ring_head = (pd->rx_ring_head + 1) % RX_RING_SIZE;
734                 smsc9420_alloc_new_rx_buffers(pd);
735         }
736
737         drop_frame_cnt = smsc9420_reg_read(pd, MISS_FRAME_CNTR);
738         dev->stats.rx_dropped +=
739             (drop_frame_cnt & 0xFFFF) + ((drop_frame_cnt >> 17) & 0x3FF);
740
741         /* Kick RXDMA */
742         smsc9420_reg_write(pd, RX_POLL_DEMAND, 1);
743         smsc9420_pci_flush_write(pd);
744
745         if (work_done < budget) {
746                 netif_rx_complete(dev, &pd->napi);
747
748                 /* re-enable RX DMA interrupts */
749                 dma_intr_ena = smsc9420_reg_read(pd, DMAC_INTR_ENA);
750                 dma_intr_ena |= (DMAC_INTR_ENA_RX_ | DMAC_INTR_ENA_NIS_);
751                 smsc9420_reg_write(pd, DMAC_INTR_ENA, dma_intr_ena);
752                 smsc9420_pci_flush_write(pd);
753         }
754         return work_done;
755 }
756
757 static void
758 smsc9420_tx_update_stats(struct net_device *dev, u32 status, u32 length)
759 {
760         if (unlikely(status & TDES0_ERROR_SUMMARY_)) {
761                 dev->stats.tx_errors++;
762                 if (status & (TDES0_EXCESSIVE_DEFERRAL_ |
763                         TDES0_EXCESSIVE_COLLISIONS_))
764                         dev->stats.tx_aborted_errors++;
765
766                 if (status & (TDES0_LOSS_OF_CARRIER_ | TDES0_NO_CARRIER_))
767                         dev->stats.tx_carrier_errors++;
768         } else {
769                 dev->stats.tx_packets++;
770                 dev->stats.tx_bytes += (length & 0x7FF);
771         }
772
773         if (unlikely(status & TDES0_EXCESSIVE_COLLISIONS_)) {
774                 dev->stats.collisions += 16;
775         } else {
776                 dev->stats.collisions +=
777                         (status & TDES0_COLLISION_COUNT_MASK_) >>
778                         TDES0_COLLISION_COUNT_SHFT_;
779         }
780
781         if (unlikely(status & TDES0_HEARTBEAT_FAIL_))
782                 dev->stats.tx_heartbeat_errors++;
783 }
784
785 /* Check for completed dma transfers, update stats and free skbs */
786 static void smsc9420_complete_tx(struct net_device *dev)
787 {
788         struct smsc9420_pdata *pd = netdev_priv(dev);
789
790         while (pd->tx_ring_tail != pd->tx_ring_head) {
791                 int index = pd->tx_ring_tail;
792                 u32 status, length;
793
794                 rmb();
795                 status = pd->tx_ring[index].status;
796                 length = pd->tx_ring[index].length;
797
798                 /* Check if DMA still owns this descriptor */
799                 if (unlikely(TDES0_OWN_ & status))
800                         break;
801
802                 smsc9420_tx_update_stats(dev, status, length);
803
804                 BUG_ON(!pd->tx_buffers[index].skb);
805                 BUG_ON(!pd->tx_buffers[index].mapping);
806
807                 pci_unmap_single(pd->pdev, pd->tx_buffers[index].mapping,
808                         pd->tx_buffers[index].skb->len, PCI_DMA_TODEVICE);
809                 pd->tx_buffers[index].mapping = 0;
810
811                 dev_kfree_skb_any(pd->tx_buffers[index].skb);
812                 pd->tx_buffers[index].skb = NULL;
813
814                 pd->tx_ring[index].buffer1 = 0;
815                 wmb();
816
817                 pd->tx_ring_tail = (pd->tx_ring_tail + 1) % TX_RING_SIZE;
818         }
819 }
820
821 static int smsc9420_hard_start_xmit(struct sk_buff *skb, struct net_device *dev)
822 {
823         struct smsc9420_pdata *pd = netdev_priv(dev);
824         dma_addr_t mapping;
825         int index = pd->tx_ring_head;
826         u32 tmp_desc1;
827         bool about_to_take_last_desc =
828                 (((pd->tx_ring_head + 2) % TX_RING_SIZE) == pd->tx_ring_tail);
829
830         smsc9420_complete_tx(dev);
831
832         rmb();
833         BUG_ON(pd->tx_ring[index].status & TDES0_OWN_);
834         BUG_ON(pd->tx_buffers[index].skb);
835         BUG_ON(pd->tx_buffers[index].mapping);
836
837         mapping = pci_map_single(pd->pdev, skb->data,
838                                  skb->len, PCI_DMA_TODEVICE);
839         if (pci_dma_mapping_error(pd->pdev, mapping)) {
840                 smsc_warn(TX_ERR, "pci_map_single failed, dropping packet");
841                 return NETDEV_TX_BUSY;
842         }
843
844         pd->tx_buffers[index].skb = skb;
845         pd->tx_buffers[index].mapping = mapping;
846
847         tmp_desc1 = (TDES1_LS_ | ((u32)skb->len & 0x7FF));
848         if (unlikely(about_to_take_last_desc)) {
849                 tmp_desc1 |= TDES1_IC_;
850                 netif_stop_queue(pd->dev);
851         }
852
853         /* check if we are at the last descriptor and need to set EOR */
854         if (unlikely(index == (TX_RING_SIZE - 1)))
855                 tmp_desc1 |= TDES1_TER_;
856
857         pd->tx_ring[index].buffer1 = mapping;
858         pd->tx_ring[index].length = tmp_desc1;
859         wmb();
860
861         /* increment head */
862         pd->tx_ring_head = (pd->tx_ring_head + 1) % TX_RING_SIZE;
863
864         /* assign ownership to DMAC */
865         pd->tx_ring[index].status = TDES0_OWN_;
866         wmb();
867
868         /* kick the DMA */
869         smsc9420_reg_write(pd, TX_POLL_DEMAND, 1);
870         smsc9420_pci_flush_write(pd);
871
872         dev->trans_start = jiffies;
873
874         return NETDEV_TX_OK;
875 }
876
877 static struct net_device_stats *smsc9420_get_stats(struct net_device *dev)
878 {
879         struct smsc9420_pdata *pd = netdev_priv(dev);
880         u32 counter = smsc9420_reg_read(pd, MISS_FRAME_CNTR);
881         dev->stats.rx_dropped +=
882             (counter & 0x0000FFFF) + ((counter >> 17) & 0x000003FF);
883         return &dev->stats;
884 }
885
886 static void smsc9420_set_multicast_list(struct net_device *dev)
887 {
888         struct smsc9420_pdata *pd = netdev_priv(dev);
889         u32 mac_cr = smsc9420_reg_read(pd, MAC_CR);
890
891         if (dev->flags & IFF_PROMISC) {
892                 smsc_dbg(HW, "Promiscuous Mode Enabled");
893                 mac_cr |= MAC_CR_PRMS_;
894                 mac_cr &= (~MAC_CR_MCPAS_);
895                 mac_cr &= (~MAC_CR_HPFILT_);
896         } else if (dev->flags & IFF_ALLMULTI) {
897                 smsc_dbg(HW, "Receive all Multicast Enabled");
898                 mac_cr &= (~MAC_CR_PRMS_);
899                 mac_cr |= MAC_CR_MCPAS_;
900                 mac_cr &= (~MAC_CR_HPFILT_);
901         } else if (dev->mc_count > 0) {
902                 struct dev_mc_list *mc_list = dev->mc_list;
903                 u32 hash_lo = 0, hash_hi = 0;
904
905                 smsc_dbg(HW, "Multicast filter enabled");
906                 while (mc_list) {
907                         u32 bit_num = smsc9420_hash(mc_list->dmi_addr);
908                         u32 mask = 1 << (bit_num & 0x1F);
909
910                         if (bit_num & 0x20)
911                                 hash_hi |= mask;
912                         else
913                                 hash_lo |= mask;
914
915                         mc_list = mc_list->next;
916                 }
917                 smsc9420_reg_write(pd, HASHH, hash_hi);
918                 smsc9420_reg_write(pd, HASHL, hash_lo);
919
920                 mac_cr &= (~MAC_CR_PRMS_);
921                 mac_cr &= (~MAC_CR_MCPAS_);
922                 mac_cr |= MAC_CR_HPFILT_;
923         } else {
924                 smsc_dbg(HW, "Receive own packets only.");
925                 smsc9420_reg_write(pd, HASHH, 0);
926                 smsc9420_reg_write(pd, HASHL, 0);
927
928                 mac_cr &= (~MAC_CR_PRMS_);
929                 mac_cr &= (~MAC_CR_MCPAS_);
930                 mac_cr &= (~MAC_CR_HPFILT_);
931         }
932
933         smsc9420_reg_write(pd, MAC_CR, mac_cr);
934         smsc9420_pci_flush_write(pd);
935 }
936
937 static u8 smsc9420_resolve_flowctrl_fulldplx(u16 lcladv, u16 rmtadv)
938 {
939         u8 cap = 0;
940
941         if (lcladv & ADVERTISE_PAUSE_CAP) {
942                 if (lcladv & ADVERTISE_PAUSE_ASYM) {
943                         if (rmtadv & LPA_PAUSE_CAP)
944                                 cap = FLOW_CTRL_TX | FLOW_CTRL_RX;
945                         else if (rmtadv & LPA_PAUSE_ASYM)
946                                 cap = FLOW_CTRL_RX;
947                 } else {
948                         if (rmtadv & LPA_PAUSE_CAP)
949                                 cap = FLOW_CTRL_TX | FLOW_CTRL_RX;
950                 }
951         } else if (lcladv & ADVERTISE_PAUSE_ASYM) {
952                 if ((rmtadv & LPA_PAUSE_CAP) && (rmtadv & LPA_PAUSE_ASYM))
953                         cap = FLOW_CTRL_TX;
954         }
955
956         return cap;
957 }
958
959 static void smsc9420_phy_update_flowcontrol(struct smsc9420_pdata *pd)
960 {
961         struct phy_device *phy_dev = pd->phy_dev;
962         u32 flow;
963
964         if (phy_dev->duplex == DUPLEX_FULL) {
965                 u16 lcladv = phy_read(phy_dev, MII_ADVERTISE);
966                 u16 rmtadv = phy_read(phy_dev, MII_LPA);
967                 u8 cap = smsc9420_resolve_flowctrl_fulldplx(lcladv, rmtadv);
968
969                 if (cap & FLOW_CTRL_RX)
970                         flow = 0xFFFF0002;
971                 else
972                         flow = 0;
973
974                 smsc_info(LINK, "rx pause %s, tx pause %s",
975                         (cap & FLOW_CTRL_RX ? "enabled" : "disabled"),
976                         (cap & FLOW_CTRL_TX ? "enabled" : "disabled"));
977         } else {
978                 smsc_info(LINK, "half duplex");
979                 flow = 0;
980         }
981
982         smsc9420_reg_write(pd, FLOW, flow);
983 }
984
985 /* Update link mode if anything has changed.  Called periodically when the
986  * PHY is in polling mode, even if nothing has changed. */
987 static void smsc9420_phy_adjust_link(struct net_device *dev)
988 {
989         struct smsc9420_pdata *pd = netdev_priv(dev);
990         struct phy_device *phy_dev = pd->phy_dev;
991         int carrier;
992
993         if (phy_dev->duplex != pd->last_duplex) {
994                 u32 mac_cr = smsc9420_reg_read(pd, MAC_CR);
995                 if (phy_dev->duplex) {
996                         smsc_dbg(LINK, "full duplex mode");
997                         mac_cr |= MAC_CR_FDPX_;
998                 } else {
999                         smsc_dbg(LINK, "half duplex mode");
1000                         mac_cr &= ~MAC_CR_FDPX_;
1001                 }
1002                 smsc9420_reg_write(pd, MAC_CR, mac_cr);
1003
1004                 smsc9420_phy_update_flowcontrol(pd);
1005                 pd->last_duplex = phy_dev->duplex;
1006         }
1007
1008         carrier = netif_carrier_ok(dev);
1009         if (carrier != pd->last_carrier) {
1010                 if (carrier)
1011                         smsc_dbg(LINK, "carrier OK");
1012                 else
1013                         smsc_dbg(LINK, "no carrier");
1014                 pd->last_carrier = carrier;
1015         }
1016 }
1017
1018 static int smsc9420_mii_probe(struct net_device *dev)
1019 {
1020         struct smsc9420_pdata *pd = netdev_priv(dev);
1021         struct phy_device *phydev = NULL;
1022
1023         BUG_ON(pd->phy_dev);
1024
1025         /* Device only supports internal PHY at address 1 */
1026         if (!pd->mii_bus->phy_map[1]) {
1027                 pr_err("%s: no PHY found at address 1\n", dev->name);
1028                 return -ENODEV;
1029         }
1030
1031         phydev = pd->mii_bus->phy_map[1];
1032         smsc_info(PROBE, "PHY addr %d, phy_id 0x%08X", phydev->addr,
1033                 phydev->phy_id);
1034
1035         phydev = phy_connect(dev, phydev->dev.bus_id,
1036                 &smsc9420_phy_adjust_link, 0, PHY_INTERFACE_MODE_MII);
1037
1038         if (IS_ERR(phydev)) {
1039                 pr_err("%s: Could not attach to PHY\n", dev->name);
1040                 return PTR_ERR(phydev);
1041         }
1042
1043         pr_info("%s: attached PHY driver [%s] (mii_bus:phy_addr=%s, irq=%d)\n",
1044                 dev->name, phydev->drv->name, phydev->dev.bus_id, phydev->irq);
1045
1046         /* mask with MAC supported features */
1047         phydev->supported &= (PHY_BASIC_FEATURES | SUPPORTED_Pause |
1048                               SUPPORTED_Asym_Pause);
1049         phydev->advertising = phydev->supported;
1050
1051         pd->phy_dev = phydev;
1052         pd->last_duplex = -1;
1053         pd->last_carrier = -1;
1054
1055         return 0;
1056 }
1057
1058 static int smsc9420_mii_init(struct net_device *dev)
1059 {
1060         struct smsc9420_pdata *pd = netdev_priv(dev);
1061         int err = -ENXIO, i;
1062
1063         pd->mii_bus = mdiobus_alloc();
1064         if (!pd->mii_bus) {
1065                 err = -ENOMEM;
1066                 goto err_out_1;
1067         }
1068         pd->mii_bus->name = DRV_MDIONAME;
1069         snprintf(pd->mii_bus->id, MII_BUS_ID_SIZE, "%x",
1070                 (pd->pdev->bus->number << 8) | pd->pdev->devfn);
1071         pd->mii_bus->priv = pd;
1072         pd->mii_bus->read = smsc9420_mii_read;
1073         pd->mii_bus->write = smsc9420_mii_write;
1074         pd->mii_bus->irq = pd->phy_irq;
1075         for (i = 0; i < PHY_MAX_ADDR; ++i)
1076                 pd->mii_bus->irq[i] = PHY_POLL;
1077
1078         /* Mask all PHYs except ID 1 (internal) */
1079         pd->mii_bus->phy_mask = ~(1 << 1);
1080
1081         if (mdiobus_register(pd->mii_bus)) {
1082                 smsc_warn(PROBE, "Error registering mii bus");
1083                 goto err_out_free_bus_2;
1084         }
1085
1086         if (smsc9420_mii_probe(dev) < 0) {
1087                 smsc_warn(PROBE, "Error probing mii bus");
1088                 goto err_out_unregister_bus_3;
1089         }
1090
1091         return 0;
1092
1093 err_out_unregister_bus_3:
1094         mdiobus_unregister(pd->mii_bus);
1095 err_out_free_bus_2:
1096         mdiobus_free(pd->mii_bus);
1097 err_out_1:
1098         return err;
1099 }
1100
1101 static int smsc9420_alloc_tx_ring(struct smsc9420_pdata *pd)
1102 {
1103         int i;
1104
1105         BUG_ON(!pd->tx_ring);
1106
1107         pd->tx_buffers = kmalloc((sizeof(struct smsc9420_ring_info) *
1108                 TX_RING_SIZE), GFP_KERNEL);
1109         if (!pd->tx_buffers) {
1110                 smsc_warn(IFUP, "Failed to allocated tx_buffers");
1111                 return -ENOMEM;
1112         }
1113
1114         /* Initialize the TX Ring */
1115         for (i = 0; i < TX_RING_SIZE; i++) {
1116                 pd->tx_buffers[i].skb = NULL;
1117                 pd->tx_buffers[i].mapping = 0;
1118                 pd->tx_ring[i].status = 0;
1119                 pd->tx_ring[i].length = 0;
1120                 pd->tx_ring[i].buffer1 = 0;
1121                 pd->tx_ring[i].buffer2 = 0;
1122         }
1123         pd->tx_ring[TX_RING_SIZE - 1].length = TDES1_TER_;
1124         wmb();
1125
1126         pd->tx_ring_head = 0;
1127         pd->tx_ring_tail = 0;
1128
1129         smsc9420_reg_write(pd, TX_BASE_ADDR, pd->tx_dma_addr);
1130         smsc9420_pci_flush_write(pd);
1131
1132         return 0;
1133 }
1134
1135 static int smsc9420_alloc_rx_ring(struct smsc9420_pdata *pd)
1136 {
1137         int i;
1138
1139         BUG_ON(!pd->rx_ring);
1140
1141         pd->rx_buffers = kmalloc((sizeof(struct smsc9420_ring_info) *
1142                 RX_RING_SIZE), GFP_KERNEL);
1143         if (pd->rx_buffers == NULL) {
1144                 smsc_warn(IFUP, "Failed to allocated rx_buffers");
1145                 goto out;
1146         }
1147
1148         /* initialize the rx ring */
1149         for (i = 0; i < RX_RING_SIZE; i++) {
1150                 pd->rx_ring[i].status = 0;
1151                 pd->rx_ring[i].length = PKT_BUF_SZ;
1152                 pd->rx_ring[i].buffer2 = 0;
1153                 pd->rx_buffers[i].skb = NULL;
1154                 pd->rx_buffers[i].mapping = 0;
1155         }
1156         pd->rx_ring[RX_RING_SIZE - 1].length = (PKT_BUF_SZ | RDES1_RER_);
1157
1158         /* now allocate the entire ring of skbs */
1159         for (i = 0; i < RX_RING_SIZE; i++) {
1160                 if (smsc9420_alloc_rx_buffer(pd, i)) {
1161                         smsc_warn(IFUP, "failed to allocate rx skb %d", i);
1162                         goto out_free_rx_skbs;
1163                 }
1164         }
1165
1166         pd->rx_ring_head = 0;
1167         pd->rx_ring_tail = 0;
1168
1169         smsc9420_reg_write(pd, VLAN1, ETH_P_8021Q);
1170         smsc_dbg(IFUP, "VLAN1 = 0x%08x", smsc9420_reg_read(pd, VLAN1));
1171
1172         if (pd->rx_csum) {
1173                 /* Enable RX COE */
1174                 u32 coe = smsc9420_reg_read(pd, COE_CR) | RX_COE_EN;
1175                 smsc9420_reg_write(pd, COE_CR, coe);
1176                 smsc_dbg(IFUP, "COE_CR = 0x%08x", coe);
1177         }
1178
1179         smsc9420_reg_write(pd, RX_BASE_ADDR, pd->rx_dma_addr);
1180         smsc9420_pci_flush_write(pd);
1181
1182         return 0;
1183
1184 out_free_rx_skbs:
1185         smsc9420_free_rx_ring(pd);
1186 out:
1187         return -ENOMEM;
1188 }
1189
1190 static int smsc9420_open(struct net_device *dev)
1191 {
1192         struct smsc9420_pdata *pd;
1193         u32 bus_mode, mac_cr, dmac_control, int_cfg, dma_intr_ena, int_ctl;
1194         unsigned long flags;
1195         int result = 0, timeout;
1196
1197         BUG_ON(!dev);
1198         pd = netdev_priv(dev);
1199         BUG_ON(!pd);
1200
1201         if (!is_valid_ether_addr(dev->dev_addr)) {
1202                 smsc_warn(IFUP, "dev_addr is not a valid MAC address");
1203                 result = -EADDRNOTAVAIL;
1204                 goto out_0;
1205         }
1206
1207         netif_carrier_off(dev);
1208
1209         /* disable, mask and acknowlege all interrupts */
1210         spin_lock_irqsave(&pd->int_lock, flags);
1211         int_cfg = smsc9420_reg_read(pd, INT_CFG) & (~INT_CFG_IRQ_EN_);
1212         smsc9420_reg_write(pd, INT_CFG, int_cfg);
1213         smsc9420_reg_write(pd, INT_CTL, 0);
1214         spin_unlock_irqrestore(&pd->int_lock, flags);
1215         smsc9420_reg_write(pd, DMAC_INTR_ENA, 0);
1216         smsc9420_reg_write(pd, INT_STAT, 0xFFFFFFFF);
1217         smsc9420_pci_flush_write(pd);
1218
1219         if (request_irq(dev->irq, smsc9420_isr, IRQF_SHARED | IRQF_DISABLED,
1220                         DRV_NAME, pd)) {
1221                 smsc_warn(IFUP, "Unable to use IRQ = %d", dev->irq);
1222                 result = -ENODEV;
1223                 goto out_0;
1224         }
1225
1226         smsc9420_dmac_soft_reset(pd);
1227
1228         /* make sure MAC_CR is sane */
1229         smsc9420_reg_write(pd, MAC_CR, 0);
1230
1231         smsc9420_set_mac_address(dev);
1232
1233         /* Configure GPIO pins to drive LEDs */
1234         smsc9420_reg_write(pd, GPIO_CFG,
1235                 (GPIO_CFG_LED_3_ | GPIO_CFG_LED_2_ | GPIO_CFG_LED_1_));
1236
1237         bus_mode = BUS_MODE_DMA_BURST_LENGTH_16;
1238
1239 #ifdef __BIG_ENDIAN
1240         bus_mode |= BUS_MODE_DBO_;
1241 #endif
1242
1243         smsc9420_reg_write(pd, BUS_MODE, bus_mode);
1244
1245         smsc9420_pci_flush_write(pd);
1246
1247         /* set bus master bridge arbitration priority for Rx and TX DMA */
1248         smsc9420_reg_write(pd, BUS_CFG, BUS_CFG_RXTXWEIGHT_4_1);
1249
1250         smsc9420_reg_write(pd, DMAC_CONTROL,
1251                 (DMAC_CONTROL_SF_ | DMAC_CONTROL_OSF_));
1252
1253         smsc9420_pci_flush_write(pd);
1254
1255         /* test the IRQ connection to the ISR */
1256         smsc_dbg(IFUP, "Testing ISR using IRQ %d", dev->irq);
1257
1258         spin_lock_irqsave(&pd->int_lock, flags);
1259         /* configure interrupt deassertion timer and enable interrupts */
1260         int_cfg = smsc9420_reg_read(pd, INT_CFG) | INT_CFG_IRQ_EN_;
1261         int_cfg &= ~(INT_CFG_INT_DEAS_MASK);
1262         int_cfg |= (INT_DEAS_TIME & INT_CFG_INT_DEAS_MASK);
1263         smsc9420_reg_write(pd, INT_CFG, int_cfg);
1264
1265         /* unmask software interrupt */
1266         int_ctl = smsc9420_reg_read(pd, INT_CTL) | INT_CTL_SW_INT_EN_;
1267         smsc9420_reg_write(pd, INT_CTL, int_ctl);
1268         spin_unlock_irqrestore(&pd->int_lock, flags);
1269         smsc9420_pci_flush_write(pd);
1270
1271         timeout = 1000;
1272         pd->software_irq_signal = false;
1273         smp_wmb();
1274         while (timeout--) {
1275                 if (pd->software_irq_signal)
1276                         break;
1277                 msleep(1);
1278         }
1279
1280         /* disable interrupts */
1281         spin_lock_irqsave(&pd->int_lock, flags);
1282         int_cfg = smsc9420_reg_read(pd, INT_CFG) & (~INT_CFG_IRQ_EN_);
1283         smsc9420_reg_write(pd, INT_CFG, int_cfg);
1284         spin_unlock_irqrestore(&pd->int_lock, flags);
1285
1286         if (!pd->software_irq_signal) {
1287                 smsc_warn(IFUP, "ISR failed signaling test");
1288                 result = -ENODEV;
1289                 goto out_free_irq_1;
1290         }
1291
1292         smsc_dbg(IFUP, "ISR passed test using IRQ %d", dev->irq);
1293
1294         result = smsc9420_alloc_tx_ring(pd);
1295         if (result) {
1296                 smsc_warn(IFUP, "Failed to Initialize tx dma ring");
1297                 result = -ENOMEM;
1298                 goto out_free_irq_1;
1299         }
1300
1301         result = smsc9420_alloc_rx_ring(pd);
1302         if (result) {
1303                 smsc_warn(IFUP, "Failed to Initialize rx dma ring");
1304                 result = -ENOMEM;
1305                 goto out_free_tx_ring_2;
1306         }
1307
1308         result = smsc9420_mii_init(dev);
1309         if (result) {
1310                 smsc_warn(IFUP, "Failed to initialize Phy");
1311                 result = -ENODEV;
1312                 goto out_free_rx_ring_3;
1313         }
1314
1315         /* Bring the PHY up */
1316         phy_start(pd->phy_dev);
1317
1318         napi_enable(&pd->napi);
1319
1320         /* start tx and rx */
1321         mac_cr = smsc9420_reg_read(pd, MAC_CR) | MAC_CR_TXEN_ | MAC_CR_RXEN_;
1322         smsc9420_reg_write(pd, MAC_CR, mac_cr);
1323
1324         dmac_control = smsc9420_reg_read(pd, DMAC_CONTROL);
1325         dmac_control |= DMAC_CONTROL_ST_ | DMAC_CONTROL_SR_;
1326         smsc9420_reg_write(pd, DMAC_CONTROL, dmac_control);
1327         smsc9420_pci_flush_write(pd);
1328
1329         dma_intr_ena = smsc9420_reg_read(pd, DMAC_INTR_ENA);
1330         dma_intr_ena |=
1331                 (DMAC_INTR_ENA_TX_ | DMAC_INTR_ENA_RX_ | DMAC_INTR_ENA_NIS_);
1332         smsc9420_reg_write(pd, DMAC_INTR_ENA, dma_intr_ena);
1333         smsc9420_pci_flush_write(pd);
1334
1335         netif_wake_queue(dev);
1336
1337         smsc9420_reg_write(pd, RX_POLL_DEMAND, 1);
1338
1339         /* enable interrupts */
1340         spin_lock_irqsave(&pd->int_lock, flags);
1341         int_cfg = smsc9420_reg_read(pd, INT_CFG) | INT_CFG_IRQ_EN_;
1342         smsc9420_reg_write(pd, INT_CFG, int_cfg);
1343         spin_unlock_irqrestore(&pd->int_lock, flags);
1344
1345         return 0;
1346
1347 out_free_rx_ring_3:
1348         smsc9420_free_rx_ring(pd);
1349 out_free_tx_ring_2:
1350         smsc9420_free_tx_ring(pd);
1351 out_free_irq_1:
1352         free_irq(dev->irq, pd);
1353 out_0:
1354         return result;
1355 }
1356
1357 #ifdef CONFIG_PM
1358
1359 static int smsc9420_suspend(struct pci_dev *pdev, pm_message_t state)
1360 {
1361         struct net_device *dev = pci_get_drvdata(pdev);
1362         struct smsc9420_pdata *pd = netdev_priv(dev);
1363         u32 int_cfg;
1364         ulong flags;
1365
1366         /* disable interrupts */
1367         spin_lock_irqsave(&pd->int_lock, flags);
1368         int_cfg = smsc9420_reg_read(pd, INT_CFG) & (~INT_CFG_IRQ_EN_);
1369         smsc9420_reg_write(pd, INT_CFG, int_cfg);
1370         spin_unlock_irqrestore(&pd->int_lock, flags);
1371
1372         if (netif_running(dev)) {
1373                 netif_tx_disable(dev);
1374                 smsc9420_stop_tx(pd);
1375                 smsc9420_free_tx_ring(pd);
1376
1377                 napi_disable(&pd->napi);
1378                 smsc9420_stop_rx(pd);
1379                 smsc9420_free_rx_ring(pd);
1380
1381                 free_irq(dev->irq, pd);
1382
1383                 netif_device_detach(dev);
1384         }
1385
1386         pci_save_state(pdev);
1387         pci_enable_wake(pdev, pci_choose_state(pdev, state), 0);
1388         pci_disable_device(pdev);
1389         pci_set_power_state(pdev, pci_choose_state(pdev, state));
1390
1391         return 0;
1392 }
1393
1394 static int smsc9420_resume(struct pci_dev *pdev)
1395 {
1396         struct net_device *dev = pci_get_drvdata(pdev);
1397         struct smsc9420_pdata *pd = netdev_priv(dev);
1398         int err;
1399
1400         pci_set_power_state(pdev, PCI_D0);
1401         pci_restore_state(pdev);
1402
1403         err = pci_enable_device(pdev);
1404         if (err)
1405                 return err;
1406
1407         pci_set_master(pdev);
1408
1409         err = pci_enable_wake(pdev, 0, 0);
1410         if (err)
1411                 smsc_warn(IFUP, "pci_enable_wake failed: %d", err);
1412
1413         if (netif_running(dev)) {
1414                 err = smsc9420_open(dev);
1415                 netif_device_attach(dev);
1416         }
1417         return err;
1418 }
1419
1420 #endif /* CONFIG_PM */
1421
1422 static const struct net_device_ops smsc9420_netdev_ops = {
1423         .ndo_open               = smsc9420_open,
1424         .ndo_stop               = smsc9420_stop,
1425         .ndo_start_xmit         = smsc9420_hard_start_xmit,
1426         .ndo_get_stats          = smsc9420_get_stats,
1427         .ndo_set_multicast_list = smsc9420_set_multicast_list,
1428         .ndo_do_ioctl           = smsc9420_do_ioctl,
1429         .ndo_validate_addr      = eth_validate_addr,
1430 #ifdef CONFIG_NET_POLL_CONTROLLER
1431         .ndo_poll_controller    = smsc9420_poll_controller,
1432 #endif /* CONFIG_NET_POLL_CONTROLLER */
1433 };
1434
1435 static int __devinit
1436 smsc9420_probe(struct pci_dev *pdev, const struct pci_device_id *id)
1437 {
1438         struct net_device *dev;
1439         struct smsc9420_pdata *pd;
1440         void __iomem *virt_addr;
1441         int result = 0;
1442         u32 id_rev;
1443
1444         printk(KERN_INFO DRV_DESCRIPTION " version " DRV_VERSION "\n");
1445
1446         /* First do the PCI initialisation */
1447         result = pci_enable_device(pdev);
1448         if (unlikely(result)) {
1449                 printk(KERN_ERR "Cannot enable smsc9420\n");
1450                 goto out_0;
1451         }
1452
1453         pci_set_master(pdev);
1454
1455         dev = alloc_etherdev(sizeof(*pd));
1456         if (!dev) {
1457                 printk(KERN_ERR "ether device alloc failed\n");
1458                 goto out_disable_pci_device_1;
1459         }
1460
1461         SET_NETDEV_DEV(dev, &pdev->dev);
1462
1463         if (!(pci_resource_flags(pdev, SMSC_BAR) & IORESOURCE_MEM)) {
1464                 printk(KERN_ERR "Cannot find PCI device base address\n");
1465                 goto out_free_netdev_2;
1466         }
1467
1468         if ((pci_request_regions(pdev, DRV_NAME))) {
1469                 printk(KERN_ERR "Cannot obtain PCI resources, aborting.\n");
1470                 goto out_free_netdev_2;
1471         }
1472
1473         if (pci_set_dma_mask(pdev, DMA_32BIT_MASK)) {
1474                 printk(KERN_ERR "No usable DMA configuration, aborting.\n");
1475                 goto out_free_regions_3;
1476         }
1477
1478         virt_addr = ioremap(pci_resource_start(pdev, SMSC_BAR),
1479                 pci_resource_len(pdev, SMSC_BAR));
1480         if (!virt_addr) {
1481                 printk(KERN_ERR "Cannot map device registers, aborting.\n");
1482                 goto out_free_regions_3;
1483         }
1484
1485         /* registers are double mapped with 0 offset for LE and 0x200 for BE */
1486         virt_addr += LAN9420_CPSR_ENDIAN_OFFSET;
1487
1488         dev->base_addr = (ulong)virt_addr;
1489
1490         pd = netdev_priv(dev);
1491
1492         /* pci descriptors are created in the PCI consistent area */
1493         pd->rx_ring = pci_alloc_consistent(pdev,
1494                 sizeof(struct smsc9420_dma_desc) * RX_RING_SIZE +
1495                 sizeof(struct smsc9420_dma_desc) * TX_RING_SIZE,
1496                 &pd->rx_dma_addr);
1497
1498         if (!pd->rx_ring)
1499                 goto out_free_io_4;
1500
1501         /* descriptors are aligned due to the nature of pci_alloc_consistent */
1502         pd->tx_ring = (struct smsc9420_dma_desc *)
1503             (pd->rx_ring + RX_RING_SIZE);
1504         pd->tx_dma_addr = pd->rx_dma_addr +
1505             sizeof(struct smsc9420_dma_desc) * RX_RING_SIZE;
1506
1507         pd->pdev = pdev;
1508         pd->dev = dev;
1509         pd->base_addr = virt_addr;
1510         pd->msg_enable = smsc_debug;
1511         pd->rx_csum = true;
1512
1513         smsc_dbg(PROBE, "lan_base=0x%08lx", (ulong)virt_addr);
1514
1515         id_rev = smsc9420_reg_read(pd, ID_REV);
1516         switch (id_rev & 0xFFFF0000) {
1517         case 0x94200000:
1518                 smsc_info(PROBE, "LAN9420 identified, ID_REV=0x%08X", id_rev);
1519                 break;
1520         default:
1521                 smsc_warn(PROBE, "LAN9420 NOT identified");
1522                 smsc_warn(PROBE, "ID_REV=0x%08X", id_rev);
1523                 goto out_free_dmadesc_5;
1524         }
1525
1526         smsc9420_dmac_soft_reset(pd);
1527         smsc9420_eeprom_reload(pd);
1528         smsc9420_check_mac_address(dev);
1529
1530         dev->netdev_ops = &smsc9420_netdev_ops;
1531         dev->ethtool_ops = &smsc9420_ethtool_ops;
1532         dev->irq = pdev->irq;
1533
1534         netif_napi_add(dev, &pd->napi, smsc9420_rx_poll, NAPI_WEIGHT);
1535
1536         result = register_netdev(dev);
1537         if (result) {
1538                 smsc_warn(PROBE, "error %i registering device", result);
1539                 goto out_free_dmadesc_5;
1540         }
1541
1542         pci_set_drvdata(pdev, dev);
1543
1544         spin_lock_init(&pd->int_lock);
1545         spin_lock_init(&pd->phy_lock);
1546
1547         dev_info(&dev->dev, "MAC Address: %pM\n", dev->dev_addr);
1548
1549         return 0;
1550
1551 out_free_dmadesc_5:
1552         pci_free_consistent(pdev, sizeof(struct smsc9420_dma_desc) *
1553                 (RX_RING_SIZE + TX_RING_SIZE), pd->rx_ring, pd->rx_dma_addr);
1554 out_free_io_4:
1555         iounmap(virt_addr - LAN9420_CPSR_ENDIAN_OFFSET);
1556 out_free_regions_3:
1557         pci_release_regions(pdev);
1558 out_free_netdev_2:
1559         free_netdev(dev);
1560 out_disable_pci_device_1:
1561         pci_disable_device(pdev);
1562 out_0:
1563         return -ENODEV;
1564 }
1565
1566 static void __devexit smsc9420_remove(struct pci_dev *pdev)
1567 {
1568         struct net_device *dev;
1569         struct smsc9420_pdata *pd;
1570
1571         dev = pci_get_drvdata(pdev);
1572         if (!dev)
1573                 return;
1574
1575         pci_set_drvdata(pdev, NULL);
1576
1577         pd = netdev_priv(dev);
1578         unregister_netdev(dev);
1579
1580         /* tx_buffers and rx_buffers are freed in stop */
1581         BUG_ON(pd->tx_buffers);
1582         BUG_ON(pd->rx_buffers);
1583
1584         BUG_ON(!pd->tx_ring);
1585         BUG_ON(!pd->rx_ring);
1586
1587         pci_free_consistent(pdev, sizeof(struct smsc9420_dma_desc) *
1588                 (RX_RING_SIZE + TX_RING_SIZE), pd->rx_ring, pd->rx_dma_addr);
1589
1590         iounmap(pd->base_addr - LAN9420_CPSR_ENDIAN_OFFSET);
1591         pci_release_regions(pdev);
1592         free_netdev(dev);
1593         pci_disable_device(pdev);
1594 }
1595
1596 static struct pci_driver smsc9420_driver = {
1597         .name = DRV_NAME,
1598         .id_table = smsc9420_id_table,
1599         .probe = smsc9420_probe,
1600         .remove = __devexit_p(smsc9420_remove),
1601 #ifdef CONFIG_PM
1602         .suspend = smsc9420_suspend,
1603         .resume = smsc9420_resume,
1604 #endif /* CONFIG_PM */
1605 };
1606
1607 static int __init smsc9420_init_module(void)
1608 {
1609         smsc_debug = netif_msg_init(debug, SMSC_MSG_DEFAULT);
1610
1611         return pci_register_driver(&smsc9420_driver);
1612 }
1613
1614 static void __exit smsc9420_exit_module(void)
1615 {
1616         pci_unregister_driver(&smsc9420_driver);
1617 }
1618
1619 module_init(smsc9420_init_module);
1620 module_exit(smsc9420_exit_module);