Merge branches 'acpi-processor', 'acpi-hotplug' and 'acpi-battery'
[cascardo/linux.git] / drivers / pci / pci-sysfs.c
1 /*
2  * drivers/pci/pci-sysfs.c
3  *
4  * (C) Copyright 2002-2004 Greg Kroah-Hartman <greg@kroah.com>
5  * (C) Copyright 2002-2004 IBM Corp.
6  * (C) Copyright 2003 Matthew Wilcox
7  * (C) Copyright 2003 Hewlett-Packard
8  * (C) Copyright 2004 Jon Smirl <jonsmirl@yahoo.com>
9  * (C) Copyright 2004 Silicon Graphics, Inc. Jesse Barnes <jbarnes@sgi.com>
10  *
11  * File attributes for PCI devices
12  *
13  * Modeled after usb's driverfs.c
14  *
15  */
16
17
18 #include <linux/kernel.h>
19 #include <linux/sched.h>
20 #include <linux/pci.h>
21 #include <linux/stat.h>
22 #include <linux/export.h>
23 #include <linux/topology.h>
24 #include <linux/mm.h>
25 #include <linux/fs.h>
26 #include <linux/capability.h>
27 #include <linux/security.h>
28 #include <linux/pci-aspm.h>
29 #include <linux/slab.h>
30 #include <linux/vgaarb.h>
31 #include <linux/pm_runtime.h>
32 #include <linux/of.h>
33 #include "pci.h"
34
35 static int sysfs_initialized;   /* = 0 */
36
37 /* show configuration fields */
38 #define pci_config_attr(field, format_string)                           \
39 static ssize_t                                                          \
40 field##_show(struct device *dev, struct device_attribute *attr, char *buf)                              \
41 {                                                                       \
42         struct pci_dev *pdev;                                           \
43                                                                         \
44         pdev = to_pci_dev(dev);                                         \
45         return sprintf(buf, format_string, pdev->field);                \
46 }                                                                       \
47 static DEVICE_ATTR_RO(field)
48
49 pci_config_attr(vendor, "0x%04x\n");
50 pci_config_attr(device, "0x%04x\n");
51 pci_config_attr(subsystem_vendor, "0x%04x\n");
52 pci_config_attr(subsystem_device, "0x%04x\n");
53 pci_config_attr(class, "0x%06x\n");
54 pci_config_attr(irq, "%u\n");
55
56 static ssize_t broken_parity_status_show(struct device *dev,
57                                          struct device_attribute *attr,
58                                          char *buf)
59 {
60         struct pci_dev *pdev = to_pci_dev(dev);
61         return sprintf(buf, "%u\n", pdev->broken_parity_status);
62 }
63
64 static ssize_t broken_parity_status_store(struct device *dev,
65                                           struct device_attribute *attr,
66                                           const char *buf, size_t count)
67 {
68         struct pci_dev *pdev = to_pci_dev(dev);
69         unsigned long val;
70
71         if (kstrtoul(buf, 0, &val) < 0)
72                 return -EINVAL;
73
74         pdev->broken_parity_status = !!val;
75
76         return count;
77 }
78 static DEVICE_ATTR_RW(broken_parity_status);
79
80 static ssize_t pci_dev_show_local_cpu(struct device *dev, int type,
81                                       struct device_attribute *attr, char *buf)
82 {
83         const struct cpumask *mask;
84         int len;
85
86 #ifdef CONFIG_NUMA
87         mask = (dev_to_node(dev) == -1) ? cpu_online_mask :
88                                           cpumask_of_node(dev_to_node(dev));
89 #else
90         mask = cpumask_of_pcibus(to_pci_dev(dev)->bus);
91 #endif
92         len = type ?
93                 cpumask_scnprintf(buf, PAGE_SIZE-2, mask) :
94                 cpulist_scnprintf(buf, PAGE_SIZE-2, mask);
95
96         buf[len++] = '\n';
97         buf[len] = '\0';
98         return len;
99 }
100
101 static ssize_t local_cpus_show(struct device *dev,
102                                struct device_attribute *attr, char *buf)
103 {
104         return pci_dev_show_local_cpu(dev, 1, attr, buf);
105 }
106 static DEVICE_ATTR_RO(local_cpus);
107
108 static ssize_t local_cpulist_show(struct device *dev,
109                                   struct device_attribute *attr, char *buf)
110 {
111         return pci_dev_show_local_cpu(dev, 0, attr, buf);
112 }
113 static DEVICE_ATTR_RO(local_cpulist);
114
115 /*
116  * PCI Bus Class Devices
117  */
118 static ssize_t pci_bus_show_cpuaffinity(struct device *dev, int type,
119                                         struct device_attribute *attr,
120                                         char *buf)
121 {
122         int ret;
123         const struct cpumask *cpumask;
124
125         cpumask = cpumask_of_pcibus(to_pci_bus(dev));
126         ret = type ?
127                 cpulist_scnprintf(buf, PAGE_SIZE-2, cpumask) :
128                 cpumask_scnprintf(buf, PAGE_SIZE-2, cpumask);
129         buf[ret++] = '\n';
130         buf[ret] = '\0';
131         return ret;
132 }
133
134 static ssize_t cpuaffinity_show(struct device *dev,
135                                 struct device_attribute *attr, char *buf)
136 {
137         return pci_bus_show_cpuaffinity(dev, 0, attr, buf);
138 }
139 static DEVICE_ATTR_RO(cpuaffinity);
140
141 static ssize_t cpulistaffinity_show(struct device *dev,
142                                     struct device_attribute *attr, char *buf)
143 {
144         return pci_bus_show_cpuaffinity(dev, 1, attr, buf);
145 }
146 static DEVICE_ATTR_RO(cpulistaffinity);
147
148 /* show resources */
149 static ssize_t resource_show(struct device *dev, struct device_attribute *attr,
150                              char *buf)
151 {
152         struct pci_dev *pci_dev = to_pci_dev(dev);
153         char *str = buf;
154         int i;
155         int max;
156         resource_size_t start, end;
157
158         if (pci_dev->subordinate)
159                 max = DEVICE_COUNT_RESOURCE;
160         else
161                 max = PCI_BRIDGE_RESOURCES;
162
163         for (i = 0; i < max; i++) {
164                 struct resource *res =  &pci_dev->resource[i];
165                 pci_resource_to_user(pci_dev, i, res, &start, &end);
166                 str += sprintf(str, "0x%016llx 0x%016llx 0x%016llx\n",
167                                (unsigned long long)start,
168                                (unsigned long long)end,
169                                (unsigned long long)res->flags);
170         }
171         return (str - buf);
172 }
173 static DEVICE_ATTR_RO(resource);
174
175 static ssize_t modalias_show(struct device *dev, struct device_attribute *attr,
176                              char *buf)
177 {
178         struct pci_dev *pci_dev = to_pci_dev(dev);
179
180         return sprintf(buf, "pci:v%08Xd%08Xsv%08Xsd%08Xbc%02Xsc%02Xi%02x\n",
181                        pci_dev->vendor, pci_dev->device,
182                        pci_dev->subsystem_vendor, pci_dev->subsystem_device,
183                        (u8)(pci_dev->class >> 16), (u8)(pci_dev->class >> 8),
184                        (u8)(pci_dev->class));
185 }
186 static DEVICE_ATTR_RO(modalias);
187
188 static ssize_t enabled_store(struct device *dev, struct device_attribute *attr,
189                              const char *buf, size_t count)
190 {
191         struct pci_dev *pdev = to_pci_dev(dev);
192         unsigned long val;
193         ssize_t result = kstrtoul(buf, 0, &val);
194
195         if (result < 0)
196                 return result;
197
198         /* this can crash the machine when done on the "wrong" device */
199         if (!capable(CAP_SYS_ADMIN))
200                 return -EPERM;
201
202         if (!val) {
203                 if (pci_is_enabled(pdev))
204                         pci_disable_device(pdev);
205                 else
206                         result = -EIO;
207         } else
208                 result = pci_enable_device(pdev);
209
210         return result < 0 ? result : count;
211 }
212
213 static ssize_t enabled_show(struct device *dev, struct device_attribute *attr,
214                             char *buf)
215 {
216         struct pci_dev *pdev;
217
218         pdev = to_pci_dev(dev);
219         return sprintf(buf, "%u\n", atomic_read(&pdev->enable_cnt));
220 }
221 static DEVICE_ATTR_RW(enabled);
222
223 #ifdef CONFIG_NUMA
224 static ssize_t numa_node_show(struct device *dev, struct device_attribute *attr,
225                               char *buf)
226 {
227         return sprintf(buf, "%d\n", dev->numa_node);
228 }
229 static DEVICE_ATTR_RO(numa_node);
230 #endif
231
232 static ssize_t dma_mask_bits_show(struct device *dev,
233                                   struct device_attribute *attr, char *buf)
234 {
235         struct pci_dev *pdev = to_pci_dev(dev);
236
237         return sprintf(buf, "%d\n", fls64(pdev->dma_mask));
238 }
239 static DEVICE_ATTR_RO(dma_mask_bits);
240
241 static ssize_t consistent_dma_mask_bits_show(struct device *dev,
242                                              struct device_attribute *attr,
243                                              char *buf)
244 {
245         return sprintf(buf, "%d\n", fls64(dev->coherent_dma_mask));
246 }
247 static DEVICE_ATTR_RO(consistent_dma_mask_bits);
248
249 static ssize_t msi_bus_show(struct device *dev, struct device_attribute *attr,
250                             char *buf)
251 {
252         struct pci_dev *pdev = to_pci_dev(dev);
253
254         if (!pdev->subordinate)
255                 return 0;
256
257         return sprintf(buf, "%u\n",
258                        !(pdev->subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI));
259 }
260
261 static ssize_t msi_bus_store(struct device *dev, struct device_attribute *attr,
262                              const char *buf, size_t count)
263 {
264         struct pci_dev *pdev = to_pci_dev(dev);
265         unsigned long val;
266
267         if (kstrtoul(buf, 0, &val) < 0)
268                 return -EINVAL;
269
270         /*
271          * Bad things may happen if the no_msi flag is changed
272          * while drivers are loaded.
273          */
274         if (!capable(CAP_SYS_ADMIN))
275                 return -EPERM;
276
277         /*
278          * Maybe devices without subordinate buses shouldn't have this
279          * attribute in the first place?
280          */
281         if (!pdev->subordinate)
282                 return count;
283
284         /* Is the flag going to change, or keep the value it already had? */
285         if (!(pdev->subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI) ^
286             !!val) {
287                 pdev->subordinate->bus_flags ^= PCI_BUS_FLAGS_NO_MSI;
288
289                 dev_warn(&pdev->dev, "forced subordinate bus to%s support MSI, bad things could happen\n",
290                          val ? "" : " not");
291         }
292
293         return count;
294 }
295 static DEVICE_ATTR_RW(msi_bus);
296
297 static ssize_t bus_rescan_store(struct bus_type *bus, const char *buf,
298                                 size_t count)
299 {
300         unsigned long val;
301         struct pci_bus *b = NULL;
302
303         if (kstrtoul(buf, 0, &val) < 0)
304                 return -EINVAL;
305
306         if (val) {
307                 pci_lock_rescan_remove();
308                 while ((b = pci_find_next_bus(b)) != NULL)
309                         pci_rescan_bus(b);
310                 pci_unlock_rescan_remove();
311         }
312         return count;
313 }
314 static BUS_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, bus_rescan_store);
315
316 static struct attribute *pci_bus_attrs[] = {
317         &bus_attr_rescan.attr,
318         NULL,
319 };
320
321 static const struct attribute_group pci_bus_group = {
322         .attrs = pci_bus_attrs,
323 };
324
325 const struct attribute_group *pci_bus_groups[] = {
326         &pci_bus_group,
327         NULL,
328 };
329
330 static ssize_t dev_rescan_store(struct device *dev,
331                                 struct device_attribute *attr, const char *buf,
332                                 size_t count)
333 {
334         unsigned long val;
335         struct pci_dev *pdev = to_pci_dev(dev);
336
337         if (kstrtoul(buf, 0, &val) < 0)
338                 return -EINVAL;
339
340         if (val) {
341                 pci_lock_rescan_remove();
342                 pci_rescan_bus(pdev->bus);
343                 pci_unlock_rescan_remove();
344         }
345         return count;
346 }
347 static struct device_attribute dev_rescan_attr = __ATTR(rescan,
348                                                         (S_IWUSR|S_IWGRP),
349                                                         NULL, dev_rescan_store);
350
351 static ssize_t remove_store(struct device *dev, struct device_attribute *attr,
352                             const char *buf, size_t count)
353 {
354         unsigned long val;
355
356         if (kstrtoul(buf, 0, &val) < 0)
357                 return -EINVAL;
358
359         if (val && device_remove_file_self(dev, attr))
360                 pci_stop_and_remove_bus_device_locked(to_pci_dev(dev));
361         return count;
362 }
363 static struct device_attribute dev_remove_attr = __ATTR(remove,
364                                                         (S_IWUSR|S_IWGRP),
365                                                         NULL, remove_store);
366
367 static ssize_t dev_bus_rescan_store(struct device *dev,
368                                     struct device_attribute *attr,
369                                     const char *buf, size_t count)
370 {
371         unsigned long val;
372         struct pci_bus *bus = to_pci_bus(dev);
373
374         if (kstrtoul(buf, 0, &val) < 0)
375                 return -EINVAL;
376
377         if (val) {
378                 pci_lock_rescan_remove();
379                 if (!pci_is_root_bus(bus) && list_empty(&bus->devices))
380                         pci_rescan_bus_bridge_resize(bus->self);
381                 else
382                         pci_rescan_bus(bus);
383                 pci_unlock_rescan_remove();
384         }
385         return count;
386 }
387 static DEVICE_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, dev_bus_rescan_store);
388
389 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
390 static ssize_t d3cold_allowed_store(struct device *dev,
391                                     struct device_attribute *attr,
392                                     const char *buf, size_t count)
393 {
394         struct pci_dev *pdev = to_pci_dev(dev);
395         unsigned long val;
396
397         if (kstrtoul(buf, 0, &val) < 0)
398                 return -EINVAL;
399
400         pdev->d3cold_allowed = !!val;
401         pm_runtime_resume(dev);
402
403         return count;
404 }
405
406 static ssize_t d3cold_allowed_show(struct device *dev,
407                                    struct device_attribute *attr, char *buf)
408 {
409         struct pci_dev *pdev = to_pci_dev(dev);
410         return sprintf(buf, "%u\n", pdev->d3cold_allowed);
411 }
412 static DEVICE_ATTR_RW(d3cold_allowed);
413 #endif
414
415 #ifdef CONFIG_OF
416 static ssize_t devspec_show(struct device *dev,
417                             struct device_attribute *attr, char *buf)
418 {
419         struct pci_dev *pdev = to_pci_dev(dev);
420         struct device_node *np = pci_device_to_OF_node(pdev);
421
422         if (np == NULL || np->full_name == NULL)
423                 return 0;
424         return sprintf(buf, "%s", np->full_name);
425 }
426 static DEVICE_ATTR_RO(devspec);
427 #endif
428
429 #ifdef CONFIG_PCI_IOV
430 static ssize_t sriov_totalvfs_show(struct device *dev,
431                                    struct device_attribute *attr,
432                                    char *buf)
433 {
434         struct pci_dev *pdev = to_pci_dev(dev);
435
436         return sprintf(buf, "%u\n", pci_sriov_get_totalvfs(pdev));
437 }
438
439
440 static ssize_t sriov_numvfs_show(struct device *dev,
441                                  struct device_attribute *attr,
442                                  char *buf)
443 {
444         struct pci_dev *pdev = to_pci_dev(dev);
445
446         return sprintf(buf, "%u\n", pdev->sriov->num_VFs);
447 }
448
449 /*
450  * num_vfs > 0; number of VFs to enable
451  * num_vfs = 0; disable all VFs
452  *
453  * Note: SRIOV spec doesn't allow partial VF
454  *       disable, so it's all or none.
455  */
456 static ssize_t sriov_numvfs_store(struct device *dev,
457                                   struct device_attribute *attr,
458                                   const char *buf, size_t count)
459 {
460         struct pci_dev *pdev = to_pci_dev(dev);
461         int ret;
462         u16 num_vfs;
463
464         ret = kstrtou16(buf, 0, &num_vfs);
465         if (ret < 0)
466                 return ret;
467
468         if (num_vfs > pci_sriov_get_totalvfs(pdev))
469                 return -ERANGE;
470
471         if (num_vfs == pdev->sriov->num_VFs)
472                 return count;           /* no change */
473
474         /* is PF driver loaded w/callback */
475         if (!pdev->driver || !pdev->driver->sriov_configure) {
476                 dev_info(&pdev->dev, "Driver doesn't support SRIOV configuration via sysfs\n");
477                 return -ENOSYS;
478         }
479
480         if (num_vfs == 0) {
481                 /* disable VFs */
482                 ret = pdev->driver->sriov_configure(pdev, 0);
483                 if (ret < 0)
484                         return ret;
485                 return count;
486         }
487
488         /* enable VFs */
489         if (pdev->sriov->num_VFs) {
490                 dev_warn(&pdev->dev, "%d VFs already enabled. Disable before enabling %d VFs\n",
491                          pdev->sriov->num_VFs, num_vfs);
492                 return -EBUSY;
493         }
494
495         ret = pdev->driver->sriov_configure(pdev, num_vfs);
496         if (ret < 0)
497                 return ret;
498
499         if (ret != num_vfs)
500                 dev_warn(&pdev->dev, "%d VFs requested; only %d enabled\n",
501                          num_vfs, ret);
502
503         return count;
504 }
505
506 static struct device_attribute sriov_totalvfs_attr = __ATTR_RO(sriov_totalvfs);
507 static struct device_attribute sriov_numvfs_attr =
508                 __ATTR(sriov_numvfs, (S_IRUGO|S_IWUSR|S_IWGRP),
509                        sriov_numvfs_show, sriov_numvfs_store);
510 #endif /* CONFIG_PCI_IOV */
511
512 static ssize_t driver_override_store(struct device *dev,
513                                      struct device_attribute *attr,
514                                      const char *buf, size_t count)
515 {
516         struct pci_dev *pdev = to_pci_dev(dev);
517         char *driver_override, *old = pdev->driver_override, *cp;
518
519         if (count > PATH_MAX)
520                 return -EINVAL;
521
522         driver_override = kstrndup(buf, count, GFP_KERNEL);
523         if (!driver_override)
524                 return -ENOMEM;
525
526         cp = strchr(driver_override, '\n');
527         if (cp)
528                 *cp = '\0';
529
530         if (strlen(driver_override)) {
531                 pdev->driver_override = driver_override;
532         } else {
533                 kfree(driver_override);
534                 pdev->driver_override = NULL;
535         }
536
537         kfree(old);
538
539         return count;
540 }
541
542 static ssize_t driver_override_show(struct device *dev,
543                                     struct device_attribute *attr, char *buf)
544 {
545         struct pci_dev *pdev = to_pci_dev(dev);
546
547         return sprintf(buf, "%s\n", pdev->driver_override);
548 }
549 static DEVICE_ATTR_RW(driver_override);
550
551 static struct attribute *pci_dev_attrs[] = {
552         &dev_attr_resource.attr,
553         &dev_attr_vendor.attr,
554         &dev_attr_device.attr,
555         &dev_attr_subsystem_vendor.attr,
556         &dev_attr_subsystem_device.attr,
557         &dev_attr_class.attr,
558         &dev_attr_irq.attr,
559         &dev_attr_local_cpus.attr,
560         &dev_attr_local_cpulist.attr,
561         &dev_attr_modalias.attr,
562 #ifdef CONFIG_NUMA
563         &dev_attr_numa_node.attr,
564 #endif
565         &dev_attr_dma_mask_bits.attr,
566         &dev_attr_consistent_dma_mask_bits.attr,
567         &dev_attr_enabled.attr,
568         &dev_attr_broken_parity_status.attr,
569         &dev_attr_msi_bus.attr,
570 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
571         &dev_attr_d3cold_allowed.attr,
572 #endif
573 #ifdef CONFIG_OF
574         &dev_attr_devspec.attr,
575 #endif
576         &dev_attr_driver_override.attr,
577         NULL,
578 };
579
580 static const struct attribute_group pci_dev_group = {
581         .attrs = pci_dev_attrs,
582 };
583
584 const struct attribute_group *pci_dev_groups[] = {
585         &pci_dev_group,
586         NULL,
587 };
588
589 static struct attribute *pcibus_attrs[] = {
590         &dev_attr_rescan.attr,
591         &dev_attr_cpuaffinity.attr,
592         &dev_attr_cpulistaffinity.attr,
593         NULL,
594 };
595
596 static const struct attribute_group pcibus_group = {
597         .attrs = pcibus_attrs,
598 };
599
600 const struct attribute_group *pcibus_groups[] = {
601         &pcibus_group,
602         NULL,
603 };
604
605 static ssize_t boot_vga_show(struct device *dev, struct device_attribute *attr,
606                              char *buf)
607 {
608         struct pci_dev *pdev = to_pci_dev(dev);
609         struct pci_dev *vga_dev = vga_default_device();
610
611         if (vga_dev)
612                 return sprintf(buf, "%u\n", (pdev == vga_dev));
613
614         return sprintf(buf, "%u\n",
615                 !!(pdev->resource[PCI_ROM_RESOURCE].flags &
616                    IORESOURCE_ROM_SHADOW));
617 }
618 static struct device_attribute vga_attr = __ATTR_RO(boot_vga);
619
620 static ssize_t pci_read_config(struct file *filp, struct kobject *kobj,
621                                struct bin_attribute *bin_attr, char *buf,
622                                loff_t off, size_t count)
623 {
624         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
625                                                       kobj));
626         unsigned int size = 64;
627         loff_t init_off = off;
628         u8 *data = (u8 *) buf;
629
630         /* Several chips lock up trying to read undefined config space */
631         if (security_capable(filp->f_cred, &init_user_ns, CAP_SYS_ADMIN) == 0)
632                 size = dev->cfg_size;
633         else if (dev->hdr_type == PCI_HEADER_TYPE_CARDBUS)
634                 size = 128;
635
636         if (off > size)
637                 return 0;
638         if (off + count > size) {
639                 size -= off;
640                 count = size;
641         } else {
642                 size = count;
643         }
644
645         pci_config_pm_runtime_get(dev);
646
647         if ((off & 1) && size) {
648                 u8 val;
649                 pci_user_read_config_byte(dev, off, &val);
650                 data[off - init_off] = val;
651                 off++;
652                 size--;
653         }
654
655         if ((off & 3) && size > 2) {
656                 u16 val;
657                 pci_user_read_config_word(dev, off, &val);
658                 data[off - init_off] = val & 0xff;
659                 data[off - init_off + 1] = (val >> 8) & 0xff;
660                 off += 2;
661                 size -= 2;
662         }
663
664         while (size > 3) {
665                 u32 val;
666                 pci_user_read_config_dword(dev, off, &val);
667                 data[off - init_off] = val & 0xff;
668                 data[off - init_off + 1] = (val >> 8) & 0xff;
669                 data[off - init_off + 2] = (val >> 16) & 0xff;
670                 data[off - init_off + 3] = (val >> 24) & 0xff;
671                 off += 4;
672                 size -= 4;
673         }
674
675         if (size >= 2) {
676                 u16 val;
677                 pci_user_read_config_word(dev, off, &val);
678                 data[off - init_off] = val & 0xff;
679                 data[off - init_off + 1] = (val >> 8) & 0xff;
680                 off += 2;
681                 size -= 2;
682         }
683
684         if (size > 0) {
685                 u8 val;
686                 pci_user_read_config_byte(dev, off, &val);
687                 data[off - init_off] = val;
688                 off++;
689                 --size;
690         }
691
692         pci_config_pm_runtime_put(dev);
693
694         return count;
695 }
696
697 static ssize_t pci_write_config(struct file *filp, struct kobject *kobj,
698                                 struct bin_attribute *bin_attr, char *buf,
699                                 loff_t off, size_t count)
700 {
701         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
702                                                       kobj));
703         unsigned int size = count;
704         loff_t init_off = off;
705         u8 *data = (u8 *) buf;
706
707         if (off > dev->cfg_size)
708                 return 0;
709         if (off + count > dev->cfg_size) {
710                 size = dev->cfg_size - off;
711                 count = size;
712         }
713
714         pci_config_pm_runtime_get(dev);
715
716         if ((off & 1) && size) {
717                 pci_user_write_config_byte(dev, off, data[off - init_off]);
718                 off++;
719                 size--;
720         }
721
722         if ((off & 3) && size > 2) {
723                 u16 val = data[off - init_off];
724                 val |= (u16) data[off - init_off + 1] << 8;
725                 pci_user_write_config_word(dev, off, val);
726                 off += 2;
727                 size -= 2;
728         }
729
730         while (size > 3) {
731                 u32 val = data[off - init_off];
732                 val |= (u32) data[off - init_off + 1] << 8;
733                 val |= (u32) data[off - init_off + 2] << 16;
734                 val |= (u32) data[off - init_off + 3] << 24;
735                 pci_user_write_config_dword(dev, off, val);
736                 off += 4;
737                 size -= 4;
738         }
739
740         if (size >= 2) {
741                 u16 val = data[off - init_off];
742                 val |= (u16) data[off - init_off + 1] << 8;
743                 pci_user_write_config_word(dev, off, val);
744                 off += 2;
745                 size -= 2;
746         }
747
748         if (size) {
749                 pci_user_write_config_byte(dev, off, data[off - init_off]);
750                 off++;
751                 --size;
752         }
753
754         pci_config_pm_runtime_put(dev);
755
756         return count;
757 }
758
759 static ssize_t read_vpd_attr(struct file *filp, struct kobject *kobj,
760                              struct bin_attribute *bin_attr, char *buf,
761                              loff_t off, size_t count)
762 {
763         struct pci_dev *dev =
764                 to_pci_dev(container_of(kobj, struct device, kobj));
765
766         if (off > bin_attr->size)
767                 count = 0;
768         else if (count > bin_attr->size - off)
769                 count = bin_attr->size - off;
770
771         return pci_read_vpd(dev, off, count, buf);
772 }
773
774 static ssize_t write_vpd_attr(struct file *filp, struct kobject *kobj,
775                               struct bin_attribute *bin_attr, char *buf,
776                               loff_t off, size_t count)
777 {
778         struct pci_dev *dev =
779                 to_pci_dev(container_of(kobj, struct device, kobj));
780
781         if (off > bin_attr->size)
782                 count = 0;
783         else if (count > bin_attr->size - off)
784                 count = bin_attr->size - off;
785
786         return pci_write_vpd(dev, off, count, buf);
787 }
788
789 #ifdef HAVE_PCI_LEGACY
790 /**
791  * pci_read_legacy_io - read byte(s) from legacy I/O port space
792  * @filp: open sysfs file
793  * @kobj: kobject corresponding to file to read from
794  * @bin_attr: struct bin_attribute for this file
795  * @buf: buffer to store results
796  * @off: offset into legacy I/O port space
797  * @count: number of bytes to read
798  *
799  * Reads 1, 2, or 4 bytes from legacy I/O port space using an arch specific
800  * callback routine (pci_legacy_read).
801  */
802 static ssize_t pci_read_legacy_io(struct file *filp, struct kobject *kobj,
803                                   struct bin_attribute *bin_attr, char *buf,
804                                   loff_t off, size_t count)
805 {
806         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
807                                                       kobj));
808
809         /* Only support 1, 2 or 4 byte accesses */
810         if (count != 1 && count != 2 && count != 4)
811                 return -EINVAL;
812
813         return pci_legacy_read(bus, off, (u32 *)buf, count);
814 }
815
816 /**
817  * pci_write_legacy_io - write byte(s) to legacy I/O port space
818  * @filp: open sysfs file
819  * @kobj: kobject corresponding to file to read from
820  * @bin_attr: struct bin_attribute for this file
821  * @buf: buffer containing value to be written
822  * @off: offset into legacy I/O port space
823  * @count: number of bytes to write
824  *
825  * Writes 1, 2, or 4 bytes from legacy I/O port space using an arch specific
826  * callback routine (pci_legacy_write).
827  */
828 static ssize_t pci_write_legacy_io(struct file *filp, struct kobject *kobj,
829                                    struct bin_attribute *bin_attr, char *buf,
830                                    loff_t off, size_t count)
831 {
832         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
833                                                       kobj));
834
835         /* Only support 1, 2 or 4 byte accesses */
836         if (count != 1 && count != 2 && count != 4)
837                 return -EINVAL;
838
839         return pci_legacy_write(bus, off, *(u32 *)buf, count);
840 }
841
842 /**
843  * pci_mmap_legacy_mem - map legacy PCI memory into user memory space
844  * @filp: open sysfs file
845  * @kobj: kobject corresponding to device to be mapped
846  * @attr: struct bin_attribute for this file
847  * @vma: struct vm_area_struct passed to mmap
848  *
849  * Uses an arch specific callback, pci_mmap_legacy_mem_page_range, to mmap
850  * legacy memory space (first meg of bus space) into application virtual
851  * memory space.
852  */
853 static int pci_mmap_legacy_mem(struct file *filp, struct kobject *kobj,
854                                struct bin_attribute *attr,
855                                struct vm_area_struct *vma)
856 {
857         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
858                                                       kobj));
859
860         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_mem);
861 }
862
863 /**
864  * pci_mmap_legacy_io - map legacy PCI IO into user memory space
865  * @filp: open sysfs file
866  * @kobj: kobject corresponding to device to be mapped
867  * @attr: struct bin_attribute for this file
868  * @vma: struct vm_area_struct passed to mmap
869  *
870  * Uses an arch specific callback, pci_mmap_legacy_io_page_range, to mmap
871  * legacy IO space (first meg of bus space) into application virtual
872  * memory space. Returns -ENOSYS if the operation isn't supported
873  */
874 static int pci_mmap_legacy_io(struct file *filp, struct kobject *kobj,
875                               struct bin_attribute *attr,
876                               struct vm_area_struct *vma)
877 {
878         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
879                                                       kobj));
880
881         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_io);
882 }
883
884 /**
885  * pci_adjust_legacy_attr - adjustment of legacy file attributes
886  * @b: bus to create files under
887  * @mmap_type: I/O port or memory
888  *
889  * Stub implementation. Can be overridden by arch if necessary.
890  */
891 void __weak pci_adjust_legacy_attr(struct pci_bus *b,
892                                    enum pci_mmap_state mmap_type)
893 {
894 }
895
896 /**
897  * pci_create_legacy_files - create legacy I/O port and memory files
898  * @b: bus to create files under
899  *
900  * Some platforms allow access to legacy I/O port and ISA memory space on
901  * a per-bus basis.  This routine creates the files and ties them into
902  * their associated read, write and mmap files from pci-sysfs.c
903  *
904  * On error unwind, but don't propagate the error to the caller
905  * as it is ok to set up the PCI bus without these files.
906  */
907 void pci_create_legacy_files(struct pci_bus *b)
908 {
909         int error;
910
911         b->legacy_io = kzalloc(sizeof(struct bin_attribute) * 2,
912                                GFP_ATOMIC);
913         if (!b->legacy_io)
914                 goto kzalloc_err;
915
916         sysfs_bin_attr_init(b->legacy_io);
917         b->legacy_io->attr.name = "legacy_io";
918         b->legacy_io->size = 0xffff;
919         b->legacy_io->attr.mode = S_IRUSR | S_IWUSR;
920         b->legacy_io->read = pci_read_legacy_io;
921         b->legacy_io->write = pci_write_legacy_io;
922         b->legacy_io->mmap = pci_mmap_legacy_io;
923         pci_adjust_legacy_attr(b, pci_mmap_io);
924         error = device_create_bin_file(&b->dev, b->legacy_io);
925         if (error)
926                 goto legacy_io_err;
927
928         /* Allocated above after the legacy_io struct */
929         b->legacy_mem = b->legacy_io + 1;
930         sysfs_bin_attr_init(b->legacy_mem);
931         b->legacy_mem->attr.name = "legacy_mem";
932         b->legacy_mem->size = 1024*1024;
933         b->legacy_mem->attr.mode = S_IRUSR | S_IWUSR;
934         b->legacy_mem->mmap = pci_mmap_legacy_mem;
935         pci_adjust_legacy_attr(b, pci_mmap_mem);
936         error = device_create_bin_file(&b->dev, b->legacy_mem);
937         if (error)
938                 goto legacy_mem_err;
939
940         return;
941
942 legacy_mem_err:
943         device_remove_bin_file(&b->dev, b->legacy_io);
944 legacy_io_err:
945         kfree(b->legacy_io);
946         b->legacy_io = NULL;
947 kzalloc_err:
948         printk(KERN_WARNING "pci: warning: could not create legacy I/O port and ISA memory resources to sysfs\n");
949         return;
950 }
951
952 void pci_remove_legacy_files(struct pci_bus *b)
953 {
954         if (b->legacy_io) {
955                 device_remove_bin_file(&b->dev, b->legacy_io);
956                 device_remove_bin_file(&b->dev, b->legacy_mem);
957                 kfree(b->legacy_io); /* both are allocated here */
958         }
959 }
960 #endif /* HAVE_PCI_LEGACY */
961
962 #ifdef HAVE_PCI_MMAP
963
964 int pci_mmap_fits(struct pci_dev *pdev, int resno, struct vm_area_struct *vma,
965                   enum pci_mmap_api mmap_api)
966 {
967         unsigned long nr, start, size, pci_start;
968
969         if (pci_resource_len(pdev, resno) == 0)
970                 return 0;
971         nr = vma_pages(vma);
972         start = vma->vm_pgoff;
973         size = ((pci_resource_len(pdev, resno) - 1) >> PAGE_SHIFT) + 1;
974         pci_start = (mmap_api == PCI_MMAP_PROCFS) ?
975                         pci_resource_start(pdev, resno) >> PAGE_SHIFT : 0;
976         if (start >= pci_start && start < pci_start + size &&
977                         start + nr <= pci_start + size)
978                 return 1;
979         return 0;
980 }
981
982 /**
983  * pci_mmap_resource - map a PCI resource into user memory space
984  * @kobj: kobject for mapping
985  * @attr: struct bin_attribute for the file being mapped
986  * @vma: struct vm_area_struct passed into the mmap
987  * @write_combine: 1 for write_combine mapping
988  *
989  * Use the regular PCI mapping routines to map a PCI resource into userspace.
990  */
991 static int pci_mmap_resource(struct kobject *kobj, struct bin_attribute *attr,
992                              struct vm_area_struct *vma, int write_combine)
993 {
994         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
995                                                        struct device, kobj));
996         struct resource *res = attr->private;
997         enum pci_mmap_state mmap_type;
998         resource_size_t start, end;
999         int i;
1000
1001         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1002                 if (res == &pdev->resource[i])
1003                         break;
1004         if (i >= PCI_ROM_RESOURCE)
1005                 return -ENODEV;
1006
1007         if (!pci_mmap_fits(pdev, i, vma, PCI_MMAP_SYSFS)) {
1008                 WARN(1, "process \"%s\" tried to map 0x%08lx bytes at page 0x%08lx on %s BAR %d (start 0x%16Lx, size 0x%16Lx)\n",
1009                         current->comm, vma->vm_end-vma->vm_start, vma->vm_pgoff,
1010                         pci_name(pdev), i,
1011                         (u64)pci_resource_start(pdev, i),
1012                         (u64)pci_resource_len(pdev, i));
1013                 return -EINVAL;
1014         }
1015
1016         /* pci_mmap_page_range() expects the same kind of entry as coming
1017          * from /proc/bus/pci/ which is a "user visible" value. If this is
1018          * different from the resource itself, arch will do necessary fixup.
1019          */
1020         pci_resource_to_user(pdev, i, res, &start, &end);
1021         vma->vm_pgoff += start >> PAGE_SHIFT;
1022         mmap_type = res->flags & IORESOURCE_MEM ? pci_mmap_mem : pci_mmap_io;
1023
1024         if (res->flags & IORESOURCE_MEM && iomem_is_exclusive(start))
1025                 return -EINVAL;
1026
1027         return pci_mmap_page_range(pdev, vma, mmap_type, write_combine);
1028 }
1029
1030 static int pci_mmap_resource_uc(struct file *filp, struct kobject *kobj,
1031                                 struct bin_attribute *attr,
1032                                 struct vm_area_struct *vma)
1033 {
1034         return pci_mmap_resource(kobj, attr, vma, 0);
1035 }
1036
1037 static int pci_mmap_resource_wc(struct file *filp, struct kobject *kobj,
1038                                 struct bin_attribute *attr,
1039                                 struct vm_area_struct *vma)
1040 {
1041         return pci_mmap_resource(kobj, attr, vma, 1);
1042 }
1043
1044 static ssize_t pci_resource_io(struct file *filp, struct kobject *kobj,
1045                                struct bin_attribute *attr, char *buf,
1046                                loff_t off, size_t count, bool write)
1047 {
1048         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1049                                                        struct device, kobj));
1050         struct resource *res = attr->private;
1051         unsigned long port = off;
1052         int i;
1053
1054         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1055                 if (res == &pdev->resource[i])
1056                         break;
1057         if (i >= PCI_ROM_RESOURCE)
1058                 return -ENODEV;
1059
1060         port += pci_resource_start(pdev, i);
1061
1062         if (port > pci_resource_end(pdev, i))
1063                 return 0;
1064
1065         if (port + count - 1 > pci_resource_end(pdev, i))
1066                 return -EINVAL;
1067
1068         switch (count) {
1069         case 1:
1070                 if (write)
1071                         outb(*(u8 *)buf, port);
1072                 else
1073                         *(u8 *)buf = inb(port);
1074                 return 1;
1075         case 2:
1076                 if (write)
1077                         outw(*(u16 *)buf, port);
1078                 else
1079                         *(u16 *)buf = inw(port);
1080                 return 2;
1081         case 4:
1082                 if (write)
1083                         outl(*(u32 *)buf, port);
1084                 else
1085                         *(u32 *)buf = inl(port);
1086                 return 4;
1087         }
1088         return -EINVAL;
1089 }
1090
1091 static ssize_t pci_read_resource_io(struct file *filp, struct kobject *kobj,
1092                                     struct bin_attribute *attr, char *buf,
1093                                     loff_t off, size_t count)
1094 {
1095         return pci_resource_io(filp, kobj, attr, buf, off, count, false);
1096 }
1097
1098 static ssize_t pci_write_resource_io(struct file *filp, struct kobject *kobj,
1099                                      struct bin_attribute *attr, char *buf,
1100                                      loff_t off, size_t count)
1101 {
1102         return pci_resource_io(filp, kobj, attr, buf, off, count, true);
1103 }
1104
1105 /**
1106  * pci_remove_resource_files - cleanup resource files
1107  * @pdev: dev to cleanup
1108  *
1109  * If we created resource files for @pdev, remove them from sysfs and
1110  * free their resources.
1111  */
1112 static void pci_remove_resource_files(struct pci_dev *pdev)
1113 {
1114         int i;
1115
1116         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1117                 struct bin_attribute *res_attr;
1118
1119                 res_attr = pdev->res_attr[i];
1120                 if (res_attr) {
1121                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1122                         kfree(res_attr);
1123                 }
1124
1125                 res_attr = pdev->res_attr_wc[i];
1126                 if (res_attr) {
1127                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1128                         kfree(res_attr);
1129                 }
1130         }
1131 }
1132
1133 static int pci_create_attr(struct pci_dev *pdev, int num, int write_combine)
1134 {
1135         /* allocate attribute structure, piggyback attribute name */
1136         int name_len = write_combine ? 13 : 10;
1137         struct bin_attribute *res_attr;
1138         int retval;
1139
1140         res_attr = kzalloc(sizeof(*res_attr) + name_len, GFP_ATOMIC);
1141         if (res_attr) {
1142                 char *res_attr_name = (char *)(res_attr + 1);
1143
1144                 sysfs_bin_attr_init(res_attr);
1145                 if (write_combine) {
1146                         pdev->res_attr_wc[num] = res_attr;
1147                         sprintf(res_attr_name, "resource%d_wc", num);
1148                         res_attr->mmap = pci_mmap_resource_wc;
1149                 } else {
1150                         pdev->res_attr[num] = res_attr;
1151                         sprintf(res_attr_name, "resource%d", num);
1152                         res_attr->mmap = pci_mmap_resource_uc;
1153                 }
1154                 if (pci_resource_flags(pdev, num) & IORESOURCE_IO) {
1155                         res_attr->read = pci_read_resource_io;
1156                         res_attr->write = pci_write_resource_io;
1157                 }
1158                 res_attr->attr.name = res_attr_name;
1159                 res_attr->attr.mode = S_IRUSR | S_IWUSR;
1160                 res_attr->size = pci_resource_len(pdev, num);
1161                 res_attr->private = &pdev->resource[num];
1162                 retval = sysfs_create_bin_file(&pdev->dev.kobj, res_attr);
1163         } else
1164                 retval = -ENOMEM;
1165
1166         return retval;
1167 }
1168
1169 /**
1170  * pci_create_resource_files - create resource files in sysfs for @dev
1171  * @pdev: dev in question
1172  *
1173  * Walk the resources in @pdev creating files for each resource available.
1174  */
1175 static int pci_create_resource_files(struct pci_dev *pdev)
1176 {
1177         int i;
1178         int retval;
1179
1180         /* Expose the PCI resources from this device as files */
1181         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1182
1183                 /* skip empty resources */
1184                 if (!pci_resource_len(pdev, i))
1185                         continue;
1186
1187                 retval = pci_create_attr(pdev, i, 0);
1188                 /* for prefetchable resources, create a WC mappable file */
1189                 if (!retval && pdev->resource[i].flags & IORESOURCE_PREFETCH)
1190                         retval = pci_create_attr(pdev, i, 1);
1191
1192                 if (retval) {
1193                         pci_remove_resource_files(pdev);
1194                         return retval;
1195                 }
1196         }
1197         return 0;
1198 }
1199 #else /* !HAVE_PCI_MMAP */
1200 int __weak pci_create_resource_files(struct pci_dev *dev) { return 0; }
1201 void __weak pci_remove_resource_files(struct pci_dev *dev) { return; }
1202 #endif /* HAVE_PCI_MMAP */
1203
1204 /**
1205  * pci_write_rom - used to enable access to the PCI ROM display
1206  * @filp: sysfs file
1207  * @kobj: kernel object handle
1208  * @bin_attr: struct bin_attribute for this file
1209  * @buf: user input
1210  * @off: file offset
1211  * @count: number of byte in input
1212  *
1213  * writing anything except 0 enables it
1214  */
1215 static ssize_t pci_write_rom(struct file *filp, struct kobject *kobj,
1216                              struct bin_attribute *bin_attr, char *buf,
1217                              loff_t off, size_t count)
1218 {
1219         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1220
1221         if ((off ==  0) && (*buf == '0') && (count == 2))
1222                 pdev->rom_attr_enabled = 0;
1223         else
1224                 pdev->rom_attr_enabled = 1;
1225
1226         return count;
1227 }
1228
1229 /**
1230  * pci_read_rom - read a PCI ROM
1231  * @filp: sysfs file
1232  * @kobj: kernel object handle
1233  * @bin_attr: struct bin_attribute for this file
1234  * @buf: where to put the data we read from the ROM
1235  * @off: file offset
1236  * @count: number of bytes to read
1237  *
1238  * Put @count bytes starting at @off into @buf from the ROM in the PCI
1239  * device corresponding to @kobj.
1240  */
1241 static ssize_t pci_read_rom(struct file *filp, struct kobject *kobj,
1242                             struct bin_attribute *bin_attr, char *buf,
1243                             loff_t off, size_t count)
1244 {
1245         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1246         void __iomem *rom;
1247         size_t size;
1248
1249         if (!pdev->rom_attr_enabled)
1250                 return -EINVAL;
1251
1252         rom = pci_map_rom(pdev, &size); /* size starts out as PCI window size */
1253         if (!rom || !size)
1254                 return -EIO;
1255
1256         if (off >= size)
1257                 count = 0;
1258         else {
1259                 if (off + count > size)
1260                         count = size - off;
1261
1262                 memcpy_fromio(buf, rom + off, count);
1263         }
1264         pci_unmap_rom(pdev, rom);
1265
1266         return count;
1267 }
1268
1269 static struct bin_attribute pci_config_attr = {
1270         .attr = {
1271                 .name = "config",
1272                 .mode = S_IRUGO | S_IWUSR,
1273         },
1274         .size = PCI_CFG_SPACE_SIZE,
1275         .read = pci_read_config,
1276         .write = pci_write_config,
1277 };
1278
1279 static struct bin_attribute pcie_config_attr = {
1280         .attr = {
1281                 .name = "config",
1282                 .mode = S_IRUGO | S_IWUSR,
1283         },
1284         .size = PCI_CFG_SPACE_EXP_SIZE,
1285         .read = pci_read_config,
1286         .write = pci_write_config,
1287 };
1288
1289 static ssize_t reset_store(struct device *dev, struct device_attribute *attr,
1290                            const char *buf, size_t count)
1291 {
1292         struct pci_dev *pdev = to_pci_dev(dev);
1293         unsigned long val;
1294         ssize_t result = kstrtoul(buf, 0, &val);
1295
1296         if (result < 0)
1297                 return result;
1298
1299         if (val != 1)
1300                 return -EINVAL;
1301
1302         result = pci_reset_function(pdev);
1303         if (result < 0)
1304                 return result;
1305
1306         return count;
1307 }
1308
1309 static struct device_attribute reset_attr = __ATTR(reset, 0200, NULL, reset_store);
1310
1311 static int pci_create_capabilities_sysfs(struct pci_dev *dev)
1312 {
1313         int retval;
1314         struct bin_attribute *attr;
1315
1316         /* If the device has VPD, try to expose it in sysfs. */
1317         if (dev->vpd) {
1318                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1319                 if (!attr)
1320                         return -ENOMEM;
1321
1322                 sysfs_bin_attr_init(attr);
1323                 attr->size = dev->vpd->len;
1324                 attr->attr.name = "vpd";
1325                 attr->attr.mode = S_IRUSR | S_IWUSR;
1326                 attr->read = read_vpd_attr;
1327                 attr->write = write_vpd_attr;
1328                 retval = sysfs_create_bin_file(&dev->dev.kobj, attr);
1329                 if (retval) {
1330                         kfree(attr);
1331                         return retval;
1332                 }
1333                 dev->vpd->attr = attr;
1334         }
1335
1336         /* Active State Power Management */
1337         pcie_aspm_create_sysfs_dev_files(dev);
1338
1339         if (!pci_probe_reset_function(dev)) {
1340                 retval = device_create_file(&dev->dev, &reset_attr);
1341                 if (retval)
1342                         goto error;
1343                 dev->reset_fn = 1;
1344         }
1345         return 0;
1346
1347 error:
1348         pcie_aspm_remove_sysfs_dev_files(dev);
1349         if (dev->vpd && dev->vpd->attr) {
1350                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1351                 kfree(dev->vpd->attr);
1352         }
1353
1354         return retval;
1355 }
1356
1357 int __must_check pci_create_sysfs_dev_files(struct pci_dev *pdev)
1358 {
1359         int retval;
1360         int rom_size = 0;
1361         struct bin_attribute *attr;
1362
1363         if (!sysfs_initialized)
1364                 return -EACCES;
1365
1366         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1367                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pci_config_attr);
1368         else
1369                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1370         if (retval)
1371                 goto err;
1372
1373         retval = pci_create_resource_files(pdev);
1374         if (retval)
1375                 goto err_config_file;
1376
1377         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1378                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1379         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1380                 rom_size = 0x20000;
1381
1382         /* If the device has a ROM, try to expose it in sysfs. */
1383         if (rom_size) {
1384                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1385                 if (!attr) {
1386                         retval = -ENOMEM;
1387                         goto err_resource_files;
1388                 }
1389                 sysfs_bin_attr_init(attr);
1390                 attr->size = rom_size;
1391                 attr->attr.name = "rom";
1392                 attr->attr.mode = S_IRUSR | S_IWUSR;
1393                 attr->read = pci_read_rom;
1394                 attr->write = pci_write_rom;
1395                 retval = sysfs_create_bin_file(&pdev->dev.kobj, attr);
1396                 if (retval) {
1397                         kfree(attr);
1398                         goto err_resource_files;
1399                 }
1400                 pdev->rom_attr = attr;
1401         }
1402
1403         /* add sysfs entries for various capabilities */
1404         retval = pci_create_capabilities_sysfs(pdev);
1405         if (retval)
1406                 goto err_rom_file;
1407
1408         pci_create_firmware_label_files(pdev);
1409
1410         return 0;
1411
1412 err_rom_file:
1413         if (rom_size) {
1414                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1415                 kfree(pdev->rom_attr);
1416                 pdev->rom_attr = NULL;
1417         }
1418 err_resource_files:
1419         pci_remove_resource_files(pdev);
1420 err_config_file:
1421         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1422                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1423         else
1424                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1425 err:
1426         return retval;
1427 }
1428
1429 static void pci_remove_capabilities_sysfs(struct pci_dev *dev)
1430 {
1431         if (dev->vpd && dev->vpd->attr) {
1432                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1433                 kfree(dev->vpd->attr);
1434         }
1435
1436         pcie_aspm_remove_sysfs_dev_files(dev);
1437         if (dev->reset_fn) {
1438                 device_remove_file(&dev->dev, &reset_attr);
1439                 dev->reset_fn = 0;
1440         }
1441 }
1442
1443 /**
1444  * pci_remove_sysfs_dev_files - cleanup PCI specific sysfs files
1445  * @pdev: device whose entries we should free
1446  *
1447  * Cleanup when @pdev is removed from sysfs.
1448  */
1449 void pci_remove_sysfs_dev_files(struct pci_dev *pdev)
1450 {
1451         int rom_size = 0;
1452
1453         if (!sysfs_initialized)
1454                 return;
1455
1456         pci_remove_capabilities_sysfs(pdev);
1457
1458         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1459                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1460         else
1461                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1462
1463         pci_remove_resource_files(pdev);
1464
1465         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1466                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1467         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1468                 rom_size = 0x20000;
1469
1470         if (rom_size && pdev->rom_attr) {
1471                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1472                 kfree(pdev->rom_attr);
1473         }
1474
1475         pci_remove_firmware_label_files(pdev);
1476
1477 }
1478
1479 static int __init pci_sysfs_init(void)
1480 {
1481         struct pci_dev *pdev = NULL;
1482         int retval;
1483
1484         sysfs_initialized = 1;
1485         for_each_pci_dev(pdev) {
1486                 retval = pci_create_sysfs_dev_files(pdev);
1487                 if (retval) {
1488                         pci_dev_put(pdev);
1489                         return retval;
1490                 }
1491         }
1492
1493         return 0;
1494 }
1495 late_initcall(pci_sysfs_init);
1496
1497 static struct attribute *pci_dev_dev_attrs[] = {
1498         &vga_attr.attr,
1499         NULL,
1500 };
1501
1502 static umode_t pci_dev_attrs_are_visible(struct kobject *kobj,
1503                                          struct attribute *a, int n)
1504 {
1505         struct device *dev = container_of(kobj, struct device, kobj);
1506         struct pci_dev *pdev = to_pci_dev(dev);
1507
1508         if (a == &vga_attr.attr)
1509                 if ((pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
1510                         return 0;
1511
1512         return a->mode;
1513 }
1514
1515 static struct attribute *pci_dev_hp_attrs[] = {
1516         &dev_remove_attr.attr,
1517         &dev_rescan_attr.attr,
1518         NULL,
1519 };
1520
1521 static umode_t pci_dev_hp_attrs_are_visible(struct kobject *kobj,
1522                                             struct attribute *a, int n)
1523 {
1524         struct device *dev = container_of(kobj, struct device, kobj);
1525         struct pci_dev *pdev = to_pci_dev(dev);
1526
1527         if (pdev->is_virtfn)
1528                 return 0;
1529
1530         return a->mode;
1531 }
1532
1533 static struct attribute_group pci_dev_hp_attr_group = {
1534         .attrs = pci_dev_hp_attrs,
1535         .is_visible = pci_dev_hp_attrs_are_visible,
1536 };
1537
1538 #ifdef CONFIG_PCI_IOV
1539 static struct attribute *sriov_dev_attrs[] = {
1540         &sriov_totalvfs_attr.attr,
1541         &sriov_numvfs_attr.attr,
1542         NULL,
1543 };
1544
1545 static umode_t sriov_attrs_are_visible(struct kobject *kobj,
1546                                        struct attribute *a, int n)
1547 {
1548         struct device *dev = container_of(kobj, struct device, kobj);
1549
1550         if (!dev_is_pf(dev))
1551                 return 0;
1552
1553         return a->mode;
1554 }
1555
1556 static struct attribute_group sriov_dev_attr_group = {
1557         .attrs = sriov_dev_attrs,
1558         .is_visible = sriov_attrs_are_visible,
1559 };
1560 #endif /* CONFIG_PCI_IOV */
1561
1562 static struct attribute_group pci_dev_attr_group = {
1563         .attrs = pci_dev_dev_attrs,
1564         .is_visible = pci_dev_attrs_are_visible,
1565 };
1566
1567 static const struct attribute_group *pci_dev_attr_groups[] = {
1568         &pci_dev_attr_group,
1569         &pci_dev_hp_attr_group,
1570 #ifdef CONFIG_PCI_IOV
1571         &sriov_dev_attr_group,
1572 #endif
1573         NULL,
1574 };
1575
1576 struct device_type pci_dev_type = {
1577         .groups = pci_dev_attr_groups,
1578 };