Merge tag 'for_linus' of git://git.kernel.org/pub/scm/linux/kernel/git/mst/vhost
[cascardo/linux.git] / drivers / pci / pci-sysfs.c
1 /*
2  * drivers/pci/pci-sysfs.c
3  *
4  * (C) Copyright 2002-2004 Greg Kroah-Hartman <greg@kroah.com>
5  * (C) Copyright 2002-2004 IBM Corp.
6  * (C) Copyright 2003 Matthew Wilcox
7  * (C) Copyright 2003 Hewlett-Packard
8  * (C) Copyright 2004 Jon Smirl <jonsmirl@yahoo.com>
9  * (C) Copyright 2004 Silicon Graphics, Inc. Jesse Barnes <jbarnes@sgi.com>
10  *
11  * File attributes for PCI devices
12  *
13  * Modeled after usb's driverfs.c
14  *
15  */
16
17
18 #include <linux/kernel.h>
19 #include <linux/sched.h>
20 #include <linux/pci.h>
21 #include <linux/stat.h>
22 #include <linux/export.h>
23 #include <linux/topology.h>
24 #include <linux/mm.h>
25 #include <linux/fs.h>
26 #include <linux/capability.h>
27 #include <linux/security.h>
28 #include <linux/pci-aspm.h>
29 #include <linux/slab.h>
30 #include <linux/vgaarb.h>
31 #include <linux/pm_runtime.h>
32 #include <linux/of.h>
33 #include "pci.h"
34
35 static int sysfs_initialized;   /* = 0 */
36
37 /* show configuration fields */
38 #define pci_config_attr(field, format_string)                           \
39 static ssize_t                                                          \
40 field##_show(struct device *dev, struct device_attribute *attr, char *buf)                              \
41 {                                                                       \
42         struct pci_dev *pdev;                                           \
43                                                                         \
44         pdev = to_pci_dev(dev);                                         \
45         return sprintf(buf, format_string, pdev->field);                \
46 }                                                                       \
47 static DEVICE_ATTR_RO(field)
48
49 pci_config_attr(vendor, "0x%04x\n");
50 pci_config_attr(device, "0x%04x\n");
51 pci_config_attr(subsystem_vendor, "0x%04x\n");
52 pci_config_attr(subsystem_device, "0x%04x\n");
53 pci_config_attr(class, "0x%06x\n");
54 pci_config_attr(irq, "%u\n");
55
56 static ssize_t broken_parity_status_show(struct device *dev,
57                                          struct device_attribute *attr,
58                                          char *buf)
59 {
60         struct pci_dev *pdev = to_pci_dev(dev);
61         return sprintf(buf, "%u\n", pdev->broken_parity_status);
62 }
63
64 static ssize_t broken_parity_status_store(struct device *dev,
65                                           struct device_attribute *attr,
66                                           const char *buf, size_t count)
67 {
68         struct pci_dev *pdev = to_pci_dev(dev);
69         unsigned long val;
70
71         if (kstrtoul(buf, 0, &val) < 0)
72                 return -EINVAL;
73
74         pdev->broken_parity_status = !!val;
75
76         return count;
77 }
78 static DEVICE_ATTR_RW(broken_parity_status);
79
80 static ssize_t pci_dev_show_local_cpu(struct device *dev, bool list,
81                                       struct device_attribute *attr, char *buf)
82 {
83         const struct cpumask *mask;
84
85 #ifdef CONFIG_NUMA
86         mask = (dev_to_node(dev) == -1) ? cpu_online_mask :
87                                           cpumask_of_node(dev_to_node(dev));
88 #else
89         mask = cpumask_of_pcibus(to_pci_dev(dev)->bus);
90 #endif
91         return cpumap_print_to_pagebuf(list, buf, mask);
92 }
93
94 static ssize_t local_cpus_show(struct device *dev,
95                                struct device_attribute *attr, char *buf)
96 {
97         return pci_dev_show_local_cpu(dev, false, attr, buf);
98 }
99 static DEVICE_ATTR_RO(local_cpus);
100
101 static ssize_t local_cpulist_show(struct device *dev,
102                                   struct device_attribute *attr, char *buf)
103 {
104         return pci_dev_show_local_cpu(dev, true, attr, buf);
105 }
106 static DEVICE_ATTR_RO(local_cpulist);
107
108 /*
109  * PCI Bus Class Devices
110  */
111 static ssize_t cpuaffinity_show(struct device *dev,
112                                 struct device_attribute *attr, char *buf)
113 {
114         const struct cpumask *cpumask = cpumask_of_pcibus(to_pci_bus(dev));
115
116         return cpumap_print_to_pagebuf(false, buf, cpumask);
117 }
118 static DEVICE_ATTR_RO(cpuaffinity);
119
120 static ssize_t cpulistaffinity_show(struct device *dev,
121                                     struct device_attribute *attr, char *buf)
122 {
123         const struct cpumask *cpumask = cpumask_of_pcibus(to_pci_bus(dev));
124
125         return cpumap_print_to_pagebuf(true, buf, cpumask);
126 }
127 static DEVICE_ATTR_RO(cpulistaffinity);
128
129 /* show resources */
130 static ssize_t resource_show(struct device *dev, struct device_attribute *attr,
131                              char *buf)
132 {
133         struct pci_dev *pci_dev = to_pci_dev(dev);
134         char *str = buf;
135         int i;
136         int max;
137         resource_size_t start, end;
138
139         if (pci_dev->subordinate)
140                 max = DEVICE_COUNT_RESOURCE;
141         else
142                 max = PCI_BRIDGE_RESOURCES;
143
144         for (i = 0; i < max; i++) {
145                 struct resource *res =  &pci_dev->resource[i];
146                 pci_resource_to_user(pci_dev, i, res, &start, &end);
147                 str += sprintf(str, "0x%016llx 0x%016llx 0x%016llx\n",
148                                (unsigned long long)start,
149                                (unsigned long long)end,
150                                (unsigned long long)res->flags);
151         }
152         return (str - buf);
153 }
154 static DEVICE_ATTR_RO(resource);
155
156 static ssize_t modalias_show(struct device *dev, struct device_attribute *attr,
157                              char *buf)
158 {
159         struct pci_dev *pci_dev = to_pci_dev(dev);
160
161         return sprintf(buf, "pci:v%08Xd%08Xsv%08Xsd%08Xbc%02Xsc%02Xi%02X\n",
162                        pci_dev->vendor, pci_dev->device,
163                        pci_dev->subsystem_vendor, pci_dev->subsystem_device,
164                        (u8)(pci_dev->class >> 16), (u8)(pci_dev->class >> 8),
165                        (u8)(pci_dev->class));
166 }
167 static DEVICE_ATTR_RO(modalias);
168
169 static ssize_t enable_store(struct device *dev, struct device_attribute *attr,
170                              const char *buf, size_t count)
171 {
172         struct pci_dev *pdev = to_pci_dev(dev);
173         unsigned long val;
174         ssize_t result = kstrtoul(buf, 0, &val);
175
176         if (result < 0)
177                 return result;
178
179         /* this can crash the machine when done on the "wrong" device */
180         if (!capable(CAP_SYS_ADMIN))
181                 return -EPERM;
182
183         if (!val) {
184                 if (pci_is_enabled(pdev))
185                         pci_disable_device(pdev);
186                 else
187                         result = -EIO;
188         } else
189                 result = pci_enable_device(pdev);
190
191         return result < 0 ? result : count;
192 }
193
194 static ssize_t enable_show(struct device *dev, struct device_attribute *attr,
195                             char *buf)
196 {
197         struct pci_dev *pdev;
198
199         pdev = to_pci_dev(dev);
200         return sprintf(buf, "%u\n", atomic_read(&pdev->enable_cnt));
201 }
202 static DEVICE_ATTR_RW(enable);
203
204 #ifdef CONFIG_NUMA
205 static ssize_t numa_node_store(struct device *dev,
206                                struct device_attribute *attr, const char *buf,
207                                size_t count)
208 {
209         struct pci_dev *pdev = to_pci_dev(dev);
210         int node, ret;
211
212         if (!capable(CAP_SYS_ADMIN))
213                 return -EPERM;
214
215         ret = kstrtoint(buf, 0, &node);
216         if (ret)
217                 return ret;
218
219         if (!node_online(node))
220                 return -EINVAL;
221
222         add_taint(TAINT_FIRMWARE_WORKAROUND, LOCKDEP_STILL_OK);
223         dev_alert(&pdev->dev, FW_BUG "Overriding NUMA node to %d.  Contact your vendor for updates.",
224                   node);
225
226         dev->numa_node = node;
227         return count;
228 }
229
230 static ssize_t numa_node_show(struct device *dev, struct device_attribute *attr,
231                               char *buf)
232 {
233         return sprintf(buf, "%d\n", dev->numa_node);
234 }
235 static DEVICE_ATTR_RW(numa_node);
236 #endif
237
238 static ssize_t dma_mask_bits_show(struct device *dev,
239                                   struct device_attribute *attr, char *buf)
240 {
241         struct pci_dev *pdev = to_pci_dev(dev);
242
243         return sprintf(buf, "%d\n", fls64(pdev->dma_mask));
244 }
245 static DEVICE_ATTR_RO(dma_mask_bits);
246
247 static ssize_t consistent_dma_mask_bits_show(struct device *dev,
248                                              struct device_attribute *attr,
249                                              char *buf)
250 {
251         return sprintf(buf, "%d\n", fls64(dev->coherent_dma_mask));
252 }
253 static DEVICE_ATTR_RO(consistent_dma_mask_bits);
254
255 static ssize_t msi_bus_show(struct device *dev, struct device_attribute *attr,
256                             char *buf)
257 {
258         struct pci_dev *pdev = to_pci_dev(dev);
259         struct pci_bus *subordinate = pdev->subordinate;
260
261         return sprintf(buf, "%u\n", subordinate ?
262                        !(subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI)
263                            : !pdev->no_msi);
264 }
265
266 static ssize_t msi_bus_store(struct device *dev, struct device_attribute *attr,
267                              const char *buf, size_t count)
268 {
269         struct pci_dev *pdev = to_pci_dev(dev);
270         struct pci_bus *subordinate = pdev->subordinate;
271         unsigned long val;
272
273         if (kstrtoul(buf, 0, &val) < 0)
274                 return -EINVAL;
275
276         if (!capable(CAP_SYS_ADMIN))
277                 return -EPERM;
278
279         /*
280          * "no_msi" and "bus_flags" only affect what happens when a driver
281          * requests MSI or MSI-X.  They don't affect any drivers that have
282          * already requested MSI or MSI-X.
283          */
284         if (!subordinate) {
285                 pdev->no_msi = !val;
286                 dev_info(&pdev->dev, "MSI/MSI-X %s for future drivers\n",
287                          val ? "allowed" : "disallowed");
288                 return count;
289         }
290
291         if (val)
292                 subordinate->bus_flags &= ~PCI_BUS_FLAGS_NO_MSI;
293         else
294                 subordinate->bus_flags |= PCI_BUS_FLAGS_NO_MSI;
295
296         dev_info(&subordinate->dev, "MSI/MSI-X %s for future drivers of devices on this bus\n",
297                  val ? "allowed" : "disallowed");
298         return count;
299 }
300 static DEVICE_ATTR_RW(msi_bus);
301
302 static ssize_t bus_rescan_store(struct bus_type *bus, const char *buf,
303                                 size_t count)
304 {
305         unsigned long val;
306         struct pci_bus *b = NULL;
307
308         if (kstrtoul(buf, 0, &val) < 0)
309                 return -EINVAL;
310
311         if (val) {
312                 pci_lock_rescan_remove();
313                 while ((b = pci_find_next_bus(b)) != NULL)
314                         pci_rescan_bus(b);
315                 pci_unlock_rescan_remove();
316         }
317         return count;
318 }
319 static BUS_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, bus_rescan_store);
320
321 static struct attribute *pci_bus_attrs[] = {
322         &bus_attr_rescan.attr,
323         NULL,
324 };
325
326 static const struct attribute_group pci_bus_group = {
327         .attrs = pci_bus_attrs,
328 };
329
330 const struct attribute_group *pci_bus_groups[] = {
331         &pci_bus_group,
332         NULL,
333 };
334
335 static ssize_t dev_rescan_store(struct device *dev,
336                                 struct device_attribute *attr, const char *buf,
337                                 size_t count)
338 {
339         unsigned long val;
340         struct pci_dev *pdev = to_pci_dev(dev);
341
342         if (kstrtoul(buf, 0, &val) < 0)
343                 return -EINVAL;
344
345         if (val) {
346                 pci_lock_rescan_remove();
347                 pci_rescan_bus(pdev->bus);
348                 pci_unlock_rescan_remove();
349         }
350         return count;
351 }
352 static struct device_attribute dev_rescan_attr = __ATTR(rescan,
353                                                         (S_IWUSR|S_IWGRP),
354                                                         NULL, dev_rescan_store);
355
356 static ssize_t remove_store(struct device *dev, struct device_attribute *attr,
357                             const char *buf, size_t count)
358 {
359         unsigned long val;
360
361         if (kstrtoul(buf, 0, &val) < 0)
362                 return -EINVAL;
363
364         if (val && device_remove_file_self(dev, attr))
365                 pci_stop_and_remove_bus_device_locked(to_pci_dev(dev));
366         return count;
367 }
368 static struct device_attribute dev_remove_attr = __ATTR(remove,
369                                                         (S_IWUSR|S_IWGRP),
370                                                         NULL, remove_store);
371
372 static ssize_t dev_bus_rescan_store(struct device *dev,
373                                     struct device_attribute *attr,
374                                     const char *buf, size_t count)
375 {
376         unsigned long val;
377         struct pci_bus *bus = to_pci_bus(dev);
378
379         if (kstrtoul(buf, 0, &val) < 0)
380                 return -EINVAL;
381
382         if (val) {
383                 pci_lock_rescan_remove();
384                 if (!pci_is_root_bus(bus) && list_empty(&bus->devices))
385                         pci_rescan_bus_bridge_resize(bus->self);
386                 else
387                         pci_rescan_bus(bus);
388                 pci_unlock_rescan_remove();
389         }
390         return count;
391 }
392 static DEVICE_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, dev_bus_rescan_store);
393
394 #if defined(CONFIG_PM) && defined(CONFIG_ACPI)
395 static ssize_t d3cold_allowed_store(struct device *dev,
396                                     struct device_attribute *attr,
397                                     const char *buf, size_t count)
398 {
399         struct pci_dev *pdev = to_pci_dev(dev);
400         unsigned long val;
401
402         if (kstrtoul(buf, 0, &val) < 0)
403                 return -EINVAL;
404
405         pdev->d3cold_allowed = !!val;
406         pm_runtime_resume(dev);
407
408         return count;
409 }
410
411 static ssize_t d3cold_allowed_show(struct device *dev,
412                                    struct device_attribute *attr, char *buf)
413 {
414         struct pci_dev *pdev = to_pci_dev(dev);
415         return sprintf(buf, "%u\n", pdev->d3cold_allowed);
416 }
417 static DEVICE_ATTR_RW(d3cold_allowed);
418 #endif
419
420 #ifdef CONFIG_OF
421 static ssize_t devspec_show(struct device *dev,
422                             struct device_attribute *attr, char *buf)
423 {
424         struct pci_dev *pdev = to_pci_dev(dev);
425         struct device_node *np = pci_device_to_OF_node(pdev);
426
427         if (np == NULL || np->full_name == NULL)
428                 return 0;
429         return sprintf(buf, "%s", np->full_name);
430 }
431 static DEVICE_ATTR_RO(devspec);
432 #endif
433
434 #ifdef CONFIG_PCI_IOV
435 static ssize_t sriov_totalvfs_show(struct device *dev,
436                                    struct device_attribute *attr,
437                                    char *buf)
438 {
439         struct pci_dev *pdev = to_pci_dev(dev);
440
441         return sprintf(buf, "%u\n", pci_sriov_get_totalvfs(pdev));
442 }
443
444
445 static ssize_t sriov_numvfs_show(struct device *dev,
446                                  struct device_attribute *attr,
447                                  char *buf)
448 {
449         struct pci_dev *pdev = to_pci_dev(dev);
450
451         return sprintf(buf, "%u\n", pdev->sriov->num_VFs);
452 }
453
454 /*
455  * num_vfs > 0; number of VFs to enable
456  * num_vfs = 0; disable all VFs
457  *
458  * Note: SRIOV spec doesn't allow partial VF
459  *       disable, so it's all or none.
460  */
461 static ssize_t sriov_numvfs_store(struct device *dev,
462                                   struct device_attribute *attr,
463                                   const char *buf, size_t count)
464 {
465         struct pci_dev *pdev = to_pci_dev(dev);
466         int ret;
467         u16 num_vfs;
468
469         ret = kstrtou16(buf, 0, &num_vfs);
470         if (ret < 0)
471                 return ret;
472
473         if (num_vfs > pci_sriov_get_totalvfs(pdev))
474                 return -ERANGE;
475
476         if (num_vfs == pdev->sriov->num_VFs)
477                 return count;           /* no change */
478
479         /* is PF driver loaded w/callback */
480         if (!pdev->driver || !pdev->driver->sriov_configure) {
481                 dev_info(&pdev->dev, "Driver doesn't support SRIOV configuration via sysfs\n");
482                 return -ENOSYS;
483         }
484
485         if (num_vfs == 0) {
486                 /* disable VFs */
487                 ret = pdev->driver->sriov_configure(pdev, 0);
488                 if (ret < 0)
489                         return ret;
490                 return count;
491         }
492
493         /* enable VFs */
494         if (pdev->sriov->num_VFs) {
495                 dev_warn(&pdev->dev, "%d VFs already enabled. Disable before enabling %d VFs\n",
496                          pdev->sriov->num_VFs, num_vfs);
497                 return -EBUSY;
498         }
499
500         ret = pdev->driver->sriov_configure(pdev, num_vfs);
501         if (ret < 0)
502                 return ret;
503
504         if (ret != num_vfs)
505                 dev_warn(&pdev->dev, "%d VFs requested; only %d enabled\n",
506                          num_vfs, ret);
507
508         return count;
509 }
510
511 static struct device_attribute sriov_totalvfs_attr = __ATTR_RO(sriov_totalvfs);
512 static struct device_attribute sriov_numvfs_attr =
513                 __ATTR(sriov_numvfs, (S_IRUGO|S_IWUSR|S_IWGRP),
514                        sriov_numvfs_show, sriov_numvfs_store);
515 #endif /* CONFIG_PCI_IOV */
516
517 static ssize_t driver_override_store(struct device *dev,
518                                      struct device_attribute *attr,
519                                      const char *buf, size_t count)
520 {
521         struct pci_dev *pdev = to_pci_dev(dev);
522         char *driver_override, *old = pdev->driver_override, *cp;
523
524         if (count > PATH_MAX)
525                 return -EINVAL;
526
527         driver_override = kstrndup(buf, count, GFP_KERNEL);
528         if (!driver_override)
529                 return -ENOMEM;
530
531         cp = strchr(driver_override, '\n');
532         if (cp)
533                 *cp = '\0';
534
535         if (strlen(driver_override)) {
536                 pdev->driver_override = driver_override;
537         } else {
538                 kfree(driver_override);
539                 pdev->driver_override = NULL;
540         }
541
542         kfree(old);
543
544         return count;
545 }
546
547 static ssize_t driver_override_show(struct device *dev,
548                                     struct device_attribute *attr, char *buf)
549 {
550         struct pci_dev *pdev = to_pci_dev(dev);
551
552         return sprintf(buf, "%s\n", pdev->driver_override);
553 }
554 static DEVICE_ATTR_RW(driver_override);
555
556 static struct attribute *pci_dev_attrs[] = {
557         &dev_attr_resource.attr,
558         &dev_attr_vendor.attr,
559         &dev_attr_device.attr,
560         &dev_attr_subsystem_vendor.attr,
561         &dev_attr_subsystem_device.attr,
562         &dev_attr_class.attr,
563         &dev_attr_irq.attr,
564         &dev_attr_local_cpus.attr,
565         &dev_attr_local_cpulist.attr,
566         &dev_attr_modalias.attr,
567 #ifdef CONFIG_NUMA
568         &dev_attr_numa_node.attr,
569 #endif
570         &dev_attr_dma_mask_bits.attr,
571         &dev_attr_consistent_dma_mask_bits.attr,
572         &dev_attr_enable.attr,
573         &dev_attr_broken_parity_status.attr,
574         &dev_attr_msi_bus.attr,
575 #if defined(CONFIG_PM) && defined(CONFIG_ACPI)
576         &dev_attr_d3cold_allowed.attr,
577 #endif
578 #ifdef CONFIG_OF
579         &dev_attr_devspec.attr,
580 #endif
581         &dev_attr_driver_override.attr,
582         NULL,
583 };
584
585 static const struct attribute_group pci_dev_group = {
586         .attrs = pci_dev_attrs,
587 };
588
589 const struct attribute_group *pci_dev_groups[] = {
590         &pci_dev_group,
591         NULL,
592 };
593
594 static struct attribute *pcibus_attrs[] = {
595         &dev_attr_rescan.attr,
596         &dev_attr_cpuaffinity.attr,
597         &dev_attr_cpulistaffinity.attr,
598         NULL,
599 };
600
601 static const struct attribute_group pcibus_group = {
602         .attrs = pcibus_attrs,
603 };
604
605 const struct attribute_group *pcibus_groups[] = {
606         &pcibus_group,
607         NULL,
608 };
609
610 static ssize_t boot_vga_show(struct device *dev, struct device_attribute *attr,
611                              char *buf)
612 {
613         struct pci_dev *pdev = to_pci_dev(dev);
614         struct pci_dev *vga_dev = vga_default_device();
615
616         if (vga_dev)
617                 return sprintf(buf, "%u\n", (pdev == vga_dev));
618
619         return sprintf(buf, "%u\n",
620                 !!(pdev->resource[PCI_ROM_RESOURCE].flags &
621                    IORESOURCE_ROM_SHADOW));
622 }
623 static struct device_attribute vga_attr = __ATTR_RO(boot_vga);
624
625 static ssize_t pci_read_config(struct file *filp, struct kobject *kobj,
626                                struct bin_attribute *bin_attr, char *buf,
627                                loff_t off, size_t count)
628 {
629         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
630                                                       kobj));
631         unsigned int size = 64;
632         loff_t init_off = off;
633         u8 *data = (u8 *) buf;
634
635         /* Several chips lock up trying to read undefined config space */
636         if (security_capable(filp->f_cred, &init_user_ns, CAP_SYS_ADMIN) == 0)
637                 size = dev->cfg_size;
638         else if (dev->hdr_type == PCI_HEADER_TYPE_CARDBUS)
639                 size = 128;
640
641         if (off > size)
642                 return 0;
643         if (off + count > size) {
644                 size -= off;
645                 count = size;
646         } else {
647                 size = count;
648         }
649
650         pci_config_pm_runtime_get(dev);
651
652         if ((off & 1) && size) {
653                 u8 val;
654                 pci_user_read_config_byte(dev, off, &val);
655                 data[off - init_off] = val;
656                 off++;
657                 size--;
658         }
659
660         if ((off & 3) && size > 2) {
661                 u16 val;
662                 pci_user_read_config_word(dev, off, &val);
663                 data[off - init_off] = val & 0xff;
664                 data[off - init_off + 1] = (val >> 8) & 0xff;
665                 off += 2;
666                 size -= 2;
667         }
668
669         while (size > 3) {
670                 u32 val;
671                 pci_user_read_config_dword(dev, off, &val);
672                 data[off - init_off] = val & 0xff;
673                 data[off - init_off + 1] = (val >> 8) & 0xff;
674                 data[off - init_off + 2] = (val >> 16) & 0xff;
675                 data[off - init_off + 3] = (val >> 24) & 0xff;
676                 off += 4;
677                 size -= 4;
678         }
679
680         if (size >= 2) {
681                 u16 val;
682                 pci_user_read_config_word(dev, off, &val);
683                 data[off - init_off] = val & 0xff;
684                 data[off - init_off + 1] = (val >> 8) & 0xff;
685                 off += 2;
686                 size -= 2;
687         }
688
689         if (size > 0) {
690                 u8 val;
691                 pci_user_read_config_byte(dev, off, &val);
692                 data[off - init_off] = val;
693                 off++;
694                 --size;
695         }
696
697         pci_config_pm_runtime_put(dev);
698
699         return count;
700 }
701
702 static ssize_t pci_write_config(struct file *filp, struct kobject *kobj,
703                                 struct bin_attribute *bin_attr, char *buf,
704                                 loff_t off, size_t count)
705 {
706         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
707                                                       kobj));
708         unsigned int size = count;
709         loff_t init_off = off;
710         u8 *data = (u8 *) buf;
711
712         if (off > dev->cfg_size)
713                 return 0;
714         if (off + count > dev->cfg_size) {
715                 size = dev->cfg_size - off;
716                 count = size;
717         }
718
719         pci_config_pm_runtime_get(dev);
720
721         if ((off & 1) && size) {
722                 pci_user_write_config_byte(dev, off, data[off - init_off]);
723                 off++;
724                 size--;
725         }
726
727         if ((off & 3) && size > 2) {
728                 u16 val = data[off - init_off];
729                 val |= (u16) data[off - init_off + 1] << 8;
730                 pci_user_write_config_word(dev, off, val);
731                 off += 2;
732                 size -= 2;
733         }
734
735         while (size > 3) {
736                 u32 val = data[off - init_off];
737                 val |= (u32) data[off - init_off + 1] << 8;
738                 val |= (u32) data[off - init_off + 2] << 16;
739                 val |= (u32) data[off - init_off + 3] << 24;
740                 pci_user_write_config_dword(dev, off, val);
741                 off += 4;
742                 size -= 4;
743         }
744
745         if (size >= 2) {
746                 u16 val = data[off - init_off];
747                 val |= (u16) data[off - init_off + 1] << 8;
748                 pci_user_write_config_word(dev, off, val);
749                 off += 2;
750                 size -= 2;
751         }
752
753         if (size) {
754                 pci_user_write_config_byte(dev, off, data[off - init_off]);
755                 off++;
756                 --size;
757         }
758
759         pci_config_pm_runtime_put(dev);
760
761         return count;
762 }
763
764 static ssize_t read_vpd_attr(struct file *filp, struct kobject *kobj,
765                              struct bin_attribute *bin_attr, char *buf,
766                              loff_t off, size_t count)
767 {
768         struct pci_dev *dev =
769                 to_pci_dev(container_of(kobj, struct device, kobj));
770
771         if (off > bin_attr->size)
772                 count = 0;
773         else if (count > bin_attr->size - off)
774                 count = bin_attr->size - off;
775
776         return pci_read_vpd(dev, off, count, buf);
777 }
778
779 static ssize_t write_vpd_attr(struct file *filp, struct kobject *kobj,
780                               struct bin_attribute *bin_attr, char *buf,
781                               loff_t off, size_t count)
782 {
783         struct pci_dev *dev =
784                 to_pci_dev(container_of(kobj, struct device, kobj));
785
786         if (off > bin_attr->size)
787                 count = 0;
788         else if (count > bin_attr->size - off)
789                 count = bin_attr->size - off;
790
791         return pci_write_vpd(dev, off, count, buf);
792 }
793
794 #ifdef HAVE_PCI_LEGACY
795 /**
796  * pci_read_legacy_io - read byte(s) from legacy I/O port space
797  * @filp: open sysfs file
798  * @kobj: kobject corresponding to file to read from
799  * @bin_attr: struct bin_attribute for this file
800  * @buf: buffer to store results
801  * @off: offset into legacy I/O port space
802  * @count: number of bytes to read
803  *
804  * Reads 1, 2, or 4 bytes from legacy I/O port space using an arch specific
805  * callback routine (pci_legacy_read).
806  */
807 static ssize_t pci_read_legacy_io(struct file *filp, struct kobject *kobj,
808                                   struct bin_attribute *bin_attr, char *buf,
809                                   loff_t off, size_t count)
810 {
811         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
812                                                       kobj));
813
814         /* Only support 1, 2 or 4 byte accesses */
815         if (count != 1 && count != 2 && count != 4)
816                 return -EINVAL;
817
818         return pci_legacy_read(bus, off, (u32 *)buf, count);
819 }
820
821 /**
822  * pci_write_legacy_io - write byte(s) to legacy I/O port space
823  * @filp: open sysfs file
824  * @kobj: kobject corresponding to file to read from
825  * @bin_attr: struct bin_attribute for this file
826  * @buf: buffer containing value to be written
827  * @off: offset into legacy I/O port space
828  * @count: number of bytes to write
829  *
830  * Writes 1, 2, or 4 bytes from legacy I/O port space using an arch specific
831  * callback routine (pci_legacy_write).
832  */
833 static ssize_t pci_write_legacy_io(struct file *filp, struct kobject *kobj,
834                                    struct bin_attribute *bin_attr, char *buf,
835                                    loff_t off, size_t count)
836 {
837         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
838                                                       kobj));
839
840         /* Only support 1, 2 or 4 byte accesses */
841         if (count != 1 && count != 2 && count != 4)
842                 return -EINVAL;
843
844         return pci_legacy_write(bus, off, *(u32 *)buf, count);
845 }
846
847 /**
848  * pci_mmap_legacy_mem - map legacy PCI memory into user memory space
849  * @filp: open sysfs file
850  * @kobj: kobject corresponding to device to be mapped
851  * @attr: struct bin_attribute for this file
852  * @vma: struct vm_area_struct passed to mmap
853  *
854  * Uses an arch specific callback, pci_mmap_legacy_mem_page_range, to mmap
855  * legacy memory space (first meg of bus space) into application virtual
856  * memory space.
857  */
858 static int pci_mmap_legacy_mem(struct file *filp, struct kobject *kobj,
859                                struct bin_attribute *attr,
860                                struct vm_area_struct *vma)
861 {
862         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
863                                                       kobj));
864
865         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_mem);
866 }
867
868 /**
869  * pci_mmap_legacy_io - map legacy PCI IO into user memory space
870  * @filp: open sysfs file
871  * @kobj: kobject corresponding to device to be mapped
872  * @attr: struct bin_attribute for this file
873  * @vma: struct vm_area_struct passed to mmap
874  *
875  * Uses an arch specific callback, pci_mmap_legacy_io_page_range, to mmap
876  * legacy IO space (first meg of bus space) into application virtual
877  * memory space. Returns -ENOSYS if the operation isn't supported
878  */
879 static int pci_mmap_legacy_io(struct file *filp, struct kobject *kobj,
880                               struct bin_attribute *attr,
881                               struct vm_area_struct *vma)
882 {
883         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
884                                                       kobj));
885
886         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_io);
887 }
888
889 /**
890  * pci_adjust_legacy_attr - adjustment of legacy file attributes
891  * @b: bus to create files under
892  * @mmap_type: I/O port or memory
893  *
894  * Stub implementation. Can be overridden by arch if necessary.
895  */
896 void __weak pci_adjust_legacy_attr(struct pci_bus *b,
897                                    enum pci_mmap_state mmap_type)
898 {
899 }
900
901 /**
902  * pci_create_legacy_files - create legacy I/O port and memory files
903  * @b: bus to create files under
904  *
905  * Some platforms allow access to legacy I/O port and ISA memory space on
906  * a per-bus basis.  This routine creates the files and ties them into
907  * their associated read, write and mmap files from pci-sysfs.c
908  *
909  * On error unwind, but don't propagate the error to the caller
910  * as it is ok to set up the PCI bus without these files.
911  */
912 void pci_create_legacy_files(struct pci_bus *b)
913 {
914         int error;
915
916         b->legacy_io = kzalloc(sizeof(struct bin_attribute) * 2,
917                                GFP_ATOMIC);
918         if (!b->legacy_io)
919                 goto kzalloc_err;
920
921         sysfs_bin_attr_init(b->legacy_io);
922         b->legacy_io->attr.name = "legacy_io";
923         b->legacy_io->size = 0xffff;
924         b->legacy_io->attr.mode = S_IRUSR | S_IWUSR;
925         b->legacy_io->read = pci_read_legacy_io;
926         b->legacy_io->write = pci_write_legacy_io;
927         b->legacy_io->mmap = pci_mmap_legacy_io;
928         pci_adjust_legacy_attr(b, pci_mmap_io);
929         error = device_create_bin_file(&b->dev, b->legacy_io);
930         if (error)
931                 goto legacy_io_err;
932
933         /* Allocated above after the legacy_io struct */
934         b->legacy_mem = b->legacy_io + 1;
935         sysfs_bin_attr_init(b->legacy_mem);
936         b->legacy_mem->attr.name = "legacy_mem";
937         b->legacy_mem->size = 1024*1024;
938         b->legacy_mem->attr.mode = S_IRUSR | S_IWUSR;
939         b->legacy_mem->mmap = pci_mmap_legacy_mem;
940         pci_adjust_legacy_attr(b, pci_mmap_mem);
941         error = device_create_bin_file(&b->dev, b->legacy_mem);
942         if (error)
943                 goto legacy_mem_err;
944
945         return;
946
947 legacy_mem_err:
948         device_remove_bin_file(&b->dev, b->legacy_io);
949 legacy_io_err:
950         kfree(b->legacy_io);
951         b->legacy_io = NULL;
952 kzalloc_err:
953         printk(KERN_WARNING "pci: warning: could not create legacy I/O port and ISA memory resources to sysfs\n");
954         return;
955 }
956
957 void pci_remove_legacy_files(struct pci_bus *b)
958 {
959         if (b->legacy_io) {
960                 device_remove_bin_file(&b->dev, b->legacy_io);
961                 device_remove_bin_file(&b->dev, b->legacy_mem);
962                 kfree(b->legacy_io); /* both are allocated here */
963         }
964 }
965 #endif /* HAVE_PCI_LEGACY */
966
967 #ifdef HAVE_PCI_MMAP
968
969 int pci_mmap_fits(struct pci_dev *pdev, int resno, struct vm_area_struct *vma,
970                   enum pci_mmap_api mmap_api)
971 {
972         unsigned long nr, start, size, pci_start;
973
974         if (pci_resource_len(pdev, resno) == 0)
975                 return 0;
976         nr = vma_pages(vma);
977         start = vma->vm_pgoff;
978         size = ((pci_resource_len(pdev, resno) - 1) >> PAGE_SHIFT) + 1;
979         pci_start = (mmap_api == PCI_MMAP_PROCFS) ?
980                         pci_resource_start(pdev, resno) >> PAGE_SHIFT : 0;
981         if (start >= pci_start && start < pci_start + size &&
982                         start + nr <= pci_start + size)
983                 return 1;
984         return 0;
985 }
986
987 /**
988  * pci_mmap_resource - map a PCI resource into user memory space
989  * @kobj: kobject for mapping
990  * @attr: struct bin_attribute for the file being mapped
991  * @vma: struct vm_area_struct passed into the mmap
992  * @write_combine: 1 for write_combine mapping
993  *
994  * Use the regular PCI mapping routines to map a PCI resource into userspace.
995  */
996 static int pci_mmap_resource(struct kobject *kobj, struct bin_attribute *attr,
997                              struct vm_area_struct *vma, int write_combine)
998 {
999         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1000                                                        struct device, kobj));
1001         struct resource *res = attr->private;
1002         enum pci_mmap_state mmap_type;
1003         resource_size_t start, end;
1004         int i;
1005
1006         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1007                 if (res == &pdev->resource[i])
1008                         break;
1009         if (i >= PCI_ROM_RESOURCE)
1010                 return -ENODEV;
1011
1012         if (!pci_mmap_fits(pdev, i, vma, PCI_MMAP_SYSFS)) {
1013                 WARN(1, "process \"%s\" tried to map 0x%08lx bytes at page 0x%08lx on %s BAR %d (start 0x%16Lx, size 0x%16Lx)\n",
1014                         current->comm, vma->vm_end-vma->vm_start, vma->vm_pgoff,
1015                         pci_name(pdev), i,
1016                         (u64)pci_resource_start(pdev, i),
1017                         (u64)pci_resource_len(pdev, i));
1018                 return -EINVAL;
1019         }
1020
1021         /* pci_mmap_page_range() expects the same kind of entry as coming
1022          * from /proc/bus/pci/ which is a "user visible" value. If this is
1023          * different from the resource itself, arch will do necessary fixup.
1024          */
1025         pci_resource_to_user(pdev, i, res, &start, &end);
1026         vma->vm_pgoff += start >> PAGE_SHIFT;
1027         mmap_type = res->flags & IORESOURCE_MEM ? pci_mmap_mem : pci_mmap_io;
1028
1029         if (res->flags & IORESOURCE_MEM && iomem_is_exclusive(start))
1030                 return -EINVAL;
1031
1032         return pci_mmap_page_range(pdev, vma, mmap_type, write_combine);
1033 }
1034
1035 static int pci_mmap_resource_uc(struct file *filp, struct kobject *kobj,
1036                                 struct bin_attribute *attr,
1037                                 struct vm_area_struct *vma)
1038 {
1039         return pci_mmap_resource(kobj, attr, vma, 0);
1040 }
1041
1042 static int pci_mmap_resource_wc(struct file *filp, struct kobject *kobj,
1043                                 struct bin_attribute *attr,
1044                                 struct vm_area_struct *vma)
1045 {
1046         return pci_mmap_resource(kobj, attr, vma, 1);
1047 }
1048
1049 static ssize_t pci_resource_io(struct file *filp, struct kobject *kobj,
1050                                struct bin_attribute *attr, char *buf,
1051                                loff_t off, size_t count, bool write)
1052 {
1053         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1054                                                        struct device, kobj));
1055         struct resource *res = attr->private;
1056         unsigned long port = off;
1057         int i;
1058
1059         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1060                 if (res == &pdev->resource[i])
1061                         break;
1062         if (i >= PCI_ROM_RESOURCE)
1063                 return -ENODEV;
1064
1065         port += pci_resource_start(pdev, i);
1066
1067         if (port > pci_resource_end(pdev, i))
1068                 return 0;
1069
1070         if (port + count - 1 > pci_resource_end(pdev, i))
1071                 return -EINVAL;
1072
1073         switch (count) {
1074         case 1:
1075                 if (write)
1076                         outb(*(u8 *)buf, port);
1077                 else
1078                         *(u8 *)buf = inb(port);
1079                 return 1;
1080         case 2:
1081                 if (write)
1082                         outw(*(u16 *)buf, port);
1083                 else
1084                         *(u16 *)buf = inw(port);
1085                 return 2;
1086         case 4:
1087                 if (write)
1088                         outl(*(u32 *)buf, port);
1089                 else
1090                         *(u32 *)buf = inl(port);
1091                 return 4;
1092         }
1093         return -EINVAL;
1094 }
1095
1096 static ssize_t pci_read_resource_io(struct file *filp, struct kobject *kobj,
1097                                     struct bin_attribute *attr, char *buf,
1098                                     loff_t off, size_t count)
1099 {
1100         return pci_resource_io(filp, kobj, attr, buf, off, count, false);
1101 }
1102
1103 static ssize_t pci_write_resource_io(struct file *filp, struct kobject *kobj,
1104                                      struct bin_attribute *attr, char *buf,
1105                                      loff_t off, size_t count)
1106 {
1107         return pci_resource_io(filp, kobj, attr, buf, off, count, true);
1108 }
1109
1110 /**
1111  * pci_remove_resource_files - cleanup resource files
1112  * @pdev: dev to cleanup
1113  *
1114  * If we created resource files for @pdev, remove them from sysfs and
1115  * free their resources.
1116  */
1117 static void pci_remove_resource_files(struct pci_dev *pdev)
1118 {
1119         int i;
1120
1121         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1122                 struct bin_attribute *res_attr;
1123
1124                 res_attr = pdev->res_attr[i];
1125                 if (res_attr) {
1126                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1127                         kfree(res_attr);
1128                 }
1129
1130                 res_attr = pdev->res_attr_wc[i];
1131                 if (res_attr) {
1132                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1133                         kfree(res_attr);
1134                 }
1135         }
1136 }
1137
1138 static int pci_create_attr(struct pci_dev *pdev, int num, int write_combine)
1139 {
1140         /* allocate attribute structure, piggyback attribute name */
1141         int name_len = write_combine ? 13 : 10;
1142         struct bin_attribute *res_attr;
1143         int retval;
1144
1145         res_attr = kzalloc(sizeof(*res_attr) + name_len, GFP_ATOMIC);
1146         if (res_attr) {
1147                 char *res_attr_name = (char *)(res_attr + 1);
1148
1149                 sysfs_bin_attr_init(res_attr);
1150                 if (write_combine) {
1151                         pdev->res_attr_wc[num] = res_attr;
1152                         sprintf(res_attr_name, "resource%d_wc", num);
1153                         res_attr->mmap = pci_mmap_resource_wc;
1154                 } else {
1155                         pdev->res_attr[num] = res_attr;
1156                         sprintf(res_attr_name, "resource%d", num);
1157                         res_attr->mmap = pci_mmap_resource_uc;
1158                 }
1159                 if (pci_resource_flags(pdev, num) & IORESOURCE_IO) {
1160                         res_attr->read = pci_read_resource_io;
1161                         res_attr->write = pci_write_resource_io;
1162                 }
1163                 res_attr->attr.name = res_attr_name;
1164                 res_attr->attr.mode = S_IRUSR | S_IWUSR;
1165                 res_attr->size = pci_resource_len(pdev, num);
1166                 res_attr->private = &pdev->resource[num];
1167                 retval = sysfs_create_bin_file(&pdev->dev.kobj, res_attr);
1168         } else
1169                 retval = -ENOMEM;
1170
1171         return retval;
1172 }
1173
1174 /**
1175  * pci_create_resource_files - create resource files in sysfs for @dev
1176  * @pdev: dev in question
1177  *
1178  * Walk the resources in @pdev creating files for each resource available.
1179  */
1180 static int pci_create_resource_files(struct pci_dev *pdev)
1181 {
1182         int i;
1183         int retval;
1184
1185         /* Expose the PCI resources from this device as files */
1186         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1187
1188                 /* skip empty resources */
1189                 if (!pci_resource_len(pdev, i))
1190                         continue;
1191
1192                 retval = pci_create_attr(pdev, i, 0);
1193                 /* for prefetchable resources, create a WC mappable file */
1194                 if (!retval && pdev->resource[i].flags & IORESOURCE_PREFETCH)
1195                         retval = pci_create_attr(pdev, i, 1);
1196
1197                 if (retval) {
1198                         pci_remove_resource_files(pdev);
1199                         return retval;
1200                 }
1201         }
1202         return 0;
1203 }
1204 #else /* !HAVE_PCI_MMAP */
1205 int __weak pci_create_resource_files(struct pci_dev *dev) { return 0; }
1206 void __weak pci_remove_resource_files(struct pci_dev *dev) { return; }
1207 #endif /* HAVE_PCI_MMAP */
1208
1209 /**
1210  * pci_write_rom - used to enable access to the PCI ROM display
1211  * @filp: sysfs file
1212  * @kobj: kernel object handle
1213  * @bin_attr: struct bin_attribute for this file
1214  * @buf: user input
1215  * @off: file offset
1216  * @count: number of byte in input
1217  *
1218  * writing anything except 0 enables it
1219  */
1220 static ssize_t pci_write_rom(struct file *filp, struct kobject *kobj,
1221                              struct bin_attribute *bin_attr, char *buf,
1222                              loff_t off, size_t count)
1223 {
1224         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1225
1226         if ((off ==  0) && (*buf == '0') && (count == 2))
1227                 pdev->rom_attr_enabled = 0;
1228         else
1229                 pdev->rom_attr_enabled = 1;
1230
1231         return count;
1232 }
1233
1234 /**
1235  * pci_read_rom - read a PCI ROM
1236  * @filp: sysfs file
1237  * @kobj: kernel object handle
1238  * @bin_attr: struct bin_attribute for this file
1239  * @buf: where to put the data we read from the ROM
1240  * @off: file offset
1241  * @count: number of bytes to read
1242  *
1243  * Put @count bytes starting at @off into @buf from the ROM in the PCI
1244  * device corresponding to @kobj.
1245  */
1246 static ssize_t pci_read_rom(struct file *filp, struct kobject *kobj,
1247                             struct bin_attribute *bin_attr, char *buf,
1248                             loff_t off, size_t count)
1249 {
1250         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1251         void __iomem *rom;
1252         size_t size;
1253
1254         if (!pdev->rom_attr_enabled)
1255                 return -EINVAL;
1256
1257         rom = pci_map_rom(pdev, &size); /* size starts out as PCI window size */
1258         if (!rom || !size)
1259                 return -EIO;
1260
1261         if (off >= size)
1262                 count = 0;
1263         else {
1264                 if (off + count > size)
1265                         count = size - off;
1266
1267                 memcpy_fromio(buf, rom + off, count);
1268         }
1269         pci_unmap_rom(pdev, rom);
1270
1271         return count;
1272 }
1273
1274 static struct bin_attribute pci_config_attr = {
1275         .attr = {
1276                 .name = "config",
1277                 .mode = S_IRUGO | S_IWUSR,
1278         },
1279         .size = PCI_CFG_SPACE_SIZE,
1280         .read = pci_read_config,
1281         .write = pci_write_config,
1282 };
1283
1284 static struct bin_attribute pcie_config_attr = {
1285         .attr = {
1286                 .name = "config",
1287                 .mode = S_IRUGO | S_IWUSR,
1288         },
1289         .size = PCI_CFG_SPACE_EXP_SIZE,
1290         .read = pci_read_config,
1291         .write = pci_write_config,
1292 };
1293
1294 static ssize_t reset_store(struct device *dev, struct device_attribute *attr,
1295                            const char *buf, size_t count)
1296 {
1297         struct pci_dev *pdev = to_pci_dev(dev);
1298         unsigned long val;
1299         ssize_t result = kstrtoul(buf, 0, &val);
1300
1301         if (result < 0)
1302                 return result;
1303
1304         if (val != 1)
1305                 return -EINVAL;
1306
1307         result = pci_reset_function(pdev);
1308         if (result < 0)
1309                 return result;
1310
1311         return count;
1312 }
1313
1314 static struct device_attribute reset_attr = __ATTR(reset, 0200, NULL, reset_store);
1315
1316 static int pci_create_capabilities_sysfs(struct pci_dev *dev)
1317 {
1318         int retval;
1319         struct bin_attribute *attr;
1320
1321         /* If the device has VPD, try to expose it in sysfs. */
1322         if (dev->vpd) {
1323                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1324                 if (!attr)
1325                         return -ENOMEM;
1326
1327                 sysfs_bin_attr_init(attr);
1328                 attr->size = dev->vpd->len;
1329                 attr->attr.name = "vpd";
1330                 attr->attr.mode = S_IRUSR | S_IWUSR;
1331                 attr->read = read_vpd_attr;
1332                 attr->write = write_vpd_attr;
1333                 retval = sysfs_create_bin_file(&dev->dev.kobj, attr);
1334                 if (retval) {
1335                         kfree(attr);
1336                         return retval;
1337                 }
1338                 dev->vpd->attr = attr;
1339         }
1340
1341         /* Active State Power Management */
1342         pcie_aspm_create_sysfs_dev_files(dev);
1343
1344         if (!pci_probe_reset_function(dev)) {
1345                 retval = device_create_file(&dev->dev, &reset_attr);
1346                 if (retval)
1347                         goto error;
1348                 dev->reset_fn = 1;
1349         }
1350         return 0;
1351
1352 error:
1353         pcie_aspm_remove_sysfs_dev_files(dev);
1354         if (dev->vpd && dev->vpd->attr) {
1355                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1356                 kfree(dev->vpd->attr);
1357         }
1358
1359         return retval;
1360 }
1361
1362 int __must_check pci_create_sysfs_dev_files(struct pci_dev *pdev)
1363 {
1364         int retval;
1365         int rom_size = 0;
1366         struct bin_attribute *attr;
1367
1368         if (!sysfs_initialized)
1369                 return -EACCES;
1370
1371         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1372                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pci_config_attr);
1373         else
1374                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1375         if (retval)
1376                 goto err;
1377
1378         retval = pci_create_resource_files(pdev);
1379         if (retval)
1380                 goto err_config_file;
1381
1382         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1383                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1384         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1385                 rom_size = 0x20000;
1386
1387         /* If the device has a ROM, try to expose it in sysfs. */
1388         if (rom_size) {
1389                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1390                 if (!attr) {
1391                         retval = -ENOMEM;
1392                         goto err_resource_files;
1393                 }
1394                 sysfs_bin_attr_init(attr);
1395                 attr->size = rom_size;
1396                 attr->attr.name = "rom";
1397                 attr->attr.mode = S_IRUSR | S_IWUSR;
1398                 attr->read = pci_read_rom;
1399                 attr->write = pci_write_rom;
1400                 retval = sysfs_create_bin_file(&pdev->dev.kobj, attr);
1401                 if (retval) {
1402                         kfree(attr);
1403                         goto err_resource_files;
1404                 }
1405                 pdev->rom_attr = attr;
1406         }
1407
1408         /* add sysfs entries for various capabilities */
1409         retval = pci_create_capabilities_sysfs(pdev);
1410         if (retval)
1411                 goto err_rom_file;
1412
1413         pci_create_firmware_label_files(pdev);
1414
1415         return 0;
1416
1417 err_rom_file:
1418         if (rom_size) {
1419                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1420                 kfree(pdev->rom_attr);
1421                 pdev->rom_attr = NULL;
1422         }
1423 err_resource_files:
1424         pci_remove_resource_files(pdev);
1425 err_config_file:
1426         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1427                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1428         else
1429                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1430 err:
1431         return retval;
1432 }
1433
1434 static void pci_remove_capabilities_sysfs(struct pci_dev *dev)
1435 {
1436         if (dev->vpd && dev->vpd->attr) {
1437                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1438                 kfree(dev->vpd->attr);
1439         }
1440
1441         pcie_aspm_remove_sysfs_dev_files(dev);
1442         if (dev->reset_fn) {
1443                 device_remove_file(&dev->dev, &reset_attr);
1444                 dev->reset_fn = 0;
1445         }
1446 }
1447
1448 /**
1449  * pci_remove_sysfs_dev_files - cleanup PCI specific sysfs files
1450  * @pdev: device whose entries we should free
1451  *
1452  * Cleanup when @pdev is removed from sysfs.
1453  */
1454 void pci_remove_sysfs_dev_files(struct pci_dev *pdev)
1455 {
1456         int rom_size = 0;
1457
1458         if (!sysfs_initialized)
1459                 return;
1460
1461         pci_remove_capabilities_sysfs(pdev);
1462
1463         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1464                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1465         else
1466                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1467
1468         pci_remove_resource_files(pdev);
1469
1470         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1471                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1472         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1473                 rom_size = 0x20000;
1474
1475         if (rom_size && pdev->rom_attr) {
1476                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1477                 kfree(pdev->rom_attr);
1478         }
1479
1480         pci_remove_firmware_label_files(pdev);
1481
1482 }
1483
1484 static int __init pci_sysfs_init(void)
1485 {
1486         struct pci_dev *pdev = NULL;
1487         int retval;
1488
1489         sysfs_initialized = 1;
1490         for_each_pci_dev(pdev) {
1491                 retval = pci_create_sysfs_dev_files(pdev);
1492                 if (retval) {
1493                         pci_dev_put(pdev);
1494                         return retval;
1495                 }
1496         }
1497
1498         return 0;
1499 }
1500 late_initcall(pci_sysfs_init);
1501
1502 static struct attribute *pci_dev_dev_attrs[] = {
1503         &vga_attr.attr,
1504         NULL,
1505 };
1506
1507 static umode_t pci_dev_attrs_are_visible(struct kobject *kobj,
1508                                          struct attribute *a, int n)
1509 {
1510         struct device *dev = container_of(kobj, struct device, kobj);
1511         struct pci_dev *pdev = to_pci_dev(dev);
1512
1513         if (a == &vga_attr.attr)
1514                 if ((pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
1515                         return 0;
1516
1517         return a->mode;
1518 }
1519
1520 static struct attribute *pci_dev_hp_attrs[] = {
1521         &dev_remove_attr.attr,
1522         &dev_rescan_attr.attr,
1523         NULL,
1524 };
1525
1526 static umode_t pci_dev_hp_attrs_are_visible(struct kobject *kobj,
1527                                             struct attribute *a, int n)
1528 {
1529         struct device *dev = container_of(kobj, struct device, kobj);
1530         struct pci_dev *pdev = to_pci_dev(dev);
1531
1532         if (pdev->is_virtfn)
1533                 return 0;
1534
1535         return a->mode;
1536 }
1537
1538 static struct attribute_group pci_dev_hp_attr_group = {
1539         .attrs = pci_dev_hp_attrs,
1540         .is_visible = pci_dev_hp_attrs_are_visible,
1541 };
1542
1543 #ifdef CONFIG_PCI_IOV
1544 static struct attribute *sriov_dev_attrs[] = {
1545         &sriov_totalvfs_attr.attr,
1546         &sriov_numvfs_attr.attr,
1547         NULL,
1548 };
1549
1550 static umode_t sriov_attrs_are_visible(struct kobject *kobj,
1551                                        struct attribute *a, int n)
1552 {
1553         struct device *dev = container_of(kobj, struct device, kobj);
1554
1555         if (!dev_is_pf(dev))
1556                 return 0;
1557
1558         return a->mode;
1559 }
1560
1561 static struct attribute_group sriov_dev_attr_group = {
1562         .attrs = sriov_dev_attrs,
1563         .is_visible = sriov_attrs_are_visible,
1564 };
1565 #endif /* CONFIG_PCI_IOV */
1566
1567 static struct attribute_group pci_dev_attr_group = {
1568         .attrs = pci_dev_dev_attrs,
1569         .is_visible = pci_dev_attrs_are_visible,
1570 };
1571
1572 static const struct attribute_group *pci_dev_attr_groups[] = {
1573         &pci_dev_attr_group,
1574         &pci_dev_hp_attr_group,
1575 #ifdef CONFIG_PCI_IOV
1576         &sriov_dev_attr_group,
1577 #endif
1578         NULL,
1579 };
1580
1581 struct device_type pci_dev_type = {
1582         .groups = pci_dev_attr_groups,
1583 };