drivers/gpu/drm/drm_pci.c

   1 /* drm_pci.h -- PCI DMA memory management wrappers for DRM -*- linux-c -*- */
   2 /**
   3  * \file drm_pci.c
   4  * \brief Functions and ioctls to manage PCI memory
   5  *
   6  * \warning These interfaces aren't stable yet.
   7  *
   8  * \todo Implement the remaining ioctl's for the PCI pools.
   9  * \todo The wrappers here are so thin that they would be better off inlined..
  10  *
  11  * \author José Fonseca <jrfonseca@tungstengraphics.com>
  12  * \author Leif Delgass <ldelgass@retinalburn.net>
  13  */
  14
  15 /*
  16  * Copyright 2003 José Fonseca.
  17  * Copyright 2003 Leif Delgass.
  18  * All Rights Reserved.
  19  *
  20  * Permission is hereby granted, free of charge, to any person obtaining a
  21  * copy of this software and associated documentation files (the "Software"),
  22  * to deal in the Software without restriction, including without limitation
  23  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  24  * and/or sell copies of the Software, and to permit persons to whom the
  25  * Software is furnished to do so, subject to the following conditions:
  26  *
  27  * The above copyright notice and this permission notice (including the next
  28  * paragraph) shall be included in all copies or substantial portions of the
  29  * Software.
  30  *
  31  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  32  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  33  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL THE
  34  * AUTHORS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  35  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION
  36  * WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
  37  */
  38
  39 #include <linux/pci.h>
  40 #include <linux/slab.h>
  41 #include <linux/dma-mapping.h>
  42 #include <linux/export.h>
  43 #include <drm/drmP.h>
  44
  45 /**********************************************************************/
  46 /** \name PCI memory */
  47 /*@{*/
  48
  49 /**
  50  * \brief Allocate a PCI consistent memory block, for DMA.
  51  */
  52 drm_dma_handle_t *drm_pci_alloc(struct drm_device * dev, size_t size, size_t align)
  53 {
  54         drm_dma_handle_t *dmah;
  55         unsigned long addr;
  56         size_t sz;
  57
  58         /* pci_alloc_consistent only guarantees alignment to the smallest
  59          * PAGE_SIZE order which is greater than or equal to the requested size.
  60          * Return NULL here for now to make sure nobody tries for larger alignment
  61          */
  62         if (align > size)
  63                 return NULL;
  64
  65         dmah = kmalloc(sizeof(drm_dma_handle_t), GFP_KERNEL);
  66         if (!dmah)
  67                 return NULL;
  68
  69         dmah->size = size;
  70         dmah->vaddr = dma_alloc_coherent(&dev->pdev->dev, size, &dmah->busaddr, GFP_KERNEL | __GFP_COMP);
  71
  72         if (dmah->vaddr == NULL) {
  73                 kfree(dmah);
  74                 return NULL;
  75         }
  76
  77         memset(dmah->vaddr, 0, size);
  78
  79         /* XXX - Is virt_to_page() legal for consistent mem? */
  80         /* Reserve */
  81         for (addr = (unsigned long)dmah->vaddr, sz = size;
  82              sz > 0; addr += PAGE_SIZE, sz -= PAGE_SIZE) {
  83                 SetPageReserved(virt_to_page((void *)addr));
  84         }
  85
  86         return dmah;
  87 }
  88
  89 EXPORT_SYMBOL(drm_pci_alloc);
  90
  91 /**
  92  * \brief Free a PCI consistent memory block without freeing its descriptor.
  93  *
  94  * This function is for internal use in the Linux-specific DRM core code.
  95  */
  96 void __drm_pci_free(struct drm_device * dev, drm_dma_handle_t * dmah)
  97 {
  98         unsigned long addr;
  99         size_t sz;
 100
 101         if (dmah->vaddr) {
 102                 /* XXX - Is virt_to_page() legal for consistent mem? */
 103                 /* Unreserve */
 104                 for (addr = (unsigned long)dmah->vaddr, sz = dmah->size;
 105                      sz > 0; addr += PAGE_SIZE, sz -= PAGE_SIZE) {
 106                         ClearPageReserved(virt_to_page((void *)addr));
 107                 }
 108                 dma_free_coherent(&dev->pdev->dev, dmah->size, dmah->vaddr,
 109                                   dmah->busaddr);
 110         }
 111 }
 112
 113 /**
 114  * \brief Free a PCI consistent memory block
 115  */
 116 void drm_pci_free(struct drm_device * dev, drm_dma_handle_t * dmah)
 117 {
 118         __drm_pci_free(dev, dmah);
 119         kfree(dmah);
 120 }
 121
 122 EXPORT_SYMBOL(drm_pci_free);
 123
 124 #ifdef CONFIG_PCI
 125
 126 static int drm_get_pci_domain(struct drm_device *dev)
 127 {
 128 #ifndef __alpha__
 129         /* For historical reasons, drm_get_pci_domain() is busticated
 130          * on most archs and has to remain so for userspace interface
 131          * < 1.4, except on alpha which was right from the beginning
 132          */
 133         if (dev->if_version < 0x10004)
 134                 return 0;
 135 #endif /* __alpha__ */
 136
 137         return pci_domain_nr(dev->pdev->bus);
 138 }
 139
 140 static const char *drm_pci_get_name(struct drm_device *dev)
 141 {
 142         struct pci_driver *pdriver = dev->driver->kdriver.pci;
 143         return pdriver->name;
 144 }
 145
 146 static int drm_pci_set_busid(struct drm_device *dev, struct drm_master *master)
 147 {
 148         int len, ret;
 149         struct pci_driver *pdriver = dev->driver->kdriver.pci;
 150         master->unique_len = 40;
 151         master->unique_size = master->unique_len;
 152         master->unique = kmalloc(master->unique_size, GFP_KERNEL);
 153         if (master->unique == NULL)
 154                 return -ENOMEM;
 155
 156
 157         len = snprintf(master->unique, master->unique_len,
 158                        "pci:%04x:%02x:%02x.%d",
 159                        drm_get_pci_domain(dev),
 160                        dev->pdev->bus->number,
 161                        PCI_SLOT(dev->pdev->devfn),
 162                        PCI_FUNC(dev->pdev->devfn));
 163
 164         if (len >= master->unique_len) {
 165                 DRM_ERROR("buffer overflow");
 166                 ret = -EINVAL;
 167                 goto err;
 168         } else
 169                 master->unique_len = len;
 170
 171         dev->devname =
 172                 kmalloc(strlen(pdriver->name) +
 173                         master->unique_len + 2, GFP_KERNEL);
 174
 175         if (dev->devname == NULL) {
 176                 ret = -ENOMEM;
 177                 goto err;
 178         }
 179
 180         sprintf(dev->devname, "%s@%s", pdriver->name,
 181                 master->unique);
 182
 183         return 0;
 184 err:
 185         return ret;
 186 }
 187
 188 int drm_pci_set_unique(struct drm_device *dev,
 189                        struct drm_master *master,
 190                        struct drm_unique *u)
 191 {
 192         int domain, bus, slot, func, ret;
 193         const char *bus_name;
 194
 195         master->unique_len = u->unique_len;
 196         master->unique_size = u->unique_len + 1;
 197         master->unique = kmalloc(master->unique_size, GFP_KERNEL);
 198         if (!master->unique) {
 199                 ret = -ENOMEM;
 200                 goto err;
 201         }
 202
 203         if (copy_from_user(master->unique, u->unique, master->unique_len)) {
 204                 ret = -EFAULT;
 205                 goto err;
 206         }
 207
 208         master->unique[master->unique_len] = '\0';
 209
 210         bus_name = dev->driver->bus->get_name(dev);
 211         dev->devname = kmalloc(strlen(bus_name) +
 212                                strlen(master->unique) + 2, GFP_KERNEL);
 213         if (!dev->devname) {
 214                 ret = -ENOMEM;
 215                 goto err;
 216         }
 217
 218         sprintf(dev->devname, "%s@%s", bus_name,
 219                 master->unique);
 220
 221         /* Return error if the busid submitted doesn't match the device's actual
 222          * busid.
 223          */
 224         ret = sscanf(master->unique, "PCI:%d:%d:%d", &bus, &slot, &func);
 225         if (ret != 3) {
 226                 ret = -EINVAL;
 227                 goto err;
 228         }
 229
 230         domain = bus >> 8;
 231         bus &= 0xff;
 232
 233         if ((domain != drm_get_pci_domain(dev)) ||
 234             (bus != dev->pdev->bus->number) ||
 235             (slot != PCI_SLOT(dev->pdev->devfn)) ||
 236             (func != PCI_FUNC(dev->pdev->devfn))) {
 237                 ret = -EINVAL;
 238                 goto err;
 239         }
 240         return 0;
 241 err:
 242         return ret;
 243 }
 244
 245 static int drm_pci_irq_by_busid(struct drm_device *dev, struct drm_irq_busid *p)
 246 {
 247         if ((p->busnum >> 8) != drm_get_pci_domain(dev) ||
 248             (p->busnum & 0xff) != dev->pdev->bus->number ||
 249             p->devnum != PCI_SLOT(dev->pdev->devfn) || p->funcnum != PCI_FUNC(dev->pdev->devfn))
 250                 return -EINVAL;
 251
 252         p->irq = dev->pdev->irq;
 253
 254         DRM_DEBUG("%d:%d:%d => IRQ %d\n", p->busnum, p->devnum, p->funcnum,
 255                   p->irq);
 256         return 0;
 257 }
 258
 259 /**
 260  * Get interrupt from bus id.
 261  *
 262  * \param inode device inode.
 263  * \param file_priv DRM file private.
 264  * \param cmd command.
 265  * \param arg user argument, pointing to a drm_irq_busid structure.
 266  * \return zero on success or a negative number on failure.
 267  *
 268  * Finds the PCI device with the specified bus id and gets its IRQ number.
 269  * This IOCTL is deprecated, and will now return EINVAL for any busid not equal
 270  * to that of the device that this DRM instance attached to.
 271  */
 272 int drm_irq_by_busid(struct drm_device *dev, void *data,
 273                      struct drm_file *file_priv)
 274 {
 275         struct drm_irq_busid *p = data;
 276
 277         if (drm_core_check_feature(dev, DRIVER_MODESET))
 278                 return -EINVAL;
 279
 280         /* UMS was only ever support on PCI devices. */
 281         if (WARN_ON(!dev->pdev))
 282                 return -EINVAL;
 283
 284         if (!drm_core_check_feature(dev, DRIVER_HAVE_IRQ))
 285                 return -EINVAL;
 286
 287         return drm_pci_irq_by_busid(dev, p);
 288 }
 289
 290 static void drm_pci_agp_init(struct drm_device *dev)
 291 {
 292         if (drm_core_check_feature(dev, DRIVER_USE_AGP)) {
 293                 if (drm_pci_device_is_agp(dev))
 294                         dev->agp = drm_agp_init(dev);
 295                 if (dev->agp) {
 296                         dev->agp->agp_mtrr = arch_phys_wc_add(
 297                                 dev->agp->agp_info.aper_base,
 298                                 dev->agp->agp_info.aper_size *
 299                                 1024 * 1024);
 300                 }
 301         }
 302 }
 303
 304 void drm_pci_agp_destroy(struct drm_device *dev)
 305 {
 306         if (dev->agp) {
 307                 arch_phys_wc_del(dev->agp->agp_mtrr);
 308                 drm_agp_clear(dev);
 309                 kfree(dev->agp);
 310                 dev->agp = NULL;
 311         }
 312 }
 313
 314 static struct drm_bus drm_pci_bus = {
 315         .get_name = drm_pci_get_name,
 316         .set_busid = drm_pci_set_busid,
 317 };
 318
 319 /**
 320  * Register.
 321  *
 322  * \param pdev - PCI device structure
 323  * \param ent entry from the PCI ID table with device type flags
 324  * \return zero on success or a negative number on failure.
 325  *
 326  * Attempt to gets inter module "drm" information. If we are first
 327  * then register the character device and inter module information.
 328  * Try and register, if we fail to register, backout previous work.
 329  */
 330 int drm_get_pci_dev(struct pci_dev *pdev, const struct pci_device_id *ent,
 331                     struct drm_driver *driver)
 332 {
 333         struct drm_device *dev;
 334         int ret;
 335
 336         DRM_DEBUG("\n");
 337
 338         dev = drm_dev_alloc(driver, &pdev->dev);
 339         if (!dev)
 340                 return -ENOMEM;
 341
 342         ret = pci_enable_device(pdev);
 343         if (ret)
 344                 goto err_free;
 345
 346         dev->pdev = pdev;
 347 #ifdef __alpha__
 348         dev->hose = pdev->sysdata;
 349 #endif
 350
 351         if (drm_core_check_feature(dev, DRIVER_MODESET))
 352                 pci_set_drvdata(pdev, dev);
 353
 354         drm_pci_agp_init(dev);
 355
 356         ret = drm_dev_register(dev, ent->driver_data);
 357         if (ret)
 358                 goto err_agp;
 359
 360         DRM_INFO("Initialized %s %d.%d.%d %s for %s on minor %d\n",
 361                  driver->name, driver->major, driver->minor, driver->patchlevel,
 362                  driver->date, pci_name(pdev), dev->primary->index);
 363
 364         /* No locking needed since shadow-attach is single-threaded since it may
 365          * only be called from the per-driver module init hook. */
 366         if (!drm_core_check_feature(dev, DRIVER_MODESET))
 367                 list_add_tail(&dev->legacy_dev_list, &driver->legacy_dev_list);
 368
 369         return 0;
 370
 371 err_agp:
 372         drm_pci_agp_destroy(dev);
 373         pci_disable_device(pdev);
 374 err_free:
 375         drm_dev_unref(dev);
 376         return ret;
 377 }
 378 EXPORT_SYMBOL(drm_get_pci_dev);
 379
 380 /**
 381  * PCI device initialization. Called direct from modules at load time.
 382  *
 383  * \return zero on success or a negative number on failure.
 384  *
 385  * Initializes a drm_device structures,registering the
 386  * stubs and initializing the AGP device.
 387  *
 388  * Expands the \c DRIVER_PREINIT and \c DRIVER_POST_INIT macros before and
 389  * after the initialization for driver customization.
 390  */
 391 int drm_pci_init(struct drm_driver *driver, struct pci_driver *pdriver)
 392 {
 393         struct pci_dev *pdev = NULL;
 394         const struct pci_device_id *pid;
 395         int i;
 396
 397         DRM_DEBUG("\n");
 398
 399         driver->kdriver.pci = pdriver;
 400         driver->bus = &drm_pci_bus;
 401
 402         if (driver->driver_features & DRIVER_MODESET)
 403                 return pci_register_driver(pdriver);
 404
 405         /* If not using KMS, fall back to stealth mode manual scanning. */
 406         INIT_LIST_HEAD(&driver->legacy_dev_list);
 407         for (i = 0; pdriver->id_table[i].vendor != 0; i++) {
 408                 pid = &pdriver->id_table[i];
 409
 410                 /* Loop around setting up a DRM device for each PCI device
 411                  * matching our ID and device class.  If we had the internal
 412                  * function that pci_get_subsys and pci_get_class used, we'd
 413                  * be able to just pass pid in instead of doing a two-stage
 414                  * thing.
 415                  */
 416                 pdev = NULL;
 417                 while ((pdev =
 418                         pci_get_subsys(pid->vendor, pid->device, pid->subvendor,
 419                                        pid->subdevice, pdev)) != NULL) {
 420                         if ((pdev->class & pid->class_mask) != pid->class)
 421                                 continue;
 422
 423                         /* stealth mode requires a manual probe */
 424                         pci_dev_get(pdev);
 425                         drm_get_pci_dev(pdev, pid, driver);
 426                 }
 427         }
 428         return 0;
 429 }
 430
 431 int drm_pcie_get_speed_cap_mask(struct drm_device *dev, u32 *mask)
 432 {
 433         struct pci_dev *root;
 434         u32 lnkcap, lnkcap2;
 435
 436         *mask = 0;
 437         if (!dev->pdev)
 438                 return -EINVAL;
 439
 440         root = dev->pdev->bus->self;
 441
 442         /* we've been informed via and serverworks don't make the cut */
 443         if (root->vendor == PCI_VENDOR_ID_VIA ||
 444             root->vendor == PCI_VENDOR_ID_SERVERWORKS)
 445                 return -EINVAL;
 446
 447         pcie_capability_read_dword(root, PCI_EXP_LNKCAP, &lnkcap);
 448         pcie_capability_read_dword(root, PCI_EXP_LNKCAP2, &lnkcap2);
 449
 450         if (lnkcap2) {  /* PCIe r3.0-compliant */
 451                 if (lnkcap2 & PCI_EXP_LNKCAP2_SLS_2_5GB)
 452                         *mask |= DRM_PCIE_SPEED_25;
 453                 if (lnkcap2 & PCI_EXP_LNKCAP2_SLS_5_0GB)
 454                         *mask |= DRM_PCIE_SPEED_50;
 455                 if (lnkcap2 & PCI_EXP_LNKCAP2_SLS_8_0GB)
 456                         *mask |= DRM_PCIE_SPEED_80;
 457         } else {        /* pre-r3.0 */
 458                 if (lnkcap & PCI_EXP_LNKCAP_SLS_2_5GB)
 459                         *mask |= DRM_PCIE_SPEED_25;
 460                 if (lnkcap & PCI_EXP_LNKCAP_SLS_5_0GB)
 461                         *mask |= (DRM_PCIE_SPEED_25 | DRM_PCIE_SPEED_50);
 462         }
 463
 464         DRM_INFO("probing gen 2 caps for device %x:%x = %x/%x\n", root->vendor, root->device, lnkcap, lnkcap2);
 465         return 0;
 466 }
 467 EXPORT_SYMBOL(drm_pcie_get_speed_cap_mask);
 468
 469 #else
 470
 471 int drm_pci_init(struct drm_driver *driver, struct pci_driver *pdriver)
 472 {
 473         return -1;
 474 }
 475
 476 void drm_pci_agp_destroy(struct drm_device *dev) {}
 477
 478 int drm_irq_by_busid(struct drm_device *dev, void *data,
 479                      struct drm_file *file_priv)
 480 {
 481         return -EINVAL;
 482 }
 483
 484 int drm_pci_set_unique(struct drm_device *dev,
 485                        struct drm_master *master,
 486                        struct drm_unique *u)
 487 {
 488         return -EINVAL;
 489 }
 490 #endif
 491
 492 EXPORT_SYMBOL(drm_pci_init);
 493
 494 /*@}*/
 495 void drm_pci_exit(struct drm_driver *driver, struct pci_driver *pdriver)
 496 {
 497         struct drm_device *dev, *tmp;
 498         DRM_DEBUG("\n");
 499
 500         if (driver->driver_features & DRIVER_MODESET) {
 501                 pci_unregister_driver(pdriver);
 502         } else {
 503                 list_for_each_entry_safe(dev, tmp, &driver->legacy_dev_list,
 504                                          legacy_dev_list) {
 505                         list_del(&dev->legacy_dev_list);
 506                         drm_put_dev(dev);
 507                 }
 508         }
 509         DRM_INFO("Module unloaded\n");
 510 }
 511 EXPORT_SYMBOL(drm_pci_exit);