arch/arm64/include/asm/dma-mapping.h

   1 /*
   2  * Copyright (C) 2012 ARM Ltd.
   3  *
   4  * This program is free software; you can redistribute it and/or modify
   5  * it under the terms of the GNU General Public License version 2 as
   6  * published by the Free Software Foundation.
   7  *
   8  * This program is distributed in the hope that it will be useful,
   9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  11  * GNU General Public License for more details.
  12  *
  13  * You should have received a copy of the GNU General Public License
  14  * along with this program.  If not, see <http://www.gnu.org/licenses/>.
  15  */
  16 #ifndef __ASM_DMA_MAPPING_H
  17 #define __ASM_DMA_MAPPING_H
  18
  19 #ifdef __KERNEL__
  20
  21 #include <linux/types.h>
  22 #include <linux/vmalloc.h>
  23
  24 #include <asm-generic/dma-coherent.h>
  25
  26 #include <xen/xen.h>
  27 #include <asm/xen/hypervisor.h>
  28
  29 #define DMA_ERROR_CODE  (~(dma_addr_t)0)
  30 extern struct dma_map_ops *dma_ops;
  31 extern struct dma_map_ops coherent_swiotlb_dma_ops;
  32 extern struct dma_map_ops noncoherent_swiotlb_dma_ops;
  33
  34 static inline struct dma_map_ops *__generic_dma_ops(struct device *dev)
  35 {
  36         if (unlikely(!dev) || !dev->archdata.dma_ops)
  37                 return dma_ops;
  38         else
  39                 return dev->archdata.dma_ops;
  40 }
  41
  42 static inline struct dma_map_ops *get_dma_ops(struct device *dev)
  43 {
  44         if (xen_initial_domain())
  45                 return xen_dma_ops;
  46         else
  47                 return __generic_dma_ops(dev);
  48 }
  49
  50 static inline void set_dma_ops(struct device *dev, struct dma_map_ops *ops)
  51 {
  52         dev->archdata.dma_ops = ops;
  53 }
  54
  55 static inline int set_arch_dma_coherent_ops(struct device *dev)
  56 {
  57         dev->archdata.dma_coherent = true;
  58         set_dma_ops(dev, &coherent_swiotlb_dma_ops);
  59         return 0;
  60 }
  61 #define set_arch_dma_coherent_ops       set_arch_dma_coherent_ops
  62
  63 /* do not use this function in a driver */
  64 static inline bool is_device_dma_coherent(struct device *dev)
  65 {
  66         return dev->archdata.dma_coherent;
  67 }
  68
  69 #include <asm-generic/dma-mapping-common.h>
  70
  71 static inline dma_addr_t phys_to_dma(struct device *dev, phys_addr_t paddr)
  72 {
  73         return (dma_addr_t)paddr;
  74 }
  75
  76 static inline phys_addr_t dma_to_phys(struct device *dev, dma_addr_t dev_addr)
  77 {
  78         return (phys_addr_t)dev_addr;
  79 }
  80
  81 static inline int dma_mapping_error(struct device *dev, dma_addr_t dev_addr)
  82 {
  83         struct dma_map_ops *ops = get_dma_ops(dev);
  84         debug_dma_mapping_error(dev, dev_addr);
  85         return ops->mapping_error(dev, dev_addr);
  86 }
  87
  88 static inline int dma_supported(struct device *dev, u64 mask)
  89 {
  90         struct dma_map_ops *ops = get_dma_ops(dev);
  91         return ops->dma_supported(dev, mask);
  92 }
  93
  94 static inline int dma_set_mask(struct device *dev, u64 mask)
  95 {
  96         if (!dev->dma_mask || !dma_supported(dev, mask))
  97                 return -EIO;
  98         *dev->dma_mask = mask;
  99
 100         return 0;
 101 }
 102
 103 static inline bool dma_capable(struct device *dev, dma_addr_t addr, size_t size)
 104 {
 105         if (!dev->dma_mask)
 106                 return 0;
 107
 108         return addr + size - 1 <= *dev->dma_mask;
 109 }
 110
 111 static inline void dma_mark_clean(void *addr, size_t size)
 112 {
 113 }
 114
 115 #define dma_alloc_coherent(d, s, h, f)  dma_alloc_attrs(d, s, h, f, NULL)
 116 #define dma_free_coherent(d, s, h, f)   dma_free_attrs(d, s, h, f, NULL)
 117
 118 static inline void *dma_alloc_attrs(struct device *dev, size_t size,
 119                                     dma_addr_t *dma_handle, gfp_t flags,
 120                                     struct dma_attrs *attrs)
 121 {
 122         struct dma_map_ops *ops = get_dma_ops(dev);
 123         void *vaddr;
 124
 125         if (dma_alloc_from_coherent(dev, size, dma_handle, &vaddr))
 126                 return vaddr;
 127
 128         vaddr = ops->alloc(dev, size, dma_handle, flags, attrs);
 129         debug_dma_alloc_coherent(dev, size, *dma_handle, vaddr);
 130         return vaddr;
 131 }
 132
 133 static inline void dma_free_attrs(struct device *dev, size_t size,
 134                                   void *vaddr, dma_addr_t dev_addr,
 135                                   struct dma_attrs *attrs)
 136 {
 137         struct dma_map_ops *ops = get_dma_ops(dev);
 138
 139         if (dma_release_from_coherent(dev, get_order(size), vaddr))
 140                 return;
 141
 142         debug_dma_free_coherent(dev, size, vaddr, dev_addr);
 143         ops->free(dev, size, vaddr, dev_addr, attrs);
 144 }
 145
 146 /*
 147  * There is no dma_cache_sync() implementation, so just return NULL here.
 148  */
 149 static inline void *dma_alloc_noncoherent(struct device *dev, size_t size,
 150                                           dma_addr_t *handle, gfp_t flags)
 151 {
 152         return NULL;
 153 }
 154
 155 static inline void dma_free_noncoherent(struct device *dev, size_t size,
 156                                         void *cpu_addr, dma_addr_t handle)
 157 {
 158 }
 159
 160 #endif  /* __KERNEL__ */
 161 #endif  /* __ASM_DMA_MAPPING_H */