dax: provide an iomap based dax read/write path
[cascardo/linux.git] / include / linux / dax.h
1 #ifndef _LINUX_DAX_H
2 #define _LINUX_DAX_H
3
4 #include <linux/fs.h>
5 #include <linux/mm.h>
6 #include <linux/radix-tree.h>
7 #include <asm/pgtable.h>
8
9 struct iomap_ops;
10
11 /* We use lowest available exceptional entry bit for locking */
12 #define RADIX_DAX_ENTRY_LOCK (1 << RADIX_TREE_EXCEPTIONAL_SHIFT)
13
14 ssize_t iomap_dax_rw(struct kiocb *iocb, struct iov_iter *iter,
15                 struct iomap_ops *ops);
16 ssize_t dax_do_io(struct kiocb *, struct inode *, struct iov_iter *,
17                   get_block_t, dio_iodone_t, int flags);
18 int dax_zero_page_range(struct inode *, loff_t from, unsigned len, get_block_t);
19 int dax_truncate_page(struct inode *, loff_t from, get_block_t);
20 int dax_fault(struct vm_area_struct *, struct vm_fault *, get_block_t);
21 int dax_delete_mapping_entry(struct address_space *mapping, pgoff_t index);
22 void dax_wake_mapping_entry_waiter(struct address_space *mapping,
23                                    pgoff_t index, bool wake_all);
24
25 #ifdef CONFIG_FS_DAX
26 struct page *read_dax_sector(struct block_device *bdev, sector_t n);
27 void dax_unlock_mapping_entry(struct address_space *mapping, pgoff_t index);
28 int __dax_zero_page_range(struct block_device *bdev, sector_t sector,
29                 unsigned int offset, unsigned int length);
30 #else
31 static inline struct page *read_dax_sector(struct block_device *bdev,
32                 sector_t n)
33 {
34         return ERR_PTR(-ENXIO);
35 }
36 /* Shouldn't ever be called when dax is disabled. */
37 static inline void dax_unlock_mapping_entry(struct address_space *mapping,
38                                             pgoff_t index)
39 {
40         BUG();
41 }
42 static inline int __dax_zero_page_range(struct block_device *bdev,
43                 sector_t sector, unsigned int offset, unsigned int length)
44 {
45         return -ENXIO;
46 }
47 #endif
48
49 #if defined(CONFIG_TRANSPARENT_HUGEPAGE)
50 int dax_pmd_fault(struct vm_area_struct *, unsigned long addr, pmd_t *,
51                                 unsigned int flags, get_block_t);
52 #else
53 static inline int dax_pmd_fault(struct vm_area_struct *vma, unsigned long addr,
54                                 pmd_t *pmd, unsigned int flags, get_block_t gb)
55 {
56         return VM_FAULT_FALLBACK;
57 }
58 #endif
59 int dax_pfn_mkwrite(struct vm_area_struct *, struct vm_fault *);
60 #define dax_mkwrite(vma, vmf, gb)       dax_fault(vma, vmf, gb)
61
62 static inline bool vma_is_dax(struct vm_area_struct *vma)
63 {
64         return vma->vm_file && IS_DAX(vma->vm_file->f_mapping->host);
65 }
66
67 static inline bool dax_mapping(struct address_space *mapping)
68 {
69         return mapping->host && IS_DAX(mapping->host);
70 }
71
72 struct writeback_control;
73 int dax_writeback_mapping_range(struct address_space *mapping,
74                 struct block_device *bdev, struct writeback_control *wbc);
75 #endif