Merge tag 'pinctrl-v3.19-1' of git://git.kernel.org/pub/scm/linux/kernel/git/linusw...
[cascardo/linux.git] / fs / f2fs / inline.c
index 46c5542..f2d3c58 100644 (file)
 
 bool f2fs_may_inline(struct inode *inode)
 {
-       block_t nr_blocks;
-       loff_t i_size;
-
        if (!test_opt(F2FS_I_SB(inode), INLINE_DATA))
                return false;
 
        if (f2fs_is_atomic_file(inode))
                return false;
 
-       nr_blocks = F2FS_I(inode)->i_xattr_nid ? 3 : 2;
-       if (inode->i_blocks > nr_blocks)
+       if (!S_ISREG(inode->i_mode))
                return false;
 
-       i_size = i_size_read(inode);
-       if (i_size > MAX_INLINE_DATA)
+       if (i_size_read(inode) > MAX_INLINE_DATA)
                return false;
 
        return true;
 }
 
-int f2fs_read_inline_data(struct inode *inode, struct page *page)
+void read_inline_data(struct page *page, struct page *ipage)
 {
-       struct page *ipage;
        void *src_addr, *dst_addr;
 
-       if (page->index) {
-               zero_user_segment(page, 0, PAGE_CACHE_SIZE);
-               goto out;
-       }
+       if (PageUptodate(page))
+               return;
+
+       f2fs_bug_on(F2FS_P_SB(page), page->index);
+
+       zero_user_segment(page, MAX_INLINE_DATA, PAGE_CACHE_SIZE);
+
+       /* Copy the whole inline data block */
+       src_addr = inline_data_addr(ipage);
+       dst_addr = kmap_atomic(page);
+       memcpy(dst_addr, src_addr, MAX_INLINE_DATA);
+       flush_dcache_page(page);
+       kunmap_atomic(dst_addr);
+       SetPageUptodate(page);
+}
+
+int f2fs_read_inline_data(struct inode *inode, struct page *page)
+{
+       struct page *ipage;
 
        ipage = get_node_page(F2FS_I_SB(inode), inode->i_ino);
        if (IS_ERR(ipage)) {
@@ -51,112 +60,116 @@ int f2fs_read_inline_data(struct inode *inode, struct page *page)
                return PTR_ERR(ipage);
        }
 
-       zero_user_segment(page, MAX_INLINE_DATA, PAGE_CACHE_SIZE);
+       if (!f2fs_has_inline_data(inode)) {
+               f2fs_put_page(ipage, 1);
+               return -EAGAIN;
+       }
 
-       /* Copy the whole inline data block */
-       src_addr = inline_data_addr(ipage);
-       dst_addr = kmap(page);
-       memcpy(dst_addr, src_addr, MAX_INLINE_DATA);
-       kunmap(page);
-       f2fs_put_page(ipage, 1);
+       if (page->index)
+               zero_user_segment(page, 0, PAGE_CACHE_SIZE);
+       else
+               read_inline_data(page, ipage);
 
-out:
        SetPageUptodate(page);
+       f2fs_put_page(ipage, 1);
        unlock_page(page);
-
        return 0;
 }
 
-static int __f2fs_convert_inline_data(struct inode *inode, struct page *page)
+int f2fs_convert_inline_page(struct dnode_of_data *dn, struct page *page)
 {
-       int err = 0;
-       struct page *ipage;
-       struct dnode_of_data dn;
        void *src_addr, *dst_addr;
        block_t new_blk_addr;
-       struct f2fs_sb_info *sbi = F2FS_I_SB(inode);
        struct f2fs_io_info fio = {
                .type = DATA,
                .rw = WRITE_SYNC | REQ_PRIO,
        };
+       int dirty, err;
 
-       f2fs_lock_op(sbi);
-       ipage = get_node_page(sbi, inode->i_ino);
-       if (IS_ERR(ipage)) {
-               err = PTR_ERR(ipage);
-               goto out;
-       }
+       f2fs_bug_on(F2FS_I_SB(dn->inode), page->index);
 
-       /* someone else converted inline_data already */
-       if (!f2fs_has_inline_data(inode))
-               goto out;
+       if (!f2fs_exist_data(dn->inode))
+               goto clear_out;
 
-       /*
-        * i_addr[0] is not used for inline data,
-        * so reserving new block will not destroy inline data
-        */
-       set_new_dnode(&dn, inode, ipage, NULL, 0);
-       err = f2fs_reserve_block(&dn, 0);
+       err = f2fs_reserve_block(dn, 0);
        if (err)
-               goto out;
+               return err;
 
        f2fs_wait_on_page_writeback(page, DATA);
+
+       if (PageUptodate(page))
+               goto no_update;
+
        zero_user_segment(page, MAX_INLINE_DATA, PAGE_CACHE_SIZE);
 
        /* Copy the whole inline data block */
-       src_addr = inline_data_addr(ipage);
-       dst_addr = kmap(page);
+       src_addr = inline_data_addr(dn->inode_page);
+       dst_addr = kmap_atomic(page);
        memcpy(dst_addr, src_addr, MAX_INLINE_DATA);
-       kunmap(page);
+       flush_dcache_page(page);
+       kunmap_atomic(dst_addr);
        SetPageUptodate(page);
+no_update:
+       /* clear dirty state */
+       dirty = clear_page_dirty_for_io(page);
 
        /* write data page to try to make data consistent */
        set_page_writeback(page);
-       write_data_page(page, &dn, &new_blk_addr, &fio);
-       update_extent_cache(new_blk_addr, &dn);
+
+       write_data_page(page, dn, &new_blk_addr, &fio);
+       update_extent_cache(new_blk_addr, dn);
        f2fs_wait_on_page_writeback(page, DATA);
+       if (dirty)
+               inode_dec_dirty_pages(dn->inode);
 
-       /* clear inline data and flag after data writeback */
-       zero_user_segment(ipage, INLINE_DATA_OFFSET,
-                                INLINE_DATA_OFFSET + MAX_INLINE_DATA);
-       clear_inode_flag(F2FS_I(inode), FI_INLINE_DATA);
-       stat_dec_inline_inode(inode);
+       /* this converted inline_data should be recovered. */
+       set_inode_flag(F2FS_I(dn->inode), FI_APPEND_WRITE);
 
-       sync_inode_page(&dn);
-       f2fs_put_dnode(&dn);
-out:
-       f2fs_unlock_op(sbi);
-       return err;
+       /* clear inline data and flag after data writeback */
+       truncate_inline_data(dn->inode_page, 0);
+clear_out:
+       stat_dec_inline_inode(dn->inode);
+       f2fs_clear_inline_inode(dn->inode);
+       sync_inode_page(dn);
+       f2fs_put_dnode(dn);
+       return 0;
 }
 
-int f2fs_convert_inline_data(struct inode *inode, pgoff_t to_size,
-                                               struct page *page)
+int f2fs_convert_inline_inode(struct inode *inode)
 {
-       struct page *new_page = page;
-       int err;
+       struct f2fs_sb_info *sbi = F2FS_I_SB(inode);
+       struct dnode_of_data dn;
+       struct page *ipage, *page;
+       int err = 0;
 
-       if (!f2fs_has_inline_data(inode))
-               return 0;
-       else if (to_size <= MAX_INLINE_DATA)
-               return 0;
+       page = grab_cache_page(inode->i_mapping, 0);
+       if (!page)
+               return -ENOMEM;
+
+       f2fs_lock_op(sbi);
 
-       if (!page || page->index != 0) {
-               new_page = grab_cache_page(inode->i_mapping, 0);
-               if (!new_page)
-                       return -ENOMEM;
+       ipage = get_node_page(sbi, inode->i_ino);
+       if (IS_ERR(ipage)) {
+               err = PTR_ERR(ipage);
+               goto out;
        }
 
-       err = __f2fs_convert_inline_data(inode, new_page);
-       if (!page || page->index != 0)
-               f2fs_put_page(new_page, 1);
+       set_new_dnode(&dn, inode, ipage, ipage, 0);
+
+       if (f2fs_has_inline_data(inode))
+               err = f2fs_convert_inline_page(&dn, page);
+
+       f2fs_put_dnode(&dn);
+out:
+       f2fs_unlock_op(sbi);
+
+       f2fs_put_page(page, 1);
        return err;
 }
 
-int f2fs_write_inline_data(struct inode *inode,
-                               struct page *page, unsigned size)
+int f2fs_write_inline_data(struct inode *inode, struct page *page)
 {
        void *src_addr, *dst_addr;
-       struct page *ipage;
        struct dnode_of_data dn;
        int err;
 
@@ -164,48 +177,39 @@ int f2fs_write_inline_data(struct inode *inode,
        err = get_dnode_of_data(&dn, 0, LOOKUP_NODE);
        if (err)
                return err;
-       ipage = dn.inode_page;
 
-       /* Release any data block if it is allocated */
        if (!f2fs_has_inline_data(inode)) {
-               int count = ADDRS_PER_PAGE(dn.node_page, F2FS_I(inode));
-               truncate_data_blocks_range(&dn, count);
-               set_inode_flag(F2FS_I(inode), FI_INLINE_DATA);
-               stat_inc_inline_inode(inode);
+               f2fs_put_dnode(&dn);
+               return -EAGAIN;
        }
 
-       f2fs_wait_on_page_writeback(ipage, NODE);
-       zero_user_segment(ipage, INLINE_DATA_OFFSET,
-                                INLINE_DATA_OFFSET + MAX_INLINE_DATA);
-       src_addr = kmap(page);
-       dst_addr = inline_data_addr(ipage);
-       memcpy(dst_addr, src_addr, size);
-       kunmap(page);
+       f2fs_bug_on(F2FS_I_SB(inode), page->index);
+
+       f2fs_wait_on_page_writeback(dn.inode_page, NODE);
+       src_addr = kmap_atomic(page);
+       dst_addr = inline_data_addr(dn.inode_page);
+       memcpy(dst_addr, src_addr, MAX_INLINE_DATA);
+       kunmap_atomic(src_addr);
 
        set_inode_flag(F2FS_I(inode), FI_APPEND_WRITE);
+       set_inode_flag(F2FS_I(inode), FI_DATA_EXIST);
+
        sync_inode_page(&dn);
        f2fs_put_dnode(&dn);
-
        return 0;
 }
 
-void truncate_inline_data(struct inode *inode, u64 from)
+void truncate_inline_data(struct page *ipage, u64 from)
 {
-       struct page *ipage;
+       void *addr;
 
        if (from >= MAX_INLINE_DATA)
                return;
 
-       ipage = get_node_page(F2FS_I_SB(inode), inode->i_ino);
-       if (IS_ERR(ipage))
-               return;
-
        f2fs_wait_on_page_writeback(ipage, NODE);
 
-       zero_user_segment(ipage, INLINE_DATA_OFFSET + from,
-                               INLINE_DATA_OFFSET + MAX_INLINE_DATA);
-       set_page_dirty(ipage);
-       f2fs_put_page(ipage, 1);
+       addr = inline_data_addr(ipage);
+       memset(addr + from, 0, MAX_INLINE_DATA - from);
 }
 
 bool recover_inline_data(struct inode *inode, struct page *npage)
@@ -237,6 +241,10 @@ process_inline:
                src_addr = inline_data_addr(npage);
                dst_addr = inline_data_addr(ipage);
                memcpy(dst_addr, src_addr, MAX_INLINE_DATA);
+
+               set_inode_flag(F2FS_I(inode), FI_INLINE_DATA);
+               set_inode_flag(F2FS_I(inode), FI_DATA_EXIST);
+
                update_inode(inode, ipage);
                f2fs_put_page(ipage, 1);
                return true;
@@ -245,15 +253,12 @@ process_inline:
        if (f2fs_has_inline_data(inode)) {
                ipage = get_node_page(sbi, inode->i_ino);
                f2fs_bug_on(sbi, IS_ERR(ipage));
-               f2fs_wait_on_page_writeback(ipage, NODE);
-               zero_user_segment(ipage, INLINE_DATA_OFFSET,
-                                INLINE_DATA_OFFSET + MAX_INLINE_DATA);
-               clear_inode_flag(F2FS_I(inode), FI_INLINE_DATA);
+               truncate_inline_data(ipage, 0);
+               f2fs_clear_inline_inode(inode);
                update_inode(inode, ipage);
                f2fs_put_page(ipage, 1);
        } else if (ri && (ri->i_inline & F2FS_INLINE_DATA)) {
                truncate_blocks(inode, 0, false);
-               set_inode_flag(F2FS_I(inode), FI_INLINE_DATA);
                goto process_inline;
        }
        return false;
@@ -265,8 +270,8 @@ struct f2fs_dir_entry *find_in_inline_dir(struct inode *dir,
        struct f2fs_sb_info *sbi = F2FS_SB(dir->i_sb);
        struct f2fs_inline_dentry *inline_dentry;
        struct f2fs_dir_entry *de;
+       struct f2fs_dentry_ptr d;
        struct page *ipage;
-       int max_slots = NR_INLINE_DENTRY;
 
        ipage = get_node_page(sbi, dir->i_ino);
        if (IS_ERR(ipage))
@@ -274,9 +279,9 @@ struct f2fs_dir_entry *find_in_inline_dir(struct inode *dir,
 
        inline_dentry = inline_data_addr(ipage);
 
-       de = find_target_dentry(name, &max_slots, &inline_dentry->dentry_bitmap,
-                                               inline_dentry->dentry,
-                                               inline_dentry->filename);
+       make_dentry_ptr(&d, (void *)inline_dentry, 2);
+       de = find_target_dentry(name, NULL, &d);
+
        unlock_page(ipage);
        if (de)
                *res_page = ipage;
@@ -287,7 +292,7 @@ struct f2fs_dir_entry *find_in_inline_dir(struct inode *dir,
         * For the most part, it should be a bug when name_len is zero.
         * We stop here for figuring out where the bugs has occurred.
         */
-       f2fs_bug_on(sbi, max_slots < 0);
+       f2fs_bug_on(sbi, d.max < 0);
        return de;
 }
 
@@ -314,26 +319,12 @@ int make_empty_inline_dir(struct inode *inode, struct inode *parent,
                                                        struct page *ipage)
 {
        struct f2fs_inline_dentry *dentry_blk;
-       struct f2fs_dir_entry *de;
+       struct f2fs_dentry_ptr d;
 
        dentry_blk = inline_data_addr(ipage);
 
-       de = &dentry_blk->dentry[0];
-       de->name_len = cpu_to_le16(1);
-       de->hash_code = 0;
-       de->ino = cpu_to_le32(inode->i_ino);
-       memcpy(dentry_blk->filename[0], ".", 1);
-       set_de_type(de, inode);
-
-       de = &dentry_blk->dentry[1];
-       de->hash_code = 0;
-       de->name_len = cpu_to_le16(2);
-       de->ino = cpu_to_le32(parent->i_ino);
-       memcpy(dentry_blk->filename[1], "..", 2);
-       set_de_type(de, inode);
-
-       test_and_set_bit_le(0, &dentry_blk->dentry_bitmap);
-       test_and_set_bit_le(1, &dentry_blk->dentry_bitmap);
+       make_dentry_ptr(&d, (void *)dentry_blk, 2);
+       do_make_empty_dir(inode, parent, &d);
 
        set_page_dirty(ipage);
 
@@ -345,7 +336,7 @@ int make_empty_inline_dir(struct inode *inode, struct inode *parent,
        return 0;
 }
 
-int f2fs_convert_inline_dir(struct inode *dir, struct page *ipage,
+static int f2fs_convert_inline_dir(struct inode *dir, struct page *ipage,
                                struct f2fs_inline_dentry *inline_dentry)
 {
        struct page *page;
@@ -365,7 +356,7 @@ int f2fs_convert_inline_dir(struct inode *dir, struct page *ipage,
        f2fs_wait_on_page_writeback(page, DATA);
        zero_user_segment(page, 0, PAGE_CACHE_SIZE);
 
-       dentry_blk = kmap(page);
+       dentry_blk = kmap_atomic(page);
 
        /* copy data from inline dentry block to new dentry block */
        memcpy(dentry_blk->dentry_bitmap, inline_dentry->dentry_bitmap,
@@ -375,15 +366,15 @@ int f2fs_convert_inline_dir(struct inode *dir, struct page *ipage,
        memcpy(dentry_blk->filename, inline_dentry->filename,
                                        NR_INLINE_DENTRY * F2FS_SLOT_LEN);
 
-       kunmap(page);
+       kunmap_atomic(dentry_blk);
        SetPageUptodate(page);
        set_page_dirty(page);
 
        /* clear inline dir and flag after data writeback */
-       zero_user_segment(ipage, INLINE_DATA_OFFSET,
-                                INLINE_DATA_OFFSET + MAX_INLINE_DATA);
+       truncate_inline_data(ipage, 0);
+
+       stat_dec_inline_dir(dir);
        clear_inode_flag(F2FS_I(dir), FI_INLINE_DENTRY);
-       stat_dec_inline_inode(dir);
 
        if (i_size_read(dir) < PAGE_CACHE_SIZE) {
                i_size_write(dir, PAGE_CACHE_SIZE);
@@ -517,49 +508,24 @@ bool f2fs_empty_inline_dir(struct inode *dir)
 int f2fs_read_inline_dir(struct file *file, struct dir_context *ctx)
 {
        struct inode *inode = file_inode(file);
-       struct f2fs_sb_info *sbi = F2FS_I_SB(inode);
-       unsigned int bit_pos = 0;
        struct f2fs_inline_dentry *inline_dentry = NULL;
-       struct f2fs_dir_entry *de = NULL;
        struct page *ipage = NULL;
-       unsigned char d_type = DT_UNKNOWN;
+       struct f2fs_dentry_ptr d;
 
        if (ctx->pos == NR_INLINE_DENTRY)
                return 0;
 
-       ipage = get_node_page(sbi, inode->i_ino);
+       ipage = get_node_page(F2FS_I_SB(inode), inode->i_ino);
        if (IS_ERR(ipage))
                return PTR_ERR(ipage);
 
-       bit_pos = ((unsigned long)ctx->pos % NR_INLINE_DENTRY);
-
        inline_dentry = inline_data_addr(ipage);
-       while (bit_pos < NR_INLINE_DENTRY) {
-               bit_pos = find_next_bit_le(&inline_dentry->dentry_bitmap,
-                                               NR_INLINE_DENTRY,
-                                               bit_pos);
-               if (bit_pos >= NR_INLINE_DENTRY)
-                       break;
-
-               de = &inline_dentry->dentry[bit_pos];
-               if (de->file_type < F2FS_FT_MAX)
-                       d_type = f2fs_filetype_table[de->file_type];
-               else
-                       d_type = DT_UNKNOWN;
-
-               if (!dir_emit(ctx,
-                               inline_dentry->filename[bit_pos],
-                               le16_to_cpu(de->name_len),
-                               le32_to_cpu(de->ino), d_type))
-                       goto out;
-
-               bit_pos += GET_DENTRY_SLOTS(le16_to_cpu(de->name_len));
-               ctx->pos = bit_pos;
-       }
 
-       ctx->pos = NR_INLINE_DENTRY;
-out:
-       f2fs_put_page(ipage, 1);
+       make_dentry_ptr(&d, (void *)inline_dentry, 2);
+
+       if (!f2fs_fill_dentries(ctx, &d, 0))
+               ctx->pos = NR_INLINE_DENTRY;
 
+       f2fs_put_page(ipage, 1);
        return 0;
 }