drivers/infiniband/hw/qedr/qedr.h

   1 /* QLogic qedr NIC Driver
   2  * Copyright (c) 2015-2016  QLogic Corporation
   3  *
   4  * This software is available to you under a choice of one of two
   5  * licenses.  You may choose to be licensed under the terms of the GNU
   6  * General Public License (GPL) Version 2, available from the file
   7  * COPYING in the main directory of this source tree, or the
   8  * OpenIB.org BSD license below:
   9  *
  10  *     Redistribution and use in source and binary forms, with or
  11  *     without modification, are permitted provided that the following
  12  *     conditions are met:
  13  *
  14  *      - Redistributions of source code must retain the above
  15  *        copyright notice, this list of conditions and the following
  16  *        disclaimer.
  17  *
  18  *      - Redistributions in binary form must reproduce the above
  19  *        copyright notice, this list of conditions and the following
  20  *        disclaimer in the documentation and /or other materials
  21  *        provided with the distribution.
  22  *
  23  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
  24  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  25  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
  26  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
  27  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  28  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
  29  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  30  * SOFTWARE.
  31  */
  32 #ifndef __QEDR_H__
  33 #define __QEDR_H__
  34
  35 #include <linux/pci.h>
  36 #include <rdma/ib_addr.h>
  37 #include <linux/qed/qed_if.h>
  38 #include <linux/qed/qed_chain.h>
  39 #include <linux/qed/qed_roce_if.h>
  40 #include <linux/qed/qede_roce.h>
  41 #include "qedr_hsi.h"
  42
  43 #define QEDR_MODULE_VERSION     "8.10.10.0"
  44 #define QEDR_NODE_DESC "QLogic 579xx RoCE HCA"
  45 #define DP_NAME(dev) ((dev)->ibdev.name)
  46
  47 #define DP_DEBUG(dev, module, fmt, ...)                                 \
  48         pr_debug("(%s) " module ": " fmt,                               \
  49                  DP_NAME(dev) ? DP_NAME(dev) : "", ## __VA_ARGS__)
  50
  51 #define QEDR_MSG_INIT "INIT"
  52 #define QEDR_MSG_MISC "MISC"
  53 #define QEDR_MSG_CQ   "  CQ"
  54 #define QEDR_MSG_MR   "  MR"
  55
  56 #define QEDR_CQ_MAGIC_NUMBER   (0x11223344)
  57
  58 struct qedr_dev;
  59
  60 struct qedr_cnq {
  61         struct qedr_dev         *dev;
  62         struct qed_chain        pbl;
  63         struct qed_sb_info      *sb;
  64         char                    name[32];
  65         u64                     n_comp;
  66         __le16                  *hw_cons_ptr;
  67         u8                      index;
  68 };
  69
  70 #define QEDR_MAX_SGID 128
  71
  72 struct qedr_device_attr {
  73         u32     vendor_id;
  74         u32     vendor_part_id;
  75         u32     hw_ver;
  76         u64     fw_ver;
  77         u64     node_guid;
  78         u64     sys_image_guid;
  79         u8      max_cnq;
  80         u8      max_sge;
  81         u16     max_inline;
  82         u32     max_sqe;
  83         u32     max_rqe;
  84         u8      max_qp_resp_rd_atomic_resc;
  85         u8      max_qp_req_rd_atomic_resc;
  86         u64     max_dev_resp_rd_atomic_resc;
  87         u32     max_cq;
  88         u32     max_qp;
  89         u32     max_mr;
  90         u64     max_mr_size;
  91         u32     max_cqe;
  92         u32     max_mw;
  93         u32     max_fmr;
  94         u32     max_mr_mw_fmr_pbl;
  95         u64     max_mr_mw_fmr_size;
  96         u32     max_pd;
  97         u32     max_ah;
  98         u8      max_pkey;
  99         u32     max_srq;
 100         u32     max_srq_wr;
 101         u8      max_srq_sge;
 102         u8      max_stats_queues;
 103         u32     dev_caps;
 104
 105         u64     page_size_caps;
 106         u8      dev_ack_delay;
 107         u32     reserved_lkey;
 108         u32     bad_pkey_counter;
 109         struct qed_rdma_events events;
 110 };
 111
 112 struct qedr_dev {
 113         struct ib_device        ibdev;
 114         struct qed_dev          *cdev;
 115         struct pci_dev          *pdev;
 116         struct net_device       *ndev;
 117
 118         enum ib_atomic_cap      atomic_cap;
 119
 120         void *rdma_ctx;
 121         struct qedr_device_attr attr;
 122
 123         const struct qed_rdma_ops *ops;
 124         struct qed_int_info     int_info;
 125
 126         struct qed_sb_info      *sb_array;
 127         struct qedr_cnq         *cnq_array;
 128         int                     num_cnq;
 129         int                     sb_start;
 130
 131         void __iomem            *db_addr;
 132         u64                     db_phys_addr;
 133         u32                     db_size;
 134         u16                     dpi;
 135
 136         union ib_gid *sgid_tbl;
 137
 138         /* Lock for sgid table */
 139         spinlock_t sgid_lock;
 140
 141         u64                     guid;
 142
 143         u32                     dp_module;
 144         u8                      dp_level;
 145         u8                      num_hwfns;
 146 };
 147
 148 #define QEDR_MAX_SQ_PBL                 (0x8000)
 149 #define QEDR_MAX_SQ_PBL_ENTRIES         (0x10000 / sizeof(void *))
 150 #define QEDR_SQE_ELEMENT_SIZE           (sizeof(struct rdma_sq_sge))
 151 #define QEDR_MAX_SQE_ELEMENTS_PER_SQE   (ROCE_REQ_MAX_SINGLE_SQ_WQE_SIZE / \
 152                                          QEDR_SQE_ELEMENT_SIZE)
 153 #define QEDR_MAX_SQE_ELEMENTS_PER_PAGE  ((RDMA_RING_PAGE_SIZE) / \
 154                                          QEDR_SQE_ELEMENT_SIZE)
 155 #define QEDR_MAX_SQE                    ((QEDR_MAX_SQ_PBL_ENTRIES) *\
 156                                          (RDMA_RING_PAGE_SIZE) / \
 157                                          (QEDR_SQE_ELEMENT_SIZE) /\
 158                                          (QEDR_MAX_SQE_ELEMENTS_PER_SQE))
 159 /* RQ */
 160 #define QEDR_MAX_RQ_PBL                 (0x2000)
 161 #define QEDR_MAX_RQ_PBL_ENTRIES         (0x10000 / sizeof(void *))
 162 #define QEDR_RQE_ELEMENT_SIZE           (sizeof(struct rdma_rq_sge))
 163 #define QEDR_MAX_RQE_ELEMENTS_PER_RQE   (RDMA_MAX_SGE_PER_RQ_WQE)
 164 #define QEDR_MAX_RQE_ELEMENTS_PER_PAGE  ((RDMA_RING_PAGE_SIZE) / \
 165                                          QEDR_RQE_ELEMENT_SIZE)
 166 #define QEDR_MAX_RQE                    ((QEDR_MAX_RQ_PBL_ENTRIES) *\
 167                                          (RDMA_RING_PAGE_SIZE) / \
 168                                          (QEDR_RQE_ELEMENT_SIZE) /\
 169                                          (QEDR_MAX_RQE_ELEMENTS_PER_RQE))
 170
 171 #define QEDR_CQE_SIZE   (sizeof(union rdma_cqe))
 172 #define QEDR_MAX_CQE_PBL_SIZE (512 * 1024)
 173 #define QEDR_MAX_CQE_PBL_ENTRIES (((QEDR_MAX_CQE_PBL_SIZE) / \
 174                                   sizeof(u64)) - 1)
 175 #define QEDR_MAX_CQES ((u32)((QEDR_MAX_CQE_PBL_ENTRIES) * \
 176                              (QED_CHAIN_PAGE_SIZE) / QEDR_CQE_SIZE))
 177
 178 #define QEDR_ROCE_MAX_CNQ_SIZE          (0x4000)
 179
 180 #define QEDR_MAX_PORT                   (1)
 181
 182 #define QEDR_UVERBS(CMD_NAME) (1ull << IB_USER_VERBS_CMD_##CMD_NAME)
 183
 184 #define QEDR_ROCE_PKEY_MAX 1
 185 #define QEDR_ROCE_PKEY_TABLE_LEN 1
 186 #define QEDR_ROCE_PKEY_DEFAULT 0xffff
 187
 188 struct qedr_pbl {
 189         struct list_head list_entry;
 190         void *va;
 191         dma_addr_t pa;
 192 };
 193
 194 struct qedr_ucontext {
 195         struct ib_ucontext ibucontext;
 196         struct qedr_dev *dev;
 197         struct qedr_pd *pd;
 198         u64 dpi_addr;
 199         u64 dpi_phys_addr;
 200         u32 dpi_size;
 201         u16 dpi;
 202
 203         struct list_head mm_head;
 204
 205         /* Lock to protect mm list */
 206         struct mutex mm_list_lock;
 207 };
 208
 209 union db_prod64 {
 210         struct rdma_pwm_val32_data data;
 211         u64 raw;
 212 };
 213
 214 enum qedr_cq_type {
 215         QEDR_CQ_TYPE_GSI,
 216         QEDR_CQ_TYPE_KERNEL,
 217         QEDR_CQ_TYPE_USER,
 218 };
 219
 220 struct qedr_pbl_info {
 221         u32 num_pbls;
 222         u32 num_pbes;
 223         u32 pbl_size;
 224         u32 pbe_size;
 225         bool two_layered;
 226 };
 227
 228 struct qedr_userq {
 229         struct ib_umem *umem;
 230         struct qedr_pbl_info pbl_info;
 231         struct qedr_pbl *pbl_tbl;
 232         u64 buf_addr;
 233         size_t buf_len;
 234 };
 235
 236 struct qedr_cq {
 237         struct ib_cq ibcq;
 238
 239         enum qedr_cq_type cq_type;
 240         u32 sig;
 241
 242         u16 icid;
 243
 244         /* Lock to protect multiplem CQ's */
 245         spinlock_t cq_lock;
 246         u8 arm_flags;
 247         struct qed_chain pbl;
 248
 249         void __iomem *db_addr;
 250         union db_prod64 db;
 251
 252         u8 pbl_toggle;
 253         union rdma_cqe *latest_cqe;
 254         union rdma_cqe *toggle_cqe;
 255
 256         u32 cq_cons;
 257
 258         struct qedr_userq q;
 259 };
 260
 261 struct qedr_pd {
 262         struct ib_pd ibpd;
 263         u32 pd_id;
 264         struct qedr_ucontext *uctx;
 265 };
 266
 267 struct qedr_mm {
 268         struct {
 269                 u64 phy_addr;
 270                 unsigned long len;
 271         } key;
 272         struct list_head entry;
 273 };
 274
 275 static inline
 276 struct qedr_ucontext *get_qedr_ucontext(struct ib_ucontext *ibucontext)
 277 {
 278         return container_of(ibucontext, struct qedr_ucontext, ibucontext);
 279 }
 280
 281 static inline struct qedr_dev *get_qedr_dev(struct ib_device *ibdev)
 282 {
 283         return container_of(ibdev, struct qedr_dev, ibdev);
 284 }
 285
 286 static inline struct qedr_pd *get_qedr_pd(struct ib_pd *ibpd)
 287 {
 288         return container_of(ibpd, struct qedr_pd, ibpd);
 289 }
 290
 291 static inline struct qedr_cq *get_qedr_cq(struct ib_cq *ibcq)
 292 {
 293         return container_of(ibcq, struct qedr_cq, ibcq);
 294 }
 295
 296 #endif