drivers/infiniband/core/sysfs.c

   1 /*
   2  * Copyright (c) 2004, 2005 Topspin Communications.  All rights reserved.
   3  * Copyright (c) 2005 Mellanox Technologies Ltd.  All rights reserved.
   4  * Copyright (c) 2005 Sun Microsystems, Inc. All rights reserved.
   5  *
   6  * This software is available to you under a choice of one of two
   7  * licenses.  You may choose to be licensed under the terms of the GNU
   8  * General Public License (GPL) Version 2, available from the file
   9  * COPYING in the main directory of this source tree, or the
  10  * OpenIB.org BSD license below:
  11  *
  12  *     Redistribution and use in source and binary forms, with or
  13  *     without modification, are permitted provided that the following
  14  *     conditions are met:
  15  *
  16  *      - Redistributions of source code must retain the above
  17  *        copyright notice, this list of conditions and the following
  18  *        disclaimer.
  19  *
  20  *      - Redistributions in binary form must reproduce the above
  21  *        copyright notice, this list of conditions and the following
  22  *        disclaimer in the documentation and/or other materials
  23  *        provided with the distribution.
  24  *
  25  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
  26  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  27  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
  28  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
  29  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  30  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
  31  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  32  * SOFTWARE.
  33  */
  34
  35 #include "core_priv.h"
  36
  37 #include <linux/slab.h>
  38 #include <linux/stat.h>
  39 #include <linux/string.h>
  40 #include <linux/netdevice.h>
  41
  42 #include <rdma/ib_mad.h>
  43 #include <rdma/ib_pma.h>
  44
  45 struct ib_port;
  46
  47 struct gid_attr_group {
  48         struct ib_port          *port;
  49         struct kobject          kobj;
  50         struct attribute_group  ndev;
  51         struct attribute_group  type;
  52 };
  53 struct ib_port {
  54         struct kobject         kobj;
  55         struct ib_device      *ibdev;
  56         struct gid_attr_group *gid_attr_group;
  57         struct attribute_group gid_group;
  58         struct attribute_group pkey_group;
  59         struct attribute_group *pma_table;
  60         struct attribute_group *hw_stats_ag;
  61         struct rdma_hw_stats   *hw_stats;
  62         u8                     port_num;
  63 };
  64
  65 struct port_attribute {
  66         struct attribute attr;
  67         ssize_t (*show)(struct ib_port *, struct port_attribute *, char *buf);
  68         ssize_t (*store)(struct ib_port *, struct port_attribute *,
  69                          const char *buf, size_t count);
  70 };
  71
  72 #define PORT_ATTR(_name, _mode, _show, _store) \
  73 struct port_attribute port_attr_##_name = __ATTR(_name, _mode, _show, _store)
  74
  75 #define PORT_ATTR_RO(_name) \
  76 struct port_attribute port_attr_##_name = __ATTR_RO(_name)
  77
  78 struct port_table_attribute {
  79         struct port_attribute   attr;
  80         char                    name[8];
  81         int                     index;
  82         __be16                  attr_id;
  83 };
  84
  85 struct hw_stats_attribute {
  86         struct attribute        attr;
  87         ssize_t                 (*show)(struct kobject *kobj,
  88                                         struct attribute *attr, char *buf);
  89         ssize_t                 (*store)(struct kobject *kobj,
  90                                          struct attribute *attr,
  91                                          const char *buf,
  92                                          size_t count);
  93         int                     index;
  94         u8                      port_num;
  95 };
  96
  97 static ssize_t port_attr_show(struct kobject *kobj,
  98                               struct attribute *attr, char *buf)
  99 {
 100         struct port_attribute *port_attr =
 101                 container_of(attr, struct port_attribute, attr);
 102         struct ib_port *p = container_of(kobj, struct ib_port, kobj);
 103
 104         if (!port_attr->show)
 105                 return -EIO;
 106
 107         return port_attr->show(p, port_attr, buf);
 108 }
 109
 110 static const struct sysfs_ops port_sysfs_ops = {
 111         .show = port_attr_show
 112 };
 113
 114 static ssize_t gid_attr_show(struct kobject *kobj,
 115                              struct attribute *attr, char *buf)
 116 {
 117         struct port_attribute *port_attr =
 118                 container_of(attr, struct port_attribute, attr);
 119         struct ib_port *p = container_of(kobj, struct gid_attr_group,
 120                                          kobj)->port;
 121
 122         if (!port_attr->show)
 123                 return -EIO;
 124
 125         return port_attr->show(p, port_attr, buf);
 126 }
 127
 128 static const struct sysfs_ops gid_attr_sysfs_ops = {
 129         .show = gid_attr_show
 130 };
 131
 132 static ssize_t state_show(struct ib_port *p, struct port_attribute *unused,
 133                           char *buf)
 134 {
 135         struct ib_port_attr attr;
 136         ssize_t ret;
 137
 138         static const char *state_name[] = {
 139                 [IB_PORT_NOP]           = "NOP",
 140                 [IB_PORT_DOWN]          = "DOWN",
 141                 [IB_PORT_INIT]          = "INIT",
 142                 [IB_PORT_ARMED]         = "ARMED",
 143                 [IB_PORT_ACTIVE]        = "ACTIVE",
 144                 [IB_PORT_ACTIVE_DEFER]  = "ACTIVE_DEFER"
 145         };
 146
 147         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 148         if (ret)
 149                 return ret;
 150
 151         return sprintf(buf, "%d: %s\n", attr.state,
 152                        attr.state >= 0 && attr.state < ARRAY_SIZE(state_name) ?
 153                        state_name[attr.state] : "UNKNOWN");
 154 }
 155
 156 static ssize_t lid_show(struct ib_port *p, struct port_attribute *unused,
 157                         char *buf)
 158 {
 159         struct ib_port_attr attr;
 160         ssize_t ret;
 161
 162         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 163         if (ret)
 164                 return ret;
 165
 166         return sprintf(buf, "0x%x\n", attr.lid);
 167 }
 168
 169 static ssize_t lid_mask_count_show(struct ib_port *p,
 170                                    struct port_attribute *unused,
 171                                    char *buf)
 172 {
 173         struct ib_port_attr attr;
 174         ssize_t ret;
 175
 176         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 177         if (ret)
 178                 return ret;
 179
 180         return sprintf(buf, "%d\n", attr.lmc);
 181 }
 182
 183 static ssize_t sm_lid_show(struct ib_port *p, struct port_attribute *unused,
 184                            char *buf)
 185 {
 186         struct ib_port_attr attr;
 187         ssize_t ret;
 188
 189         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 190         if (ret)
 191                 return ret;
 192
 193         return sprintf(buf, "0x%x\n", attr.sm_lid);
 194 }
 195
 196 static ssize_t sm_sl_show(struct ib_port *p, struct port_attribute *unused,
 197                           char *buf)
 198 {
 199         struct ib_port_attr attr;
 200         ssize_t ret;
 201
 202         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 203         if (ret)
 204                 return ret;
 205
 206         return sprintf(buf, "%d\n", attr.sm_sl);
 207 }
 208
 209 static ssize_t cap_mask_show(struct ib_port *p, struct port_attribute *unused,
 210                              char *buf)
 211 {
 212         struct ib_port_attr attr;
 213         ssize_t ret;
 214
 215         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 216         if (ret)
 217                 return ret;
 218
 219         return sprintf(buf, "0x%08x\n", attr.port_cap_flags);
 220 }
 221
 222 static ssize_t rate_show(struct ib_port *p, struct port_attribute *unused,
 223                          char *buf)
 224 {
 225         struct ib_port_attr attr;
 226         char *speed = "";
 227         int rate;               /* in deci-Gb/sec */
 228         ssize_t ret;
 229
 230         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 231         if (ret)
 232                 return ret;
 233
 234         switch (attr.active_speed) {
 235         case IB_SPEED_DDR:
 236                 speed = " DDR";
 237                 rate = 50;
 238                 break;
 239         case IB_SPEED_QDR:
 240                 speed = " QDR";
 241                 rate = 100;
 242                 break;
 243         case IB_SPEED_FDR10:
 244                 speed = " FDR10";
 245                 rate = 100;
 246                 break;
 247         case IB_SPEED_FDR:
 248                 speed = " FDR";
 249                 rate = 140;
 250                 break;
 251         case IB_SPEED_EDR:
 252                 speed = " EDR";
 253                 rate = 250;
 254                 break;
 255         case IB_SPEED_SDR:
 256         default:                /* default to SDR for invalid rates */
 257                 rate = 25;
 258                 break;
 259         }
 260
 261         rate *= ib_width_enum_to_int(attr.active_width);
 262         if (rate < 0)
 263                 return -EINVAL;
 264
 265         return sprintf(buf, "%d%s Gb/sec (%dX%s)\n",
 266                        rate / 10, rate % 10 ? ".5" : "",
 267                        ib_width_enum_to_int(attr.active_width), speed);
 268 }
 269
 270 static ssize_t phys_state_show(struct ib_port *p, struct port_attribute *unused,
 271                                char *buf)
 272 {
 273         struct ib_port_attr attr;
 274
 275         ssize_t ret;
 276
 277         ret = ib_query_port(p->ibdev, p->port_num, &attr);
 278         if (ret)
 279                 return ret;
 280
 281         switch (attr.phys_state) {
 282         case 1:  return sprintf(buf, "1: Sleep\n");
 283         case 2:  return sprintf(buf, "2: Polling\n");
 284         case 3:  return sprintf(buf, "3: Disabled\n");
 285         case 4:  return sprintf(buf, "4: PortConfigurationTraining\n");
 286         case 5:  return sprintf(buf, "5: LinkUp\n");
 287         case 6:  return sprintf(buf, "6: LinkErrorRecovery\n");
 288         case 7:  return sprintf(buf, "7: Phy Test\n");
 289         default: return sprintf(buf, "%d: <unknown>\n", attr.phys_state);
 290         }
 291 }
 292
 293 static ssize_t link_layer_show(struct ib_port *p, struct port_attribute *unused,
 294                                char *buf)
 295 {
 296         switch (rdma_port_get_link_layer(p->ibdev, p->port_num)) {
 297         case IB_LINK_LAYER_INFINIBAND:
 298                 return sprintf(buf, "%s\n", "InfiniBand");
 299         case IB_LINK_LAYER_ETHERNET:
 300                 return sprintf(buf, "%s\n", "Ethernet");
 301         default:
 302                 return sprintf(buf, "%s\n", "Unknown");
 303         }
 304 }
 305
 306 static PORT_ATTR_RO(state);
 307 static PORT_ATTR_RO(lid);
 308 static PORT_ATTR_RO(lid_mask_count);
 309 static PORT_ATTR_RO(sm_lid);
 310 static PORT_ATTR_RO(sm_sl);
 311 static PORT_ATTR_RO(cap_mask);
 312 static PORT_ATTR_RO(rate);
 313 static PORT_ATTR_RO(phys_state);
 314 static PORT_ATTR_RO(link_layer);
 315
 316 static struct attribute *port_default_attrs[] = {
 317         &port_attr_state.attr,
 318         &port_attr_lid.attr,
 319         &port_attr_lid_mask_count.attr,
 320         &port_attr_sm_lid.attr,
 321         &port_attr_sm_sl.attr,
 322         &port_attr_cap_mask.attr,
 323         &port_attr_rate.attr,
 324         &port_attr_phys_state.attr,
 325         &port_attr_link_layer.attr,
 326         NULL
 327 };
 328
 329 static size_t print_ndev(struct ib_gid_attr *gid_attr, char *buf)
 330 {
 331         if (!gid_attr->ndev)
 332                 return -EINVAL;
 333
 334         return sprintf(buf, "%s\n", gid_attr->ndev->name);
 335 }
 336
 337 static size_t print_gid_type(struct ib_gid_attr *gid_attr, char *buf)
 338 {
 339         return sprintf(buf, "%s\n", ib_cache_gid_type_str(gid_attr->gid_type));
 340 }
 341
 342 static ssize_t _show_port_gid_attr(struct ib_port *p,
 343                                    struct port_attribute *attr,
 344                                    char *buf,
 345                                    size_t (*print)(struct ib_gid_attr *gid_attr,
 346                                                    char *buf))
 347 {
 348         struct port_table_attribute *tab_attr =
 349                 container_of(attr, struct port_table_attribute, attr);
 350         union ib_gid gid;
 351         struct ib_gid_attr gid_attr = {};
 352         ssize_t ret;
 353
 354         ret = ib_query_gid(p->ibdev, p->port_num, tab_attr->index, &gid,
 355                            &gid_attr);
 356         if (ret)
 357                 goto err;
 358
 359         ret = print(&gid_attr, buf);
 360
 361 err:
 362         if (gid_attr.ndev)
 363                 dev_put(gid_attr.ndev);
 364         return ret;
 365 }
 366
 367 static ssize_t show_port_gid(struct ib_port *p, struct port_attribute *attr,
 368                              char *buf)
 369 {
 370         struct port_table_attribute *tab_attr =
 371                 container_of(attr, struct port_table_attribute, attr);
 372         union ib_gid gid;
 373         ssize_t ret;
 374
 375         ret = ib_query_gid(p->ibdev, p->port_num, tab_attr->index, &gid, NULL);
 376         if (ret)
 377                 return ret;
 378
 379         return sprintf(buf, "%pI6\n", gid.raw);
 380 }
 381
 382 static ssize_t show_port_gid_attr_ndev(struct ib_port *p,
 383                                        struct port_attribute *attr, char *buf)
 384 {
 385         return _show_port_gid_attr(p, attr, buf, print_ndev);
 386 }
 387
 388 static ssize_t show_port_gid_attr_gid_type(struct ib_port *p,
 389                                            struct port_attribute *attr,
 390                                            char *buf)
 391 {
 392         return _show_port_gid_attr(p, attr, buf, print_gid_type);
 393 }
 394
 395 static ssize_t show_port_pkey(struct ib_port *p, struct port_attribute *attr,
 396                               char *buf)
 397 {
 398         struct port_table_attribute *tab_attr =
 399                 container_of(attr, struct port_table_attribute, attr);
 400         u16 pkey;
 401         ssize_t ret;
 402
 403         ret = ib_query_pkey(p->ibdev, p->port_num, tab_attr->index, &pkey);
 404         if (ret)
 405                 return ret;
 406
 407         return sprintf(buf, "0x%04x\n", pkey);
 408 }
 409
 410 #define PORT_PMA_ATTR(_name, _counter, _width, _offset)                 \
 411 struct port_table_attribute port_pma_attr_##_name = {                   \
 412         .attr  = __ATTR(_name, S_IRUGO, show_pma_counter, NULL),        \
 413         .index = (_offset) | ((_width) << 16) | ((_counter) << 24),     \
 414         .attr_id = IB_PMA_PORT_COUNTERS ,                               \
 415 }
 416
 417 #define PORT_PMA_ATTR_EXT(_name, _width, _offset)                       \
 418 struct port_table_attribute port_pma_attr_ext_##_name = {               \
 419         .attr  = __ATTR(_name, S_IRUGO, show_pma_counter, NULL),        \
 420         .index = (_offset) | ((_width) << 16),                          \
 421         .attr_id = IB_PMA_PORT_COUNTERS_EXT ,                           \
 422 }
 423
 424 /*
 425  * Get a Perfmgmt MAD block of data.
 426  * Returns error code or the number of bytes retrieved.
 427  */
 428 static int get_perf_mad(struct ib_device *dev, int port_num, __be16 attr,
 429                 void *data, int offset, size_t size)
 430 {
 431         struct ib_mad *in_mad;
 432         struct ib_mad *out_mad;
 433         size_t mad_size = sizeof(*out_mad);
 434         u16 out_mad_pkey_index = 0;
 435         ssize_t ret;
 436
 437         if (!dev->process_mad)
 438                 return -ENOSYS;
 439
 440         in_mad  = kzalloc(sizeof *in_mad, GFP_KERNEL);
 441         out_mad = kmalloc(sizeof *out_mad, GFP_KERNEL);
 442         if (!in_mad || !out_mad) {
 443                 ret = -ENOMEM;
 444                 goto out;
 445         }
 446
 447         in_mad->mad_hdr.base_version  = 1;
 448         in_mad->mad_hdr.mgmt_class    = IB_MGMT_CLASS_PERF_MGMT;
 449         in_mad->mad_hdr.class_version = 1;
 450         in_mad->mad_hdr.method        = IB_MGMT_METHOD_GET;
 451         in_mad->mad_hdr.attr_id       = attr;
 452
 453         if (attr != IB_PMA_CLASS_PORT_INFO)
 454                 in_mad->data[41] = port_num;    /* PortSelect field */
 455
 456         if ((dev->process_mad(dev, IB_MAD_IGNORE_MKEY,
 457                  port_num, NULL, NULL,
 458                  (const struct ib_mad_hdr *)in_mad, mad_size,
 459                  (struct ib_mad_hdr *)out_mad, &mad_size,
 460                  &out_mad_pkey_index) &
 461              (IB_MAD_RESULT_SUCCESS | IB_MAD_RESULT_REPLY)) !=
 462             (IB_MAD_RESULT_SUCCESS | IB_MAD_RESULT_REPLY)) {
 463                 ret = -EINVAL;
 464                 goto out;
 465         }
 466         memcpy(data, out_mad->data + offset, size);
 467         ret = size;
 468 out:
 469         kfree(in_mad);
 470         kfree(out_mad);
 471         return ret;
 472 }
 473
 474 static ssize_t show_pma_counter(struct ib_port *p, struct port_attribute *attr,
 475                                 char *buf)
 476 {
 477         struct port_table_attribute *tab_attr =
 478                 container_of(attr, struct port_table_attribute, attr);
 479         int offset = tab_attr->index & 0xffff;
 480         int width  = (tab_attr->index >> 16) & 0xff;
 481         ssize_t ret;
 482         u8 data[8];
 483
 484         ret = get_perf_mad(p->ibdev, p->port_num, tab_attr->attr_id, &data,
 485                         40 + offset / 8, sizeof(data));
 486         if (ret < 0)
 487                 return sprintf(buf, "N/A (no PMA)\n");
 488
 489         switch (width) {
 490         case 4:
 491                 ret = sprintf(buf, "%u\n", (*data >>
 492                                             (4 - (offset % 8))) & 0xf);
 493                 break;
 494         case 8:
 495                 ret = sprintf(buf, "%u\n", *data);
 496                 break;
 497         case 16:
 498                 ret = sprintf(buf, "%u\n",
 499                               be16_to_cpup((__be16 *)data));
 500                 break;
 501         case 32:
 502                 ret = sprintf(buf, "%u\n",
 503                               be32_to_cpup((__be32 *)data));
 504                 break;
 505         case 64:
 506                 ret = sprintf(buf, "%llu\n",
 507                                 be64_to_cpup((__be64 *)data));
 508                 break;
 509
 510         default:
 511                 ret = 0;
 512         }
 513
 514         return ret;
 515 }
 516
 517 static PORT_PMA_ATTR(symbol_error                   ,  0, 16,  32);
 518 static PORT_PMA_ATTR(link_error_recovery            ,  1,  8,  48);
 519 static PORT_PMA_ATTR(link_downed                    ,  2,  8,  56);
 520 static PORT_PMA_ATTR(port_rcv_errors                ,  3, 16,  64);
 521 static PORT_PMA_ATTR(port_rcv_remote_physical_errors,  4, 16,  80);
 522 static PORT_PMA_ATTR(port_rcv_switch_relay_errors   ,  5, 16,  96);
 523 static PORT_PMA_ATTR(port_xmit_discards             ,  6, 16, 112);
 524 static PORT_PMA_ATTR(port_xmit_constraint_errors    ,  7,  8, 128);
 525 static PORT_PMA_ATTR(port_rcv_constraint_errors     ,  8,  8, 136);
 526 static PORT_PMA_ATTR(local_link_integrity_errors    ,  9,  4, 152);
 527 static PORT_PMA_ATTR(excessive_buffer_overrun_errors, 10,  4, 156);
 528 static PORT_PMA_ATTR(VL15_dropped                   , 11, 16, 176);
 529 static PORT_PMA_ATTR(port_xmit_data                 , 12, 32, 192);
 530 static PORT_PMA_ATTR(port_rcv_data                  , 13, 32, 224);
 531 static PORT_PMA_ATTR(port_xmit_packets              , 14, 32, 256);
 532 static PORT_PMA_ATTR(port_rcv_packets               , 15, 32, 288);
 533
 534 /*
 535  * Counters added by extended set
 536  */
 537 static PORT_PMA_ATTR_EXT(port_xmit_data             , 64,  64);
 538 static PORT_PMA_ATTR_EXT(port_rcv_data              , 64, 128);
 539 static PORT_PMA_ATTR_EXT(port_xmit_packets          , 64, 192);
 540 static PORT_PMA_ATTR_EXT(port_rcv_packets           , 64, 256);
 541 static PORT_PMA_ATTR_EXT(unicast_xmit_packets       , 64, 320);
 542 static PORT_PMA_ATTR_EXT(unicast_rcv_packets        , 64, 384);
 543 static PORT_PMA_ATTR_EXT(multicast_xmit_packets     , 64, 448);
 544 static PORT_PMA_ATTR_EXT(multicast_rcv_packets      , 64, 512);
 545
 546 static struct attribute *pma_attrs[] = {
 547         &port_pma_attr_symbol_error.attr.attr,
 548         &port_pma_attr_link_error_recovery.attr.attr,
 549         &port_pma_attr_link_downed.attr.attr,
 550         &port_pma_attr_port_rcv_errors.attr.attr,
 551         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
 552         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
 553         &port_pma_attr_port_xmit_discards.attr.attr,
 554         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
 555         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
 556         &port_pma_attr_local_link_integrity_errors.attr.attr,
 557         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
 558         &port_pma_attr_VL15_dropped.attr.attr,
 559         &port_pma_attr_port_xmit_data.attr.attr,
 560         &port_pma_attr_port_rcv_data.attr.attr,
 561         &port_pma_attr_port_xmit_packets.attr.attr,
 562         &port_pma_attr_port_rcv_packets.attr.attr,
 563         NULL
 564 };
 565
 566 static struct attribute *pma_attrs_ext[] = {
 567         &port_pma_attr_symbol_error.attr.attr,
 568         &port_pma_attr_link_error_recovery.attr.attr,
 569         &port_pma_attr_link_downed.attr.attr,
 570         &port_pma_attr_port_rcv_errors.attr.attr,
 571         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
 572         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
 573         &port_pma_attr_port_xmit_discards.attr.attr,
 574         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
 575         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
 576         &port_pma_attr_local_link_integrity_errors.attr.attr,
 577         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
 578         &port_pma_attr_VL15_dropped.attr.attr,
 579         &port_pma_attr_ext_port_xmit_data.attr.attr,
 580         &port_pma_attr_ext_port_rcv_data.attr.attr,
 581         &port_pma_attr_ext_port_xmit_packets.attr.attr,
 582         &port_pma_attr_ext_port_rcv_packets.attr.attr,
 583         &port_pma_attr_ext_unicast_rcv_packets.attr.attr,
 584         &port_pma_attr_ext_unicast_xmit_packets.attr.attr,
 585         &port_pma_attr_ext_multicast_rcv_packets.attr.attr,
 586         &port_pma_attr_ext_multicast_xmit_packets.attr.attr,
 587         NULL
 588 };
 589
 590 static struct attribute *pma_attrs_noietf[] = {
 591         &port_pma_attr_symbol_error.attr.attr,
 592         &port_pma_attr_link_error_recovery.attr.attr,
 593         &port_pma_attr_link_downed.attr.attr,
 594         &port_pma_attr_port_rcv_errors.attr.attr,
 595         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
 596         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
 597         &port_pma_attr_port_xmit_discards.attr.attr,
 598         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
 599         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
 600         &port_pma_attr_local_link_integrity_errors.attr.attr,
 601         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
 602         &port_pma_attr_VL15_dropped.attr.attr,
 603         &port_pma_attr_ext_port_xmit_data.attr.attr,
 604         &port_pma_attr_ext_port_rcv_data.attr.attr,
 605         &port_pma_attr_ext_port_xmit_packets.attr.attr,
 606         &port_pma_attr_ext_port_rcv_packets.attr.attr,
 607         NULL
 608 };
 609
 610 static struct attribute_group pma_group = {
 611         .name  = "counters",
 612         .attrs  = pma_attrs
 613 };
 614
 615 static struct attribute_group pma_group_ext = {
 616         .name  = "counters",
 617         .attrs  = pma_attrs_ext
 618 };
 619
 620 static struct attribute_group pma_group_noietf = {
 621         .name  = "counters",
 622         .attrs  = pma_attrs_noietf
 623 };
 624
 625 static void ib_port_release(struct kobject *kobj)
 626 {
 627         struct ib_port *p = container_of(kobj, struct ib_port, kobj);
 628         struct attribute *a;
 629         int i;
 630
 631         if (p->gid_group.attrs) {
 632                 for (i = 0; (a = p->gid_group.attrs[i]); ++i)
 633                         kfree(a);
 634
 635                 kfree(p->gid_group.attrs);
 636         }
 637
 638         if (p->pkey_group.attrs) {
 639                 for (i = 0; (a = p->pkey_group.attrs[i]); ++i)
 640                         kfree(a);
 641
 642                 kfree(p->pkey_group.attrs);
 643         }
 644
 645         kfree(p);
 646 }
 647
 648 static void ib_port_gid_attr_release(struct kobject *kobj)
 649 {
 650         struct gid_attr_group *g = container_of(kobj, struct gid_attr_group,
 651                                                 kobj);
 652         struct attribute *a;
 653         int i;
 654
 655         if (g->ndev.attrs) {
 656                 for (i = 0; (a = g->ndev.attrs[i]); ++i)
 657                         kfree(a);
 658
 659                 kfree(g->ndev.attrs);
 660         }
 661
 662         if (g->type.attrs) {
 663                 for (i = 0; (a = g->type.attrs[i]); ++i)
 664                         kfree(a);
 665
 666                 kfree(g->type.attrs);
 667         }
 668
 669         kfree(g);
 670 }
 671
 672 static struct kobj_type port_type = {
 673         .release       = ib_port_release,
 674         .sysfs_ops     = &port_sysfs_ops,
 675         .default_attrs = port_default_attrs
 676 };
 677
 678 static struct kobj_type gid_attr_type = {
 679         .sysfs_ops      = &gid_attr_sysfs_ops,
 680         .release        = ib_port_gid_attr_release
 681 };
 682
 683 static struct attribute **
 684 alloc_group_attrs(ssize_t (*show)(struct ib_port *,
 685                                   struct port_attribute *, char *buf),
 686                   int len)
 687 {
 688         struct attribute **tab_attr;
 689         struct port_table_attribute *element;
 690         int i;
 691
 692         tab_attr = kcalloc(1 + len, sizeof(struct attribute *), GFP_KERNEL);
 693         if (!tab_attr)
 694                 return NULL;
 695
 696         for (i = 0; i < len; i++) {
 697                 element = kzalloc(sizeof(struct port_table_attribute),
 698                                   GFP_KERNEL);
 699                 if (!element)
 700                         goto err;
 701
 702                 if (snprintf(element->name, sizeof(element->name),
 703                              "%d", i) >= sizeof(element->name)) {
 704                         kfree(element);
 705                         goto err;
 706                 }
 707
 708                 element->attr.attr.name  = element->name;
 709                 element->attr.attr.mode  = S_IRUGO;
 710                 element->attr.show       = show;
 711                 element->index           = i;
 712                 sysfs_attr_init(&element->attr.attr);
 713
 714                 tab_attr[i] = &element->attr.attr;
 715         }
 716
 717         return tab_attr;
 718
 719 err:
 720         while (--i >= 0)
 721                 kfree(tab_attr[i]);
 722         kfree(tab_attr);
 723         return NULL;
 724 }
 725
 726 /*
 727  * Figure out which counter table to use depending on
 728  * the device capabilities.
 729  */
 730 static struct attribute_group *get_counter_table(struct ib_device *dev,
 731                                                  int port_num)
 732 {
 733         struct ib_class_port_info cpi;
 734
 735         if (get_perf_mad(dev, port_num, IB_PMA_CLASS_PORT_INFO,
 736                                 &cpi, 40, sizeof(cpi)) >= 0) {
 737                 if (cpi.capability_mask & IB_PMA_CLASS_CAP_EXT_WIDTH)
 738                         /* We have extended counters */
 739                         return &pma_group_ext;
 740
 741                 if (cpi.capability_mask & IB_PMA_CLASS_CAP_EXT_WIDTH_NOIETF)
 742                         /* But not the IETF ones */
 743                         return &pma_group_noietf;
 744         }
 745
 746         /* Fall back to normal counters */
 747         return &pma_group;
 748 }
 749
 750 static int update_hw_stats(struct ib_device *dev, struct rdma_hw_stats *stats,
 751                            u8 port_num, int index)
 752 {
 753         int ret;
 754
 755         if (time_is_after_eq_jiffies(stats->timestamp + stats->lifespan))
 756                 return 0;
 757         ret = dev->get_hw_stats(dev, stats, port_num, index);
 758         if (ret < 0)
 759                 return ret;
 760         if (ret == stats->num_counters)
 761                 stats->timestamp = jiffies;
 762
 763         return 0;
 764 }
 765
 766 static ssize_t print_hw_stat(struct rdma_hw_stats *stats, int index, char *buf)
 767 {
 768         return sprintf(buf, "%llu\n", stats->value[index]);
 769 }
 770
 771 static ssize_t show_hw_stats(struct kobject *kobj, struct attribute *attr,
 772                              char *buf)
 773 {
 774         struct ib_device *dev;
 775         struct ib_port *port;
 776         struct hw_stats_attribute *hsa;
 777         struct rdma_hw_stats *stats;
 778         int ret;
 779
 780         hsa = container_of(attr, struct hw_stats_attribute, attr);
 781         if (!hsa->port_num) {
 782                 dev = container_of((struct device *)kobj,
 783                                    struct ib_device, dev);
 784                 stats = dev->hw_stats;
 785         } else {
 786                 port = container_of(kobj, struct ib_port, kobj);
 787                 dev = port->ibdev;
 788                 stats = port->hw_stats;
 789         }
 790         ret = update_hw_stats(dev, stats, hsa->port_num, hsa->index);
 791         if (ret)
 792                 return ret;
 793         return print_hw_stat(stats, hsa->index, buf);
 794 }
 795
 796 static ssize_t show_stats_lifespan(struct kobject *kobj,
 797                                    struct attribute *attr,
 798                                    char *buf)
 799 {
 800         struct hw_stats_attribute *hsa;
 801         int msecs;
 802
 803         hsa = container_of(attr, struct hw_stats_attribute, attr);
 804         if (!hsa->port_num) {
 805                 struct ib_device *dev = container_of((struct device *)kobj,
 806                                                      struct ib_device, dev);
 807                 msecs = jiffies_to_msecs(dev->hw_stats->lifespan);
 808         } else {
 809                 struct ib_port *p = container_of(kobj, struct ib_port, kobj);
 810                 msecs = jiffies_to_msecs(p->hw_stats->lifespan);
 811         }
 812         return sprintf(buf, "%d\n", msecs);
 813 }
 814
 815 static ssize_t set_stats_lifespan(struct kobject *kobj,
 816                                   struct attribute *attr,
 817                                   const char *buf, size_t count)
 818 {
 819         struct hw_stats_attribute *hsa;
 820         int msecs;
 821         int jiffies;
 822         int ret;
 823
 824         ret = kstrtoint(buf, 10, &msecs);
 825         if (ret)
 826                 return ret;
 827         if (msecs < 0 || msecs > 10000)
 828                 return -EINVAL;
 829         jiffies = msecs_to_jiffies(msecs);
 830         hsa = container_of(attr, struct hw_stats_attribute, attr);
 831         if (!hsa->port_num) {
 832                 struct ib_device *dev = container_of((struct device *)kobj,
 833                                                      struct ib_device, dev);
 834                 dev->hw_stats->lifespan = jiffies;
 835         } else {
 836                 struct ib_port *p = container_of(kobj, struct ib_port, kobj);
 837                 p->hw_stats->lifespan = jiffies;
 838         }
 839         return count;
 840 }
 841
 842 static void free_hsag(struct kobject *kobj, struct attribute_group *attr_group)
 843 {
 844         struct attribute **attr;
 845
 846         sysfs_remove_group(kobj, attr_group);
 847
 848         for (attr = attr_group->attrs; *attr; attr++)
 849                 kfree(*attr);
 850         kfree(attr_group);
 851 }
 852
 853 static struct attribute *alloc_hsa(int index, u8 port_num, const char *name)
 854 {
 855         struct hw_stats_attribute *hsa;
 856
 857         hsa = kmalloc(sizeof(*hsa), GFP_KERNEL);
 858         if (!hsa)
 859                 return NULL;
 860
 861         hsa->attr.name = (char *)name;
 862         hsa->attr.mode = S_IRUGO;
 863         hsa->show = show_hw_stats;
 864         hsa->store = NULL;
 865         hsa->index = index;
 866         hsa->port_num = port_num;
 867
 868         return &hsa->attr;
 869 }
 870
 871 static struct attribute *alloc_hsa_lifespan(char *name, u8 port_num)
 872 {
 873         struct hw_stats_attribute *hsa;
 874
 875         hsa = kmalloc(sizeof(*hsa), GFP_KERNEL);
 876         if (!hsa)
 877                 return NULL;
 878
 879         hsa->attr.name = name;
 880         hsa->attr.mode = S_IWUSR | S_IRUGO;
 881         hsa->show = show_stats_lifespan;
 882         hsa->store = set_stats_lifespan;
 883         hsa->index = 0;
 884         hsa->port_num = port_num;
 885
 886         return &hsa->attr;
 887 }
 888
 889 static void setup_hw_stats(struct ib_device *device, struct ib_port *port,
 890                            u8 port_num)
 891 {
 892         struct attribute_group *hsag;
 893         struct rdma_hw_stats *stats;
 894         int i, ret;
 895
 896         stats = device->alloc_hw_stats(device, port_num);
 897
 898         if (!stats)
 899                 return;
 900
 901         if (!stats->names || stats->num_counters <= 0)
 902                 goto err_free_stats;
 903
 904         /*
 905          * Two extra attribue elements here, one for the lifespan entry and
 906          * one to NULL terminate the list for the sysfs core code
 907          */
 908         hsag = kzalloc(sizeof(*hsag) +
 909                        sizeof(void *) * (stats->num_counters + 2),
 910                        GFP_KERNEL);
 911         if (!hsag)
 912                 goto err_free_stats;
 913
 914         ret = device->get_hw_stats(device, stats, port_num,
 915                                    stats->num_counters);
 916         if (ret != stats->num_counters)
 917                 goto err_free_hsag;
 918
 919         stats->timestamp = jiffies;
 920
 921         hsag->name = "hw_counters";
 922         hsag->attrs = (void *)hsag + sizeof(*hsag);
 923
 924         for (i = 0; i < stats->num_counters; i++) {
 925                 hsag->attrs[i] = alloc_hsa(i, port_num, stats->names[i]);
 926                 if (!hsag->attrs[i])
 927                         goto err;
 928         }
 929
 930         /* treat an error here as non-fatal */
 931         hsag->attrs[i] = alloc_hsa_lifespan("lifespan", port_num);
 932
 933         if (port) {
 934                 struct kobject *kobj = &port->kobj;
 935                 ret = sysfs_create_group(kobj, hsag);
 936                 if (ret)
 937                         goto err;
 938                 port->hw_stats_ag = hsag;
 939                 port->hw_stats = stats;
 940         } else {
 941                 struct kobject *kobj = &device->dev.kobj;
 942                 ret = sysfs_create_group(kobj, hsag);
 943                 if (ret)
 944                         goto err;
 945                 device->hw_stats_ag = hsag;
 946                 device->hw_stats = stats;
 947         }
 948
 949         return;
 950
 951 err:
 952         for (; i >= 0; i--)
 953                 kfree(hsag->attrs[i]);
 954 err_free_hsag:
 955         kfree(hsag);
 956 err_free_stats:
 957         kfree(stats);
 958         return;
 959 }
 960
 961 static int add_port(struct ib_device *device, int port_num,
 962                     int (*port_callback)(struct ib_device *,
 963                                          u8, struct kobject *))
 964 {
 965         struct ib_port *p;
 966         struct ib_port_attr attr;
 967         int i;
 968         int ret;
 969
 970         ret = ib_query_port(device, port_num, &attr);
 971         if (ret)
 972                 return ret;
 973
 974         p = kzalloc(sizeof *p, GFP_KERNEL);
 975         if (!p)
 976                 return -ENOMEM;
 977
 978         p->ibdev      = device;
 979         p->port_num   = port_num;
 980
 981         ret = kobject_init_and_add(&p->kobj, &port_type,
 982                                    device->ports_parent,
 983                                    "%d", port_num);
 984         if (ret) {
 985                 kfree(p);
 986                 return ret;
 987         }
 988
 989         p->gid_attr_group = kzalloc(sizeof(*p->gid_attr_group), GFP_KERNEL);
 990         if (!p->gid_attr_group) {
 991                 ret = -ENOMEM;
 992                 goto err_put;
 993         }
 994
 995         p->gid_attr_group->port = p;
 996         ret = kobject_init_and_add(&p->gid_attr_group->kobj, &gid_attr_type,
 997                                    &p->kobj, "gid_attrs");
 998         if (ret) {
 999                 kfree(p->gid_attr_group);
1000                 goto err_put;
1001         }
1002
1003         p->pma_table = get_counter_table(device, port_num);
1004         ret = sysfs_create_group(&p->kobj, p->pma_table);
1005         if (ret)
1006                 goto err_put_gid_attrs;
1007
1008         p->gid_group.name  = "gids";
1009         p->gid_group.attrs = alloc_group_attrs(show_port_gid, attr.gid_tbl_len);
1010         if (!p->gid_group.attrs) {
1011                 ret = -ENOMEM;
1012                 goto err_remove_pma;
1013         }
1014
1015         ret = sysfs_create_group(&p->kobj, &p->gid_group);
1016         if (ret)
1017                 goto err_free_gid;
1018
1019         p->gid_attr_group->ndev.name = "ndevs";
1020         p->gid_attr_group->ndev.attrs = alloc_group_attrs(show_port_gid_attr_ndev,
1021                                                           attr.gid_tbl_len);
1022         if (!p->gid_attr_group->ndev.attrs) {
1023                 ret = -ENOMEM;
1024                 goto err_remove_gid;
1025         }
1026
1027         ret = sysfs_create_group(&p->gid_attr_group->kobj,
1028                                  &p->gid_attr_group->ndev);
1029         if (ret)
1030                 goto err_free_gid_ndev;
1031
1032         p->gid_attr_group->type.name = "types";
1033         p->gid_attr_group->type.attrs = alloc_group_attrs(show_port_gid_attr_gid_type,
1034                                                           attr.gid_tbl_len);
1035         if (!p->gid_attr_group->type.attrs) {
1036                 ret = -ENOMEM;
1037                 goto err_remove_gid_ndev;
1038         }
1039
1040         ret = sysfs_create_group(&p->gid_attr_group->kobj,
1041                                  &p->gid_attr_group->type);
1042         if (ret)
1043                 goto err_free_gid_type;
1044
1045         p->pkey_group.name  = "pkeys";
1046         p->pkey_group.attrs = alloc_group_attrs(show_port_pkey,
1047                                                 attr.pkey_tbl_len);
1048         if (!p->pkey_group.attrs) {
1049                 ret = -ENOMEM;
1050                 goto err_remove_gid_type;
1051         }
1052
1053         ret = sysfs_create_group(&p->kobj, &p->pkey_group);
1054         if (ret)
1055                 goto err_free_pkey;
1056
1057         if (port_callback) {
1058                 ret = port_callback(device, port_num, &p->kobj);
1059                 if (ret)
1060                         goto err_remove_pkey;
1061         }
1062
1063         /*
1064          * If port == 0, it means we have only one port and the parent
1065          * device, not this port device, should be the holder of the
1066          * hw_counters
1067          */
1068         if (device->alloc_hw_stats && port_num)
1069                 setup_hw_stats(device, p, port_num);
1070
1071         list_add_tail(&p->kobj.entry, &device->port_list);
1072
1073         kobject_uevent(&p->kobj, KOBJ_ADD);
1074         return 0;
1075
1076 err_remove_pkey:
1077         sysfs_remove_group(&p->kobj, &p->pkey_group);
1078
1079 err_free_pkey:
1080         for (i = 0; i < attr.pkey_tbl_len; ++i)
1081                 kfree(p->pkey_group.attrs[i]);
1082
1083         kfree(p->pkey_group.attrs);
1084         p->pkey_group.attrs = NULL;
1085
1086 err_remove_gid_type:
1087         sysfs_remove_group(&p->gid_attr_group->kobj,
1088                            &p->gid_attr_group->type);
1089
1090 err_free_gid_type:
1091         for (i = 0; i < attr.gid_tbl_len; ++i)
1092                 kfree(p->gid_attr_group->type.attrs[i]);
1093
1094         kfree(p->gid_attr_group->type.attrs);
1095         p->gid_attr_group->type.attrs = NULL;
1096
1097 err_remove_gid_ndev:
1098         sysfs_remove_group(&p->gid_attr_group->kobj,
1099                            &p->gid_attr_group->ndev);
1100
1101 err_free_gid_ndev:
1102         for (i = 0; i < attr.gid_tbl_len; ++i)
1103                 kfree(p->gid_attr_group->ndev.attrs[i]);
1104
1105         kfree(p->gid_attr_group->ndev.attrs);
1106         p->gid_attr_group->ndev.attrs = NULL;
1107
1108 err_remove_gid:
1109         sysfs_remove_group(&p->kobj, &p->gid_group);
1110
1111 err_free_gid:
1112         for (i = 0; i < attr.gid_tbl_len; ++i)
1113                 kfree(p->gid_group.attrs[i]);
1114
1115         kfree(p->gid_group.attrs);
1116         p->gid_group.attrs = NULL;
1117
1118 err_remove_pma:
1119         sysfs_remove_group(&p->kobj, p->pma_table);
1120
1121 err_put_gid_attrs:
1122         kobject_put(&p->gid_attr_group->kobj);
1123
1124 err_put:
1125         kobject_put(&p->kobj);
1126         return ret;
1127 }
1128
1129 static ssize_t show_node_type(struct device *device,
1130                               struct device_attribute *attr, char *buf)
1131 {
1132         struct ib_device *dev = container_of(device, struct ib_device, dev);
1133
1134         switch (dev->node_type) {
1135         case RDMA_NODE_IB_CA:     return sprintf(buf, "%d: CA\n", dev->node_type);
1136         case RDMA_NODE_RNIC:      return sprintf(buf, "%d: RNIC\n", dev->node_type);
1137         case RDMA_NODE_USNIC:     return sprintf(buf, "%d: usNIC\n", dev->node_type);
1138         case RDMA_NODE_USNIC_UDP: return sprintf(buf, "%d: usNIC UDP\n", dev->node_type);
1139         case RDMA_NODE_IB_SWITCH: return sprintf(buf, "%d: switch\n", dev->node_type);
1140         case RDMA_NODE_IB_ROUTER: return sprintf(buf, "%d: router\n", dev->node_type);
1141         default:                  return sprintf(buf, "%d: <unknown>\n", dev->node_type);
1142         }
1143 }
1144
1145 static ssize_t show_sys_image_guid(struct device *device,
1146                                    struct device_attribute *dev_attr, char *buf)
1147 {
1148         struct ib_device *dev = container_of(device, struct ib_device, dev);
1149
1150         return sprintf(buf, "%04x:%04x:%04x:%04x\n",
1151                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[0]),
1152                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[1]),
1153                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[2]),
1154                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[3]));
1155 }
1156
1157 static ssize_t show_node_guid(struct device *device,
1158                               struct device_attribute *attr, char *buf)
1159 {
1160         struct ib_device *dev = container_of(device, struct ib_device, dev);
1161
1162         return sprintf(buf, "%04x:%04x:%04x:%04x\n",
1163                        be16_to_cpu(((__be16 *) &dev->node_guid)[0]),
1164                        be16_to_cpu(((__be16 *) &dev->node_guid)[1]),
1165                        be16_to_cpu(((__be16 *) &dev->node_guid)[2]),
1166                        be16_to_cpu(((__be16 *) &dev->node_guid)[3]));
1167 }
1168
1169 static ssize_t show_node_desc(struct device *device,
1170                               struct device_attribute *attr, char *buf)
1171 {
1172         struct ib_device *dev = container_of(device, struct ib_device, dev);
1173
1174         return sprintf(buf, "%.64s\n", dev->node_desc);
1175 }
1176
1177 static ssize_t set_node_desc(struct device *device,
1178                              struct device_attribute *attr,
1179                              const char *buf, size_t count)
1180 {
1181         struct ib_device *dev = container_of(device, struct ib_device, dev);
1182         struct ib_device_modify desc = {};
1183         int ret;
1184
1185         if (!dev->modify_device)
1186                 return -EIO;
1187
1188         memcpy(desc.node_desc, buf, min_t(int, count, 64));
1189         ret = ib_modify_device(dev, IB_DEVICE_MODIFY_NODE_DESC, &desc);
1190         if (ret)
1191                 return ret;
1192
1193         return count;
1194 }
1195
1196 static DEVICE_ATTR(node_type, S_IRUGO, show_node_type, NULL);
1197 static DEVICE_ATTR(sys_image_guid, S_IRUGO, show_sys_image_guid, NULL);
1198 static DEVICE_ATTR(node_guid, S_IRUGO, show_node_guid, NULL);
1199 static DEVICE_ATTR(node_desc, S_IRUGO | S_IWUSR, show_node_desc, set_node_desc);
1200
1201 static struct device_attribute *ib_class_attributes[] = {
1202         &dev_attr_node_type,
1203         &dev_attr_sys_image_guid,
1204         &dev_attr_node_guid,
1205         &dev_attr_node_desc
1206 };
1207
1208 static void free_port_list_attributes(struct ib_device *device)
1209 {
1210         struct kobject *p, *t;
1211
1212         list_for_each_entry_safe(p, t, &device->port_list, entry) {
1213                 struct ib_port *port = container_of(p, struct ib_port, kobj);
1214                 list_del(&p->entry);
1215                 if (port->hw_stats) {
1216                         kfree(port->hw_stats);
1217                         free_hsag(&port->kobj, port->hw_stats_ag);
1218                 }
1219                 sysfs_remove_group(p, port->pma_table);
1220                 sysfs_remove_group(p, &port->pkey_group);
1221                 sysfs_remove_group(p, &port->gid_group);
1222                 sysfs_remove_group(&port->gid_attr_group->kobj,
1223                                    &port->gid_attr_group->ndev);
1224                 sysfs_remove_group(&port->gid_attr_group->kobj,
1225                                    &port->gid_attr_group->type);
1226                 kobject_put(&port->gid_attr_group->kobj);
1227                 kobject_put(p);
1228         }
1229
1230         kobject_put(device->ports_parent);
1231 }
1232
1233 int ib_device_register_sysfs(struct ib_device *device,
1234                              int (*port_callback)(struct ib_device *,
1235                                                   u8, struct kobject *))
1236 {
1237         struct device *class_dev = &device->dev;
1238         int ret;
1239         int i;
1240
1241         device->dev.parent = device->dma_device;
1242         ret = dev_set_name(class_dev, "%s", device->name);
1243         if (ret)
1244                 return ret;
1245
1246         ret = device_add(class_dev);
1247         if (ret)
1248                 goto err;
1249
1250         for (i = 0; i < ARRAY_SIZE(ib_class_attributes); ++i) {
1251                 ret = device_create_file(class_dev, ib_class_attributes[i]);
1252                 if (ret)
1253                         goto err_unregister;
1254         }
1255
1256         device->ports_parent = kobject_create_and_add("ports",
1257                                                       &class_dev->kobj);
1258         if (!device->ports_parent) {
1259                 ret = -ENOMEM;
1260                 goto err_put;
1261         }
1262
1263         if (rdma_cap_ib_switch(device)) {
1264                 ret = add_port(device, 0, port_callback);
1265                 if (ret)
1266                         goto err_put;
1267         } else {
1268                 for (i = 1; i <= device->phys_port_cnt; ++i) {
1269                         ret = add_port(device, i, port_callback);
1270                         if (ret)
1271                                 goto err_put;
1272                 }
1273         }
1274
1275         if (device->alloc_hw_stats)
1276                 setup_hw_stats(device, NULL, 0);
1277
1278         return 0;
1279
1280 err_put:
1281         free_port_list_attributes(device);
1282
1283 err_unregister:
1284         device_unregister(class_dev);
1285
1286 err:
1287         return ret;
1288 }
1289
1290 void ib_device_unregister_sysfs(struct ib_device *device)
1291 {
1292         int i;
1293
1294         /* Hold kobject until ib_dealloc_device() */
1295         kobject_get(&device->dev.kobj);
1296
1297         free_port_list_attributes(device);
1298
1299         if (device->hw_stats) {
1300                 kfree(device->hw_stats);
1301                 free_hsag(&device->dev.kobj, device->hw_stats_ag);
1302         }
1303
1304         for (i = 0; i < ARRAY_SIZE(ib_class_attributes); ++i)
1305                 device_remove_file(&device->dev, ib_class_attributes[i]);
1306
1307         device_unregister(&device->dev);
1308 }